最好的 本地LLM AI 工具

PersonaXYZ 是一款私密的、設備端人工智慧聊天工具，允許使用者建立並與自訂 AI 角色互動。它強調隱私保護，完全在您的瀏覽器中運行，不涉及雲端伺服器或資料共享。使用者可以為他們的 AI 夥伴定義獨特的個性、聲音和記憶設定，提供真正個人化和安全的對話體驗。

Vectra 是一個開源的生產級 SDK，支援 Node.js 和 Python，旨在建構、管理和查詢高級檢索增強生成（RAG）管道。它為開發上下文感知型 AI 應用程式提供了一套全面的工具，針對低延遲、高精度和可擴展性進行了最佳化。

Apprendre 是一款專為 macOS 設計的 AI 驅動的法語學習工作台。它完全在裝置上運行，確保 100% 的隱私，且無訂閱費用。該工具提供句子分析、發音、詞彙管理和 AI 生成的課程計劃等功能，採用一次性的「隨心付」模式。

Offeline是一款功能強大的隱私優先AI聊天應用程式，可在您的硬體上本地運行開源大型語言模型（LLM）。它支援瀏覽器和原生桌面使用，確保您的數據永不離開您的機器。享受離線功能、網頁搜索集成、文件分析和語音支持。

Sidian 是一款專為現代開發者設計的人工智慧程式碼編輯器。它擁有一個先進的上下文引擎，能迅速理解複雜的程式碼庫，可與 OpenAI、Google 等主流 AI 供應商整合，並支援本地模型以增強隱私和靈活性。

Privacy AI 是一款適用於 iPhone、iPad 和 Mac 的原生應用程式，可讓您完全離線運行強大的開源大型語言模型 (LLM)。它透過在您的裝置上處理所有數據來確保絕對的隱私，無需數據收集或網路連線。您可以安全地存取 LLaMA、Mistral 和 Phi3 等模型，並利用進階自訂選項獲得量身定制的 AI 體驗。

Ollama 是一個強大的開源框架，用於在您自己的硬體上本機執行 Llama 3、Mistral 和 Gemma 等大型語言模型（LLM）。它適用於 macOS、Windows 和 Linux，簡化了開源模型的設定和管理，實現了私密、離線且具成本效益的 AI 開發和使用。

RAGDrive 是一款免費、開源、無程式碼的工具，讓您可以私密地離線與您的文件聊天。它使用 RAG 技術，將您的檔案變成一個互動式知識庫，可在 Windows、Mac、iOS 和 Android 上存取。

MinimalChat 是一款廣受歡迎的開源、可自託管的 AI 聊天平台，以其輕量級、簡約的設計而聞名。它支援各種 GPT 模型、檔案上傳和語音互動，為商業服務提供了一個私密且靈活的替代方案。請注意：該專案已停止營運。

Socrates 是一款先進的 AI 文件深度分析工具。它允許使用者上傳 PDF、DOCX 等長文件，以獲得完整、準確的答案。其獨特的「深度挖掘」功能提供徹底的分析，而表格 AI 和本地 LLM 支援等功能則滿足了研究人員、法律專業人士和學生在增強資料隱私的同時尋求詳細見解的需求。

Protocraft AI 是一款功能多樣的 AI 生產力工作室，專為軟體開發、資料分析和創意任務而設計。它採用「自帶金鑰」（BYOK）模式，整合了 OpenAI、Anthropic、Google 等主流 LLM 以及本地模型。該工具提供網頁和桌面應用兩種版本，允許使用者直接與本地檔案互動、生成和編輯程式碼、創建圖像以及自動化提示，同時完全掌控自己的資料和隱私。

RecurseChat 是一款功能強大、注重隱私的 macOS AI 客戶端。它採用本機優先的設計，讓您可以離線與本機 LLM、ChatGPT 和 Claude 對話。使用 RAG 技術在您的裝置上安全地與 PDF 和文件進行互動。它具有多模態輸入、全文搜尋和廣泛的自訂功能，且無需訂閱。

Jan 是一款開源、離線優先的 AI 聊天應用程式，是 ChatGPT 的強大替代品。它允許您在自己的電腦上直接運行 Llama 3 和 Mistral 等大型語言模型 (LLM)，確保 100% 的隱私和資料控制。Jan 還提供了連接到雲端 AI 服務的靈活性，並為開發者提供了一個本地 API 伺服器。

EnConvo是一款功能強大的macOS AI代理啟動器，旨在自動化任務並提高生產力。它透過類似Spotlight的介面無縫整合到您的工作流程中，提供超過150種工具、自訂工作流、上下文感知以及對本地LLM的支援，徹底改變您與Mac的互動方式。

Socrates 是一款先進的 AI 深度文件分析工具。上傳 PDF、DOCX 等檔案，即可即時獲得完整、準確的答案。其「深度解讀」（Deep Dive）、「表格AI」（Table AI）和本地LLM支援等功能，可在確保資料隱私的同時提供無與倫比的洞察力。是研究人員、專業人士以及任何需要快速理解長篇文件用戶的理想選擇。

Chorus是一款專為Mac設計的快速、輕量級桌面應用，讓您可以同時與多個前沿AI模型進行對話。它在統一的介面中整合了GPT、Claude、Gemini以及本地開源AI模型，並提供響應比較、答案合成、檔案上傳和螢幕上下文等功能，深度整合您的工作流。

FridayGPT 是一款專為 Mac 設計的 AI 協同處理工具，它將 ChatGPT、Claude 和本地 LLM 直接整合到您的工作流程中。它提供即時 AI 存取、支援超過100種語言的高階語音轉文字功能，以及語法修正、文字重寫等一鍵式操作。在 Mac 的任何地方使用 AI，無需切換上下文，從而提升您的生產力。

ncurator是一款瀏覽器擴充功能，可將您的文件、網頁和書籤轉變為個人AI知識庫。您可以用自然語言提問，直接從您自己的數據中獲得摘要式答案，並高度注重本機處理和資料隱私。

Omnibot 是一款私密的本機 AI 助理，它使用 WebGPU 技術直接在您的瀏覽器中運行大型語言模型（LLM）。它提供完全離線和安全的聊天體驗，確保您的資料永不離開您的電腦。您還可以透過自訂指令進行個人化設定，以獲得更貼切的回覆。

GrammarBot是一款注重隱私的AI語法和拼寫檢查工具，專為macOS設計。它使用本地大型語言模型（LLM）完全離線運行，確保您的文本永遠不會離開您的電腦。透過簡單的熱鍵整合，它可以在您所有的應用程式中工作。該工具提供一次性購買，終身授權，無需任何訂閱。

MindMac 是一款功能強大的原生 macOS 用戶端，為各類 AI 模型（包括 OpenAI GPT、Google Gemini、Claude 及本地 LLM）提供統一的互動介面。它透過行內模式（可在任何應用程式中使用）、豐富的提示庫和廣泛的自訂功能來提高生產力。該工具優先考慮隱私和安全，將 API 金鑰儲存在本地，並直接與 AI 供應商通訊。

LM Studio 是一款適用於 Windows、macOS 和 Linux 的桌面應用程式，可讓您在本地電腦上完全發現、下載和運行開源大型語言模型 (LLM)。它提供使用者友好的介面、與 OpenAI 相容的本地伺服器和強大的隱私功能，是開發人員、研究人員和任何尋求私密 AI 體驗的理想選擇。

Msty 是一款使用者友善的桌面應用程式，可簡化本地和線上 AI 模型的執行。它提供一鍵式設定、保障終極隱私的離線優先方法，以及分割畫面模型比較、透過知識庫實現的進階 RAG 和完全對話控制等強大功能，無需技術專長。

LM Studio 是一款使用者友善的桌面應用程式，用於在您的電腦上本機發現、下載和執行開源大型語言模型（LLM）。它提供簡單的聊天介面和本機推論伺服器，確保隱私和離線存取。