最好的 本地LLM AI工具

PersonaXYZ 是一款私密的、設備端人工智慧聊天工具，允許使用者建立並與自訂 AI 角色互動。它強調隱私保護，完全在您的瀏覽器中運行，不涉及雲端伺服器或資料共享。使用者可以為他們的 AI 夥伴定義獨特的個性、聲音和記憶設定，提供真正個人化和安全的對話體驗。

Vectra 是一個開源的生產級 SDK，支援 Node.js 和 Python，旨在建構、管理和查詢高級檢索增強生成（RAG）管道。它為開發上下文感知型 AI 應用程式提供了一套全面的工具，針對低延遲、高精度和可擴展性進行了最佳化。

Apprendre 是一款專為 macOS 設計的 AI 驅動的法語學習工作台。它完全在裝置上運行，確保 100% 的隱私，且無訂閱費用。該工具提供句子分析、發音、詞彙管理和 AI 生成的課程計劃等功能，採用一次性的「隨心付」模式。

Offeline是一款功能強大的隱私優先AI聊天應用程式，可在您的硬體上本地運行開源大型語言模型（LLM）。它支援瀏覽器和原生桌面使用，確保您的數據永不離開您的機器。享受離線功能、網頁搜索集成、文件分析和語音支持。

Sidian 是一款專為現代開發者設計的人工智慧程式碼編輯器。它擁有一個先進的上下文引擎，能迅速理解複雜的程式碼庫，可與 OpenAI、Google 等主流 AI 供應商整合，並支援本地模型以增強隱私和靈活性。

Privacy AI 是一款適用於 iPhone、iPad 和 Mac 的原生應用程式，可讓您完全離線運行強大的開源大型語言模型 (LLM)。它透過在您的裝置上處理所有數據來確保絕對的隱私，無需數據收集或網路連線。您可以安全地存取 LLaMA、Mistral 和 Phi3 等模型，並利用進階自訂選項獲得量身定制的 AI 體驗。

Ollama 是一個強大的開源框架，用於在您自己的硬體上本機執行 Llama 3、Mistral 和 Gemma 等大型語言模型（LLM）。它適用於 macOS、Windows 和 Linux，簡化了開源模型的設定和管理，實現了私密、離線且具成本效益的 AI 開發和使用。

RAGDrive 是一款免費、開源、無程式碼的工具，讓您可以私密地離線與您的文件聊天。它使用 RAG 技術，將您的檔案變成一個互動式知識庫，可在 Windows、Mac、iOS 和 Android 上存取。

MinimalChat 是一款廣受歡迎的開源、可自託管的 AI 聊天平台，以其輕量級、簡約的設計而聞名。它支援各種 GPT 模型、檔案上傳和語音互動，為商業服務提供了一個私密且靈活的替代方案。請注意：該專案已停止營運。

Socrates 是一款先進的 AI 文件深度分析工具。它允許使用者上傳 PDF、DOCX 等長文件，以獲得完整、準確的答案。其獨特的「深度挖掘」功能提供徹底的分析，而表格 AI 和本地 LLM 支援等功能則滿足了研究人員、法律專業人士和學生在增強資料隱私的同時尋求詳細見解的需求。

Protocraft AI 是一款功能多樣的 AI 生產力工作室，專為軟體開發、資料分析和創意任務而設計。它採用「自帶金鑰」（BYOK）模式，整合了 OpenAI、Anthropic、Google 等主流 LLM 以及本地模型。該工具提供網頁和桌面應用兩種版本，允許使用者直接與本地檔案互動、生成和編輯程式碼、創建圖像以及自動化提示，同時完全掌控自己的資料和隱私。

RecurseChat 是一款功能強大、注重隱私的 macOS AI 客戶端。它採用本機優先的設計，讓您可以離線與本機 LLM、ChatGPT 和 Claude 對話。使用 RAG 技術在您的裝置上安全地與 PDF 和文件進行互動。它具有多模態輸入、全文搜尋和廣泛的自訂功能，且無需訂閱。

Jan 是一款開源、離線優先的 AI 聊天應用程式，是 ChatGPT 的強大替代品。它允許您在自己的電腦上直接運行 Llama 3 和 Mistral 等大型語言模型 (LLM)，確保 100% 的隱私和資料控制。Jan 還提供了連接到雲端 AI 服務的靈活性，並為開發者提供了一個本地 API …

EnConvo是一款功能強大的macOS AI代理啟動器，旨在自動化任務並提高生產力。它透過類似Spotlight的介面無縫整合到您的工作流程中，提供超過150種工具、自訂工作流、上下文感知以及對本地LLM的支援，徹底改變您與Mac的互動方式。

Socrates 是一款先進的 AI 深度文件分析工具。上傳 PDF、DOCX 等檔案，即可即時獲得完整、準確的答案。其「深度解讀」（Deep Dive）、「表格AI」（Table AI）和本地LLM支援等功能，可在確保資料隱私的同時提供無與倫比的洞察力。是研究人員、專業人士以及任何需要快速理解長篇文件用戶的理想選擇。

Chorus是一款專為Mac設計的快速、輕量級桌面應用，讓您可以同時與多個前沿AI模型進行對話。它在統一的介面中整合了GPT、Claude、Gemini以及本地開源AI模型，並提供響應比較、答案合成、檔案上傳和螢幕上下文等功能，深度整合您的工作流。

FridayGPT 是一款專為 Mac 設計的 AI 協同處理工具，它將 ChatGPT、Claude 和本地 LLM 直接整合到您的工作流程中。它提供即時 AI 存取、支援超過100種語言的高階語音轉文字功能，以及語法修正、文字重寫等一鍵式操作。在 Mac 的任何地方使用 AI，無需切換上下文，從而提升您的生產力。

ncurator是一款瀏覽器擴充功能，可將您的文件、網頁和書籤轉變為個人AI知識庫。您可以用自然語言提問，直接從您自己的數據中獲得摘要式答案，並高度注重本機處理和資料隱私。

Omnibot 是一款私密的本機 AI 助理，它使用 WebGPU 技術直接在您的瀏覽器中運行大型語言模型（LLM）。它提供完全離線和安全的聊天體驗，確保您的資料永不離開您的電腦。您還可以透過自訂指令進行個人化設定，以獲得更貼切的回覆。

GrammarBot是一款注重隱私的AI語法和拼寫檢查工具，專為macOS設計。它使用本地大型語言模型（LLM）完全離線運行，確保您的文本永遠不會離開您的電腦。透過簡單的熱鍵整合，它可以在您所有的應用程式中工作。該工具提供一次性購買，終身授權，無需任何訂閱。

MindMac 是一款功能強大的原生 macOS 用戶端，為各類 AI 模型（包括 OpenAI GPT、Google Gemini、Claude 及本地 LLM）提供統一的互動介面。它透過行內模式（可在任何應用程式中使用）、豐富的提示庫和廣泛的自訂功能來提高生產力。該工具優先考慮隱私和安全，將 API 金鑰儲存在本地，並直接與 AI 供應商通訊。

LM Studio 是一款適用於 Windows、macOS 和 Linux 的桌面應用程式，可讓您在本地電腦上完全發現、下載和運行開源大型語言模型 (LLM)。它提供使用者友好的介面、與 OpenAI 相容的本地伺服器和強大的隱私功能，是開發人員、研究人員和任何尋求私密 AI 體驗的理想選擇。

Msty 是一款使用者友善的桌面應用程式，可簡化本地和線上 AI 模型的執行。它提供一鍵式設定、保障終極隱私的離線優先方法，以及分割畫面模型比較、透過知識庫實現的進階 RAG 和完全對話控制等強大功能，無需技術專長。

LM Studio 是一款使用者友善的桌面應用程式，用於在您的電腦上本機發現、下載和執行開源大型語言模型（LLM）。它提供簡單的聊天介面和本機推論伺服器，確保隱私和離線存取。

InfinipilotAI 是一款原生的 macOS AI 助理，可與任何應用程式無縫整合。它透過 AI 驅動的自動完成、寫作增強、翻譯和開發者實用工具等功能提升生產力。該工具高度注重隱私，支援透過 Ollama 使用本機語言模型，確保您的資料安全地保留在裝置上。這是一款輕量級、高效能的工具，提供一次性買斷。

LlamaChat是一款免費、開源的macOS應用程式，允許您在Mac上直接運行並與LLaMA、Alpaca和GPT4All等強大的大型語言模型聊天。它透過將所有資料保留在本地來優先保護隱私，並為離線AI互動提供無縫的本機體驗。

NeuroNemesis 是一款革命性的AI聊天機器人，可直接在您的瀏覽器中運行強大的語言模型。它透過在您的裝置上本機處理所有數據，提供無與倫比的隱私和安全性。無需將數據發送到任何地方，即可享受即時、可離線的AI輔助。

HammerAI 是一個免費、私密且無審查的AI平台，專為沉浸式角色聊天、角色扮演、故事寫作和圖像生成而設計。其獨特之處在於同時提供雲端託管模型和在您自己的裝置上本機執行LLM的能力，以實現完全的隱私保護。無需登入，確保您的資料安全並由您掌控。無限制地創造、聊天和探索。

Hackerman是一款專為AI時代設計的現代化、AI原生、高度可客製化的程式碼編輯器。其靈感源自傳奇的Emacs，深度整合本地和遠端LLM，為開發者提供無與倫比的控制權和隱私保護。功能包括混合搭配LLM模型、程式碼內shell存取和自訂函數創建，助力開發者建構真正個人化且功能強大的編碼環境。計畫於2025年發布。

CodeDefender 是一款為開發者和非開發者設計的AI助理，旨在提升程式碼品質、安全性與效能。它直接整合到 VS Code 和 Visual Studio 等主流IDE中，提供程式碼分析、文件生成、程式碼轉換和本地LLM支援等功能，確保生產力與資料隱私兼得。

Voideditor 是一款免費、開源的 AI 程式碼編輯器，基於 VS Code 分支建構。它讓開發者能夠完全控制自己的資料和 AI 模型選擇，支援直連任何雲端或本地託管的 LLM。它提供 AI 聊天、自動補全和代理工作流等進階功能，在優先保障隱私和彈性的同時加速開發進程。

VerbaGPT 是一款注重隱私的資料分析工具，讓您可以使用自然語言查詢資料。它在您的本機電腦上運行，將您的問題轉換為 Python 和 SQL 來分析資料庫和檔案，而無需將您的原始資料暴露給外部大型語言模型。它支援進階分析、資料視覺化以及多種資料來源，如 SQL、CSV 和 TXT 檔案。

DeepakNess 是一個由「網路通才」創建的個人知識中心和部落格。它提供關於人工智慧、程式化SEO、Web開發和市場行銷的深度文章、教學和專案探索。對於尋求實用、親身實踐見解的開發者、行銷人員和技術愛好者來說，這是一個寶貴的資源。

Roo Code 是一款直接整合到 VS Code 中的開源 AI 驅動開發助理。它如同一支虛擬開發團隊，能夠理解您的整個程式碼庫，以協助進行複雜的編碼、多檔案重構和智慧偵錯，同時支援多種 AI 模型。

Kerlig是一款專為macOS設計的原生AI寫作助理，旨在簡化您的溝通流程。它無縫整合到您的工作流程中，讓您可以使用超過350種AI模型撰寫郵件、校對文本、與文件聊天和生成內容。憑藉自訂操作和對隱私的重視，Kerlig將強大的AI帶到您的指尖，無需離開當前應用程式即可節省數小時工作時間。