Sanctum

Sanctum 是一款桌面應用程式，專為在人工智慧時代優先考慮資料隱私和控制權的使用者而設計。它充當了一個私密、本地化的入口，讓使用者可以進入開源大型語言模型 (LLM) 的世界。與在遠端伺服器上處理資料的雲端 AI 服務不同，Sanctum 完全在您自己的裝置（Windows 或 Mac，即將支援 Linux）上執行。這種本地優先的方法保證了您所有的對話、文件和資料都經過加密，並安全地保存在您個人的「Sanctum」中，除非您自己選擇，否則絕不會被分享或暴露於網際網路。

Sanctum 的核心使命是賦能個人和開發者，讓他們在不犧牲安全性的前提下，充分利用 AI 的潛力。它簡化了通常很複雜的設定和執行強大開源模型（如來自 Hugging Face 的模型）的過程。透過直觀的介面，使用者可以直接在應用程式內輕鬆下載、管理和互動大量的 GGUF 模型，包括像 Llama 3、Mistral 和 Phi-3 這樣的流行模型。

如何使用 Sanctum

Sanctum 的入門過程設計得非常簡單直觀：

1. 下載並安裝：造訪 Sanctum 官方網站，為您的作業系統（Windows 10+ 或適用於 Intel/Apple Silicon 的 macOS）下載應用程式。
2. 探索和下載模型：安裝後，瀏覽整合的 Hugging Face 模型庫。Sanctum 會幫助您檢查系統硬體是否與特定模型相容。選擇一個模型並直接下載到您的裝置。
3. 開始聊天：下載模型後，您可以立即開始聊天。由於處理過程在本地進行，模型下載完成後無需網路連線。
4. 與檔案聊天 (RAG)：將您的本地檔案（PDF、DOCX、程式碼檔案等）拖放到聊天視窗中。然後，您可以在完全私密的環境中提問、總結內容並從文件中提取資訊。
5. 轉錄音訊：透過下載 Whisper 模型來使用音訊轉文字功能。上傳音訊檔案（如會議錄音或語音備忘錄）即可獲得本地、私密的轉錄稿。
6. 開發者專用 (本地 API)：啟動本地 API 伺服器，以便從您的其他應用程式或開發專案中以程式設計方式與正在執行的 LLM 進行互動，所有操作都在您的本地網路上完成。

Sanctum 的核心功能

• 本地 AI 處理：在您的裝置上執行功能齊全的開源 LLM，確保 100% 的隱私和離線能力。
• Hugging Face 整合：直接從 Hugging Face 存取、檢查相容性並下載數千個 GGUF 模型。
• 私密文件聊天 (RAG)：安全地與您的本地文件（包括 PDF、DOCX、PPTX 和各種程式碼檔案）進行聊天、總結和提問。
• 本地音訊轉錄：使用 Whisper 模型在您的裝置上私密地轉錄音訊檔案，並具有即時同步播放等功能。
• Sanctum Vault：一個加密的本地資料庫，可安全儲存您的所有聊天記錄。它由密碼和 24 個單字的恢復短語保護。
• 本地 API 伺服器：由 llama.cpp 驅動，允許開發者使用任何 GGUF 模型執行本地伺服器，並可自訂連接埠和參數。
• 進階模型客製化：透過自訂提示模板、硬體優化設定和推理參數來微調 LLM 的效能。
• 跨平台支援：適用於 Windows 和 macOS（Intel 和 Apple Silicon），Linux 版本正在開發中。

Sanctum 的使用案例

Sanctum 是處理任何涉及敏感資訊的任務的理想選擇：

• 機密資料分析：分析私人財務資料、個人健康記錄或專有商業文件，無資料外洩風險。
• 安全內容創作：在安全的環境中起草敏感郵件、撰寫報告或進行策略構想。
• 私密程式碼開發：協作編寫程式碼、偵錯並獲得程式設計幫助，而無需將您的原始碼暴露給第三方服務。
• 研究與學習：與 PDF 格式的研究論文、教科書和筆記互動，以總結要點並加深理解。
• 會議與通話分析：私密地轉錄和審查通話記錄或會議錄音，以提取行動項和見解。

Sanctum 的優勢特點

Sanctum 的主要優勢在於其對隱私的堅定承諾。

• 無與倫比的隱私：透過裝置端處理和加密，您的資料永遠不會離開您的電腦。
• 完全資料控制：您擁有自己的資料和對話，它們安全地儲存在本地的 Sanctum Vault 中。
• 離線功能：隨時隨地與您的 AI 助理一起工作，無需網際網路連線。
• 成本效益高：利用您自己的硬體，避免為雲端 AI 服務支付重複的訂閱費用。
• 接觸開源創新：透過輕鬆執行最新、最強大的開源模型，保持在 AI 領域的前沿。
• 使用者友善：它消除了執行本地 LLM 的技術障礙，使更廣泛的使用者群體也能使用它們。

定價和計劃

Sanctum 採用免費增值模式，提供免費和付費兩個級別，以滿足不同使用者的需求。

• 基礎版 (免費)：此計劃包含與本地執行的 LLM 進行私密聊天所需的所有基本功能。非常適合剛開始使用私密 AI 的使用者。
• Sanctum Pro (付費)：此訂閱計劃為進階使用者解鎖了進階功能，例如安全私密的 PDF 聊天、在加密聊天記錄 (Sanctum Vault) 中進行進階搜尋的功能，以及獨家搶先體驗新功能和模型更新的權限。具體定價詳情可在官方網站或應用程式內找到。