Sanctum

Sanctum 是一款桌面应用程序，专为在人工智能时代优先考虑数据隐私和控制权的用户而设计。它充当了一个私密、本地化的门户，让用户可以进入开源大型语言模型 (LLM) 的世界。与在远程服务器上处理数据的云端 AI 服务不同，Sanctum 完全在您自己的设备（Windows 或 Mac，即将支持 Linux）上运行。这种本地优先的方法保证了您所有的对话、文档和数据都经过加密，并安全地保存在您个人的“Sanctum”中，除非您自己选择，否则绝不会被共享或暴露于互联网。

Sanctum 的核心使命是赋能个人和开发者，让他们在不牺牲安全性的前提下，充分利用 AI 的潜力。它简化了通常很复杂的设置和运行强大开源模型（如来自 Hugging Face 的模型）的过程。通过直观的界面，用户可以直接在应用程序内轻松下载、管理和交互大量的 GGUF 模型，包括像 Llama 3、Mistral 和 Phi-3 这样的流行模型。

如何使用 Sanctum

Sanctum 的入门过程设计得非常简单直观：

1. 下载并安装：访问 Sanctum 官方网站，为您的操作系统（Windows 10+ 或适用于 Intel/Apple Silicon 的 macOS）下载应用程序。
2. 探索和下载模型：安装后，浏览集成的 Hugging Face 模型库。Sanctum 会帮助您检查系统硬件是否与特定模型兼容。选择一个模型并直接下载到您的设备。
3. 开始聊天：下载模型后，您可以立即开始聊天。由于处理过程在本地进行，模型下载完成后无需网络连接。
4. 与文件聊天 (RAG)：将您的本地文件（PDF、DOCX、代码文件等）拖放到聊天窗口中。然后，您可以在完全私密的环境中提问、总结内容并从文档中提取信息。
5. 转录音频：通过下载 Whisper 模型来使用音频转文本功能。上传音频文件（如会议录音或语音备忘录）即可获得本地、私密的转录稿。
6. 开发者专用 (本地 API)：激活本地 API 服务器，以便从您的其他应用程序或开发项目中以编程方式与正在运行的 LLM 进行交互，所有操作都在您的本地网络上完成。

Sanctum 的核心功能

• 本地 AI 处理：在您的设备上运行功能齐全的开源 LLM，确保 100% 的隐私和离线能力。
• Hugging Face 集成：直接从 Hugging Face 访问、检查兼容性并下载数千个 GGUF 模型。
• 私密文档聊天 (RAG)：安全地与您的本地文档（包括 PDF、DOCX、PPTX 和各种代码文件）进行聊天、总结和提问。
• 本地音频转录：使用 Whisper 模型在您的设备上私密地转录音频文件，并具有实时同步播放等功能。
• Sanctum Vault：一个加密的本地数据库，可安全存储您的所有聊天记录。它由密码和 24 个单词的恢复短语保护。
• 本地 API 服务器：由 llama.cpp 驱动，允许开发者使用任何 GGUF 模型运行本地服务器，并可自定义端口和参数。
• 高级模型定制：通过自定义提示模板、硬件优化设置和推理参数来微调 LLM 的性能。
• 跨平台支持：适用于 Windows 和 macOS（Intel 和 Apple Silicon），Linux 版本正在开发中。

Sanctum 的使用案例

Sanctum 是处理任何涉及敏感信息的任务的理想选择：

• 机密数据分析：分析私人财务数据、个人健康记录或专有商业文档，无数据泄露风险。
• 安全内容创作：在安全的环境中起草敏感邮件、撰写报告或进行战略构想。
• 私密代码开发：协作编写代码、调试并获得编程帮助，而无需将您的源代码暴露给第三方服务。
• 研究与学习：与 PDF 格式的研究论文、教科书和笔记互动，以总结要点并加深理解。
• 会议与通话分析：私密地转录和审查通话记录或会议录音，以提取行动项和见解。

Sanctum 的优势特点

Sanctum 的主要优势在于其对隐私的坚定承诺。

• 无与伦比的隐私：通过设备端处理和加密，您的数据永远不会离开您的计算机。
• 完全数据控制：您拥有自己的数据和对话，它们安全地存储在本地的 Sanctum Vault 中。
• 离线功能：随时随地与您的 AI 助手一起工作，无需互联网连接。
• 成本效益高：利用您自己的硬件，避免为云端 AI 服务支付重复的订阅费用。
• 接触开源创新：通过轻松运行最新、最强大的开源模型，保持在 AI 领域的前沿。
• 用户友好：它消除了运行本地 LLM 的技术障碍，使更广泛的用户群体也能使用它们。

定价和计划

Sanctum 采用免费增值模式，提供免费和付费两个级别，以满足不同用户的需求。

• 基础版 (免费)：此计划包含与本地运行的 LLM 进行私密聊天所需的所有基本功能。非常适合刚开始使用私密 AI 的用户。
• Sanctum Pro (付费)：此订阅计划为高级用户解锁了高级功能，例如安全私密的 PDF 聊天、在加密聊天记录 (Sanctum Vault) 中进行高级搜索的功能，以及独家抢先体验新功能和模型更新的权限。具体定价详情可在官方网站或应用程序内找到。