Sanctum

Sanctumは、AIの時代においてデータプライバシーとコントロールを最優先するユーザーのために設計されたデスクトップアプリケーションです。オープンソースの大規模言語モデル（LLM）の世界への、プライベートでローカルなゲートウェイとして機能します。リモートサーバーでデータを処理するクラウドベースのAIサービスとは異なり、Sanctumは完全にユーザー自身のデバイス（WindowsまたはMac、Linuxも近日対応予定）上で動作します。このローカルファーストのアプローチにより、すべての会話、ドキュメント、データは暗号化され、個人の「Sanctum」内に安全に保管され、ユーザーが選択しない限りインターネットに共有されたり公開されたりすることはありません。

Sanctumの核となる使命は、個人や開発者がセキュリティを犠牲にすることなくAIの可能性を最大限に活用できるよう支援することです。Hugging Faceなどのハブから強力なオープンソースモデルをセットアップして実行するという、しばしば複雑なプロセスを簡素化します。直感的なインターフェースにより、ユーザーはLlama 3、Mistral、Phi-3などの人気モデルを含む膨大なGGUFモデルのライブラリを、アプリケーション内で直接簡単にダウンロード、管理、操作できます。

Sanctumの使い方

Sanctumの始め方は、簡単でユーザーフレンドリーに設計されています：

1. ダウンロードとインストール：Sanctumの公式サイトにアクセスし、お使いのオペレーティングシステム（Windows 10+またはIntel/Apple Silicon搭載macOS）用のアプリケーションをダウンロードします。
2. モデルの探索とダウンロード：インストール後、統合されたHugging Faceライブラリを閲覧します。Sanctumは、お使いのシステムのハードウェアが特定のモデルと互換性があるかどうかを確認するのに役立ちます。モデルを選択し、デバイスに直接ダウンロードします。
3. チャットを開始：モデルをダウンロードすれば、すぐにチャットを開始できます。処理はローカルで行われるため、最初のモデルダウンロード後はインターネット接続は不要です。
4. ファイルとチャット（RAG）：ローカルファイル（PDF、DOCX、コードファイルなど）をチャットウィンドウにドラッグ＆ドロップします。その後、完全にプライベートな環境で質問したり、内容を要約したり、ドキュメントから情報を抽出したりできます。
5. 音声の文字起こし：Whisperモデルをダウンロードして、音声からテキストへの変換機能を使用します。会議の録音やボイスメモなどの音声ファイルをアップロードして、ローカルでプライベートな文字起こしを取得します。
6. 開発者向け（ローカルAPI）：ローカルAPIサーバーを有効にすると、他のアプリケーションや開発プロジェクトから、実行中のLLMとプログラムで対話できます。すべての操作はローカルネットワーク上で行われます。

Sanctumの主な機能

• ローカルAI処理：デバイス上でフル機能のオープンソースLLMを実行し、100%のプライバシーとオフライン機能を保証します。
• Hugging Faceとの統合：Hugging Faceから数千のGGUFモデルに直接アクセスし、互換性を確認してダウンロードできます。
• プライベートドキュメントチャット（RAG）：PDF、DOCX、PPTX、各種コードファイルなど、ローカルのドキュメントと安全にチャットし、要約し、質問できます。
• ローカル音声文字起こし：Whisperモデルを使用して、デバイス上でプライベートに音声ファイルを文字起こしします。リアルタイム同期再生などの機能も備えています。
• Sanctum Vault：すべてのチャット履歴を安全に保存する暗号化されたローカルデータベース。パスワードと24単語の回復フレーズで保護されます。
• ローカルAPIサーバー：llama.cppを搭載し、開発者は任意のGGUFモデルでローカルサーバーを実行でき、ポートやパラメータをカスタマイズ可能です。
• 高度なモデルカスタマイズ：カスタムプロンプトテンプレート、ハードウェア最適化設定、推論パラメータでLLMのパフォーマンスを微調整できます。
• クロスプラットフォーム対応：WindowsおよびmacOS（IntelおよびApple Siliconの両方）で利用可能で、Linux版も開発中です。

Sanctumの使用例

Sanctumは、機密情報を含むあらゆるタスクに最適です：

• 機密データ分析：個人金融データ、個人の健康記録、または専有のビジネス文書をデータ漏洩のリスクなしに分析します。
• 安全なコンテンツ作成：安全な環境で機密メールを作成したり、レポートを作成したり、戦略的なアイデアをブレインストーミングしたりします。
• プライベートなコード開発：ソースコードを第三者のサービスに公開することなく、コードの共同作業、デバッグ、プログラミング支援を受けられます。
• 研究と学習：PDF形式の研究論文、教科書、メモと対話し、要点をまとめ、理解を深めます。
• 会議と通話の分析：通話メモや会議の録音をプライベートに文字起こししてレビューし、アクションアイテムや洞察を抽出します。

Sanctumの利点

Sanctumの主な利点は、プライバシーに対する揺るぎないコミットメントです。

• 比類なきプライバシー：デバイス上での処理と暗号化により、データがコンピュータから離れることはありません。
• 完全なデータコントロール：ユーザーは自身のデータと会話を所有し、それらはローカルのSanctum Vaultに安全に保存されます。
• オフライン機能：インターネット接続なしで、いつでもどこでもAIアシスタントと作業できます。
• コスト効率：自身のハードウェアを活用することで、クラウドベースのAIサービスの定期的なサブスクリプション料金を回避できます。
• オープンソースの革新へのアクセス：最新かつ最高のオープンソースモデルを簡単に実行することで、AIの最前線に立つことができます。
• ユーザーフレンドリー：ローカルLLMを実行する際の技術的な障壁を取り除き、より幅広いユーザーが利用できるようにします。

料金プラン

Sanctumはフリーミアムモデルを採用しており、さまざまなユーザーのニーズに応えるために無料と有料の両方のプランを提供しています。

• ベースプラン（無料）：このプランには、ローカルで実行されるLLMとのプライベートチャットに必要なすべての基本機能が含まれています。プライベートAIを使い始めるユーザーに最適です。
• Sanctum Pro（有料）：このサブスクリプションプランは、パワーユーザー向けに高度な機能を解放します。例えば、安全でプライベートなPDFチャット、暗号化されたチャット履歴（Sanctum Vault）内の高度な検索機能、新機能やモデル更新への独占的な早期アクセスなどが含まれます。具体的な料金詳細は、公式サイトまたはアプリケーション内で確認できます。