Sanctum

Sanctum ist eine Desktop-Anwendung für Benutzer, die im Zeitalter der künstlichen Intelligenz Wert auf Datenschutz und Datenkontrolle legen. Es dient als privates, lokales Tor zur Welt der Open-Source Large Language Models (LLMs). Im Gegensatz zu Cloud-basierten KI-Diensten, die Ihre Daten auf entfernten Servern verarbeiten, läuft Sanctum vollständig auf Ihrem eigenen Gerät (Windows oder Mac, Linux-Unterstützung in Kürze). Dieser Local-First-Ansatz garantiert, dass alle Ihre Gespräche, Dokumente und Daten verschlüsselt sind und sicher in Ihrem persönlichen „Sanctum“ bleiben und niemals geteilt oder dem Internet ausgesetzt werden, es sei denn, Sie entscheiden sich dafür.

Die Kernmission von Sanctum ist es, Einzelpersonen und Entwicklern zu ermöglichen, das Potenzial der KI zu nutzen, ohne Kompromisse bei der Sicherheit einzugehen. Es vereinfacht den oft komplexen Prozess der Einrichtung und Ausführung leistungsstarker Open-Source-Modelle von Hubs wie Hugging Face. Mit einer intuitiven Benutzeroberfläche können Benutzer eine riesige Bibliothek von GGUF-Modellen, einschließlich beliebter Modelle wie Llama 3, Mistral und Phi-3, direkt in der Anwendung einfach herunterladen, verwalten und mit ihnen interagieren.

Wie man Sanctum verwendet

Der Einstieg in Sanctum ist unkompliziert und benutzerfreundlich gestaltet:

1. Herunterladen und Installieren: Besuchen Sie die offizielle Sanctum-Website und laden Sie die Anwendung für Ihr Betriebssystem (Windows 10+ oder macOS für Intel/Apple Silicon) herunter.
2. Modelle erkunden und herunterladen: Nach der Installation durchsuchen Sie die integrierte Hugging Face-Bibliothek. Sanctum hilft Ihnen zu überprüfen, ob die Hardware Ihres Systems mit einem bestimmten Modell kompatibel ist. Wählen Sie ein Modell aus und laden Sie es direkt auf Ihr Gerät herunter.
3. Chatten beginnen: Sobald ein Modell heruntergeladen ist, können Sie sofort mit dem Chatten beginnen. Da die Verarbeitung lokal erfolgt, ist nach dem ersten Herunterladen des Modells keine Internetverbindung erforderlich.
4. Mit Dateien chatten (RAG): Ziehen Sie Ihre lokalen Dateien (PDFs, DOCX, Codedateien usw.) per Drag & Drop in den Chat. Sie können dann in einer vollständig privaten Umgebung Fragen stellen, Inhalte zusammenfassen und Informationen aus Ihren Dokumenten extrahieren.
5. Audio transkribieren: Nutzen Sie die Audio-zu-Text-Funktion, indem Sie ein Whisper-Modell herunterladen. Laden Sie eine Audiodatei (wie eine Meeting-Aufzeichnung oder ein Sprachmemo) hoch, um eine lokale, private Transkription zu erhalten.
6. Für Entwickler (Lokale API): Aktivieren Sie den lokalen API-Server, um programmatisch von Ihren anderen Anwendungen oder Entwicklungsprojekten aus mit dem laufenden LLM zu interagieren – alles in Ihrem lokalen Netzwerk.

Kernfunktionen von Sanctum

• Lokale KI-Verarbeitung: Führt voll funktionsfähige Open-Source-LLMs auf Ihrem Gerät aus und gewährleistet 100 % Privatsphäre und Offline-Fähigkeit.
• Hugging Face-Integration: Direkter Zugriff, Kompatibilitätsprüfung und Download von Tausenden von GGUF-Modellen von Hugging Face.
• Privater Dokumenten-Chat (RAG): Chatten, zusammenfassen und stellen Sie sicher Fragen zu Ihren lokalen Dokumenten, einschließlich PDFs, DOCX, PPTX und verschiedenen Codedateien.
• Lokale Audio-Transkription: Transkribieren Sie Audiodateien privat auf Ihrem Gerät mit Whisper-Modellen, mit Funktionen wie synchronisierter Echtzeit-Wiedergabe.
• Sanctum Vault: Eine verschlüsselte lokale Datenbank, die Ihren gesamten Chatverlauf sicher speichert. Sie ist durch ein Passwort und eine 24-Wort-Wiederherstellungsphrase geschützt.
• Lokaler API-Server: Angetrieben von llama.cpp, ermöglicht es Entwicklern, einen lokalen Server mit jedem GGUF-Modell zu betreiben, der für Ports und Parameter anpassbar ist.
• Erweiterte Modellanpassung: Feinabstimmung der LLM-Leistung mit benutzerdefinierten Prompt-Vorlagen, Hardware-Optimierungseinstellungen und Inferenzparametern.
• Plattformübergreifende Unterstützung: Verfügbar für Windows und macOS (sowohl Intel als auch Apple Silicon), mit einer Linux-Version in Entwicklung.

Anwendungsfälle für Sanctum

Sanctum ist ideal für jede Aufgabe, die sensible Informationen beinhaltet:

• Analyse vertraulicher Daten: Analysieren Sie private Finanzdaten, persönliche Gesundheitsakten oder proprietäre Geschäftsunterlagen ohne das Risiko von Datenlecks.
• Sichere Inhaltserstellung: Entwerfen Sie sensible E-Mails, schreiben Sie Berichte oder brainstormen Sie strategische Ideen in einer sicheren Umgebung.
• Private Code-Entwicklung: Arbeiten Sie an Code zusammen, debuggen Sie und erhalten Sie Programmierhilfe, ohne Ihren Quellcode an Drittanbieterdienste preiszugeben.
• Forschung und Studium: Interagieren Sie mit Forschungsarbeiten, Lehrbüchern und Notizen im PDF-Format, um wichtige Punkte zusammenzufassen und das Verständnis zu vertiefen.
• Analyse von Meetings und Anrufen: Transkribieren und überprüfen Sie Anrufnotizen oder Meeting-Aufzeichnungen privat, um Aktionspunkte und Erkenntnisse zu extrahieren.

Vorteile von Sanctum

Der Hauptvorteil von Sanctum ist sein unerschütterliches Engagement für den Datenschutz.

• Unübertroffene Privatsphäre: Durch die Verarbeitung und Verschlüsselung auf dem Gerät verlassen Ihre Daten niemals Ihren Computer.
• Volle Datenkontrolle: Sie besitzen Ihre Daten und Gespräche, die sicher im lokalen Sanctum Vault gespeichert sind.
• Offline-Funktionalität: Arbeiten Sie überall und jederzeit mit Ihrem KI-Assistenten, ohne eine Internetverbindung zu benötigen.
• Kosteneffizient: Vermeiden Sie wiederkehrende Abonnementgebühren für Cloud-basierte KI-Dienste, indem Sie Ihre eigene Hardware nutzen.
• Zugang zu Open-Source-Innovation: Bleiben Sie an der Spitze der KI, indem Sie einfach die neuesten und besten Open-Source-Modelle ausführen.
• Benutzerfreundlich: Es beseitigt die technischen Hürden bei der Ausführung lokaler LLMs und macht sie einem breiteren Publikum zugänglich.

Preise und Pläne

Sanctum arbeitet nach einem Freemium-Modell und bietet sowohl eine kostenlose als auch eine kostenpflichtige Stufe an, um unterschiedlichen Benutzeranforderungen gerecht zu werden.

• Basis-Plan (Kostenlos): Dieser Plan enthält alle wesentlichen Funktionen für privates Chatten mit lokal ausgeführten LLMs. Er ist perfekt für Benutzer, die mit privater KI beginnen.
• Sanctum Pro (Kostenpflichtig): Dieser Abonnementplan schaltet erweiterte Funktionen für Power-User frei, wie z. B. sicheres und privates PDF-Chatten, erweiterte Suchfunktionen in Ihrem verschlüsselten Chatverlauf (Sanctum Vault) und exklusiven frühen Zugriff auf neue Funktionen und Modell-Updates. Spezifische Preisdetails sind auf der offiziellen Website oder in der Anwendung verfügbar.