Sanctum

Sanctum es una aplicación de escritorio diseñada para usuarios que priorizan la privacidad y el control de los datos en la era de la inteligencia artificial. Sirve como una puerta de enlace privada y local al mundo de los Modelos de Lenguaje Grandes (LLM) de código abierto. A diferencia de los servicios de IA basados en la nube que procesan tus datos en servidores remotos, Sanctum se ejecuta por completo en tu propio dispositivo (Windows o Mac, con soporte para Linux próximamente). Este enfoque local garantiza que todas tus conversaciones, documentos y datos estén encriptados y permanezcan seguros dentro de tu 'Sanctum' personal, sin ser compartidos ni expuestos a Internet a menos que tú lo elijas.

La misión principal de Sanctum es capacitar a individuos y desarrolladores para que aprovechen el potencial de la IA sin comprometer la seguridad. Simplifica el proceso, a menudo complejo, de configurar y ejecutar potentes modelos de código abierto de centros como Hugging Face. Con una interfaz intuitiva, los usuarios pueden descargar, gestionar e interactuar fácilmente con una vasta biblioteca de modelos GGUF, incluidos los populares como Llama 3, Mistral y Phi-3, directamente desde la aplicación.

Cómo usar Sanctum

Empezar a usar Sanctum está diseñado para ser sencillo y fácil de usar:

1. Descargar e Instalar: Visita el sitio web oficial de Sanctum y descarga la aplicación para tu sistema operativo (Windows 10+ o macOS para Intel/Apple Silicon).
2. Explorar y Descargar Modelos: Una vez instalado, navega por la biblioteca integrada de Hugging Face. Sanctum te ayuda a comprobar si el hardware de tu sistema es compatible con un modelo específico. Selecciona un modelo y descárgalo directamente en tu dispositivo.
3. Comenzar a Chatear: Con un modelo descargado, puedes empezar a chatear de inmediato. Como el procesamiento es local, no se necesita conexión a Internet después de la descarga inicial del modelo.
4. Chatear con Archivos (RAG): Arrastra y suelta tus archivos locales (PDF, DOCX, archivos de código, etc.) en el chat. Luego puedes hacer preguntas, resumir contenido y extraer información de tus documentos en un entorno completamente privado.
5. Transcribir Audio: Utiliza la función de audio a texto descargando un modelo Whisper. Sube un archivo de audio (como la grabación de una reunión o una nota de voz) para obtener una transcripción local y privada.
6. Para Desarrolladores (API Local): Activa el servidor de API local para interactuar con el LLM en ejecución de forma programática desde tus otras aplicaciones o proyectos de desarrollo, todo en tu red local.

Características principales de Sanctum

• Procesamiento de IA Local: Ejecuta LLMs de código abierto con todas sus funciones en tu dispositivo, garantizando un 100% de privacidad y capacidad sin conexión.
• Integración con Hugging Face: Accede, comprueba la compatibilidad y descarga miles de modelos GGUF directamente desde Hugging Face.
• Chat Privado con Documentos (RAG): Chatea, resume y haz preguntas de forma segura sobre tus documentos locales, incluidos PDF, DOCX, PPTX y diversos archivos de código.
• Transcripción de Audio Local: Transcribe archivos de audio de forma privada en tu dispositivo utilizando modelos Whisper, con funciones como la reproducción sincronizada en tiempo real.
• Sanctum Vault: Una base de datos local cifrada que almacena de forma segura todo tu historial de chat. Está protegida por una contraseña y una frase de recuperación de 24 palabras.
• Servidor de API Local: Impulsado por llama.cpp, permite a los desarrolladores ejecutar un servidor local con cualquier modelo GGUF, personalizable en puertos y parámetros.
• Personalización Avanzada de Modelos: Ajusta el rendimiento del LLM con plantillas de prompt personalizadas, ajustes de optimización de hardware y parámetros de inferencia.
• Soporte Multiplataforma: Disponible para Windows y macOS (tanto Intel como Apple Silicon), con una versión para Linux en desarrollo.

Casos de uso para Sanctum

Sanctum es ideal para cualquier tarea que implique información sensible:

• Análisis de Datos Confidenciales: Analiza datos financieros privados, historiales médicos personales o documentos empresariales confidenciales sin riesgo de fugas de datos.
• Creación de Contenido Seguro: Redacta correos electrónicos sensibles, escribe informes o genera ideas estratégicas en un entorno seguro.
• Desarrollo de Código Privado: Colabora en código, depura y obtén ayuda de programación sin exponer tu código fuente a servicios de terceros.
• Investigación y Estudio: Interactúa con artículos de investigación, libros de texto y notas en formato PDF para resumir puntos clave y profundizar la comprensión.
• Análisis de Reuniones y Llamadas: Transcribe y revisa notas de llamadas o grabaciones de reuniones para extraer elementos de acción e ideas de forma privada.

Ventajas de Sanctum

La principal ventaja de Sanctum es su compromiso inquebrantable con la privacidad.

• Privacidad Inigualable: Con el procesamiento y el cifrado en el dispositivo, tus datos nunca salen de tu ordenador.
• Control Total de los Datos: Eres el dueño de tus datos y conversaciones, almacenados de forma segura en el Sanctum Vault local.
• Funcionalidad sin Conexión: Trabaja con tu asistente de IA en cualquier lugar y en cualquier momento, sin necesidad de una conexión a Internet.
• Rentable: Evita las tarifas de suscripción recurrentes de los servicios de IA en la nube aprovechando tu propio hardware.
• Acceso a la Innovación de Código Abierto: Mantente a la vanguardia de la IA ejecutando fácilmente los modelos de código abierto más recientes y potentes.
• Fácil de Usar: Elimina las barreras técnicas para ejecutar LLMs locales, haciéndolos accesibles a un público más amplio.

Precios y planes

Sanctum opera con un modelo freemium, ofreciendo un nivel gratuito y otro de pago para satisfacer las diferentes necesidades de los usuarios.

• Plan Básico (Gratuito): Este plan incluye todas las funciones esenciales para chatear de forma privada con LLMs ejecutados localmente. Es perfecto para usuarios que se inician en la IA privada.
• Sanctum Pro (De pago): Este plan de suscripción desbloquea funciones avanzadas para usuarios avanzados, como el chat seguro y privado con PDF, capacidades de búsqueda avanzada dentro de tu historial de chat cifrado (Sanctum Vault) y acceso anticipado exclusivo a nuevas funciones y actualizaciones de modelos. Los detalles específicos de los precios están disponibles en el sitio web oficial o dentro de la aplicación.