Sanctum

O Sanctum é um aplicativo de desktop projetado para usuários que priorizam a privacidade e o controle de dados na era da inteligência artificial. Ele serve como um portal privado e local para o mundo dos Modelos de Linguagem de Grande Porte (LLMs) de código aberto. Diferente dos serviços de IA baseados em nuvem que processam seus dados em servidores remotos, o Sanctum funciona inteiramente no seu próprio dispositivo (Windows ou Mac, com suporte para Linux em breve). Essa abordagem local garante que todas as suas conversas, documentos e dados sejam criptografados e permaneçam seguros dentro do seu 'Sanctum' pessoal, nunca sendo compartilhados ou expostos à internet, a menos que você escolha.

A missão principal do Sanctum é capacitar indivíduos e desenvolvedores a aproveitar o potencial da IA sem comprometer a segurança. Ele simplifica o processo, muitas vezes complexo, de configurar e executar modelos poderosos de código aberto de hubs como o Hugging Face. Com uma interface intuitiva, os usuários podem facilmente baixar, gerenciar e interagir com uma vasta biblioteca de modelos GGUF, incluindo os populares como Llama 3, Mistral e Phi-3, diretamente no aplicativo.

Como usar o Sanctum

Começar a usar o Sanctum é projetado para ser simples e amigável:

1. Baixe e Instale: Visite o site oficial do Sanctum и baixe o aplicativo para o seu sistema operacional (Windows 10+ ou macOS para Intel/Apple Silicon).
2. Explore e Baixe Modelos: Após a instalação, navegue pela biblioteca integrada do Hugging Face. O Sanctum ajuda a verificar se o hardware do seu sistema é compatível com um modelo específico. Selecione um modelo e baixe-o diretamente para o seu dispositivo.
3. Comece a Conversar: Com um modelo baixado, você pode começar a conversar imediatamente. Como o processamento é local, não é necessária conexão com a internet após o download inicial do modelo.
4. Converse com Arquivos (RAG): Arraste e solte seus arquivos locais (PDFs, DOCX, arquivos de código, etc.) no chat. Você pode então fazer perguntas, resumir conteúdo e extrair informações de seus documentos em um ambiente completamente privado.
5. Transcreva Áudio: Use o recurso de áudio para texto baixando um modelo Whisper. Envie um arquivo de áudio (como a gravação de uma reunião ou um memorando de voz) para obter uma transcrição local e privada.
6. Para Desenvolvedores (API Local): Ative o servidor de API local para interagir com o LLM em execução de forma programática a partir de seus outros aplicativos ou projetos de desenvolvimento, tudo em sua rede local.

Recursos principais do Sanctum

• Processamento de IA Local: Executa LLMs de código aberto completos no seu dispositivo, garantindo 100% de privacidade e capacidade offline.
• Integração com o Hugging Face: Acesse, verifique a compatibilidade e baixe milhares de modelos GGUF diretamente do Hugging Face.
• Chat Privado com Documentos (RAG): Converse, resuma e faça perguntas sobre seus documentos locais, incluindo PDFs, DOCX, PPTX e vários arquivos de código, de forma segura.
• Transcrição de Áudio Local: Transcreva arquivos de áudio de forma privada no seu dispositivo usando modelos Whisper, com recursos como reprodução sincronizada em tempo real.
• Sanctum Vault: Um banco de dados local criptografado que armazena com segurança todo o seu histórico de chat. É protegido por uma senha e uma frase de recuperação de 24 palavras.
• Servidor de API Local: Alimentado por llama.cpp, permite que desenvolvedores executem um servidor local com qualquer modelo GGUF, personalizável para portas e parâmetros.
• Personalização Avançada de Modelos: Ajuste o desempenho do LLM com modelos de prompt personalizados, configurações de otimização de hardware e parâmetros de inferência.
• Suporte Multiplataforma: Disponível para Windows e macOS (Intel e Apple Silicon), com uma versão para Linux em desenvolvimento.

Casos de uso para o Sanctum

O Sanctum é ideal para qualquer tarefa que envolva informações sensíveis:

• Análise de Dados Confidenciais: Analise dados financeiros privados, registros de saúde pessoais ou documentos comerciais proprietários sem risco de vazamento de dados.
• Criação de Conteúdo Seguro: Redija e-mails sensíveis, escreva relatórios ou faça brainstorming de ideias estratégicas em um ambiente seguro.
• Desenvolvimento de Código Privado: Colabore em código, depure e obtenha assistência de programação sem expor seu código-fonte a serviços de terceiros.
• Pesquisa e Estudo: Interaja com artigos de pesquisa, livros didáticos e notas em formato PDF para resumir pontos-chave e aprofundar o entendimento.
• Análise de Reuniões e Chamadas: Transcreva e revise notas de chamadas ou gravações de reuniões para extrair itens de ação e insights de forma privada.

Vantagens do Sanctum

A principal vantagem do Sanctum é seu compromisso inabalável com a privacidade.

• Privacidade Incomparável: Com processamento e criptografia no dispositivo, seus dados nunca saem do seu computador.
• Controle Total dos Dados: Você é o dono de seus dados e conversas, armazenados com segurança no Sanctum Vault local.
• Funcionalidade Offline: Trabalhe com seu assistente de IA em qualquer lugar, a qualquer hora, sem precisar de uma conexão com a internet.
• Custo-benefício: Evite taxas de assinatura recorrentes para serviços de IA baseados em nuvem, aproveitando seu próprio hardware.
• Acesso à Inovação de Código Aberto: Mantenha-se na vanguarda da IA executando facilmente os modelos de código aberto mais recentes e melhores.
• Fácil de Usar: Remove as barreiras técnicas para executar LLMs locais, tornando-os acessíveis a um público mais amplo.

Preços e planos

O Sanctum opera em um modelo freemium, oferecendo um nível gratuito e um pago para atender a diferentes necessidades dos usuários.

• Plano Base (Gratuito): Este plano inclui todos os recursos essenciais para conversas privadas com LLMs executados localmente. É perfeito para usuários que estão começando com IA privada.
• Sanctum Pro (Pago): Este plano de assinatura desbloqueia recursos avançados para usuários avançados, como chat seguro e privado com PDF, recursos de pesquisa avançada em seu histórico de chat criptografado (Sanctum Vault) e acesso antecipado exclusivo a novos recursos e atualizações de modelos. Detalhes específicos de preços estão disponíveis no site oficial ou no aplicativo.