Inferable

Inferable é uma poderosa plataforma de desenvolvedor de código aberto projetada para simplificar a criação de aplicações prontas para produção e alimentadas por LLM. Ela fornece a infraestrutura e os primitivos essenciais para construir agentes e fluxos de trabalho de IA confiáveis, distribuídos e seguros. Ao lidar com as complexidades do gerenciamento de estado, versionamento e observabilidade, o Inferable permite que os desenvolvedores se concentrem na lógica principal de suas aplicações usando linguagens de programação e ferramentas familiares.

A plataforma é construída em torno do conceito de "fluxos de trabalho duráveis", que são processos de longa duração que podem ser pausados por minutos ou até dias para aguardar a entrada humana e, em seguida, retomar de onde pararam sem problemas. Isso a torna ideal para aplicações que exigem supervisão humana ou tomada de decisão complexa. Como uma solução de código aberto e auto-hospedável, o Inferable oferece controle incomparável sobre dados, segurança e infraestrutura, permitindo que os fluxos de trabalho sejam executados em seus próprios servidores sem expor serviços internos a conexões de entrada.

Como usar Inferable

Usar o Inferable é uma experiência centrada no desenvolvedor que se integra diretamente ao seu código existente, sem exigir que você aprenda um novo framework. O processo normalmente envolve:

1. Instalação: Instale o SDK do Inferable para sua linguagem preferida (atualmente TypeScript/Node.js e Go).
2. Inicialização: Configure o SDK com suas credenciais de API para se conectar ao plano de controle do Inferable (seja a versão em nuvem gerenciada ou sua instância auto-hospedada).
3. Definição do Fluxo de Trabalho: Defina um fluxo de trabalho usando o SDK. Isso envolve nomear o fluxo de trabalho e especificar um esquema de entrada.
4. Versionamento: Crie diferentes versões da lógica do seu fluxo de trabalho. Isso permite que você evolua e melhore sua aplicação ao longo do tempo sem interromper as execuções em andamento. Por exemplo, `workflow.version(1).define(...)` e `workflow.version(2).define(...)`.
5. Implementação da Lógica: Dentro da definição de cada versão, escreva a lógica da sua aplicação. Use os primitivos de LLM do Inferable, como `ctx.llm.structured`, para obter saídas JSON estruturadas de modelos de linguagem e `ctx.workflow.pause` para etapas de intervenção humana.
6. Execução: Acione seus fluxos de trabalho por meio de uma chamada de API. O plano de controle do Inferable orquestra a execução, gerencia o estado e fornece observabilidade por meio de um console de desenvolvedor.

Recursos principais do Inferable

• Fluxos de Trabalho Duráveis e Versionados: Crie fluxos de trabalho de longa duração que são resilientes a falhas. Evolua seus fluxos de trabalho com versionamento compatível com versões anteriores, garantindo que os processos em andamento sejam concluídos usando sua lógica original.
• Intervenção Humana (Human-in-the-Loop): Projete fluxos de trabalho que podem pausar para aguardar a entrada ou aprovação humana antes de continuar, permitindo automação interativa e supervisionada.
• Saídas Estruturadas: Obtenha dados JSON estruturados de forma confiável de qualquer LLM, definindo um esquema de saída, eliminando a necessidade de engenharia de prompt e análise complexas.
• Estado Gerenciado: O Inferable lida automaticamente com todo o gerenciamento de estado para seus fluxos de trabalho duráveis, para que você não precise provisionar ou gerenciar seus próprios bancos de dados para esse fim.
• Execução Local e Segura: Execute seus fluxos de trabalho em sua própria infraestrutura. A arquitetura usa conexões apenas de saída, aumentando a segurança por não exigir que você abra portas de entrada.
• Código Aberto e Auto-Hospedável: A plataforma inteira é de código aberto, proporcionando total transparência. Você pode auto-hospedar o Inferable para ter controle completo sobre seus dados e ambiente de computação.
• Experiência Focada no Desenvolvedor: Integra-se com primitivos de programação existentes e oferece SDKs para TypeScript e Go. Inclui um console de desenvolvedor para observabilidade e depuração de ponta a ponta.

Casos de uso para Inferable

O Inferable é adequado para uma variedade de aplicações de IA complexas e de várias etapas:

• Suporte ao Cliente Automatizado: Crie agentes que lidam com as consultas iniciais dos clientes, escalam para um agente humano quando necessário (pausando o fluxo de trabalho) e, em seguida, retomam com a resolução fornecida.
• Moderação e Análise de Conteúdo: Construa um pipeline que analisa o conteúdo gerado pelo usuário, sinaliza itens potencialmente problemáticos para revisão humana e toma medidas com base na decisão do revisor.
• Processamento de Dados Complexo: Desenvolva fluxos de trabalho que buscam dados de múltiplas fontes (APIs, bancos de dados), usam um LLM para enriquecê-los ou analisá-los e, em seguida, gravam os resultados, com possíveis etapas de validação humana.
• Avaliação de Risco Financeiro: Automatize o processo de coleta de dados financeiros do cliente, realizando uma análise de risco inicial com um LLM e, em seguida, pausando para um analista financeiro aprovar ou ajustar o nível de risco.

Vantagens do Inferable

A principal vantagem do Inferable é seu foco na confiabilidade de nível de produção e no controle do desenvolvedor. Ele abstrai as partes difíceis da construção de aplicações LLM com estado, como durabilidade, novas tentativas e versionamento. As opções de código aberto e auto-hospedagem fornecem segurança máxima e privacidade de dados, o que é crítico para muitas empresas. O uso de SDKs familiares em vez de um novo framework restritivo reduz a curva de aprendizado e aumenta a produtividade do desenvolvedor.

Preços e planos

O Inferable oferece um modelo de preços transparente e baseado no consumo, com um generoso plano gratuito.

• Plano Gratuito: $0/mês. Inclui 2 fluxos de trabalho registrados, 1.000 execuções de fluxo de trabalho, traga seus próprios modelos (BYO models) e uma concorrência máxima de 2. Ideal para experimentação e pequenos projetos.
• Pague conforme o uso: $10/mês. Inclui 20 fluxos de trabalho registrados, 5.000 execuções de fluxo de trabalho incluídas (com execuções adicionais a $1 por 1.000), BYO models, uma concorrência máxima de 10 e suporte prioritário por e-mail. Adequado para projetos em crescimento.
• Empresarial: Preços anuais personalizados. Oferece implantações personalizadas em AWS, GCP ou Azure, isolamento total de dados, suporte dedicado no Slack e SLAs personalizados para máximo controle e segurança.