Not Diamond

Not Diamond es una sofisticada plataforma de infraestructura de IA diseñada para desarrolladores y empresas que navegan por el complejo futuro multimodelo de la inteligencia artificial. Funciona como un "metamodelo" o una capa de enrutamiento inteligente que se sitúa sobre varios modelos de lenguaje grandes (LLMs). La misión principal de Not Diamond es permitir a los equipos aprovechar las fortalezas de múltiples modelos de IA, en lugar de estar atados a uno solo. Al hacerlo, mejora drásticamente la precisión, reduce los costos operativos y disminuye la latencia para las aplicaciones impulsadas por IA.

La plataforma se basa en la creencia de que el futuro de la IA no es un único modelo monolítico, sino un ecosistema en red de miles de modelos especializados. Not Diamond proporciona la infraestructura crítica para gestionar este ecosistema de manera eficiente. Analiza las solicitudes entrantes y, basándose en los datos de evaluación definidos por el usuario y la lógica empresarial, determina de forma predictiva qué modelo (por ejemplo, GPT-4o, Claude 3.5 Sonnet, etc.) es el más adecuado para la tarea. Este proceso supera a cualquier modelo individual en términos de calidad, al tiempo que optimiza la velocidad y el costo.

Cómo usar Not Diamond

Not Diamond está diseñado para una integración perfecta en los flujos de trabajo de desarrollo existentes. Los desarrolladores pueden acceder a sus capacidades a través de un SDK de Python, un cliente de TypeScript o una API REST flexible, lo que lo hace compatible con prácticamente cualquier stack tecnológico.

El flujo de trabajo típico es el siguiente:

1. Integración: Integre el SDK o la API de Not Diamond en su aplicación.
2. Entrenamiento del Enrutador: Proporcione sus propios datos de evaluación (ejemplos de entradas y salidas deseadas o puntuaciones de calidad). Not Diamond utiliza estos datos para entrenar un enrutador personalizado que entiende su dominio específico, definiciones de calidad y requisitos empresariales.
3. Enrutamiento de Solicitudes: En lugar de llamar directamente a una API de LLM, envía su solicitud al endpoint de Not Diamond.
4. Recepción de Recomendaciones: El enrutador de Not Diamond analiza la entrada y, en menos de 60 ms, devuelve una recomendación del modelo óptimo a utilizar para esa solicitud específica.
5. Ejecución del Lado del Cliente: Su aplicación realiza entonces una llamada directa, del lado del cliente, a la API del LLM recomendado. Not Diamond no es un proxy; solo proporciona la inteligencia de enrutamiento, asegurando que usted mantenga el control total sobre sus datos y llamadas a la API.

Características principales de Not Diamond

• Enrutamiento Inteligente de Modelos: Aprovecha sus datos de evaluación para seleccionar predictivamente el LLM más adecuado para cada entrada, equilibrando precisión, costo y latencia para superar a cualquier modelo único.
• Adaptación Automática de Prompts: Traduce y optimiza automáticamente un prompt escrito para un modelo (p. ej., GPT-4o) para que funcione eficazmente en cualquier otro modelo objetivo (p. ej., Claude 3.5 Sonnet), ahorrando un tiempo significativo de ingeniería de prompts manual.
• Compensaciones Dirigibles: Le permite establecer umbrales de calidad, permitiendo que el sistema utilice modelos más rápidos y baratos para tareas menos críticas sin comprometer la calidad del resultado.
• Inferencia Ultrarrápida: El proceso de selección de modelos es increíblemente rápido, tardando generalmente menos de 50-60 ms, lo que significa que añade una sobrecarga insignificante e incluso puede conducir a mejoras netas de velocidad al enrutar a modelos más rápidos.
• Seguridad de Grado Empresarial: Not Diamond cumple con SOC-2 y ofrece características de seguridad robustas, incluyendo la ejecución de solicitudes del lado del cliente, una política de retención de datos cero y soporte para implementaciones en VPC para una máxima seguridad a escala.
• SDKs Amigables para Desarrolladores: Proporciona clientes fáciles de usar para Python y TypeScript, así como una API REST completa para la integración en cualquier entorno.

Casos de uso para Not Diamond

Not Diamond es ideal para equipos que están escalando sus operaciones de IA a través de múltiples aplicaciones y modelos.

• Automatización del Soporte al Cliente: Una empresa puede enrutar consultas de clientes simples y de alto volumen a un modelo rápido y económico, mientras que las solicitudes de soporte complejas y matizadas se envían a un modelo más potente y de última generación, optimizando tanto el costo como la satisfacción del cliente.
• Plataformas de Generación de Contenido: Una plataforma de marketing puede usar Not Diamond para seleccionar el mejor modelo para diferentes tipos de contenido: un modelo creativo para publicaciones de blog, un modelo conciso para actualizaciones de redes sociales y un modelo técnico para documentación.
• Análisis y Resumen de Datos: Una aplicación que analiza varios documentos puede enrutar solicitudes para resumir un contrato legal a un modelo con fuertes capacidades de razonamiento, mientras enruta una solicitud para resumir un artículo de noticias a un modelo más rápido y de propósito general.

Ventajas de Not Diamond

Al adoptar una estrategia multimodelo con Not Diamond, los equipos de desarrollo obtienen ventajas competitivas significativas:

• Reducción de Costos: Disminuya drásticamente los costos operativos de los LLM evitando el uso excesivo de modelos caros para tareas que pueden ser manejadas por alternativas más baratas.
• Mejora de la Precisión y Calidad: Logre una mayor calidad de salida general utilizando siempre la mejor herramienta para el trabajo, aprovechando las fortalezas únicas de los diferentes modelos.
• Desarrollo Acelerado: Acorte radicalmente los ciclos de desarrollo al abstraer la complejidad de la selección de modelos y la ingeniería de prompts.
• Latencia Reducida: Obtenga tiempos de respuesta más rápidos enrutando inteligentemente a modelos más rápidos cuando sea apropiado.
• A Prueba de Futuro: Adáptese fácilmente al panorama de la IA en rápida evolución integrando nuevos modelos sin refactorizar la lógica de la aplicación existente.

Precios y planes

Not Diamond ofrece una estructura de precios por niveles para adaptarse a equipos de todos los tamaños:

• Discovery (Gratis): Incluye hasta 100,000 solicitudes de enrutamiento de API mensuales, la capacidad de entrenar un enrutador personalizado y soporte para la adaptación de prompts. Ideal para individuos y equipos pequeños que comienzan.
• Possibility ($100/mes + uso): Incluye todo en el plan Discovery, más solicitudes de enrutamiento de API ilimitadas (a $0.001 por solicitud después de las primeras 100K), enrutadores personalizados ilimitados y características mejoradas de privacidad de datos. Diseñado para equipos y aplicaciones en crecimiento.
• Necessity (Precio Personalizado): Un plan a medida para grandes empresas. Incluye todas las características del plan Possibility, más implementaciones en VPC, soporte dedicado de integración y entrenamiento, y gestión avanzada de accesos y permisos.