mancer

mancer es un servicio especializado de inferencia de Modelos de Lenguaje Grandes (LLM) que proporciona a desarrolladores y entusiastas de la IA acceso a una selección curada de LLMs de alto rendimiento a través de una API simple y potente. El servicio ejecuta estos modelos en hardware de alta gama, asegurando una generación de texto rápida y fiable para una amplia variedad de aplicaciones. A diferencia de las plataformas que empaquetan modelos con una interfaz de usuario, mancer es un servicio API-first, dando a los usuarios un control completo sobre cómo integran y utilizan las capacidades de la IA.

La plataforma se basa en un sistema flexible de créditos. Los usuarios pueden comenzar con un generoso nivel gratuito para probar el servicio y acceder a modelos capaces sin ningún costo. Para tareas más exigentes o para acceder a modelos premium y más potentes (descritos como 'más duros/mejores/más rápidos/más fuertes'), los usuarios pueden comprar paquetes de créditos. Este modelo de pago por uso ofrece una solución rentable para proyectos de todos los tamaños.

Cómo usar mancer

mancer está diseñado para uso programático y no proporciona su propia interfaz de usuario. Para usar el servicio, necesitas una aplicación que pueda interactuar con su API. El proceso es sencillo:

1. Regístrate: Crea una cuenta en el sitio web de mancer para obtener tu clave de API.
2. Elige un Modelo: Explora los modelos disponibles en la plataforma, como MythoMax, Goliath 120b o NoroMaid-20b. Cada modelo tiene especificaciones detalladas, incluyendo la longitud del contexto, el precio por token y el formato de prompt recomendado.
3. Integra la API: Utiliza la documentación de la API proporcionada para integrar mancer en tu propia aplicación. La API está diseñada para ser compatible con el estándar de la API de OpenAI, lo que significa que a menudo puedes usar mancer como un reemplazo directo simplemente cambiando la URL del endpoint de la API en tu código existente.
4. Usa un Cliente de Terceros: Para no desarrolladores o para pruebas rápidas, puedes usar aplicaciones existentes que soporten APIs de LLM personalizadas, como SillyTavern. Configurarías el cliente con tu clave de API de mancer y el endpoint del modelo deseado.

Características principales de mancer

• Selección Diversa de Modelos: Acceso a una amplia gama de LLMs, incluyendo fine-tunes populares como MythoMax y modelos masivos como Goliath 120b, cada uno con fortalezas únicas para la escritura creativa, el juego de roles y más.
• Inferencia de Alto Rendimiento: Los modelos se ejecutan en máquinas de alta gama, ofreciendo una generación de tokens de alta velocidad tanto para el procesamiento de entrada como para la generación de salida.
• API Compatible con OpenAI: Simplifica la integración para desarrolladores familiarizados con el ecosistema de OpenAI, permitiendo una fácil migración y uso con herramientas existentes.
• Sistema Basado en Créditos: Un modelo de precios transparente donde los usuarios compran créditos y los consumen según el modelo utilizado y el número de tokens procesados. Esto proporciona un control de costos claro.
• Acceso a Nivel Gratuito: Un nivel de uso gratuito que permite a los usuarios experimentar con varios modelos sin ningún compromiso financiero.
• Enfocado en el Desarrollador: El enfoque API-first da a los desarrolladores la máxima flexibilidad para construir aplicaciones personalizadas, chatbots y herramientas creativas.
• Cuentas de Empresa: Cuentas especiales para empresas con opciones como múltiples claves de API y facturación semanal automática basada en el uso.

Casos de uso para mancer

mancer es ideal para una variedad de aplicaciones, particularmente aquellas que se benefician de modelos de lenguaje especializados o sin filtrar:

• Escritura Creativa y Narración: Aprovechando modelos como MythoMax para narrativas ricas, descriptivas y sin filtrar.
• Chatbots y Compañeros Avanzados: Potenciando una IA conversacional sofisticada en aplicaciones como SillyTavern para juegos de rol y experiencias interactivas.
• Desarrollo de Aplicaciones: Sirviendo como el backend de IA para nuevas herramientas y servicios que requieren capacidades de texto generativo.
• Investigación y Experimentación: Permitiendo a investigadores y aficionados comparar fácilmente el rendimiento y la salida de diferentes LLMs para tareas específicas.

Ventajas de mancer

mancer se destaca por ofrecer una combinación única de variedad de modelos, rendimiento y flexibilidad. Los usuarios pueden acceder a modelos de nicho y altamente capaces que a menudo no están disponibles en plataformas más grandes y convencionales. El sistema de créditos de pago por uso es transparente y puede ser más rentable que los servicios basados en suscripción para cargas de trabajo variables. Su compatibilidad con la API de OpenAI reduce significativamente la barrera de entrada para los desarrolladores, convirtiéndolo en una herramienta potente y accesible para construir la próxima generación de aplicaciones de IA.

Precios y planes

mancer opera con un modelo freemium de pago por uso, utilizando créditos. Algunos modelos son de uso gratuito. Para los modelos de pago, los costos se deducen del saldo de créditos de un usuario. Los paquetes de créditos se pueden comprar según sea necesario:

• Paquete de Crédito Básico: 1,250,000 créditos por $4.99
• Paquete de Crédito Mejor: 5,500,000 créditos por $19.99
• Paquete de Crédito Óptimo: 15,000,000 créditos por $49.99
• Paquete DAME LOS TOKENS: 100,000,000 créditos por $249.99 (Oferta por tiempo limitado)

Las cuentas de empresa pueden optar por la facturación semanal automática basada en el uso en lugar de comprar paquetes. Todos los precios están en USD y no incluyen impuestos.