Best servidor de inferencia AI tools

LM Studio es una aplicación de escritorio fácil de usar para descubrir, descargar y ejecutar Modelos de Lenguaje Grandes (LLM) de código abierto localmente en tu ordenador. Ofrece una interfaz de chat simple y un servidor de inferencia local, garantizando la privacidad y el acceso sin conexión.

HyperMink ofrece Inferenceable, un servidor de inferencia de IA gratuito, de código abierto y autohospedable. Construido sobre Node.js y llama.cpp, permite a desarrolladores y empresas ejecutar grandes modelos de lenguaje localmente, garantizando total privacidad, control y rentabilidad de los datos. Tu IA, Tus Reglas.

LocalAI es una aplicación de escritorio gratuita y de código abierto que te permite ejecutar modelos de IA de forma privada y sin conexión en tu propio ordenador. Simplifica la experimentación con IA sin necesidad de una GPU, ofreciendo funciones como gestión de modelos, verificación de integridad y un servidor de inferencia local.