PostgresML

PostgresML es una extensión de código abierto transformadora que lleva las capacidades de aprendizaje automático e IA directamente a la base de datos PostgreSQL. Al incrustar modelos y algoritmos en la capa de datos, cambia fundamentalmente la forma en que se construyen las aplicaciones de IA. La filosofía central es que es más eficiente, manejable y fiable mover los modelos a los datos, en lugar de mover constantemente grandes y dinámicos conjuntos de datos a los modelos. Este enfoque elimina complejos pipelines de datos, reduce la latencia y mejora la seguridad.

PostgresML convierte su base de datos existente en una plataforma de IA con todas las funciones. Admite una amplia gama de funcionalidades, desde modelos de aprendizaje automático tradicionales como la clasificación y la regresión hasta aplicaciones de aprendizaje profundo de vanguardia que involucran Modelos de Lenguaje Grandes (LLMs) y búsqueda vectorial. Al aprovechar la potencia de las GPUs, acelera los cálculos y la inferencia de modelos, haciendo que la IA en tiempo real sea factible para sistemas de alto rendimiento.

Cómo usar PostgresML

Empezar con PostgresML está diseñado para ser sencillo, con opciones tanto para entornos en la nube como autohospedados.

1. PostgresML Cloud (Recomendado): La forma más fácil de empezar es registrándose para obtener una cuenta gratuita en la Nube de PostgresML. Esto le proporciona una base de datos PostgreSQL sin servidor y totalmente gestionada en segundos, completa con acceso a GPUs y LLMs de última generación sin ninguna sobrecarga de configuración.
2. Autohospedaje: Para los usuarios que prefieren gestionar su propia infraestructura, PostgresML puede ser autohospedado usando Docker. Puede obtener la imagen oficial y ejecutarla con un simple comando, dándole un control total sobre su entorno. El comando suele ser: docker run -it -v postgresml_data:/var/lib/postgresql -p 5433:5432 -p 8000:8000 ghcr.io/postgresml/postgresml:latest.
3. Ejecución de Consultas: Una vez configurado, interactúa con PostgresML usando SQL estándar. Puede entrenar modelos (p. ej., pgml.train()), hacer predicciones (p. ej., pgml.predict()) y ejecutar pipelines de IA complejos. Por ejemplo, generar embeddings de texto es tan simple como llamar a la función pgml.embed() en una columna de texto.
4. Uso de SDKs: Para una integración de aplicaciones sin problemas, PostgresML ofrece bibliotecas de cliente específicas como Korvus (para Python, JavaScript, Rust y C) y postgresml-django, que integran todo el pipeline RAG en una única consulta de base de datos u operación ORM.

Características principales de PostgresML

• ML/IA en la Base de Datos: Ejecute operaciones de aprendizaje automático e IA directamente dentro de PostgreSQL, eliminando la necesidad de sistemas separados y transferencias de datos.
• Aceleración por GPU: Aprovecha la potencia de la GPU para cálculos e inferencia de modelos significativamente más rápidos, crucial para aplicaciones en tiempo real.
• Modelos de Lenguaje Grandes (LLMs): Integra y utiliza LLMs de última generación de centros como Hugging Face directamente en su base de datos.
• Pipeline RAG de Extremo a Extremo: Proporciona funciones SQL integradas para todo el flujo de trabajo de Generación Aumentada por Recuperación (RAG): pgml.chunk para la división de texto, pgml.embed para generar embeddings vectoriales, pgml.rank para reordenar resultados y pgml.transform para la generación de texto.
• Búsqueda Vectorial: Se integra perfectamente con pgvector para una búsqueda de similitud de vectores de alta dimensión eficiente y escalable.
• Diversos Algoritmos de ML: Incluye más de 47 algoritmos de clasificación y regresión integrados (como XGBoost) para tareas de aprendizaje automático tradicionales.
• Alto Rendimiento y Escalabilidad: Ofrece una inferencia de 8 a 40 veces más rápida en comparación con el servicio de modelos basado en HTTP y está diseñado para soportar millones de transacciones por segundo con escalado horizontal.
• Tareas de PNL Completas: Admite una amplia gama de tareas de procesamiento de lenguaje natural, incluyendo clasificación de texto, resumen, traducción, respuesta a preguntas y generación de texto.

Casos de uso para PostgresML

PostgresML es ideal para desarrolladores y científicos de datos que construyen una nueva generación de aplicaciones impulsadas por IA.

• Búsqueda Semántica y Motores de Recomendación: Construya potentes sistemas de búsqueda que entiendan la intención del usuario utilizando embeddings vectoriales para encontrar elementos semánticamente similares.
• Chatbots y Sistemas de Preguntas y Respuestas con IA: Implemente sofisticados pipelines RAG para construir chatbots que puedan responder preguntas basadas en una base de conocimientos privada almacenada en la base de datos.
• Detección de Fraude en Tiempo Real: Entrene y despliegue modelos de clasificación directamente en la base de datos para analizar datos de transacciones en tiempo real y marcar actividades sospechosas con baja latencia.
• Análisis de Datos e Inteligencia de Negocios: Use PNL en la base de datos para resumir reseñas de clientes, clasificar tickets de soporte o extraer información de datos de texto no estructurados sin tener que moverlos fuera de Postgres.
• Generación de Contenido Personalizado: Aproveche los LLMs para generar textos de marketing personalizados, descripciones de productos o respuestas de correo electrónico basadas en los datos del usuario almacenados en la base de datos.

Ventajas de PostgresML

La principal ventaja de PostgresML es su simplicidad arquitectónica y eficiencia.

• Latencia Reducida: Al ubicar modelos y datos en el mismo lugar, elimina la sobrecarga de red, lo que conduce a un rendimiento de consulta más rápido.
• Seguridad y Privacidad Mejoradas: Los datos permanecen dentro de los confines seguros de su base de datos, simplificando el cumplimiento y reduciendo el riesgo de violaciones de datos.
• Pila de MLOps Simplificada: Consolida el almacén de datos, el servicio de modelos y la base de datos vectorial en un solo sistema, reduciendo la complejidad de la infraestructura y los costos operativos.
• Experiencia del Desarrollador: Permite a los desarrolladores usar el SQL familiar para construir y desplegar características complejas de IA, reduciendo la barrera de entrada y acelerando los ciclos de desarrollo.
• Escalabilidad: Construido sobre la base robusta y escalable de PostgreSQL, puede manejar cargas de trabajo de nivel empresarial.

Precios y planes

PostgresML opera en un modelo freemium, ofreciendo flexibilidad para diferentes necesidades.

• Autohospedaje de Código Abierto: La extensión PostgresML es de código abierto (licencia MIT) y puede ser autohospedada de forma gratuita, dándole un control total sobre su entorno.
• PostgresML Cloud: Hay disponible una plataforma en la nube gestionada y sin servidor. Incluye un generoso nivel gratuito que permite a los desarrolladores empezar rápidamente con una base de datos gratuita, acceso a GPU y LLMs preconfigurados. Hay planes de pago disponibles para aplicaciones que requieren más recursos, GPUs dedicadas y soporte de nivel empresarial.