APIPark

Valyr (anciennement Helicone) est une plateforme open-source d'observabilité LLM et une passerelle IA. Elle aide les développeurs à surveiller, déboguer et analyser leurs applications IA, en fournissant une intégration unique pour accéder à plus de 100 modèles, gérer les coûts et améliorer la fiabilité avec des fonctionnalités comme la mise en cache et la limitation de débit.

Backmesh est un Backend as a Service (BaaS) open-source conçu pour les applications d'IA. Il agit comme une passerelle d'API LLM sécurisée, permettant aux développeurs d'appeler des API LLM comme OpenAI et Gemini directement depuis des applications web ou mobiles sans exposer de clés privées. Il offre des fonctionnalités telles que l'authentification JWT, la limitation de débit par utilisateur et des analyses intégrées pour gérer et surveiller efficacement l'utilisation de l'API.

Helicone est une plateforme open-source offrant une passerelle IA et une observabilité LLM pour les développeurs. Elle aide à construire des applications IA fiables en fournissant des outils pour router, surveiller, déboguer et analyser l'utilisation des LLM. Les fonctionnalités clés incluent une API unifiée pour plus de 100 modèles, une mise en cache intelligente, une limitation de débit, la gestion des prompts et des analyses de performance détaillées.

Higress.AI est une passerelle IA (AI Gateway) open-source avancée, conçue pour les développeurs et les entreprises. Elle simplifie l'intégration et la gestion des grands modèles de langage (LLM) et des agents IA en fournissant un proxy API unifié pour plus de 100 modèles. Les fonctionnalités clés incluent la conversion de REST en MCP, le cache sémantique, la limitation de débit basée sur les jetons (tokens) et un système de plugins robuste, permettant une infrastructure d'application IA sécurisée, évolutive et observable.

Latitude est une plateforme de développement open-source conçue pour construire, évaluer et déployer des applications basées sur les Grands Modèles de Langage (LLM), avec un accent particulier sur la création d'agents IA autonomes. Elle fournit une suite complète d'outils pour les développeurs afin d'expérimenter, d'affiner et de faire évoluer leurs solutions d'IA.

Forefront est une plateforme de développement pour construire avec l'IA open-source. Elle simplifie l'exécution, l'affinage et le déploiement de grands modèles de langage (LLM) sur vos données privées, offrant une alternative évolutive, sécurisée et rentable aux plateformes à code source fermé. Possédez vos données, vos modèles et votre IA.

boundaryml (BAML) est un langage de programmation et une boîte à outils spécialisés permettant aux développeurs d'extraire de manière fiable des données structurées à partir de grands modèles de langage (LLM). Il transforme l'ingénierie complexe des prompts en un processus rationalisé, semblable à du code, garantissant des sorties typées et corrigées des erreurs sur divers LLM et langages de programmation comme Python et TypeScript. Il est conçu pour améliorer la fiabilité, réduire les coûts et accélérer les cycles de développement des applications d'IA.

Sylph AI est une plateforme de développement conçue pour maximiser le potentiel des applications LLM. Elle propose AdalFlow, une bibliothèque open-source de premier plan pour construire et auto-optimiser les pipelines de tâches LLM, et un AI Teammate qui fournit des conseils d'expert tout au long du flux de travail de développement, de l'idéation à la production.

OpenLIT est une plateforme d'observabilité open-source et native OpenTelemetry pour les applications d'IA Générative et de LLM. Elle simplifie le développement avec des outils de traçage de requêtes, de suivi des coûts, de surveillance des exceptions et d'analyse des performances. Dotée d'un référentiel de prompts centralisé, d'un coffre-fort sécurisé pour les secrets et d'un terrain de jeu pour comparer les LLM, OpenLIT offre une solution complète pour surveiller et faire évoluer efficacement les applications d'IA.

ModelFusion est une boîte à outils LLM tout-en-un pour les développeurs et les chercheurs. Elle offre une suite d'outils gratuits, dont un calculateur de coûts, une bibliothèque de prompts et un comparateur de modèles pour plus de 30 modèles d'IA comme GPT-4, Claude et Gemini. Elle fournit également une API unifiée et des guides pour exécuter des modèles localement afin de rationaliser le développement de l'IA et d'optimiser les coûts.

Prompt Mixer est un puissant outil open-source pour l'ingénierie de prompts, offrant un espace de travail collaboratif pour les équipes. Il permet aux utilisateurs de créer, tester, évaluer et déployer des solutions basées sur l'IA en gérant des chaînes de prompts, en comparant différents LLM et en utilisant des métriques d'évaluation avancées.

6b est une interface web gratuite d'EleutherAI pour tester le grand modèle de langage GPT-J-6B. Les utilisateurs peuvent saisir des prompts, ajuster des paramètres comme la température et le top-p, et générer instantanément du texte. C'est un outil accessible pour les développeurs, les chercheurs et les écrivains afin d'expérimenter une puissante IA open-source de 6 milliards de paramètres sans aucune configuration, explorant ses capacités en écriture créative, en codage et en création de contenu.

Prompto est une interface gratuite, open-source et basée sur un navigateur pour interagir avec une large gamme de grands modèles de langage (LLM). Il utilise LangChain.js pour se connecter directement à des fournisseurs comme OpenAI, Anthropic et des modèles locaux via Ollama, offrant des fonctionnalités avancées telles qu'une arène de comparaison de modèles, des modèles de prompts et des discussions multi-IA, tout en priorisant la confidentialité de l'utilisateur en stockant les données localement.

Portkey AI est une passerelle IA avancée et une plateforme LLM Ops conçue pour les développeurs. Elle simplifie le développement d'applications IA fiables, évolutives et rentables en fournissant une API unifiée pour divers LLM, une observabilité en temps réel, une mise en cache sémantique et un équilibrage de charge intelligent.

Fiorino.AI est une plateforme open-source de gestion des coûts de l'IA conçue pour les entreprises SaaS. Elle vous permet de suivre l'utilisation des LLM par utilisateur, d'optimiser les coûts sur plusieurs fournisseurs d'IA et d'automatiser la facturation basée sur l'utilisation. Obtenez des informations en temps réel sur vos dépenses en IA pour maximiser la rentabilité et l'efficacité.