APIPark

Valyr（旧Helicone）は、オープンソースのLLM可観測性プラットフォームおよびAIゲートウェイです。開発者がAIアプリケーションを監視、デバッグ、分析するのを支援し、単一の統合で100以上のモデルにアクセスし、コストを管理し、キャッシングやレート制限などの機能で信頼性を向上させます。

Backmeshは、AIアプリケーション向けに設計されたオープンソースのBaaS（Backend as a Service）です。安全なLLM APIゲートキーパーとして機能し、開発者がプライベートキーを公開することなく、ウェブやモバイルアプリから直接OpenAIやGeminiなどのLLM APIを呼び出すことを可能にします。JWT認証、ユーザーごとのレート制限、組み込みの分析機能などを提供し、API利用を効果的に管理・監視します。

Heliconeは、開発者向けのオープンソースプラットフォームで、AIゲートウェイとLLMオブザーバビリティを提供します。LLMの使用状況をルーティング、監視、デバッグ、分析するツールを提供し、信頼性の高いAIアプリケーションの構築を支援します。主な機能には、100以上のモデルに対応した統一API、インテリジェントなキャッシュ、レート制限、プロンプト管理、詳細なパフォーマンス分析が含まれます。

Higress.AIは、開発者と企業向けに設計された先進的なオープンソースAIゲートウェイです。100以上のモデルに対する統一されたAPIプロキシを提供することで、大規模言語モデル（LLM）とAIエージェントの統合と管理を簡素化します。主な機能には、RESTからMCPへの変換、セマンティックキャッシュ、トークンベースのレート制限、堅牢なプラグインシステムが含まれ、安全でスケーラブル、かつ観測可能なAIアプリケーションインフラストラクチャを実現します。

Latitudeは、大規模言語モデル（LLM）を活用したアプリケーションの構築、評価、展開のために設計されたオープンソースの開発プラットフォームであり、特に自律型AIエージェントの作成に重点を置いています。開発者がAIソリューションを実験、改良、拡張するための包括的なツール群を提供します。

Forefrontは、開発者向けのオープンソースAI構築プラットフォームです。プライベートデータ上で大規模言語モデル（LLM）の実行、ファインチューニング、デプロイを簡素化し、クローズドソースプラットフォームに代わるスケーラブルで安全、かつコスト効率の高い選択肢を提供します。あなたのデータ、モデル、AIを所有しましょう。

boundaryml (BAML)は、開発者が大規模言語モデル（LLM）から構造化データを確実に抽出するために設計された専門のプログラミング言語およびツールキットです。複雑なプロンプトエンジニアリングを合理化されたコードのようなプロセスに変換し、PythonやTypeScriptなどの様々なLLMやプログラミング言語で型安全でエラー修正された出力を保証します。信頼性を高め、コストを削減し、AIアプリケーションの開発サイクルを加速させることを目的としています。

Sylph AIは、LLMアプリケーションのポテンシャルを最大化するために設計された開発プラットフォームです。LLMタスクパイプラインを構築し自動最適化する主要なオープンソースライブラリ「AdalFlow」と、アイデア出しから本番稼働までの開発ワークフロー全体で専門的なガイダンスを提供する「AIチームメイト」を特徴としています。

OpenLITは、生成AIおよびLLMアプリケーション向けに設計された、オープンソースでOpenTelemetryネイティブの可観測性プラットフォームです。リクエスト追跡、コスト追跡、例外監視、パフォーマンス分析ツールで開発を簡素化します。一元化されたプロンプトリポジトリ、シークレット用のセキュアな保管庫、LLM比較のためのプレイグラウンドを備え、AIアプリケーションを効率的に監視・拡張するための包括的なソリューションを提供します。

ModelFusionは、開発者や研究者のためのオールインワンLLMツールキットです。GPT-4、Claude、Geminiなど30以上のAIモデルに対応したコスト計算機、プロンプトライブラリ、モデル比較ツールなどの無料ツール群を提供します。また、統一APIやローカルモデル実行ガイドにより、AI開発の効率化とコスト最適化を実現します。

Prompt Mixerは、チーム向けの共同作業ワークスペースを提供する、強力なオープンソースのプロンプトエンジニアリングツールです。ユーザーはプロンプトチェーンを管理し、異なるLLMを比較し、高度な評価指標を活用して、AI搭載ソリューションの作成、テスト、評価、展開ができます。

6bは、EleutherAIが提供するGPT-J-6B大規模言語モデルをテストするための無料のWebベースインターフェースです。ユーザーはプロンプトを入力し、温度やtop-pなどのパラメータを調整して、即座にテキストを生成できます。開発者、研究者、ライターがセットアップ不要で強力な60億パラメータのオープンソースAIを試し、創作、コーディング、コンテンツ制作の能力を探求できるアクセスしやすいツールです。

Promptoは、さまざまな大規模言語モデル（LLM）と対話するための、無料のオープンソース・ブラウザベースのインターフェースです。LangChain.jsを活用してOpenAIやAnthropicなどのプロバイダー、Ollama経由のローカルモデルに直接接続し、モデル比較アリーナ、プロンプトテンプレート、マルチAIディスカッションなどの高度な機能を提供しつつ、データをローカルに保存することでユーザーのプライバシーを最優先します。

Portkey AIは、開発者向けに設計された高度なAIゲートウェイおよびLLM Opsプラットフォームです。様々なLLMへの統一API、リアルタイムの可観測性、セマンティックキャッシング、インテリジェントな負荷分散を提供し、信頼性が高くスケーラブルでコスト効率の良いAIアプリケーションの開発を簡素化します。

Fiorino.AIは、SaaSビジネス向けに設計されたオープンソースのAIコスト管理プラットフォームです。ユーザーごとのLLM使用状況を追跡し、複数のAIプロバイダーにわたるコストを最適化し、使用量ベースの請求を自動化します。AI支出に関するリアルタイムの洞察を得て、収益性と効率を最大化します。