BlickState

Agentaは、チームが信頼性の高いLLMアプリケーションを構築するために設計されたオープンソースのLLMOpsプラットフォームです。プロンプト管理、体系的な評価、可観測性を単一の共同ワークフローに統合し、開発者、プロダクトマネージャー、ドメイン専門家が散在したプロセスから構造化された開発へと移行するのを支援します。

Unifyは、AIアプリケーションの構築、監視、最適化を簡素化するために設計された、開発者中心のLLMOpsプラットフォームです。ロギング、評価、トレース、AIエージェント管理のためのユニバーサルAPIとハッキング可能なフレームワークを提供し、開発者がカスタムワークフローとインターフェースを容易に作成できるようにします。

Heliconeは、開発者向けのオープンソースプラットフォームで、AIゲートウェイとLLMオブザーバビリティを提供します。LLMの使用状況をルーティング、監視、デバッグ、分析するツールを提供し、信頼性の高いAIアプリケーションの構築を支援します。主な機能には、100以上のモデルに対応した統一API、インテリジェントなキャッシュ、レート制限、プロンプト管理、詳細なパフォーマンス分析が含まれます。

Composioは、AIエージェントのための「スキルレイヤー」として機能する開発者プラットフォームです。開発者がAIエージェントを10,000以上のツールやAPIにシームレスに接続し、認証、実行、スケーリングといった複雑なタスクを処理できるようにします。これにより、開発者は統合の面倒な作業ではなくエージェントのロジックに集中でき、強力で行動指向のAIアプリケーションをはるかに迅速に構築できます。

Flutchは、AIエージェントのカスタム開発、デプロイ、管理のための包括的なプラットフォームであり、可観測性、品質管理、コスト管理に重点を置いています。開発者が信頼性の高いAIワークフローを構築し、エージェントを厳密にテストし、リアルタイムでパフォーマンスを監視し、既存のシステムにシームレスに統合することで、AIソリューションを自信を持ってリリースし、効率的に運用できるようにします。

Planoは、エージェント型AIアプリケーション向けのモデルネイティブ配信インフラストラクチャであり、エージェントルーティング、オーケストレーション、リッチなエージェントトレース、ガードレールフックなどの重要な配管作業をオフロードします。これにより、AIエージェントの開発と本番環境への信頼性の高いデプロイメントが加速され、開発者はコア製品ロジックに集中できます。速度と信頼性を追求して設計されたPlanoは、複雑なAIインフラストラクチャの課題を簡素化します。

MetoroはKubernetes向けに設計されたAI搭載のオブザーバビリティプラットフォームです。eBPF技術を利用してゼロインストルメンテーションのモニタリングを実現し、問題の自律的な検出、根本原因分析、プルリクエストによるコード修正の自動化を可能にします。1分未満で運用開始でき、従来の監視ツールに代わる包括的でコスト効率の高い選択肢を提供します。

Ollamaは、Llama 3、Mistral、Gemmaなどの大規模言語モデル（LLM）を自身のハードウェア上でローカルに実行するための強力なオープンソースフレームワークです。macOS、Windows、Linuxで利用可能で、オープンソースモデルのセットアップと管理を簡素化し、プライベートでオフライン、かつコスト効率の高いAI開発と利用を実現します。

独自のインフラストラクチャ上で特化型AIエージェントを発見、デプロイ、管理するためのオープンソースの自己ホスティングプラットフォームで、完全なデータプライバシーと制御を保証します。

Splunkはエンタープライズのレジリエンスの鍵であり、セキュリティとオブザーバビリティのための統合されたAI搭載プラットフォームを提供します。これにより、組織はあらゆるソースからのデータをあらゆる規模で調査、監視、分析し、行動に移すことができます。現在Ciscoの傘下にあるSplunkは、SecOps、ITOps、エンジニアリングチームがAI時代にデジタルシステムを安全かつ信頼性の高い状態に保つことを支援します。