Not Diamond

Not Diamondは、人工知能の複雑なマルチモデルの未来をナビゲートする開発者や企業向けに設計された、高度なAIインフラストラクチャプラットフォームです。これは、さまざまな大規模言語モデル（LLM）の上に位置する「メタモデル」またはインテリジェントなルーティングレイヤーとして機能します。Not Diamondの核となる使命は、チームが単一のモデルに縛られることなく、複数のAIモデルの強みを活用できるようにすることです。これにより、AI搭載アプリケーションの精度を劇的に向上させ、運用コストとレイテンシーを削減します。

このプラットフォームは、AIの未来は単一の巨大なモデルではなく、何千もの特化したモデルからなるネットワーク化されたエコシステムであるという信念に基づいて構築されています。Not Diamondは、このエコシステムを効率的に管理するための重要なインフラストラクチャを提供します。受信したリクエストを分析し、ユーザーが定義した評価データとビジネスロジックに基づいて、どのモデル（例：GPT-4o、Claude 3.5 Sonnetなど）がそのタスクに最も適しているかを予測的に決定します。このプロセスは、品質面で個々のモデルを上回り、同時に速度とコストを最適化します。

Not Diamondの使い方

Not Diamondは、既存の開発ワークフローにシームレスに統合できるように設計されています。開発者は、Python SDK、TypeScriptクライアント、または柔軟なREST APIを介してその機能にアクセスでき、事実上すべての技術スタックと互換性があります。

一般的なワークフローは次のとおりです：

1. 統合： Not Diamond SDKまたはAPIをアプリケーションに統合します。
2. ルーターのトレーニング： 独自の評価データ（入力の例と期待される出力または品質スコア）を提供します。Not Diamondはこのデータを使用して、特定のドメイン、品質定義、およびビジネス要件を理解するカスタムルーターをトレーニングします。
3. リクエストのルーティング： LLM APIを直接呼び出す代わりに、Not Diamondのエンドポイントにリクエストを送信します。
4. 推奨の受信： Not Diamondのルーターが入力を分析し、60ms未満でその特定のリクエストに使用する最適なモデルの推奨を返します。
5. クライアントサイド実行： その後、アプリケーションは推奨されたLLMのAPIに直接、クライアントサイドで呼び出しを行います。Not Diamondはプロキシではなく、ルーティングインテリジェンスのみを提供し、データとAPI呼び出しの完全な制御を保証します。

Not Diamondの主な機能

• インテリジェントなモデルルーティング： 評価データを活用して、各入力に最適なLLMを予測的に選択し、精度、コスト、レイテンシーのバランスを取り、単一のモデルを凌駕します。
• 自動プロンプト適応： あるモデル（例：GPT-4o）用に書かれたプロンプトを、他のターゲットモデル（例：Claude 3.5 Sonnet）で効果的に機能するように自動的に変換・最適化し、手動でのプロンプトエンジニアリング時間を大幅に節約します。
• 制御可能なトレードオフ： 品質しきい値を設定することで、重要度の低いタスクに対しては、出力品質を損なうことなく、より高速で安価なモデルを使用できます。
• 超高速推論： モデル選択プロセスは非常に高速で、通常50〜60ms未満しかかからず、オーバーヘッドはごくわずかです。より高速なモデルにルーティングすることで、正味の速度向上につながることもあります。
• エンタープライズ級のセキュリティ： Not DiamondはSOC-2に準拠しており、クライアントサイドのリクエスト実行、ゼロデータ保持ポリシー、大規模なセキュリティを確保するためのVPC展開のサポートなど、堅牢なセキュリティ機能を提供します。
• 開発者フレンドリーなSDK： PythonおよびTypeScript用の使いやすいクライアントと、あらゆる環境に統合できる包括的なREST APIを提供します。

Not Diamondの使用例

Not Diamondは、複数のアプリケーションやモデルにわたってAIオペレーションをスケーリングしているチームに最適です。

• カスタマーサポートの自動化： 企業は、単純で大量の顧客からの問い合わせを高速で安価なモデルにルーティングし、複雑でニュアンスのあるサポートリクエストはより強力で最先端のモデルに送ることで、コストと顧客満足度の両方を最適化できます。
• コンテンツ生成プラットフォーム： マーケティングプラットフォームは、Not Diamondを使用して、さまざまなコンテンツタイプに最適なモデルを選択できます。ブログ投稿には創造的なモデル、ソーシャルメディアの更新には簡潔なモデル、技術文書には専門的なモデルを使用します。
• データ分析と要約： さまざまなドキュメントを分析するアプリケーションは、法律契約の要約リクエストを強力な推論能力を持つモデルにルーティングし、ニュース記事の要約リクエストはより高速で汎用的なモデルにルーティングできます。

Not Diamondの利点

Not Diamondでマルチモデル戦略を採用することにより、開発チームは大きな競争上の優位性を得ることができます。

• コスト削減： 安価な代替手段で処理できるタスクに高価なモデルを過度に使用することを避けることで、LLMの運用コストを大幅に削減します。
• 精度と品質の向上： 常にタスクに最適なツールを使用し、さまざまなモデルの独自の強みを活用することで、全体的な出力品質を向上させます。
• 開発の加速： モデル選択とプロンプトエンジニアリングの複雑さを抽象化することで、開発サイクルを根本的に短縮します。
• レイテンシーの削減： 適切な場合に高速なモデルにインテリジェントにルーティングすることで、より速い応答時間を実現します。
• 将来性： 既存のアプリケーションロジックをリファクタリングすることなく、新しいモデルをシームレスに統合し、急速に進化するAIの状況に容易に適応します。

料金プラン

Not Diamondは、あらゆる規模のチームに対応する階層的な料金体系を提供しています。

• Discovery（無料）： 月間最大100,000件のAPIルーティングリクエスト、カスタムルーター1台のトレーニング機能、プロンプト適応のサポートが含まれます。個人や小規模なスタートアップチームに最適です。
• Possibility（月額100ドル＋従量課金）： Discoveryプランのすべてに加えて、無制限のAPIルーティングリクエスト（最初の10万件を超えるとリクエストごとに0.001ドル）、無制限のカスタムルーター、強化されたデータプライバシー機能が含まれます。成長中のチームやアプリケーション向けに設計されています。
• Necessity（カスタム価格）： 大企業向けのオーダーメイドプランです。Possibilityプランのすべての機能に加えて、VPC展開、専任の統合・トレーニングサポート、高度なアクセス・権限管理が含まれます。