Together AI

Together AIは、生成AIの未来を築くために開発者や研究者向けに設計されたエンドツーエンドのプラットフォームである「AIアクセラレーションクラウド」として位置づけられています。広範なオープンソースモデルのトレーニング、ファインチューニング、実行のための包括的なツールとインフラストラクチャスイートを提供します。このプラットフォームは最先端の研究に基づいて構築されており、オープンソースコミュニティへの強いコミットメントとともに、比類のない速度、コスト効率、柔軟性を提供することを目指しています。

その中核として、Together AIは生成AIのライフサイクル全体をカバーするシームレスなサービスを提供します。ユーザーは推論APIから始め、200以上の事前トレーニング済みモデルをアプリケーションに迅速に統合し、次に独自のデータでこれらのモデルをファインチューニングして特殊なタスクに対応させたり、強力なGPUクラスタを活用して新しいカスタムモデルをゼロからトレーニングしたりできます。この統合されたアプローチにより、あらゆる規模の組織がベンダーロックインなしで洗練されたAIソリューションを革新し、展開することが可能になります。

Together AIの使い方

さまざまなニーズに合わせて、Together AIを始めるのは簡単です。

1. 推論用： 開発者はサインアップしてAPIキーを取得できます。OpenAI互換APIを使用することで、他のサービスから簡単に移行したり、新しいプロジェクトを開始したりできます。さまざまなモデル（チャット、画像、コードなど）のサーバーレスエンドポイントにAPIコールを行い、使用した分だけ支払うことができます。一貫した高スループットが必要な場合は、専用インスタンスをデプロイできます。
2. ファインチューニング用： トレーニングデータをJSONLなどの標準形式で準備します。シンプルなコマンドラインインターフェース（CLI）を使用してデータセットをアップロードします。次に、`together finetune create`コマンドを実行し、ファインチューニングしたいベースモデルとデータセットを指定します。単一のコマンドから始めることも、学習率、バッチサイズ、エポックなどのハイパーパラメータを深く制御してパフォーマンスを最適化することもできます。
3. GPUクラスタでのトレーニング用： 大規模プロジェクトの場合、専用のGPUクラスタを予約できます。これらのクラスタは、最高級のNVIDIA GPU（H100、H200、GB200など）と高速インターコネクトを備えています。SlurmやKubernetesなどの標準的なオーケストレーションツールを使用して、トレーニングワークロードを管理できます。

Together AIの主な機能

• 広範なモデルライブラリ： Llama、Mixtral、Qwen、Gemma、DeepSeekなどの主要なオープンソースファミリーを含む200以上の生成AIモデルにアクセスでき、チャット、コード生成、画像作成、音声文字起こし、埋め込みをカバーしています。
• 高性能推論エンジン： FlashAttention-3やカスタムカーネルなどの研究革新によって強化されたTogether推論エンジンは、モデル推論において業界をリードする速度とスループットを提供し、遅延を大幅に削減します。
• カスタマイズ可能なファインチューニング： オープンソースモデルをファインチューニングするためのユーザーフレンドリーなAPIとCLI。効率的なLoRA（Low-Rank Adaptation）と完全なファインチューニングの両方をサポートし、結果として得られるモデルの完全な所有権を提供します。
• 専用GPUクラスタ： 大規模なトレーニングと推論のための最先端のNVIDIA GPUクラスタへのオンデマンドアクセスを提供し、ボトルネックを解消するための高速ネットワーキングを備えています。
• OpenAI互換API： OpenAI APIのドロップイン代替品として機能し、最小限のコード変更で既存のアプリケーションをオープンソースモデルで実行するようにシームレスに移行できます。
• エンタープライズ対応のセキュリティ： プラットフォームはSOC 2およびHIPAAに準拠しており、堅牢なセキュリティと、企業の独自の仮想プライベートクラウド（VPC）内でのデプロイ機能を提供します。

Together AIの使用例

このプラットフォームは、以下を含む幅広いアプリケーションをサポートしています。

• 高度なチャットボットと仮想アシスタント： 顧客サポート、パーソナルアシスタントなどのための、応答性が高く文脈を認識する対話型AIの構築と展開。
• コード生成と開発者ツール： 強力なコードモデルをIDEに統合し、コード補完、デバッグ、プロンプトからのコードベース全体の生成を支援します。
• クリエイティブコンテンツ生成： 最先端の画像および言語モデルを使用して、高品質の画像、マーケティングコピー、その他のクリエイティブコンテンツを作成します。
• データ分析と抽出： 感情分析、ドキュメント要約、非構造化テキストからの構造化データ抽出などの特殊なデータタスクのためにモデルをファインチューニングします。
• AI研究と基礎モデルトレーニング： 研究者に新しいAIアーキテクチャのトレーニングと実験に必要な高性能コンピューティングリソースを提供します。

Together AIの利点

Together AIにはいくつかの主要な利点があります。

• 速度とパフォーマンス： トレーニングと推論の両方で優れたスループットを提供する最適化により、利用可能な最速のAIインフラストラクチャプラットフォームの1つです。
• コスト効率： オープンソースモデルと最適化されたインフラストラクチャに焦点を当てることで、独自のAIサービスよりも大幅に手頃な代替手段を提供します。
• オープン性と制御： オープンソースエコシステムを擁護し、ユーザーにモデルとデータの完全な制御権を与え、ベンダーロックインを防ぎます。
• エンドツーエンドソリューション： AI開発ライフサイクル全体に対して単一の統一されたプラットフォームを提供し、ワークフローを簡素化し、市場投入までの時間を短縮します。

料金プラン

Together AIは、使用量に応じてスケールする透明性の高い従量課金制の料金モデルを提供しています。

• 推論API： 100万トークンごと（入力と出力の両方）に課金されます。料金はモデルのサイズとファミリー（例：Llama、Qwen、DeepSeek）によって異なります。画像モデルはメガピクセルごと、音声モデルは文字ごとに請求されます。
• 専用エンドポイント： パフォーマンスを保証するために、ユーザーは時間単位で課金される専用GPUインスタンスをレンタルできます。価格はGPUタイプ（例：RTX-6000、A100、H100）によって異なります。
• ファインチューニング： トレーニング中に処理されたトークン数（データセットサイズ×エポック数）に基づいて請求されます。LoRAと完全なファインチューニングで価格が異なります。
• GPUクラスタ： NVIDIA H100、H200、Blackwell GPUを搭載した予約済みクラスタは時間単位でレンタル可能で、H100 GPUの場合は1時間あたり約1.75ドルからとなっています。
• 無料エンドポイント： いくつかのモデルは、テストや実験のために無料で使用できるエンドポイントで利用可能です。