Juice

Juice Labsが提供するJuiceは、GPU-over-IPという革命的なコンピューティングパラダイムを導入します。これは、加速された計算能力が電力網を流れる電気のようにネットワーク上を流れる、新しいコンピューティング基盤を創造するために設計された高度なソフトウェアソリューションです。この技術は、組織が高価なGPUリソースを利用・管理する方法を根本的に変えます。GPUを物理ホストから切り離すことで、Juiceはオンプレミス、クラウド、ハイブリッド環境など、ネットワーク上のどこからでも、あらゆるマシンのあらゆるアプリケーションがGPUパワーを利用できるようにします。

このプラットフォームは、既存のインフラストラクチャにシームレスに統合できるように設計されています。アプリケーション、ハードウェア、または基盤となるオペレーティングシステムに変更を加える必要はありません。Juiceは、GPUリソースを仮想化し、標準のIPネットワークを介して利用可能にすることで機能します。これにより、データサイエンティストのワークステーションやCPUのみのサーバーが、要求の厳しいAIモデルを実行するために強力なリモートGPUに即座に接続し、タスク完了後すぐに解放して次のワークロードで利用できるようになります。この動的な割り当ては、GPUのアイドル状態をなくし、利用率を劇的に向上させ、高性能コンピューティングハードウェアへの投資収益率を最大化します。

Juiceの使い方

Juiceをワークフローに統合するプロセスは、簡単で中断のないように設計されています。以下は典型的なプロセスです。

1. デプロイメント： Juiceはソフトウェアのみのソリューションです。GPUをホストするマシン（GPUサーバー）と、それにアクセスする必要があるマシン（クライアントノード）にJuiceエージェントをデプロイします。これは、ベアメタル、仮想マシン、またはコンテナ内で、WindowsおよびLinux環境全体で実行できます。
2. アクセス： ユーザーは、いくつかのインターフェースを介してリモートの仮想化GPUにアクセスできます。最も一般的な方法は、コマンドラインインターフェース（CLI）を介してpip install juiceのようなコマンドを実行することです。Windows向けには使いやすいデスクトップアプリケーションも利用可能で、より深いネイティブアプリケーション統合のためのSDKも開発中です。
3. オーケストレーション： 管理者は、物理GPUを論理プールにグループ化できます。その後、アクセス ポリシーを設定して、特定のプールにアクセスできるユーザーまたはシステムを制御できます。タグを使用すると、VRAMサイズやGPUモデルなどの要件に基づいて、ワークロードを最も適切なGPUリソースにインテリジェントに一致させることができます。このオーケストレーション層全体は、Kubernetesの複雑さを必要とせずに動作しますが、共存することも可能です。
4. 実行： 接続後、通常どおりアプリケーションを実行します。Juiceは、アプリケーションからのGPU APIコール（CUDA、DirectX、OpenGLなど）をインターセプトし、ネットワーク経由でリモートGPUにルーティングします。計算はリモートGPUで行われ、結果が返されます。アプリケーションからは、ローカルにGPUが存在するように見えます。

Juiceの主な機能

• GPU-over-IP技術： 標準ネットワークを介したリモートGPUアクセスを、ほぼネイティブのパフォーマンスで実現する中核的なイノベーション。
• 動的プーリングと共有： インフラストラクチャ全体のGPUを中央集権的なプールに集約し、オンデマンドで割り当てることで、サイロ化と非効率な利用を解消します。
• GPUフラクショニング： 1つの物理GPUを複数の仮想GPUに分割し、異なるアプリケーションやユーザーが同時に使用できるようにして、効率をさらに向上させます。
• コードやハードウェアの変更不要： アプリケーションコード、ドライバ、または物理的なハードウェア設定を変更することなく、既存の環境にそのまま導入できます。
• クロスプラットフォーム＆クラウド非依存： WindowsとLinuxをサポートし、オンプレミス、任意のクラウドで実行したり、複数の環境（ハイブリッド/マルチクラウド）を橋渡ししたりできます。
• 広範なAPI互換性： CUDA APIを介して主要な機械学習フレームワーク（PyTorch、TensorFlow、ONNX）や、グラフィックスAPI（DirectX、OpenGL、Vulkan）と完全に互換性があります。
• 簡素化されたオーケストレーション： Kubernetesを必要とせずに、直感的なツールを通じてGPUフリート全体を管理し、アクセス制御を設定し、使用状況を監視します。

Juiceの使用例

Juiceは、重要なインフラストラクチャの課題を解決するために、主要な組織で採用されています。

• 学術スーパーコンピューティング： トップクラスの工科大学がスーパークラスターで動的なGPUスケジューリングとプーリングにJuiceを使用し、研究者が複雑なオーケストレーションなしでリソースを効率的に共有できるようにしています。
• クラウドサービスプロバイダー： デジタルインフラストラクチャ企業がJuiceを活用して、GPU容量を豊富な地域から不足している地域にルーティングし、効果的にグローバルで代替可能なGPUクラウドを構築しています。
• エンタープライズAI＆データサイエンス： フォーチュン100企業がデータサイエンスチームに中央のGPUプールを共有させ、自身のワークステーションやCPUサーバーから動的にAI/MLワークロードを実行できるようにしています。
• ゲーム開発＆VFX： UbisoftのようなスタジオがJuiceを使用して開発者をリモートGPUに接続し、ハイエンドのグラフィックスリソースを共有することで、大幅なコスト削減と革新的な新しい開発ワークフローを実現しています。

Juiceの利点

Juiceの主な利点は、効率の大幅な向上です。業界平均をはるかに超えるGPU利用率を達成することで、大幅なコスト削減を実現します。その柔軟性により、組織は変化するニーズに応じて計算リソースを動的に適応させることができます。CPUのみのノードを即座にGPUノードに変える能力は、加速されたコンピューティングへのアクセスを民主化します。さらに、LLaMa、BERT、YOLOなどのモデルでのベンチマークで証明されているように、その高性能で低遅延の接続は、要求の厳しいワークロードでもスムーズに実行されることを保証します。

料金プラン

Juiceは、さまざまなニーズに合わせて段階的な料金モデルを提供しています。

• Juice Free： 月額$0。個人または小規模なテストに最適です。月間最大10時間の合計GPU時間、最大3つのGPUエージェントのプーリング、最大40GBのVRAMを持つNvidia GPUのサポートが含まれます。
• Juice Pro： 月額$30。プロフェッショナルや小規模チーム向けに設計されています。月間無制限のGPU時間、最大3つのGPUエージェントのプーリング、最大40GBのVRAMを持つNvidia GPUのサポートを提供します。
• Juice Enterprise： カスタム価格。大企業向けのオーダーメイドソリューションです。無制限のGPU時間、無制限のGPUエージェント、あらゆるサイズのNvidia GPUのサポート、および専用サポートと高度な機能を提供します。