Union.ai

Union.aiは、複雑な複合AIシステムを構築、提供、拡張するための決定的なプラットフォームです。堅牢でスケーラブル、かつ効率的なオーケストレーション層を提供することで、AIモデルが本番環境で失敗するという一般的な課題に対処します。人気のオープンソースオーケストレーターであるFlyteの制作者によって構築されたUnion.aiは、データ処理と機械学習の間のギャップを埋め、チーム間の一貫性を確保し、開発ライフサイクルを完全に制御する必要があるAI/MLエンジニア向けに設計されています。このプラットフォームは、データを統合し、ワークフローを自動化し、データリネージを追跡することで、エンタープライズAIの強固な基盤を提供します。

Union.aiの使い方

Union.aiの開発者ワークフローは、スピードと本番環境への対応を念頭に置いて設計されています。

1. ワークフローの定義： Flytekit Python SDKを使用して、開発者はタスクとワークフローを純粋なPythonコードとして定義します。これには、データ処理、モデルトレーニング、評価、デプロイのステップが含まれます。
2. ローカルでの開発とデバッグ： ワークフローをローカルでテストおよびデバッグします。Union.aiは、ブラウザ内で直接VSCodeのような環境でのライブリモートデバッグを可能にするインタラクティブなタスクを提供し、開発ループを数時間から数秒に短縮します。
3. Union.aiへのデプロイ： 準備ができたら、Union.aiプラットフォームにワークフローを登録します。プラットフォームのイメージビルダーは、ローカルマシンにDockerがなくてもコンテナイメージを自動的にビルドできます。
4. 実行とスケーリング： ワークフローを手動、スケジュール、またはイベントに基づいてリアクティブにトリガーします。Union.aiは基盤となるインフラストラクチャを処理し、必要に応じてリソースをスケールアップまたはダウン（ゼロまで）して、コストを効果的に管理します。
5. 監視と観測： Union.ai UIを使用して、実行をリアルタイムで監視します。詳細なログにアクセスし、タスクごとのリソース消費（CPU、メモリ、GPU）を追跡し、プロジェクト、チーム、またはワークフローごとに割り当てられた全体的なクラウドコストを観測します。

Union.aiの主な機能

• 最適化されたパフォーマンスとスケール： 再利用可能なウォームコンテナでミリ秒単位の実行時間を実現します。リソースの可用性とコンプライアンスのために複数のクラスターやクラウドにわたってスケールし、大規模な並列処理と完全なワークフローキャッシングを備えています。
• 快適な開発者エクスペリエンス： クラウド内イメージビルダー、セルフサービスのシークレット管理、UIベースのロギング、インタラクティブなリモートデバッグ、リアクティブなワークフロー自動化などの機能により、開発をより速く、より楽しくします。
• 比類のない効率性： 分数GPU、自動回復機能付きのスポットインスタンス、カスタムシリコンを活用してコストを大幅に削減します。プラットフォームはKarpenterによる効率的なオートスケーリングと、アイドルリソースコストを排除する「スケール・トゥ・ゼロ」機能を備えています。
• エンタープライズ対応のセキュリティとガバナンス： 独自のクラウドにデプロイ（BYOCモデル）するため、データとコードがVPCから出ることはありません。詳細なロールベースのアクセス制御（RBAC）、高可用性を備え、SOC 2 Type IIに準拠しています。
• シームレスな統合： 主要なクラウド（AWS、GCP、Azure）、モデル、Ray、Spark、Daskなどのフレームワークを含む、開発者がすでに依存しているツールと連携し、ベンダーロックインを回避します。

Union.aiの使用例

Union.aiは、最も要求の厳しいAIワークロードに対して、主要企業から信頼されています。

• 自動運転： トヨタのWovenやWayveなどの企業は、Union.aiを使用して自動運転技術の開発に必要な膨大な規模のデータ処理、シミュレーション、モデルトレーニングを管理し、インフラコストを数百万ドル節約しています。
• 合成生物学： Cradleは、タンパク質設計モデルのML開発を加速し、完全な再現性とスケールで複雑なバイオインフォマティクスパイプラインをオーケストレーションしています。
• LLMおよび生成AIオペレーション（LLMOps）： 再現可能でリソースが最適化された本番環境で、LoRAやQLoRAなどの技術を使用して大規模言語モデル（LLM）をファインチューニングし、提供します。複雑なRAG（検索拡張生成）パイプラインを構築・管理します。
• コンピュータビジョン： 物体検出パイプラインやその他のコンピュータビジョンアプリケーションを構築、トレーニング、デプロイし、データ取り込みからモデル提供までのすべてのステップをオーケストレーションします。
• データおよびMLプラットフォームの統合： Porchのような企業は、Airflowなどのツールから移行し、データとMLのオペレーションを単一の統一プラットフォームに統合して、効率と一貫性を向上させています。

Union.aiの利点

• コスト最適化： リアルタイムのコスト可観測性、「スケール・トゥ・ゼロ」、スポットインスタンスの効率的な利用により、暴走するコンピューティングコストを大幅に削減します。
• 開発者ベロシティの向上： スマートキャッシング、リモートデバッグ、自動化されたイメージビルディングなどの機能により、開発者はより幸せで生産的になります。
• 本番環境レベルの信頼性： 高可用性と堅牢なエラー処理を備え、ミッションクリティカルなワークロード向けに構築されています。
• 柔軟性とロックインの回避： 既存のスタックと統合し、どのクラウドでも実行できるため、ベンダーロックインを回避できます。
• 強化されたセキュリティとコンプライアンス： 「Bring Your Own Cloud」（BYOC）モデルにより、機密データと独自のコードが自社のインフラストラクチャ内で安全に保たれます。

料金プラン

Union.aiは、さまざまなニーズに合わせて柔軟な料金モデルを提供しています。

• サーバーレス従量課金制： 個人や小規模チームに最適です。インフラ管理なしで「数秒でシップ」できる体験を提供します。新規ユーザーは30ドルの無料クレジットを利用できます。料金は消費量に基づきます：
  • CPUコア： $0.12 / コア時
  • GPU T4： $0.71 / GPU時
  • GPU A100 (40GB)： $4.48 / GPU時
  • メモリ： $0.029 / GB時
• 自社クラウド＆オンプレミス： データを自社のVPC内に保持する必要がある企業向けです。このプランには、SaaSのようなプラットフォーム料金と、Union.aiが管理するコンピューティング使用量の一定割合が含まれます。詳細な料金については営業にお問い合わせください。