MLflow

MLflow 是一個全面的開源平台，旨在簡化從實驗到部署和管理的整個機器學習生命週期。MLflow 由 Apache Spark 的創建者開發，並受到數千家組織的信賴，它為充滿信心地建構生產就緒的 AI 應用程式提供了一個強大的框架。它既能滿足傳統機器學習工作流程的需求，也能適應生成式 AI (GenAI) 應用程式和代理的快速發展格局。

該平台建立在一個開放的介面之上，使其能夠與任何機器學習函式庫、演算法、部署工具或語言協同工作。這種靈活性使其成為 MLOps 的中心樞紐，確保團隊在受益於標準化的生命週期管理的同時，可以保留他們偏好的工具。MLflow 圍繞四個主要元件建構：追蹤 (Tracking)、專案 (Projects)、模型 (Models) 和模型註冊表 (Model Registry)，它們共同為管理 AI 開發中的複雜性提供了一個統一的解決方案。

如何使用 MLflow

開始使用 MLflow 非常簡單，提供了本地自託管和託管雲端服務兩種選擇。

1. 安裝： 首先使用 pip 安裝 MLflow：pip install mlflow。

2. 整合： 將 MLflow 整合到您的訓練程式碼中。您可以為 PyTorch、TensorFlow 和 scikit-learn 等流行框架使用強大的一行程式碼自動日誌記錄功能（例如 mlflow.pytorch.autolog()）。這將自動擷取指標、參數、模型和其他產出物。如需更精細的控制，您可以使用手動日誌記錄 API，如 mlflow.log_param()、mlflow.log_metric() 和 mlflow.log_artifact()。

3. 運行實驗： 執行您的訓練腳本。MLflow 會自動將所有指定資訊記錄到本地目錄 (mlruns) 或遠端追蹤伺服器。

4. 視覺化結果： 在終端機中運行 mlflow ui 啟動 MLflow UI。這個基於 Web 的介面允許您比較不同運行的效能、視覺化指標並檢查產出物。

5. 打包和註冊模型： 確定最佳模型後，使用 MLflow 將其打包成標準格式。然後，您可以將其註冊到 MLflow 模型註冊表，以管理其版本、階段（例如，預發布、生產）和註釋。

6. 部署： 將註冊表中的版本化模型部署到各種生產環境，包括雲端平台、Kubernetes 或本地 REST 伺服器。

MLflow 的核心功能

• MLflow 追蹤 (Tracking)： 一個 API 和 UI，用於在運行機器學習程式碼時記錄參數、程式碼版本、指標和產出物。它支援對實驗結果進行詳細的比較和視覺化。
• MLflow 專案 (Projects)： 一種用於打包可重用資料科學程式碼的標準格式。每個專案都是一個包含程式碼的目錄或一個 Git 倉庫，並使用一個描述符檔案來指定其相依性以及如何運行程式碼。
• MLflow 模型 (Models)： 一種用於打包機器學習模型的標準格式，這些模型可以在各種下游工具中使用——例如，透過 REST API 進行即時服務或在 Apache Spark 上進行批次推論。
• MLflow 模型註冊表 (Model Registry)： 一個集中的模型儲存庫，用於協作管理 MLflow 模型的整個生命週期，包括模型版本控制、階段轉換（從預發布到生產）和註釋。
• GenAI 和 LLM 工具： 針對 GenAI 的專門功能，包括對 LLM 鏈和代理的端對端追蹤、提示工程管理、可觀察性和評估框架。
• 廣泛的整合： 與超過 25 種流行的框架和工具無縫整合，包括 PyTorch、TensorFlow、Keras、scikit-learn、XGBoost、LangChain、LlamaIndex、OpenAI 和 Hugging Face。

MLflow 的使用案例

MLflow 的多功能性使其適用於廣泛的 AI 應用：

• 電腦視覺： 追蹤 CNN 架構、資料增強流程以及用於影像分類和物件偵測的遷移學習實驗。
• 自然語言處理 (NLP)： 記錄大型語言模型 (LLM)、聊天機器人和文字分析的轉換器架構、分詞策略和微調實驗。
• 時間序列預測： 監控用於金融預測、需求預測和異常偵測的 LSTM、GRU 和 Transformer 模型。
• 強化學習： 在遊戲 AI 和機器人技術中追蹤代理效能、獎勵函數和策略演變。
• GenAI 應用開發： 建構、偵錯和監控複雜的基於代理的系統和 RAG（檢索增強生成）管道，並具有完全的可追溯性。
• 協作研究： 使團隊能夠共享詳細的實驗結果、模型產出物和可重現的環境，以加速研發。

MLflow 的優勢特點

MLflow 為建構 AI 系統的個人和團隊提供了顯著的優勢：

• 開源和社群驅動： 作為一個隸屬於 Linux 基金會的開源專案，它受益於一個充滿活力的社群，確保了持續的改進和廣泛的採用。
• 框架無關： 其開放式架構可防止供應商鎖定，並允許與幾乎任何機器學習工具或函式庫整合。
• 端對端管理： 它是少數幾個涵蓋從初始實驗到生產監控的整個機器學習生命週期的平台之一。
• 增強的可重現性： 透過擷取確切的程式碼、資料和環境，MLflow 確保實驗是完全可重現的，這對於科學嚴謹性和法規遵從性至關重要。
• 可擴展性和靈活性： 它可以從筆記型電腦上的單一使用者擴展到大型企業級部署，並提供自託管和託管兩種選項以適應不同需求。

定價和計劃

MLflow 本質上是一個免費的開源工具，具有靈活的部署模式：

• 自託管（開源）： 核心 MLflow 平台在 Apache 2.0 授權下可用。完全免費下載、使用和修改。使用者可以完全控制其基礎設施，並負責設定和維護。支援由社群提供。
• 託管（免費增值）： 對於希望獲得無憂體驗的使用者，該工具的原始創建者 Databricks 提供了免費且完全託管的 MLflow 版本。此選項無需設定和維護，使團隊能夠立即開始。進階企業功能和支援可透過 Databricks 的商業計劃獲得。