MLflow

MLflow là một nền tảng mã nguồn mở toàn diện được thiết kế để hợp lý hóa toàn bộ vòng đời học máy, từ thử nghiệm đến triển khai và quản lý. Được phát triển bởi những người tạo ra Apache Spark và được hàng nghìn tổ chức tin tưởng, MLflow cung cấp một khuôn khổ mạnh mẽ để xây dựng các ứng dụng AI sẵn sàng cho sản xuất một cách tự tin. Nó phục vụ cho cả quy trình làm việc học máy truyền thống và bối cảnh phát triển nhanh chóng của các ứng dụng và tác nhân Trí tuệ nhân tạo Tạo sinh (GenAI).

Nền tảng này được xây dựng trên một giao diện mở, cho phép nó hoạt động với bất kỳ thư viện ML, thuật toán, công cụ triển khai hoặc ngôn ngữ nào. Sự linh hoạt này làm cho nó trở thành một trung tâm cho MLOps, đảm bảo rằng các nhóm có thể duy trì các công cụ ưa thích của mình trong khi được hưởng lợi từ việc quản lý vòng đời được tiêu chuẩn hóa. MLflow được cấu trúc xung quanh bốn thành phần chính: Theo dõi (Tracking), Dự án (Projects), Mô hình (Models) và Sổ đăng ký Mô hình (Model Registry), cùng nhau cung cấp một giải pháp gắn kết để quản lý sự phức tạp trong phát triển AI.

Cách sử dụng MLflow

Bắt đầu với MLflow rất đơn giản, với các tùy chọn cho cả tự lưu trữ tại chỗ và các dịch vụ đám mây được quản lý.

1. Cài đặt: Bắt đầu bằng cách cài đặt MLflow bằng pip: pip install mlflow.

2. Tích hợp: Tích hợp MLflow vào mã đào tạo của bạn. Bạn có thể sử dụng tính năng ghi nhật ký tự động một dòng mạnh mẽ cho các framework phổ biến như PyTorch, TensorFlow và scikit-learn (ví dụ: mlflow.pytorch.autolog()). Điều này tự động ghi lại các chỉ số, tham số, mô hình và các tạo phẩm khác. Để kiểm soát chi tiết hơn, bạn có thể sử dụng các API ghi nhật ký thủ công như mlflow.log_param(), mlflow.log_metric() và mlflow.log_artifact().

3. Chạy thử nghiệm: Thực thi tập lệnh đào tạo của bạn. MLflow sẽ tự động ghi lại tất cả thông tin được chỉ định vào một thư mục cục bộ (mlruns) hoặc một máy chủ theo dõi từ xa.

4. Trực quan hóa kết quả: Khởi chạy giao diện người dùng MLflow bằng cách chạy mlflow ui trong terminal của bạn. Giao diện dựa trên web này cho phép bạn so sánh hiệu suất của các lần chạy khác nhau, trực quan hóa các chỉ số và kiểm tra các tạo phẩm.

5. Đóng gói và Đăng ký Mô hình: Sau khi bạn đã xác định được mô hình tốt nhất, hãy sử dụng MLflow để đóng gói nó ở định dạng tiêu chuẩn. Sau đó, bạn có thể đăng ký nó với Sổ đăng ký Mô hình MLflow để quản lý các phiên bản, giai đoạn (ví dụ: Staging, Production) và các chú thích của nó.

6. Triển khai: Triển khai mô hình đã được phiên bản từ sổ đăng ký đến các môi trường sản xuất khác nhau, bao gồm các nền tảng đám mây, Kubernetes hoặc các máy chủ REST cục bộ.

Tính năng chính của MLflow

• MLflow Tracking: Một API và giao diện người dùng để ghi lại các tham số, phiên bản mã, chỉ số và tạo phẩm khi chạy mã học máy. Nó cho phép so sánh chi tiết và trực quan hóa kết quả thử nghiệm.
• MLflow Projects: Một định dạng tiêu chuẩn để đóng gói mã khoa học dữ liệu có thể tái sử dụng. Mỗi dự án là một thư mục có mã hoặc một kho lưu trữ Git và sử dụng một tệp mô tả để chỉ định các phụ thuộc của nó và cách chạy mã.
• MLflow Models: Một định dạng tiêu chuẩn để đóng gói các mô hình học máy có thể được sử dụng trong nhiều công cụ hạ nguồn — ví dụ: phục vụ thời gian thực thông qua API REST hoặc suy luận hàng loạt trên Apache Spark.
• MLflow Model Registry: Một kho lưu trữ mô hình tập trung để quản lý cộng tác toàn bộ vòng đời của một Mô hình MLflow, bao gồm phiên bản mô hình, chuyển đổi giai đoạn (từ staging sang production) và các chú thích.
• Công cụ cho GenAI & LLM: Các tính năng chuyên biệt cho GenAI, bao gồm theo dõi từ đầu đến cuối cho các chuỗi và tác nhân LLM, quản lý kỹ thuật prompt, khả năng quan sát và các khuôn khổ đánh giá.
• Tích hợp rộng rãi: Tích hợp liền mạch với hơn 25 framework và công cụ phổ biến, bao gồm PyTorch, TensorFlow, Keras, scikit-learn, XGBoost, LangChain, LlamaIndex, OpenAI và Hugging Face.

Các trường hợp sử dụng MLflow

Tính linh hoạt của MLflow làm cho nó phù hợp với một loạt các ứng dụng AI:

• Thị giác máy tính: Theo dõi kiến trúc CNN, quy trình tăng cường dữ liệu và các thử nghiệm học chuyển giao để phân loại hình ảnh và phát hiện đối tượng.
• Xử lý ngôn ngữ tự nhiên (NLP): Ghi lại kiến trúc transformer, chiến lược token hóa và các thử nghiệm tinh chỉnh cho các mô hình ngôn ngữ lớn (LLM), chatbot và phân tích văn bản.
• Dự báo chuỗi thời gian: Giám sát các mô hình LSTM, GRU và Transformer để dự báo tài chính, dự báo nhu cầu và phát hiện bất thường.
• Học tăng cường: Theo dõi hiệu suất của tác nhân, hàm phần thưởng và sự tiến hóa của chính sách trong AI trò chơi và robot.
• Phát triển ứng dụng GenAI: Xây dựng, gỡ lỗi và giám sát các hệ thống dựa trên tác nhân phức tạp và các quy trình RAG (Retrieval-Augmented Generation) với khả năng truy xuất nguồn gốc đầy đủ.
• Nghiên cứu hợp tác: Cho phép các nhóm chia sẻ kết quả thử nghiệm chi tiết, tạo phẩm mô hình và môi trường có thể tái tạo để tăng tốc nghiên cứu và phát triển.

Ưu điểm của MLflow

MLflow mang lại những lợi thế đáng kể cho các cá nhân và nhóm xây dựng hệ thống AI:

• Mã nguồn mở và do cộng đồng thúc đẩy: Là một dự án mã nguồn mở thuộc Linux Foundation, nó được hưởng lợi từ một cộng đồng sôi động, đảm bảo sự cải tiến liên tục và sự chấp nhận rộng rãi.
• Không phụ thuộc vào framework: Kiến trúc mở của nó ngăn chặn sự ràng buộc của nhà cung cấp và cho phép tích hợp với hầu hết mọi công cụ hoặc thư viện học máy.
• Quản lý từ đầu đến cuối: Đây là một trong số ít các nền tảng bao gồm toàn bộ vòng đời ML, từ thử nghiệm ban đầu đến giám sát sản xuất.
• Tăng cường khả năng tái tạo: Bằng cách ghi lại chính xác mã, dữ liệu và môi trường, MLflow đảm bảo rằng các thử nghiệm hoàn toàn có thể tái tạo, điều này rất quan trọng đối với sự nghiêm ngặt khoa học và tuân thủ quy định.
• Khả năng mở rộng và linh hoạt: Nó có thể mở rộng từ một người dùng trên máy tính xách tay đến các triển khai quy mô lớn trong toàn doanh nghiệp và cung cấp cả tùy chọn tự lưu trữ và lưu trữ được quản lý để phù hợp với các nhu cầu khác nhau.

Giá cả và gói dịch vụ

MLflow về cơ bản là một công cụ mã nguồn mở và miễn phí với mô hình triển khai linh hoạt:

• Tự lưu trữ (Mã nguồn mở): Nền tảng MLflow cốt lõi có sẵn theo giấy phép Apache 2.0. Nó hoàn toàn miễn phí để tải xuống, sử dụng và sửa đổi. Người dùng có toàn quyền kiểm soát cơ sở hạ tầng của mình và chịu trách nhiệm thiết lập và bảo trì. Hỗ trợ được cung cấp bởi cộng đồng.
• Lưu trữ được quản lý (Freemium): Đối với những người dùng thích trải nghiệm không rắc rối, một phiên bản MLflow miễn phí và được quản lý hoàn toàn được cung cấp bởi Databricks, những người tạo ra công cụ ban đầu. Tùy chọn này loại bỏ nhu cầu thiết lập và bảo trì, cho phép các nhóm bắt đầu ngay lập tức. Các tính năng doanh nghiệp nâng cao và hỗ trợ có sẵn thông qua các gói thương mại của Databricks.