Cơ sở hạ tầng Tốt nhất trong lĩnh vực 1 cái MLOps Công cụ AI

Đội ngũ khoa học dữ liệu của một công ty thương mại điện tử cần giữ cho mô hình đề xuất sản phẩm của họ luôn được cập nhật với hành vi người dùng mới nhất. Sử dụng nền tảng MLOps, họ xây dựng một đường ống CI/CD/CT tự động kích hoạt một công việc huấn luyện lại mỗi 24 giờ bằng dữ liệu mới. Sau khi huấn luyện, hiệu suất của mô hình được tự động xác thực trên một tập dữ liệu thử nghiệm. Nếu nó đạt đến ngưỡng độ chính xác được xác định trước, nền tảng sẽ tự động triển khai nó vào sản xuất, thay thế mô hình cũ mà không có thời gian chết hoặc sự can thiệp thủ công từ kỹ sư.

Một công ty fintech triển khai một mô hình học máy để phát hiện các giao dịch gian lận. Theo thời gian, những kẻ gian lận thay đổi chiến thuật của chúng, khiến hiệu suất của mô hình bị suy giảm—một hiện tượng được gọi là sự trôi dạt mô hình (model drift). Một nền tảng MLOps liên tục giám sát các dự đoán của mô hình trực tiếp và các thuộc tính thống kê của dữ liệu đầu vào. Khi phát hiện ra sự trôi dạt đáng kể so với phân phối dữ liệu huấn luyện, nó sẽ tự động cảnh báo cho đội ngũ kỹ thuật ML. Bảng điều khiển của nền tảng giúp họ hình dung sự trôi dạt, chẩn đoán nguyên nhân và kích hoạt một đường ống huấn luyện lại với dữ liệu mới được gán nhãn để thích ứng với các mẫu gian lận mới.

Một đội ngũ khoa học dữ liệu lớn đang hợp tác trong một mô hình dự đoán sự rời bỏ của khách hàng. Để tránh sự không nhất quán, họ sử dụng các tính năng theo dõi thử nghiệm và quản lý phiên bản của một nền tảng MLOps. Mỗi lần chạy huấn luyện đều được ghi lại, ghi lại phiên bản mã chính xác, mã băm của tập dữ liệu, các siêu tham số và các chỉ số kết quả. Tạo phẩm mô hình đã được huấn luyện sau đó được lưu trữ trong một sổ đăng ký mô hình trung tâm. Điều này đảm bảo rằng bất kỳ thành viên nào trong nhóm cũng có thể tái tạo hoàn hảo một thử nghiệm cụ thể, so sánh kết quả một cách công bằng và truy xuất phiên bản mô hình chính xác đã được phê duyệt để triển khai, tạo ra một quy trình làm việc minh bạch và có thể kiểm toán.

Trong một tổ chức lớn, nhiều nhóm đang xây dựng các mô hình khác nhau (ví dụ: cho tiếp thị, bán hàng và hỗ trợ) nhưng thường yêu cầu các đặc trưng dữ liệu giống nhau, như 'giá trị vòng đời khách hàng'. Thay vì mỗi nhóm tự tính toán đặc trưng này, họ sử dụng một nền tảng MLOps với kho đặc trưng. Một nhóm kỹ thuật xác định và điền vào kho đặc trưng bằng các đặc trưng chất lượng cao, cập nhật. Các nhóm khoa học dữ liệu sau đó có thể chỉ cần lấy các đặc trưng đã được tính toán trước này để huấn luyện mô hình của họ và để suy luận thời gian thực trong sản xuất. Điều này tiết kiệm thời gian tính toán, ngăn chặn sự chênh lệch giữa huấn luyện và phục vụ, và đảm bảo tính nhất quán trên tất cả các mô hình.

Một đội ngũ tiếp thị muốn thử nghiệm một mô hình nhắm mục tiêu quảng cáo mới so với mô hình hiện tại. Sử dụng công cụ MLOps, họ thực hiện một triển khai theo kiểu vô địch-thách đấu. Nền tảng định tuyến 90% lưu lượng truy cập đến mô hình 'vô địch' hiện có và 10% đến mô hình 'thách đấu' mới. Nó thu thập các chỉ số hiệu suất (như tỷ lệ nhấp chuột) cho cả hai mô hình trong thời gian thực. Sau một tuần, đội ngũ phân tích kết quả trên một bảng điều khiển so sánh. Vì mô hình thách đấu cho thấy sự cải thiện 15%, họ sử dụng nền tảng để nâng cấp nó một cách liền mạch để trở thành nhà vô địch mới, hiện đang phục vụ 100% lưu lượng truy cập.

Một tổ chức tài chính được các cơ quan quản lý yêu cầu phải giải thích các quyết định của mô hình phê duyệt khoản vay và duy trì một dấu vết kiểm toán rõ ràng. Họ sử dụng một nền tảng MLOps cung cấp các tính năng quản trị mô hình mạnh mẽ. Sổ đăng ký mô hình của nền tảng không chỉ lưu trữ tệp nhị phân của mô hình mà còn cả dòng dõi của nó—bao gồm dữ liệu được sử dụng để huấn luyện, mã nguồn và nhà khoa học dữ liệu chịu trách nhiệm. Khi cần kiểm toán, họ có thể ngay lập tức tạo ra một báo cáo chi tiết về toàn bộ lịch sử của một mô hình. Điều này đảm bảo tuân thủ các quy định như GDPR và cung cấp sự minh bạch về cách thức và lý do các mô hình đưa ra dự đoán của chúng.