MLOps Và Triển Khai Mô Hình Sản Xuất

Việc giám sát là rất quan trọng để phát hiện "model drift" - hiện tượng hiệu suất của mô hình giảm dần theo thời gian do sự thay đổi trong dữ liệu thực tế. Giám sát giúp chúng ta biết khi nào cần huấn luyện lại hoặc cập nhật mô hình.

CI/CD là viết tắt của Tích hợp liên tục (Continuous Integration) và Triển khai liên tục (Continuous Deployment). Trong MLOps, nó không chỉ bao gồm việc kiểm thử và triển khai mã nguồn, mà còn cả việc kiểm thử, xác thực và triển khai các mô hình và đường ống dữ liệu một cách tự động.

Một đường ống ML là một chuỗi các bước được tự động hóa để xây dựng và triển khai một mô hình ML. Nó thường bao gồm các bước như thu thập dữ liệu, tiền xử lý, huấn luyện mô hình, đánh giá, và triển khai. Tự động hóa đường ống này là một mục tiêu cốt lõi của MLOps.

MLflow là một nền tảng mã nguồn mở để quản lý vòng đời của machine learning. Nó giúp theo dõi các thử nghiệm (experiment tracking), đóng gói mã (packaging code), và triển khai mô hình. Đây là một công cụ rất phổ biến trong MLOps.

Data Scientist thường tập trung vào việc phân tích dữ liệu và xây dựng các mô hình thử nghiệm. MLOps Engineer tập trung vào việc lấy các mô hình đó và xây dựng các hệ thống mạnh mẽ, có thể mở rộng để chạy chúng trong môi trường sản xuất một cách đáng tin cậy.

Trong thử nghiệm A/B, chúng ta triển khai đồng thời hai phiên bản của mô hình (ví dụ: mô hình cũ và mô hình mới) và phân chia lưu lượng người dùng cho cả hai. Sau đó, chúng ta so sánh các chỉ số kinh doanh (ví dụ: tỷ lệ nhấp chuột) để xác định xem mô hình nào hoạt động tốt hơn trong thực tế.

Kiến thức về Kubernetes (K8s) rất hữu ích vì nó là nền tảng tiêu chuẩn để triển khai các ứng dụng container hóa ở quy mô lớn. Nhiều công cụ MLOps được xây dựng để chạy trên K8s. Tuy nhiên, bạn có thể bắt đầu với các khái niệm đơn giản hơn như Docker và các dịch vụ đám mây được quản lý.

Không hề. Ngay cả các dự án cá nhân hoặc các startup nhỏ cũng có thể hưởng lợi từ việc áp dụng các nguyên tắc MLOps cơ bản. Việc thiết lập một quy trình có tổ chức ngay từ đầu sẽ giúp tiết kiệm rất nhiều thời gian và công sức khi dự án phát triển.