Amazon SageMaker

Mục lục

1. Tổng quan

Dịch vụ ML được quản lý hoàn toàn giúp xây dựng, huấn luyện và triển khai các mô hình ở quy mô lớn.

2. Các thành phần cốt lõi

2.1 SageMaker Studio

  • IDE nền tảng web dành cho phát triển ML
  • Hỗ trợ Jupyter notebooks, theo dõi thử nghiệm (experiment tracking), gỡ lỗi (debugging)

2.2 SageMaker Notebooks

  • Các instance Jupyter notebook được quản lý
  • Cấu hình sẵn với các frameworks ML phổ biến

2.3 Thuật toán tích hợp sẵn (Built-in Algorithms) #exam-tip

  • Linear Learner - Hồi quy tuyến tính, phân loại
  • XGBoost - Gradient boosted trees
  • K-Means - Phân cụm (Clustering)
  • PCA - Giảm chiều dữ liệu (Dimensionality reduction)
  • Factorization Machines - Gợi ý/Đề xuất
  • DeepAR - Dự báo chuỗi thời gian
  • BlazingText - Phân loại văn bản, Word2Vec
  • Object Detection - Nhận diện đối tượng trong ảnh
  • Image Classification - ResNet CNN
  • Semantic Segmentation - Phân loại cấp độ pixel

📖 Để biết chi tiết về các siêu tham số, xem SageMaker Hyperparameters

3. Các tính năng huấn luyện nâng cao

📖 Để xem về transfer learning và fine-tuning, xem SageMaker Training & Fine-Tuning

📖 Để xem về các mô hình và giải pháp dựng sẵn, xem SageMaker JumpStart

4. SageMaker Autopilot #exam-tip

  • AutoML - tự động xây dựng, huấn luyện, tinh chỉnh các mô hình
  • Tiếp cận theo dạng hộp trắng (white-box) (cung cấp sẵn các notebooks để xem chi tiết)
  • Hỗ trợ dữ liệu dạng bảng (CSV)

5. SageMaker Ground Truth

  • Dịch vụ gán nhãn dữ liệu
  • Kết hợp người gán nhãn (Human labelers) + active learning
  • Tích hợp sẵn các luồng công việc gán nhãn

6. SageMaker Feature Store #important

  • Kho lưu trữ tập trung cho các đặc trưng (features) ML
  • Gồm cả online + offline stores
  • Hỗ trợ quản lý phiên bản (versioning), chia sẻ và khám phá features

7. SageMaker Pipelines

  • CI/CD cho các luồng công việc ML
  • Định nghĩa, điều phối và tự động hóa các quy trình ML
  • Tích hợp tốt với các công cụ MLOps

📖 Để biết thông tin chi tiết về pipeline và CI/CD, xem MLOps CI/CD

8. Mô hình định giá (Pricing Model) #exam-tip

  • Trả tiền cho tài nguyên tính toán (khi training, inference)
  • Trả tiền cho lưu trữ (S3, EBS)
  • Miễn phí bản thân Studio (chỉ trả tiền cho compute chạy ngầm bên dưới)

9. Tips #exam-tip

  • Nắm rõ thuật toán tích hợp sẵn nào dùng cho use case nào
  • Hiểu rõ sự đánh đổi giữa endpoint và batch transform
  • Huấn luyện với Spot instances (Spot training) yêu cầu phải có checkpointing
  • Serverless inference dành cho các hệ thống có lưu lượng truy cập không liên tục hoặc khó đoán

10. Gotchas #gotcha

  • Dữ liệu huấn luyện bắt buộc phải nằm trên S3
  • Các thuật toán tích hợp sẵn yêu cầu định dạng dữ liệu cụ thể (RecordIO-protobuf, CSV, JSON)
  • Quá trình triển khai Endpoint có thể mất từ 5-10 phút