Lên lịch công việc sổ ghi chép Amazon SageMaker và quản lý quy trình làm việc sổ ghi chép nhiều bước bằng API | Dịch vụ web của Amazon

Xưởng sản xuất Amazon SageMaker cung cấp giải pháp được quản lý hoàn toàn cho các nhà khoa học dữ liệu để xây dựng, đào tạo và triển khai các mô hình học máy (ML) một cách tương tác. Công việc trên sổ ghi chép Amazon SageMaker cho phép các nhà khoa học dữ liệu chạy sổ ghi chép của họ theo yêu cầu hoặc theo lịch chỉ với vài cú nhấp chuột trong SageMaker Studio. Với lần ra mắt này, bạn có thể lập trình chạy sổ ghi chép dưới dạng công việc bằng cách sử dụng API do Đường ống Amazon SageMaker, tính năng điều phối quy trình làm việc ML của Amazon SageMaker. Hơn nữa, bạn có thể tạo quy trình làm việc ML gồm nhiều bước với nhiều sổ ghi chép phụ thuộc bằng cách sử dụng các API này.

SageMaker Pipelines là một công cụ điều phối quy trình làm việc gốc để xây dựng các quy trình ML tận dụng khả năng tích hợp trực tiếp của SageMaker. Mỗi đường dẫn SageMaker bao gồm bước, tương ứng với các tác vụ riêng lẻ như xử lý, đào tạo hoặc xử lý dữ liệu bằng cách sử dụng Amazon EMR. Các công việc sổ ghi chép SageMaker hiện có sẵn dưới dạng loại bước tích hợp trong quy trình SageMaker. Bạn có thể sử dụng bước công việc sổ ghi chép này để dễ dàng chạy sổ ghi chép dưới dạng công việc chỉ với một vài dòng mã bằng cách sử dụng SDK Python SageMaker của Amazon. Ngoài ra, bạn có thể ghép nhiều sổ ghi chép phụ thuộc lại với nhau để tạo một quy trình công việc ở dạng Đồ thị tuần hoàn có hướng (DAG). Sau đó, bạn có thể chạy các công việc sổ ghi chép hoặc DAG này, đồng thời quản lý và trực quan hóa chúng bằng SageMaker Studio.

Các nhà khoa học dữ liệu hiện đang sử dụng SageMaker Studio để phát triển sổ ghi chép Jupyter của họ một cách tương tác, sau đó sử dụng các tác vụ sổ ghi chép SageMaker để chạy các sổ ghi chép này như các công việc đã lên lịch. Những công việc này có thể được chạy ngay lập tức hoặc theo lịch trình định kỳ mà không cần nhân viên dữ liệu phải cấu trúc lại mã dưới dạng mô-đun Python. Một số trường hợp sử dụng phổ biến để thực hiện việc này bao gồm:

• Chạy máy tính xách tay dài ở chế độ nền
• Thường xuyên chạy suy luận mô hình để tạo báo cáo
• Mở rộng quy mô từ việc chuẩn bị các tập dữ liệu mẫu nhỏ sang làm việc với dữ liệu lớn ở quy mô petabyte
• Đào tạo lại và triển khai các mô hình trên một số nhịp
• Lập kế hoạch công việc để theo dõi chất lượng mô hình hoặc trôi dạt dữ liệu
• Khám phá không gian tham số cho các mô hình tốt hơn

Mặc dù chức năng này giúp nhân viên dữ liệu dễ dàng tự động hóa các sổ ghi chép độc lập, nhưng quy trình công việc ML thường bao gồm một số sổ ghi chép, mỗi sổ ghi chép thực hiện một nhiệm vụ cụ thể với các phần phụ thuộc phức tạp. Ví dụ: một sổ ghi chép theo dõi độ lệch dữ liệu của mô hình phải có bước trước cho phép trích xuất, chuyển đổi và tải (ETL) cũng như xử lý dữ liệu mới cũng như bước làm mới và đào tạo mô hình sau trong trường hợp nhận thấy độ lệch đáng kể . Hơn nữa, các nhà khoa học dữ liệu có thể muốn kích hoạt toàn bộ quy trình làm việc này theo lịch định kỳ để cập nhật mô hình dựa trên dữ liệu mới. Để giúp bạn dễ dàng tự động hóa sổ ghi chép của mình và tạo các quy trình công việc phức tạp như vậy, các công việc sổ ghi chép SageMaker hiện có sẵn dưới dạng một bước trong SageMaker Pipelines. Trong bài đăng này, chúng tôi chỉ ra cách bạn có thể giải quyết các trường hợp sử dụng sau bằng một vài dòng mã:

• Lập trình chạy một sổ ghi chép độc lập ngay lập tức hoặc theo lịch trình định kỳ
• Tạo quy trình công việc gồm nhiều bước của sổ ghi chép dưới dạng DAG cho mục đích tích hợp liên tục và phân phối liên tục (CI/CD) có thể được quản lý thông qua giao diện người dùng SageMaker Studio

Tổng quan về giải pháp

Sơ đồ sau minh họa kiến ​​trúc giải pháp của chúng tôi. Bạn có thể sử dụng SageMaker Python SDK để chạy một tác vụ sổ tay hoặc một quy trình công việc. Tính năng này tạo ra một công việc đào tạo SageMaker để chạy sổ ghi chép.

Trong các phần sau, chúng tôi sẽ giới thiệu một trường hợp sử dụng ML mẫu và giới thiệu các bước để tạo quy trình làm việc của sổ ghi chép, chuyển tham số giữa các bước sổ ghi chép khác nhau, lên lịch cho quy trình làm việc của bạn và giám sát quy trình đó qua SageMaker Studio.

Đối với vấn đề ML của chúng tôi trong ví dụ này, chúng tôi đang xây dựng một mô hình phân tích cảm tính, đây là một loại nhiệm vụ phân loại văn bản. Các ứng dụng phổ biến nhất của phân tích tình cảm bao gồm giám sát phương tiện truyền thông xã hội, quản lý hỗ trợ khách hàng và phân tích phản hồi của khách hàng. Tập dữ liệu được sử dụng trong ví dụ này là tập dữ liệu Stanford Sentiment Treebank (SST2), bao gồm các bài đánh giá phim cùng với một số nguyên (0 hoặc 1) biểu thị cảm tính tích cực hoặc tiêu cực của bài đánh giá.

Sau đây là một ví dụ về một data.csv tệp tương ứng với tập dữ liệu SST2 và hiển thị các giá trị trong hai cột đầu tiên của nó. Lưu ý rằng tệp không được có bất kỳ tiêu đề nào.

Trong ví dụ ML này, chúng ta phải thực hiện một số nhiệm vụ:

1. Thực hiện kỹ thuật tính năng để chuẩn bị tập dữ liệu này theo định dạng mà mô hình của chúng tôi có thể hiểu được.
2. Kỹ thuật hậu tính năng, chạy một bước đào tạo sử dụng Transformers.
3. Thiết lập suy luận hàng loạt bằng mô hình được tinh chỉnh để giúp dự đoán cảm tính đối với các đánh giá mới được đưa ra.
4. Thiết lập bước giám sát dữ liệu để chúng tôi có thể thường xuyên theo dõi dữ liệu mới của mình xem có bất kỳ sự sai lệch nào về chất lượng có thể yêu cầu chúng tôi đào tạo lại trọng số mô hình hay không.

Với việc ra mắt tác vụ sổ ghi chép như một bước trong quy trình của SageMaker, chúng tôi có thể điều phối quy trình làm việc này, bao gồm ba bước riêng biệt. Mỗi bước của quy trình làm việc được phát triển trong một sổ ghi chép khác nhau, sau đó sổ ghi chép này được chuyển đổi thành các bước công việc sổ ghi chép độc lập và được kết nối dưới dạng quy trình:

• Sơ chế – Tải xuống tập dữ liệu SST2 công khai từ Dịch vụ lưu trữ đơn giản của Amazon (Amazon S3) và tạo tệp CSV cho sổ ghi chép ở Bước 2 để chạy. Tập dữ liệu SST2 là tập dữ liệu phân loại văn bản có hai nhãn (0 và 1) và một cột văn bản để phân loại.
• Hội thảo – Lấy file CSV đã định hình và chạy tinh chỉnh bằng BERT để phân loại văn bản bằng thư viện Transformers. Chúng tôi sử dụng sổ ghi chép chuẩn bị dữ liệu thử nghiệm như một phần của bước này, đây là bước phụ thuộc cho bước tinh chỉnh và suy luận hàng loạt. Khi quá trình tinh chỉnh hoàn tất, sổ ghi chép này sẽ được chạy bằng cách sử dụng ma thuật chạy và chuẩn bị tập dữ liệu thử nghiệm để suy luận mẫu với mô hình được tinh chỉnh.
• Chuyển đổi và giám sát – Thực hiện suy luận hàng loạt và thiết lập chất lượng dữ liệu bằng tính năng giám sát mô hình để có đề xuất tập dữ liệu cơ sở.

Chạy sổ ghi chép

Mã mẫu cho giải pháp này có sẵn trên GitHub.

Tạo bước công việc trong sổ ghi chép SageMaker cũng tương tự như việc tạo các bước khác trong Quy trình SageMaker. Trong ví dụ về sổ ghi chép này, chúng tôi sử dụng SageMaker Python SDK để điều phối quy trình làm việc. Để tạo một bước sổ ghi chép trong SageMaker Pipelines, bạn có thể xác định các tham số sau:

• Sổ ghi chép đầu vào – Tên sổ ghi chép mà bước sổ ghi chép này sẽ sắp xếp. Tại đây bạn có thể chuyển đường dẫn cục bộ tới sổ ghi chép đầu vào. Theo tùy chọn, nếu sổ ghi chép này có các sổ ghi chép khác đang chạy, bạn có thể chuyển những sổ ghi chép này vào AdditionalDependencies tham số cho bước công việc sổ ghi chép.
• URI hình ảnh – Hình ảnh Docker đằng sau bước công việc của sổ ghi chép. Đây có thể là hình ảnh được xác định trước mà SageMaker đã cung cấp hoặc hình ảnh tùy chỉnh mà bạn đã xác định và đẩy tới Đăng ký container đàn hồi Amazon (Amazon ECR). Hãy tham khảo phần cân nhắc ở cuối bài này để biết các hình ảnh được hỗ trợ.
• Tên hạt nhân – Tên kernel bạn đang sử dụng trên SageMaker Studio. Thông số kernel này được đăng ký trong hình ảnh mà bạn đã cung cấp.
• Loại phiên bản (tùy chọn) - Đám mây điện toán đàn hồi Amazon (Amazon EC2) loại phiên bản đằng sau tác vụ sổ ghi chép mà bạn đã xác định và sẽ chạy.
• Thông số (tùy chọn) – Các tham số bạn có thể chuyển vào sẽ có thể truy cập được vào sổ ghi chép của bạn. Chúng có thể được xác định theo cặp khóa-giá trị. Ngoài ra, các tham số này có thể được sửa đổi giữa các lần chạy công việc sổ ghi chép hoặc các lần chạy quy trình khác nhau.

Ví dụ của chúng tôi có tổng cộng năm sổ ghi chép:

• nb-job-pipeline.ipynb – Đây là sổ ghi chép chính của chúng tôi, nơi chúng tôi xác định quy trình và quy trình làm việc của mình.
• tiền xử lý.ipynb – Sổ ghi chép này là bước đầu tiên trong quy trình làm việc của chúng tôi và chứa mã sẽ lấy tập dữ liệu AWS công khai và tạo tệp CSV từ đó.
• đào tạo.ipynb – Sổ tay này là bước thứ hai trong quy trình làm việc của chúng tôi và chứa mã để lấy CSV từ bước trước và tiến hành đào tạo cũng như tinh chỉnh cục bộ. Bước này cũng có sự phụ thuộc từ prepare-test-set.ipynb sổ ghi chép để lấy tập dữ liệu thử nghiệm để suy luận mẫu bằng mô hình được tinh chỉnh.
• chuẩn bị-test-set.ipynb – Sổ ghi chép này tạo một tập dữ liệu thử nghiệm mà sổ ghi chép đào tạo của chúng tôi sẽ sử dụng trong bước quy trình thứ hai và sử dụng để suy luận mẫu với mô hình được tinh chỉnh.
• biến đổi-monitor.ipynb – Sổ ghi chép này là bước thứ ba trong quy trình làm việc của chúng tôi và sử dụng mô hình BERT cơ sở và chạy công việc chuyển đổi hàng loạt SageMaker, đồng thời thiết lập chất lượng dữ liệu bằng giám sát mô hình.

Tiếp theo, chúng ta đi qua sổ ghi chép chính nb-job-pipeline.ipynb, kết hợp tất cả các sổ ghi chép phụ vào một đường dẫn và chạy quy trình làm việc từ đầu đến cuối. Lưu ý rằng mặc dù ví dụ sau chỉ chạy sổ ghi chép một lần nhưng bạn cũng có thể lên lịch quy trình để chạy sổ ghi chép nhiều lần. tham khảo Tài liệu SageMaker để có hướng dẫn chi tiết.

Đối với bước công việc sổ ghi chép đầu tiên, chúng tôi chuyển vào một tham số có nhóm S3 mặc định. Chúng tôi có thể sử dụng nhóm này để kết xuất bất kỳ thành phần lạ nào mà chúng tôi muốn có sẵn cho các bước quy trình khác của mình. Đối với sổ ghi chép đầu tiên (preprocess.ipynb), chúng tôi lấy tập dữ liệu huấn luyện SST2 công khai của AWS xuống và tạo một tệp CSV đào tạo từ đó để đẩy vào bộ chứa S3 này. Xem đoạn mã sau:

# Parameters
print(default_s3_bucket)

!aws s3 cp s3://sagemaker-sample-files/datasets/text/SST2/sst2.train sst2.train

# will read just the first 500 lines for quicker execution
with open('sst2.train', 'r') as f:
    lines = f.readlines()[:500] 

data = []
for line in lines:
    label, text = line.strip().split(' ', 1)
    data.append((int(label), text))

df = pd.DataFrame(data, columns=['label', 'text'])
df.to_csv("train.csv", index=False) #create csv file with smaller dataset
!aws s3 cp "train.csv" {default_s3_bucket}

Sau đó chúng ta có thể chuyển đổi sổ ghi chép này thành một NotebookJobStep với đoạn mã sau trong sổ ghi chép chính của chúng tôi:

# provide S3 Bucket to dump artifacts in
nb_job_params = {"default_s3_bucket": notebook_artifacts}

preprocess_nb_step = NotebookJobStep(
name=preprocess_step_name,
description=preprocess_description,
notebook_job_name=preprocess_job_name,
image_uri=image_uri,
kernel_name=kernel_name,
display_name=display_name,
role=role,
input_notebook=preprocess_notebook,
instance_type="ml.m5.4xlarge",
parameters=nb_job_params,
)

Bây giờ chúng ta đã có tệp CSV mẫu, chúng ta có thể bắt đầu đào tạo mô hình của mình trong sổ tay đào tạo. Sổ tay đào tạo của chúng tôi có cùng tham số với nhóm S3 và kéo tập dữ liệu đào tạo từ vị trí đó xuống. Sau đó, chúng tôi thực hiện tinh chỉnh bằng cách sử dụng đối tượng Transformers trainer với đoạn mã sau:

from transformers import TrainingArguments, Trainer
training_args = TrainingArguments(output_dir="test_trainer", evaluation_strategy="epoch")

trainer = Trainer(
    model=model,
    args=training_args,
    train_dataset=small_train_dataset,
    eval_dataset=small_eval_dataset,
    compute_metrics=compute_metrics,
)

trainer.train()

Sau khi tinh chỉnh, chúng tôi muốn chạy một số suy luận hàng loạt để xem mô hình đang hoạt động như thế nào. Việc này được thực hiện bằng cách sử dụng một sổ ghi chép riêng (prepare-test-set.ipynb) trong cùng một đường dẫn cục bộ tạo tập dữ liệu thử nghiệm để thực hiện suy luận bằng cách sử dụng mô hình đã đào tạo của chúng tôi. Chúng ta có thể chạy sổ ghi chép bổ sung trong sổ ghi chép đào tạo của mình bằng ô ma thuật sau:

%run 'prepare-test-set.ipynb'

Chúng tôi xác định phần phụ thuộc sổ ghi chép bổ sung này trong AdditionalDependencies tham số trong bước công việc sổ ghi chép thứ hai của chúng tôi:

train_nb_step = NotebookJobStep(
name=training_step_name,
description=training_description,
notebook_job_name=training_job_name,
input_notebook=training_notebook,
additional_dependencies=[test_data_prep_notebook],
image_uri=image_uri,
kernel_name=kernel_name,
display_name=display_name,
instance_type="ml.m5.12xlarge",
role=role,
parameters=nb_job_params,
)

Chúng ta cũng phải xác định rằng bước công việc sổ ghi chép đào tạo (Bước 2) phụ thuộc vào bước công việc sổ ghi chép tiền xử lý (Bước 1) bằng cách sử dụng add_depends_on Lệnh gọi API như sau:

train_nb_step.add_depends_on([preprocess_nb_step])

Bước cuối cùng của chúng tôi sẽ đưa mô hình BERT chạy Chuyển đổi hàng loạt SageMaker, đồng thời thiết lập Thu thập dữ liệu và chất lượng thông qua Trình giám sát mô hình SageMaker. Lưu ý rằng điều này khác với việc sử dụng tính năng tích hợp sẵn Chuyển đổi or Chụp các bước thông qua Pipelines. Sổ ghi chép của chúng tôi cho bước này sẽ thực thi các API tương tự nhưng sẽ được theo dõi dưới dạng Bước công việc sổ ghi chép. Bước này phụ thuộc vào Bước công việc đào tạo mà chúng tôi đã xác định trước đó, vì vậy, chúng tôi cũng nắm bắt bước đó bằng cờ phụ thuộc.

batch_monitor_step = NotebookJobStep(
name=batch_monitor_step_name,
description=batch_monitor_description,
notebook_job_name=batch_monitor_job_name,
input_notebook=batch_monitor_notebook,
image_uri=image_uri,
kernel_name=kernel_name,
display_name=display_name,
instance_type="ml.m5.12xlarge",
role=role,
parameters=nb_job_params,
)
batch_monitor_step.add_depends_on([train_nb_step])

Sau khi xác định được các bước khác nhau trong quy trình làm việc, chúng ta có thể tạo và chạy quy trình từ đầu đến cuối:

# create pipeline
pipeline = Pipeline(
name=pipeline_name,
steps=[preprocess_nb_step, train_nb_step, batch_monitor_step],
)

# execute pipeline
pipeline.create(session.get_execution_role())
execution = pipeline.start(parameters={})
execution.wait(delay=30, max_attempts=60)
execution_steps = execution.list_steps()
print(execution_steps)

Giám sát việc chạy đường ống

Bạn có thể theo dõi và giám sát bước chạy của sổ ghi chép thông qua SageMaker Pipelines DAG, như trong ảnh chụp màn hình sau.

Bạn cũng có thể tùy ý giám sát quá trình chạy của sổ ghi chép riêng lẻ trên bảng thông tin công việc của sổ ghi chép và chuyển đổi các tệp đầu ra đã được tạo thông qua giao diện người dùng SageMaker Studio. Khi sử dụng chức năng này bên ngoài SageMaker Studio, bạn có thể xác định những người dùng có thể theo dõi trạng thái chạy trên bảng điều khiển công việc sổ ghi chép bằng cách sử dụng thẻ. Để biết thêm chi tiết về các thẻ cần đưa vào, hãy xem Xem công việc sổ ghi chép của bạn và tải xuống kết quả đầu ra trong bảng điều khiển UI Studio.

Trong ví dụ này, chúng tôi xuất kết quả công việc của sổ ghi chép vào một thư mục có tên outputs trong đường dẫn cục bộ của bạn bằng mã chạy đường dẫn của bạn. Như được hiển thị trong ảnh chụp màn hình sau, tại đây bạn có thể thấy đầu ra của sổ ghi chép đầu vào của mình cũng như bất kỳ tham số nào bạn đã xác định cho bước đó.

Làm sạch

Nếu bạn làm theo ví dụ của chúng tôi, hãy đảm bảo xóa quy trình đã tạo, công việc sổ ghi chép và dữ liệu s3 được sổ ghi chép mẫu tải xuống.

Những cân nhắc

Sau đây là một số cân nhắc quan trọng đối với tính năng này:

• Hạn chế SDK – Chỉ có thể tạo bước công việc sổ ghi chép thông qua SageMaker Python SDK.
• Hạn chế về hình ảnh –Bước công việc sổ ghi chép hỗ trợ các hình ảnh sau:

Kết luận

Với lần ra mắt này, nhân viên dữ liệu giờ đây có thể chạy sổ ghi chép của mình theo chương trình với một vài dòng mã bằng cách sử dụng SDK Python của SageMaker. Ngoài ra, bạn có thể tạo quy trình công việc gồm nhiều bước phức tạp bằng sổ ghi chép của mình, giảm đáng kể thời gian cần thiết để chuyển từ sổ ghi chép sang quy trình CI/CD. Sau khi tạo quy trình, bạn có thể sử dụng SageMaker Studio để xem và chạy DAG cho quy trình của mình cũng như quản lý và so sánh các lần chạy. Cho dù bạn đang lên lịch cho các quy trình công việc ML toàn diện hay một phần của quy trình đó, chúng tôi vẫn khuyến khích bạn thử quy trình làm việc dựa trên sổ tay.

Giới thiệu về tác giả

Anchit Gupta là Giám đốc sản phẩm cấp cao của Amazon SageMaker Studio. Cô tập trung vào việc hỗ trợ các quy trình kỹ thuật dữ liệu và khoa học dữ liệu tương tác từ bên trong SageMaker Studio IDE. Trong thời gian rảnh rỗi, cô thích nấu ăn, chơi board/bài và đọc sách.

Ram Vegiraju là một Kiến trúc sư ML với nhóm Dịch vụ SageMaker. Anh ấy tập trung vào việc giúp khách hàng xây dựng và tối ưu hóa các giải pháp AI / ML của họ trên Amazon SageMaker. Trong thời gian rảnh rỗi, anh ấy thích đi du lịch và viết lách.

Edward mặt trời là một SDE cấp cao làm việc cho SageMaker Studio tại Amazon Web Services. Anh ấy tập trung vào việc xây dựng giải pháp ML tương tác và đơn giản hóa trải nghiệm của khách hàng để tích hợp SageMaker Studio với các công nghệ phổ biến trong kỹ thuật dữ liệu và hệ sinh thái ML. Khi rảnh rỗi, Edward rất thích cắm trại, đi bộ đường dài và câu cá, đồng thời tận hưởng thời gian dành cho gia đình.

• Phân phối nội dung và PR được hỗ trợ bởi SEO. Được khuếch đại ngay hôm nay.
• PlatoData.Network Vertical Generative Ai. Trao quyền cho chính mình. Truy cập Tại đây.
• PlatoAiStream. Thông minh Web3. Kiến thức khuếch đại. Truy cập Tại đây.
• Trung tâmESG. Than đá, công nghệ sạch, Năng lượng, Môi trường Hệ mặt trời, Quản lý chất thải. Truy cập Tại đây.
• PlatoSức khỏe. Tình báo thử nghiệm lâm sàng và công nghệ sinh học. Truy cập Tại đây.
• nguồn: https://aws.amazon.com/blogs/machine-learning/schedule-amazon-sagemaker-notebook-jobs-and-manage-multi-step-notebook-workflows-using-apis/