Tinh chỉnh và triển khai các mô hình Llama 2 một cách tiết kiệm chi phí trong Amazon SageMaker JumpStart với AWS Inferentia và AWS Trainium | Dịch vụ web của Amazon

Hôm nay, chúng tôi vui mừng thông báo về tính khả dụng của tính năng hỗ trợ suy luận và tinh chỉnh Llama 2 trên Đào tạo AWS và Suy luận AWS các trường hợp trong Khởi động Amazon SageMaker. Việc sử dụng các phiên bản dựa trên AWS Trainium và Inferentia, thông qua SageMaker, có thể giúp người dùng giảm chi phí tinh chỉnh lên tới 50% và giảm chi phí triển khai xuống 4.7 lần, đồng thời giảm độ trễ trên mỗi mã thông báo. Llama 2 là mô hình ngôn ngữ văn bản tạo sinh tự động hồi quy sử dụng kiến ​​trúc biến áp được tối ưu hóa. Là một mô hình có sẵn công khai, Llama 2 được thiết kế cho nhiều nhiệm vụ NLP như phân loại văn bản, phân tích tình cảm, dịch ngôn ngữ, mô hình hóa ngôn ngữ, tạo văn bản và hệ thống đối thoại. Việc tinh chỉnh và triển khai LLM, như Llama 2, có thể trở nên tốn kém hoặc khó khăn trong việc đáp ứng hiệu suất thời gian thực nhằm mang lại trải nghiệm tốt cho khách hàng. Trainium và AWS Inferentia, được kích hoạt bởi Tế bào thần kinh AWS bộ công cụ phát triển phần mềm (SDK), cung cấp tùy chọn hiệu suất cao và tiết kiệm chi phí cho việc đào tạo và suy luận các mô hình Llama 2.

Trong bài đăng này, chúng tôi trình bày cách triển khai và tinh chỉnh Llama 2 trên các phiên bản Trainium và AWS Inferentia trong SageMaker JumpStart.

Tổng quan về giải pháp

Trong blog này, chúng ta sẽ xem xét các tình huống sau:

1. Triển khai Llama 2 trên các phiên bản AWS Inferentia ở cả hai Xưởng sản xuất Amazon SageMaker Giao diện người dùng, với trải nghiệm triển khai bằng một cú nhấp chuột và SDK Python của SageMaker.
2. Tinh chỉnh Llama 2 trên các phiên bản Trainium trong cả giao diện người dùng SageMaker Studio và SageMaker Python SDK.
3. So sánh hiệu suất của mô hình tinh chỉnh Llama 2 với mô hình được đào tạo trước để cho thấy hiệu quả của việc tinh chỉnh.

Để bắt tay vào thực hiện, hãy xem Sổ ghi chép ví dụ GitHub.

Triển khai Llama 2 trên các phiên bản AWS Inferentia bằng giao diện người dùng SageMaker Studio và Python SDK

Trong phần này, chúng tôi trình bày cách triển khai Llama 2 trên các phiên bản AWS Inferentia bằng cách sử dụng giao diện người dùng SageMaker Studio để triển khai bằng một cú nhấp chuột và SDK Python.

Khám phá mô hình Llama 2 trên giao diện người dùng SageMaker Studio

SageMaker JumpStart cung cấp quyền truy cập vào cả các công cụ có sẵn công khai và độc quyền mô hình nền tảng. Các mô hình nền tảng được tích hợp và duy trì từ các nhà cung cấp độc quyền và bên thứ ba. Do đó, chúng được phát hành theo các giấy phép khác nhau do nguồn mô hình chỉ định. Hãy nhớ xem lại giấy phép cho bất kỳ mô hình nền tảng nào mà bạn sử dụng. Bạn có trách nhiệm xem xét và tuân thủ mọi điều khoản cấp phép hiện hành và đảm bảo chúng được chấp nhận đối với trường hợp sử dụng của bạn trước khi tải xuống hoặc sử dụng nội dung.

Bạn có thể truy cập các mô hình nền tảng Llama 2 thông qua SageMaker JumpStart trong giao diện người dùng SageMaker Studio và SageMaker Python SDK. Trong phần này, chúng ta sẽ tìm hiểu cách khám phá các mô hình trong SageMaker Studio.

SageMaker Studio là môi trường phát triển tích hợp (IDE) cung cấp một giao diện trực quan dựa trên web duy nhất nơi bạn có thể truy cập các công cụ chuyên dụng để thực hiện tất cả các bước phát triển máy học (ML), từ chuẩn bị dữ liệu đến xây dựng, đào tạo và triển khai ML của mình các mô hình. Để biết thêm chi tiết về cách bắt đầu và thiết lập SageMaker Studio, hãy tham khảo Studio SageMaker của Amazon.

Sau khi vào SageMaker Studio, bạn có thể truy cập SageMaker JumpStart, nơi chứa các mô hình, sổ ghi chép và giải pháp dựng sẵn được đào tạo trước, trong Các giải pháp dựng sẵn và tự động. Để biết thêm thông tin chi tiết về cách truy cập các mô hình độc quyền, hãy tham khảo Sử dụng các mô hình nền tảng độc quyền từ Amazon SageMaker JumpStart trong Amazon SageMaker Studio.

Từ trang đích SageMaker JumpStart, bạn có thể duyệt tìm giải pháp, mô hình, sổ ghi chép và các tài nguyên khác.

Nếu bạn không thấy mẫu Llama 2, hãy cập nhật phiên bản SageMaker Studio bằng cách tắt và khởi động lại. Để biết thêm thông tin về các bản cập nhật phiên bản, hãy tham khảo Tắt và cập nhật ứng dụng Studio Classic.

Bạn cũng có thể tìm thấy các biến thể mô hình khác bằng cách chọn Khám phá tất cả các mô hình tạo văn bản hoặc tìm kiếm llama or neuron trong hộp tìm kiếm. Bạn sẽ có thể xem các mô hình Llama 2 Neuron trên trang này.

Triển khai mô hình Llama-2-13b với SageMaker Jumpstart

Bạn có thể chọn thẻ mô hình để xem thông tin chi tiết về mô hình như giấy phép, dữ liệu được sử dụng để đào tạo và cách sử dụng mô hình đó. Bạn cũng có thể tìm thấy hai nút, Triển khai và Mở sổ tay, giúp bạn sử dụng mô hình bằng ví dụ không có mã này.

Khi bạn chọn một trong hai nút, một cửa sổ bật lên sẽ hiển thị Thỏa thuận cấp phép người dùng cuối và Chính sách sử dụng được chấp nhận (AUP) để bạn xác nhận.

Sau khi xác nhận các chính sách, bạn có thể triển khai điểm cuối của mô hình và sử dụng nó thông qua các bước trong phần tiếp theo.

Triển khai mô hình Llama 2 Neuron thông qua Python SDK

Khi bạn chọn Triển khai và thừa nhận các điều khoản, quá trình triển khai mô hình sẽ bắt đầu. Ngoài ra, bạn có thể triển khai thông qua sổ tay mẫu bằng cách chọn Mở sổ tay. Sổ ghi chép ví dụ cung cấp hướng dẫn từ đầu đến cuối về cách triển khai mô hình để suy luận và dọn sạch tài nguyên.

Để triển khai hoặc tinh chỉnh mô hình trên các phiên bản Trainium hoặc AWS Inferentia, trước tiên bạn cần gọi PyTorch Neuron (ngọn đuốc-neuronx) để biên dịch mô hình thành một biểu đồ dành riêng cho Neuron, biểu đồ này sẽ tối ưu hóa mô hình cho NeuronCores của Inferentia. Người dùng có thể hướng dẫn trình biên dịch tối ưu hóa để có độ trễ thấp nhất hoặc thông lượng cao nhất, tùy thuộc vào mục tiêu của ứng dụng. Trong JumpStart, chúng tôi đã biên dịch trước các biểu đồ Neuron cho nhiều cấu hình khác nhau, để cho phép người dùng thực hiện các bước biên dịch, cho phép tinh chỉnh và triển khai các mô hình nhanh hơn.

Lưu ý rằng biểu đồ được biên dịch trước Neuron được tạo dựa trên một phiên bản cụ thể của phiên bản Trình biên dịch Neuron.

Có hai cách để triển khai LIama 2 trên các phiên bản dựa trên AWS Inferentia. Phương pháp đầu tiên sử dụng cấu hình dựng sẵn và cho phép bạn triển khai mô hình chỉ bằng hai dòng mã. Trong lần thứ hai, bạn có quyền kiểm soát cấu hình tốt hơn. Hãy bắt đầu với phương pháp đầu tiên, với cấu hình dựng sẵn và sử dụng Mô hình nơ-ron Llama 2 13B được đào tạo trước làm ví dụ. Đoạn mã sau đây cho thấy cách triển khai Llama 13B chỉ bằng hai dòng:

from sagemaker.jumpstart.model import JumpStartModel

model_id = "meta-textgenerationneuron-llama-2-13b"
model = JumpStartModel(model_id=model_id)
pretrained_predictor = model.deploy(accept_eula=False) ## To set 'accept_eula' to be True to deploy 

Để thực hiện suy luận trên các mô hình này, bạn cần chỉ định đối số accept_eula được True như là một phần của model.deploy() gọi. Đặt đối số này là đúng, xác nhận bạn đã đọc và chấp nhận EULA của mô hình. EULA có thể được tìm thấy trong phần mô tả thẻ mẫu hoặc từ Trang web meta.

Loại phiên bản mặc định cho Llama 2 13B là ml.inf2.8xlarge. Bạn cũng có thể thử các ID mẫu máy được hỗ trợ khác:

• meta-textgenerationneuron-llama-2-7b
• meta-textgenerationneuron-llama-2-7b-f (mô hình trò chuyện)
• meta-textgenerationneuron-llama-2-13b-f (mô hình trò chuyện)

Ngoài ra, nếu bạn muốn có nhiều quyền kiểm soát hơn đối với các cấu hình triển khai, chẳng hạn như độ dài ngữ cảnh, độ song song tensor và kích thước lô cuộn tối đa, bạn có thể sửa đổi chúng thông qua các biến môi trường, như được minh họa trong phần này. Deep Learning Container (DLC) cơ bản của quá trình triển khai là Suy luận mô hình lớn (LMI) NeuronX DLC. Các biến môi trường như sau:

• OPTION_N_POSITIONS – Số lượng token đầu vào và đầu ra tối đa. Ví dụ: nếu bạn biên dịch mô hình với OPTION_N_POSITIONS là 512, thì bạn có thể sử dụng mã thông báo đầu vào là 128 (kích thước lời nhắc đầu vào) với mã thông báo đầu ra tối đa là 384 (tổng số mã thông báo đầu vào và đầu ra phải là 512). Đối với mã thông báo đầu ra tối đa, bất kỳ giá trị nào dưới 384 đều ổn, nhưng bạn không thể vượt quá giá trị đó (ví dụ: đầu vào 256 và đầu ra 512).
• OPTION_TENSOR_PARALLEL_DEGREE – Số lượng NeuronCore để tải mô hình trong các phiên bản AWS Inferentia.
• OPTION_MAX_ROLLING_BATCH_SIZE – Kích thước lô tối đa cho các yêu cầu đồng thời.
• OPTION_DTYPE – Loại ngày tải mô hình.

Việc biên soạn biểu đồ Neuron phụ thuộc vào độ dài ngữ cảnh (OPTION_N_POSITIONS), độ song song tensor (OPTION_TENSOR_PARALLEL_DEGREE), cỡ lô tối đa (OPTION_MAX_ROLLING_BATCH_SIZE) và kiểu dữ liệu (OPTION_DTYPE) để tải mô hình. SageMaker JumpStart có các biểu đồ Neuron được biên dịch sẵn cho nhiều cấu hình khác nhau cho các tham số trước đó để tránh việc biên dịch trong thời gian chạy. Cấu hình của các biểu đồ được biên dịch trước được liệt kê trong bảng sau. Miễn là các biến môi trường thuộc một trong các loại sau, việc biên dịch biểu đồ Neuron sẽ bị bỏ qua.

Sau đây là ví dụ về triển khai Llama 2 13B và thiết lập tất cả các cấu hình có sẵn.

from sagemaker.jumpstart.model import JumpStartModel

model_id = "meta-textgenerationneuron-llama-2-13b-f"
model = JumpStartModel(
    model_id=model_id,
    env={
        "OPTION_DTYPE": "fp16",
        "OPTION_N_POSITIONS": "4096",
        "OPTION_TENSOR_PARALLEL_DEGREE": "12",
        "OPTION_MAX_ROLLING_BATCH_SIZE": "4", 
    },
    instance_type="ml.inf2.24xlarge"  
)
pretrained_predictor = model.deploy(accept_eula=False) ## To set 'accept_eula' to be True to deploy 

Bây giờ chúng ta đã triển khai mô hình Llama-2-13b, chúng ta có thể chạy suy luận với nó bằng cách gọi điểm cuối. Đoạn mã sau đây minh họa cách sử dụng các tham số suy luận được hỗ trợ để kiểm soát việc tạo văn bản:

• chiều dài tối đa – Mô hình tạo văn bản cho đến khi đạt đến độ dài đầu ra (bao gồm cả độ dài ngữ cảnh đầu vào) max_length. Nếu được chỉ định, nó phải là một số nguyên dương.
• max_new_tokens – Mô hình tạo văn bản cho đến khi đạt độ dài đầu ra (không bao gồm độ dài ngữ cảnh đầu vào) max_new_tokens. Nếu được chỉ định, nó phải là một số nguyên dương.
• số_dầm – Điều này cho biết số lượng chùm tia được sử dụng trong tìm kiếm tham lam. Nếu được chỉ định, nó phải là số nguyên lớn hơn hoặc bằng num_return_sequences.
• no_repeat_ngram_size – Mô hình đảm bảo rằng một chuỗi các từ của no_repeat_ngram_size không được lặp lại trong chuỗi đầu ra. Nếu được chỉ định, nó phải là số nguyên dương lớn hơn 1.
• nhiệt độ – Điều này kiểm soát tính ngẫu nhiên trong đầu ra. Nhiệt độ cao hơn dẫn đến chuỗi đầu ra có các từ có xác suất thấp; nhiệt độ thấp hơn sẽ tạo ra chuỗi đầu ra với các từ có xác suất cao. Nếu như temperature bằng 0, nó dẫn đến giải mã tham lam. Nếu được chỉ định, nó phải là số float dương.
• dừng sớm - Nếu True, việc tạo văn bản kết thúc khi tất cả các giả thuyết chùm đạt đến cuối mã thông báo câu. Nếu được chỉ định, nó phải là Boolean.
• làm_mẫu - Nếu True, mô hình sẽ lấy mẫu từ tiếp theo tùy theo khả năng. Nếu được chỉ định, nó phải là Boolean.
• đầu_k – Trong mỗi bước tạo văn bản, mô hình chỉ lấy mẫu từ top_k những từ có khả năng nhất. Nếu được chỉ định, nó phải là một số nguyên dương.
• đầu_p – Trong mỗi bước tạo văn bản, mô hình lấy mẫu từ tập hợp từ nhỏ nhất có thể có xác suất tích lũy là top_p. Nếu được chỉ định, nó phải là số float trong khoảng từ 0–1.
• dừng lại – Nếu được chỉ định thì phải là danh sách các chuỗi. Việc tạo văn bản sẽ dừng nếu bất kỳ một trong các chuỗi được chỉ định nào được tạo.

Đoạn mã sau đây cho thấy một ví dụ:

payload = {
    "inputs": "I believe the meaning of life is",
    "parameters": {
        "max_new_tokens": 64,
        "top_p": 0.9,
        "temperature": 0.6,
    },
}

response = pretrained_predictor.predict(payload)

Đầu ra:

I believe the meaning of life is
>  to be happy. I believe that happiness is a choice. I believe that happiness 
is a state of mind. I believe that happiness is a state of being. I believe that 
happiness is a state of being. I believe that happiness is a state of being. I 
believe that happiness is a state of being. I believe

Để biết thêm thông tin về các tham số trong tải trọng, hãy tham khảo thông số chi tiết.

Bạn cũng có thể khám phá việc triển khai các tham số trong máy tính xách tay để thêm thông tin về liên kết của sổ ghi chép.

Tinh chỉnh mô hình Llama 2 trên phiên bản Trainium bằng SageMaker Studio UI và SageMaker Python SDK

Các mô hình nền tảng AI sáng tạo đã trở thành trọng tâm chính trong ML và AI, tuy nhiên, khả năng khái quát hóa rộng rãi của chúng có thể bị thiếu hụt trong các lĩnh vực cụ thể như dịch vụ chăm sóc sức khỏe hoặc tài chính, nơi có liên quan đến các bộ dữ liệu duy nhất. Hạn chế này nêu bật sự cần thiết phải tinh chỉnh các mô hình AI tổng quát này bằng dữ liệu theo miền cụ thể để nâng cao hiệu suất của chúng trong các lĩnh vực chuyên biệt này.

Bây giờ chúng tôi đã triển khai phiên bản được đào tạo trước của mô hình Llama 2, hãy xem cách chúng tôi có thể tinh chỉnh dữ liệu này theo miền cụ thể để tăng độ chính xác, cải thiện mô hình về mặt hoàn thành nhanh chóng và điều chỉnh mô hình cho phù hợp trường hợp sử dụng và dữ liệu kinh doanh cụ thể của bạn. Bạn có thể tinh chỉnh các mô hình bằng cách sử dụng SageMaker Studio UI hoặc SageMaker Python SDK. Chúng tôi thảo luận về cả hai phương pháp trong phần này.

Tinh chỉnh mô hình Neuron Llama-2-13b với SageMaker Studio

Trong SageMaker Studio, điều hướng đến mô hình Llama-2-13b Neuron. trên Triển khai tab, bạn có thể trỏ đến Dịch vụ lưu trữ đơn giản của Amazon (Amazon S3) chứa tập dữ liệu huấn luyện và xác thực để tinh chỉnh. Ngoài ra, bạn có thể định cấu hình cấu hình triển khai, siêu tham số và cài đặt bảo mật để tinh chỉnh. Sau đó chọn Train để bắt đầu công việc đào tạo trên phiên bản SageMaker ML.

Để sử dụng mô hình Llama 2, bạn cần chấp nhận EULA và AUP. Nó sẽ hiện lên khi bạn chọn Train. Chọn Tôi đã đọc và chấp nhận EULA và AUP để bắt đầu công việc tinh chỉnh.

Bạn có thể xem trạng thái công việc đào tạo của mình cho mô hình tinh chỉnh trong bảng điều khiển SageMaker bằng cách chọn Công việc đào tạo trong khung điều hướng.

Bạn có thể tinh chỉnh mô hình Llama 2 Neuron của mình bằng cách sử dụng ví dụ không có mã này hoặc tinh chỉnh thông qua Python SDK, như được minh họa trong phần tiếp theo.

Tinh chỉnh mô hình Neuron Llama-2-13b thông qua SageMaker Python SDK

Bạn có thể tinh chỉnh tập dữ liệu bằng định dạng thích ứng tên miền hoặc tinh chỉnh dựa trên hướng dẫn định dạng. Sau đây là hướng dẫn về cách định dạng dữ liệu huấn luyện trước khi gửi vào tinh chỉnh:

• Đầu vào - A train thư mục chứa tệp được định dạng dòng JSON (.jsonl) hoặc văn bản (.txt).
  • Đối với tệp dòng JSON (.jsonl), mỗi dòng là một đối tượng JSON riêng biệt. Mỗi đối tượng JSON phải được cấu trúc dưới dạng một cặp khóa-giá trị, trong đó khóa phải là textvà giá trị là nội dung của một ví dụ huấn luyện.
  • Số lượng tệp trong thư mục tàu phải bằng 1.
• Đầu ra – Một mô hình được đào tạo có thể được triển khai để suy luận.

Trong ví dụ này, chúng tôi sử dụng một tập hợp con của Tập dữ liệu Dolly ở dạng điều chỉnh lệnh. Bộ dữ liệu Dolly chứa khoảng 15,000 bản ghi hướng dẫn theo nhiều danh mục khác nhau, chẳng hạn như trả lời câu hỏi, tóm tắt và trích xuất thông tin. Nó có sẵn theo giấy phép Apache 2.0. Chúng tôi sử dụng information_extraction ví dụ để tinh chỉnh.

1. Tải tập dữ liệu Dolly và chia nó thành train (để tinh chỉnh) và test (để đánh giá):

   from datasets import load_dataset
   
   dolly_dataset = load_dataset("databricks/databricks-dolly-15k", split="train")
   
   task = "information_extraction"
   To train for summarization/closed question and answering, you can replace the assertion in next line to example["category"] == "sumarization"/"closed_qa".
   summarization_dataset = dolly_dataset.filter(lambda example: example["category"] == task)
   summarization_dataset = summarization_dataset.remove_columns("category")
   
   We split the dataset into two where test data is used to evaluate at the end.
   train_and_test_dataset = summarization_dataset.train_test_split(test_size=0.1)
   
   Dumping the training data to a local file to be used for training.
   train_and_test_dataset["train"].to_json("train.jsonl")

2. Sử dụng mẫu lời nhắc để xử lý trước dữ liệu ở định dạng hướng dẫn cho công việc đào tạo:

   prompt = ("""Below is an instruction that describes a task, paired with an input 
   that provides further context. Write a response that appropriately completes the 
   request.nn### Instruction:n{instruction}nn### Input:n{context}### 
   Response:n{response}nn<s>""")

3. Kiểm tra các siêu tham số và ghi đè chúng cho trường hợp sử dụng của riêng bạn:

   from sagemaker import hyperparameters
   
   model_id = "meta-textgenerationneuron-llama-2-13b"
   model_version = "1.*"
   
   my_hyperparameters = hyperparameters.retrieve_default(
       model_id=model_id, model_version=model_version
   )
   
   my_hyperparameters["max_input_length"] = "4096" ## you can increase it up to 4096 for sequence length.
   my_hyperparameters["max_steps"] = "25"
   my_hyperparameters["learning_rate"] = "0.0001"
   print(my_hyperparameters)
   
   hyperparameters.validate(model_id=model_id, model_version=model_version, hyperparameters=my_hyperparameters)

4. Tinh chỉnh mô hình và bắt đầu công việc đào tạo SageMaker. Các kịch bản tinh chỉnh dựa trên nơronx-nemo-megatron kho lưu trữ, là phiên bản sửa đổi của gói nemo và Đỉnh đã được điều chỉnh để sử dụng với các phiên bản Neuron và EC2 Trn1. Các nơronx-nemo-megatron kho lưu trữ có tính song song 3D (dữ liệu, tensor và đường ống) để cho phép bạn tinh chỉnh LLM theo tỷ lệ. Các phiên bản Trainium được hỗ trợ là ml.trn1.32xlarge và ml.trn1n.32xlarge.

   from sagemaker.jumpstart.estimator import JumpStartEstimator
   
   estimator = JumpStartEstimator(
       model_id=model_id,
       model_version=model_version,
       hyperparameters=my_hyperparameters,
       environment={"accept_eula": "false"}, # please change `accept_eula` to be `true` to accept EULA.
       #instance_type="ml.trn1n.32xlarge", if not specified, default `ml.trn1.32xlarge` will be used.
   )
   
   estimator.fit({"train": train_data_location})

5. Cuối cùng, triển khai mô hình tinh chỉnh trong điểm cuối SageMaker:

   finetuned_predictor = estimator.deploy()

So sánh phản hồi giữa các mô hình Llama 2 Neuron được đào tạo trước và tinh chỉnh

Bây giờ, chúng tôi đã triển khai phiên bản được đào tạo trước của mô hình Llama-2-13b và tinh chỉnh nó, chúng tôi có thể xem một số so sánh hiệu suất của các lần hoàn thành nhanh chóng từ cả hai mô hình, như được hiển thị trong bảng sau. Chúng tôi cũng đưa ra một ví dụ để tinh chỉnh Llama 2 trên tập dữ liệu lưu trữ của SEC ở định dạng .txt. Để biết chi tiết, xem Sổ ghi chép ví dụ GitHub.

Chúng ta có thể thấy rằng các phản hồi từ mô hình tinh chỉnh cho thấy sự cải thiện đáng kể về độ chính xác, mức độ phù hợp và độ rõ ràng so với các phản hồi từ mô hình được đào tạo trước. Trong một số trường hợp, việc sử dụng mô hình được đào tạo trước cho trường hợp sử dụng của bạn có thể là không đủ, do đó, việc tinh chỉnh mô hình bằng kỹ thuật này sẽ giúp giải pháp được cá nhân hóa hơn cho tập dữ liệu của bạn.

Làm sạch

Sau khi bạn đã hoàn thành công việc đào tạo của mình và không muốn sử dụng các tài nguyên hiện có nữa, hãy xóa các tài nguyên đó bằng mã sau:

# Delete resources
# Delete the fine-tuned model
finetuned_predictor.delete_model()

# Delete the fine-tuned model endpoint
finetuned_predictor.delete_endpoint()

Kết luận

Việc triển khai và tinh chỉnh các mô hình Llama 2 Neuron trên SageMaker thể hiện sự tiến bộ đáng kể trong việc quản lý và tối ưu hóa các mô hình AI tổng hợp quy mô lớn. Các mô hình này, bao gồm các biến thể như Llama-2-7b và Llama-2-13b, sử dụng Neuron để đào tạo và suy luận hiệu quả trên các phiên bản dựa trên AWS Inferentia và Trainium, nâng cao hiệu suất và khả năng mở rộng của chúng.

Khả năng triển khai các mô hình này thông qua Giao diện người dùng SageMaker JumpStart và Python SDK mang lại sự linh hoạt và dễ sử dụng. SDK Neuron, với sự hỗ trợ cho các khung ML phổ biến và khả năng hiệu suất cao, cho phép xử lý hiệu quả các mô hình lớn này.

Tinh chỉnh các mô hình này trên dữ liệu theo miền cụ thể là rất quan trọng để nâng cao mức độ liên quan và độ chính xác của chúng trong các lĩnh vực chuyên ngành. Quá trình mà bạn có thể thực hiện thông qua SageMaker Studio UI hoặc Python SDK, cho phép tùy chỉnh theo nhu cầu cụ thể, giúp cải thiện hiệu suất mô hình về khả năng hoàn thành nhanh chóng và chất lượng phản hồi.

So sánh, các phiên bản được đào tạo trước của các mô hình này, mặc dù mạnh mẽ, nhưng có thể cung cấp các phản hồi chung chung hoặc lặp đi lặp lại hơn. Việc tinh chỉnh sẽ điều chỉnh mô hình cho phù hợp với các bối cảnh cụ thể, mang lại phản hồi chính xác, phù hợp và đa dạng hơn. Sự tùy chỉnh này đặc biệt rõ ràng khi so sánh các phản hồi từ các mô hình được đào tạo trước và mô hình tinh chỉnh, trong đó mô hình tinh chỉnh thể hiện sự cải thiện rõ rệt về chất lượng và tính đặc hiệu của đầu ra. Tóm lại, việc triển khai và tinh chỉnh các mô hình Neuron Llama 2 trên SageMaker thể hiện một khuôn khổ mạnh mẽ để quản lý các mô hình AI tiên tiến, mang lại những cải tiến đáng kể về hiệu suất và khả năng ứng dụng, đặc biệt là khi được điều chỉnh cho phù hợp với các miền hoặc nhiệm vụ cụ thể.

Hãy bắt đầu ngay hôm nay bằng cách tham khảo mẫu SageMaker máy tính xách tay.

Để biết thêm thông tin về cách triển khai và tinh chỉnh các mô hình Llama 2 đã được huấn luyện trước trên các phiên bản dựa trên GPU, hãy tham khảo Tinh chỉnh Llama 2 để tạo văn bản trên Amazon SageMaker JumpStart và Các mô hình nền tảng Llama 2 từ Meta hiện có sẵn trong Amazon SageMaker JumpStart.

Các tác giả xin ghi nhận những đóng góp về mặt kỹ thuật của Evan Kravitz, Christopher Whitten, Adam Kozdrowicz, Manan Shah, Jonathan Guinegagne và Mike James.

Về các tác giả

Tân Hoàng là Nhà khoa học ứng dụng cấp cao cho Amazon SageMaker JumpStart và các thuật toán tích hợp sẵn của Amazon SageMaker. Anh ấy tập trung vào việc phát triển các thuật toán học máy có thể mở rộng. Mối quan tâm nghiên cứu của ông là trong lĩnh vực xử lý ngôn ngữ tự nhiên, học sâu có thể giải thích được trên dữ liệu dạng bảng và phân tích mạnh mẽ về phân cụm không-thời gian phi tham số. Ông đã xuất bản nhiều bài báo tại các hội nghị ACL, ICDM, KDD và Hiệp hội Thống kê Hoàng gia: Series A.

Nitin Eusebius là Kiến trúc sư giải pháp doanh nghiệp cấp cao tại AWS, có kinh nghiệm về Kỹ thuật phần mềm, Kiến trúc doanh nghiệp và AI/ML. Anh ấy rất đam mê khám phá các khả năng của AI có thể tạo ra. Anh cộng tác với khách hàng để giúp họ xây dựng các ứng dụng có kiến ​​trúc tốt trên nền tảng AWS và tận tâm giải quyết các thách thức công nghệ cũng như hỗ trợ hành trình đám mây của họ.

Madhur Prashant hoạt động trong không gian AI tổng quát tại AWS. Anh ấy đam mê sự giao thoa giữa tư duy của con người và AI. Mối quan tâm của anh nằm ở AI có tính sáng tạo, đặc biệt là xây dựng các giải pháp hữu ích và vô hại, và trên hết là tối ưu cho khách hàng. Ngoài công việc, anh ấy thích tập yoga, đi bộ đường dài, dành thời gian với người em song sinh và chơi guitar.

Dewan Choudhury là Kỹ sư phát triển phần mềm của Amazon Web Services. Anh ấy làm việc trên các thuật toán của Amazon SageMaker và dịch vụ JumpStart. Ngoài việc xây dựng cơ sở hạ tầng AI/ML, anh ấy còn đam mê xây dựng các hệ thống phân tán có thể mở rộng.

Hào Châu là Nhà khoa học nghiên cứu của Amazon SageMaker. Trước đó, anh đã nghiên cứu phát triển các phương pháp học máy để phát hiện gian lận cho Amazon Fraud Detector. Anh ấy đam mê áp dụng các kỹ thuật học máy, tối ưu hóa và AI tổng hợp vào các vấn đề khác nhau trong thế giới thực. Ông có bằng Tiến sĩ Kỹ thuật Điện của Đại học Northwestern.

Thanh Lan là Kỹ sư phát triển phần mềm trong AWS. Anh ấy đã làm việc trên một số sản phẩm đầy thử thách ở Amazon, bao gồm các giải pháp suy luận ML hiệu suất cao và hệ thống ghi nhật ký hiệu suất cao. Nhóm của Qing đã khởi chạy thành công mô hình Tỷ tham số đầu tiên trong Quảng cáo Amazon với độ trễ yêu cầu rất thấp. Qing có kiến ​​thức chuyên sâu về tối ưu hóa cơ sở hạ tầng và tăng tốc Deep Learning.

Tiến sĩ Ashish Khetan là Nhà khoa học ứng dụng cấp cao với các thuật toán tích hợp Amazon SageMaker và giúp phát triển các thuật toán máy học. Ông lấy bằng Tiến sĩ tại Đại học Illinois Urbana-Champaign. Ông là một nhà nghiên cứu tích cực về học máy và suy luận thống kê, đồng thời đã xuất bản nhiều bài báo tại các hội nghị NeurIPS, ICML, ICLR, JMLR, ACL và EMNLP.

Tiến sĩ Li Zhang là Giám đốc sản phẩm-Kỹ thuật chính cho các thuật toán tích hợp của Amazon SageMaker JumpStart và Amazon SageMaker, một dịch vụ giúp các nhà khoa học dữ liệu và người thực hành máy học bắt đầu đào tạo và triển khai các mô hình của họ cũng như sử dụng phương pháp học tăng cường với Amazon SageMaker. Công việc trước đây của ông với tư cách là nhân viên nghiên cứu chính và nhà phát minh bậc thầy tại IBM Research đã giành được giải thưởng bài kiểm tra thời gian tại IEEE INFOCOM.

Kamran Khan, Giám đốc phát triển kinh doanh kỹ thuật cấp cao cho AWS Inferentina/Trianium tại AWS. Ông có hơn một thập kỷ kinh nghiệm giúp khách hàng triển khai và tối ưu hóa khối lượng công việc suy luận và đào tạo deep learning bằng AWS Inferentia và AWS Trainium.

Joe Senerchia là Giám đốc sản phẩm cấp cao tại AWS. Anh xác định và xây dựng các phiên bản Amazon EC2 dành cho deep learning, trí tuệ nhân tạo và khối lượng công việc điện toán hiệu năng cao.

• Phân phối nội dung và PR được hỗ trợ bởi SEO. Được khuếch đại ngay hôm nay.
• PlatoData.Network Vertical Generative Ai. Trao quyền cho chính mình. Truy cập Tại đây.
• PlatoAiStream. Thông minh Web3. Kiến thức khuếch đại. Truy cập Tại đây.
• Trung tâmESG. Than đá, công nghệ sạch, Năng lượng, Môi trường Hệ mặt trời, Quản lý chất thải. Truy cập Tại đây.
• PlatoSức khỏe. Tình báo thử nghiệm lâm sàng và công nghệ sinh học. Truy cập Tại đây.
• nguồn: https://aws.amazon.com/blogs/machine-learning/fine-tune-and-deploy-llama-2-models-cost-effectively-in-amazon-sagemaker-jumpstart-with-aws-inferentia-and-aws-trainium/