Công bố các công cụ và khả năng mới để hỗ trợ đổi mới AI có trách nhiệm | Dịch vụ web của Amazon

Công bố các công cụ và khả năng mới để hỗ trợ đổi mới AI có trách nhiệm | Dịch vụ web của Amazon

Dấu thời gian: 29:2023 chiều ngày 2 tháng 01 năm XNUMX
Nút nguồn: 2994256

Sự phát triển nhanh chóng của AI mang lại sự đổi mới đầy hứa hẹn, đồng thời đặt ra những thách thức mới. Những thách thức này bao gồm một số thách thức phổ biến trước AI tổng quát, chẳng hạn như sự thiên vị và khả năng giải thích, và những cái mới độc đáo cho các mô hình nền tảng (FM), bao gồm ảo giác và độc tính. Tại AWS, chúng tôi cam kết phát triển AI sáng tạo một cách có trách nhiệm, áp dụng cách tiếp cận lấy con người làm trung tâm, ưu tiên giáo dục, khoa học và khách hàng của chúng tôi để tích hợp AI có trách nhiệm trong suốt vòng đời AI từ đầu đến cuối.

Trong năm qua, chúng tôi đã giới thiệu các khả năng mới trong các ứng dụng và mô hình AI tổng quát của mình, chẳng hạn như tính năng quét bảo mật tích hợp trong Mã Amazon, đào tạo để phát hiện và chặn nội dung có hại trong người khổng lồ Amazonvà các biện pháp bảo vệ quyền riêng tư dữ liệu trong nền tảng Amazon. Khoản đầu tư của chúng tôi vào AI thế hệ an toàn, minh bạch và có trách nhiệm bao gồm sự hợp tác với cộng đồng toàn cầu và các nhà hoạch định chính sách khi chúng tôi khuyến khích và hỗ trợ cả Cam kết AI tự nguyện của Nhà Trắng và Hội nghị thượng đỉnh về an toàn AI ở Anh. Và chúng tôi tiếp tục hợp tác chặt chẽ với khách hàng để vận hành AI có trách nhiệm bằng các công cụ được xây dựng có mục đích như Làm rõ Amazon SageMaker, Quản trị ML với Amazon SageMaker, Và nhiều hơn nữa.

Giới thiệu cải tiến AI có trách nhiệm mới

Khi AI tổng quát mở rộng quy mô sang các ngành, tổ chức và trường hợp sử dụng mới, sự tăng trưởng này phải đi kèm với sự đầu tư bền vững vào phát triển FM có trách nhiệm. Khách hàng muốn FM của họ được xây dựng với tiêu chí an toàn, công bằng và bảo mật để họ có thể triển khai AI một cách có trách nhiệm. Tại AWS re:Invent năm nay, chúng tôi rất vui mừng được công bố các khả năng mới nhằm thúc đẩy sự đổi mới AI mang tính sáng tạo có trách nhiệm trên một loạt các khả năng với các công cụ tích hợp mới, biện pháp bảo vệ khách hàng, tài nguyên để nâng cao tính minh bạch và các công cụ chống lại thông tin sai lệch. Chúng tôi mong muốn cung cấp cho khách hàng thông tin họ cần để đánh giá FM dựa trên những cân nhắc chính về AI có trách nhiệm, như độc tính và độ bền, đồng thời đưa ra các biện pháp bảo vệ để áp dụng các biện pháp bảo vệ dựa trên trường hợp sử dụng của khách hàng và chính sách AI có trách nhiệm. Đồng thời, khách hàng của chúng tôi muốn được thông tin tốt hơn về sự an toàn, công bằng, bảo mật và các đặc tính khác của dịch vụ AI và FM khi họ sử dụng chúng trong tổ chức của mình. Chúng tôi rất vui mừng được công bố thêm tài nguyên để giúp khách hàng hiểu rõ hơn về các dịch vụ AWS AI của chúng tôi và mang lại sự minh bạch mà họ yêu cầu.

Triển khai các biện pháp bảo vệ: Lan can cho Amazon Bedrock

An toàn là ưu tiên hàng đầu khi giới thiệu AI tổng hợp trên quy mô lớn. Các tổ chức muốn thúc đẩy sự tương tác an toàn giữa khách hàng của họ và các ứng dụng AI tổng quát nhằm tránh ngôn ngữ có hại hoặc xúc phạm và phù hợp với chính sách của công ty. Cách dễ nhất để làm điều đó là áp dụng các biện pháp bảo vệ nhất quán trong toàn bộ tổ chức để mọi người có thể đổi mới một cách an toàn. Hôm qua chúng tôi đã công bố bản xem trước của Lan can cho Amazon Bedrock—một khả năng mới giúp dễ dàng triển khai các biện pháp bảo vệ dành riêng cho ứng dụng dựa trên trường hợp sử dụng của khách hàng và các chính sách AI có trách nhiệm.

Các rào chắn thúc đẩy tính nhất quán trong cách FM trên Amazon Bedrock phản ứng với nội dung không mong muốn và có hại trong các ứng dụng. Khách hàng có thể áp dụng các rào chắn cho các mô hình ngôn ngữ lớn trên Amazon Bedrock cũng như các mô hình được tinh chỉnh và kết hợp với Đại lý cho Amazon Bedrock. Guardrails cho phép bạn chỉ định các chủ đề cần tránh, đồng thời dịch vụ sẽ tự động phát hiện và ngăn chặn các truy vấn cũng như phản hồi thuộc các danh mục bị hạn chế. Khách hàng cũng có thể định cấu hình ngưỡng lọc nội dung theo các danh mục bao gồm lời nói căm thù, lăng mạ, ngôn ngữ khiêu dâm và bạo lực để lọc nội dung có hại đến mức mong muốn. Ví dụ: một ứng dụng ngân hàng trực tuyến có thể được thiết lập để tránh cung cấp lời khuyên đầu tư và hạn chế nội dung không phù hợp (chẳng hạn như lời nói căm thù, lăng mạ và bạo lực). Trong tương lai gần, khách hàng cũng sẽ có thể loại bỏ thông tin nhận dạng cá nhân (PII) trong thông tin đầu vào của người dùng và phản hồi của FM, đặt bộ lọc ngôn từ tục tĩu và cung cấp danh sách các từ tùy chỉnh để chặn trong tương tác giữa người dùng và FM, cải thiện sự tuân thủ và hơn thế nữa. bảo vệ người dùng. Với Guardrails, bạn có thể đổi mới nhanh hơn nhờ AI tổng hợp trong khi vẫn duy trì các biện pháp bảo vệ và bảo vệ nhất quán với chính sách của công ty.

Xác định FM tốt nhất cho trường hợp sử dụng cụ thể: Đánh giá mô hình trong Amazon Bedrock

Ngày nay, các tổ chức có nhiều tùy chọn FM để hỗ trợ các ứng dụng AI tổng hợp của họ. Để đạt được sự cân bằng phù hợp giữa độ chính xác và hiệu suất cho trường hợp sử dụng của mình, các tổ chức phải so sánh hiệu quả các mô hình và tìm ra lựa chọn tốt nhất dựa trên AI chịu trách nhiệm chính và các chỉ số chất lượng quan trọng đối với họ. Để đánh giá các mô hình, trước tiên các tổ chức phải dành nhiều ngày để xác định điểm chuẩn, thiết lập các công cụ đánh giá và thực hiện đánh giá, tất cả đều đòi hỏi chuyên môn sâu về khoa học dữ liệu. Hơn nữa, các thử nghiệm này không hữu ích để đánh giá các tiêu chí chủ quan (ví dụ: tiếng nói thương hiệu, mức độ liên quan và phong cách) đòi hỏi sự đánh giá thông qua quy trình đánh giá con người tẻ nhạt, tốn nhiều thời gian. Thời gian, chuyên môn và nguồn lực cần thiết cho những đánh giá này—đối với mọi trường hợp sử dụng mới—gây khó khăn cho các tổ chức trong việc đánh giá các mô hình dựa trên các khía cạnh AI có trách nhiệm và đưa ra lựa chọn sáng suốt về mô hình nào sẽ mang lại trải nghiệm an toàn, chính xác nhất cho khách hàng của họ.

Hiện có sẵn ở dạng xem trước, Đánh giá mô hình trên Amazon Bedrock giúp khách hàng đánh giá, so sánh và chọn FM tốt nhất cho trường hợp sử dụng cụ thể của họ dựa trên các số liệu tùy chỉnh, chẳng hạn như độ chính xác và an toàn, bằng cách sử dụng đánh giá tự động hoặc đánh giá của con người. Trong bảng điều khiển Amazon Bedrock, khách hàng chọn FM họ muốn so sánh cho một nhiệm vụ nhất định, chẳng hạn như trả lời câu hỏi hoặc tóm tắt nội dung. Để đánh giá tự động, khách hàng chọn tiêu chí đánh giá được xác định trước (ví dụ: độ chính xác, độ bền và độc tính) và tải lên tập dữ liệu thử nghiệm của riêng họ hoặc chọn từ các tập dữ liệu tích hợp sẵn, công khai. Đối với các tiêu chí chủ quan hoặc nội dung có nhiều sắc thái cần có sự phán xét, khách hàng có thể dễ dàng thiết lập quy trình đánh giá dựa trên con người chỉ bằng vài cú nhấp chuột. Các quy trình công việc này tận dụng nhóm làm việc nội bộ của khách hàng hoặc sử dụng lực lượng lao động được quản lý do AWS cung cấp để đánh giá phản hồi của mô hình. Trong quá trình đánh giá dựa trên con người, khách hàng xác định các số liệu dành riêng cho từng trường hợp sử dụng (ví dụ: mức độ liên quan, phong cách và tiếng nói thương hiệu). Sau khi khách hàng hoàn tất quá trình thiết lập, Amazon Bedrock sẽ tiến hành đánh giá và tạo báo cáo để khách hàng có thể dễ dàng hiểu mô hình hoạt động như thế nào theo các tiêu chí chính xác và an toàn, đồng thời chọn mô hình tốt nhất cho trường hợp sử dụng của họ.

Khả năng đánh giá mô hình này không chỉ giới hạn ở Amazon Bedrock, khách hàng còn có thể sử dụng đánh giá mô hình trong Amazon SageMaker Clarify để dễ dàng đánh giá, so sánh và chọn tùy chọn FM tốt nhất dựa trên các số liệu chính về chất lượng và trách nhiệm như độ chính xác, độ bền và độc tính – trên toàn bộ tất cả các FM.

Chống lại thông tin sai lệch: Hình mờ trong Amazon Titan

Hôm nay, chúng tôi đã thông báo Trình tạo hình ảnh Amazon Titan ở dạng xem trước, cho phép khách hàng nhanh chóng tạo ra và nâng cao hình ảnh chất lượng cao trên quy mô lớn. Chúng tôi đã xem xét AI có trách nhiệm trong từng giai đoạn của quá trình phát triển mô hình, bao gồm lựa chọn dữ liệu đào tạo, xây dựng khả năng lọc để phát hiện và loại bỏ đầu vào và đầu ra mô hình không phù hợp của người dùng, đồng thời cải thiện tính đa dạng về nhân khẩu học của đầu ra mô hình của chúng tôi. Theo mặc định, tất cả hình ảnh do Amazon Titan tạo ra đều chứa hình mờ vô hình, được thiết kế để giúp giảm sự lan truyền thông tin sai lệch bằng cách cung cấp cơ chế kín đáo để xác định hình ảnh do AI tạo ra. AWS là một trong những nhà cung cấp mô hình đầu tiên phát hành rộng rãi các hình mờ vô hình tích hợp sẵn vào đầu ra hình ảnh và được thiết kế để chống lại sự thay đổi.

Xây dựng niềm tin: Đứng sau các mô hình và ứng dụng của chúng tôi bằng việc bồi thường

Xây dựng niềm tin của khách hàng là cốt lõi của AWS. Chúng tôi đã đồng hành cùng khách hàng kể từ khi thành lập và với sự phát triển của AI sáng tạo, chúng tôi vẫn cam kết cùng nhau xây dựng công nghệ đổi mới. Để cho phép khách hàng khai thác sức mạnh của AI tổng hợp của chúng tôi, họ cần biết rằng mình được bảo vệ. AWS cung cấp bảo hiểm bồi thường bản quyền cho kết quả đầu ra của các dịch vụ AI tổng hợp sau của Amazon: Amazon Titan Text Express, Amazon Titan Text Lite, Amazon Titan Embeddings, Amazon Titan Multimodal Embeddings, Amazon CodeWhisperer Professional, Người ghi chép sức khỏe AWS, Amazonvà Cá nhân hóa Amazon. Điều này có nghĩa là những khách hàng sử dụng dịch vụ một cách có trách nhiệm sẽ được bảo vệ khỏi các khiếu nại của bên thứ ba cáo buộc vi phạm bản quyền đối với kết quả đầu ra do các dịch vụ đó tạo ra (xem Mục 50.10 của Quy định này). Điều khoản dịch vụ). Ngoài ra, khoản bồi thường IP tiêu chuẩn của chúng tôi khi sử dụng dịch vụ sẽ bảo vệ khách hàng khỏi các khiếu nại của bên thứ ba cáo buộc các dịch vụ và dữ liệu được sử dụng để đào tạo họ vi phạm IP. Nói cách khác, nếu bạn sử dụng dịch vụ AI tổng hợp của Amazon được liệt kê ở trên và ai đó kiện bạn vì vi phạm IP, AWS sẽ bảo vệ vụ kiện đó, bao gồm cả việc chi trả mọi phán quyết chống lại bạn hoặc chi phí giải quyết.

Chúng tôi ủng hộ các dịch vụ AI sáng tạo của mình và nỗ lực liên tục cải tiến chúng. Khi AWS ra mắt các dịch vụ mới và AI tổng hợp tiếp tục phát triển, AWS sẽ tiếp tục tập trung không ngừng vào việc giành và duy trì niềm tin của khách hàng.

Tăng cường tính minh bạch: Thẻ dịch vụ AI AWS cho Amazon Titan Text

We giới thiệu Thẻ dịch vụ AI AWS tại re:Invent 2022 như một nguồn tài nguyên minh bạch để giúp khách hàng hiểu rõ hơn về các dịch vụ AI AWS của chúng tôi. Thẻ dịch vụ AI là một dạng tài liệu AI có trách nhiệm cung cấp cho khách hàng một nơi duy nhất để tìm thông tin về các trường hợp và giới hạn sử dụng dự định, các lựa chọn thiết kế AI có trách nhiệm cũng như các phương pháp hay nhất về triển khai và tối ưu hóa hiệu suất cho các dịch vụ AI của chúng tôi. Chúng là một phần của quy trình phát triển toàn diện mà chúng tôi cam kết xây dựng các dịch vụ của mình một cách có trách nhiệm nhằm giải quyết sự công bằng, khả năng giải thích, tính xác thực và mạnh mẽ, quản trị, tính minh bạch, quyền riêng tư và bảo mật, an toàn và khả năng kiểm soát.

Tại re:Invent năm nay chúng tôi sẽ công bố một Thẻ dịch vụ AI mới cho Amazon Titan Text để tăng tính minh bạch trong các mô hình nền tảng. Chúng tôi cũng sắp ra mắt bốn Thẻ dịch vụ AI mới bao gồm: Amazon Comprehend Phát hiện PII, Phát hiện độc tính của Amazon Transcribe, Sự sống động của khuôn mặt Rekognition của Amazonvà Người ghi chép sức khỏe AWS. Bạn có thể khám phá từng thẻ này trên Trang web AWS. Khi AI tổng hợp tiếp tục phát triển và phát triển, tính minh bạch về cách phát triển, thử nghiệm và sử dụng công nghệ sẽ là một thành phần quan trọng để giành được sự tin tưởng của các tổ chức cũng như khách hàng của họ. Tại AWS, chúng tôi cam kết tiếp tục mang các tài nguyên minh bạch như Thẻ dịch vụ AI đến với cộng đồng rộng lớn hơn—đồng thời lặp lại và thu thập phản hồi về những cách tốt nhất để tiến về phía trước.

Đầu tư vào AI có trách nhiệm trong toàn bộ vòng đời AI tổng quát

Chúng tôi rất vui mừng về những cải tiến mới được công bố tại re:Invent tuần này, mang đến cho khách hàng của chúng tôi nhiều công cụ, tài nguyên hơn và các biện pháp bảo vệ tích hợp để xây dựng và sử dụng AI tổng hợp một cách an toàn. Từ đánh giá mô hình đến lan can cho đến hình mờ, giờ đây khách hàng có thể đưa AI tổng hợp vào tổ chức của mình nhanh hơn, đồng thời giảm thiểu rủi ro. Các biện pháp bảo vệ mới dành cho khách hàng như bảo hiểm bồi thường IP và các tài nguyên mới để nâng cao tính minh bạch như Thẻ dịch vụ AI bổ sung cũng là những ví dụ chính về cam kết của chúng tôi trong việc xây dựng niềm tin giữa các công ty công nghệ, nhà hoạch định chính sách, nhóm cộng đồng, nhà khoa học, v.v. Chúng tôi tiếp tục đầu tư có ý nghĩa vào AI có trách nhiệm trong suốt vòng đời của mô hình nền tảng—để giúp khách hàng của chúng tôi mở rộng quy mô AI theo cách an toàn, bảo mật và có trách nhiệm.

Về các tác giả

Peter Hallinan lãnh đạo các sáng kiến ​​về khoa học và thực hành AI có trách nhiệm tại AWS AI, cùng với một nhóm chuyên gia AI có trách nhiệm. Anh ấy có chuyên môn sâu về AI (Tiến sĩ, Harvard) và tinh thần kinh doanh (Blindsight, đã bán cho Amazon). Các hoạt động tình nguyện của anh ấy bao gồm việc phục vụ với tư cách là giáo sư tư vấn tại Trường Y Đại học Stanford và là chủ tịch Phòng Thương mại Hoa Kỳ tại Madagascar. Khi có thể, anh ấy cùng các con lên núi: trượt tuyết, leo núi, đi bộ đường dài và đi bè

Vasi Philomin hiện là Phó chủ tịch Generative AI tại AWS. Ông lãnh đạo các nỗ lực sáng tạo AI bao gồm Amazon Bedrock, Amazon Titan và Amazon CodeWhisperer.

Dấu thời gian:

Thêm từ Học máy AWS