Оголошуємо про нові інструменти та можливості для відповідальних інновацій ШІ | Веб-сервіси Amazon

Оголошуємо про нові інструменти та можливості для відповідальних інновацій ШІ | Веб-сервіси Amazon

Мітка часу: 29 листопада 2023 р., 2:01
Вихідний вузол: 2994256

Швидке зростання генеративного штучного інтелекту приносить багатообіцяючі нові інновації та водночас ставить нові виклики. Ці виклики включають деякі, які були звичайними до генеративного штучного інтелекту, такі як упередженість і пояснюваність, а також нові, унікальні для базових моделей (FM), включаючи галюцинації та токсичність. В AWS ми прагнемо відповідально розвивати генеративний ШІ, застосовуючи орієнтований на людей підхід, який надає пріоритет освіті, науці та нашим клієнтам, щоб інтегрувати відповідальний ШІ в наскрізний життєвий цикл ШІ.

Протягом останнього року ми запровадили нові можливості в наших генеративних додатках і моделях ШІ, як-от вбудоване сканування безпеки в Amazon Code Whisperer, навчання виявленню та блокуванню шкідливого вмісту в Амазонський титан, а також захист конфіденційності даних у Amazon Bedrock. Наші інвестиції в безпечний, прозорий і відповідальний генеративний ШІ включають співпрацю з глобальною спільнотою та політиками, оскільки ми заохочували та підтримували як Добровільні зобов’язання Білого дому щодо ШІ та Саміт безпеки ШІ у Великобританії. І ми продовжуємо працювати рука об руку з клієнтами, щоб ввести в дію відповідальний штучний інтелект за допомогою спеціальних інструментів, таких як Роз'яснити Amazon SageMaker, Управління машинним навчанням за допомогою Amazon SageMakerІ багато іншого.

Представляємо нові відповідальні інновації ШІ

Оскільки генеративний штучний інтелект масштабується до нових галузей, організацій і варіантів використання, це зростання має супроводжуватися постійними інвестиціями у відповідальний розвиток FM. Клієнти хочуть, щоб їхні FM створювалися з урахуванням безпеки, чесності та безпеки, щоб вони, у свою чергу, могли відповідально розгортати ШІ. Цього року на AWS re:Invent ми раді оголосити про нові можливості для сприяння відповідальним генеративним інноваціям штучного інтелекту в широкому наборі можливостей із новими вбудованими інструментами, захистом клієнтів, ресурсами для підвищення прозорості та інструментами для боротьби з дезінформацією. Ми прагнемо надати клієнтам інформацію, необхідну для оцінки FM за ключовими критеріями відповідального штучного інтелекту, як-от токсичність і надійність, і запровадити огорожі для застосування заходів безпеки на основі випадків використання клієнтами та політики відповідального штучного інтелекту. У той же час наші клієнти хочуть бути краще поінформованими про безпеку, справедливість, безпеку та інші властивості служб AI та FM, коли вони використовують їх у своїй організації. Ми раді оголосити про додаткові ресурси, щоб допомогти клієнтам краще зрозуміти наші послуги зі штучним інтелектом AWS і забезпечити необхідну прозорість.

Впровадження заходів безпеки: огородження для Amazon Bedrock

Безпека є пріоритетом, коли мова заходить про масштабне впровадження генеративного ШІ. Організації хочуть сприяти безпечній взаємодії між своїми клієнтами та генеративними програмами штучного інтелекту, які уникають шкідливої ​​чи образливої ​​лексики та відповідають політиці компанії. Найпростіший спосіб зробити це — запровадити узгоджені заходи безпеки в усій організації, щоб кожен міг безпечно впроваджувати інновації. Вчора ми анонсували попередній перегляд Огородження для Amazon Bedrock—нова можливість, яка спрощує реалізацію захисних заходів для конкретної програми на основі випадків використання клієнтами та відповідальних політик ШІ.

Огородження забезпечують послідовність у тому, як FM на Amazon Bedrock реагують на небажаний і шкідливий вміст у програмах. Клієнти можуть застосувати огородження до великих мовних моделей на Amazon Bedrock, а також до точно налаштованих моделей і в поєднанні з Агенти Amazon Bedrock. Guardrails дозволяє вказувати теми, яких слід уникати, а сервіс автоматично виявляє та запобігає запитам і відповідям, які належать до заборонених категорій. Клієнти також можуть налаштувати порогові значення фільтра вмісту для різних категорій, включаючи мову ненависті, образи, сексуальну мову та насильство, щоб фільтрувати шкідливий вміст до потрібного рівня. Наприклад, програму онлайн-банкінгу можна налаштувати, щоб уникнути надання інвестиційних порад і обмежити неприйнятний вміст (наприклад, ворожі висловлювання, образи та насильство). Найближчим часом клієнти також зможуть редагувати ідентифікаційну інформацію (PII) у введених користувачами та відповідях FM, встановлювати фільтри ненормативної лексики та надавати список спеціальних слів для блокування взаємодії між користувачами та FM, покращуючи відповідність і далі захист користувачів. З Guardrails ви можете швидше впроваджувати інновації за допомогою генеративного штучного інтелекту, зберігаючи при цьому засоби захисту та гарантії відповідно до політики компанії.

Визначення найкращого FM для конкретного випадку використання: оцінка моделі в Amazon Bedrock

Сьогодні організації мають широкий спектр FM-опцій для забезпечення своїх генеративних додатків ШІ. Щоб досягти правильного балансу між точністю та продуктивністю для свого випадку використання, організації повинні ефективно порівнювати моделі та знаходити найкращий варіант на основі ключових відповідальних показників ШІ та якості, які важливі для них. Щоб оцінити моделі, організації повинні спершу витратити дні на визначення контрольних показників, налаштування інструментів оцінювання та проведення оцінок, усе це вимагає глибоких знань у галузі даних. Крім того, ці тести не корисні для оцінки суб’єктивних критеріїв (наприклад, голос бренду, релевантність і стиль), які вимагають судження через виснажливі, трудомісткі робочі процеси перевірки людьми. Час, досвід і ресурси, необхідні для цих оцінок — для кожного нового сценарію використання — ускладнюють організаціям оцінку моделей за відповідальними параметрами ШІ та прийняття усвідомленого вибору щодо того, яка модель забезпечить найбільш точний і безпечний досвід для їхніх клієнтів.

Тепер доступний у попередньому перегляді, Оцінка моделі на Amazon Bedrock допомагає клієнтам оцінювати, порівнювати та вибирати найкращі FM для їх конкретного випадку використання на основі користувацьких показників, таких як точність і безпека, використовуючи автоматичне або людське оцінювання. У консолі Amazon Bedrock клієнти вибирають FM, які вони хочуть порівняти для певного завдання, наприклад відповіді на запитання чи підсумовування вмісту. Для автоматичного оцінювання клієнти вибирають попередньо визначені критерії оцінювання (наприклад, точність, надійність і токсичність) і завантажують власний набір даних тестування або вибирають із вбудованих загальнодоступних наборів даних. Для суб’єктивних критеріїв або нюансів вмісту, що потребує судження, клієнти можуть легко налаштувати робочі процеси людського оцінювання лише кількома клацаннями миші. Ці робочі процеси використовують внутрішню робочу групу клієнта або використовують керовану робочу силу, надану AWS, для оцінки відповідей моделі. Під час людського оцінювання клієнти визначають показники використання в конкретних випадках (наприклад, релевантність, стиль і голос бренду). Після того, як клієнти завершать процес налаштування, Amazon Bedrock проводить оцінювання та створює звіт, щоб клієнти могли легко зрозуміти, як модель працює за ключовими критеріями безпеки та точності, і вибрати найкращу модель для свого випадку використання.

Ця можливість оцінювати моделі не обмежується лише Amazon Bedrock. Клієнти також можуть використовувати оцінку моделі в Amazon SageMaker Clarify, щоб легко оцінити, порівняти та вибрати найкращий варіант FM за ключовими показниками якості та відповідальності, такими як точність, надійність і токсичність, у всьому світі. всі FM.

Боротьба з дезінформацією: водяні знаки в Amazon Titan

Сьогодні ми оголосили Генератор зображень Amazon Titan у режимі попереднього перегляду, що дозволяє клієнтам швидко створювати та покращувати високоякісні зображення в масштабі. Ми враховували відповідальний ШІ на кожному етапі процесу розробки моделі, включно з відбором навчальних даних, розбудовою можливостей фільтрації для виявлення та видалення невідповідних даних користувачів і вихідних даних моделі, а також покращення демографічної різноманітності наших вихідних даних моделі. Усі зображення, створені Amazon Titan, за замовчуванням містять невидимий водяний знак, який розроблено, щоб зменшити поширення дезінформації, забезпечуючи непомітний механізм ідентифікації зображень, створених ШІ. AWS є одним із перших постачальників моделей, які широко випустили вбудовані невидимі водяні знаки, які інтегровані у вихідні зображення та розроблені таким чином, щоб бути стійкими до змін.

Зміцнення довіри: підтримка наших моделей і програм із компенсацією

Створення довіри клієнтів є основою AWS. З самого початку ми співпрацюємо з нашими клієнтами, і з розвитком генеративного штучного інтелекту ми залишаємося відданими спільному створенню інноваційних технологій. Щоб клієнти могли використовувати потужність нашого генеративного ШІ, вони повинні знати, що вони захищені. AWS пропонує покриття відшкодування авторських прав на результати таких генеративних служб Amazon: Amazon Titan Text Express, Amazon Titan Text Lite, Amazon Titan Embeddings, Amazon Titan Multimodal Embeddings, Amazon CodeWhisperer Professional, AWS HealthScribe, Амазон Лекс та Амазонка персоналізувати. Це означає, що клієнти, які відповідально користуються службами, захищені від претензій третіх сторін про ймовірне порушення авторських прав результатами, створеними цими службами (див. Розділ 50.10 Умови обслуговування). Крім того, наше стандартне відшкодування IP за користування послугами захищає клієнтів від претензій третіх сторін, які стверджують, що служби та дані, які використовуються для їхнього навчання, порушують права інтелектуальної власності. Іншими словами, якщо ви користуєтеся генеруючою службою штучного інтелекту Amazon, переліченою вище, і хтось подає на вас до суду за порушення прав інтелектуальної власності, AWS захищатиме цей позов, включаючи покриття будь-яких судових рішень проти вас або витрат на врегулювання.

Ми підтримуємо наші генеративні послуги штучного інтелекту та постійно вдосконалюємо їх. Оскільки AWS запускає нові сервіси, а генеративний штучний інтелект продовжує розвиватися, AWS продовжуватиме невпинно зосереджуватися на тому, щоб завоювати та підтримувати довіру клієнтів.

Підвищення прозорості: сервісна картка AWS AI для Amazon Titan Text

We представила сервісні картки AWS AI на re:Invent 2022 як ресурс прозорості, щоб допомогти клієнтам краще зрозуміти наші послуги AWS AI. Сервісні картки штучного інтелекту – це форма відповідальної документації штучного інтелекту, яка надає клієнтам єдине місце для пошуку інформації про передбачувані варіанти використання та обмеження, вибір відповідального дизайну штучного інтелекту, а також найкращі методи розгортання та оптимізації продуктивності наших сервісів штучного інтелекту. Вони є частиною комплексного процесу розробки, який ми беремо на себе, щоб створювати наші послуги відповідальним способом, який стосується справедливості, пояснюваності, правдивості та надійності, управління, прозорості, конфіденційності та безпеки, безпеки та контролю.

У re:Invent цього року ми оголошуємо a нова сервісна картка AI для Amazon Titan Text для збільшення прозорості в моделях основи. Ми також запускаємо чотири нові сервісні картки AI, зокрема: Amazon Comprehend Detect PII, Виявлення токсичності транскрипції Amazon, Amazon Rekognition Face Liveness та AWS HealthScribe. Ви можете дослідити кожну з цих карток на Веб-сайт AWS. Оскільки генеративний штучний інтелект продовжує рости та розвиватися, прозорість того, як технології розробляються, тестуються та використовуються, стане життєво важливим компонентом для завоювання довіри організацій та їхніх клієнтів. У AWS ми прагнемо продовжувати надавати ресурси прозорості, як-от картки AI Service Cards, ширшій спільноті, а також ітерувати та збирати відгуки про найкращі шляхи просування.

Інвестиції у відповідальний ШІ протягом усього життєвого циклу генеративного ШІ

Ми в захваті від нових інновацій, оголошених на re:Invent цього тижня, які надають нашим клієнтам більше інструментів, ресурсів і вбудованих засобів захисту для створення та безпечного використання генеративного ШІ. Від оцінки моделі до захисних огорож і нанесення водяних знаків – клієнти тепер можуть швидше запроваджувати генеративний штучний інтелект у своїй організації, зменшуючи при цьому ризики. Нові засоби захисту для клієнтів, як-от покриття IP-відшкодування, і нові ресурси для підвищення прозорості, як-от додаткові сервісні картки штучного інтелекту, також є ключовими прикладами нашої відданості зміцненню довіри між технологічними компаніями, політиками, громадськими групами, науковцями тощо. Ми продовжуємо робити значні інвестиції у відповідальний штучний інтелект протягом усього життєвого циклу базової моделі, щоб допомогти нашим клієнтам масштабувати штучний інтелект безпечним, безпечним і відповідальним способом.

Про авторів

Пітер Халлінан очолює ініціативи в галузі науки та практики відповідального штучного інтелекту в AWS AI разом із командою відповідальних експертів зі штучного інтелекту. Він має глибокий досвід у галузі штучного інтелекту (PhD, Гарвард) і підприємництва (Blindsight, проданий Amazon). Його волонтерська діяльність включала роботу в якості професора-консультанта в Школі медицини Стенфордського університету та в якості президента Американської торгової палати на Мадагаскарі. Коли є можливість, він вирушає в гори з дітьми: катається на лижах, скелелазіння, походи та рафтинг

Васі Філомін зараз є віце-президентом Generative AI в AWS. Він керує генеративними зусиллями ШІ, зокрема Amazon Bedrock, Amazon Titan і Amazon CodeWhisperer.

Часова мітка:

Більше від AWS Машинне навчання