Генеральний директор OpenAI виступає перед Сенатом із закликом до регулювання ШІ

Генеральний директор OpenAI виступає перед Сенатом із закликом до регулювання ШІ

Мітка часу: 17 травня 2023 3:00
Вихідний вузол: 2659898

Генеральний директор OpenAI Сем Альтман виступив перед Конгресом у вівторок, щоб засвідчити небезпеки та можливості ШІ, заявивши, що існує «термінова» потреба в регулюванні.

38-річний керівник в основному погодився з членами підкомітету Сенату щодо необхідності приборкати все більш потужний ШІ, створений його компанією та іншими великими технологічними компаніями, такими як Google і Microsoft.

Читайте також: Як користуватися новою функцією «Блокування чату» WhatsApp

У своїх свідченнях Альтман благав законодавців регулювати штучний інтелект, оскільки члени комітету продемонстрували глибоке розуміння технології.

Слухання також підкреслили глибоке занепокоєння, яке відчувають технологи та уряд щодо його потенційної шкоди.

«Ми вважаємо, що регулятивне втручання урядів буде мати вирішальне значення для пом’якшення ризиків все більш потужних моделей (AI), — сказав він.

Поява Альтмана відбулася після вірусного успіху ChatGPT, інструменту чат-бота його компанії, який спровокував гонку озброєнь щодо ШІ та викликав занепокоєння деяких законодавців щодо ризиків, пов’язаних із технологією.

Список технологічних компаній з усього світу за останні місяці розгорнули нові інструменти ШІ, які можуть змінити спосіб роботи та взаємодії людей. Ті самі інструменти також викликали критику через їхній потенціал знищити мільйони робочих місць, поширювати дезінформацію та підтримувати упередження.

AI як інструмент для маніпуляції

Бос OpenAI сказав можливість використання штучного інтелекту для маніпулювання виборцями та дезінформації є одними з «сфер, що викликають у мене найбільше занепокоєння», особливо тому, що «наступного року ми зіткнемося з виборами, і ці моделі стають кращими».

Перед слуханням Альтман також говорив про OpenAI технології під час вечері з десятками членів Палати представників у понеділок увечері, і, як повідомляється, зустрівся приватно з кількома сенаторами.

За матеріалами New York Times звітом, Альтман запропонував вільну структуру для управління тим, що станеться далі з системами, що швидко розвиваються, які, на думку деяких, можуть фундаментально змінити економіку.

«Я думаю, що якщо технологія піде не так, вона може піти зовсім не так. І ми хочемо говорити про це", - сказав він. «Ми хочемо працювати з урядом, щоб цього не сталося».

Відповідаючи на запитання про вплив штучного інтелекту на музику, Альтман сказав, що творці контенту повинні вирішувати, як їхні голоси, образи чи захищений авторським правом вміст використовуються для навчання моделей ШІ.

Він також повідомив комітету, що його компанія працює над системою авторського права, щоб компенсувати художникам, чиї роботи були використані для створення чогось нового.

«Творці заслуговують на контроль», — заявив він, додавши, що регулювання повинно вимагати стану зображень, коли вони були створені ШІ. Однак деякі законодавці запитали, чи OpenAI робить достатньо, сумніваючись, чому компанія не може впровадити це негайно.

Відставання в регулюванні

Розмовляючи з журналістами Після слухань голова сенатської групи сенатор Річард Блюменталь сказав, що слухання були першими в серії, щоб дізнатися більше про потенційні переваги та шкоду штучного інтелекту, щоб зрештою «написати правила». Він додав, що Альтман, здавалося, був «досить щирим», підкресливши, що «Конгрес не може бути привратником» у регулюванні ШІ.

Сенатор Блюменталь визнає, що хтось інший має активізуватися та відігравати регулюючу роль, оскільки « Федеральна торгова комісія зараз не має можливостей».

Сенатор також визнав нездатність Конгресу встигати за впровадженням нових технологій у минулому.

«Наша мета — демістифікувати та притягнути до відповідальності ці технології, щоб уникнути деяких помилок минулого. Конгрес не зміг зустріти момент у соціальних мережах».

Члени підкомітету запропонували створити незалежний орган для нагляду за штучним інтелектом і впровадження правил, які зобов’язують компанії розкривати, як працюють їхні моделі, і набори даних, які вони використовують. А також антимонопольні правила, щоб запобігти монополізації ринку такими компаніями, як Microsoft і Google.

Беручи аркуш з ЄС

Професор-скептик щодо штучного інтелекту Гарі Маркус сказав, що США та інші країни «діють надто повільно з регулюванням соціальних медіа», але мають вибір щодо штучного інтелекту, запропонувавши нове агентство на рівні кабінету міністрів, яке б регулювало цей сектор, ідею Альтмана також з'явився до спини.

Про це заявила керівник відділу конфіденційності та довіри IBM Крістіна Монтгомері правила ЄС щодо штучного інтелекту «регулюють за контекстом» і забезпечили хороший приклад для США.

Регулювання штучного інтелекту викликало великий інтерес після буму сектору, спричиненого ChatGPT, і на ринок з’явилася низка нових інструментів.

В Європі, законодавці збираються запровадити правила, які регулюють цей сектор, пізніше цього року, перебуваючи в Китаї, країні розробив правила ШІ які відповідають законам цензури.

Зацікавлені технічні сторони, такі як Ілон Маск, підписали лист закликаючи припинити розробку штучного інтелекту, доки не буде ясного регулювання, посилаючись на його потенційну шкоду для людства.

Сенатор Блюменталь сказав, що компанії, які займаються штучним інтелектом, повинні керуватися підходом «не нашкодь», але визнав, що розробка штучного інтелекту не буде зупинятися, доки регулятори не зможуть наздогнати втрачене.

ПОДІЛИТИСЯ ЦІЄЮ ПУБЛІКАЦІЄЮ

Часова мітка:

Більше від МетаНовини