Генеральный директор OpenAI предстает перед Сенатом и призывает к регулированию ИИ

Генеральный директор OpenAI предстает перед Сенатом и призывает к регулированию ИИ

Отметка времени: 17 мая 2023 г., 3:00
Исходный узел: 2659898

Генеральный директор OpenAI Сэм Альтман предстал перед Конгрессом во вторник, чтобы свидетельствовать об опасностях и возможностях ИИ, заявив, что существует «срочная» потребность в регулировании.

38-летний руководитель в основном согласился с членами подкомитета Сената в необходимости укротить все более мощный ИИ, созданный его компанией и другими крупными технологическими фирмами, такими как Google и Microsoft.

Читайте также: Как использовать новую функцию WhatsApp «Блокировка чата»

В своих показаниях Альтман умолял законодателей регулировать ИИ, поскольку члены комитета продемонстрировали многообещающее понимание технологии.

Слушание также подчеркнуло глубокое беспокойство, которое испытывают технологи и правительство по поводу его потенциального вреда.

«Мы считаем, что регулирующее вмешательство со стороны правительств будет иметь решающее значение для снижения рисков, связанных со все более мощными (ИИ) моделями», — сказал он.

Появление Альтмана произошло после вирусного успеха ChatGPT, инструмента чат-бота его компании, который спровоцировал гонку вооружений из-за ИИ и вызвал опасения некоторых законодателей по поводу рисков, связанных с этой технологией.

В последние месяцы ряд технологических фирм со всего мира развернули новые инструменты искусственного интеллекта, которые могут изменить то, как люди работают и взаимодействуют. Те же инструменты также вызвали критику из-за их способности разрушить миллионы рабочих мест, распространить дезинформацию и увековечить предубеждения.

ИИ как инструмент манипуляции

Босс OpenAI — сказал возможность использования ИИ для манипулирования избирателями и направленной дезинформации входит в число «областей, вызывающих у меня наибольшую озабоченность», особенно потому, что «в следующем году нас ждут выборы, и эти модели улучшаются».

Перед слушанием Альтман также говорил о OpenAI-х технологий на ужине с десятками членов Палаты представителей в понедельник вечером и, как сообщается, встречался наедине с несколькими сенаторами.

По данным New York Times отчетуАльтман предложил свободную структуру для управления тем, что произойдет дальше с быстро развивающимися системами, которые, по мнению некоторых, могут коренным образом изменить экономику.

«Я думаю, что если технология пойдет не так, она может пойти совсем не так. И мы хотим заявить об этом», — сказал он. «Мы хотим работать с правительством, чтобы этого не произошло».

Отвечая на вопрос о влиянии ИИ на музыку, Альтман сказал, что создатели контента должны иметь право голоса в том, как их голоса, изображение или контент, защищенный авторским правом, используются для обучения моделей ИИ.

Он также сообщил комитету, что его компания работает над системой авторского права, чтобы компенсировать художникам, чья работа была использована для создания чего-то нового.

«Создатели заслуживают контроля», — заявил он, добавив, что регулирование должно требовать состояния изображений, когда они были созданы искусственным интеллектом. Однако некоторые законодатели спросили, достаточно ли делает OpenAI, задав вопрос, почему компания не может реализовать это немедленно.

Отставание от регулирования

Выступая перед журналистами после слушания председатель сенатской комиссии сенатор Ричард Блюменталь сказал, что слушание было первым в серии, на котором больше узнали о потенциальных преимуществах и вреде ИИ, чтобы в конечном итоге «написать правила». Он добавил, что Альтман казался «довольно искренним», подчеркнув, что «Конгресс не может быть привратником» регулирования ИИ.

Сенатор Блюменталь признает, что кто-то другой должен взять на себя роль регулирующего органа, потому что Федеральная торговая комиссия сейчас нет возможности».

Сенатор также признал, что Конгресс не успевал за внедрением новых технологий в прошлом.

«Наша цель — демистифицировать и привлечь к ответственности эти технологии, чтобы избежать некоторых ошибок прошлого. Конгресс не смог встретить момент в социальных сетях».

Члены подкомитета предложили создать независимый орган для надзора за ИИ и внедрения правил, заставляющих компании раскрывать, как работают их модели и какие наборы данных они используют. А также антимонопольные правила, чтобы не допустить монополизации рынка такими компаниями, как Microsoft и Google.

Взяв листок из ЕС

Профессор Гэри Маркус, скептически относящийся к ИИ, сказал, что США и другие страны «слишком медленно действовали с регулированием социальных сетей», но у них есть выбор, который нужно сделать в отношении ИИ, предложив новое агентство на уровне кабинета министров для регулирования сектора. казалось, поддержал.

Директор IBM по вопросам конфиденциальности и доверия Кристина Монтгомери заявила, что правила ЕС на ИИ «регулируются контекстом» и послужили хорошим примером для США.

Регулирование ИИ вызвало большой интерес с момента бума в этом секторе, вызванного ChatGPT, когда на рынок появилось множество новых инструментов.

В Европе, законодатели намерены ввести правила, регулирующие сектор, позже в этом году, в то время как в Китае, стране придумал правила ИИ которые соблюдают его законы о цензуре.

Заинтересованные стороны в области технологий, такие как Илон Маск, подписали письмо призывая к остановке разработки ИИ до тех пор, пока не будет ясности в отношении регулирования, ссылаясь на его потенциальный вред человечеству.

Сенатор Блюменталь сказал, что компании, занимающиеся ИИ, должны руководствоваться принципом «не навреди», но признал, что в развитии ИИ не будет паузы, пока регулирующие органы не наверстают упущенное.

ПОДЕЛИТЬСЯ ЭТОЙ ЗАПИСЬЮ

Отметка времени:

Больше от МетаНьюс