Twitch запретил созданное искусственным интеллектом шоу Сейнфельда за трансфобные шутки

Переиздано Платоном

Читают: 0

Видео Пародия Seinfeld «Ничего, навсегда» — ситком, разработанный с использованием генеративного ИИ, — был временно заблокирован на Twitch после того, как один из персонажей случайно изверг трансфобные ненормативную лексику.

Странное шоу сделал заголовки на прошлой неделе за использование ИИ для импровизации визуальных эффектов и сценария бесконечного эпизода «Сайнфелда». В комедии, подражающей искусству, ситкоме 30 Rock предсказанный что-то вроде этого более 15 лет назад.

Персонажи, созданные по образцу персонажей культовых комедийных сериалов Джерри, Джорджа, Элейн и Крамера, произносят диалоги, полностью составленные с использованием языковых моделей OpenAI GPT-3. Текст преобразуется в аудио с использованием алгоритмов преобразования текста в речь, а фоны и сцены также генерируются искусственным интеллектом. Ничего, Forever транслировался на Twitch 24/7 и привлек много подписчиков с тех пор, как он начал транслироваться в декабре прошлого года.

Но канал хостинг шоу был закрыт в понедельник для нарушение Политика Twitch в отношении контента. Скайлер Хартл, соучредитель Mismatch Media и один из создателей Nothing, Forever, рассказал Регистр запрет был введен из-за того, что главный герой Ларри Файнберг сделал оскорбительные комментарии, в которых говорилось, что трансгендеры «разрушают ткань общества», трансгендерность - это психическое заболевание и что «все либералы тайно геи».

Плохую стендап-сцену вы можете посмотреть ниже.

Youtube Video

Хартл сказал, что сценарий шоу отклонился от курса, когда его создатели переключились с использования модели Давинчи модели OpenAI GPT-3 на менее мощную и более дешевую версию под названием Кюри и не реализовали функции программного обеспечения для модерации его контента.

«Прошлой ночью у нас возникла проблема с подключением к Davinci, и нам пришлось переключиться на модель Кюри, пока проблема разрешилась сама собой. Это было тогда, когда был сгенерирован неприемлемый текст, и мы немедленно закрыли его. Мы дополнительно изучили проблему и обнаружили, что неправильно используем инструменты модерации контента OpenAI», — сказал он нам.

Хартл подтвердил, что запрет является временным и должен длиться 14 дней. Mismatch Media в настоящее время работает над развертыванием инструментов модерации контента OpenAI, а также рассматривает возможность создания дополнительной системы для отслеживания результатов модели.

«Текст, который мы сгенерировали, был ошибкой, мы очень смущены тем, что созданный генеративный контент никоим образом не отражает ценности или мнения наших сотрудников. Мы очень сожалеем, что это произошло, и надеемся вскоре вернуться в эфир со всеми соответствующими мерами безопасности», — сказал он.

Большие языковые модели, такие как GPT-3, обучаются на основе текста, извлеченного из Интернета, и могут генерировать неприемлемые, оскорбительные выражения. Фильтры содержимого могут свести к минимуму самый плохой текст, но фрагменты все равно будут проникать даже при наличии мер безопасности.

Представитель Twitch прислал Регистр руководящие принципы сообщества компании, касающиеся ненавистнического поведения, и сказал:

«Мы не комментируем конкретные нарушения из соображений конфиденциальности, но предпринимаем соответствующие действия, когда у нас есть доказательства того, что канал действовал в нарушение наших Принципов сообщества или Условий обслуживания». ®