Twitch Bans AI-generated Seinfeld Show For Making Transphobic Jokes

Перевидано Платоном

читають: 0

Відео Пародія Seinfeld Nothing, Forever – ситком, розроблений за допомогою генеративного штучного інтелекту – була тимчасово заборонена на Twitch після того, як один із персонажів випадково викинув трансфобну ненормативну лексику.

Дивне шоу зробив заголовки минулого тижня за використання штучного інтелекту для імпровізації візуальних зображень і сценарію нескінченного епізоду Seinfeld. У комедії, що наслідує мистецтво, ситкомі 30 Rock передвіщений щось подібне більше 15 років тому.

Персонажі, створені за зразком персонажів культових комедійних серіалів Джеррі, Джорджа, Елейн і Крамера, виголошують діалог, повністю створений за допомогою мовних моделей OpenAI GPT-3. Текст перекладається на аудіо за допомогою алгоритмів перетворення тексту в мовлення, а фон і сцени також створюються ШІ. Нічого, Forever транслювався на Twitch цілодобово та без вихідних і залучив багато підписників з моменту початку трансляції в грудні минулого року.

Але канал ведення шоу було припинено в понеділок порушуючи Політика Twitch щодо вмісту. Скайлер Хартл, співзасновник Mismatch Media та один із творців Nothing, Forever, розповів Реєстр заборона була видана через те, що головний герой, Ларрі Фейнберг, робив образливі коментарі про те, що трансгендери «руйнують тканину суспільства», бути трансгендером є психічним захворюванням і що «всі ліберали таємно геї».

Ви можете переглянути погану сцену стендапу нижче.

Youtube Video

Хартл сказав, що сценарій шоу відхилився від шляху, коли його творці перейшли від використання моделі Davinci GPT-3 OpenAI до менш потужної та дешевшої версії під назвою Curie, і не реалізували функції програмного забезпечення для модерації її вмісту.

«Учора ввечері у нас виникла проблема з підключенням до Davinci, і довелося перейти на модель Кюрі, поки проблема не вирішилася сама собою. Тоді був згенерований невідповідний текст, і ми негайно закрили його. Ми продовжили дослідження проблеми та виявили, що ми неправильно використовуємо інструменти модерації контенту OpenAI», — сказав він нам.

Хартл підтвердив, що заборона є тимчасовою і має тривати 14 днів. Зараз Mismatch Media працює над розгортанням інструментів модерації контенту OpenAI, а також розглядає додаткову систему для відстеження результатів моделі.

«Текст, який ми створили, був помилкою, ми дуже збентежені, і що створений генеративний контент жодним чином не відображає цінності чи думки наших співробітників. Ми дуже шкодуємо, що це сталося, і сподіваємося, що скоро повернемося в ефір із усіма відповідними запобіжними заходами», — сказав він.

Великі мовні моделі, такі як GPT-3, навчаються на основі тексту, взятого з Інтернету, і можуть створювати неприйнятні, образливі висловлювання. Фільтри вмісту можуть мінімізувати найгірший текст, але фрагменти все одно проникнуть крізь нього навіть із запобіжними заходами.

Представник Twitch надіслав Реєстр керівні принципи спільноти компанії, що стосуються ненависті, і сказав:

«Ми не коментуємо конкретні порушення з міркувань конфіденційності, але ми вживаємо відповідних заходів, коли маємо докази того, що канал порушує наші Правила спільноти чи Умови використання». ®