Twitch、トランスフォビアのジョークを理由に AI 生成のとなりのとなりのショーを禁止

プラトン再発行

フォロワー： 0

ビデオとなりのサインフェルドのなりすまし Nothing, Forever – ジェネレーティブ AI を使用して開発されたシットコム – は、キャラクターの XNUMX 人が誤ってトランスフォビアの冒涜的な言葉を吐き出した後、Twitch で一時的に禁止されました。

奇妙なショーたヘッドライン先週、AI を使用して終わりのないサインフェルドのビジュアルとスクリプトを即興で作成したことに対して芸術を模倣したコメディ、シットコム 30 ロックで予測 15年以上前のこのようなもの。

象徴的なコメディシリーズのキャラクター、ジェリー、ジョージ、エレイン、クレイマーをモデルにしたキャラクターは、OpenAI の GPT-3 言語モデルを使用して完全に構成された会話を発します。テキストはテキスト読み上げアルゴリズムを使用して音声に変換され、背景とシーンも AI によって生成されます。 Nothing, Forever は 24 時間年中無休で Twitch でストリーミング配信され、昨年 7 月に放送が開始されて以来、多くのフォロワーを獲得しています。

しかしチャンネルショーのホストは月曜日に削除されました違反している Twitch のコンテンツポリシー。 Mismatch Media の共同創設者であり、Nothing, Forever の作成者の XNUMX 人である Skyler Hartle 氏は次のように述べています。登録この禁止は、主人公のラリー・ファインバーグが、トランスジェンダーの人々は「社会の構造を台無しにしている」、トランスジェンダーであることは精神疾患であり、「すべてのリベラルはひそかに同性愛者である」と攻撃的なコメントをしたために発行されました。

以下の悪いスタンドアップシーンを見ることができます.

YouTubeのビデオ

ハートル氏は、番組の制作者が OpenAI の GPT-3 モデル Davinci モデルの使用から、Curie という名前のより強力で安価なバージョンの使用に切り替えたときに番組のスクリプトが軌道から外れ、コンテンツを管理するためのソフトウェア機能を実装しなかったと述べました。

「昨夜、ダヴィンチへの接続で問題が発生し、問題が自然に解決するまでの間、キュリーモデルに切り替える必要がありました。これは不適切なテキストが生成されたときであり、すぐにシャットダウンしました。この問題をさらに調査したところ、OpenAI のコンテンツモデレーションツールを正しく活用していないことがわかりました」と彼は語っています。

ハートルは、禁止は一時的なものであり、14日間続くべきであることを確認しました. Mismatch Media は現在、OpenAI のコンテンツモデレーションツールの展開に取り組んでおり、モデルの出力を追跡するための二次システムも検討しています。

「私たちが生成したテキストは間違いでした。私たちは非常に恥ずかしい思いをしており、作成された生成コンテンツがスタッフの価値観や意見をまったく反映していないことを知りました。このような事態が発生したことを非常に残念に思っており、適切な安全対策をすべて講じて、すぐに放送に戻ることを望んでいます」と彼は言いました.

GPT-3 のような大規模な言語モデルは、インターネットからスクレイピングされたテキストからトレーニングされ、不適切で不快な言葉を生成する可能性があります。コンテンツフィルターは最悪のテキストを最小限に抑えることができますが、安全対策を講じていてもスニペットは侵入します。

Twitchの広報担当者が送信した登録ヘイト行為に関する同社のコミュニティガイドラインでは、次のように述べています。

「プライバシー上の理由から、特定の違反についてはコメントしませんが、チャンネルがコミュニティガイドラインまたは利用規約に違反して行動したという証拠がある場合は、適切な措置を講じます。」 ®