プレイヤーからの抗議を受けて、エピック ゲームズは人気バトル ロイヤル ゲーム フォートナイトにユーザーがアップロードした人種差別的な AI 生成画像を削除すると発表しました。 レポート by Kotaku .
Fortnite を今日の大ヒット オンライン ゲームにした機能の 1 つは、ユーザーが独自のマップを作成し、プレイ可能なエクスペリエンスを世界と共有できる機能です。ただし、この創造性のはけ口は、ユーザーが問題のあるコンテンツをアップロードする可能性があることを意味しており、それがここで起こっていることです。
最近、ユーザーは、AI が生成した粗雑な画像を含む島の地図が、人種差別的な固定観念を広めていることに気づき始めました。として Kotaku 報告によると、地図の例としては、「アラブ ゾーンウォーズ」、「ナイジェリア ゾーンウォーズ」、「中国ゾーンウォーズ」などの名前のマップが挙げられます。
地図には、爆弾を持った中東の男性やフライドチキンを食べる黒人男性など、固定概念を永続させる人種差別的かつ明らかにAIが生成した画像が掲載されていた。これらのマップのほとんどはサーバー人口が少ない一方で、35,000 つのマップ「Jamaica Zonewars」には今月初めに XNUMX 人を超えるアクティブ プレイヤーがいました。
画像: Fortnite Creative でユーザーが「炎上」した禁止された島のアートワーク。 「言及されている島の多くはすでに削除されており、クリエイターは措置を講じた」とエピック ゲームズは語った。 Kotaku 声明で。 「私たちはすでに、この類似のサムネイル形式を使用するコンテンツ違反のある 100 以上の島に対処しており、今後も対処していくつもりです。」
Epic Gamesは、差別的なコンテンツは『フォートナイト』に存在する余地はなく、同社の島クリエイター規定に違反すると付け加え、これらのガイドラインに違反したユーザーはアカウントを永久に禁止される可能性があると付け加えた。
「私たちの人間のモデレーションチームは、公開前にすべてのコンテンツをレビューしており、プレイヤーに届く違反マップの数を最小限に抑えるために、島クリエイターのルールとモデレーショントレーニングプログラムを積極的に更新しています」とエピックゲームズは述べています。 「ルールに違反している可能性のある島を見つけたら、プレイヤーに報告することをお勧めします。」
に記載されているステートメントで 解読する のGG、エピックゲームズは、ユーザーが作成したすべての島は公開前にモデレーターによってレビューされるが、チームは軽いタッチで行うと述べました。
画像: Fortnite Creative のユーザー「drzen」による禁止された島のアートワーク。 「過剰な検閲を行わないように、コンテンツ違反について確信が持てない場合は、クリエイターに代わって善意を想定するようモデレーションチームに依頼しています」とエピックゲームズは述べた。 「場合によっては、公開すべきではないものが公開されてしまうことを意味します。私たちは問題のあるコンテンツを削除し、モデレーター向けの新しいトレーニング資料を作成するために迅速に取り組んでいます。私たちのクリエイター規定に違反していることが判明したクリエイターは、永久的な出版や収益化の禁止を含むさまざまな強制措置に直面します。」
出版社は、「島クリエイターのルールとモデレーショントレーニングプログラム」の更新に取り組んでいると付け加えた。
に参加する generative AI 大流行、Epic Games ストアが始まりました 許可 9 月には AI アートやその他の要素をフィーチャーしたゲームと投稿が行われました。これは当初、ライバルの PC ゲーム市場である Steam に続くものでした AIコンテンツに対して反対の姿勢をとった しかし、それは持っている ルールが緩和されてから そのような投稿が増加している中。
Epic Games の創設者兼 CEO、ティム・スウィーニー氏は「新しいテクノロジーの使用を理由にゲームを禁止することはありません」と述べています。 書いた 当時Twitterで、エピックゲームズがその年の初めに完全なセルフパブリッシングを開始したことに注目した。
AI 開発者はモデルから不快な画像を削除するために多額の投資を行ってきましたが、ユーザーは特殊なプロンプトを使用してモデルを「脱獄」する方法を見つけました。 10月にはAIが生成した画像が公開された。 スポンジボブ スクエアパンツや任天堂のカービィがジェット旅客機で世界貿易センターに突っ込む様子は急速に広まりました。
による編集 アンドリューヘイワード
暗号ニュースを常に把握し、受信トレイで毎日更新を入手してください。
