テイラー・スウィフトの混乱を受けてXがコンテンツモデレーターを探す

テイラー・スウィフトの混乱を受けてXがコンテンツモデレーターを探す

タイムスタンプ：31年2024月10日午前18時XNUMX分
ソースノード： 3090434

AIが生成したテイラー・スウィフトのX指定画像がプラットフォーム上で拡散したことを受け、Xは児童の性的搾取やその他の露骨なコンテンツに取り組むコンテンツモデレーターをヘッドハンティングしている。

ソーシャルメディア会社は、現在Xだけでなくソーシャルメディアプラットフォーム全体に蔓延しているディープフェイクコンテンツの蔓延に対処するために、フルタイム従業員100人を雇用する予定だ。

信頼と安全センター

イーロン・マスク所有の企業は、追加のスタッフとともに現在、テキサス州オースティンに「信頼と安全のセンター」を開発することも検討している。ここでは、エージェントは、規定に従ってコンテンツをレビューする責任を負います。 会社の安全規則。

こうした動きは、ソーシャル メディア プラットフォームが現在、暴力、人種差別、詐欺、児童の性的搾取を行うために悪者によって使用されていることからも生じています。

「X は子供に焦点を当てた事業を行っていませんが、犯罪者が CSE コンテンツの配信や関与のために当社のプラットフォームを使用するのを阻止し続けるために、これらの投資を行うことが重要です。」 と ジョー・ベナロック氏はX社の事業運営責任者である。

このプラットフォームは、反ユダヤ主義やネオナチのコンテンツの蔓延を受けて批判されている。その結果、多くの広告主がプラットフォームを広めることになりました。

2022年には、 麝香 ソーシャルメディアプラットフォーム（当時はツイッター）を44億ドルで買収し、プラットフォーム上での自由な言論を可能にした。このハイテク億万長者が「会社の信頼と安全業務に関わる人員」を削減したことで非難を浴びたため、これはうまくいかなかった。

また、お読みください。 企業が従業員をAIに置き換える中、テクノロジー業界が大規模な人員削減に見舞われる

一時的な措置

ここ数週間、プラットフォームには AI が生成した露骨な画像が溢れかえりました。 テイラー・スウィフト、 彼女のファンの大勢が、歌手のよりポジティブなイメージを掲げた独自のキャンペーンでこれに対抗するよう促した。ファンはハッシュタグ#ProtectTaylorSwiftを付けて走った。

X の場合、プラットフォームはミュージシャンのさらなる検索をブロックしました。による ニューヨーク·ポスト、月曜日に彼女の名前を検索しようとしたユーザーは、 エラー 再試行するよう求めるメッセージに、「心配しないでください。あなたのせいではありません」と付け加えた。

しかし、ユーザーが彼女の名前の周りに引用符を追加するたびに、彼女の名前を含む投稿が表示され、一部の専門家は、問題へのXのアプローチには多くの要望が残されていると主張した。

ベナロック氏は声明で「これは一時的な措置であり、この問題では安全を優先するため十分な注意を払って行われた」と述べた。

しかし、テイラー・スウィフトのファンの一部は、ディープフェイク画像を共有したアカウントを報告することにした。

問題を追跡する

生成 AI が世界中で勢いを増しており、悪意のあるコンテンツを拡散するために利用できる洗練されたツールも登場しています。テイラー・スウィフトの事件では、ディープフェイク検出グループのリアリティ・ディフェンダーが、ポップスターを描いた多数のポルノ資料を特にXで追跡したが、その他の資料はFacebookやその他のソーシャルメディアプラットフォーム上にあった。

脅威インテリジェンスグループ Memetica の Ben Decker 氏によると、 Taylor Swift 最初は、AI によって生成されたセレブ女性の性的に露骨な画像に特化した Lewd DALL-E と呼ばれるキャンペーンから生まれました。

「これは、トロールとプラットフォームとの間の長年にわたる敵対関係の一部です」とデッカー氏は述べた。

「プラットフォームが存在する限り、荒らしはプラットフォームを破壊しようとします。そして、荒らしが存在する限り、プラットフォームは破壊されるでしょう。そこで本当に疑問になるのは、深刻な変化が起こるまであと何回このようなことが起こるだろうかということだ。」

　 ホワイトハウス 金曜日、この問題を重視し、偽画像を「憂慮すべき」と呼び、ソーシャルメディアプラットフォームに次のように呼びかけた。 責任を引き受ける 誤った情報の拡散を防ぐため。

タイムスタンプ：

より多くの メタニュース