X sucht nach Content-Moderatoren nach dem Taylor-Swift-Chaos

X sucht Content-Moderatoren, um gegen sexuelle Ausbeutung von Kindern und andere explizite Inhalte vorzugehen, nachdem KI-generierte, nicht jugendfreie Bilder von Taylor Swift auf der Plattform viral gegangen sind.

Das Social-Media-Unternehmen wird 100 Vollzeitmitarbeiter einstellen, um die Verbreitung von Deepfake-Inhalten zu bekämpfen, die mittlerweile nicht nur auf X, sondern auf allen Social-Media-Plattformen verbreitet sind.

Vertrauens- und Sicherheitszentrum

Mit dem zusätzlichen Personal erwägt das Elon Musk-eigene Unternehmen nun auch den Aufbau eines „Vertrauens- und Sicherheitszentrums“ in Austin, Texas. Hier sind die Agenten dafür verantwortlich, die Inhalte gemäß den Richtlinien zu überprüfen Sicherheitsvorschriften des Unternehmens.

Die Entwicklungen kommen auch daher, dass Social-Media-Plattformen mittlerweile von böswilligen Akteuren genutzt werden, um Gewalt, Rassismus, Betrug und sexuelle Ausbeutung von Kindern zu begehen.

„X hat keinen Geschäftsbereich, der sich auf Kinder konzentriert, aber es ist wichtig, dass wir diese Investitionen tätigen, um Straftäter weiterhin davon abzuhalten, unsere Plattform für die Verbreitung oder Auseinandersetzung mit CSE-Inhalten zu nutzen.“ sagte Joe Benarroch, Leiter des Geschäftsbetriebs bei X.

Die Plattform wurde wegen der Verbreitung antisemitischer und neonazistischer Inhalte kritisiert. Dies hat dazu geführt, dass viele Werbetreibende die Plattform verbreiten.

In 2022, Moschus erwarb die Social-Media-Plattform – damals Twitter – für 44 Milliarden US-Dollar, um freie Meinungsäußerung auf der Plattform zu ermöglichen. Das hat nicht gut geklappt, da der Tech-Milliardär in die Kritik geraten ist, nachdem er „die Zahl der Mitarbeiter aus den Vertrauens- und Sicherheitsbereichen des Unternehmens gestrichen hat“.

Lies auch: Die Technologiebranche ist von einem massiven Stellenabbau betroffen, da Unternehmen Arbeitnehmer durch KI ersetzen

Vorübergehende Maßnahmen

In den letzten Wochen wurde die Plattform mit KI-generierten expliziten Bildern von überschwemmt Taylor Swift, Dies veranlasste ihre Legion von Fans, dem mit einer eigenen Kampagne mit positiveren Bildern der Sängerin entgegenzuwirken. Die Fans liefen mit dem Hashtag #ProtectTaylorSwift.

Für X blockierte die Plattform weitere Suchen nach dem Musiker. Entsprechend der New York Post, Benutzer, die am Montag versuchten, nach ihrem Namen zu suchen, erhielten eine Fehler Nachricht mit der Aufforderung, es noch einmal zu versuchen, mit dem Zusatz: „Machen Sie sich keine Sorgen – es ist nicht Ihre Schuld.“

Beiträge mit ihrem Namen erschienen jedoch immer dann, wenn Benutzer Anführungszeichen um ihren Namen setzten, wobei einige Experten argumentierten, dass Xs Herangehensweise an die Lösung des Problems zu wünschen übrig ließ.

„Dies ist eine vorübergehende Maßnahme und wird mit größter Vorsicht durchgeführt, da wir der Sicherheit in dieser Angelegenheit Priorität einräumen“, sagte Benarroch in einer Erklärung.

Einige Fans von Taylor Swift meldeten jedoch Konten, die die Deepfake-Bilder teilten.

Den Problemen auf der Spur

Da die generative KI weltweit immer mehr an Bedeutung gewinnt, stehen mittlerweile auch ausgefeilte Tools zur Verbreitung bösartiger Inhalte zur Verfügung. Im Zusammenhang mit dem Vorfall mit Taylor Swift verfolgte Reality Defender, eine Deepfake-Erkennungsgruppe, zahlreiche pornografische Materialien, die den Popstar darstellten, insbesondere auf X, während andere auf Facebook und anderen Social-Media-Plattformen zu finden waren.

Laut Ben Decker von der Threat-Intelligence-Gruppe Memetica sind die Bilder von Taylor Swift entstand zunächst aus einer Kampagne namens Lewd DALL-E, die sich auf sexuell eindeutige, KI-generierte Bilder berühmter Frauen spezialisiert hat.

„Es ist Teil einer langjährigen, kontroversen Beziehung zwischen Trollen und Plattformen“, sagte Decker.

„Solange es Plattformen gibt, werden Trolle versuchen, sie zu stören. Und solange es Trolle gibt, werden die Plattformen gestört. Es stellt sich also wirklich die Frage: Wie oft wird das noch passieren, bevor es zu einer ernsthaften Veränderung kommt?“

Das Weißen Haus äußerte sich am Freitag zu der Angelegenheit, nannte die gefälschten Bilder „alarmierend“ und forderte die Social-Media-Plattformen dazu auf die Verantwortung übernehmen um die Verbreitung von Fehlinformationen zu verhindern.

• SEO-gestützte Content- und PR-Distribution. Holen Sie sich noch heute Verstärkung.
• PlatoData.Network Vertikale generative KI. Motiviere dich selbst. Hier zugreifen.
• PlatoAiStream. Web3-Intelligenz. Wissen verstärkt. Hier zugreifen.
• PlatoESG. Kohlenstoff, CleanTech, Energie, Umwelt, Solar, Abfallwirtschaft. Hier zugreifen.
• PlatoHealth. Informationen zu Biotechnologie und klinischen Studien. Hier zugreifen.
• Quelle: https://metanews.com/x-hunts-for-content-moderators-after-taylor-swift-chaos/