X poluje na moderatorów treści po chaosie Taylor Swift

X poluje na moderatorów treści po chaosie Taylor Swift

Znacznik czasu: 31 stycznia 2024 10:18
Węzeł źródłowy: 3090434

X poszukuje moderatorów treści, którzy chcą zająć się wykorzystywaniem seksualnym dzieci i innymi treściami dla dorosłych po tym, jak wygenerowane przez sztuczną inteligencję zdjęcia Taylor Swift z oceną X stały się wirusowe na platformie.

Firma zajmująca się mediami społecznościowymi zatrudni 100 pełnoetatowych pracowników, aby zaradzić rozprzestrzenianiu się fałszywych treści, które są obecnie powszechne nie tylko w X, ale na platformach mediów społecznościowych.

Centrum Zaufania i Bezpieczeństwa

Dzięki dodatkowemu personelowi firma należąca do Elona Muska rozważa obecnie utworzenie „centrum zaufania i bezpieczeństwa” w Austin w Teksasie. W tym przypadku agenci będą odpowiedzialni za sprawdzanie treści zgodnie z firmowe zasady bezpieczeństwa.

Zmiany te mają miejsce również w związku z wykorzystywaniem platform mediów społecznościowych przez złe podmioty do stosowania przemocy, rasizmu, oszustw i wykorzystywania seksualnego dzieci.

„Firma X nie koncentruje się na dzieciach, ale ważne jest, abyśmy dokonywali tych inwestycji, aby powstrzymywać przestępców przed korzystaniem z naszej platformy do jakiejkolwiek dystrybucji lub interakcji z treściami CSE” – powiedziany Joe Benarroch, który jest szefem operacji biznesowych w X.

Platforma spotkała się z krytyką w związku z rozprzestrzenianiem się treści antysemickich i neonazistowskich. Doprowadziło to do rozpowszechnienia platformy przez wielu reklamodawców.

W 2022, Piżmo nabył platformę mediów społecznościowych – wówczas Twitter – za 44 miliardy dolarów, aby umożliwić wolność słowa na platformie. Nie wyszło to dobrze, ponieważ miliarder z branży technologicznej znalazł się pod ostrzałem po zwolnieniu „zatrudnienia w operacjach związanych z zaufaniem i bezpieczeństwem firmy”.

Przeczytaj także: Branża technologiczna dotknięta masowymi redukcjami stanowisk pracy, gdy firmy zastępują pracowników sztuczną inteligencją

Środki tymczasowe

W ostatnich tygodniach platforma została zalana wyraźnymi obrazami wygenerowanymi przez sztuczną inteligencję Taylora Swifta, co skłoniło jej legion fanów do przeciwstawienia się temu własną kampanią zawierającą bardziej pozytywne wizerunki piosenkarki. Fani biegli z hasztagiem #ProtectTaylorSwift.

W przypadku X platforma zablokowała dalsze poszukiwania muzyka. Według New York Post, użytkownicy, którzy w poniedziałek próbowali wyszukać jej imię i nazwisko, otrzymali komunikat błąd wiadomość z prośbą o ponowienie próby i dodaniem: „Nie martw się — to nie twoja wina”.

Jednak posty z jej imieniem pojawiały się za każdym razem, gdy użytkownicy dodawali cytaty wokół jej imienia, a niektórzy eksperci argumentowali, że podejście X do rozwiązania problemu pozostawia wiele do życzenia.

„Jest to działanie tymczasowe i podjęte z dużą ostrożnością, ponieważ w tej kwestii priorytetowo traktujemy bezpieczeństwo” – stwierdził Benarroch w oświadczeniu.

Jednak niektórzy fani Taylor Swift zaczęli zgłaszać konta, na których udostępniały fałszywe zdjęcia.

Śledzenie problemów

Ponieważ generatywna sztuczna inteligencja stale zyskuje na popularności na całym świecie, dostępne są obecnie zaawansowane narzędzia do rozprzestrzeniania złośliwych treści. Po incydencie z Taylor Swift Reality Defender, grupa zajmująca się wykrywaniem fałszywych treści, prześledziła liczne materiały pornograficzne przedstawiające gwiazdę popu, szczególnie w X, podczas gdy inne znajdowały się na Facebooku i innych platformach mediów społecznościowych.

Według Bena Deckera z grupy wywiadowczej Memetica, obrazy Taylor Swift po raz pierwszy pochodziła z kampanii o nazwie Lewd DALL-E, która specjalizuje się w obrazach celebrytek o charakterze jednoznacznie seksualnym generowanych przez sztuczną inteligencję.

„To część długotrwałej, wrogiej relacji między trollami a platformami” – powiedział Decker.

„Tak długo, jak istnieją platformy, trolle będą próbowały je zakłócać. Dopóki istnieją trolle, platformy będą zakłócane. Zatem naprawdę pojawia się pytanie: ile jeszcze razy to się powtórzy, zanim nastąpi jakakolwiek poważna zmiana?”

Połączenia Biały Dom w piątek wypowiedział się w tej sprawie, nazywając fałszywe obrazy „niepokojącymi” i wzywając do tego platformy mediów społecznościowych wziąć na siebie odpowiedzialność aby zapobiec rozprzestrzenianiu się dezinformacji.

Znak czasu:

Więcej z MetaWiadomości