X išče moderatorje vsebine po kaosu Taylor Swift

X išče moderatorje vsebine po kaosu Taylor Swift

Časovni žig: 31. januar 2024 10
Izvorno vozlišče: 3090434

X je moderator vsebine, ki lovi glave, da bi se spopadel s spolnim izkoriščanjem otrok in drugo eksplicitno vsebino, potem ko so slike Taylor Swift, ki jih je ustvarila umetna inteligenca, postale viralne na platformi.

Družba za družbene medije bo zaposlila 100 zaposlenih za polni delovni čas, da se spopadejo s širjenjem globoko ponarejene vsebine, ki zdaj prevladuje ne samo na X, temveč na platformah družbenih medijev.

Center zaupanja in varnosti

Z dodatnim osebjem si podjetje v lasti Elona Muska zdaj prizadeva tudi za razvoj "centra zaupanja in varnosti" v Austinu v Teksasu. Tukaj bodo agenti odgovorni za pregled vsebine v skladu z varnostna pravila podjetja.

Do razvoja prihaja tudi, ko platforme družbenih medijev zdaj uporabljajo slabi akterji za izvajanje nasilja, rasizma, goljufij in spolnega izkoriščanja otrok.

»X nima poslovnega področja, osredotočenega na otroke, vendar je pomembno, da te naložbe izvajamo, da preprečimo kršiteljem uporabo naše platforme za kakršno koli distribucijo ali sodelovanje z vsebino CSE,« je dejal Joe Benarroch, ki je vodja poslovnih operacij pri X.

Platforma je bila kritizirana zaradi širjenja antisemitskih in neonacističnih vsebin. To je povzročilo, da so številni oglaševalci širili platformo.

V 2022, Musk je kupil platformo družbenih medijev – takrat še Twitter – za 44 milijard dolarjev, da bi omogočil svobodo govora na platformi. To se ni izkazalo za dobro, saj je bil tehnološki milijarder tarča kritik, potem ko je zmanjšal število zaposlenih v zaupanju in varnosti podjetja.

Preberite tudi: Tehnično industrijo je prizadelo množično odpuščanje delovnih mest, saj podjetja delavce nadomeščajo z umetno inteligenco

Začasni ukrepi

V zadnjih tednih je bila platforma preplavljena z eksplicitnimi slikami, ki jih je ustvarila umetna inteligenca Taylor Swift, kar je spodbudilo njeno legijo oboževalcev, da se temu zoperstavijo s svojo kampanjo z bolj pozitivnimi podobami pevke. Navijači so tekli z oznako #ProtectTaylorSwift.

Za X je platforma blokirala nadaljnje iskanje glasbenika. Glede na New York Post, so uporabniki, ki so v ponedeljek poskušali poiskati njeno ime, dobili Napaka sporočilo, ki jih poziva, naj poskusijo znova, in dodaja: "Ne skrbite - niste vi krivi."

Vendar pa so se objave z njenim imenom pojavile vsakič, ko so uporabniki dodali narekovaje okoli njenega imena, pri čemer so nekateri strokovnjaki trdili, da je X-ov pristop k reševanju težave pustil veliko želenega.

"To je začasen ukrep in izveden z veliko previdnostjo, saj dajemo prednost varnosti pri tem vprašanju," je dejal Benarroch v izjavi.

Vendar so nekateri oboževalci Taylor Swift začeli poročati o računih, ki so delili slike deepfake.

Sledenje težavam

Generativna umetna inteligenca se še naprej uveljavlja po vsem svetu, zdaj pa so na voljo tudi prefinjena orodja za širjenje zlonamerne vsebine. Ob incidentu s Taylor Swift je Reality Defender, skupina za odkrivanje globokih ponaredkov, izsledila številna pornografska gradiva, ki so upodabljala pop zvezdo, zlasti na X, medtem ko so bila druga na Facebooku in drugih platformah družbenih medijev.

Po besedah ​​Bena Deckerja iz skupine za obveščanje o grožnjah Memetica so slike Taylor Swift prvi je prišel iz kampanje, imenovane Lewd DALL-E, ki je specializirana za spolno eksplicitne slike slavnih žensk, ustvarjene z umetno inteligenco.

"To je del dolgotrajnega nasprotujočega odnosa med troli in platformami," je dejal Decker.

»Dokler obstajajo platforme, jih bodo troli poskušali motiti. In dokler bodo troli obstajali, bodo platforme motene. Tako se zares postavlja vprašanje, kolikokrat se bo to še zgodilo, preden pride do kakršnih koli resnih sprememb?«

O Bela hiša v petek pretehtal zadevo, ponarejene slike označil za "zaskrbljujoče" in pozval platforme družbenih medijev, naj prevzeti odgovornost za preprečevanje širjenja napačnih informacij.

Časovni žig:

Več od MetaNovice