X va a caccia di moderatori di contenuti dopo il caos di Taylor Swift

X sta dando la caccia ai moderatori di contenuti per contrastare lo sfruttamento sessuale minorile e altri contenuti espliciti dopo che le immagini X di Taylor Swift generate dall'intelligenza artificiale sono diventate virali sulla piattaforma.

La società di social media assumerà 100 dipendenti a tempo pieno per affrontare la proliferazione di contenuti deepfake che ora sono prevalenti non solo su X ma su tutte le piattaforme di social media.

Centro fiducia e sicurezza

Con il personale aggiuntivo, l’azienda di proprietà di Elon Musk sta ora cercando di sviluppare un “centro di fiducia e sicurezza” ad Austin, in Texas. Qui, gli agenti saranno responsabili della revisione dei contenuti in linea con il le regole di sicurezza aziendali.

Gli sviluppi arrivano anche dal momento che le piattaforme dei social media vengono ora utilizzate da malintenzionati per perpetrare violenza, razzismo, frode e sfruttamento sessuale minorile.

"X non ha una linea di business focalizzata sui bambini, ma è importante fare questi investimenti per continuare a impedire ai trasgressori di utilizzare la nostra piattaforma per qualsiasi distribuzione o coinvolgimento con contenuti CSE." disse Joe Benarroch, responsabile delle operazioni commerciali di X.

La piattaforma è stata criticata a seguito della proliferazione di contenuti antisemiti e neonazisti. Ciò ha portato molti inserzionisti a diffondere la piattaforma.

Nel 2022, Muschio ha acquisito la piattaforma di social media, poi Twitter, per 44 miliardi di dollari per consentire la libertà di parola sulla piattaforma. Ciò non è andato bene, poiché il miliardario della tecnologia è finito nel mirino dopo aver tagliato "l'organico delle operazioni di fiducia e sicurezza dell'azienda".

Leggi anche: L’industria tecnologica colpita da massicci tagli di posti di lavoro mentre le aziende sostituiscono i lavoratori con l’intelligenza artificiale

Misure temporanee

Nelle ultime settimane, la piattaforma è stata inondata di immagini esplicite generate dall'intelligenza artificiale Taylor Swift, spingendo la sua legione di fan a contrastare questo con la propria campagna con immagini più positive della cantante. I fan hanno corso con l'hashtag #ProtectTaylorSwift.

Per X la piattaforma ha bloccato ulteriori ricerche del musicista. Secondo il New York Post, gli utenti che hanno tentato di cercare il suo nome lunedì hanno ricevuto un errore messaggio che chiede loro di riprovare, aggiungendo: "Non preoccuparti, non è colpa tua".

Ma i post con il suo nome, tuttavia, apparivano ogni volta che gli utenti aggiungevano virgolette attorno al suo nome, con alcuni esperti che sostenevano che l'approccio di X nella gestione del problema lasciava molto a desiderare.

"Si tratta di un'azione temporanea e viene eseguita con molta cautela poiché diamo priorità alla sicurezza su questo problema", ha affermato Benarroch in una nota.

Tuttavia, alcuni fan di Taylor Swift hanno iniziato a segnalare account che condividevano le immagini deepfake.

Tracciare i problemi

Con l’intelligenza artificiale generativa che continua a guadagnare terreno in tutto il mondo, ora sono disponibili strumenti sofisticati anche per diffondere contenuti dannosi. Con l'incidente di Taylor Swift, Reality Defender, un gruppo di rilevamento deepfake, ha rintracciato numerosi materiali pornografici che raffiguravano la pop star, soprattutto su X, mentre altri erano su Facebook e altre piattaforme di social media.

Secondo Ben Decker del gruppo di intelligence sulle minacce Memetica, le immagini di Taylor Swift è venuto per la prima volta da una campagna chiamata Lewd DALL-E, specializzata in immagini sessualmente esplicite generate dall'intelligenza artificiale di donne famose.

"Fa parte di una relazione contraddittoria di lunga data tra troll e piattaforme", ha detto Decker.

“Finché esisteranno le piattaforme, i troll cercheranno di distruggerle. E finché esisteranno i troll, le piattaforme verranno interrotte. Quindi la domanda diventa davvero: quante altre volte ciò accadrà prima che si verifichi un cambiamento serio?

I Casa Bianca venerdì è intervenuto sulla questione, definendo le immagini false “allarmanti” e invitando le piattaforme di social media a farlo assumersi la responsabilità per prevenire la diffusione della disinformazione.

• Distribuzione di contenuti basati su SEO e PR. Ricevi amplificazione oggi.
• PlatoData.Network Generativo verticale Ai. Potenzia te stesso. Accedi qui.
• PlatoAiStream. Intelligenza Web3. Conoscenza amplificata. Accedi qui.
• PlatoneESG. Carbonio, Tecnologia pulita, Energia, Ambiente, Solare, Gestione dei rifiuti. Accedi qui.
• Platone Salute. Intelligence sulle biotecnologie e sulle sperimentazioni cliniche. Accedi qui.
• Fonte: https://metanews.com/x-hunts-for-content-moderators-after-taylor-swift-chaos/