"Fortnite" fallisce: Epic Games si affretta a rimuovere le immagini razziste generate dall'intelligenza artificiale - Decrypt

Ripubblicato da Platone

Seguaci: 0

In seguito alle proteste dei giocatori, Epic Games sta eliminando le immagini razziste generate dall'intelligenza artificiale caricate dagli utenti nel popolare gioco di battaglia reale Fortnite, secondo un rapporto by Kotaku.

Una delle caratteristiche che hanno reso Fortnite il gioco online di successo che è oggi è la possibilità per gli utenti di creare le proprie mappe e condividere esperienze giocabili con il mondo. Questo sbocco per la creatività, tuttavia, significa che gli utenti possono potenzialmente caricare contenuti problematici, che è ciò che è successo qui.

Recentemente, gli utenti hanno iniziato a notare mappe delle isole con immagini grezze generate dall’intelligenza artificiale che perpetrano stereotipi razzisti. COME Kotaku riportati, esempi di mappe includono quelle con nomi come “Arab Zonewars”, “Nigerian Zonewars” e “China Zonewars”.

Le mappe presentavano immagini razziste e apparentemente generate dall’intelligenza artificiale che perpetuano gli stereotipi, tra cui uomini mediorientali che tengono bombe e uomini neri che mangiano pollo fritto. Sebbene la maggior parte di queste mappe avesse un numero limitato di server, una mappa, "Jamaica Zonewars", contava oltre 35,000 giocatori attivi all'inizio di questo mese.

Una foto razzista di un uomo messicano con in mano un taco e indossando un sombrero caricata su Fortnite. — Immagine: artwork da un'isola vietata dall'utente "fiammeggiante" nella modalità Creativa di Fortnite.

"Molte delle isole a cui si fa riferimento sono già state rimosse e i creatori sono intervenuti", ha detto Epic Games Kotaku in una dichiarazione. "Abbiamo già affrontato più di 100 isole con violazioni dei contenuti che utilizzano questo formato di miniatura simile e continueremo a farlo."

Epic Games ha aggiunto che i contenuti discriminatori non hanno posto in Fortnite e violano le regole dell'azienda per la creazione dell'isola, aggiungendo che gli utenti che violano queste linee guida potrebbero vedere i propri account banditi in modo permanente.

"Il nostro team di moderazione umana esamina tutti i contenuti prima della pubblicazione e stiamo aggiornando attivamente le regole per i creatori delle isole e i programmi di formazione per la moderazione per ridurre al minimo il numero di mappe violanti che raggiungono i giocatori", ha affermato Epic Games. "Incoraggiamo i giocatori a segnalare eventuali isole che vedono che potrebbero violare le nostre regole."

In una dichiarazione fornita al decryptGG, Epic Games ha affermato che tutte le isole create dagli utenti vengono esaminate dai moderatori prima della pubblicazione, ma ha affermato che il team adotta un tocco leggero.

Una foto razzista di un uomo di colore con in mano un secchio di pollo fritto caricata su Fortnite. — Immagine: artwork da un'isola vietata dall'utente "drzen" in Fortnite Creative.

"Chiediamo al nostro team di moderazione di assumere buone intenzioni per conto del creatore se non sono sicuri di una violazione dei contenuti, in modo da non censurare eccessivamente", ha affermato Epic Games. "A volte questo significa che vengono pubblicate cose che non dovrebbero, e noi lavoriamo rapidamente per eliminare qualsiasi contenuto offensivo e scrivere nuovo materiale di formazione per i nostri moderatori. I creatori che violano le nostre regole per i creatori devono affrontare una serie di azioni di controllo, tra cui divieti permanenti di pubblicazione e monetizzazione.

L’editore ha aggiunto che sta lavorando all’aggiornamento delle “regole per la creazione dell’isola e dei programmi di formazione sulla moderazione”.

Partecipando al IA generativa mania, è iniziato l'Epic Games Store permettendo giochi e contributi che presentavano arte AI e altri elementi a settembre. Ciò è avvenuto inizialmente dopo il mercato rivale di giochi per PC Steam ha preso posizione contro i contenuti AI, ma ha da quando ha ammorbidito le sue regole nel mezzo di un aumento di tali proposte.

"Non vietiamo i giochi che utilizzano nuove tecnologie", ha affermato Tim Sweeney, fondatore e CEO di Epic Games ha scritto su Twitter in quel momento, sottolineando che Epic Games aveva aperto la piena autopubblicazione all'inizio di quell'anno.

Mentre gli sviluppatori di intelligenza artificiale hanno investito molto nell’eliminazione delle immagini offensive dai loro modelli, gli utenti hanno trovato il modo di effettuare il “jailbreak” dei modelli utilizzando istruzioni specializzate. Nel mese di ottobre, immagini generate dall'intelligenza artificiale di Spugna di mare SquarePants o Kirby di Nintendo che fanno volare gli aerei di linea nel World Trade Center sono diventati virali.

A cura di Andrew Hayward