"Fortnite" misslyckades: Epic Games kämpar för att ta bort rasistiska AI-genererade bilder - Dekryptera

Efter ramaskri från spelare rensar Epic Games rasistiska AI-genererade bilder som laddats upp av användare till det populära Battle Royale-spelet Fortnite, enligt en rapport by Kotaku.

En av funktionerna som gjorde Fortnite till det fantastiska onlinespel det är idag är möjligheten för användare att skapa sina egna kartor och dela spelbara upplevelser med världen. Detta utlopp för kreativitet innebär dock att användare potentiellt kan ladda upp problematiskt innehåll, vilket är vad som har hänt här.

Nyligen började användare lägga märke till ökartor med grova AI-genererade bilder som begår rasistiska stereotyper. Som Kotaku rapporterade exempel på kartor inkluderar de med namn som "arabiska zonkrig", "nigerianska zonkrig" och "Kina zonkrig."

Kartorna innehöll rasistiska och uppenbarligen AI-genererade bilder som vidmakthåller stereotyper, inklusive män från Mellanöstern som håller bomber och svarta män som äter stekt kyckling. Medan de flesta av dessa kartor hade små serverpopulationer, hade en karta, "Jamaica Zonewars", över 35,000 XNUMX aktiva spelare tidigare denna månad.

"Många av öarna som hänvisas till har redan tagits bort, och skaparna agerat", berättade Epic Games Kotaku i ett påstående. "Vi har redan åtgärdat mer än 100 öar med innehållsöverträdelser som använder detta liknande miniatyrformat och kommer att fortsätta att göra det."

Epic Games tillade att diskriminerande innehåll inte har någon plats i Fortnite och bryter mot företagets regler för skapande av öar, och tillade att användare som bryter mot dessa riktlinjer kan få sina konton permanent förbjudna.

"Vårt mänskliga modereringsteam granskar allt innehåll innan det publiceras, och vi uppdaterar aktivt våra regler för öskapare och modereringsträningsprogram för att minimera antalet kränkande kartor som når spelare," sa Epic Games. "Vi uppmuntrar spelare att rapportera alla öar de ser som kan bryta mot våra regler."

I ett uttalande som lämnats till Avkryptera's GG, Epic Games sa att alla användarskapade öar granskas av moderatorer innan de publiceras, men sa att laget tar en lätt touch.

"Vi ber vårt modereringsteam att anta goda avsikter å skaparens vägnar om de är osäkra på en innehållsöverträdelse så att vi inte övercensurerar", sa Epic Games. "Ibland innebär detta att saker publiceras som inte borde, och vi arbetar snabbt för att ta bort allt kränkande innehåll och skriva nytt utbildningsmaterial för våra moderatorer. Kreatörer som upptäcks bryta mot våra regler för innehållsskapare möter en mängd olika åtgärder, inklusive permanenta publicerings- och intäktsförbud.”

Utgivaren tillade att de arbetar med att uppdatera sina "öskaparesregler och modereringsträningsprogram."

Går med på generativ AI vurm började Epic Games Store tillåter spel och bidrag som innehöll AI-konst och andra element i september. Detta kom efter rivaliserande PC-spelmarknadsplats Steam initialt tog ställning mot AI-innehåll, men det har sedan mjukat upp sina regler under en ökning av sådana inlagor.

"Vi förbjuder inte spel för att använda ny teknik," Epic Games grundare och vd Tim Sweeney skrev på Twitter vid den tiden och noterade att Epic Games hade öppnat upp för full självpublicering tidigare samma år.

Medan AI-utvecklare har investerat mycket i att rensa bort stötande bilder från sina modeller, har användare hittat sätt att "jailbreaka" modellerna med hjälp av specialiserade uppmaningar. I oktober genererade AI-bilder av Svampbob SquarePants eller Nintendos Kirby flygande jetliners till World Trade Center blev viralt.

Redigerad av Andrew Hayward

• SEO-drivet innehåll och PR-distribution. Bli förstärkt idag.
• PlatoData.Network Vertical Generative Ai. Styrka dig själv. Tillgång här.
• PlatoAiStream. Web3 Intelligence. Kunskap förstärkt. Tillgång här.
• Platoesg. Kol, CleanTech, Energi, Miljö, Sol, Avfallshantering. Tillgång här.
• PlatoHealth. Biotech och kliniska prövningar Intelligence. Tillgång här.
• Källa: https://decrypt.co/215146/fortnite-fail-epic-games-scrambles-remove-racist-ai-generated-images