"Fortnite"-feil: Epic Games kjemper for å fjerne rasistiske AI-genererte bilder - Dekrypter

Etter skrik fra spillere renser Epic Games rasistiske AI-genererte bilder lastet opp av brukere til det populære Battle Royale-spillet Fortnite, ifølge en rapporterer by Kotaku.

En av funksjonene som gjorde Fortnite til det kjempebra nettspillet det er i dag, er muligheten for brukere til å lage sine egne kart og dele spillbare opplevelser med verden. Dette utløpet for kreativitet betyr imidlertid at brukere potensielt kan laste opp problematisk innhold, som er det som har skjedd her.

Nylig begynte brukere å legge merke til øykart med grove AI-genererte bilder som utfører rasistiske stereotyper. Som Kotaku rapportert, eksempler på kart inkluderer de med navn som "Arab Zonewars", "Nigerian Zonewars" og "China Zonewars."

Kartene inneholdt rasistiske og tilsynelatende AI-genererte bilder som opprettholder stereotypier, inkludert Midtøsten-menn som holder bomber og svarte menn som spiser stekt kylling. Mens de fleste av disse kartene hadde små serverpopulasjoner, hadde ett kart, «Jamaica Zonewars», over 35,000 XNUMX aktive spillere tidligere denne måneden.

"Mange av øyene det refereres til har allerede blitt fjernet, og skaperne handlet," fortalte Epic Games Kotaku i en uttalelse. "Vi har allerede adressert mer enn 100 øyer med innholdsbrudd som bruker dette lignende miniatyrbildeformatet, og vi vil fortsette å gjøre det."

Epic Games la til at diskriminerende innhold ikke har noen plass i Fortnite og bryter selskapets øyskaperregler, og la til at brukere som bryter disse retningslinjene kan få kontoene sine permanent utestengt.

"Vårt menneskelige modereringsteam gjennomgår alt innhold før publisering, og vi oppdaterer aktivt våre øyskaperregler og moderasjonstreningsprogrammer for å minimere antallet krenkende kart som når spillere," sa Epic Games. "Vi oppfordrer spillere til å rapportere alle øyer de ser som kan bryte reglene våre."

I en uttalelse gitt til dekryptere's GG, Epic Games sa at alle brukerskapte øyer blir gjennomgått av moderatorer før publisering, men sa at teamet tar en lett berøring.

"Vi ber vårt modereringsteam om å anta gode hensikter på vegne av skaperen hvis de er usikre på et innholdsbrudd, så vi ikke oversensurerer," sa Epic Games. «Noen ganger betyr dette at ting blir publisert som ikke burde, og vi jobber raskt med å fjerne støtende innhold og skrive nytt opplæringsmateriell for moderatorene våre. Skapere som blir funnet å bryte med skaperreglene våre står overfor en rekke håndhevingshandlinger, inkludert permanente publiserings- og inntektsforbud.»

Utgiveren la til at de jobber med å oppdatere sine «øyskaperregler og moderasjonsopplæringsprogrammer».

Blir med på generativ AI mani, begynte Epic Games Store tillate spill og bidrag som inneholdt AI-kunst og andre elementer i september. Dette kom etter den rivaliserende PC-spillmarkedsplassen Steam opprinnelig tok et standpunkt mot AI-innhold, men det har siden myket opp sine regler midt i en økning i slike innlegg.

"Vi forbyr ikke spill for å bruke ny teknologi," Epic Games grunnlegger og administrerende direktør Tim Sweeney skrev på Twitter på den tiden, og la merke til at Epic Games hadde åpnet opp for full selvpublisering tidligere samme år.

Mens AI-utviklere har investert mye i å rense støtende bilder fra modellene sine, har brukere funnet måter å "jailbreak" modellene ved å bruke spesialiserte meldinger. I oktober genererte AI-bilder av SpongeBob SquarePants eller Nintendos Kirby flying jetliners inn i World Trade Center gikk viralt.

Redigert av Andrew Hayward

• SEO-drevet innhold og PR-distribusjon. Bli forsterket i dag.
• PlatoData.Network Vertical Generative Ai. Styrk deg selv. Tilgang her.
• PlatoAiStream. Web3 Intelligence. Kunnskap forsterket. Tilgang her.
• PlatoESG. Karbon, CleanTech, Energi, Miljø, Solenergi, Avfallshåndtering. Tilgang her.
• PlatoHelse. Bioteknologisk og klinisk etterretning. Tilgang her.
• kilde: https://decrypt.co/215146/fortnite-fail-epic-games-scrambles-remove-racist-ai-generated-images