Eșec „Fortnite”: Epic Games se luptă pentru a elimina imaginile rasiste generate de AI - Decriptare

Republicat de Platon

Urmaritori: 0

În urma protestelor jucătorilor, Epic Games purifică imaginile rasiste generate de AI încărcate de utilizatori în popularul joc Battle Royale Fortnite, potrivit unui raportează by Kotaku.

Una dintre caracteristicile care au făcut din Fortnite jocul online nemaipomenit care este astăzi este capacitatea utilizatorilor de a-și crea propriile hărți și de a împărtăși experiențe jucabile cu lumea. Cu toate acestea, această ieșire pentru creativitate înseamnă că utilizatorii pot încărca conținut problematic, ceea ce s-a întâmplat aici.

Recent, utilizatorii au început să observe hărțile insulelor care prezintă imagini brute generate de AI care comit stereotipuri rasiste. La fel de Kotaku raportate, exemplele de hărți includ cele cu nume precum „Războiul zonei arabe”, „Războiul zonei nigerian” și „Războiul zonei din China”.

Hărțile prezentau imagini rasiste și aparent generate de inteligență artificială care perpetuează stereotipuri, inclusiv bărbați din Orientul Mijlociu care țineau bombe și bărbați de culoare care mănâncă pui prăjit. În timp ce majoritatea acestor hărți aveau populații mici de server, o hartă, „Jamaica Zonewars”, avea peste 35,000 de jucători activi la începutul acestei luni.

O fotografie rasistă a unui bărbat mexican ținând un taco și purtând un sombrero, încărcată pe Fortnite. — Imagine: Operă de artă de pe o insulă interzisă de la utilizatorul „în flăcări” în Fortnite Creative.

„Multe dintre insulele la care se face referire au fost deja eliminate, iar creatorii au acționat”, a spus Epic Games Kotaku într-o declarație. „Am abordat deja peste 100 de insule cu încălcări ale conținutului care utilizează acest format similar de miniatură și vom continua să facem acest lucru.”

Epic Games a adăugat că conținutul discriminatoriu nu are loc în Fortnite și încalcă regulile companiei pentru creatorii insulelor, adăugând că utilizatorii care încalcă aceste reguli ar putea avea conturile interzise definitiv.

„Echipa noastră de moderare umană examinează tot conținutul înainte de publicare și ne actualizăm în mod activ regulile pentru creatorii insulei și programele de instruire pentru moderare pentru a minimiza numărul de hărți care încalcă regulile care ajung la jucători”, a spus Epic Games. „Încurajăm jucătorii să raporteze orice insule pe care le văd care ar putea încălca regulile noastre.”

Într-o declarație furnizată decriptaţiGG lui, Epic Games a spus că toate insulele create de utilizatori sunt revizuite de moderatori înainte de publicare, dar a spus că echipa ia o atingere ușoară.

O fotografie rasistă a unui bărbat de culoare ținând o găleată de pui prăjit încărcată pe Fortnite. — Imagine: Operă de artă de pe o insulă interzisă de la utilizatorul „drzen” în Fortnite Creative.

„Solicităm echipei noastre de moderare să își asume o bună intenție în numele creatorului dacă nu sunt siguri de o încălcare a conținutului, astfel încât să nu cenzurăm excesiv”, a spus Epic Games. „Uneori, asta înseamnă că sunt publicate lucruri care nu ar trebui, iar noi lucrăm rapid pentru a elimina orice conținut ofensator și a scrie noi materiale de instruire pentru moderatorii noștri. Creatorii despre care se constată că încalcă regulile noastre pentru creatori se confruntă cu o varietate de măsuri de aplicare, inclusiv interdicții permanente de publicare și generare de bani.”

Editorul a adăugat că lucrează la actualizarea „regulilor pentru creatorii de insule și a programelor de instruire pentru moderare”.

Alăturarea la AI generativă nebunie, a început Epic Games Store permiţând jocuri și trimiteri care au prezentat artă AI și alte elemente în septembrie. Acest lucru a venit după piața rivală de jocuri pentru PC Steam inițial a luat o poziție împotriva conținutului AI, dar are de când și-a înmuiat regulile pe fondul unei creșteri a unor astfel de cereri.

„Nu interzicem jocurile pentru utilizarea noilor tehnologii”, fondatorul și CEO-ul Epic Games, Tim Sweeney scris pe Twitter la acea vreme, menționând că Epic Games a deschis autopublicarea completă la începutul acelui an.

În timp ce dezvoltatorii de inteligență artificială au investit foarte mult în eliminarea imaginilor ofensive din modelele lor, utilizatorii au găsit modalități de a „jailbreak” modelele folosind instrucțiuni specializate. În octombrie, imagini generate de AI ale SpongeBob SquarePants sau avioanele Kirby de la Nintendo care zboară în World Trade Center au devenit virale.

Editat de Andrew Hayward