Niepowodzenie „Fortnite”: Epic Games próbuje usunąć rasistowskie obrazy wygenerowane przez sztuczną inteligencję – Odszyfruj

Opublikowane ponownie przez Plato

Obserwuje: 0

W odpowiedzi na protesty graczy firma Epic Games usuwa rasistowskie obrazy wygenerowane przez sztuczną inteligencję przesłane przez użytkowników do popularnej gry typu Battle Royale Fortnite, według raport by Kotaku.

Jedną z funkcji, która uczyniła Fortnite najpopularniejszą grą online, jaką jest dzisiaj, jest możliwość tworzenia przez użytkowników własnych map i dzielenia się rozgrywkami ze światem. To ujście kreatywności oznacza jednak, że użytkownicy mogą potencjalnie przesyłać problematyczne treści, co miało miejsce w tym przypadku.

Ostatnio użytkownicy zaczęli zauważać mapy wysp zawierające prymitywne obrazy wygenerowane przez sztuczną inteligencję, które utrwalają rasistowskie stereotypy. Jak Kotaku według doniesień przykłady map obejmują mapy o nazwach takich jak „Arabskie wojny strefowe”, „Nigeryjskie wojny strefowe” i „Chińskie wojny strefowe”.

Mapy zawierały rasistowskie obrazy najwyraźniej wygenerowane przez sztuczną inteligencję, które utrwalają stereotypy, w tym mężczyzn z Bliskiego Wschodu trzymających bomby i Czarnych mężczyzn jedzących smażonego kurczaka. Chociaż większość z tych map miała małą populację serwerów, na jednej z map, „Jamaica Zonewars”, na początku tego miesiąca było ponad 35,000 XNUMX aktywnych graczy.

Rasistowskie zdjęcie Meksykanina trzymającego taco i ubranego w sombrero przesłane do Fortnite. — Zdjęcie: Grafika przedstawiająca zakazaną wyspę autorstwa użytkownika „flaming” w Fortnite Creative.

„Wiele wysp, o których mowa, zostało już usuniętych, a twórcy podjęli działania” – powiedział Epic Games Kotaku w oświadczeniu. „Zajęliśmy się już kwestiami naruszeń treści związanych z użyciem podobnego formatu miniatur na ponad 100 wyspach i nadal będziemy to robić”.

Epic Games dodało, że w Fortnite nie ma miejsca na treści dyskryminujące i naruszają zasady firmy dotyczące twórców wysp, dodając, że konta użytkowników, którzy złamią te wytyczne, mogą zostać trwale zablokowane.

„Nasz zespół moderatorów sprawdza całą zawartość przed publikacją i aktywnie aktualizujemy nasze zasady twórców wysp i programy szkoleniowe dla moderatorów, aby zminimalizować liczbę map naruszających zasady, które docierają do graczy” – powiedział Epic Games. „Zachęcamy graczy do zgłaszania wszelkich wysp, które widzą, a które mogą naruszać nasze zasady”.

W oświadczeniu dostarczonych OdszyfrujGG użytkownika Epic Games stwierdziło, że wszystkie wyspy utworzone przez użytkowników są sprawdzane przez moderatorów przed publikacją, ale stwierdziło, że zespół podchodzi do nich delikatnie.

Rasistowskie zdjęcie czarnego mężczyzny trzymającego wiadro smażonego kurczaka przesłane do Fortnite. — Zdjęcie: Grafika przedstawiająca zakazaną wyspę autorstwa użytkownika „drzen” w Fortnite Creative.

„Prosimy nasz zespół moderatorów, aby wykazał dobre intencje w imieniu twórcy, jeśli nie jest on pewien, czy doszło do naruszenia treści, abyśmy nie zastosowali nadmiernej cenzury” – stwierdziło Epic Games. „Czasami oznacza to, że publikowane są rzeczy, które nie powinny, więc szybko pracujemy nad usunięciem wszelkich obraźliwych treści i napisaniem nowych materiałów szkoleniowych dla naszych moderatorów. Twórcy, u których okaże się, że naruszają nasze zasady, podlegają różnym środkom egzekwowania prawa, w tym trwałym zakazom publikacji i zarabiania”.

Wydawca dodał, że pracuje nad aktualizacją „zasad twórców wysp i programów szkoleniowych dla moderatorów”.

Dołączam się do generatywna sztuczna inteligencja szał, rozpoczął się Epic Games Store pozwalając gry i zgłoszenia zawierające grafikę AI i inne elementy we wrześniu. Nastąpiło to po początkowo konkurencyjnym rynku gier komputerowych Steam zajął stanowisko wobec treści AI, ale tak jest ponieważ złagodził swoje zasady w obliczu wzrostu liczby takich zgłoszeń.

„Nie blokujemy gier za korzystanie z nowych technologii” – założyciel i dyrektor generalny Epic Games, Tim Sweeney napisał na Twitterze, odnotowując, że Epic Games na początku tego roku uruchomiło pełną samodzielną publikację.

Chociaż twórcy sztucznej inteligencji poczynili znaczne inwestycje w usuwanie obraźliwych obrazów ze swoich modeli, użytkownicy znaleźli sposoby na „jailbreak” modeli za pomocą specjalistycznych podpowiedzi. W październiku obrazy wygenerowane przez sztuczną inteligencję SpongeBob SquarePants lub Kirby firmy Nintendo lecące odrzutowcami do World Trade Center stały się wirusowe.

Edytowany przez Andrew Hayward