Gagal 'Fortnite': Epic Games Berusaha Menghapus Gambar Rasis yang Dihasilkan AI - Dekripsi

Diterbitkan Ulang Oleh Plato

Followers: 0

Menyusul protes dari para pemain, Epic Games menghapus gambar rasis yang dibuat oleh AI yang diunggah oleh pengguna ke game battle royale populer Fortnite, menurut a melaporkan by Kotaku.

Salah satu fitur yang membuat Fortnite menjadi game online sukses seperti saat ini adalah kemampuan pengguna untuk membuat peta sendiri dan berbagi pengalaman bermain dengan dunia. Namun, saluran kreativitas ini berarti bahwa pengguna berpotensi mengunggah konten bermasalah, dan itulah yang terjadi di sini.

Baru-baru ini, pengguna mulai memperhatikan peta pulau yang menampilkan gambar kasar yang dihasilkan AI yang mengandung stereotip rasis. Sebagai Kotaku Dilaporkan, contoh peta mencakup peta dengan nama seperti “Arab Zonewars”, “Nigerian Zonewars”, dan “China Zonewars”.

Peta tersebut menampilkan gambar-gambar rasis dan tampaknya dibuat oleh AI yang melanggengkan stereotip, termasuk pria Timur Tengah yang memegang bom dan pria kulit hitam yang makan ayam goreng. Meskipun sebagian besar peta ini memiliki populasi server yang kecil, satu peta, “Jamaica Zonewars,” memiliki lebih dari 35,000 pemain aktif awal bulan ini.

Foto rasis seorang pria Meksiko memegang taco dan mengenakan sombrero diunggah ke Fortnite. — Gambar: Karya seni dari pulau terlarang dari pengguna “menyala” di Fortnite Creative.

“Banyak pulau yang dirujuk telah dihapus, dan pembuatnya telah mengambil tindakan,” kata Epic Games Kotaku dalam sebuah pernyataan. “Kami telah menangani lebih dari 100 pulau yang mengalami pelanggaran konten yang menggunakan format thumbnail serupa dan akan terus melakukannya.”

Epic Games menambahkan bahwa konten diskriminatif tidak memiliki tempat di Fortnite dan melanggar aturan pembuat pulau perusahaan, menambahkan bahwa pengguna yang melanggar pedoman ini dapat membuat akun mereka diblokir secara permanen.

“Tim moderasi manusia kami meninjau semua konten sebelum dipublikasikan, dan kami secara aktif memperbarui peraturan pembuat pulau dan program pelatihan moderasi untuk meminimalkan jumlah pelanggaran peta yang menjangkau pemain,” kata Epic Games. “Kami mendorong para pemain untuk melaporkan pulau mana pun yang mereka lihat mungkin melanggar aturan kami.”

Dalam pernyataan yang diberikan kepada DekripsiGG, Epic Games mengatakan bahwa semua pulau yang dibuat pengguna ditinjau oleh moderator sebelum dipublikasikan, tetapi mengatakan bahwa tim akan melakukan sedikit sentuhan.

Foto rasis seorang pria kulit hitam memegang seember ayam goreng diunggah ke Fortnite. — Gambar: Karya seni dari pulau terlarang dari pengguna “drzen” di Fortnite Creative.

“Kami meminta tim moderasi kami untuk mengasumsikan niat baik atas nama pencipta jika mereka tidak yakin tentang pelanggaran konten sehingga kami tidak melakukan sensor berlebihan,” kata Epic Games. “Terkadang hal ini berarti ada hal-hal yang tidak semestinya dipublikasikan, dan kami bekerja cepat untuk menghapus konten yang menyinggung dan menulis materi pelatihan baru untuk moderator kami. Kreator yang terbukti melanggar aturan kreator kami akan menghadapi berbagai tindakan penegakan hukum, termasuk penerbitan permanen dan larangan monetisasi.”

Penerbit menambahkan bahwa mereka sedang berupaya memperbarui “aturan pencipta pulau dan program pelatihan moderasi.”

Bergabung di AI generatif menggila, Epic Games Store dimulai memungkinkan permainan dan kiriman yang menampilkan seni AI dan elemen lainnya pada bulan September. Ini terjadi setelah pasar game PC saingannya, Steam, pada awalnya mengambil sikap menentang konten AI, tetapi memiliki sejak melunakkan aturannya di tengah peningkatan pengajuan tersebut.

“Kami tidak melarang game karena menggunakan teknologi baru,” pendiri dan CEO Epic Games Tim Sweeney menulis di Twitter pada saat itu, mencatat bahwa Epic Games telah membuka penerbitan mandiri penuh pada awal tahun itu.

Meskipun pengembang AI telah banyak berinvestasi dalam menghapus gambar-gambar yang menyinggung dari model mereka, pengguna telah menemukan cara untuk melakukan “jailbreak” pada model menggunakan perintah khusus. Pada bulan Oktober, gambar yang dihasilkan AI Spongebob SquarePants atau pesawat jet Kirby milik Nintendo yang terbang ke World Trade Center menjadi viral.

Diedit oleh Andrew Hayward