В ответ на протесты игроков Epic Games удаляет расистские изображения, созданные искусственным интеллектом, загруженные пользователями в популярную игру «Королевская битва» Fortnite, согласно сообщению отчету by Kotaku.
Одной из особенностей, которые сделали Fortnite такой популярной онлайн-игрой, какой она является сегодня, является возможность пользователей создавать свои собственные карты и делиться игровыми впечатлениями со всем миром. Однако этот простор для творчества означает, что пользователи потенциально могут загружать проблемный контент, что и произошло здесь.
Недавно пользователи начали замечать карты островов с грубыми изображениями, созданными искусственным интеллектом, которые воплощают расистские стереотипы. Как Kotaku Как сообщается, примеры карт включают карты с такими названиями, как «Арабские зональные войны», «Нигерийские зональные войны» и «Китайские зональные войны».
На картах были изображены расистские и, по-видимому, созданные искусственным интеллектом изображения, которые увековечивают стереотипы, в том числе мужчин Ближнего Востока с бомбами и чернокожих мужчин, которые едят жареную курицу. Хотя на большинстве этих карт было небольшое количество серверов, на одной карте, «Jamaica Zonewars», в начале этого месяца было более 35,000 XNUMX активных игроков.
«Многие из упомянутых островов уже удалены, и создатели приняли меры», — сообщили в Epic Games. Kotaku в заявлении. «Мы уже рассмотрели более 100 островов с нарушениями контента, которые используют аналогичный формат миниатюр, и будем продолжать это делать».
Epic Games добавила, что дискриминационному контенту нет места в Fortnite, и что он нарушает правила создания островов компании, добавив, что пользователи, нарушающие эти правила, могут быть навсегда забанены.
«Наша команда модераторов проверяет весь контент перед публикацией, и мы активно обновляем наши правила для создателей островов и программы обучения модерации, чтобы свести к минимуму количество нарушающих карт, которые доходят до игроков», — заявили в Epic Games. «Мы призываем игроков сообщать о любых островах, которые они видят и которые могут нарушать наши правила».
В заявлении, предоставленной DecryptGG из Epic Games заявила, что все созданные пользователями острова проверяются модераторами перед публикацией, но отметила, что команда уделяет этому внимание легкомысленно.
«Мы просим нашу команду модераторов предполагать добрые намерения от имени создателя, если они не уверены в нарушении контента, чтобы мы не подвергали чрезмерной цензуре», — заявили в Epic Games. «Иногда это означает, что публикуются вещи, которые не должны быть опубликованы, и мы работаем быстро, чтобы удалить любой оскорбительный контент и написать новые учебные материалы для наших модераторов. Авторам, уличенным в нарушении наших правил для авторов, грозят различные принудительные меры, включая постоянный запрет на публикацию и монетизацию».
Издатель добавил, что работает над обновлением своих «правил для создателей островов и программ обучения модерации».
Присоединяюсь к генеративный ИИ повальное увлечение, начался магазин Epic Games Store позволяющий игры и материалы, в которых использовались искусственный интеллект и другие элементы, в сентябре. Это произошло после того, как конкурирующий рынок компьютерных игр Steam изначально занял позицию против контента ИИ, но с тех пор смягчил свои правила на фоне роста числа таких заявлений.
«Мы не запрещаем игры за использование новых технологий», — основатель и генеральный директор Epic Games Тим Суини. писал в то время в Твиттере, отметив, что Epic Games открыла полную самостоятельную публикацию ранее в том же году.
В то время как разработчики ИИ вложили значительные средства в удаление оскорбительных изображений из своих моделей, пользователи нашли способы «взломать» модели с помощью специальных подсказок. В октябре ИИ сгенерировал изображения Губка Боб SquarePants или Кирби от Nintendo, летящие на реактивных лайнерах во Всемирный торговый центр, стали вирусными.