《堡垒之夜》失败:Epic Games 努力删除 AI 生成的种族主义图像 - 解密

《堡垒之夜》失败:Epic Games 努力删除 AI 生成的种族主义图像 – 解密

源节点: 3092027

据一位玩家称,在玩家强烈抗议后,Epic Games 正在清除用户上传到热门大逃杀游戏《堡垒之夜》的种族主义人工智能生成图像。 报告 by 小宅.

让《堡垒之夜》成为当今热门在线游戏的功能之一是用户能够创建自己的地图并与世界分享可玩体验。然而,这种创造力的出口意味着用户可能会上传有问题的内容,这就是这里发生的情况。

最近,用户开始注意到岛屿地图上有人工智能生成的粗糙图像,这些图像体现了种族主义刻板印象。作为 小宅 据报道,地图的例子包括那些名称为“阿拉伯区域战争”、“尼日利亚区域战争”和“中国区域战争”的地图。

这些地图上有种族主义和明显由人工智能生成的图像,这些图像延续了刻板印象,包括持有炸弹的中东男子和吃炸鸡的黑人。虽然这些地图中的大多数服务器人口较少,但本月早些时候,一张名为“牙买加区域战争”的地图拥有超过 35,000 名活跃玩家。

一张上传到《堡垒之夜》的种族主义照片,照片中一名墨西哥男子拿着墨西哥卷饼,戴着宽边帽。
图片:Fortnite Creative 中用户“燃烧”的来自禁岛的艺术作品。

Epic Games 表示:“许多提到的岛屿已经被移除,创作者也已采取行动。” 小宅 在一份声明中。 “我们已经解决了 100 多个岛屿的内容违规问题,这些岛屿使用了类似的缩略图格式,并将继续这样做。”

Epic Games 补充说,歧视性内容在《堡垒之夜》中没有立足之地,并且违反了该公司的岛屿创建者规则,并补充说,违反这些准则的用户可能会被永久禁止其帐户。

Epic Games 表示:“我们的人工审核团队会在发布前审核所有内容,并且我们正在积极更新岛屿创建者规则和审核培训计划,以最大程度地减少玩家收到的违规地图数量。” “我们鼓励玩家举报他们看到的任何可能违反我们规则的岛屿。”

在提供给声明 解码Epic Games 的 GG 表示,所有用户创建的岛屿在发布前都会经过版主的审核,但表示团队对此很谨慎。

一张黑人拿着一桶炸鸡的种族主义照片上传到了《堡垒之夜》。
图片:来自 Fortnite Creative 用户“drzen”的禁岛艺术作品。

Epic Games 表示:“如果我们不确定内容是否违规,我们会要求审核团队代表创作者采取良好的意图,这样我们就不会过度审查。” “有时,这意味着不应该发布的内容会被发布,我们会迅速删除任何违规内容,并为我们的版主编写新的培训材料。被发现违反我们的创作者规则的创作者将面临各种执法行动,包括永久发布和货币化禁令。”

该出版商补充说,它正在努力更新其“岛屿创建者规则和审核培训计划”。

加入到 生成式人工智能 热潮,Epic Games Store 开始 允许 九月份以人工智能艺术和其他元素为特色的游戏和提交内容。这是在竞争对手 PC 游戏市场 Steam 之后推出的 采取反对人工智能内容的立场,但它有 自从放宽规则以来 在此类提交的数量增加的情况下。

“我们不会禁止使用新技术的游戏,”Epi​​c Games 创始人兼首席执行官蒂姆·斯威尼 (Tim Sweeney) 当时在 Twitter 上指出,Epic Games 已于当年早些时候开放了完全的自助出版。

虽然人工智能开发人员投入巨资从模型中清除攻击性图像,但用户已经找到了使用专门提示“越狱”模型的方法。 10 月,人工智能生成的图像 海绵宝宝 SquarePants 或任天堂的《星之卡比》驾驶喷气式客机冲向世贸中心的行为引起了广泛关注。

编辑 安德鲁海沃德

随时了解加密新闻,在您的收件箱中获取每日更新。

时间戳记:

更多来自 解码