Twitch 禁止人工智能生成的《宋飞正传》节目制作跨性别者笑话

由柏拉图重新发布

关注： 0

视频 Seinfeld 恶搞 Nothing, Forever——一部使用生成式 AI 开发的情景喜剧——在其中一个角色不小心吐出恐跨性脏话后，在 Twitch 上被暂时禁止。

离奇的表演上了报纸头条上周因为使用 AI 即兴创作了永无止境的 Seinfeld 剧集的视觉效果和脚本。在模仿艺术的喜剧中，情景喜剧 30 Rock 都曾预测 15 多年前就有这样的事情。

这些角色以标志性喜剧系列的角色 Jerry、George、Elaine 和 Kramer 为蓝本，使用 OpenAI 的 GPT-3 语言模型进行对话。使用文本到语音算法将文本翻译成音频，背景和场景也是人工智能生成的。 Nothing, Forever 在 Twitch 上全天候 24/7 直播，自去年 XNUMX 月开播以来吸引了许多粉丝。

但是，渠道主持该节目于周一被取消违反 Twitch 的内容政策。 Mismatch Media 的联合创始人、Nothing, Forever 的创始人之一斯凯勒·哈特尔 (Skyler Hartle) 告诉注册该禁令的发布是因为主角拉里·范伯格 (Larry Feinberg) 发表攻击性言论，称变性人正在“破坏社会结构”、变性人是一种精神疾病，以及“所有自由主义者都暗地里是同性恋”。

您可以在下面观看糟糕的站立场景。

YouTube视频

Hartle 说，当它的创作者从使用 OpenAI 的 GPT-3 模型 Davinci 模型切换到名为 Curie 的功能较弱且更便宜的版本时，该节目的剧本偏离了轨道，并且没有实现软件功能来调整其内容。

“昨晚我们与 Davinci 的连接出现问题，在问题自行解决期间不得不切换到 Curie 模型。这是生成不当文本的时候，我们立即将其关闭。我们进一步调查了这个问题，发现我们没有正确利用 OpenAI 的内容审核工具，”他告诉我们。

哈特尔确认禁令是暂时的，应该持续 14 天。 Mismatch Media 现在正致力于部署 OpenAI 的内容审核工具，并且还在考虑使用辅助系统来跟踪模型的输出。

“我们生成的文本是一个错误，我们非常尴尬，而且生成的内容绝不反映我们员工的价值观或意见。我们对发生这种情况感到非常遗憾，并希望在所有适当的保障措施到位的情况下尽快恢复播出，”他说。

像 GPT-3 这样的大型语言模型是根据从互联网上抓取的文本进行训练的，可能会生成不恰当的、令人反感的语言。内容过滤器可以最大限度地减少最糟糕的文本，但即使有适当的保护措施，片段仍会偷偷溜走。

Twitch 的一位发言人发了注册该公司处理仇恨行为的社区准则，并表示：

“出于隐私原因，我们不会对具体的违规行为发表评论，但当我们有证据表明某个频道的行为违反了我们的社区准则或服务条款时，我们会采取适当的行动。” ®