OpenAI 发布了一个免费的在线工具,旨在预测一段文本是由人工智能生成的还是由人类编写的。
该软件被称为“人工智能文本分类器”,由语言模型提供支持,并以从“非常不可能”到“不清楚”再到“可能”的五分制对人工智能模型生成一段文本的可能性进行评级” 我们在大约十年前的一些文章中尝试过它,一些秃鹰可能会厌烦得知他们的副本被评为“不清楚它是否是 AI 生成的”。
该工具于周二发布,在启动几个月后首次亮相 推出 ChatGPT,一种聊天机器人,可以在收到指令时自动生成文本,例如回答问题、讲笑话或写诗。 实际上,OpenAI 帮助推动了聊天机器人的兴起,现在提供了一个半评估的工具来检测这类东西。
至少美国、法国和印度的学校和大学已经 禁止 学生使用他们的网络访问 ChatGPT 或提交软件生成的论文。
分类器有时对错误的预测非常自信
专家们还担心文本生成模型可能会被用来发出大量的错误信息、网络钓鱼电子邮件、大量的废话以充斥互联网。 一些 组织 因此,计算机科学家开始研究他们自己的分类器工具,以检测 AI 生成的内容。
OpenAI 的 AI 文本分类器并不完美。 “我们对人工智能文本分类器的预期用途是促进关于人类编写的内容和人工智能生成的内容之间的区别的对话,”微软资助的实验室 说过.
该组织补充说:“在决定文件是否由 AI 生成时,结果可能会有所帮助,但不应成为唯一的证据。” “该模型是根据来自各种来源的人类书写文本进行训练的,这可能无法代表所有类型的人类书写文本。”
AI 文本分类器旨在检测来自各种来源的机器生成的文本,而不仅仅是其过度宣传的 ChatGPT。 它接受了来自五个组织构建的 34 个模型的 AI 编写的文本以及从互联网上抓取并取自公司内部数据集的人工编写的文本的训练。
该工具需要 1,000 个字符的文本样本,并且不适用于英语以外的语言。 OpenAI 的对齐负责人 Jan Leike 告诉 Axios 其预测可能会产生误报或漏报。
对于希望评估学生是否提交了由 ChatGPT 等软件生成的作业的教师来说,分类器甚至没有那么有用。 AI 文本分类器不够敏感,无法判断哪些句子或片段可能是 AI 的作品,因此任何由计算机生成并由人类调整的文本都可能逃避检测。
“我们警告说,该模型尚未针对许多预期的原则目标进行仔细评估——包括学生论文、自动虚假信息活动或聊天记录。 事实上,众所周知,基于神经网络的分类器在训练数据之外的校准很差。 对于与我们训练集中的文本非常不同的输入,分类器有时会非常自信地做出错误的预测,”实验室警告说。
OpenAI 也是 据说 探索其他方法来检测 AI 生成的文本,包括可能内置到其未来产品中的水印技术。
注册 已要求 OpenAI 提供进一步的评论,最好是非 AI 生成的评论。 ®
- SEO 支持的内容和 PR 分发。 今天得到放大。
- 柏拉图区块链。 Web3 元宇宙智能。 知识放大。 访问这里。
- Sumber: https://go.theregister.com/feed/www.theregister.com/2023/01/31/openai_tool_chatgpt_detection/
- 000
- 1
- a
- 关于
- 访问
- 添加
- 后
- AI
- 所有类型
- 中
- 和
- 方法
- 刊文
- 自动化
- 自动
- 爱可信
- 基于
- 之间
- 机器人
- 建
- 活动
- 小心
- 字符
- 聊天机器人
- ChatGPT
- 评论
- 公司
- 一台
- 信心
- 内容
- 谈话
- 可以
- data
- 开张
- 十
- 决定
- 设计
- 检测
- 不同
- 造谣
- 文件
- 效果
- 电子邮件
- 英语
- 更多
- 醚(ETH)
- 评估
- 甚至
- 证据
- 预期
- 探索
- 非常
- 恐惧
- 恐惧
- 培育
- 法国
- 自由的
- 止
- 汽油
- 进一步
- 未来
- 产生
- 产生
- GOES
- 头
- 帮助
- 帮助
- HTTPS
- 人
- in
- 包含
- 印度
- 内部
- 网络
- IT
- 一月三十一日
- 类
- 已知
- 实验室
- 语言
- 语言
- 学习用品
- 容易
- 寻找
- 许多
- 误传
- 模型
- 模型
- 个月
- 网络
- 神经
- 神经网络
- 优惠精选
- 在线
- OpenAI
- 组织
- 组织
- 其他名称
- 学校以外
- 己
- 钓鱼
- 片
- 柏拉图
- 柏拉图数据智能
- 柏拉图数据
- 供电
- 预测
- 预测
- 预测
- 原理
- 生产
- 生成
- 核心产品
- 题
- 价格表
- 发布
- 代表
- 需要
- 成果
- 上升
- 鳞片
- 科学家
- 敏感
- 集
- 几个
- 应该
- 自
- So
- 软件
- 一些
- 来源
- 开始
- 启动
- 学生
- 学生
- 提交
- 这样
- 目标
- 教师
- 其
- 因此
- 至
- 音
- 工具
- 工具
- 熟练
- 产品培训
- 周二
- 大学合作伙伴
- 亮相
- us
- 使用
- 各种
- 各个
- 是否
- 这
- WHO
- 将
- 工作
- 书面
- 错误
- 和风网