在一名纽约律师上周承认引用了由 OpenAI 的 ChatGPT 软件产生幻觉的不存在的法庭案件后,一名德克萨斯州法官指示他所在法庭的律师证明他们没有使用人工智能来准备他们的法律文件——或者如果他们这样做了,那么输出已经被人验证过。
“这些平台在当前状态下容易产生幻觉和偏见,”读到 一张纸条 来自得克萨斯州北区法官 Brantley Starr。 “关于幻觉,他们编造了东西——甚至引用和引用。
“另一个问题是可靠性或偏见。 律师宣誓放弃他们的个人偏见、偏见和信仰,忠实地维护法律并代表他们的客户,而生成人工智能是人类设计的程序的产物,而无需宣誓。
“因此,这些系统不忠于任何客户、法治或美国的法律和宪法(或者,如上所述,事实)。 不受任何责任感、荣誉感或正义感的束缚,此类程序根据计算机代码而非信念行事,基于编程而非原则。 任何认为平台具有法律简报所需的准确性和可靠性的一方都可以请假并解释原因。”
法官的说明继续解释说,如果律师未能提交证明已阅读和理解这些条款的必要证明,他的法院将撤销任何文件。
无法联系到斯塔尔法官发表评论。
不是一个不常见的问题
该说明发表于 30星期二. 它遵循纽约法官的诅咒 26 月 XNUMX 日 说明原因的命令 [PDF] 指示起诉哥伦比亚航空公司 Avianca SA 的原告的律师解释为什么他们不应因“引用不存在的案件”而受到制裁。
原告的律师在一份宣誓书中承认,他们“向法院提交了不存在的司法意见的副本”,并“使用了虚假和欺诈性的公证”。
本质上,律师使用 ChatGPT 查找以前的案例,聊天机器人发明了这些案例,律师在文件中引用它们,就好像它们是真实的一样。 随后,辩护方召集了法律团队,并承认了错误。
你可以想象,凯文卡斯特尔法官并没有留下深刻的印象。 他将怒火发泄在原告的律师身上 Mata 诉 Avianca, Inc. (1:22-cv-01461),他反对通过引用驳回人身伤害索赔的辩护努力 Varghese诉中国南方航空公司, Shaboon 诉埃及航空公司及 彼得森诉伊朗航空公司,以及其他机器想象的法庭案件。
注册 要求原告的律师事务所 Levidow、Levidow 和 Oberman 发表评论,我们的电话没有得到回复。
我们的 以前写 关于 ChatGPT 为活着的人发明讣告,甚至为不存在的报纸讣告制作 URL,所以文本生成机器人编造法庭案件也就不足为奇了。 OpenAI 警告其系统“可能偶尔会生成不正确的信息”,考虑到模型已准备好自信地输出错误信息,这似乎是温和的。
在那里面 宣誓书 [PDF],违规律师表示,他“非常后悔利用生成人工智能来补充此处进行的法律研究,并且在没有绝对验证其真实性的情况下,将来永远不会这样做。”
虽然纽约案件似乎是第一起引起公众关注的基于人工智能的诉讼失败,但也有 索赔 other 假案例引用 时有发生。
Stephen Wu,硅谷法律集团股东,美国律师协会主席 人工智能与机器人国家研究所告诉 注册 尽管他不知道纽约案例之外的 AI 混淆实例,但他预计还有其他案例。
规则就是规则
当被问及律师是否应该了解得更多,或者生成人工智能的新颖性是否会以某种方式缓解这种情况时,吴毫不含糊地回答。
“我的书中没有任何借口,”吴说。 “有职业行为规则,他们说,如果你要委托任何法律事务的责任,你有责任监督你将事务委托给的人。”
吴说,这些规则旨在适用于律师助理或助理,但应该适用于生成人工智能。
我的书中没有任何借口
“我读到,在一个生成人工智能的时代,如果你将某些事情委托给人工智能,你需要监督人工智能并检查其结果,以确保它符合律师所需的能力标准见面,”他解释道。
吴说,人工智能工具在法律上是有作用的,但这个作用必须服从于人。 他说,他预计生成式 AI 将证明对生成合同等任务更有用,在这些任务中有更多的措辞和解释空间。 在提交给法庭的文件中,他说,“风险要高一些,因为你必须在每个‘i’上打上点,并在每个‘t’上划线。”
他还认为可以更广泛地采用得克萨斯州法官的认证要求。
“法官关于证明不完全依赖生成人工智能的常规命令可能会成为特定法院的地方规则,”吴说。
“在我看来,联邦规则咨询委员会和各州的同等机构可能想要改变议事规则。 例如,德克萨斯州法官关于证明不使用生成人工智能或至少检查真实来源的常规概念可能符合联邦民事诉讼规则 11(b)。”
美国律师协会在 XNUMX 月份的年中会议上通过了 一项决议 [PDF] 呼吁开发、设计和部署 AI 系统的组织确保人们监督这些模型,确保个人和组织对神经网络等造成的伤害负责,并确保这些系统的开发人员以某种方式实施它们这是透明和可审计的,同时也尊重知识产权。 祝你好运。
吴说,大约十年前就出现了解决技术变革如何影响法律的问题 ABA 的 20/20 道德项目. “除其他外,它谈到了律师的能力义务如何需要理解技术的能力,以及它如何与法律实践相关,以及何时将技术用于法律实践,”他说。
吴希望进一步讨论生成人工智能在法律中的作用。 “我预计我们将不得不让委员会对此进行一些工作,以尝试对 ABA 模型规则进行修改,”他说。 ®
- SEO 支持的内容和 PR 分发。 今天得到放大。
- 柏拉图爱流。 Web3 数据智能。 知识放大。 访问这里。
- 与 Adryenn Ashley 一起铸造未来。 访问这里。
- 使用 PREIPO® 买卖 PRE-IPO 公司的股票。 访问这里。
- Sumber: https://go.theregister.com/feed/www.theregister.com/2023/05/31/texas_ai_law_court/
- :具有
- :是
- :不是
- :在哪里
- $UP
- 1
- 26
- a
- 关于
- 以上
- 绝对
- 根据
- 问责
- 法案
- 地址
- 承认
- 采用
- advisory
- 影响
- 驳
- 年龄
- 前
- AI
- 人工智能系统
- 航空公司
- 航空公司
- 还
- 美国人
- 其中
- an
- 和
- 另一个
- 预料
- 任何
- 使用
- 档案
- 保健
- 人造的
- 人工智能
- AS
- 助理
- 社区
- At
- 关注我们
- 律师
- 生
- 真实性
- 可使用
- 酒吧
- 基于
- BE
- 因为
- 成为
- 很
- 相信
- 相信
- 更好
- 超越
- 偏见
- 偏见
- 位
- 书
- 博特
- 简报
- 宽广地
- 但是
- by
- 呼叫
- 被称为
- 调用
- 来了
- CAN
- 案件
- 例
- 证书
- 证明
- 椅子
- 更改
- 更改
- ChatGPT
- 查
- 检查
- 中国
- 中国国际航空公司
- 要求
- 客户
- 客户
- CO
- 码
- 如何
- 评论
- 委员会
- 一台
- 概念
- 进行
- 信心十足地
- 规程
- 合同的
- 定罪
- 副本
- 可以
- 法庭
- 法院案件
- 法庭文件
- 法院
- USB和Thunderbolt Cross
- 电流
- 十
- 国防
- 需求
- 部署
- 设计
- 开发
- 发展
- DID
- 导演
- 讨论
- 解除此信息
- 区
- do
- 文件
- 完成
- DOT
- 努力
- 或
- 确保
- 当量
- 错误
- 醚(ETH)
- 伦理
- 甚至
- 所有的
- 预计
- 说明
- 解释
- 失败
- false
- 远
- 二月
- 联邦
- 备案
- 申请
- 公司
- 姓氏:
- 适合
- 如下
- 针对
- 欺诈
- 止
- 进一步
- 未来
- 生成
- 发电
- 生成的
- 生成式人工智能
- 特定
- GOES
- 去
- 非常好
- 非常
- 团队
- 民政事务总署
- 危害
- 有
- 有
- he
- 保持
- 更高
- 他的
- 举行
- 创新中心
- HTTPS
- 人
- 人类
- i
- if
- 想像
- 实施
- 印象深刻
- in
- 个人
- info
- 信息
- 例
- 知识分子
- 知识产权
- 房源搜索
- 拟
- 解释
- 发明
- 伊朗
- 问题
- IT
- 它的
- JPG
- 法官
- 司法
- 司法
- 知道
- 名:
- 法律
- 律师事务所
- 法律
- 律师
- 最少
- 离开
- 法律咨询
- 法律团队
- 喜欢
- 诉讼
- 小
- 活的
- 本地
- 看
- 运气
- 制成
- 使
- 制作
- 问题
- 可能..
- 满足
- 会议
- 会见
- 年中
- 可能
- 失火
- 减轻
- 模型
- 模型
- 更多
- 移动
- my
- National
- 需求
- 网络
- 神经
- 神经网络
- 决不要
- 全新
- 纽约
- 纽约法官
- 没有
- 新奇
- 誓言
- 发生
- of
- on
- OpenAI
- 意见
- 反对
- or
- 秩序
- 组织
- 组织
- 其他名称
- 其它
- 我们的
- 输出
- 产量
- 监视
- 党
- 员工
- 执行
- 人
- 个人
- 平台
- 平台
- 柏拉图
- 柏拉图数据智能
- 柏拉图数据
- 在练习上
- 偏见
- Prepare
- 以前
- 原理
- 产品
- 所以专业
- 代码编程
- 训练课程
- 财产
- 证明
- 国家
- 出版
- 放
- 报价
- 宁
- RE
- 阅读
- 准备就绪
- 真实
- 遗憾
- 可靠性
- 依托
- 代表
- 必须
- 需求
- 需要
- 必要条件
- 研究
- 关于
- 责任
- 成果
- 机器人
- 角色
- Room
- 第
- 定位、竞价/采购和分析/优化数字媒体采购,但算法只不过是解决问题的操作和规则。
- s
- 说
- 制裁
- 对工资盗窃
- 似乎
- 感
- 集
- 股东
- 应该
- 显示
- 硅
- 硅谷
- 情况
- So
- 软件
- 独自
- 东西
- 有些
- 来源
- 南部
- 具体的
- 标准
- 州/领地
- 州
- 罢工
- 提交
- 提交
- 这样
- 补充
- 惊
- 系统
- 产品
- 任务
- 团队
- 技术性
- 专业技术
- 条款
- 德州
- 比
- 这
- 未来
- 法律
- 其
- 他们
- 然后
- 那里。
- 博曼
- 他们
- 事
- 那些
- 至
- 工具
- 透明
- 真相
- 尝试
- 罕见
- 理解
- 了解
- 联合的
- 美国
- 坚持
- 使用
- 用过的
- 运用
- 利用
- 谷
- Ve
- 企业验证
- 专利
- 想
- 警告
- 是
- 方法..
- we
- 周
- 为
- ,尤其是
- 是否
- 这
- 而
- WHO
- 为什么
- 将
- 中
- 也完全不需要
- 措辞
- 工作
- 错误
- wu
- 纽约
- 您
- 和风网