ニューヨーク州の弁護士が先週、OpenAIのChatGPTソフトウェアによって幻覚を起こされた存在しない裁判例を引用したことを認めたことを受け、テキサス州の判事は法廷の弁護士に対し、法的文書の作成に人工知能を使用していないか、人工知能を使用している場合にはその出力が人間によって検証されたことを証明するよう指示した。
「これらのプラットフォームは現状では幻覚や偏見を招きやすい」と書かれています。 ノート テキサス州北部地区のブラントリー・スター判事より。 「幻覚については、引用や引用さえもでっち上げます。
「もう一つの問題は、信頼性や偏見です。 弁護士は個人的な偏見、偏見、信念を脇に置いて法律を忠実に守り、依頼人を代表するという宣誓をしますが、生成人工知能はそのような宣誓をする必要のなかった人間が考案したプログラムの産物です。
「したがって、これらのシステムは、クライアント、法の支配、米国の法律と憲法(または、上で述べたように真実)に対していかなる忠誠も保持しません。 このようなプログラムは、義務、名誉、正義の意識に束縛されず、信念ではなくコンピューター コードに従って、原則ではなくプログラミングに基づいて動作します。 プラットフォームが法的説明に必要な正確性と信頼性を備えていると信じる当事者は、その理由を説明して休暇を申請する可能性があります。」
裁判官のメモは続けて、これらの条項を読んで理解したことを証明する必要な証明書を提出しない弁護士からの申し立てを裁判所が取り消すと説明している。
スター判事のコメントは得られていない。
珍しい問題ではない
ノートが公開されたのは、 火曜日、月30。 26月XNUMX日にニューヨーク判事が判決を下したことを受けてのことだ。 原因を示す命令 [PDF] コロンビアの航空会社アビアンカSAを告訴している原告の弁護士に対し、「存在しない事件の引用」を理由に彼らが制裁を受けるべきではない理由を説明するよう指示。
原告の弁護士は宣誓供述書の中で、「存在しない司法意見のコピーを裁判所に提出」し、「虚偽の不正な公正証書を利用」したことを認めた。
基本的に、弁護士は ChatGPT を使用して過去の訴訟を調べ、チャットボットがそれらの訴訟をでっち上げ、弁護士はそれらの訴訟をあたかも真実であるかのように提出書類に引用しました。 その後、弁護側から弁護団が出動し、自らの誤りを認めた。
ご想像のとおり、ケビン・カステル判事は感銘を受けませんでした。 彼はその怒りを原告の弁護士に向けた。 マタ対アビアンカ航空 (1:22-cv-01461)、次の理由を引用して人身傷害の請求を却下する弁護活動に反対した。 ヴァルギース v. 南華航空株式会社, シャブーン対エジプト航空, ピーターセン対イラン航空、他の機械想像の裁判例の中で。
登録 は原告の法律事務所であるレビドウ・レビドウ・アンド・オーバーマンにコメントを求めたが、電話は返されなかった。
我々はしました 以前に書かれました ChatGPT が存命人物の死亡記事をでっち上げ、存在しない新聞記事への URL を作成することまで行っているため、テキスト生成ボットが訴訟をでっち上げるのも不思議ではありません。 OpenAIは、自社のシステムが「時折、誤った情報を生成する可能性がある」と警告しているが、モデルが自信を持って誤った情報を出力する準備ができていることを考えると、これは穏やかに見える。
その中で 宣誓供述書 [PDF]、問題を起こした弁護士は、「ここで行われた法的調査を補足するために生成人工知能を利用したことを非常に後悔しており、その信頼性の完全な検証なしには今後も決して利用しない」と述べた。
ニューヨークの訴訟は、世間の注目を集めた初めての AI ベースの訴訟の失態であるように見えるが、次のような点もある。 クレーム 他の 偽の事件引用 発生している。
スティーブン・ウー氏、シリコンバレー法律グループの株主、米国法曹協会会長 国立人工知能・ロボティクス研究所、言いました 登録 同氏は、ニューヨークの事件以外にもAIによる作話の例は知らないが、他にもあると予想しているという。
ルールはルールです
弁護士はもっとよく知っておくべきなのか、あるいは生成AIの目新しさが何らかの形で状況を緩和できるのではないかとの質問に対し、ウー氏は明確に答えた。
「私の本には弁解の余地はありません」とウー氏は語った。 「職業上の行動に関する規則があり、法的問題について何らかの責任を委任する場合、その問題を委任している人々を監督する義務があるとされています。」
ウー氏は、これらのルールはパラリーガルやアシスタントに適用されることを目的としているが、生成AIにも適用されるべきだと述べた。
私の本には言い訳はありません
「生成型人工知能の時代において、人工知能に何かを委任する場合、その人工知能を監督し、その結果をチェックして弁護士に求められる能力の基準を満たしているかどうかを確認する必要があると読んだことがあります」と彼は説明した。
ウー氏は、法律にはAIツールの役割があるが、その役割は人間に従属するものでなければならないと述べた。 同氏は、さまざまな文言や解釈の余地がよりある契約書の作成などのタスクでは、生成AIがより役立つことが判明すると予想していると述べた。 同氏は裁判所への提出書類の中で、「すべての『i』に点を打ち、すべての『t』に×印を付けなければならないため、リスクはやや高くなる」と述べた。
同氏はまた、テキサス州の裁判官の認定要件がより広範囲に採用される可能性があると考えている。
「生成AIのみに依存しないことを認定するという裁判官の常任命令は、特定の法廷でのローカルルールになる可能性がある」とウー氏は述べた。
「そして、連邦規則諮問委員会と州に相当する委員会は、手続き規則を変更したいと考えているのではないかと思われます。 たとえば、生成 AI を使用していないことを証明するか、少なくとも実際の情報源と照合するというテキサス州の裁判官の常任命令の概念は、連邦民事訴訟規則 11(b) に適合する可能性があります。」
米国法曹協会はXNUMX月の中間会議で採択した 解像度 [PDF] AI システムを開発、設計、展開する組織に対し、人々がそれらのモデルを監督すること、ニューラル ネットワークなどによってもたらされる損害に対して個人と組織が責任を負うこと、およびこれらのシステムの開発者が知的財産を尊重しながら透明性と監査可能な方法でシステムを実装することを確保するよう求めています。 幸運を。
ウー氏は、技術変化が法律にどのような影響を与えるかに対処する必要性が約XNUMX年前に浮上したと述べた。 ABAの20/20倫理プロジェクト。 「とりわけ、弁護士の能力義務にはテクノロジーを理解する能力がどのように求められるか、またテクノロジーが法律の実務とどのように関係するのか、また法律の実務にテクノロジーを使用する場合についても話されました」と同氏は述べた。
ウー氏は、法律における生成型 AI の役割についてさらなる議論を期待しています。 「ABAモデル規則の変更を考え出すために、この件に関して委員会で少し作業する必要があると予想している」と同氏は語った。 ®
- SEO を活用したコンテンツと PR 配信。 今日増幅されます。
- プラトアイストリーム。 Web3 データ インテリジェンス。 知識増幅。 こちらからアクセスしてください。
- 未来を鋳造する w エイドリエン・アシュリー。 こちらからアクセスしてください。
- PREIPO® を使用して PRE-IPO 企業の株式を売買します。 こちらからアクセスしてください。
- 情報源: https://go.theregister.com/feed/www.theregister.com/2023/05/31/texas_ai_law_court/
- :持っている
- :は
- :not
- :どこ
- $UP
- 1
- 26
- a
- 私たちについて
- 上記の.
- 絶対の
- 従った
- 責任がある
- 精度
- 行為
- 住所
- 認められた
- 採択
- アドバイザリー
- 影響を及ぼす
- に対して
- 年齢
- 前
- AI
- AIシステム
- 航空会社
- 航空会社
- また
- アメリカ
- 間で
- an
- および
- 別の
- 予想する
- どれか
- 申し込む
- Archive
- です
- 人工の
- 人工知能
- AS
- アシスタント
- 協会
- At
- 注意
- 弁護士
- 引き付ける
- 信頼性
- 利用できます
- バー
- ベース
- BE
- なぜなら
- になる
- き
- と考えています
- 信じる
- より良いです
- 越えて
- バイアス
- バイアス
- ビット
- 本
- ロボット
- ブリーフィング
- 広く
- 焙煎が極度に未発達や過発達のコーヒーにて、クロロゲン酸の味わいへの影響は強くなり、金属を思わせる味わいと乾いたマウスフィールを感じさせます。
- by
- コール
- 呼ばれます
- 呼び出し
- 来ました
- 缶
- 場合
- 例
- 認証
- 証明する
- 椅子
- 変化する
- 変更
- AI言語モデルを活用してコードのデバッグからデータの異常検出まで、
- チェック
- 点検
- 中国
- 中華航空
- クレーム
- クライアント
- クライアント
- CO
- コード
- 来ます
- コメント
- 委員会
- コンピュータ
- コンセプト
- プロフェッショナルな方法で
- 自信を持って
- 憲法
- 契約
- 有罪判決
- コピー
- 可能性
- 裁判所
- 裁判例
- 裁判所への提出書類
- 裁判所
- Cross
- 電流プローブ
- 十年
- 防衛
- 需要
- 展開する
- 設計
- 開発者
- 開発
- DID
- 演出
- 議論
- 閉じる
- 地区
- do
- ドキュメント
- 行われ
- DOT
- 努力
- どちら
- 確保
- 同等物
- エラー
- エーテル(ETH)
- 倫理
- さらに
- あらゆる
- 期待する
- 説明する
- 説明
- 失敗
- false
- 遠く
- 2月
- 連邦政府の
- ファイリング
- 提出
- 会社
- 名
- フィット
- 次
- 不正な
- から
- さらに
- 未来
- 生成する
- 生成
- 生々しい
- 生成AI
- 与えられた
- ゴエス
- 行く
- 良い
- 大いに
- グループ
- 持っていました
- 害
- 持ってる
- 持って
- he
- ヒーロー
- より高い
- 彼の
- 認定条件
- HTTPS
- 人間
- 人間
- i
- if
- 絵
- 実装する
- 感銘を受けて
- in
- 個人
- info
- 情報
- 知的
- 知的財産
- インテリジェンス
- 意図された
- 解釈
- 発明された
- イラン
- 問題
- IT
- ITS
- JPG
- 裁判官
- 司法
- 正義
- 知っている
- 姓
- 法律
- 法律事務所
- 法制
- 弁護士
- 最低
- コメントを残す
- リーガルポリシー
- 法務チーム
- ような
- 訴訟
- 少し
- 生活
- ローカル
- 見て
- 運
- 製
- make
- 作る
- 問題
- 五月..
- 大会
- ご相談
- ミーツ
- 中間年
- かもしれない
- 失火
- 軽減する
- モデル
- 他には?
- my
- 国民
- 必要
- ネットワーク
- ニューラル
- ニューラルネットワーク
- 決して
- 新作
- ニューヨーク
- ニューヨークの裁判官
- いいえ
- ノベルティ
- 誓い
- 発生した
- of
- on
- OpenAI
- 意見
- 反対した
- or
- 注文
- 組織
- 組織
- その他
- その他
- 私たちの
- でる
- 出力
- 監督する
- パーティー
- のワークプ
- 実行
- 人
- 個人的な
- プラットフォーム
- プラットフォーム
- プラトン
- プラトンデータインテリジェンス
- プラトデータ
- 練習
- 偏見
- 準備
- 前
- 原則
- プロダクト
- プロ
- プログラミング
- プログラム
- 財産
- 受験する
- 公共
- 公表
- 置きます
- 引用
- むしろ
- RE
- 読む
- 準備
- リアル
- 後悔
- 信頼性
- 信頼
- 表す
- の提出が必要です
- 要件
- 必要
- 必要条件
- 研究
- 尊敬する
- 責任
- 結果
- ロボット工学
- 職種
- ルーム
- ルール
- ルール
- s
- 前記
- 認可済み
- 言う
- と思われる
- センス
- セッションに
- 株主
- すべき
- 表示する
- シリコン
- シリコンバレー
- 状況
- So
- ソフトウェア
- もっぱら
- 何か
- 幾分
- ソース
- サウス
- 特定の
- 標準
- 都道府県
- 米国
- ストライキ
- 提出する
- 提出された
- そのような
- 補足
- 驚き
- システム
- タスク
- チーム
- 技術の
- テクノロジー
- 条件
- テキサス州
- より
- それ
- 未来
- 法律
- アプリ環境に合わせて
- それら
- その後
- そこ。
- ボーマン
- 彼ら
- 物事
- それらの
- 〜へ
- 豊富なツール群
- トランスペアレント
- 真実
- 試します
- アンコモン
- 理解する
- 理解された
- ユナイテッド
- 米国
- 支持する
- つかいます
- 中古
- 利用された
- 谷
- Ve
- Verification
- 検証
- 欲しいです
- 警告する
- ました
- 仕方..
- we
- 週間
- した
- いつ
- かどうか
- which
- while
- 誰
- なぜ
- 意志
- 以内
- 無し
- 言い回し
- 仕事
- 間違った
- wu
- ヨーク
- 貴社
- ゼファーネット