After a New York attorney admitted last week to citing non-existent court cases that had been hallucinated by OpenAI’s ChatGPT software, a Texas judge has directed attorneys in his court to certify either that they have not used artificial intelligence to prepare their legal documents – or that if they do, that the output has been verified by a human.
“These platforms in their current states are prone to hallucinations and bias,” reads egy jegyzet from Judge Brantley Starr of the Northern District of Texas. “On hallucinations, they make stuff up – even quotes and citations.
“Another issue is reliability or bias. While attorneys swear an oath to set aside their personal prejudices, biases, and beliefs to faithfully uphold the law and represent their clients, generative artificial intelligence is the product of programming devised by humans who did not have to swear such an oath.
“As such, these systems hold no allegiance to any client, the rule of law, or the laws and Constitution of the United States (or, as addressed above, the truth). Unbound by any sense of duty, honor, or justice, such programs act according to computer code rather than conviction, based on programming rather than principle. Any party believing a platform has the requisite accuracy and reliability for legal briefing may move for leave and explain why.”
The judge’s note goes on to explain that his court will strike any filing from an attorney who fails to submit the required certification attesting that these terms have been read and understood.
Starr bíró nem nyilatkozott.
Nem szokatlan probléma
A feljegyzés megjelent: Kedd, május 30. It follows a New York judge’s damning May 26 Rendelje meg az ok megjelenítését [PDF] directing attorneys for a plaintiff suing Colombian airline Avianca S.A. to explain why they should not be sanctioned for “the citation of non-existent cases.”
The plaintiff’s attorneys had admitted in an affidavit that they had submitted “to the court of copies of non-existent judicial opinions,” and made “use of a false and fraudulent notarization.”
Lényegében az ügyvédek a ChatGPT-t használták a korábbi ügyek felkutatására, a chat-bot találta ki ezeket az eseteket, az ügyvédek pedig úgy idézték őket a bejelentésekben, mintha valódiak lennének. A jogászcsapatot ezután kihívta a védelem, és elismerték a hibáját.
Judge Kevin Castel, as you can imagine, was not impressed. He directed his ire at the plaintiff’s attorneys in Mata kontra Avianca, Inc. (1:22-cv-01461), aki ellenezte a személyi sérelem iránti kereset elutasítását célzó védekezési törekvést, hivatkozva Varghese kontra South China Airlines Co Ltd, Shaboon v. Egyptairés Petersen kontra Iran Air, a többi géppel elképzelt bírósági ügy között.
A regisztráció asked for comment from the plaintiff’s law firm, Levidow, Levidow and Oberman, and our call was not returned.
voltunk korábban írt about ChatGPT inventing obituaries for living people, going as far as crafting URLs to non-existent newspaper obits, so it’s no surprise the text-generating bot makes up court cases. OpenAI warns its system “may occasionally generate incorrect information,” which seems mild given the model’s readiness to confidently put out wrong info.
Abban eskü alatti írásbeli nyilatkozat [PDF], the offending attorney said he “greatly regrets having utilized generative artificial intelligence to supplement the legal research performed herein and will never do so in the future without absolute verification of its authenticity.”
Noha a New York-i eset az első mesterséges intelligencia-alapú perbeli gyújtáskihagyás, amely felkeltette a nyilvánosság figyelmét, követelések egyéb hamis eseti idézetek történt.
Stephen Wu, shareholder in Silicon Valley Law Group and chair of the American Bar Association’s Mesterséges Intelligencia és Robotika Nemzeti Intézet, elmondta A regisztráció that while he’s unaware of instances of AI confabulation beyond the New York case, he expects there are others.
A szabályok szabályok
Arra a kérdésre, hogy az ügyvédeknek kellene-e jobban tudniuk, vagy a generatív mesterséges intelligencia újdonsága enyhítheti-e valahogy a helyzetet, Wu egyértelmű volt.
“There is no excuse in my book,” said Wu. “There are rules of professional conduct and they say that if you’re going to delegate any responsibility for a legal matter, that you have a duty to supervise the people to whom you are delegating the matter.”
Wu elmondta, hogy ezeket a szabályokat a jogvédőre vagy az asszisztensre kellett alkalmazni, de vonatkozniuk kell a generatív MI-re is.
A könyvemben nincs mentség
“I read that, in an age of generative artificial intelligence, to say if you’re delegating something to artificial intelligence, you need to supervise that artificial intelligence and check its results to make sure that it meets the standard of competence that lawyers are required to meet,” he explained.
Wu said there’s a role for AI tools in the law, but that role has to be subordinate to a person. He said he expects generative AI will prove more useful for tasks like generating contracts, where there’s more room for varied wording and interpretation. In court filings, he said, “the stakes are somewhat higher because you’ve got to dot every ‘i’ and cross every ‘t’.”
Úgy véli továbbá, hogy a texasi bíró tanúsítási követelményét szélesebb körben is át lehetne fogadni.
“The judge’s standing order about certifying not relying solely on generative AI may become a local rule in specific courts,” Wu said.
“And it seems to me that the Federal Rules advisory committee and state equivalents may want to change the rules of procedure. For instance, the Texas judge’s standing order concept of certifying not using generative AI or at least checking against real sources could fit within Federal Rule of Civil Procedure 11(b).”
Az Amerikai Ügyvédi Kamara februári évközi ülésén elfogadta állásfoglalás [PDF] calling on organizations developing, designing, and deploying AI systems to ensure that people oversee those models, that individuals and organization are held accountable for harms done by neural networks and the like, and that developers of these systems implement them in a way that’s transparent and auditable while also respecting intellectual property. Good luck.
Wu elmondta, hogy körülbelül egy évtizede merült fel, hogy foglalkozni kell azzal, hogy a technológiai változások hogyan befolyásolják a törvényt ABA’s 20/20 ethics project. “Among other things, it talked about how lawyers’ duty to competence requires competence in understanding technology, and how it relates to the practice of law and when using technology for the practice of law,” he said.
Wu expects further discussion on the role of generative AI in the law. “I anticipate that we’re going to have to have a little bit of committee work on that, to try to maybe come up with changes to the ABA model rules,” he said. ®
- SEO által támogatott tartalom és PR terjesztés. Erősödjön még ma.
- PlatoAiStream. Web3 adatintelligencia. Felerősített tudás. Hozzáférés itt.
- A jövő pénzverése – Adryenn Ashley. Hozzáférés itt.
- Részvények vásárlása és eladása PRE-IPO társaságokban a PREIPO® segítségével. Hozzáférés itt.
- Forrás: https://go.theregister.com/feed/www.theregister.com/2023/05/31/texas_ai_law_court/
- :van
- :is
- :nem
- :ahol
- $ UP
- 1
- 26
- a
- Rólunk
- felett
- Abszolút
- Szerint
- felelős
- pontosság
- törvény
- cím
- felvételt nyer
- fogadott
- tanácsadó
- érint
- ellen
- kor
- Augusztus
- AI
- AI rendszerek
- légitársaság
- Airlines
- Is
- Amerikai
- között
- an
- és a
- Másik
- számít
- bármilyen
- alkalmaz
- Archív
- VANNAK
- mesterséges
- mesterséges intelligencia
- AS
- Helyettes
- Egyesület
- At
- figyelem
- ügyvéd
- vonz
- hitelesség
- elérhető
- bár
- alapján
- BE
- mert
- válik
- óta
- úgy gondolja,
- hívő
- Jobb
- Túl
- előítélet
- torzítások
- Bit
- könyv
- Bot
- Eligazítás
- nagyjából
- de
- by
- hívás
- hívott
- hívás
- jött
- TUD
- eset
- esetek
- Tanúsítvány
- igazolja,
- Szék
- változik
- Változások
- ChatGPT
- ellenőrizze
- ellenőrzése
- Kína
- China Airlines
- követelés
- vásárló
- ügyfél részére
- CO
- kód
- hogyan
- megjegyzés
- bizottság
- számítógép
- koncepció
- Magatartás
- magabiztosan
- Alkotmány
- szerződések
- meggyőződés
- példányban
- tudott
- Bíróság
- bírósági ügyek
- Bírósági beadványok
- Bíróságok
- Kereszt
- Jelenlegi
- évtized
- Védelem
- igények
- bevezetéséhez
- tervezés
- fejlesztők
- fejlesztése
- DID
- rendezés
- vita
- Elvetése
- kerület
- do
- dokumentumok
- csinált
- DOT
- erőfeszítés
- bármelyik
- biztosítására
- egyenértékűek
- hiba
- Eter (ETH)
- etika
- Még
- Minden
- elvárja
- Magyarázza
- magyarázható
- nem sikerül
- hamis
- messze
- február
- Szövetségi
- Benyújtás
- reszelék
- Cég
- vezetéknév
- megfelelő
- következik
- A
- csaló
- ból ből
- további
- jövő
- generál
- generáló
- nemző
- Generatív AI
- adott
- Goes
- megy
- jó
- nagymértékben
- Csoport
- kellett
- ártalmak
- Legyen
- tekintettel
- he
- hős
- <p></p>
- övé
- tart
- Hogyan
- HTTPS
- emberi
- Az emberek
- i
- if
- kép
- végre
- lenyűgözött
- in
- egyének
- info
- információ
- példa
- szellemi
- szellemi tulajdon
- Intelligencia
- szándékolt
- értelmezés
- Feltalált
- Irán
- kérdés
- IT
- ITS
- jpg
- bíró
- bírósági
- Igazság
- Ismer
- keresztnév
- Törvény
- ügyvédi Iroda
- törvények
- ügyvédek
- legkevésbé
- Szabadság
- Jogi
- jogi csapat
- mint
- Pereskedés
- kis
- élő
- helyi
- néz
- szerencse
- készült
- csinál
- KÉSZÍT
- Anyag
- Lehet..
- Találkozik
- találkozó
- Megfelel
- Évközép
- esetleg
- Gyújtáskimaradás
- Enyhít
- modell
- modellek
- több
- mozog
- my
- nemzeti
- Szükség
- hálózatok
- ideg-
- neurális hálózatok
- soha
- Új
- New York
- new yorki bíró
- nem
- újdonság
- Eskü
- történt
- of
- on
- OpenAI
- Vélemények
- ellentétes
- or
- érdekében
- szervezet
- szervezetek
- Más
- Egyéb
- mi
- ki
- teljesítmény
- Felügyelje
- párt
- Emberek (People)
- teljesített
- person
- személyes
- emelvény
- Platformok
- Plató
- Platón adatintelligencia
- PlatoData
- gyakorlat
- előítéletek
- Készít
- előző
- alapelv
- Termékek
- szakmai
- Programozás
- Programok
- ingatlan
- Bizonyít
- nyilvános
- közzétett
- tesz
- idézetek
- Inkább
- RE
- Olvass
- Készenlét
- igazi
- sajnálja
- megbízhatóság
- támaszkodva
- képvisel
- kötelező
- követelmény
- megköveteli,
- szükséges
- kutatás
- vonatkozó
- felelősség
- Eredmények
- robotika
- Szerep
- Szoba
- Szabály
- szabályok
- s
- Mondott
- szentesített
- azt mondják
- Úgy tűnik,
- értelemben
- készlet
- részvényes
- kellene
- előadás
- Szilícium
- Silicon Valley
- helyzet
- So
- szoftver
- Kizárólag
- valami
- némileg
- Források
- Dél
- különleges
- standard
- Állami
- Államok
- sztrájk
- beküldése
- benyújtott
- ilyen
- kiegészítés
- meglepetés
- rendszer
- Systems
- feladatok
- csapat
- technikai
- Technológia
- feltételek
- Texas
- mint
- hogy
- A
- A jövő
- törvény
- azok
- Őket
- akkor
- Ott.
- Ezek
- ők
- dolgok
- azok
- nak nek
- szerszámok
- átlátszó
- igazság
- megpróbál
- Ritka
- megértés
- megértett
- Egyesült
- Egyesült Államok
- helyt
- használ
- használt
- segítségével
- hasznosított
- Völgy
- Ve
- Igazolás
- ellenőrzött
- akar
- figyelmeztet
- volt
- Út..
- we
- hét
- voltak
- amikor
- vajon
- ami
- míg
- WHO
- miért
- lesz
- val vel
- belül
- nélkül
- megfogalmazás
- Munka
- Rossz
- wu
- york
- te
- zephyrnet