Potem ko je newyorški odvetnik prejšnji teden priznal, da je navajal neobstoječe sodne primere, ki jih je halucinirala programska oprema OpenAI ChatGPT, je teksaški sodnik naročil odvetnikom na svojem sodišču, naj potrdijo, da za pripravo svojih pravnih dokumentov niso uporabili umetne inteligence – ali če to storijo, da je rezultat preveril človek.
"Te platforme so v trenutnem stanju nagnjene k halucinacijam in pristranskosti," piše opomba od sodnika Brantleyja Starra iz severnega okrožja Teksasa. »Glede halucinacij si izmišljujejo stvari – tudi citate in citate.
»Drugo vprašanje je zanesljivost ali pristranskost. Medtem ko odvetniki prisežejo, da bodo opustili svoje osebne predsodke, pristranskosti in prepričanja, da bodo zvesto spoštovali zakon in zastopali svoje stranke, je generativna umetna inteligenca produkt programiranja, ki so ga izdelali ljudje, ki jim ni bilo treba priseči.
»Kot taki ti sistemi niso zvesti nobeni stranki, pravni državi ali zakonom in ustavi Združenih držav (ali, kot je navedeno zgoraj, resnici). Nevezani na kakršen koli občutek dolžnosti, časti ali pravičnosti, taki programi delujejo v skladu z računalniško kodo in ne na prepričanju, temeljijo na programiranju in ne na načelih. Vsaka stranka, ki meni, da ima platforma zahtevano natančnost in zanesljivost za pravne informacije, lahko zaprosi za dopust in pojasni, zakaj."
Sodnikova opomba nadalje pojasnjuje, da bo njegovo sodišče izločilo vsako vlogo odvetnika, ki ne bo predložil zahtevanega potrdila, ki potrjuje, da so bili ti pogoji prebrani in razumljeni.
Sodnik Starr ni bil dosegljiv za komentar.
Ni redka težava
Zapis je bil objavljen dne Torek, maj 30. Sledi obsodbi newyorškega sodnika 26. maja Naročilo za prikaz vzroka [PDF] usmerjanje odvetnikov tožnika, ki toži kolumbijsko letalsko družbo Avianca SA, da pojasnijo, zakaj ne bi smeli biti kaznovani zaradi "navajanja neobstoječih primerov."
Tožnikovi odvetniki so v zapriseženi izjavi priznali, da so "sodišču predložili kopije neobstoječih sodnih mnenj" in "uporabili lažno in goljufivo notarsko overitev."
V bistvu so odvetniki uporabili ChatGPT za iskanje prejšnjih primerov, chat-bot si je te primere izmislil, odvetniki pa so jih citirali v vlogah, kot da so resnični. Odvetniško ekipo je nato poklicala obramba, ki je priznala napako.
Sodnik Kevin Castel, kot si lahko predstavljate, ni bil navdušen. Svoj gnev je usmeril v tožnikove odvetnike v Mata proti Avianca, Inc. (1:22-cv-01461), ki je nasprotoval naporom obrambe, da bi zavrnila trditev o telesnih poškodbah z navedbo Varghese proti South China Airlines Co Ltd, Shaboon proti Egyptairuin Petersen proti Iran Air, med drugimi strojno umišljenimi sodnimi primeri.
Register prosili za komentar tožnikovo odvetniško pisarno Levidow, Levidow in Oberman, na naš klic pa se niso odzvali.
Mi smo predhodno napisano o tem, da ChatGPT izumlja osmrtnice za žive ljudi, vse do oblikovanja URL-jev do neobstoječih časopisnih naslovov, zato ni presenetljivo, da bot za ustvarjanje besedila izmišlja sodne primere. OpenAI opozarja, da njegov sistem "lahko občasno ustvari napačne informacije", kar se zdi blago glede na pripravljenost modela, da samozavestno izda napačne informacije.
V tem pisna izjava [PDF], je odvetnik kršitelja dejal, da "močno obžaluje, da je uporabil generativno umetno inteligenco za dopolnitev pravnih raziskav, ki so bile tukaj opravljene, in tega ne bo nikoli storil v prihodnosti brez popolnega preverjanja njene pristnosti."
Medtem ko se zdi, da je newyorški primer prvi spodrsljaj sodnega postopka na podlagi umetne inteligence, ki je pritegnil pozornost javnosti, obstajajo terjatve druga lažni citati primerov prišlo.
Stephen Wu, delničar pravne skupine Silicon Valley Law Group in predsednik ameriške odvetniške zbornice Nacionalni inštitut za umetno inteligenco in robotiko, povedal Register da čeprav ne pozna primerov konfabulacije AI razen primera v New Yorku, pričakuje, da obstajajo še drugi.
Pravila so pravila
Na vprašanje, ali bi morali odvetniki vedeti bolje ali bi lahko novost generativne umetne inteligence nekako omilila situacijo, je bil Wu nedvoumen.
"V moji knjigi ni opravičila," je rekel Wu. "Obstajajo pravila poklicnega ravnanja, ki pravijo, da če nameravate prenesti kakršno koli odgovornost za pravno zadevo, ste dolžni nadzorovati ljudi, na katere zadevo prenesete."
Wu je dejal, da naj bi ta pravila veljala za parapravnika ali pomočnika, vendar bi morala veljati za generativno umetno inteligenco.
V moji knjigi ni opravičila
»Prebral sem, da morate v dobi generativne umetne inteligence, če želite reči, da nekaj prenesete na umetno inteligenco, to umetno inteligenco nadzorovati in preveriti njene rezultate, da se prepričate, ali izpolnjuje standard usposobljenosti, ki se zahteva od odvetnikov srečati,« je pojasnil.
Wu je dejal, da je v zakonu določena vloga orodij AI, vendar mora biti ta vloga podrejena osebi. Rekel je, da pričakuje, da se bo generativna umetna inteligenca izkazala za uporabnejšo za naloge, kot je ustvarjanje pogodb, kjer je več prostora za raznoliko besedilo in razlago. V sodnih vlogah je dejal: "Vložki so nekoliko višji, ker moraš dati piko na vsak 'i' in prekrižati vsak 't'."
Prav tako meni, da bi lahko zahtevo teksaškega sodnika glede certificiranja sprejeli širše.
"Stalni nalog sodnika o potrditvi, da se ne zanaša zgolj na generativno umetno inteligenco, lahko postane lokalno pravilo na določenih sodiščih," je dejal Wu.
»In zdi se mi, da bi zvezni svetovalni odbor za pravila in enakovredni državni organi morda želeli spremeniti poslovnik. Na primer, koncept stalnega naloga teksaškega sodnika o potrditvi neuporabe generativne umetne inteligence ali vsaj preverjanja resničnih virov bi lahko ustrezal zveznemu pravilu civilnega postopka 11(b).«
Ameriška odvetniška zbornica je na svojem polletnem srečanju februarja sprejela ločljivost [PDF] poziva organizacije, ki razvijajo, oblikujejo in uvajajo sisteme umetne inteligence, da zagotovijo, da ljudje nadzorujejo te modele, da so posamezniki in organizacije odgovorni za škodo, ki jo povzročijo nevronske mreže in podobno, in da jih razvijalci teh sistemov izvajajo na način to je pregledno in revizijsko, hkrati pa spoštuje intelektualno lastnino. Vso srečo.
Wu je dejal, da se je potreba po tem, kako tehnološke spremembe vplivajo na pravo, pojavila pred približno desetletjem v Etični projekt ABA 20/20. »Med drugim je govorilo o tem, kako odvetniška dolžnost do usposobljenosti zahteva sposobnost razumevanja tehnologije in kako je to povezano z odvetniško prakso in pri uporabi tehnologije za odvetniško prakso,« je dejal.
Wu pričakuje nadaljnjo razpravo o vlogi generativne umetne inteligence v zakonu. "Predvidevam, da bomo morali v zvezi s tem opraviti nekaj dela v odboru, da bi morda poskušali pripraviti spremembe pravil modela ABA," je dejal. ®
- Distribucija vsebine in PR s pomočjo SEO. Okrepite se še danes.
- PlatoAiStream. Podatkovna inteligenca Web3. Razširjeno znanje. Dostopite tukaj.
- Kovanje prihodnosti z Adryenn Ashley. Dostopite tukaj.
- Kupujte in prodajajte delnice podjetij pred IPO s PREIPO®. Dostopite tukaj.
- vir: https://go.theregister.com/feed/www.theregister.com/2023/05/31/texas_ai_law_court/
- :ima
- : je
- :ne
- :kje
- $GOR
- 1
- 26
- a
- O meni
- nad
- absolutna
- Po
- odgovorna
- natančnost
- Zakon
- Naslov
- priznal
- sprejet
- svetovanje
- vplivajo
- proti
- starost
- Avgust
- AI
- AI sistemi
- letalski prevoznik
- Airlines
- Prav tako
- Ameriška
- med
- an
- in
- Še ena
- pričakujte
- kaj
- Uporabi
- Arhiv
- SE
- umetni
- Umetna inteligenca
- AS
- Pomočnik
- Združenje
- At
- pozornosti
- odvetnik
- pritegnili
- Pristnost
- Na voljo
- bar
- temeljijo
- BE
- ker
- postanejo
- bilo
- meni
- verjeti
- Boljše
- Poleg
- pristranskosti
- pristranskosti
- Bit
- Knjiga
- Bot
- Briefing
- splošno
- vendar
- by
- klic
- se imenuje
- kliče
- prišel
- CAN
- primeru
- primeri
- certificiranje
- overiti
- Stol
- spremenite
- Spremembe
- ChatGPT
- preveriti
- preverjanje
- Kitajska
- China Airlines
- trdijo
- stranke
- stranke
- CO
- Koda
- kako
- komentar
- Odbor
- računalnik
- Koncept
- Ravnanje
- samozavestno
- Ustava
- pogodbe
- obsodba
- kopije
- bi
- Sodišče
- sodni primeri
- Sodni vlogi
- Sodišča
- Cross
- Trenutna
- desetletje
- Defense
- zahteve
- uvajanja
- oblikovanje
- Razvijalci
- razvoju
- DID
- režija
- Razprava
- Opusti
- okraj
- do
- Dokumenti
- opravljeno
- DOT
- prizadevanje
- bodisi
- zagotovitev
- ekvivalenti
- Napaka
- Eter (ETH)
- etika
- Tudi
- Tudi vsak
- pričakuje
- Pojasnite
- razložiti
- ne uspe
- false
- daleč
- februar
- Zvezna
- Vložitev
- vložki
- Firm
- prva
- fit
- sledi
- za
- goljufiva
- iz
- nadalje
- Prihodnost
- ustvarjajo
- ustvarjajo
- generativno
- Generativna AI
- dana
- goes
- dogaja
- dobro
- zelo
- skupina
- imel
- škodljiv
- Imajo
- ob
- he
- Hero
- več
- njegov
- držite
- Kako
- HTTPS
- človeškega
- Ljudje
- i
- if
- slika
- izvajati
- navdušeni
- in
- posamezniki
- info
- Podatki
- primer
- intelektualne
- intelektualne lastnine
- Intelligence
- namenjen
- razlago
- Izmišljeno
- Iran
- vprašanje
- IT
- ITS
- jpg
- Sodnik
- sodni
- Justice
- Vedite
- Zadnja
- zakon
- odvetniška pisarna
- Zakoni
- odvetniki
- vsaj
- pustite
- Pravne informacije
- pravno ekipo
- kot
- Litigation
- malo
- živi
- lokalna
- Poglej
- sreča
- je
- Znamka
- IZDELA
- Matter
- Maj ..
- Srečati
- srečanja
- ustreza
- Sredi leta
- morda
- Napačen vžig
- Omiliti
- Model
- modeli
- več
- premikanje
- my
- nacionalni
- Nimate
- omrežij
- Nevronski
- nevronske mreže
- nikoli
- Novo
- NY
- newyorški sodnik
- št
- Novost
- Prisega
- zgodilo
- of
- on
- OpenAI
- Komentarji
- nasprotuje
- or
- Da
- Organizacija
- organizacije
- Ostalo
- drugi
- naši
- ven
- izhod
- nadzirati
- zabava
- ljudje
- opravljeno
- oseba
- Osebni
- platforma
- Platforme
- platon
- Platonova podatkovna inteligenca
- PlatoData
- praksa
- predsodki
- Pripravimo
- prejšnja
- Načelo
- Izdelek
- strokovni
- Programiranje
- programi
- nepremičnine
- Dokaži
- javnega
- objavljeno
- dal
- kotacije
- precej
- RE
- Preberi
- Pripravljenost
- pravo
- obžaluje
- zanesljivost
- zanašanje
- predstavljajo
- obvezna
- zahteva
- zahteva
- potreben
- Raziskave
- spoštovanje
- Odgovornost
- Rezultati
- robotika
- vloga
- soba
- Pravilo
- pravila
- s
- Je dejal
- Sankcionirano
- pravijo,
- Zdi se,
- Občutek
- nastavite
- delničarja
- shouldnt
- Prikaži
- Silicij
- Silicon Valley
- Razmere
- So
- Software
- Izključno
- Nekaj
- nekoliko
- Viri
- South
- specifična
- standardna
- Država
- Države
- stavke
- predloži
- predložen
- taka
- dopolnjujejo
- presenečenje
- sistem
- sistemi
- Naloge
- skupina
- tehnološki
- Tehnologija
- Pogoji
- texas
- kot
- da
- O
- Prihodnost
- zakon
- njihove
- Njih
- POTEM
- Tukaj.
- te
- jih
- stvari
- tisti,
- do
- orodja
- pregleden
- Resnica
- poskusite
- Občasni
- razumevanje
- razumel
- Velika
- Združene države Amerike
- Podpirajo
- uporaba
- Rabljeni
- uporabo
- uporablja
- Valley
- Ve
- Preverjanje
- preverjeno
- želeli
- Opozori
- je
- način..
- we
- teden
- so bili
- kdaj
- ali
- ki
- medtem
- WHO
- zakaj
- bo
- z
- v
- brez
- besedilo
- delo
- Napačen
- wu
- york
- jo
- zefirnet