Sen jälkeen kun New Yorkin asianajaja myönsi viime viikolla viitanneensa olemattomiin oikeusjuttuihin, jotka olivat olleet OpenAI:n ChatGPT-ohjelmiston hallusinaatioita, Texasin tuomari on määrännyt oikeutensa asianajajia todistamaan joko, etteivät he ole käyttäneet tekoälyä oikeudellisten asiakirjojensa valmisteluun – tai että jos he tekevät niin, että tulos on ihmisen tarkistama.
"Nämä alustat ovat nykyisessä tilassaan alttiita hallusinaatioille ja harhoille", lukee huomautus tuomarilta Brantley Starr Northern District of Texasista. ”Halusinaatioista he keksivät asioita – jopa lainauksia ja lainauksia.
"Toinen ongelma on luotettavuus tai puolueellisuus. Vaikka asianajajat vannovat valan syrjään henkilökohtaiset ennakkoluulonsa, ennakkoluulonsa ja uskomuksensa noudattaakseen lakia uskollisesti ja edustaakseen asiakkaitaan, generatiivinen tekoäly on sellaisten ihmisten suunnittelemien ohjelmointien tuote, joiden ei tarvinnut vannoa tällaista valaa.
"Sellaisenaan nämä järjestelmät eivät ole uskollisia yhdellekään asiakkaalle, oikeusvaltioperiaatteelle tai Yhdysvaltojen laeille ja perustuslakille (tai, kuten edellä on käsitelty, totuudelle). Sellaiset ohjelmat eivät sido minkäänlaista velvollisuuden, kunnian tai oikeudenmukaisuuden tunnetta, vaan ne toimivat tietokonekoodin eikä vakaumuksen mukaan, perustuvat ohjelmointiin pikemminkin kuin periaatteeseen. Jokainen osapuoli, joka uskoo, että alustalla on tarvittava tarkkuus ja luotettavuus oikeudellista tiedottamista varten, voi hakea lomaa ja selittää miksi."
Tuomarin huomautuksessa selitetään edelleen, että hänen tuomioistuin hylkää kaikki hakemukset asianajajalta, joka ei toimita vaadittua todistusta, joka todistaa, että nämä ehdot on luettu ja ymmärretty.
Tuomari Starr ei ollut käytettävissä kommentoitavaksi.
Ei harvinainen ongelma
Muistio julkaistiin Tiistai, toukokuu 30. Se seuraa New Yorkin tuomarin tuomitsevaa 26. toukokuuta Tilaa Näytä syy [PDF] ohjasi kolumbialaisen lentoyhtiön Avianca SA:n oikeuteen nostaneen kantajan asianajajia selittämään, miksi heitä ei pitäisi rangaista "olemattomien tapausten mainitsemisesta".
Kantajan asianajajat olivat myöntäneet valaehtoisessa lausunnossa, että he olivat toimittaneet "tuomioistuimelle jäljennöksiä olemattomista oikeudellisista lausunnoista" ja "käyttäneet väärää ja vilpillistä notaarin vahvistusta".
Pohjimmiltaan asianajajat käyttivät ChatGPT:tä aiempien tapausten etsimiseen, chat-bot keksi ne tapaukset, ja asianajajat lainasivat niitä ilmoituksissa ikään kuin ne olisivat todellisia. Puolustus kutsui sitten lakitiimin ja myönsi virheensä.
Tuomari Kevin Castel, kuten voitte kuvitella, ei ollut vaikuttunut. Hän suuntasi vihansa kantajan asianajajia kohtaan Mata v. Avianca, Inc. (1:22-cv-01461), joka vastusti puolustuksen pyrkimystä hylätä henkilövahinkovaatimus vetoamalla Varghese v. South China Airlines Co Ltd, Shaboon v. Egyptairja Petersen vastaan Iran Air, muiden konekuviteltujen oikeustapausten joukossa.
Rekisteri pyysi kommenttia kantajan asianajotoimistolta Levidow, Levidow ja Oberman, mutta puheluamme ei vastattu.
Olemme aikaisemmin kirjoitettu siitä, että ChatGPT keksii muistokirjoituksia eläville ihmisille, ulottuu jopa URL-osoitteiden luomiseen olemattomiin sanomalehtiobjekteihin, joten ei ole yllättävää, että tekstiä tuottava robotti muodostaa oikeudenkäyntejä. OpenAI varoittaa järjestelmäänsä "saattaa toisinaan tuottaa virheellistä tietoa", mikä vaikuttaa lievältä, koska malli on valmis antamaan luottavaisesti väärää tietoa.
Siinä valaehtoinen todistus [PDF], rikkonut asianajaja sanoi, että hän "pahoittelee suuresti, että hän on käyttänyt generatiivista tekoälyä täydentämään tässä tehtyä oikeudellista tutkimusta, eikä aio koskaan tehdä niin tulevaisuudessa ilman sen aitouden ehdotonta varmennusta."
Vaikka New Yorkin tapaus näyttää olevan ensimmäinen tekoälyyn perustuva oikeudenkäyntivika, joka herätti yleisön huomion, vaatimukset muut väärennettyjä tapausviittauksia on ilmaantunut.
Stephen Wu, Silicon Valley Law Groupin osakkeenomistaja ja American Bar Associationin puheenjohtaja Tekoälyn ja robotiikan kansallinen instituutti, Kertoi Rekisteri että vaikka hän ei ole tietoinen tekoälyn konfabulaatiotapauksista New Yorkin tapauksen ulkopuolella, hän odottaa, että niitä on muitakin.
Säännöt ovat sääntöjä
Kysyttäessä, pitäisikö lakimiesten tietää paremmin vai voisiko generatiivisen tekoälyn uutuus jotenkin lieventää tilannetta, Wu oli yksiselitteinen.
"Kirjassani ei ole mitään tekosyytä", sanoi Wu. "On olemassa ammatillisia käyttäytymissääntöjä ja sanotaan, että jos aiot siirtää vastuuta oikeudellisista asioista, sinulla on velvollisuus valvoa ihmisiä, joille delegaat asian."
Wu sanoi, että näitä sääntöjä oli tarkoitus soveltaa avustajaan tai avustajaan, mutta niitä pitäisi soveltaa generatiiviseen tekoälyyn.
Kirjassani ei ole mitään tekosyytä
"Luin, että generatiivisen tekoälyn aikakaudella, jos haluat sanoa, että jos delegoit jotain tekoälylle, sinun on valvottava tekoälyä ja tarkistettava sen tulokset varmistaaksesi, että se täyttää lakimiehiltä vaaditun pätevyystason. tavata", hän selitti.
Wu sanoi, että tekoälytyökaluilla on oma roolinsa laissa, mutta sen roolin on oltava henkilön alisteinen. Hän sanoi odottavansa generatiivisen tekoälyn osoittautuvan hyödyllisemmäksi tehtävissä, kuten sopimusten luomisessa, joissa on enemmän tilaa vaihtelevalle sanamuodolle ja tulkinnalle. Oikeudenkäynnissä hän sanoi, että "panokset ovat jonkin verran korkeammat, koska sinun on pistettävä jokainen "i" ja ylitettävä jokainen "t".
Hän uskoo myös, että Texasin tuomarin sertifiointivaatimus voitaisiin hyväksyä laajemmin.
"Tuomarin pysyvä määräys varmentamisesta olla luottamatta pelkästään generatiiviseen tekoälyyn voi tulla paikallinen sääntö tietyissä tuomioistuimissa", Wu sanoi.
"Ja minusta näyttää siltä, että liittovaltion sääntöjen neuvoa-antava komitea ja osavaltion vastaavat tahot saattavat haluta muuttaa työjärjestystä. Esimerkiksi Texasin tuomarin pysyvän määräyksen käsite varmentaa, että ei käytetä generatiivista tekoälyä tai ainakin vertaa todellisia lähteitä, voisi sopia liittovaltion siviiliprosessisäännön 11(b) piiriin."
Amerikkalainen asianajajaliitto hyväksyi helmikuun puolivälissä pitämässään kokouksessa päätöslauselma [PDF] kehottaa tekoälyjärjestelmiä kehittäviä, suunnittelevia ja ottavia organisaatioita varmistamaan, että ihmiset valvovat näitä malleja, että yksilöt ja organisaatiot ovat vastuussa hermoverkkojen ja vastaavien aiheuttamista haitoista ja että näiden järjestelmien kehittäjät toteuttavat ne tavalla. joka on läpinäkyvää ja tarkastettavaa ja samalla kunnioittaa immateriaalioikeuksia. Onnea.
Wu sanoi, että tarve käsitellä teknologisten muutosten vaikutusta lakiin tuli esiin noin vuosikymmen sitten ABA:n 20/20 etiikkaprojekti. "Siinä puhuttiin muun muassa siitä, kuinka asianajajien pätevyysvelvollisuus edellyttää osaamista tekniikan ymmärtämisessä ja miten se liittyy asianajotoimintaan ja teknologian käyttöön asianajotoiminnassa", hän sanoi.
Wu odottaa lisäkeskusteluja generatiivisen tekoälyn roolista laissa. "Odotan, että meidän on tehtävä hieman komiteatyötä sen parissa, jotta voimme yrittää ehkä keksiä muutoksia ABA-mallin sääntöihin", hän sanoi. ®
- SEO-pohjainen sisällön ja PR-jakelu. Vahvista jo tänään.
- PlatoAiStream. Web3 Data Intelligence. Tietoa laajennettu. Pääsy tästä.
- Tulevaisuuden lyöminen Adryenn Ashley. Pääsy tästä.
- Osta ja myy osakkeita PRE-IPO-yhtiöissä PREIPO®:lla. Pääsy tästä.
- Lähde: https://go.theregister.com/feed/www.theregister.com/2023/05/31/texas_ai_law_court/
- :on
- :On
- :ei
- :missä
- $ YLÖS
- 1
- 26
- a
- Meistä
- edellä
- absoluuttinen
- Mukaan
- vastuussa
- tarkkuus
- Toimia
- osoite
- hyväksytty
- hyväksytty
- neuvontapalvelut
- vaikuttaa
- vastaan
- ikä
- sitten
- AI
- AI-järjestelmät
- lentoyhtiö
- Airlines
- Myös
- Amerikkalainen
- keskuudessa
- an
- ja
- Toinen
- ennakoida
- Kaikki
- käyttää
- Archive
- OVAT
- keinotekoinen
- tekoäly
- AS
- Avustaja
- Yhdistys
- At
- huomio
- asianajaja
- houkutella
- aitous
- saatavissa
- baari
- perustua
- BE
- koska
- tulevat
- ollut
- uskoo
- uskoa
- Paremmin
- Jälkeen
- puolueellisuus
- harhat
- Bitti
- kirja
- Bot
- Tiedotustilaisuus
- laajasti
- mutta
- by
- soittaa
- nimeltään
- soittamalla
- tuli
- CAN
- tapaus
- tapauksissa
- Certification
- todistavat
- Tuoli
- muuttaa
- Muutokset
- ChatGPT
- tarkastaa
- tarkkailun
- Kiina
- China Airlines
- vaatia
- asiakas
- asiakkaat
- CO
- koodi
- Tulla
- kommentti
- valiokunta
- tietokone
- käsite
- Suorittaa
- itsevarmasti
- Perustuslaki
- sopimukset
- vakaumus
- kappaletta
- voisi
- Tuomioistuin
- oikeusjutut
- Tuomioistuimen hakemukset
- Tuomioistuimet
- Ylittää
- Nykyinen
- vuosikymmen
- Puolustus
- vaatii
- levityspinnalta
- suunnittelu
- kehittäjille
- kehittämällä
- DID
- suuntaamisen
- keskustelu
- erottaa
- piiri
- do
- asiakirjat
- tehty
- DOT
- vaivaa
- myöskään
- varmistaa
- ekvivalenttia
- virhe
- Eetteri (ETH)
- etiikka
- Jopa
- Joka
- odottaa
- Selittää
- selitti
- epäonnistuu
- väärä
- paljon
- helmikuu
- Liitto-
- Arkistointi
- viilaus
- Yritys
- Etunimi
- sovittaa
- seuraa
- varten
- vilpillinen
- alkaen
- edelleen
- tulevaisuutta
- tuottaa
- tuottaa
- generatiivinen
- Generatiivinen AI
- tietty
- Goes
- menee
- hyvä
- suuresti
- Ryhmä
- HAD
- Harms
- Olla
- ottaa
- he
- sankari
- korkeampi
- hänen
- pitää
- Miten
- HTTPS
- ihmisen
- Ihmiset
- i
- if
- kuvitella
- toteuttaa
- vaikuttunut
- in
- henkilöt
- tiedot
- tiedot
- esimerkki
- henkinen
- tekijänoikeuksien
- Älykkyys
- tarkoitettu
- tulkinta
- keksi
- Iran
- kysymys
- IT
- SEN
- jpg
- tuomari
- oikeudellinen
- Oikeudenmukaisuus
- Tietää
- Sukunimi
- Laki
- Asianajotoimisto
- Lait
- asianajajat
- vähiten
- jättää
- juridinen
- oikeudellinen tiimi
- pitää
- Oikeudenkäynti
- vähän
- elävät
- paikallinen
- katso
- onni
- tehty
- tehdä
- TEE
- asia
- Saattaa..
- Tavata
- kokous
- Meets
- Keskivuosi
- ehkä
- Sytytyskatko
- lieventää
- malli
- mallit
- lisää
- liikkua
- my
- kansallinen
- Tarve
- verkot
- hermo-
- hermoverkkoihin
- ei ikinä
- Uusi
- New York
- new yorkin tuomari
- Nro
- uutuus
- vala
- tapahtui
- of
- on
- OpenAI
- Lausunnot
- vastakkainen
- or
- tilata
- organisaatio
- organisaatioiden
- Muut
- Muuta
- meidän
- ulos
- ulostulo
- valvoa
- puolue
- Ihmiset
- suoritettu
- henkilö
- henkilöstö
- foorumi
- Platforms
- Platon
- Platonin tietotieto
- PlatonData
- harjoitusta.
- ennakkoluuloja
- Valmistella
- edellinen
- periaate
- Tuotteet
- ammatillinen
- Ohjelmointi
- Ohjelmat
- omaisuus
- todistaa
- julkinen
- julkaistu
- laittaa
- lainausmerkit
- pikemminkin
- RE
- Lue
- valmius
- todellinen
- Pahoittelut
- luotettavuus
- luottaen
- edustaa
- tarvitaan
- vaatimus
- Vaatii
- tarvittava
- tutkimus
- kunnioittaen
- vastuu
- tulokset
- robotiikka
- Rooli
- Huone
- Sääntö
- säännöt
- s
- Said
- seuraamuksia
- sanoa
- näyttää
- tunne
- setti
- osakas
- shouldnt
- näyttää
- Pii
- Silicon Valley
- tilanne
- So
- Tuotteemme
- Yksin
- jotain
- jokseenkin
- Lähteet
- Etelä
- erityinen
- standardi
- Osavaltio
- Valtiot
- lakko
- antaa
- toimitettu
- niin
- täydentää
- yllätys
- järjestelmä
- järjestelmät
- tehtävät
- joukkue-
- teknologinen
- Elektroniikka
- ehdot
- texas
- kuin
- että
- -
- Tulevaisuus
- laki
- heidän
- Niitä
- sitten
- Siellä.
- Nämä
- ne
- asiat
- ne
- että
- työkalut
- läpinäkyvä
- Totuus
- yrittää
- harvinainen
- ymmärtäminen
- ymmärsi
- Yhtenäinen
- Yhdysvallat
- puolustaa
- käyttää
- käytetty
- käyttämällä
- hyödynnetty
- Laakso
- Ve
- Vahvistus
- todennettu
- haluta
- varoittaa
- oli
- Tapa..
- we
- viikko
- olivat
- kun
- onko
- joka
- vaikka
- KUKA
- miksi
- tulee
- with
- sisällä
- ilman
- sanamuoto
- Referenssit
- Väärä
- wu
- york
- te
- zephyrnet