Dopo che un avvocato di New York ha ammesso la scorsa settimana di aver citato casi giudiziari inesistenti che erano stati allucinati dal software ChatGPT di OpenAI, un giudice del Texas ha ordinato agli avvocati del suo tribunale di certificare che non hanno utilizzato l'intelligenza artificiale per preparare i loro documenti legali - o che se lo fanno, l'output è stato verificato da un essere umano.
"Queste piattaforme nel loro stato attuale sono soggette ad allucinazioni e pregiudizi", si legge noto dal giudice Brantley Starr del distretto settentrionale del Texas. “Sulle allucinazioni, inventano cose, persino citazioni e citazioni.
“Un altro problema è l'affidabilità o il pregiudizio. Mentre gli avvocati giurano di mettere da parte i propri pregiudizi, pregiudizi e convinzioni personali per sostenere fedelmente la legge e rappresentare i propri clienti, l'intelligenza artificiale generativa è il prodotto della programmazione ideata da esseri umani che non dovevano prestare tale giuramento.
“In quanto tali, questi sistemi non hanno alcuna fedeltà a nessun cliente, allo stato di diritto o alle leggi e alla Costituzione degli Stati Uniti (o, come indicato sopra, alla verità). Non vincolati da alcun senso del dovere, dell'onore o della giustizia, tali programmi agiscono secondo il codice del computer piuttosto che la convinzione, sulla base della programmazione piuttosto che del principio. Qualsiasi parte che ritenga che una piattaforma abbia l'accuratezza e l'affidabilità necessarie per il briefing legale può richiedere un congedo e spiegare perché.
La nota del giudice prosegue spiegando che il suo tribunale annullerà qualsiasi deposito di un avvocato che non presenta la certificazione richiesta attestante che questi termini sono stati letti e compresi.
Il giudice Starr non era disponibile per un commento.
Non è un problema raro
La nota è stata pubblicata il Martedì, Maggio 30. Segue il dannato 26 maggio di un giudice di New York Ordine di mostrare la causa [PDF] che dirige gli avvocati di un querelante che fa causa alla compagnia aerea colombiana Avianca SA per spiegare perché non dovrebbero essere sanzionati per "la citazione di casi inesistenti".
Gli avvocati dell'attore avevano ammesso in una dichiarazione giurata di aver presentato "al tribunale copie di pareri giudiziari inesistenti" e di aver fatto "uso di una notarile falsa e fraudolenta".
In sostanza, gli avvocati hanno utilizzato ChatGPT per cercare casi precedenti, il chatbot ha inventato quei casi e gli avvocati li hanno citati negli archivi come se fossero reali. Il team legale è stato quindi chiamato dalla difesa e ha ammesso il proprio errore.
Il giudice Kevin Castel, come puoi immaginare, non è rimasto impressionato. Ha diretto la sua ira contro gli avvocati del querelante Mata contro Avianca, Inc. (1:22-cv-01461), che si opponeva al tentativo della difesa di respingere la richiesta di lesioni personali citando Varghese contro South China Airlines Co Ltd, Shaboon contro Egyptaire Petersen c. Iran Air, tra gli altri casi giudiziari immaginati dalla macchina.
Il registro ha chiesto un commento allo studio legale del querelante, Levidow, Levidow e Oberman, e la nostra chiamata non è stata restituita.
Abbiamo scritto in precedenza su ChatGPT che inventa necrologi per persone viventi, arrivando fino alla creazione di URL per necrologi di giornali inesistenti, quindi non sorprende che il bot che genera testo inventi casi giudiziari. OpenAI avverte che il suo sistema "può occasionalmente generare informazioni errate", il che sembra lieve data la prontezza del modello a fornire con sicurezza informazioni errate.
In ciò affidavit [PDF], l'avvocato incriminato ha affermato di "essere molto dispiaciuto di aver utilizzato l'intelligenza artificiale generativa per integrare la ricerca legale qui svolta e non lo farà mai in futuro senza una verifica assoluta della sua autenticità".
Mentre il caso di New York sembra essere il primo caso di contenzioso basato sull'intelligenza artificiale ad attirare l'attenzione del pubblico, ci sono Altro false citazioni di casi si sono verificati.
Stephen Wu, azionista del Silicon Valley Law Group e presidente dell'American Bar Association Istituto Nazionale di Intelligenza Artificiale e Robotica, Ha detto Il registro che mentre non è a conoscenza di casi di confabulazione di IA oltre al caso di New York, si aspetta che ce ne siano altri.
Le regole sono regole
Alla domanda se gli avvocati dovrebbero saperne di più o se la novità dell'IA generativa potrebbe in qualche modo mitigare la situazione, Wu è stato inequivocabile.
"Non ci sono scuse nel mio libro", ha detto Wu. "Ci sono regole di condotta professionale e dicono che se hai intenzione di delegare qualsiasi responsabilità per una questione legale, hai il dovere di supervisionare le persone a cui stai delegando la questione".
Wu ha affermato che tali regole dovevano essere applicate a un assistente legale o assistente, ma dovrebbero essere applicate all'IA generativa.
Non ci sono scuse nel mio libro
"Ho letto che, in un'epoca di intelligenza artificiale generativa, per dire se stai delegando qualcosa all'intelligenza artificiale, devi supervisionare quell'intelligenza artificiale e verificarne i risultati per assicurarti che soddisfi lo standard di competenza richiesto agli avvocati incontrarsi”, ha spiegato.
Wu ha detto che c'è un ruolo per gli strumenti di intelligenza artificiale nella legge, ma quel ruolo deve essere subordinato a una persona. Ha detto che si aspetta che l'IA generativa si dimostri più utile per attività come la generazione di contratti, dove c'è più spazio per una formulazione e un'interpretazione diverse. Nelle dichiarazioni in tribunale, ha detto, "la posta in gioco è leggermente più alta perché devi mettere i puntini su ogni 'i' e incrociare ogni 't'".
Ritiene inoltre che il requisito di certificazione del giudice del Texas potrebbe essere adottato in modo più ampio.
"L'ordine permanente del giudice sulla certificazione di non fare affidamento esclusivamente sull'IA generativa può diventare una regola locale in tribunali specifici", ha affermato Wu.
“E mi sembra che il comitato consultivo delle regole federali e gli equivalenti statali potrebbero voler cambiare le regole di procedura. Ad esempio, il concetto di ordine permanente del giudice del Texas di certificare il non utilizzo dell'IA generativa o almeno il controllo rispetto a fonti reali potrebbe rientrare nella norma federale di procedura civile 11 (b).
L'American Bar Association nella sua riunione di metà anno a febbraio ha adottato risoluzione [PDF] invita le organizzazioni che sviluppano, progettano e implementano sistemi di intelligenza artificiale per garantire che le persone sovrintenda a tali modelli, che gli individui e l'organizzazione siano ritenuti responsabili dei danni causati dalle reti neurali e simili e che gli sviluppatori di questi sistemi li implementino in un modo che è trasparente e verificabile nel rispetto della proprietà intellettuale. Buona fortuna.
Wu ha affermato che la necessità di affrontare il modo in cui i cambiamenti tecnologici influenzano la legge è emersa circa un decennio fa nel Il progetto etico 20/20 di ABA. "Tra le altre cose, ha parlato di come il dovere di competenza degli avvocati richieda competenza nella comprensione della tecnologia, e come si colleghi alla pratica della legge e quando si usa la tecnologia per la pratica della legge", ha detto.
Wu si aspetta ulteriori discussioni sul ruolo dell'IA generativa nella legge. "Prevedo che dovremo fare un po' di lavoro in commissione su questo, per cercare di apportare modifiche alle regole del modello ABA", ha detto. ®
- Distribuzione di contenuti basati su SEO e PR. Ricevi amplificazione oggi.
- PlatoAiStream. Intelligenza dei dati Web3. Conoscenza amplificata. Accedi qui.
- Coniare il futuro con Adryenn Ashley. Accedi qui.
- Acquista e vendi azioni in società PRE-IPO con PREIPO®. Accedi qui.
- Fonte: https://go.theregister.com/feed/www.theregister.com/2023/05/31/texas_ai_law_court/
- :ha
- :È
- :non
- :Dove
- $ SU
- 1
- 26
- a
- Chi siamo
- sopra
- Assoluta
- Secondo
- responsabile
- precisione
- Legge
- indirizzo
- ammesso
- adottato
- consultivo
- influenzare
- contro
- fa
- AI
- Sistemi di intelligenza artificiale
- compagnia aerea
- Compagnie Aeree
- anche
- americano
- tra
- an
- ed
- Un altro
- anticipare
- in qualsiasi
- APPLICA
- Archivio
- SONO
- artificiale
- intelligenza artificiale
- AS
- Assistant
- Associazione
- At
- attenzione
- rappresentante legale
- attrarre
- autenticità
- disponibile
- bar
- basato
- BE
- perché
- diventare
- stato
- crede
- credendo
- Meglio
- Al di là di
- pregiudizio
- pregiudizi
- Po
- libro
- Bot
- briefing
- in linea di massima
- ma
- by
- chiamata
- detto
- chiamata
- è venuto
- Materiale
- Custodie
- casi
- Certificazione
- certificare
- Chair
- il cambiamento
- Modifiche
- ChatGPT
- dai un'occhiata
- verifica
- Cina
- China Airlines
- rivendicare
- cliente
- clienti
- CO
- codice
- Venire
- commento
- comitato
- computer
- concetto
- Segui il codice di Condotta
- con fiducia
- Costituzione
- contratti
- convinzione
- copie
- potuto
- Corte
- casi giudiziari
- Atti del tribunale
- Corti
- Cross
- Corrente
- decennio
- Difesa
- richieste
- distribuzione
- progettazione
- sviluppatori
- in via di sviluppo
- DID
- orientamento
- discussione
- Nascondi
- distretto
- do
- documenti
- fatto
- DOT
- sforzo
- o
- garantire
- equivalenti
- errore
- Etere (ETH)
- etica
- Anche
- Ogni
- aspetta
- Spiegare
- ha spiegato
- fallisce
- falso
- lontano
- Febbraio
- Federale
- Limatura
- limatura
- Impresa
- Nome
- in forma
- segue
- Nel
- fraudolenti
- da
- ulteriormente
- futuro
- generare
- la generazione di
- generativo
- AI generativa
- dato
- va
- andando
- buono
- molto
- Gruppo
- ha avuto
- Harms
- Avere
- avendo
- he
- Eroe
- superiore
- il suo
- tenere
- Come
- HTTPS
- umano
- Gli esseri umani
- i
- if
- immagine
- realizzare
- impressionato
- in
- individui
- info
- informazioni
- esempio
- intellettuale
- proprietà intellettuale
- Intelligence
- destinato
- interpretazione
- Inventato
- Iran
- problema
- IT
- SUO
- jpg
- giudice
- giudiziario
- giustizia
- Sapere
- Cognome
- Legge
- studio legale
- Legislazione
- avvocati
- meno
- Lasciare
- Legale
- squadra legale
- piace
- Contenzioso
- piccolo
- vita
- locale
- Guarda
- fortuna
- fatto
- make
- FA
- Importanza
- Maggio..
- Soddisfare
- incontro
- Soddisfa
- Metà anno
- forza
- cilecca
- Ridurre la perdita dienergia con una
- modello
- modelli
- Scopri di più
- cambiano
- my
- il
- Bisogno
- reti
- Neurale
- reti neurali
- mai
- New
- New York
- giudice di New York
- no
- novità
- Giuramento
- si è verificato
- of
- on
- OpenAI
- Opinioni
- opposto
- or
- minimo
- organizzazione
- organizzazioni
- Altro
- Altri
- nostro
- su
- produzione
- sorvegliare
- partito
- Persone
- eseguita
- persona
- cronologia
- piattaforma
- Piattaforme
- Platone
- Platone Data Intelligence
- PlatoneDati
- pratica
- pregiudizi
- Preparare
- precedente
- principio
- Prodotto
- professionale
- Programmazione
- Programmi
- proprietà
- Dimostra
- la percezione
- pubblicato
- metti
- virgolette
- piuttosto
- RE
- Leggi
- prontezza
- di rose
- Si rammarica
- problemi di
- basandosi
- rappresentare
- necessario
- requisito
- richiede
- requisito
- riparazioni
- rispetto
- responsabilità
- Risultati
- robotica
- Ruolo
- Prenotazione sale
- Regola
- norme
- s
- Suddetto
- sanzionato
- dire
- sembra
- senso
- set
- azionista
- dovrebbero
- mostrare attraverso le sue creazioni
- Silicio
- Silicon Valley
- situazione
- So
- Software
- unicamente
- qualcosa
- piuttosto
- fonti
- Sud
- specifico
- Standard
- Regione / Stato
- stati
- sciopero
- inviare
- presentata
- tale
- integrare
- sorpresa
- sistema
- SISTEMI DI TRATTAMENTO
- task
- team
- tecnologico
- Tecnologia
- condizioni
- Texas
- di
- che
- Il
- Il futuro
- la legge
- loro
- Li
- poi
- Là.
- Strumenti Bowman per analizzare le seguenti finiture:
- di
- cose
- quelli
- a
- strumenti
- trasparente
- Verità
- prova
- Raro
- e una comprensione reciproca
- inteso
- Unito
- Stati Uniti
- sostenere
- uso
- utilizzato
- utilizzando
- utilizzati
- Valle
- Ve
- Convalida
- verificato
- volere
- avverte
- Prima
- Modo..
- we
- settimana
- sono stati
- quando
- se
- quale
- while
- OMS
- perché
- volere
- con
- entro
- senza
- formulazione
- Lavora
- Wrong
- wu
- York
- Tu
- zefiro