Michael Cohen, voormalig advocaat van Donald Trump, heeft de krantenkoppen gehaald nadat hij per ongeluk Google Bard, een AI-chatbot, had gebruikt voor juridisch onderzoek.
Deze misstap resulteerde in de voorlegging van onjuiste juridische citaten in gerechtelijke documenten, wat licht werpt op de nieuwe uitdagingen en risico’s van het gebruik van kunstmatige intelligentie in juridische procedures.
Het AI-dilemma in juridisch onderzoek
De kwestie kwam aan het licht toen Cohen, die zich voorbereidde op zijn rol als getuige tegen Trump in komende processen, door Google Bard gegenereerde juridische citaten naar zijn advocaat, David Schwartz, stuurde. Cohen, die niet langer actief de advocatuur beoefent, heeft Google Bard verkeerd begrepen als een krachtige zoekmachine in plaats van het te erkennen als een generatieve AI-service vergelijkbaar met Chat-GPT. Het ingediende verzoekschrift bevatte derhalve ongeldige citaten.
Een paar weken geleden merkte een federale rechter op dat advocaten van Michael Cohen nepzaken gebruikten – en eiste een verklaring.
Het blijkt dat Cohen AI gebruikte om zijn eigen moties te schrijven – en blijkbaar zijn advocaat misleidde over de bron van die zaken. pic.twitter.com/yGyX6N8VHC
- Techno Fog (@Techno_Fog) 29 december 2023
Dit incident geeft aanleiding tot bezorgdheid over de groei afhankelijkheid over AI voor juridisch onderzoek. Het onderstreept de noodzaak van een dieper begrip van AI-technologieën onder juridische professionals en benadrukt het cruciale belang van het verifiëren van de juistheid van door AI gegenereerde informatie. In het geval van Cohen strekte de verantwoordelijkheid zich uit tot zijn advocaat Schwartz, die de citaten dubbel had moeten controleren voordat ze in juridische documenten werden opgenomen.
Door AI veroorzaakte fouten in rechtszaken
Het ongeluk van Cohen staat niet op zichzelf, maar maakt deel uit van een groeiende trend van AI-gerelateerde fouten in de juridische sector. Bij een afzonderlijk incident kreeg Steven Schwartz, een advocaat van het New Yorkse advocatenkantoor Levidow, Levidow & Oberman, te maken met juridische kritiek omdat hij door AI gegenereerde, onnauwkeurige gerechtelijke citaten in zijn juridische werk had opgenomen. Ondanks dat hij beweert dat hij onervaren is met ChatGPT, oordeelt de rechter berispt hem vanwege de onjuistheden in zijn opmerkingen.
Oké, Steven Schwartz voegt zijn ChatGPT-transcript toe en ik doe het gewoon. Echt. Dit is zijn betoog.https://t.co/sQXihPcwl0
— Courtney Milaan 🦖 (@courtneymilan) 7 June 2023
Om deze trend verder te illustreren gebruikte advocaat Steven Schwartz in een rechtszaak tegen Avianca Airlines ChatGPT voor juridisch onderzoek. Dit leidde tot de ontdekking van feitelijke fouten en inconsistenties in de zaakdocumentatie door de voorzitter, die een aantal van de ingediende zaken als ‘nep’ omschreef, met niet-bestaande zaken en verwisselde rolnummers.
Rol van menselijk toezicht bij AI-gebruik
Deze incidenten onderstrepen een cruciaal aspect van de integratie van AI in professionele arbeidskrachten, vooral op cruciale gebieden als de wetgeving. Hoewel AI-tools zoals ChatGPT het potentieel hebben om een revolutie teweeg te brengen in onderzoeks- en analytische processen, zijn ze niet zonder gebreken. Bij het omarmen van deze instrumenten moet de advocatuur dit behoedzaam doen en ervoor zorgen dat menselijke expertise en beoordelingsvermogen voorop blijven staan interpreteren en het toepassen van door AI gegenereerde informatie.
Advocaten en juridische onderzoekers moeten AI zien als een ondersteunend instrument dat de behoefte aan grondig, door mensen geleid onderzoek en verificatie vergroot, maar niet vervangt. Naarmate AI vordert, wordt verwacht dat de rol ervan in verschillende sectoren, waaronder de wetgeving, zal toenemen. Deze voorbeelden dienen echter als waarschuwing voor het belang van een evenwichtige aanpak, waarbij de efficiëntie van AI wordt benut zonder de nauwkeurigheid en integriteit van professioneel werk te ondermijnen.
Ik heb een live Ethereum-contract in GPT-4 gedumpt.
In een oogwenk bracht het een aantal beveiligingsproblemen aan het licht en wees het op oppervlaktegebieden waar het contract zou kunnen worden misbruikt. Vervolgens verifieerde het een specifieke manier waarop ik het contract kon exploiteren pic.twitter.com/its5puakUW
— Conor (@jconorgrogan) 14 maart 2023
De integratie van AI in juridisch onderzoek biedt zowel kansen als uitdagingen. Zoals uit deze incidenten blijkt, is er een cruciale behoefte aan juridische professionals om een dieper inzicht te verwerven in AI-technologieën en hun beperkingen. Dit omvat ook de erkenning dat AI-tools, hoewel krachtig, voorzichtigheid vereisen toezicht en moeten nog steeds het genuanceerde oordeel en de expertise van een menselijke juridische professional volledig repliceren.
Terwijl AI-technologie zich blijft ontwikkelen, moet de integratie ervan in het juridische veld enthousiast worden benaderd vanwege het potentieel ervan en met voorzichtigheid vanwege de beperkingen ervan. Deze evenwichtige aanpak zal ervoor zorgen dat AI een nuttig instrument is in juridisch onderzoek, dat de menselijke expertise vergroot in plaats van ondermijnt.
- Door SEO aangedreven content en PR-distributie. Word vandaag nog versterkt.
- PlatoData.Network Verticale generatieve AI. Versterk jezelf. Toegang hier.
- PlatoAiStream. Web3-intelligentie. Kennis versterkt. Toegang hier.
- PlatoESG. carbon, CleanTech, Energie, Milieu, Zonne, Afvalbeheer. Toegang hier.
- Plato Gezondheid. Intelligentie op het gebied van biotech en klinische proeven. Toegang hier.
- Bron: https://metanews.com/ai-misstep-trumps-ex-lawyer-misuses-google-bard-for-legal-citations/
- : heeft
- :is
- :niet
- :waar
- 11
- 14
- 29
- 31
- 7
- 8
- a
- Over
- nauwkeurigheid
- actief
- voorschotten
- Na
- tegen
- AI
- AI chatbot
- AI-integratie
- Luchtvaartmaatschappijen
- verwant
- onder
- an
- Analytisch
- en
- Het toepassen van
- nadering
- ZIJN
- gebieden
- argument
- kunstmatig
- kunstmatige intelligentie
- AS
- verschijning
- advocaat
- terug
- Evenwichtig
- BE
- vaardigheden
- heilzaam
- zowel
- maar
- by
- kwam
- voorzichtig
- geval
- gevallen
- voorzichtigheid
- Voorzichtig
- behoedzaam
- uitdagingen
- Chatbot
- ChatGPT
- beweren
- cohen
- Zorgen
- bijgevolg
- bevatte
- blijft
- contract
- kon
- Rechtbank
- kritisch
- kritiek
- cruciaal
- David
- David Schwartz
- diepere
- eiste
- gedemonstreerd
- beschreven
- Niettegenstaande
- ontwikkelen
- ontdekking
- do
- documentatie
- documenten
- doet
- donald
- Donald Trump
- doeltreffendheid
- omarmen
- opkomende
- Motor
- Verbetert
- verzekeren
- zorgen
- fouten
- vooral
- Ether (ETH)
- ethereum
- Event
- ontwikkelen
- voorbeelden
- Uitvouwen
- verwacht
- expertise
- uitleg
- Exploiteren
- Exploited
- uitgebreid
- geconfronteerd
- Feitelijk
- nep
- Met
- Federaal
- weinig
- veld-
- Velden
- ingediend
- vijlsel
- Stevig
- gebreken
- Mist
- Voor
- Voormalig
- oppompen van
- geheel
- generatief
- generatieve AI
- Kopen Google Reviews
- Groeiend
- Hebben
- Headlines
- hulp
- Gemarkeerd
- highlights
- hem
- zijn
- Echter
- HTTPS
- menselijk
- i
- illustreren
- belang
- in
- onnauwkeurig
- incident
- incidenten
- omvat
- Inclusief
- inclusie
- inconsistenties
- opnemen
- industrieën
- informatie
- moment
- integratie
- integriteit
- Intelligentie
- in
- geïsoleerd
- kwestie
- IT
- HAAR
- rechter
- gerechtelijk
- voor slechts
- Wet
- advocatenkantoor
- proces
- advocaat
- LED
- Juridisch
- legale processen
- licht
- als
- beperkingen
- leven
- langer
- gemaakt
- Michael
- MILAAN
- misleidend
- beweging
- bewegingen
- Dan moet je
- Noodzaak
- New
- New York
- geen
- niet bestaand
- aantal
- nummers
- of
- on
- Kansen
- uit
- Toezicht
- het te bezitten.
- Hoogste
- deel
- Plato
- Plato gegevensintelligentie
- PlatoData
- potentieel
- krachtige
- voorbereiding
- cadeautjes
- werkzaamheden
- processen
- beroep
- professioneel
- professioneel werk
- professionals
- verhoogt
- liever
- werkelijk
- herkennen
- blijven
- vervangen
- vereisen
- onderzoek
- onderzoekers
- verantwoordelijkheid
- resulteerde
- revolutioneren
- risico's
- Rol
- s
- Ontdek
- zoekmachine
- sector
- veiligheid
- verzonden
- apart
- dienen
- service
- moet
- So
- sommige
- bron
- specifiek
- steven
- Still
- Inzending
- ingediend
- ondersteunende
- Oppervlak
- verhaal
- techno
- Technologies
- Technologie
- neem contact
- dat
- De
- De Bron
- hun
- harte
- Er.
- Deze
- ze
- dit
- die
- naar
- tools
- tools
- Afschrift
- trend
- proeven
- waar
- troef
- wordt
- X
- benadrukken
- underscores
- begrip
- komende
- gebruikt
- gebruik
- gebruikt
- divers
- Verificatie
- geverifieerd
- het verifiëren
- Bekijk
- kwetsbaarheden
- was
- Manier..
- weken
- waren
- wanneer
- en
- WIE
- wil
- Met
- zonder
- Getuige
- Mijn werk
- schrijven
- york
- zephyrnet