Advocaten geven ChatGPT de schuld voor het opnemen van nep-jurisprudentie, riskeren mogelijke sancties
Advocaten Steven A. Schwartz en Peter LoDuca kwamen in de problemen toen een rechtszaak die ze hadden ingediend verwijzingen bevatte naar niet-bestaande rechtszaken.
De advocaten verontschuldigden zich bij een rechter in de federale rechtbank van Manhattan en schreven de fout toe aan ChatGPT, een door kunstmatige intelligentie aangedreven chatbot.
Schwartz gebruikt ChatGPT om te zoeken naar juridische precedenten ter ondersteuning van de zaak van zijn cliënt tegen Avianca, een Colombiaanse luchtvaartmaatschappij.
De chatbot suggereerde echter verschillende gevallen die verzonnen bleken te zijn of waarbij niet-bestaande luchtvaartmaatschappijen betrokken waren.
Schwartz legde de rechter uit dat hij dat ten onrechte geloofde ChatGPT verkreeg de zaken van een geheime bron die niet toegankelijk was via conventionele onderzoeksmethoden.
Hij gaf toe dat hij er niet in was geslaagd zijn vervolgonderzoek om de juistheid van de citaten te verifiëren. Schwartz sprak zijn verbazing en spijt uit en erkende dat hij niet begreep dat ChatGPT in staat was om zaken te verzinnen.
De advocaten worden nu geconfronteerd met mogelijke sancties voor het opnemen van fictief juridisch onderzoek in de rechtszaak.
Kijk ook eens naar: ChatGPT – Wat is het en hoe werkt het?
Advocaten noemen ChatGPT de bron van fictief juridisch onderzoek
De Amerikaanse districtsrechter P. Kevin Castel uitte zowel verwarring als bezorgdheid over het vertrouwen van de advocaten in ChatGPT en hun verzuim om de valse juridische citaten onmiddellijk te corrigeren.
De advocaten van Avianca en de rechtbank hadden hen op het probleem gewezen, maar de aanhalingen werden niet gecorrigeerd.
Rechter Castel confronteerde Schwartz met een specifiek verzonnen rechtszaak met ChatGPT, waarbij hij de onzinnige aard ervan benadrukte.
Hij ondervroeg Schwartz over zijn begrip van de verwarrende presentatie. Waarop Schwartz een foutieve uitleg gaf op basis van verschillende casusfragmenten.
Schwartz en LoDuca verontschuldigden zich oprecht bij de rechter en betuigden persoonlijke en professionele spijt voor hun daden.
Schwartz verklaarde dat hij van de blunder had geleerd en voorzorgsmaatregelen had genomen om een soortgelijke gebeurtenis in de toekomst te voorkomen.
LoDuca, die het werk van Schwartz vertrouwde, erkende dat hij het verzamelde onderzoek niet adequaat had beoordeeld.
De verdediging van de advocaten voerde aan dat de indiening het gevolg was van onzorgvuldigheid in plaats van kwade trouw en geen sancties zou rechtvaardigen.
Juridische experts en waarnemers hebben gewezen op de gevaren van het gebruik van AI-technologieën zonder een grondig begrip van hun beperkingen en potentiële risico's.
De zaak waarbij ChatGPT illustreert hoe advocaten mogelijk niet volledig begrijpen hoe het AI-systeem werkt. Dit leidt tot het opnemen van fictieve informatie die realistisch lijkt.
Het incident heeft geleid tot bezorgdheid over de noodzaak van bewustzijn en voorzichtigheid. Bij het gebruik van veelbelovende AI-technologieën op juridisch gebied.
Twee advocaten die met mogelijke sancties te maken kregen, schreven de opname van fictief juridisch onderzoek in een rechtszaak toe aan ChatGPT, een door AI aangedreven chatbot.
Ook de advocaten verontschuldigden zich bij de rechter, waarbij ze hun misvattingen uitten en de juistheid van de citaten niet konden verifiëren.
