Právnici obviňujú ChatGPT za zahrnutie falošnej judikatúry, čelia možným sankciám
Advokáti Steven A. Schwartz a Peter LoDuca sa ocitli v horúcej vode, keď súdne podanie, ktoré podali, obsahovalo odkazy na neexistujúce súdne prípady.
Právnici, ktorí sa ospravedlnili sudcovi federálneho súdu na Manhattane, pripísali chybu ChatGPT, chatbotovi poháňanému umelou inteligenciou.
Schwartz použil ChatGPT hľadať právne precedensy podporujúce prípad jeho klienta proti Avianca, kolumbijskej leteckej spoločnosti.
Chatbot však navrhol niekoľko prípadov, ktoré sa ukázali ako vymyslené alebo zahŕňajúce neexistujúce letecké spoločnosti.
Schwartz sudcovi vysvetlil, že sa tomu mylne domnieval ChatGPT získali prípady z nezverejneného zdroja nedostupného konvenčnými metódami výskumu.
Priznal, že zlyhal vo svojom následnom výskume na overenie správnosti citácií. Schwartz vyjadril prekvapenie a ľútosť a priznal, že nerozumel schopnosti ChatGPT vymýšľať prípady.
Právnici teraz čelia možným sankciám za zahrnutie fiktívneho právneho prieskumu do súdneho spisu.
Môže sa vám páčiť: ChatGPT – Čo to je a ako to funguje?
Právnici citujú ChatGPT ako zdroj fiktívneho právneho výskumu
Okresný sudca USA P. Kevin Castel vyjadril zmätok a obavy z toho, na čo sa právnici spoliehajú ChatGPT a ich neschopnosť rýchlo opraviť falošné právne citácie.
Právnici spoločnosti Avianca a súd ich na problém upozornili, no citácie neboli opravené.
Sudca Castel konfrontoval Schwartza s konkrétnym vymysleným právnym prípadom s ChatGPT, pričom zdôraznil jeho nezmyselnosť.
Spýtal sa Schwartza, ako chápe mätúcu prezentáciu. Na čo Schwartz ponúkol chybné vysvetlenie založené na rôznych úryvkoch prípadov.
Schwartz a LoDuca sa sudcovi úprimne ospravedlnili a vyjadrili osobnú a profesionálnu ľútosť nad svojím konaním.
Schwartz uviedol, že sa z omylu poučil a zaviedol bezpečnostné opatrenia, aby v budúcnosti podobným prípadom zabránil.
LoDuca, ktorý dôveroval Schwartzovej práci, uznal, že nedokázal adekvátne preskúmať zostavený výskum.
Obhajoba právnikov tvrdila, že podanie bolo výsledkom nedbanlivosti a nie zlého úmyslu a nemalo by zaručovať sankcie.
Právni experti a pozorovatelia zdôraznili nebezpečenstvo používania technológií AI bez dôkladného pochopenia ich obmedzení a potenciálnych rizík.
Prípad týkajúci sa ChatGPT ilustruje, ako právnici nemusia úplne pochopiť, ako systém AI funguje. Vedie k zahrnutiu fiktívnych informácií, ktoré sa javia ako realistické.
Incident vyvolal obavy z potreby uvedomelosti a opatrnosti. Pri využívaní perspektívnych technológií AI v právnej oblasti.
Dvaja právnici, ktorí čelia možným sankciám, pripísali zahrnutie fiktívneho právneho výskumu do súdneho podania ChatGPT, chatbot poháňaný AI.
Aj právnici sa sudcovi ospravedlnili, vyjadrili svoje mylné predstavy a neoverili si správnosť citácií.
