Santa Fė advokatas Stephenas Aaronsas turėjo parengti apeliacinį skundą vyro, nuteisto kalėti iki gyvos galvos už savo vaikų motinos nužudymą, byloje. Užuot savaites skaitęs teismo posėdžių protokolus, jis nusprendė pasitelkti ChatGPT – ir šis sprendimas jam kainavo 5000 dolerių baudą bei nutiestą kelią į drausminę komisiją.

Naujosios Meksikos aukščiausiasis teismas trečiadienį pripažino Aaronsą kaltu dėl teismo negerbimo. Advokato pateiktame apeliaciniame skunde atsirado liudytojų parodymai, kurių iš tikrųjų niekada nebuvo – teismas nustatė, kad dokumente cituojami „visiškai išgalvoti liudytojai“.

Liudytojas, kurio niekada nebuvo

Vienas iš išgalvotų epizodų – tariamas liudytojo teiginys, kad šaudęs vyras vilkėjo tamsiomis kelnėmis ir baltais marškiniais. Šio žmogaus, kaip ir jo parodymų, byloje niekada nebuvo. Algoritmas juos tiesiog sukūrė, o advokatas, teismo teigimu, neperskaitė ir nepatikrino dokumento prieš jį pateikdamas.

Rugpjūčio 21 dieną vykusiame posėdyje Aaronsas teisėjams aiškino, kad ChatGPT sistemai pateikė kompiuterio sugeneruotą teismo posėdžio stenogramą bei kitą bylos medžiagą, tikėdamasis gauti, jo paties žodžiais, „nepriekaištingą santrauką“. Vietoj to gavo dokumentą su faktais, kurių niekada nebuvo.

„Kolega, ar jūs žiūrite žinias? Ar klausotės radijo? Ar apskritai skaitote, kas vyksta pasaulyje? Nes apie advokatus, pasikliaujančius DI haliucinacijomis, rašoma kone kasdien“, – posėdyje klausė teisėja Shannon Bacon.

Teismo kolegija taip pat pažymėjo, kad Aaronsas „nerodė nei gailesčio, nei rūpesčio savo klientu“. Byla perduota advokatų drausmės komisijai, kuri spręs dėl tolesnių sankcijų.

„Sąžininga klaida“, sako pats advokatas

Aaronsas viešame pareiškime pripažino klaidą, tačiau aiškino nesupratęs, kaip stipriai DI sistema gali „haliucinuoti“ – tai yra, generuoti faktus, neturinčius jokio ryšio su tikrove. Jis teigė esantis gailus, bet viliasi, kad drausmės komisija atsižvelgs, jog tai buvo sąžininga klaida. Advokatas pridūrė, kad tai – pamoka visiems, kurie pasikliauja šia galinga, bet kartais nestabilia technologija.

Jo ginamas vyras apeliacijos dar laukia – bylą nuo rugsėjo 2 dienos perėmė valstybės skiriama gynėja. Nei ji, nei prokuratūra situacijos nekomentavo. Neatsakė ir ChatGPT kūrėjai – bendrovė į prašymą pakomentuoti incidentą nereagavo.

Klaida, kuri kartojasi visame pasaulyje

Panašių atvejų pastaruoju metu vis daugėja. Dešimtys advokatų jau susidūrė su sankcijomis dėl teismui pateiktų dokumentų, kuriuose algoritmas sugalvojo neegzistuojančias bylas ar klaidingai citavo įstatymus. Kai kada kritikos susilaukė ir patys teisėjai, sprendimams pasitelkę DI įrankius be pakankamos priežiūros. Šis atvejis laikomas vienu rimčiausių – algoritmas sukūrė ne teisinę citatą, o ištisus liudytojo parodymus baudžiamojoje byloje, kurioje sprendžiamas žmogaus likimas.

Lietuvoje dirbtinis intelektas teismų praktikoje kol kas naudojamas atsargiai, tačiau advokatai vis dažniau pasitelkia pokalbių robotus dokumentų juodraščiams rengti. Ši istorija primena taisyklę, galiojančią ir Europos Sąjungoje: DI sugeneruotas tekstas visada lieka žmogaus atsakomybė, o patogus atsakymas dar nereiškia teisingo. Kiekvienas faktas, citata ar liudytojo vardas prieš pasirašant turi būti patikrintas – kitaip kaina gali būti ne tik bauda, bet ir sudužęs kliento likimas.