Vasario 10 dieną nedideliame Tumbler Ridge miestelyje Britų Kolumbijoje, Kanadoje, aštuoniolikmetė Jesse Van Rootselaar namuose nušovė savo motiną ir posūnį, o paskui nuvyko į buvusią mokyklą. Ten ji nužudė mokytojo padėjėją ir penkis 12–13 metų mokinius. Vėliau ji pati nusižudė. Iš viso žuvo devyni žmonės, dauguma jų – vaikai.

Dabar Britų Kolumbijos provincija paduoda dirbtinio intelekto bendrovę „OpenAI“ ir jos vadovą Samą Altmaną į teismą San Franciske. Provincija teigia, kad tragedijos būtų buvę galima išvengti, jei bendrovė būtų įspėjusi policiją, kad šaulė naudojo pokalbių robotą ChatGPT žudynėms planuoti.

Pavojaus signalai, į kuriuos nesureaguota

Pagal ieškinį, Van Rootselaar pokalbius su ChatGPT apie smurtą ginklais bendrovės saugos komanda pastebėjo dar 2025 metų birželį. Darbuotojai siūlė informuoti policiją, tačiau Altmanas ir kiti vadovai šį siūlymą atmetė – taip nurodoma ieškinyje, remiantis „OpenAI“ darbuotojais, po žudynių apie tai papasakojusiais žurnalistams.

Šaulės paskyra buvo išjungta, tačiau ji susikūrė naują ir toliau naudojo programą atakai planuoti. Vėliau bendrovė paaiškino, kad paskyrą pažymėjo sistemos, aptinkančios modelio naudojimą smurtinei veiklai vykdyti, tačiau, jos teigimu, atvejis neatitiko vidinių kriterijų, pagal kuriuos reikėtų pranešti teisėsaugai.

Po žudynių Sam Altmanas bendruomenei parašė laišką, kuriame atsiprašė, kad bendrovė nesikreipė į policiją.

„Esu giliai apgailestaujantis, kad nesusisiekėme su teisėsaugos institucijomis“, – rašė jis, žadėdamas pokyčius bendrovės darbe.

Tačiau, kaip nurodoma ieškinyje, pažadėti pokyčiai taip ir liko neįgyvendinti, nepaisant Britų Kolumbijos generalinio prokuroro pastangų susisiekti su bendrove.

Ko reikalaujama iš teismo

Ieškiniu siekiama kompensacijos, kuri padengtų provincijos atkūrimo išlaidas po vasario išpuolio – mokykla, kurioje įvyko žudynės, šiuo metu griaunama, o vietoje jos statoma nauja. Provincija taip pat dengia psichikos sveikatos priežiūros ir kitas su tragedija susijusias išlaidas. Be finansinės kompensacijos, ieškinyje prašoma teismo sprendimo, kuris įpareigotų bendrovę pakeisti tvarką, kaip tvarkomi ChatGPT pokalbiai, galintys vesti prie smurto.

„OpenAI“ atstovas Drew Pusateri žudynes Tumbler Ridge mieste pavadino neapsakoma tragedija.

„Toliau įsipareigojame bendradarbiauti su valdžios institucijomis bei teisėsauga ir tęsti darbą saugumo srityje“, – teigė bendrovės atstovas.

Britų Kolumbijos ieškinys – jau ne pirmas prieš „OpenAI“, susijęs su ChatGPT ir smurtu. Daugiau nei 30 aukų šeimos narių ir kitų nukentėjusiųjų anksčiau jau padavė bendrovę į teismą Kalifornijoje, teigdami, kad ji praleido galimybę užkirsti kelią žudynėms. Panašių bylų yra ir dėl kitos tragedijos – praėjusiais metais įvykusio masinio šaudymo Florida State universitete. Birželį Florida valstija tapo pirmąja JAV valstija, apkaltinusia „OpenAI“ iškraipius informaciją apie ChatGPT saugumą – teigiama, kad programa vaikams teikė informaciją, galinčią padėti mokyklų šauliams, patarimus savęs žalojimo temomis, o pati platforma formavo priklausomybę tarp jaunų vartotojų.

Kodėl tai svarbu Lietuvai

Europos Sąjungoje dirbtinio intelekto sistemoms taikomi vis griežtesni reikalavimai, tačiau klausimas, kada ir kaip pokalbių robotų kūrėjai turėtų informuoti teisėsaugą apie galimą pavojų gyvybei, kol kas lieka atviras ir Europoje. Tumbler Ridge byla rodo, kad net turint vidines saugos sistemas, sprendimas jomis pasinaudoti gali priklausyti nuo bendrovės vadovų, o ne nuo aiškių, privalomų taisyklių.