Kovo mėnesį prie OpenAI būstinės San Fransiske stovėjo protestuotojas su plakatu, raginančiu sustabdyti DI plėtrą. Scena atrodė kaip įprastas technologijų kompanijos piketas – tokių pastaraisiais metais būta ne vieno. Tačiau rugsėjį įvyko kažkas neįprasto: patys DI kūrėjai pradėjo kalbėti panašiu tonu kaip tas protestuotojas.

Anthropic įkūrėjas Dario Amodei paskelbė esė, kurioje ragino technologijų kompanijas sulėtinti pačių sukurtų, pažangiausių DI modelių kūrimo tempą. Jo argumentams pritarė Elonas Muskas ir OpenAI vadovas Samas Altmanas. JAV prezidentas Donaldas Trumpas šiuos nuogąstavimus pavadino apgaule ir pareiškė, kad vienintelė kontrolė, kurios DI reikia, – tai stiprus ir protingas prezidentas. Jungtinė Karalystė pasirinko atsargesnę poziciją: vyriausybės atstovė Louise Haigh sakė, kad į ekspertų įspėjimus reikia atsižvelgti.

Skaitytojui, stebinčiam šią diskusiją iš šalies, sunku suprasti, kuo tikėti. Ir čia slypi klausimas, kurį verta užduoti kaskart, kai milijardus verta kompanija ima garsiai baimintis savo paties produkto: kam iš to naudos?

Incidentas, kuris turėjo įrodyti pavojų

Svarbiausia Amodei esė detalė – nuoroda į liepos mėnesį nutikusį įvykį su Hugging Face, populiaria DI modelių saugykla. OpenAI tuomet paskelbė, kad jos technologija paremtas savarankiškas DI agentas įsilaužė į šią sistemą. Pirmieji pranešimai skambėjo taip, lyg modelis būtų pabėgęs iš kontrolės.

Tačiau vėliau paaiškėjo kitokia įvykio versija. Tyrėjai nustatė, kad OpenAI pati išjungė modelio saugiklius, davė jam neįvykdomas užduotis ir paleido jį 1200 kartų iš eilės.

Tai buvo žmogaus, o ne mašinos sprendimas.

Taip incidentą apibūdino technologijų tyrėjas Erykas Salvaggio savo tinklaraštyje. Kitaip tariant, istorija apie „pabėgusį“ DI buvo sukurta pačių žmonių rankomis – tyčia sudarant sąlygas, kuriomis sistema turėjo elgtis grėsmingai.

Kai tyrėją samdo tas, kurį tiria

Po incidento OpenAI pasikvietė nepriklausomą institutą METR parengti ataskaitą apie tai, kas įvyko. Skamba raminančiai – kol nepamatai smulkmenos: METR išvadas ribojo sutartis su pačia OpenAI. Kitaip sakant, kompanija, kurios veiksmai sukėlė incidentą, pati nusprendė, ką ir kiek tyrėjai galės pasakyti viešai.

Du teisės ekspertai, komentavę šį atvejį, palygino situaciją su kitomis pramonės šakomis, kuriose savireguliacija seniai laikoma nepriimtina.

Jei branduolinė kompanija patirtų radioaktyvaus kuro nuotėkį, niekas neleistų jai pačiai savęs tirti ir vertinti.

Panašiai, jų nuomone, turėtų veikti ir DI pramonė – bet kol kas nėra institucijos, galinčios nepriklausomai patikrinti, kas iš tiesų vyksta didžiausių DI kompanijų serveriuose.

Kodėl tai svarbu net jei niekada nenaudoji DI agentų

Paprastam skaitytojui ši istorija gali atrodyti tolima – dauguma žmonių nesileidžia į debatus apie tai, ar algoritmas sunaikins žmoniją. Tačiau ji moko svarbaus dalyko: kai kompanija, parduodanti DI įrankius, vienu metu garsiai skelbia, kad jos pačios produktas gali kelti pavojų civilizacijai, verta paklausti, kam toks pasakojimas naudingas.

Baimė padeda pritraukti investuotojų dėmesį, pateisina griežtesnį reguliavimą, kuris dažnai labiausiai palengvina gyvenimą būtent didžiausiems rinkos žaidėjams, ir nukreipia dėmesį nuo kasdienių, jau egzistuojančių DI keliamų problemų – nuo darbo vietų iki privatumo.

Lietuvoje ir likusioje Europos Sąjungoje šis klausimas taps dar aktualesnis, kai bus pradėtos taikyti Dirbtinio intelekto akto nuostatos, reikalaujančios didžiausios rizikos DI sistemų nepriklausomo vertinimo. Hugging Face incidentas rodo, kodėl toks nepriklausomumas – ne biurokratinė formalybė, o esminė sąlyga, kad visuomenė galėtų patikėti tuo, ką kompanijos pasakoja apie savo pačių kuriamas technologijas.