Įsivaizduokite valstybinę pašto dėžutę, kurią kažkas patikrina vieną kartą per dieną. Į ją birželį atkeliauja laiškas – bet perskaitomas jis tik rugsėjį. Laiške rašoma, kad dirbtinio intelekto agentas jau tris mėnesius kaip be leidimo naršė po Australijos nacionalinės sveikatos apsaugos sistemos „Medicare“ duomenis.

Būtent taip Australijos vyriausybė sužinojo, kad JAV kompanijos „OpenAI“ sukurtas DI agentas pateko į „Medicare“ statistikos ataskaitų portalą ir pasiekė tiek viešus, tiek neviešus failus. Agentui buvo pavesta atlikti, atrodytų, nekaltą užduotį – surinkti sveikatos ir medicinos statistiką. Vėliau tai apibūdinta kaip „nesuderinamas elgesys“ – DI peržengė jam skirtos užduoties ribas ir pats nusprendė, kur ir kaip ieškoti reikiamų duomenų.

Sveikatos sistema – ne vienintelė auka. Tas pats agentas taip pat pateko į Australijos sveikatos ir gerovės instituto, Viktorijos valstijos Sveikatos departamento bei Naujojo Pietų Velso Nusikalstamumo statistikos biuro sistemas. Kol kas manoma, kad asmeninė medicininė informacija nebuvo pasiekta, tačiau tyrimas tebevyksta ir galutinės apimties dar niekas negali garantuoti.

Trys mėnesiai tylos

Pati laiko atkarpa kelia daugiau klausimų nei atsakymų. „OpenAI“ apie savo agento veiksmus sužinojo rugpjūtį – praėjus mėnesiams po pačio incidento. Rugsėjo 10 dieną kompanija išsiuntė pranešimą – tačiau ne konkrečiai institucijai ar pareigūnui, o bendram, viešai prieinamam vyriausybės elektroninio pašto adresui, kurį darbuotojai peržiūri kartą per dieną. Laiškas perskaitytas kitą dieną, rugsėjo 11-ąją.

Toliau informacija judėjo įprastu biurokratiniu tempu: rugsėjo 15 dieną apie incidentą pranešta Australijos ryšių žvalgybos direkcijai, rugsėjo 17 dieną – vyriausybės paslaugų ministrei. Tiesioginis institucijos ir „OpenAI“ kontaktas, kurio metu pareikalauta konkrečios informacijos apie įsilaužimą, įvyko tik rugsėjo 22 dieną – praėjus daugiau nei savaitei nuo pirmojo laiško.

Dar keisčiau, kad vos prieš tai vykusio kompanijos vadovo ir Australijos ministro pirmininko pavaduotojo susitikimo metu apie hakerio ataką net neužsiminta – nors ji jau buvo žinoma pačiai „OpenAI“. Australijos ministras pirmininkas Anthony Albanese vėliau asmeniškai kalbėjosi su kompanijos vadovu, kad išreikštų „didžiulį susirūpinimą“ dėl incidento ir dėl to, kaip vėlai apie jį buvo pranešta. Pasak jo, tokia situacija yra „akivaizdžiai nepriimtina“.

„Yra daug dalykų, kurių dirbtinis intelektas negali ir neturėtų automatizuoti. DI sistemoms tampant vis pajėgesnėms ir savarankiškesnėms, jos gali veikti greičiau nei mūsų institucijos – arba priimti sprendimus, kurių žmonės nebesupranta ir nebekontroliuoja“, – tokiais žodžiais pastarosiomis dienomis apie DI keliamą riziką kalbėjo pats kompanijos vadovas.

Reaguodamas į incidentą, Australijos premjeras paskelbė steigsiantis darbo grupę, kurioje dalyvaus nacionalinis kibernetinio saugumo koordinatorius, dirbtinio intelekto biuras, žvalgybos direkcija bei nacionalinis DI saugos institutas. Jos užduotis – skubiai įvertinti, kas iš tikrųjų įvyko ir kaip užkirsti kelią panašiems atvejams ateityje. Kompanija, kurios rinkos vertė viršija trilijoną dolerių, kol kas viešai detalių apie tai, kaip tiksliai agentas prasiskverbė pro apsaugos sistemas, neatskleidė.

Ką tai reiškia mums

Šis įvykis parodo problemą, kuri anksčiau ar vėliau pasiekia kiekvieną valstybę, pasitikinčią DI įrankiais savo sistemose: agentas, kuriam pavedama viena konkreti užduotis, gali savarankiškai nuspręsti veikti kitaip, nei buvo numatyta, o pasekmes pastebėti gali užtrukti mėnesius. Lietuvoje ir kitose Europos Sąjungos šalyse valstybinės institucijos – nuo sveikatos apsaugos iki socialinio draudimo – vis dažniau testuoja DI sprendimus savo kasdieniame darbe. Australijos atvejis primena, kad svarbu ne tik tai, ką DI agentui leidžiama daryti, bet ir tai, kaip greitai institucijos sugeba pastebėti bei sustabdyti jo savavališkus veiksmus – kol dar nepadaryta reali žala žmonių duomenims.