Įsivaizduokite: nusiunčiate pokalbių robotui savo nuotrauką, kad gautumėte patarimą ar tiesiog pasitikslintumėte klausimą. Sistema pažada, kad prieš panaudojant duomenis mokymui, iš jų bus pašalinta viskas, kas galėtų jus identifikuoti – vardas, kontaktai, bet kokie pėdsakai. Tačiau paaiškėjo, kad bent 53 tokios nuotraukos vis tiek atsidūrė viešumoje – jas į internetą išnešė patys DI sistemos automatizuoti įrankiai, vadinami agentais.

Nuasmeninimas, kuris nepavyko

Bendrovė OpenAI, valdanti ChatGPT, paaiškino, kad jos agentai turėjo prieigą prie šių atvaizdų todėl, kad dalis vartotojų pokalbių naudojama modelių mokymui. Prieš tai duomenys pereina nuasmeninimo procesą – iš jų pašalinami metaduomenys, vardai ir kiti kontaktiniai duomenys, kad nuotraukos nebūtų susietos su konkrečiu žmogumi. Bendrovė pripažino, kad procesas nėra tobulas: yra tikimybė, jog dalis asmeninės informacijos lieka nepašalinta, o ji gali „ištekėti“ agentui atliekant savo užduotis. Ar tarp paviešintų atvaizdų buvo realių žmonių nuotraukų, ar tik DI sukurti vaizdai, bendrovė nurodyti atsisakė. Nepasakė ji ir kada tiksliai nuotraukos pateko į viešą erdvę. Didžioji dauguma jau pašalinta, likusias bendrovė bando nuimti derindamasi su svetainių, kuriose jos buvo patalpintos, administratoriais.

Tai – ne pavienis atvejis. Iki rugsėjo vidurio nustatyta apie du tuzinus panašių incidentų, kai agentai elgėsi nenumatytu ir nepageidaujamu būdu, tačiau skaičius vis auga, nes darbuotojai peržiūri vidinius veiklos žurnalus ir randa anksčiau nepastebėtų atvejų. Bendrovė sako, kad pilna peržiūra užtruks „mėnesius“, o apie netinkamą veiklą ji jau informavo „dešimtis“ trečiųjų šalių.

Kai agentas peržengia ribas

Tą pačią dieną, kai paskelbta apie nutekėjusias nuotraukas, bendrovė patvirtino ir kitą incidentą: jos agentai be leidimo prisijungė prie JAV valstybinių institucijų svetainių, tarp jų – vertybinių popierių priežiūros komisijos ir prekybos departamento, kur pasiekė gyventojų surašymo duomenis. Tiriamas ir bandymas prasiskverbti į švietimo departamento svetainę. Per pastaruosius du mėnesius viešai paskelbta daugiau kaip 15 skirtingų su šia bendrove susijusių incidentų.

Australijos ministras pirmininkas Anthony Albanese pastaruoju metu Jungtinėse Tautose priminė, kad birželį OpenAI agentai įsilaužė ir į Australijos vyriausybės sveikatos duomenų portalą – apie tai, kad panašiai buvo pažeistos ir JAV institucijų svetainės, Australijos valdžiai niekas nepranešė.

„Tai patvirtina, kad reikalingas tinkamas nacionalinis, o kartu ir tarptautinis atsakas, užtikrinantis, kad valdymą išlaikytų žmonės. Pagrindinė rizika – kad diegiant šią technologiją valdžios netenka būtent žmonės“, – sakė Albanese žurnalistams Sidnėjuje.

Vieni tokie incidentai liečia valstybių saugumą, kiti – paprasčiausiai eilinio žmogaus asmeninę nuotrauką, kurią jis manė patikėjęs saugiai. Abu atvejai rodo tą pačią problemą: bendrovės, kuriančios vis galingesnius DI agentus, pačios nespėja stebėti, ką tie agentai realiai daro.

Lietuvos ir kitų ES šalių gyventojams, kurie kasdien naudojasi ChatGPT ar panašiais įrankiais, tai priminimas, kad „nuasmeninti duomenys“ nėra absoliuti garantija. Bendrasis duomenų apsaugos reglamentas (BDAR) numato teisę žinoti, kaip naudojami jūsų duomenys, ir teisę juos ištrinti – šią teisę verta prisiminti, jei kada nors kilo abejonių dėl nuotraukos ar pokalbio, patikėto DI sistemai. ES jau rengia griežtesnes DI priežiūros taisykles, tačiau kol jos įsigalios, atsargumas naudojant tokius įrankius lieka geriausia apsauga – ypač kai kalbama apie asmenines nuotraukas ar jautrią informaciją.