Matt Arnold, komedijų renginių organizatorius, patyrė nemalonią akimirką Sainsbury's parduotuvėje Londono pietryčiuose, kai buvo neteisingai apkaltintas vagyste. Po apsipirkimo East Dulwich rajono parduotuvėje, jis staiga buvo sustabdytas ir išprašytas dėl neva ankstesnio incidento. „Jaučiausi pažemintas ir bejėgis,“ sakė Arnold, kuris buvo priverstas palikti parduotuvę, kol jo pirkinius atsiėmė draugas.

DI technologijų patikimumo klausimas

Šis incidentas atskleidė DI veido atpažinimo technologijų trūkumus, ypač kai kalbama apie jų naudojimą viešose vietose. Sainsbury's pranešė, kad dėl šios klaidos buvo sustabdytas Facewatch technologijos naudojimas minėtoje parduotuvėje, tačiau Arnold mano, kad sistema turėtų būti sustabdyta visose parduotuvėse. Jis nuogąstauja, kad toks klaidingas kaltinimas gali neigiamai paveikti pažeidžiamus asmenis ar tuos, kurie negali apsiginti.

„Kiekvienas gali būti neteisingai apkaltintas, o tai gali turėti destruktyvų poveikį pasitikėjimui savimi, ypač jauniems žmonėms,“ – teigė Arnold.

Ne tai pirmas kartas, kai ši technologija susiduria su problemomis. Anksčiau panašūs incidentai buvo užfiksuoti kitose parduotuvėse, tačiau šis įvykis iškėlė klausimų dėl plačiai naudojamų DI sprendimų patikimumo ir etikos.

Europos Sąjungoje šios technologijos taip pat yra po didinamuoju stiklu. ES AI Act siekia reguliuoti dirbtinio intelekto naudojimą, ypatingą dėmesį skiriant veido atpažinimo technologijoms, kurios gali pažeisti asmens privatumą ir teises. Šis incidentas rodo, kaip svarbu užtikrinti, kad tokios sistemos būtų naudojamos atsakingai ir patikimai, siekiant išvengti neteisingų kaltinimų ir jų neigiamų pasekmių.

Kaip praneša The Guardian, Sainsbury's atsiprašė Arnold už incidentą ir pradėjo vidinį tyrimą dėl neteisingo identifikavimo priežasties, tuo pačiu metu sustabdydama technologijos naudojimą minėtoje parduotuvėje.