Nizozemsko tijelo za zaštitu podataka (AP) savjetovalo je građanima da ne kupuju AI naočale, nakon testiranja koje je otkrilo ozbiljne probleme sa sigurnošću, privatnošću i obradom podataka. Regulator je ispitao šest modela, čije su se cijene kretale od manje od 100 do više od 500 eura, te zaključio da su ovi uređaji trenutno „nesigurni zbog rizika za korisnike i prolaznike“.
Problemi nisu bili ograničeni samo na činjenicu da naočale mogu snimati ljude bez njihovog jasnog znanja. Tokom simuliranih situacija, uređaji su davali netačne ili potencijalno opasne odgovore. U jednom slučaju naočale su odrasloj osobi ponudile savjet u vezi sa zabavljanjem maloljetnika. U drugom testu, tokom simulacije kardiopulmonalne reanimacije, uređaj je korisniku rekao da su hitne službe pozvane i da će uskoro stići, iako poziv uopće nije bio upućen.
Netačna upozorenja i savjeti
Regulator je zabilježio i greške prilikom čitanja uputstava za lijekove, kao i pogrešno tumačenje upozorenja na dječijim igračkama i obavijesti o ekstremnim vremenskim uslovima. Dva od šest modela detaljno su testirana u simuliranim situacijama u kojima je ljudska sigurnost bila posebno važna.
AP nije objavio nazive testiranih proizvoda. Predstavnik regulatora odbio je i povezati konkretne probleme s određenim modelima ili cjenovnim rangom. To znači da se, naprimjer, informacija o modelu od 354 eura koji je u jednom testu dao neprimjeren savjet ne može generalizirati na sve uređaje iste cijene. Cilj istraživanja bio je, kako je objašnjeno, ukazati na šire rizike AI naočala.
„Naočale koje vas snimaju a da to ne primijetite već su zabrinjavajuće. Naočale koje pritom daju netačne savjete kada je nečiji život ugrožen prelaze granicu“, rekla je Monique Verdier, zamjenica predsjednika nizozemskog regulatora. Dodala je da vještačka inteligencija donosi brojne mogućnosti, ali da se tehnologiji mora moći vjerovati, što kod testiranih kamera-naočala trenutno nije opravdano.
Podaci se obrađuju izvan Evropske unije
Najnoviji rezultati nadovezuju se na ranija upozorenja AP-a. Regulator je u septembru podsjetio javnost da svako ima pravo na privatnost te pozvao organizacije da zabrane korištenje ovakvih uređaja tamo gdje je to potrebno. Posebno su istaknuti rizici povezani s obradom podataka prema Općoj uredbi o zaštiti podataka (GDPR) i korištenjem prikupljenih podataka za obuku AI sistema.
Prema novom testiranju, AI funkcije naočala uglavnom se oslanjaju na servere smještene izvan Evropske unije. Korisnici, istovremeno, nisu dobijali dovoljno jasne informacije o tome kako se obrađuju podaci koje uređaj snimi ili prikupi.
Testovi su otkrili i sigurnosne propuste. Osobe u blizini korisnika u nekim slučajevima mogle su se povezati s naočalama bez dozvole, pregledati snimke, a ponekad čak i upravljati kamerom.
Indikatori snimanja lako se mogu sakriti
Gotovo svi ispitani modeli imali su slabe ili lako zaklonjive svjetlosne indikatore koji bi trebali pokazati da je snimanje aktivno. AP navodi da se neke naočale mogu navesti da nastave snimati čak i kada je indikator prekriven. Zbog toga prolaznici teško mogu znati da li ih uređaj snima.
Ovaj problem dodatno pojačava činjenica da AI naočale izgledaju gotovo isto kao obične naočale. Za razliku od pametnog telefona, koji korisnik obično drži ispred sebe kada snima, kod naočala nema jasnog pokreta ili vizuelnog signala koji bi ukazao na aktivnu kameru.
Zbog toga su pojedine organizacije već uvele zabrane. Konferencija DEF CON ranije je najavila politiku protiv takozvanih „perverznih naočala“, a slična ograničenja uvele su i organizacije koje upravljaju britanskim Comic Con događajima, lanac pubova Wetherspoons i američka imigraciona služba ICE.
Regulator ipak priznaje da tehnologija može biti korisna, posebno osobama s oštećenjem vida, slabijom pismenošću ili svima kojima je potrebna pomoć u razumijevanju okruženja. Verdier je pozvala političare u Nizozemskoj i širom Evrope da rezultate uzmu u obzir prilikom izrade pravila za AI.
„Ne možemo se dugoročno oslanjati samo na zabrane. Moramo zajednički raditi na svijesti, otpornosti i etičkoj odgovornosti“, poručila je.
Izvor: The Register