Signal je uveo dodatne mjere zaštite koje na iOS-u i Androidu po defaultu blokiraju Apple Siri, Google Gemini i druge AI agente od pristupa sadržaju privatnih razgovora. Kompanija navodi da je odluka donesena zbog načina na koji operativni sistemi sve dublje integrišu vještačku inteligenciju i omogućavaju joj da analizira ono što se prikazuje na ekranu.
Nova zaštita dio je ažuriranja mobilnih aplikacija Signal, a zasniva se na blokiranju snimaka ekrana. Na iPhone uređajima funkcija se odnosi na Siri, dok su na Androidu obuhvaćeni Gemini i drugi agenti koji mogu obrađivati sadržaj ekrana. Takvi sistemi koriste optičko prepoznavanje znakova (OCR) kako bi iz slike izvukli tekst i iskoristili ga za odgovore na upite korisnika.
Poruke mogu završiti izvan Signala
Meredith Whittaker, izvršna direktorica Signala, upozorila je da operativni sistemi kompanija Google i Apple sve više ugrađuju agentske mogućnosti direktno u svoje platforme. Prema njenom objašnjenju, AI agenti mogu „skenirati“ informacije prikazane na ekranu kako bi korisniku pružili kontekstualne odgovore ili izvršili određene zadatke.
Problem nastaje kada se u tom procesu obrade privatne Signalove poruke. Podaci koje agent preuzme sa ekrana mogu biti poslani na servere izvan Signala, čime se povećava rizik da komunikacija više ne ostane privatna. To je posebno osjetljivo kod aplikacije čija je osnovna svrha zaštita komunikacije end-to-end enkripcijom.
Korisnici koji žele praviti snimke ekrana mogu isključiti zaštitu u postavkama Signala. Whittaker, međutim, upozorava da se time ne izlažu samo njihove poruke, već potencijalno i sadržaj koji su im poslali drugi korisnici.
Signal istovremeno priznaje da blokiranje snimaka ekrana nije potpuno rješenje. AI agenti mogu pokušati doći do podataka i drugim kanalima, uključujući pristup datotekama ili drugim dijelovima sistema. Kompanija navodi da aplikacije trenutno nemaju dovoljno snažne alate kojima bi mogle ograničiti pristup AI agenata bez ozbiljnih kompromisa po pitanju funkcionalnosti i korisničkog iskustva.
Zbog toga slična zaštita za sada nije uvedena na macOS-u. Signal smatra da Apple, Google, Microsoft i drugi proizvođači operativnih sistema ne nude programerima dovoljno precizne kontrole za ograničavanje pristupa vlastitih i drugih AI sistema podacima aplikacija.
Apple pooštrava kontrole u macOS-u
Apple je najavio promjene u macOS-u koje bi trebale donijeti detaljnije kontrole nad pristupom podacima. U verziji macOS 27.3, koja je u javnom beta testiranju, dodatne dozvole odnose se na API-je Device Control i Data Access, kao i na Full Disk Access.
To bi moglo rezultirati većim brojem upita za dozvolu kada aplikacije pokušavaju pristupiti korisničkim podacima. Programi za izradu sigurnosnih kopija i asistivne tehnologije koje koriste Accessibility API-je mogli bi, između ostalog, morati tražiti posebno Appleovo odobrenje za puni pristup disku. Siri se na macOS-u može zasebno isključiti.
Apple je poručio da će sve sposobniji i autonomniji AI agenti povećati rizike povezane s pristupom podacima. Kompanija tvrdi da želi korisnicima jasnije objasniti te rizike prije nego što odobre pristup, kako bi odluke o privatnosti donosili informisano.
Signalova odluka dio je šireg otpora prema agentskom softveru koji pokušava dobiti pristup velikom dijelu digitalnog života korisnika. Kompanije poput Amazona, United Airlinesa i pojedinih banaka već ograničavaju korištenje neovlaštenih botova, dok se istovremeno razvija tržište za njihovo otkrivanje i blokiranje.
Kako AI agenti sve češće djeluju između korisnika, aplikacija i online servisa, pitanje povjerenja postaje sve važnije. Njihova uloga trebala bi biti zastupanje interesa korisnika, ali slanje podataka u cloud i pristup informacijama bez jasne kontrole mogu dovesti do toga da korisnik više ne zna kome agent zapravo služi.
Izvor: The Register