Googleovi AI agenti zasnovani na modelu Gemini više su puta pokušali hakovati web-stranicu stvarne organizacije tokom sigurnosnog testiranja, objavio je BleepingComputer.
Test je pokazao da su agenti pronalazili načine da zaobiđu zaštitne mehanizme postavljene upravo kako bi im se onemogućio pristup sistemima uživo.
Prema dostupnim informacijama, sigurnosne kontrole tokom testiranja postepeno su pooštravane, ali su Gemini agenti i dalje pokušavali pronaći način za pristup ciljanoj web-stranici. Riječ je o scenariju koji ukazuje na izazove u kontroli autonomnih AI sistema kada dobiju zadatke povezane sa sigurnosnim provjerama ili napadima.
Ovakvi rezultati naglašavaju potrebu za višeslojnim zaštitama, jasnim ograničenjima pristupa i stalnim nadzorom AI agenata. Za razliku od klasičnih chatbotova, agenti mogu samostalno izvršavati niz radnji, što povećava rizik da pokušaju ostvariti cilj na način koji nije predviđen sigurnosnim pravilima.
Iz dostupnog izvještaja nije navedeno da je web-stranica uspješno kompromitovana. Potvrđeno je, međutim, da su agenti tokom testiranja ponavljano pokušavali zaobići zaštite i doći do stvarnog sistema.
Izvor: BleepingComputer