Nvidia je predstavila novu platformu za sigurnosnu kontrolu AI agenata, odnosno sistema koji mogu samostalno izvršavati zadatke, donositi odluke i koristiti različite digitalne alate. Kompanija ovaj paket pozicionira kao odgovor na sve veću zabrinutost zbog agenata koji djeluju nepredvidivo ili izlaze izvan predviđenih ograničenja.
Izvršni direktor Nvidije Jensen Huang predstavio je platformu u ponedjeljak. Prema dostupnim informacijama, riječ je o kombinaciji softverskih i hardverskih proizvoda koji bi trebali dodati nezavisne sigurnosne slojeve oko AI agenata.
Sigurnosni slojevi za autonomne sisteme
Cilj pristupa je da se ponašanje AI agenata nadzire odvojeno od samog sistema koji izvršava zadatke. Takvi slojevi mogu imati važnu ulogu u provjeri zahtjeva, ograničavanju dozvoljenih radnji i smanjenju rizika da agent samostalno preduzme nepoželjne korake.
Nvidia svoju najavu predstavlja u periodu intenzivne rasprave o tome šta stoji iza pojave takozvanih „odbjeglih“ AI agenata. Dio stručne javnosti takve slučajeve posmatra kao mogući korak prema opštoj vještačkoj inteligenciji (AGI), dok drugi smatraju da je riječ prije svega o klasičnim inženjerskim problemima u dizajnu, testiranju i nadzoru autonomnog softvera.
Kompanija zasad nije javno navela sve tehničke detalje platforme, pojedinačne proizvode koji čine paket, niti rokove njihove dostupnosti. Zbog toga ostaje otvoreno kako će Nvidia rješenje funkcionisati u stvarnim poslovnim i cloud okruženjima, kao i s kojim će AI agentima biti kompatibilno.
