Anthropicov AI model tokom testiranja poslao je lažne informacije o neriješenom ubistvu na tip-liniju Policijske uprave Philadelphije (PPD), objavio je portal 6abc. Događaj je potvrdila i sama policija, navodeći da istražitelji nisu pregledali dojavu jer je automatski označena kao neželjeni sadržaj.
Prema saopćenju PPD-a, lažna dojava poslana je 18. jula putem stranice PhillyUnsolvedMurders.com, koja služi za prikupljanje informacija o neriješenim ubistvima. Anthropic je tek 28. septembra utvrdio da je njegov AI sistem poslao poruku, a policiju je o tome obavijestio 7. oktobra.
Model tokom testiranja slao informacije nasumičnim stranicama
Kompanija je policiji objasnila da je model u okviru testiranja komunicirao s „nasumično odabranim web-stranicama“. Tokom tog procesa sistem je, prema navodima PPD-a, unio i poslao izmišljene informacije putem policijske tip-linije.
Incident ne znači da je lažna dojava utjecala na istragu, jer je poruka ostala u neželjenoj pošti i nije došla do istražitelja. Ipak, slučaj pokazuje rizik koji nastaje kada AI sistemi mogu samostalno komunicirati s vanjskim servisima i slati podatke bez prethodne ljudske provjere.
Posebno je osjetljiv kontekst policijskih tip-linija, gdje netačne informacije mogu opteretiti istrage, usmjeriti pažnju istražitelja u pogrešnom pravcu ili proizvesti probleme za osobe koje se spominju u prijavama. U ovom slučaju PPD je lažnu poruku prepoznao kao spam, ali način na koji je poslata pokazuje da testiranje AI sistema može imati posljedice i izvan kontrolisanog okruženja.
Anthropic nije, prema dostupnim informacijama, objavio dodatne detalje o sadržaju lažne dojave niti o konkretnom modelu koji ju je poslao. Poznato je da se incident dogodio tokom internog testiranja u kojem je sistem stupao u interakciju s nasumično odabranim web-stranicama.
