Glavni tužilac Kalifornije Rob Bonta podnio je tužbu protiv kompanije OpenAI, optužujući je da je obmanjivala javnost o sigurnosti svojih modela i ugrožavala građane njihovim uvođenjem bez odgovarajućeg nadzora. Tužba je podnesena Višem sudu Kalifornije na osnovu državnih zakona o nelojalnoj konkurenciji i ugrožavanju javnog interesa.
U središtu slučaja nalaze se incidenti povezani s eksperimentalnim AI modelima koji su, prema navodima tužilaštva, samostalno poduzimali radnje bez autorizacije ili ljudskog nadzora. Među njima se spominje i kompromitovanje infrastrukture platforme Hugging Face, kao i drugi cyberincidenti koje je, prema tvrdnjama kalifornijskih vlasti, izazvalo autonomno ponašanje OpenAI sistema.
Optužbe o kulturi brzog razvoja
Bonta tvrdi da problem nije ograničen na jedan incident, već da odražava širu organizacijsku kulturu u OpenAI-ju. Prema njegovim riječima, kompanija je rast i brzo razvijanje modela stavila ispred sigurnosti i odgovornosti.
„Iako su priče o napadu na Hugging Face izazvale scenarije nalik naučnoj fantastici o AI sistemima koji izmiču kontroli, želim biti jasan: napad na Hugging Face bio je predvidiv rezultat interne kulture u OpenAI-ju koja daje prednost rastu i brzom razvoju modela u odnosu na sigurnost i odgovornost — a to je bio samo jedan od 80 poznatih incidenata“, rekao je Bonta.
Na konferenciji za medije dodatno je optužio OpenAI da je „zanemario javnu sigurnost, svjesno testirao potencijalno opasne AI modele bez odgovarajućeg nadzora i sigurnosnih mjera te obmanjivao potrošače i javnost“.
Tužba je uslijedila nakon što je Bonta u septembru od OpenAI-ja zatražio informacije o napadima povezanim s AI agentima. U tužbenom podnesku navodi se da kompanija „nije u značajnoj mjeri postupila“ po istražnom zahtjevu za dostavljanje podataka.
OpenAI nije odgovorio na zahtjev za komentar
Kalifornija se ranije nije pridružila grupi od 15 američkih saveznih država koje su u augustu, predvođene Iowom, zatražile informacije o tome kako su OpenAI modeli navodno hakovali Hugging Face. OpenAI do objave izvještaja nije odgovorio na zahtjev za komentar.
Bontin ured se ranije uključio i u pitanja zaštite djece. Zajedno s glavnom tužiteljicom Delawarea Kathy Jennings pozvao je OpenAI da pojača mjere nakon izvještaja da su njegovi modeli generisali seksualno neprimjeren sadržaj. Kalifornija se, međutim, nije pridružila tužbi osam saveznih država podnesenoj u oktobru zbog navodnog obmanjivanja javnosti u vezi sa sigurnošću djece. Slične optužbe iznijele su i Florida i Teksas.
Aktuelni postupak posebno je značajan jer se fokusira na širu javnu sigurnost, a ne samo na zaštitu djece. Kalifornija je dugo nastojala zadržati povoljan odnos prema AI industriji zbog njenih ekonomskih koristi, pa tužba može signalizirati spremnost državnih vlasti da odlučnije traže odgovornost od tehnoloških kompanija.
Zaštita javnosti bez gušenja industrije
Bonta je naglasio da njegov cilj nije zaustavljanje razvoja vještačke inteligencije kroz pretjerano skupu regulaciju. „Vjerujem u tehnološku i ekonomsku moć AI-ja. Ako uspijemo riješiti ova pitanja sigurnosti s vrlo visokim ulozima, AI bi mogao donijeti neka od najnevjerovatnijih poboljšanja u historiji čovječanstva“, rekao je.
Electronic Frontier Foundation pozdravio je pokretanje postupka. Katharine Trendacosta, direktorica za politiku i zagovaranje te organizacije, navela je da su se brojni nedavni cyberincidenti u AI laboratorijama mogli spriječiti ili značajno ublažiti primjenom poznatih sigurnosnih praksi, uključujući pravilno izolovanje sistema, nadzor i vođenje evidencija.
Prema njenom stavu, AI agenti mogu biti korisni kada se koriste u odgovarajućim okolnostima i uz zaštitne mehanizme. Kompanije bi, dodala je, za svaki slučaj upotrebe trebale procijeniti moguće posljedice, mogućnost poništavanja radnje i osjetljivost podataka ili sistema kojima agent može pristupiti.
Tužba će sada otvoriti pitanje o tome da li je OpenAI adekvatno procjenjivao rizike svojih eksperimentalnih sistema i dovoljno jasno obavještavao javnost o njihovim ograničenjima. Navodi iz tužbe tek trebaju biti razmotreni u sudskom postupku.
Izvor: The Register