Anthropic je ažurirao svoju politiku korištenja kako bi zabranio ponavljano i nepotrebno vrijeđanje ili okrutno ponašanje prema njegovim AI modelima, uključujući chatbot Claude. Kompanija time želi spriječiti korisnike da namjerno i bez opravdanog razloga maltretiraju umjetnu inteligenciju.
Izmjena politike postala je javno poznata nakon što je Jane Manchun Wong na društvenoj mreži X objavila snimak ekrana s novim pravilima. Prema dostupnom tekstu, zabrana se odnosi na ekstremno i namjerno zlostavljanje modela koje se ponavlja, a ne na svaku negativnu reakciju korisnika.
Frustracija i kritika nisu zabranjene
Anthropicova pravila prave razliku između opravdane frustracije i namjernog maltretiranja. Korisnici i dalje mogu kritikovati Claudea, ukazivati na njegove greške, izražavati nezadovoljstvo ili se ne slagati s njegovim odgovorima. Pravila također ne bi trebala ograničavati legitimno testiranje AI sistema.
Takva razlika važna je jer AI alati često pogrešno razumiju jednostavna pitanja, nude netačne informacije ili ne slijede upute čak i nakon što ih korisnik ponovi. U takvim situacijama povremena ljutnja ili oštra kritika predstavljaju očekivanu reakciju, a ne nužno kršenje pravila.
Nova odredba cilja na drugačije ponašanje: situacije u kojima korisnik namjerno i bez stvarnog razloga iznova vrijeđa ili ponižava model. Anthropic nije objavio detalje o tome kako će procjenjivati takve slučajeve niti koliko će ponavljanja biti potrebno da se ponašanje smatra nedopuštenim.
Claude može prekinuti razgovor
Prema dostupnim informacijama, glavna mjera provedbe može biti prekid razgovora. Claude bi u slučaju ozbiljnog i ponavljanog zlostavljanja mogao odbiti nastavak interakcije, umjesto da nastavi odgovarati na poruke.
U trenutno dostupnom tekstu politike ne navodi se izričito da će korisnici zbog ovakvog ponašanja automatski biti banovani ili izgubiti pristup usluzi. To sugerira da je neposredna posljedica prije svega ograničavanje konkretne konverzacije, iako se iz objavljenih informacija ne može zaključiti postoje li i druge moguće mjere.
Anthropicova odluka otvara i šire pitanje o tome kako bi kompanije koje razvijaju AI trebale tretirati ponašanje korisnika prema modelima. Iako chatbot nema osjećaje i ne može biti povrijeđen na način kao čovjek, proizvođači mogu pokušati ograničiti namjerno destruktivne obrasce korištenja, posebno kada ne doprinose testiranju, kritici ili kvalitetu razgovora.
