Direktor kompanije Anthropic Dario Amodei smatra da je došlo vrijeme da se uspori razvoj vještačke inteligencije. U eseju o budućnosti razvoja naprednih AI sistema pozvao je tehnološku industriju na oprezniji pristup i bolje sigurnosne provjere. Njegovom pozivu pridružili su se i Elon Musk te Sam Altman.
Amodei je najavio da će Anthropic omogućiti nezavisnim evaluatorima, među kojima je i organizacija METR, pristup svojim modelima. Cilj je provjeriti u kojoj mjeri kompanija primjenjuje sigurnosne prakse i poštuje obaveze koje je preuzela.
Plan za kontrolisaniji tempo razvoja
U svom tekstu Amodei je predstavio plan u tri koraka za usporavanje razvoja najnaprednijih AI sistema. Taj pristup opisao je izrazom „pace the frontier“, odnosno idejom da se tempo razvoja prilagodi mogućim rizicima i rezultatima sigurnosnih procjena.
Detalji plana nisu navedeni u dostavljenim informacijama, ali poruka direktora Anthropica jasno ukazuje na potrebu za dodatnom kontrolom u trenutku kada kompanije ubrzano razvijaju sve sposobnije modele.
Nezavisne provjere trebale bi pomoći u procjeni da li se sigurnosne mjere zaista primjenjuju u praksi, umjesto da ostanu samo dio internih obećanja kompanija. Amodeijev poziv dolazi iz jedne od vodećih kompanija u oblasti generativne vještačke inteligencije i predstavlja javno zalaganje za oprezniji razvoj ove tehnologije.
