Jedna od vodećih svjetskih tvrtki za razvoj umjetne inteligencije, Anthropic, pozvala je najveće AI laboratorije na mogućnost koordiniranog usporavanja razvoja naprednih sustava umjetne inteligencije, upozoravajući da bi tehnologija uskoro mogla napredovati brže nego što društvo može pratiti i kontrolirati.
Tvrtka, poznata po razvoju AI sustava Claude, smatra da bi svijet trebao imati mogućnost privremenog zaustavljanja razvoja najnaprednijih modela ako se procijeni da rizici nadmašuju sposobnost njihova nadzora.
U središtu zabrinutosti nalazi se mogućnost da umjetna inteligencija postane sposobna samostalno razvijati svoje nasljednike. Takav proces, poznat kao „rekurzivno samounaprjeđivanje“, mogao bi dovesti do situacije u kojoj bi AI sustavi napredovali brže nego što bi ih ljudi mogli razumjeti, regulirati ili kontrolirati.
Iz Anthropica upozoravaju da bi takav razvoj donio velike koristi u znanosti, medicini i tehnologiji, ali i ozbiljne sigurnosne izazove.
Njihov prijedlog predviđa međunarodni mehanizam kojim bi vodeće tvrtke mogle provjeravati pridržavaju li se svi sudionici eventualnog usporavanja razvoja, kako pojedini akteri ne bi nastavili raditi u tajnosti i stekli tehnološku prednost.
Istodobno, konkurentski OpenAI smatra da odluke o brzini razvoja umjetne inteligencije ne bi smjele donositi privatne kompanije, nego demokratski izabrane vlasti i državne institucije.
Rasprava dolazi u trenutku kada zabrinutost stručnjaka dodatno raste. Istraživači sa Sveučilišta u Torontu nedavno su predstavili eksperimentalni AI „crv“, vrstu zlonamjernog softvera koji može samostalno prilagođavati način napada tijekom širenja računalnim mrežama.
Sve više stručnjaka upozorava da razvoj umjetne inteligencije ulazi u fazu u kojoj tehnološki napredak nadmašuje postojeće sigurnosne i regulatorne okvire.
Dok jedni vide revoluciju koja bi mogla transformirati zdravstvo, gospodarstvo i znanost, drugi upozoravaju da bi nedostatak kontrole nad najnaprednijim sustavima mogao postati jedan od najvećih sigurnosnih izazova 21. stoljeća.
