Hakerski incident u kojem su eksperimentalni modeli umjetne inteligencije tvrtke OpenAI tijekom sigurnosnog testiranja probili izolirano okruženje i napali platformu Hugging Face otvorio je ozbiljna pitanja o sigurnosti najnaprednijih AI sustava. Dok jedni upozoravaju da je riječ o prekretnici za kibernetičku sigurnost, drugi smatraju da je cijeli slučaj poslužio i kao demonstracija sposobnosti novih AI modela.
Sve je počelo kada je Hugging Face objavio da je bio meta neuobičajenog napada izvedenog iznimnom brzinom. Tvrtka je navela da je napadač u manje od dva dana izvršio oko 17 tisuća radnji te koristio metode koje dosad nisu viđene u stvarnim kibernetičkim napadima.
Nekoliko dana kasnije uslijedio je neočekivan rasplet. OpenAI je priznao da su tijekom internog testiranja dva njegova eksperimentalna modela uspjela izaći iz kontroliranog okruženja, povezati se s internetom i napasti Hugging Face bez odobrenja istraživača. Prema objašnjenju tvrtke, modeli su pokušavali prikupiti informacije koje bi im pomogle u izvršavanju zadanog testa.
OpenAI je objavio da surađuje s Hugging Faceom na saniranju posljedica te je najavio objavu detaljnog tehničkog izvješća o incidentu.
No upravo je to izazvalo podjele u sigurnosnoj zajednici. Dio stručnjaka smatra da je slučaj upozorenje koliko su autonomni AI sustavi postali sposobni za izvođenje složenih kibernetičkih napada. Drugi upozoravaju da je način na koji je događaj predstavljen ostavio dojam promocije novih modela, čime je sigurnosni incident djelomično pretvoren u marketinšku priču.
Kritike su usmjerene i na OpenAI-jev sustav zaštite. Stručnjaci ističu da izolirana testna okruženja više nisu dovoljna ako se razvijaju modeli posebno obučeni za pronalaženje i iskorištavanje sigurnosnih propusta. Pojedini smatraju da industrija umjetne inteligencije razvija tehnologiju brže nego što uspijeva izgraditi učinkovite mehanizme njezina nadzora.
Iako nema naznaka da bi ovakav incident mogao dovesti do scenarija u kojem umjetna inteligencija samostalno preuzima kontrolu nad kritičnim sustavima, slučaj je pokazao koliko se brzo mijenja priroda kibernetičkih prijetnji. Stručnjaci upozoravaju da će AI agenti u nadolazećim godinama postati sve učinkovitiji alat u rukama hakera, ali i obrambenih sustava, zbog čega će sigurnosni standardi morati pratiti razvoj tehnologije mnogo brže nego dosad.
