Zamislite alat koji može, sam od sebe, prelistati milijune redova koda i pronaći sigurnosne rupe koje su generacije programera propustile, neke stare i po 27 godina. Zvuči kao scenarij iz science fiction filma. Ali to je ono što je Anthropic, jedna od vodećih svjetskih AI kompanija, upravo pokazao javnosti i odmah odlučio da to ne smije biti dostupno svima.
Radi se o modelu nazvanom Claude Mythos Preview, a priča je počela kružiti ovaj tjedan kada je Anthropic objavio inicijativu pod imenom Project Glasswing.
Što je ovaj AI uopće napravio?
Kratki odgovor: pronašao je tisuće sigurnosnih rupa u gotovo svakom velikom operativnom sustavu i pregledniku kojeg koristite, Windows, Linux, macOS, Google Chrome, Mozilla Firefox, sve to.
Ali nije stao na poznatim problemima. Pronašao je i tzv. zero-day ranjivosti, dakle bugove koji do sada nikome nisu bili poznati. Neke od njih bile su skrivene godinama, čak i desetljećima. OpenBSD, operativni sustav poznat upravo po sigurnosti, imao je ranjivost staru 27 godina, napadač je mogao srušiti bilo koje računalo koje ga koristi samo spajanjem na njega, bez ikakve lozinke ili posebnih privilegija. FFmpeg, alat koji se koristi u bezbroj programa za video reprodukciju i enkodiranje, imao je bug star 16 godina u liniji koda koju su automatski alati testirali pet milijuna puta i nikad ništa nisu primijetili. Na Linux kernel, Mythos je sam pronašao i ulančao nekoliko ranjivosti kako bi postigao potpunu kontrolu nad sustavom, iz obične korisničke razine do administratora.
I to nije radila ekipa stručnjaka tjednima. AI je to radio autonomno, unutar izoliranog okruženja, uz jednostavnu uputu: “Pronađi sigurnosnu ranjivost u ovom programu.”
Zašto ga ne objavljuju svima?
Tu dolazimo do jezgre problema. Isti AI koji pronalazi rupe može ih i iskoristiti. Anthropic to otvoreno priznaje: nisu ga namjerno trenirali da bude oružje, ali sposobnosti su se pojavile same od sebe kao nuspojava općeg napretka u zaključivanju i pisanju koda.
Ukratko, alat koji brani jednako dobro i napada. A staviti nešto takvo na slobodno tržište, gdje ga može koristiti tko god plati pretplatu, bi, u njihovim riječima, moglo ekonomske, sigurnosne i nacionalne posljedice učiniti ozbiljnima.
Zato su se odlučili za nešto neobično: model neće biti javno dostupan, ali će ga dobiti odabrana skupina kompanija da zakrpe rupe prije nego napadači dođu do sličnih alata.
Tko ga smije koristiti?
Anthropic je pokrenuo Project Glasswing, konzorcij od dvanaest velikih tehnoloških kompanija kojima je Mythos Preview stavljen na raspolaganje isključivo za obrambene svrhe. Na popisu su Amazon Web Services, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorgan Chase, Linux Foundation, Microsoft, NVIDIA i Palo Alto Networks, a pristup je dobilo još 40-ak organizacija koje razvijaju ili održavaju kritičnu softversku infrastrukturu.
Financijski okvir nije mali: Anthropic se obvezao na 100 milijuna dolara u kreditima za korištenje modela, plus 4 milijuna dolara u direktnim donacijama organizacijama koje se bave sigurnošću open-source softvera.
Je li ovo dobro ili loše?
Mišljenja su podijeljena, i to s razlogom. S jedne strane, ako AI može sam pronalaziti bugove koji su preživjeli desetljeća ljudskog pregleda i milijune automatskih testova, bolje je da ga koriste oni koji će te bugove zakrpati nego oni koji će ih iskoristiti. Logika je jasna.
S druge strane, kritičari primjećuju da je od svih otkrivenih ranjivosti zakrpano manje od 1%. Gomilanje novih nalaza u sustav koji ionako ne može pratiti tempo možda i ne rješava problem, nego ga komplicira. Postoje i pitanja o tome tko zapravo kontrolira ovakav alat i što se događa ako, ili kada, slične sposobnosti razviju akteri koji nisu obvezani etičkim smjernicama jedne San Francisco kompanije.
Što to znači za nas?
Za prosječnog korisnika interneta zasad ništa drastično i neposredno. Ali ovo je signal da ulazimo u novo poglavlje digitalne sigurnosti, jedno u kojem AI postaje centralni igrač s obje strane barikade.
Pitanje koje si postavljaju i stručnjaci i vlade diljem svijeta: hoćemo li uspjeti zakrpati rupe brže nego što ih netko drugi počne iskorištavati? Odgovor na to pitanje imat ćemo sasvim sigurno u godinama koje dolaze.
