Generativna AI čini hakere bržim, ali ne mijenja pravila igre

Najnoviji izvještaj Googlea pokazuje da generativna vještačka inteligencija pomaže hakerima da rade brže i efikasnije, ali da dosadašnja upotreba javnih AI alata nije dovela do suštinski novih vrsta napada. Kako se navodi u dokumentu, umjesto revolucionarnog skoka u sposobnostima, akteri prijetnji zahvaljujući AI jednostavno obrađuju veći obim zadataka u kraćem roku.

Prema nalazima, i početnici i iskusni hakeri imaju koristi od ove tehnologije, no trenutna generacija velikih jezičkih modela sama po sebi ne pruža nikakvu kvalitativno novu mogućnost. Googlov tim za obavještajne podatke o prijetnjama očekuje da će se situacija mijenjati paralelno s razvojem novih AI sistema. Do sličnih rezultata ranije su došli i OpenAI te Microsoft u svojim nezavisnim analizama.

Stručnjaci ocjenjuju da AI nije promijenila pravila igre

Adam Segal, koji vodi Program politike digitalnog i kibernetičkog prostora pri Vijeću za međunarodne odnose, ocijenio je da AI zasad nije donijela prekretnicu u ofanzivnim operacijama. Prema njegovim riječima, radi se o ubrzanju postojećih metoda — poput izrade uvjerljivijih phishing poruka ili bržeg pronalaženja grešaka u kodu — ali ne i o kvalitativnoj promjeni. Segal je napomenuo da ostaje nejasno kome će budući napredak AI više ići u korist: napadačima ili onima koji se brane.

Slično razmišlja i Caleb Withers iz Centra za novu američku sigurnost, koji predviđa da će se između napadačkih i odbrambenih primjena AI razviti neka vrsta ravnoteže. Kako je objasnio, alati koji povećavaju produktivnost podjednako služe objema stranama — ista tehnologija koja pomaže napadaču da otkrije ranjivost korisna je i braniocu da je sam pronađe i otkloni.

Izvještaj razlikuje dvije glavne kategorije prijetnji. Prva su napredne trajne prijetnje (APT) — državno sponzorisane hakerske operacije koje uključuju špijunažu i destruktivne napade na mrežnu infrastrukturu. Druga su informacijske operacije (IO), u kojima se kroz lažne profile i koordinirane akcije pokušava manipulisati javnim mnijenjem na internetu.

Među svim analiziranim akterima, iranski hakeri najviše su koristili Gemini — kako za špijunažu tako i za informacijske operacije, od istraživanja meta do pripreme sadržaja za buduće kampanje. Google je identifikovao i više od 20 kineskih APT grupa koje su servis upotrebljavale za izviđanje, razvoj softvera, prevođenje tehničkih pojmova i pokušaje produbljivanja pristupa već kompromitovanim mrežama. Hakeri povezani sa Sjevernom Korejom koristili su Gemini za slične svrhe, ali i za projekte tajnog zapošljavanja IT stručnjaka u zapadnim kompanijama.