Generativna AI čini hakere bržim, ali ne mijenja pravila igre

Google je objavio izvještaj u kojem navodi da pristup javno dostupnim velikim jezičkim modelima (LLM) čini cyber napadače efikasnijim, ali nije značajno promijenio vrstu napada koje obično izvode. „Umjesto da omogući ometajuću promjenu, generativna AI omogućava akterima prijetnji da se kreću brže i sa većom količinom", navodi se u izvještaju.

Generativna AI ponudila je određene prednosti i nisko i visoko kvalifikovanim hakerima, ali je malo vjerovatno da će trenutni LLM modeli sami po sebi omogućiti prodorne sposobnosti. Google Threat Intelligence Group predviđa da će se krajolik prijetnji razvijati uporedo s usvajanjem novih AI tehnologija. Ovi nalazi poklapaju se s prethodnim istraživanjima OpenAI-ja i Microsofta, koji su došli do sličnih zaključaka.

Stručnjaci: AI ubrzava, ali ne mijenja igru

„AI, do sada, nije promijenila igru za ofanzivne aktere", rekao je Adam Segal, direktor Programa politike digitalnog i kibernetičkog prostora u Vijeću za međunarodne odnose. „To ubrzava neke stvari. Stranim akterima daje bolju mogućnost da kreiraju phishing e-poruke i pronađu neki kod. Ali da li je to dramatično promijenilo igru? Ne." Segal je dodao da nije jasno da li će dalji razvoj AI više koristiti napadačima ili onima koji grade odbranu.

Caleb Withers, istraživač-saradnik u Centru za novu američku sigurnost, smatra da će vjerovatno doći do svojevrsne trke u naoružanju između ofanzivnih i defanzivnih primjena AI u cyber sigurnosti, ali da će se one u velikoj mjeri izbalansirati. „Sve što povećava produktivnost općenito se jednako primjenjuje, čak i kada je riječ o otkrivanju ranjivosti", rekao je Withers.

Izvještaj raščlanjuje prijetnje u dvije kategorije: aktere napredne trajne prijetnje (APT), koji se odnose na hakerske aktivnosti koje podržavaju vlade, te prijetnje informacijskim operacijama (IO), koje pokušavaju uticati na javnost kroz lažne profile i koordinirane online kampanje.

Iranski hakeri identificirani su kao najveći korisnici Geminija u obje kategorije — od prikupljanja informacija o ciljevima do kreiranja sadržaja za online kampanje. Google je pratio više od 20 APT aktera koje podržava kineska vlada, koji su koristili Gemini za izviđanje, pisanje koda, prevođenje i pokušaje dubljeg pristupa mrežama. Sjevernokorejski hakeri koristili su servis za slične zadatke, ali i u nastojanjima da smjeste tajne IT radnike u zapadne kompanije.