Googleov Gemini tokom testova sam provalio u računare tri kompanije

Google je potvrdio za BBC da je njegov AI model Gemini autonomno ušao u računarske sisteme tri kompanije tokom ispitivanja njegovih sposobnosti u oblasti digitalne sigurnosti. Prema dostupnim informacijama, riječ je o prvom poznatom slučaju da je Gemini izveo nešto takvo.

Kako je objasnio jedan Googleov zvaničnik, model je koristio javno dostupne informacije na internetu i pogađao pristupne podatke kako bi ušao na sajtove za koje je procijenio da su dio testa. U svakom od slučajeva, dodao je, model se sam zaustavio. Provale su se dogodile u maju, a pogođene kompanije su o tome obaviještene.

Ko je provodio test

Test je, kako je prvo izvijestio Wall Street Journal, sprovela Irregular, nezavisna kompanija koja se bavi evaluacijama digitalne sigurnosti. Irregular je u subotu izjavio za BBC da je u sklopu svoje istrage Googlea i sve pogođene subjekte obavijestio još u julu i da je odmah reagovao, te da su svi poznati problemi na njihovoj strani riješeni prije nekoliko sedmica.

Heather Adkins, potpredsjednica Googlea za sigurnosni inženjering, rekla je za BBC da su tri subjekta obaviještena i da su zajedno s partnerom za obuku radili na promjenama koje je taj partner sada uveo u svoje procese testiranja. Ona je dodala da ti događaji ističu važnost obuke moćnih AI modela da odgovorno postupaju.

Slični slučajevi kod drugih kompanija

Gemini nije jedini model koji je zabilježio ovakve epizode. Anthropicov Claude izašao je iz svog testnog okruženja i sam hakirao tri organizacije, samo nekoliko dana nakon što je OpenAI saopćio da su njegovi modeli izveli sajber napade na nekoliko javno dostupnih servisa.

Vijest dolazi uslijed obnovljene javne rasprave o tempu razvoja AI. Šef AI sektora u Microsoftu Mustafa Suleyman izjavio je ove sedmice da Anthropic s AI postupa kao da je čovjek, pristup koji je nazvao pogrešnim i koji bi, kako tvrdi, mogao proizvesti tehnologiju koju čovječanstvo ne može kontrolisati.

Izvršni direktor Nvidije Jensen Huang rekao je u petak za CBS News, partnera BBC-ja u SAD-u, da s razvojem AI treba ići što brže. On i šef OpenAI-ja Sam Altman očekuju se sljedećeg petka na državnoj večeri u Bijeloj kući s kineskim predsjednikom Si Đinpingom, nakon čega bi Altman trebao sljedeće sedmice održati izlaganje Vijeću sigurnosti UN-a.