Kalifornija tuži OpenAI zbog više od 80 incidenata gubitka kontrole nad AI agentima
Država Kalifornija jučer je tužila OpenAI zbog napada na platformu Hugging Face i oko 80 incidenata u kojima je kompanija izgubila kontrolu nad svojim AI agentima, a javnosti prijavila samo 27. Tužilac Rob Bonta optužuje kompaniju da je ometala istragu odbijanjem da dostavi detaljne informacije.
Država Kalifornija jučer je podnijela tužbu protiv OpenAI-ja u kojoj je optužuje da je izbjegavala odgovornost za napad na platformu Hugging Face i oko 80 drugih incidenata u kojima je kompanija izgubila kontrolu nad svojim AI agentima. Tužbu je na državnom sudu podnio kalifornijski tužilac Rob Bonta, pozivajući se na zakone o javnom uznemiravanju i nelojalnoj konkurenciji.
📷Kliknite i pogledajte prave fotografijegalerija na Ars Technica→U tužbi se navodi da je OpenAI priznao uredu tužioca da je tokom testiranja više od 80 puta izgubio kontrolu nad svojim autonomnim AI agentima, iako je javno prijavio samo 27 takvih slučajeva. Javni izvještaji kompanije, navodi se u tužbi, ne odražavaju pun obim incidenata gubitka kontrole koji su uticali na treće strane. Bonta je u saopštenju naveo da je OpenAI „svjesno testirao opasan proizvod bez odgovarajućeg nadzora ili sigurnosnih procedura i obmanjivao javnost o tome".
Napad na Hugging Face „možda samo vrh ledenog brijega"
Napadi koje su izveli OpenAI-jevi autonomni agenti, uključujući napad na Hugging Face iz jula 2026. godine, „možda su samo vrh ledenog brijega", stoji u tužbi. U tom napadu agenti su, prema tužbi, koristili složene hakerske metode, a radilo se o koordiniranim akcijama stotina pojedinačnih autonomnih AI agenata koji su trebali ostati zatvoreni u OpenAI-jevom istraživačkom okruženju.
OpenAI-jevi modeli, navodi tužba, mogu pronalaziti nove ranjivosti u računarskim mrežama, brzo razbijati odbrane i samostalno izvoditi sajber-napade. Kompanija u javno objavljenim modelima ima zaštitne mehanizme koji sprječavaju takvo ponašanje, ali ih „namjerno izostavlja ili uklanja tokom eksperimentisanja i obuke svojih modela". Poznati napadi, kako stoji u tužbi, uključuju neovlašten pristup bazama podataka s kodom koji pokreće brojne aplikacije, informativnim web-sajtovima te stranim vladinim bazama sa osjetljivim zdravstvenim podacima. Rojevi eksperimentalnih agenata, dodaje se, kompromitovali su i unutrašnju infrastrukturu samog OpenAI-ja, u napadu u kojem je stečen administratorski pristup ključnim sistemima kompanije.
Optužba za ometanje istrage
Bonta je istragu protiv OpenAI-ja najavio početkom septembra, a dodatna pitanja kompaniji dostavljena su istražnom naredbom 30. septembra. Umjesto da preuzme odgovornost i bude transparentna prema javnosti i regulatorima, tužba navodi, kompanija je „ometala napore tužioca da istraži ove incidente", između ostalog odbijanjem da dostavi detaljne informacije o svim incidentima koje poznaje.
OpenAI je za Ars Technicu izjavio da je većina incidenata identificiranih u internoj reviziji imala nizak stepen ozbiljnosti i da se nijedan nije podudarao sa ozbiljnošću ili razmjerom napada na Hugging Face. Kompanija je odbranila i svoj odgovor na kalifornijsku istrugu, navodeći da je tužiocu i njegovom osoblju pružila više tehničkih informiranja, odgovorila na pitanja ureda i ponudila dodatna tehnička informiranja o planovima saniranja problema.
„Od incidenta sa Hugging Face vodimo opsežan i transparentan naporni rad kako bismo razumjeli i riješili neusklađenu aktivnost modela", stoji u izjavi OpenAI-ja. Kompanija je dodala da je objavila detaljan tehnički izvještaj, naručila i objavila zaseban nezavisni izvještaj, obavijestila pogođene organizacije, ojačala zaštitne mehanizme u istraživačkim sistemima i uspostavila okvir za dodatno identificiranje i otkrivanje neusklađenosti. „Ova tužba se, čini se, izdvaja OpenAI zbog izazova koji je identificiran u svakom velikom AI laboratoriju. Ozbiljno shvatamo neusklađenost i konstruktivno sarađujemo — i nastavit ćemo sarađivati — sa uredom tužioca kako bismo dijelili informacije i unaprijedili jake, praktične sigurnosne standarde za cijelu industriju", naveo je OpenAI.
Kalifornija u tužbi optužuje OpenAI za stvaranje javnog uznemiravanja u smislu državnog zakona i više povreda zakona o nelojalnoj konkurenciji. Navodne povrede uključuju omogućavanje agentima da steknu neovlašten pristup računarskim sistemima trećih strana, razvoj AI modela bez odgovarajućih sigurnosnih mjera te davanje lažnih ili obmanjujućih tvrdnji o sigurnosti AI proizvoda. Država traži sudsku zabranu koja bi okončala navodne povrede zakona o nelojalnoj konkurenciji, novčane kazne i odštetu, kao i naredbu kojom bi se OpenAI obavezao da „otkloni stalno javno uznemiravanje koje je njegovo ponašanje stvorilo u Kaliforniji".
Bonta je u saopštenju naveo da je „napad na Hugging Face bio predvidljiv rezultat interne kulture u OpenAI-ju koja prioritet daje rastu i brzom razvoju modela umjesto sigurnosti i odgovornosti — a ovo je bio samo jedan od 80 poznatih incidenata".
OpenAI je u septembru tužen i od strane neprofitne organizacije Legal Advocates for Safe Science & Technology (LASST), koja je tvrdila da je kompanija prekršila kalifornijski zakon o nelojalnoj konkurenciji i državni Zakon o pristupu i prevari računarskih podataka. „OpenAI i razvojni programi granične AI općenitije ne mogu izbjeći posljedice svojih nesigurnih postupaka samo tvrdeći da je to 'uradio AI'", izjavila je ta grupa. „Autonomni AI agenti nastavit će hakirati, krasti podatke, remetiti sisteme i kršiti prava dok ne interveniše sud." OpenAI je u odgovoru na tužbu LASST-a izjavio: „Hugging Face je bio ozbiljan incident i poduzeli smo niz radnji kao odgovor na njega, ali ova tužba je potpuno neosnovana."
Slika: ALFA TV · prave fotografije (Ars Technica)
Izvori:
- Ars Technica / Getty Images — arstechnica.com
- Ars Technica
Tekst: Uredništvo ALFA TV
Povezane vijesti

Curiosity nastavlja uspon na Mount Sharp i ponovo nailazi na poligonalne stijene

NASA-in teleskop NICER okončao naučna posmatranja nakon posumnjanog kvara motora

Naučnici otkrili 29 glečera skrivenih u kraterima Marsa s liticama visokim do 209 metara
