Američka vojska spremala se da presretne kineski brod zbog obavještajnog izvještaja nastalog uz pomoć AI

Američke oružane snage bile su spremne da uz zračnu podršku presretnu i ukrcaju se na kineski brod za koji je obavještajni izvještaj tvrdio da kroz Bliski istok prevozi komponente nuklearnog programa naoružanja. Prema izvještaju CNN-a, koji se poziva na četiri izvora upoznata s epizodom, ta informacija bila je „potpuno netačna”, a do pogreške je došlo jer je analitičar Komande specijalnih operacija SAD koristio chatbot prilikom izrade izvještaja.

Kako CNN prenosi, analitičar je chatbot koristio za analizu obavještajnih izvještaja o manifestu tereta kineskog broda. Chatbot je „spojio otvorene obavještajne izvore sa tajnom signaisnom obavještajnom inteligencijom iz državnih resursa”, a taj sadržaj zatim je upakovan u izvještaj koji je zamalo pokrenuo lanac pogubnih događaja. Službenici su tek kasnije otkrili da je chatbot „netačno identifikovao materijal koji je brod prevozio”.

Šira upotreba AI u Pentagonu

Ovaj slučaj jedan je od ozbiljnijih primjera kako haluciniranje umjetne inteligencije može ugroziti pouzdanost profesionalnog izvještaja. Od kada je „haluciniranje” 2023. postalo riječ godine Cambridge rječnika, poznati primjeri pogrešaka AI bilježili su autori knjiga, novinari, akademski istraživači, sudije, ljekari, policijske uprave i korporativni centri za pozive. Neki istraživači smatraju da je uopšte nemoguće u potpunosti spriječiti da jezički modeli haluciniraju, uprkos pokušajima upozorenja kroz takozvane „do not hallucinate” upute.

Ministarstvo odbrane SAD u januaru je predstavilo „strategiju AI akceleracije” kojom nastoji da „svim odgovarajućim sistemima u saveznoj IT infrastrukturi učini dostupnim podatke za AI iskorištavanje”. Ministar odbrane Pete Hegseth tada je izjavio da je „AI samo onoliko dobar koliko su dobri podaci koje prima”.

Ministarstvo je u decembru prošle godine najavilo da će koristiti Googleov Gemini for Government kao osnovu svoje platforme GenAI.mil, a prošlog mjeseca na platformu je dodata i opcija Grok for Government. Anthropic nudi prilagođenu verziju modela Claude za obavještajne potrebe SAD. U junu je predstavnik Pentagona pohvalio se pred Kongresom da generativnu AI koriste za izradu izvještaja koje propisuje Kongres, te da je 1,5 miliona aktivnih pripadnika Ministarstva odbrane koristilo vojne generativne AI alate.

Upozorenja i autonomno oružje

Državni departman je 2023. usvojio „Deklaraciju o odgovornoj vojnoj upotrebi vještačke inteligencije i autonomije”, koja ističe da „principijelna” upotreba AI u oružanim snagama „treba da uključi pažljivo razmatranje rizika i koristi” te da smanji nenamjerne pristranosti i nezgode. Deklaracija je naglasila da „odgovorna” upotreba AI sistema mora uvijek uključivati „čovjeka u procesu i odgovoran lanac komandovanja i kontrole”.

U međuvremenu su potpuno autonomne napadačke dronove korišteni u ruskom sukobu u Ukrajini, a testirali su ih i vojni izvođači podržani od NATO-a. U martu je Ministarstvo odbrane Anthropic unijelo na crnu listu zbog protivljenja kompanije upotrebi njenih modela u autonomnim sistemima oružja, a savezna sudija je prošlog mjeseca ocijenila da je taj potez bio „nezakonita odmazda u suprotnosti s Prvim amandmanom”.

Navodni proboj događa se u trenutku kada upozorenja AI istraživača o egzistencijalnim rizicima pokreću sve vidljiviju nacionalnu raspravu o sigurnosti umjetne inteligencije, uključujući pozive za regulaciju i koordinisano „tempiranje” istraživanja vodećih laboratorija za fronte AI.