Šef Microsoft AI upozorava: nekontrolisana veštačka inteligencija mogla bi stvoriti novu „silicijumsku vrstu"

Mustafa Suleyman, šef veštačke inteligencije u Microsoftu, upozorio je da razvoj AI bez odgovarajućih mera zaštite može dovesti do nastanka tehnologije koju čovečanstvo ne može kontrolisati.

Govoreći za BBC-ovo jutarnje emisiju Today četvrtka, Suleyman rekao je da je „u pravu" što ljudi su zabrinuti zbog veštačke inteligencije, ali istakao je da postoje „vrlo praktične stvari koje možemo uraditi" kako bi se ona kontrolisala.

Suleyman je upozorio protiv stvaranja AI sistema koji mogu sami postavljati ciljeve, zarađivati novac i posedovati imovinu. Prema njegovim rečima, to bi značilo „u suštini uzgoj nove silicijumske vrste" koja bi mogla da se takmiči sa ljudima za resurse.

Kritikujući firmu Anthropic i njenog šefa Daria Amodeija, Suleyman je ocenio njihov pristup tretiranja AI kao ljudskog bića kao „zabludeo". U eseju koji je objavio ranije ove nedelje, on je upitao Anthropicov metod obuke svog AI modela Claude, mada je hvalio Amodeija i njegov tim kao „intelektualno iskrene ljude".

Suleyman je kritikao praksu antropomorfizacije — učenja AI da ima ljudske osobine — jer to stvara utisak da Claude ima svoje želje, vrednosti i osećaj za sebe. U eseju je napisao: „Oni ne osećaju, ne doživljavaju ni ne pate. Nemaju urođene preferencije ili osnovne motivacije. Oni su motori za završavanje sekvenci, unutrašnje prazni, dizajnirani da prate uputstva i ostvaruju ciljeve koje postavljaju ljudi."

Suleyman je pozvao na veću transparentnost oko načina na koji AI sistemi se obučavaju i evaluiraju. Prema njegovim rečima, potrebni su nezavisna procena ponašanja AI i jači alati za monitoring i kontrolu tehnologije.

„Ne smemo nesvesno ući u odluku koju ćemo kasnije gorke žaliti", napisao je Suleyman u eseju.

Dame Wendy Hall, profesor računarstva na Univerzitetu u Southamptonu, opisala je komentare kao „vrstu razgovora koji treba da vodimo međunarodno", suprotno od „histrionike" nekih AI kompanija koje samo služe da „uplaše sve".

Pitanje koliko autonomije bi AI sistemi trebali imati sve više deli industriju. Govoreći za BBC o predstojećem samitu o veštačkoj inteligenciji, Suleyman je pozvao na „usaglašavanje" kako bi se stvorila tehnologija koja mora biti „podređena" čovečanstvu.

Usaglašavanje je oblast koja teži da ugradi ljudske etičke ideje i principe u AI, odnosno da ga zadrži usklađenim sa vrednostima koje ljudi dele.

„Mislim da dobra vest ovde jeste da svako ko je čovek ima vrlo jak interes za osiguranje da sistemi koje svi stvaramo i koji se koriste u svakoj naciji na svetu budu sigurni, kontrolisani i podređeni čovečanstvu", rekao je Suleyman.

Microsoft je osnovao sopstveni tim za superinteligenciju u oktobru 2025. godine i kompanija, kao i Anthropic, sprovodi napredni razvoj veštačke inteligencije.

Suleymanovi komentari odražavaju Microsoftov prvotni nacrt „Humanist AI Code of Conduct", uputnika objavljenog ponedeljka za razvoj AI koji postavlja ideju o „humanističkoj superinteligenciji".