Kineski naučnici predložili pet nivoa samounapređenja vještačke inteligencije

Naučnici iz Kine pozabavili su se pitanjem šta bi bilo potrebno da nastane „posljednja vještačka inteligencija koju su napravili ljudi“ – sistem koji bi sam sebe usavršavao i stvarao vlastite nasljednike. Njihov rad postavljen je 10. septembra na bazu preprint radova arXiv, ali još nije prošao recenziju.

U središtu rada je koncept rekurzivnog samounapređenja (RSI). Riječ je o ideji da bi budući AI modeli mogli sami upravljati vlastitom obukom i razvojem, koristeći ono što nauče u jednom krugu poboljšanja za usmjeravanje narednog. Takva povratna petlja, prema zamisli autora, vremenom bi mogla omogućiti AI sistemima da uz minimalno ljudsko učešće prave nove i moćnije generacije modela. Motiv su, između ostalog, rastući finansijski i računarski troškovi razvoja sve naprednijih sistema.

Pet nivoa samostalnosti

Autori predlažu okvir po kojem bi se AI sistemi razvrstavali prema sposobnosti samounapređenja, od najnižeg nivoa 1 do najvišeg nivoa 5. Na nižim nivoima razvoj i dalje vode ljudi. Kako se sistem penje po ljestvici, sve bolje prepoznaje vlastite slabosti i odlučuje kako ih otkloniti, da bi na kraju stekao sposobnost „meta-poboljšanja“ – usavršavanja samog načina na koji se usavršava.

Da ograničeni oblici takvog pristupa već postoje, pokazao je jedan eksperiment ranije ove godine. Sistem nazvan A-Evolve-Training dobio je zadatak da poboljša učinak velikog jezičkog modela sa 30 milijardi parametara. Kroz četiri kruga isprobavao je različite tehnike obuke i na osnovu rezultata mijenjao pristup narednim eksperimentima, čime je skromno popravio rezultate modela na standardnim testovima.

Bentley: Ideja o „magičnom“ samousavršavanju je besmislica

Peter Bentley, profesor digitalne biologije na University College London, sumnja da takvi eksperimenti vode ka pravom rekurzivnom samounapređenju.

„Ideja da će neka vještačka inteligencija magično početi sama od sebe proizvoditi sve bolje i bolje sisteme je besmislica“, rekao je Bentley za Live Science.

Bentley podsjeća da samounapređujući računarski sistemi postoje decenijama – evolucijsko računarstvo i učenje s potkrepljenjem zasnivaju se upravo na principu da sistem s vremenom poboljšava učinak na osnovu povratnih informacija. Daleko teži problem, prema njegovim riječima, jeste razviti AI koji bi samostalno vodio istraživanja potrebna za stvaranje moćnijih nasljednika, a pritom se oslobodio zavisnosti od ljudskog znanja i fizičke računarske infrastrukture.

„Ne možete se 'rekurzivno samounaprijediti' ako ne možete poboljšati i vlastitu obuku, poboljšati svoj hardver i iscrpno ga testirati u stvarnim uslovima“, naveo je Bentley.

Šta priznaju i sami autori

Kineski istraživači u radu priznaju dio ovih prepreka. Sistemi sposobni za RSI mogli bi zahtijevati ogromna ulaganja u računarsku snagu, kao i ljudski nadzor koji bi potvrđivao da svako novo poboljšanje zaista donosi smislen napredak. Ako resursi potrebni za razvoj i testiranje narednih modela premaše koristi koje oni donose, cijeli pristup gubi smisao, navode autori.

Dodatni problem je mjerenje napretka. Naučnici bi morali imati pouzdan način da utvrde da li sistem zaista postaje sposobniji iz iteracije u iteraciju, a ne da samo iskorištava slabosti testova kojima se mjere njegove sposobnosti. Riječ je o poznatom problemu u razvoju vještačke inteligencije, gdje modeli mogu postizati bolje rezultate na testovima zloupotrebom metoda testiranja ili selektivnim biranjem rezultata.

Postepena primopredaja, a ne jedan trenutak

Kayla Blomquist, istraživačica vještačke inteligencije na Univerzitetu u Oksfordu i suosnivačica organizacije Oxford China Policy Lab, ocijenila je da rad ne nudi praktičnu mapu puta do rekurzivnog samounapređenja, ali da može pomoći razvojnim timovima i kreatorima politika da bolje razumiju tehničke izazove i sigurnosne rizike sve autonomnijih AI sistema.

Blomquist također dovodi u pitanje da li bi ikada postojao jasan trenutak u kojem bi vještačka inteligencija postala potpuno neovisna o ljudskom razvoju.

„Rad opisuje postepenu primopredaju odgovornosti, a ne jedan trenutak, pa možda nikada neće postojati očigledan 'posljednji' model koji su napravili ljudi“, navela je Blomquist.