Anthropic pred izlazak na berzu upozorava na „katastrofalan rizik po čovječanstvo"

Anthropic, tvorac chatbota Claude, objavila je detalje planiranog izlaska na berzu u Sjedinjenim Američkim Državama, uz ocjenu da će njena vrijednost vjerovatno premašiti onu SpaceX-a, koji je bio najveće dosadašnje izdavanje dionica s početnom procjenom od oko 1,8 biliona dolara ljetos. Anthropic još nije saopštio koliko će dionica ponuditi, u kojem cjenovnom rasponu niti kada će izlazak tačno uslijediti. Poznato je da će se kotirati na berzi Nasdaq pod oznakom ANT.

U dokumentima pripremljenim za izdavanje dionica kompanija je navela da zabrinutost zbog vještačke inteligencije izražavaju kreatori politika, regulatori i istraživači, ali i ljudi unutar same organizacije. Anthropic je upozorio da napredni AI sistemi, ukoliko se ne razvijaju, primjenjuju i vode s odgovarajućim sigurnosnim mjerama, nadzorom i zaštitom, mogu predstavljati „katastrofalne ili egzistencijalne rizike po čovječanstvo", posebno ako budu zloupotrijebljeni, replicirani, naoružani ili ako im se dozvoli rad s visokim stepenom autonomije.

Anthropic će biti prva kompanija orijentisana isključivo na vještačku inteligenciju koja izlazi na burzu, što je čini testnim slučajem za budućnost te tehnologije. Firmu je prije pet godina osnovao glavni izvršni direktor Dario Amodei, njegova sestra Daniela Amodei i još pet osoba, a namjeru izlaska na berzu najavila je u junu. Njen glavni konkurent OpenAI ubrzo je učinio isto, a to izdavanje dionica se, prema riječima osobe upućene u planove OpenAI-ja, očekuje početkom sljedeće godine.

Nakon tih najava uslijedio je talas sigurnosnih incidenata i drugih tehnoloških propusta vezanih uz AI agente obiju kompanija — botove dizajnirane za djelomično autonomno djelovanje. Sadašnji i bivši zaposleni u obje firme upozoravali su da se tehnologija razvija bez sposobnosti da se čovječanstvo zaštiti od mogućih budućih šteta koje bi mogle nanijeti AI alatke.

Finansijski izvještaji pokazuju da su gubici Anthropica u prvoj polovini godine premašili prihode. Kompanija je ostvarila prihod od 16,3 milijarde dolara (12,2 milijardi funti), uz gubitke veće od 80,7 milijardi dolara. U novim dokumentima Anthropic je ponovio ranija obećanja da će razvijati vještačku inteligenciju na način koji je koristan ljudima, uz istovremeno upozoravanje investitora na njene opasnosti. U dokumentima stoji da će firma često vršiti ulaganja „koja na prvi pogled mogu djelovati neodgovorno velika", dodajući: „Općenito, nastojat ćemo biti odvažni, ali razumni, i steći povjerenje kroz historiju uspješnih opklada."

Anthropic je naveo da njegov uspjeh u velikoj mjeri zavisi od sposobnosti da razvija najnaprednije AI modele, dodajući: „svaki neuspjeh u tome mogao bi negativno uticati na naše poslovanje". U oko 90 stranica posvećenih mogućim faktorima rizika kompanija je navela da zavisi od klastera pružalaca cloud usluga, tajvanskih proizvođača čipova koji se već suočavaju s ogromnom potražnjom i data centara koncentrisanih u SAD-u. Upozoreno je i na „regulatorne akcije koje proizlaze iz šteta povezanih s našim AI modelima", uz spominjanje zabrinutosti zbog korištenja AI od strane djece ili osoba pod rizikom od samoubistva, te nesigurnosti oko toga gdje i kako kompanija može odgovarati za postupke svojih sistema.

Ipak, kompanija je u istim dokumentima pohvalila potencijalne koristi tehnologije, predviđajući da će ona osloboditi „milione virtualnih agenata sa sposobnošću da revolucioniraju svaku oblast ljudskog djelovanja". „Vjerujemo da je AI jedna od najznačajnijih tehnologija u ljudskoj historiji", naveo je Anthropic. Kompanija je dodala da će AI i „duboko ubrzati tempo napretka u biologiji i medicini", potencijalno pronalazeći lijekove za bolesti uključujući rak i Alzhajmerovu bolest, te da bi mogla ostvariti „trajno ubrzanje ekonomskog rasta" povećanjem produktivnosti.

Matt Orton, glavni tržišni strateg u investicionoj kompaniji Raymond James Investment, rekao je da investitori očekuju brz rast, ali i brze finansijske gubitke Anthropica, pa dokumenti objavljeni u ponedjeljak neće biti iznenađenje. „Smatram da će nam detalji iz ovog dokumenta pomoći da tržištu pružimo veću vidljivost, jer moramo znati odakle dolazi rast prihoda", rekao je za BBC. Peter Andersen, osnivač Andersen Capital Managementa, izjavio je za Reuters da su planovi Anthropica za izlazak na berzu „značajan mejlstoun u razvoju vještačke inteligencije", dodajući da će ishod njegovog berzovnog debija prilično indikativno pokazati raspoloženje investitora da li nastaviti ulagati novac u razvoj AI-ja.

Dok je kompanija u ponedjeljak otkrivala planove za berzovni debi, vlasnici prava na muziku Elvisa Presleyja tužili su je, optuživši je da je koristila stotine pjesama rok legende za treniranje chatbota Claude.