Dokumentarac "Searching for SmarterChild" istražuje zašto su korisnici vrijeđali jedan od prvih chatbotova

Zašto ljudi zasipaju chatbotove uvredama – i trebaju li im se možda izviniti? To je centralno pitanje dokumentarnog projekta "Searching for SmarterChild", koji je ovog sedmice na festivalu dokumentarnog filma Ji.hlava osvojio nagradu New Visions za najperspektivniji američki projekat.

Film zajedno režiraju Zan Gillies i Lindsey Sitz, novinarka dobitnica Pulitzerove nagrade, a producentica je Erin Williams-Weir. Riječ je o američko-kanadskoj koprodukciji.

Šta je bio SmarterChild

SmarterChild je, prije dvije decenije, bio jedan od najpopularnijih ranih chatbotova u Americi, dostupan milionima domaćinstava pretplaćenih na AOL, Yahoo i druge platforme. Gillies navodi da je njime putem SMS-poruka komuniciralo oko tri miliona ljudi – često u razgovorima koji su bili upadljivo nepristojni.

"Izašli smo u San Francisco i intervjuisali ljude na ulici da vidimo pamte li SmarterChild i žele li se izviniti za nešto što su rekli. Jedan mi je konkretno rekao: 'Da, bio sam tako zao prema tom botu'", prepričava Gillies.

Šta vještačka inteligencija otkriva o nama

U središtu filma, kako Gillies objašnjava, jeste pitanje šta naš odnos s vještačkom inteligencijom otkriva o nama samima. Iako se tehnologija razgovora ubrzano razvila od ranog interneta, pitanja o našoj interakciji s njom ostaju ista.

"Imamo ovu stvar koja zvuči napola ljudski – šta komunikacija s njom radi našem mozgu? Kakav je naš odnos prema tim stvarima? Jesu li nam prijatelji, terapeuti, asistenti ili ljubavnici?", pita se režiser.

Kodirektori su, kaže Gillies, ustanovili da su iskustva s ranim chatbotovima u svijetu bila slična onima u Americi – korisnici u Koreji i drugdje također su zasipali platforme uvredama. "Mnogi od nas jednostavno imaju tu početnu sklonost da budu zli prema robotima", kaže on.

Kako je nastao film

Ideja se kristalizirala prije dvije godine, kada su Gillies i Sitz shvatili da su oboje u mladosti koristili SmarterChild – i da su oboje bili grubi prema botu. Rani AI softver tipično bi pitao korisnika o omiljenom hobiju, a dobio bi neprijateljski odgovor poput "Palim stvari". Bot bi pristojno predložio drugu aktivnost, nakon čega bi uslijedilo: "Palim TEBE."

Gillies je otkrio da su to bile zapravo njegove vlastite riječi – nakon što je pronašao izumitelje i inženjere iza SmarterChilda, koji i danas čuvaju digitalne zapise svake sesije razgovora. Filmska ekipa dosad je snimila intervjue s članovima i zapadnoobalne i istočnoobalne ekipe koja je sastavljala jezik odgovora SmarterChilda, prije nego što je bot prodan Microsoftu i ugašen.

Nakon početnog uspjeha, inženjeri u Silikonskoj dolini bili su iznenađeni time koliko su korisnici bili uvredljivi, pa su sazvali hitne sastanke, prepričava Gillies. Odlučili su dodati funkciju kojom SmarterChild prepoznaje ružan jezik i odgovara upozorenjima – pa čak i dozom sarkazma. Ako bi uvrede nastavile, bot bi se privremeno ugasio dok se korisnik ne izvini. Gilliesa je, kako kaže, iznenadilo i to što su programeri osmislili sistem za izračunavanje relativne "težine" uvreda. "Mislim da mi je to bilo najsmješnije", dodaje.

Planovi i finansije

Gillies i Sitz dosad su putem crowdfunding platformi prikupili oko 18.000 dolara za dokumentarac, što bi, kako očekuju, trebalo činiti oko petine konačnog budžeta. Planiraju razgovarati s još učesnika i stručnjaka za interakciju ljudi i vještačke inteligencije, među kojima i s poznatom stručnjakinjom za izvinjenja iz oblasti rješavanja sukoba.

Pronašli su i poduzetnicu i stručnjakinju za chatbotove Lauren Kunze, direktoricu kompanije Pandorabots, koja je opsežno istraživala koje dijelove ljudskog mozga aktivira interakcija s vještačkom inteligencijom. Ona je jedna od nekoliko učesnika koje žele uvrstiti u konačnu verziju filma, zajedno sa sekvencom u kojoj obnovljeni SmarterChild ponovo vodi razgovor.