Kada nešto ne znamo ili želimo bolje da razumemo, sve češće pitamo AI. Odgovor dobijamo odmah, obrazložen je, samouveren u tonu i često dovoljno uverljiv da više ništa dalje i ne tražimo.
Čini mi se da AI za deo ljudi polako postaje neka vrsta „izvora istine“. U tome možda ima i nečeg vrlo starog i ljudskog. Ljudi su oduvek tražili nekoga ili nešto što će im dati jasan odgovor kada su nesigurni: proroke, staklene kugle, stručnjake, autoritete. Sada smo dobili mašinu koja je stalno dostupna, razgovara sa nama, deluje kao da zna gotovo sve i na skoro svako pitanje daje odgovor za nekoliko sekundi.
Decenijama gledamo kako računari nadmašuju ljude u oblastima koje smo povezivali sa inteligencijom, od šaha do kvizova. Današnji AI tome dodaje nešto mnogo privlačnije: možemo da mu postavimo svoje pitanje i odmah dobijemo odgovor formulisan baš za nas.
Iskušenje je veliko. Umesto dugog traženja, poređenja izvora, razgovora sa ljudima i prihvatanja da odgovor možda nije sasvim jasan, dobijamo objašnjenje odmah. Veoma je lako steći osećaj da smo nešto razumeli samo zato što smo dobili dobro sastavljen odgovor.
Uticaj takvog odgovora ne zavisi samo od toga da li je neka činjenica u njemu tačna ili netačna. AI može da koristi potpuno tačne podatke i da nas ipak usmeri ka određenom razumevanju događaja. Među ogromnim brojem činjenica bira neke, druge ostavlja po strani, nekim argumentima daje više prostora i povezuje ih tako da zajedno stvaraju određenu sliku događaja. Onaj ko dobije odgovor često i ne pomisli na ono što u njega nije ušlo.
Uticaj postaje još osetljiviji kada odgovor nije isti za svakoga. Ako sistem iz prethodne komunikacije zna šta nam je važno, kakva objašnjenja prihvatamo, kojim argumentima verujemo, šta nas zabrinjava ili na šta snažno reagujemo, može tome da prilagodi i način na koji nam predstavlja neku temu. Dvoje ljudi mogu da postave gotovo isto pitanje, a da dobiju različito izabrane činjenice, drugačije naglašene argumente i drugačiji tok objašnjenja.
U tom trenutku odgovor više ne zavisi samo od pitanja. Zavisi i od onoga što sistem već zna o osobi koja ga postavlja. Što više relevantnih informacija ima o sagovorniku, utoliko više može da prilagodi odgovor upravo toj osobi.
Eksperimenti već pokazuju da razgovor sa velikim jezičkim modelima može da pomera stavove ljudi, uključujući i njihove preferencije prema političkim kandidatima. U istraživanju objavljenom u časopisu Nature, razgovori sa AI koji je zastupao određene kandidate tokom izbora u SAD, Kanadi i Poljskoj merljivo su menjali stavove učesnika prema tim kandidatima. Veliki deo tog efekta pritom je dolazio upravo kroz činjenice i argumente koje je model birao tokom razgovora.
Postoje i nalazi da personalizacija može dodatno da poveća ubedljivost. Kada AI ima informacije o osobi sa kojom razgovara, može da menja način na koji obrazlaže isti stav i da bira argumente za koje procenjuje da će kod te osobe imati veći efekat. Rezultati nisu isti u svakom istraživanju, ali personalizaciju zato ne bih posmatrao samo kao pogodnost koja razgovor čini prijatnijim i relevantnijim. Ona menja i način na koji AI može da utiče na čoveka.
Mogućnost da AI sa svakim čovekom vodi poseban razgovor, prilagođava mu argumente i istovremeno takve razgovore vodi sa ogromnim brojem ljudi daje ovoj tehnologiji novu vrstu moći. Ranije smo imali medije sa ogromnim dometom i digitalne platforme koje su personalizovale sadržaj. Veliki jezički modeli toj kombinaciji dodaju razgovor, mogućnost da odgovaraju na naša pitanja i da tokom tog razgovora prilagođavaju način na koji nam nešto objašnjavaju.
Najmoćniji takvi sistemi danas se uglavnom nalaze pod kontrolom malog broja velikih tehnoloških kompanija, dok sopstvene modele razvijaju i pojedine države. Tehnološke kompanije imaju svoje poslovne interese, države svoje političke i strateške interese. To samo po sebi ne znači da će modele koristiti za manipulaciju ljudima. Ali bilo bi naivno zanemariti činjenicu da neko ko kontroliše sistem sposoban da personalizovano razgovara sa milionima ljudi istovremeno dobija i novu mogućnost da utiče na njihove stavove.
Šta se događa kada mogućnost personalizovanog ubeđivanja ogromnog broja ljudi postane koncentrisana u rukama malog broja kompanija ili država?
Kakav informacioni prostor gradimo
Mogućnost uticaja ne zavisi samo od toga koliko AI zna o sagovorniku. Zavisi i od materijala iz kojeg gradi odgovor. Veliki jezički modeli nastaju na ogromnim količinama tekstova, a sistemi koji mogu da pretražuju internet tokom razgovora koriste i sadržaj koji tamo trenutno nalaze. To nas vodi i do informacionog prostora u kojem ti sistemi rade, posebno sada kada se veliki deo sadržaja može proizvoditi automatski i u količinama koje ranije nisu bile moguće.
U Srbiji već imamo jasan primer tih razmera. Željko Mitrović je u martu objavio da sistem koji je razvila Pink Media Group uključuje više od 1.200 „robota“ i da prvih deset portala objavljuje najmanje 1.000 vesti dnevno.
Ne znam koliko su ti tekstovi tačni, kakvog su kvaliteta niti želim da im unapred pripisujem političku nameru. Ovde mi je važna sama mogućnost da se svakoga dana proizvede tolika količina novog sadržaja. Taj sadržaj postaje deo interneta koji ljudi pretražuju i čitaju, a mogu da ga pronađu i AI sistemi kada koriste web da bi odgovorili na pitanje.
Automatizacija se vidi i na društvenim mrežama i u komentarima ispod vesti. Generativni AI omogućava da se za kratko vreme naprave velike količine komentara i da ih zatim objavljuju mreže naloga koji ostavljaju utisak da iza njih stoje obični korisnici. Takve operacije su već dokumentovane na platformama kao što su X, TikTok, Facebook i Reddit. Njihov cilj ne mora biti samo da nekoga direktno ubede, već i da stvore utisak da određeni stav deli mnogo više ljudi nego što je zaista slučaj.
Za manje od mesec dana, 25. oktobra, u Srbiji će biti održani vanredni parlamentarni izbori. Ljudi će u narednim nedeljama pokušavati da procene izjave političara, razumeju događaje, provere ono što su čuli i odluče kome veruju. Deo tih procena i provera radiće uz pomoć AI.
Kako se izborna kampanja bude zahuktavala, treba računati i na direktnije oblike manipulacije uz pomoć AI: lažne vesti, izmišljene fotografije, klonirane glasove i deepfake snimke. Takav sadržaj može imati ozbiljan uticaj, posebno kada se pojavi neposredno pred važan događaj i širi se brže nego što može da bude proveren. Postoji i još jedan problem: kada ljudi znaju da je gotovo svaki snimak moguće falsifikovati, čak i autentičan sadržaj lakše može da bude proglašen lažnim.
Uticaj AI u izbornoj kampanji zato se ne svodi na jednu vrstu manipulacije. Deo će biti direktniji i vidljiviji, kroz falsifikovane snimke, izmišljene vesti i koordinisane mreže naloga. Drugi deo može biti mnogo suptilniji, kroz običan razgovor sa AI koji bira činjenice, naglašava određene argumente i odgovor prilagođava osobi sa kojom razgovara.
Ko bira šta će nacionalni AI znati
Istovremeno, Srbija razvija sopstveni veliki jezički model za srpski jezik. Država je najavila njegovu primenu u obrazovanju, zdravstvu, pravosuđu, kulturi, javnoj upravi i privredi. U aprilu je Kancelarija za IT i eUpravu potpisala Protokol o saradnji sa jedanaest institucija i medija, među kojima su Narodna biblioteka Srbije, Univerzitetska biblioteka „Svetozar Marković“, RTS, RTV, Službeni glasnik, Tanjug, „Politika“ i Institut za srpski jezik SANU.
Sama ideja nacionalnog modela može imati smisla. Srpski jezik je mnogo slabije zastupljen od velikih svetskih jezika, a model koji ga bolje razume može biti koristan u mnogim oblastima. Ali ako će taj sistem jednog dana imati važnu ulogu u javnoj upravi, obrazovanju, zdravstvu ili pravosuđu, onda i materijal od kojeg je napravljen zaslužuje mnogo više pažnje.
Javnost za sada zna malo o kriterijumima po kojima su birane institucije i mediji koji će obezbeđivati podatke za razvoj nacionalnog modela. Nije jasno ni ko odlučuje šta će iz tih izvora zaista ući u skup podataka, kako se procenjuje njihov kvalitet i na koji način će se voditi računa o pristrasnostima koje već postoje u tom materijalu. Ako će taj model kasnije objašnjavati svet ljudima, onda nije svejedno na kakvim je izvorima naučio da ga opisuje.
Još manje znamo o tome kako će nacionalni model funkcionisati kada počne da se koristi. Za sada nije dovoljno jasno koje će podatke moći da koristi u pojedinim oblastima, sa kojim sistemima će biti povezan i gde će biti granice tog povezivanja. Ne tvrdim da će imati pristup zdravstvenim kartonima, školskim evidencijama ili drugim ličnim podacima građana. Upravo želim da o takvim stvarima ne moramo da nagađamo.
Kada danas pitamo neki od komercijalnih AI sistema, uglavnom vidimo samo odgovor. Ne vidimo kako je do tog odgovora došao, šta je izostavio, na kakvom je znanju zasnovao odgovor niti kojim je dodatnim podacima eventualno raspolagao.
Kod sistema koji razvija država i koji treba da se koristi u zdravstvu, obrazovanju, pravosuđu i javnoj upravi, javnost bi morala da zna mnogo više o onome što stoji iza tog odgovora.
Ako će nacionalni model jednog dana pomagati građanima da razumeju informacije, donose odluke ili komuniciraju sa javnim institucijama, onda nije dovoljno da vidimo samo njegove odgovore. Dok se sistem još razvija, javnost bi trebalo da zna kako je napravljen, iz kojih izvora uči, kojim podacima može da pristupa, gde su granice njegove primene i ko za sve to odgovara.
(Autorski tekst S.J.)