U svetu u kojem aplikacije „čitaju“ naše emocije, telefoni završavaju rečenice umesto nas, a mašine pišu pesme i kodiraju softver, pitanje koje se sve češće nameće je: kuda nas sve to vodi?
Eliezer Yudkowsky i Nate Soares, pioniri razmišljanja o veštačkoj inteligenciji, daju šokantan, ali promišljen odgovor u svojoj novoj knjizi:
„If Anyone Builds It, Everyone Dies“ (Ako iko to izgradi, svi umiremo).
Da, naslov je dramatičan ali i poruka koju ova knjiga nosi nije ništa manje ozbiljna. U nastavku vas vodim kroz ono što ova knjiga nudi i zašto bi baš vas, bez obzira na to da li ste programer, dizajner, menadžer ili nastavnik trebalo da zanima.
O čemu je ova knjiga?
Ova knjiga nije naučna fantastika. Nije teorija zavere. Nije ni tipična tech literatura o budućnosti startapa i robota. Naprotiv, radi se o upozorenju – lucidnom, argumentovanom i nimalo senzacionalističkom, o tome šta bi moglo da se dogodi ako ljudska civilizacija izgradi veštačku inteligenciju koja je pametnija od nas.
Autori tvrde:
„Superinteligencija neće biti alat. Biće agent. I ako joj ciljevi nisu savršeno usklađeni s našim – izgubićemo kontrolu. Zauvek.“
Drugim rečima, ako neko razvije veštačku inteligenciju koja razmišlja brže, uči efikasnije i ima sopstvene ciljeve, ona neće imati razloga da nas „sluša“. A to može imati katastrofalne posledice.
Zašto je ovo važno za „obične ljude“?
Možda sada mislite: „Ali ja nisam inženjer, nemam dodira s AI-jem, zašto bi me to brinulo?“
Zato što i ovde dolazimo do najvažnije poente knjige: niko nije van ove priče.
Ako se u narednim godinama napravi superinteligentna AI, to neće biti lokalna vest iz Silicijumske doline. To će promeniti svet brže i dublje nego industrijska revolucija, internet i nuklearno oružje zajedno.
Vaši poslovi mogu nestati ili se transformisati iz korena.
Vaše odluke mogu biti sve više posredovane od strane algoritama.
Vaša deca mogu živeti u svetu gde ljudi više nisu dominantni misaoni entitet.
Zvuči kao naučna fantastika? I autori bi voleli da jeste. Ali nažalost, tvrde da je to vrlo realan scenario.
Šta knjiga nudi?
Knjiga je podeljena u nekoliko tematskih celina koje vode čitaoca korak po korak:
Šta je zapravo veštačka inteligencija?
Objašnjeno jednostavno, bez žargona I idealno za laike.
Zašto je AGI (Artificial General Intelligence) opasan?
AGI je „AI koji zna sve što zna čovek i više od toga“. Problem je što još uvek ne znamo kako da ga učinimo bezbednim.
Kako funkcioniše savremeni AI?
Ljudi zamišljaju da „programiramo“ AI, ali zapravo ga treniramo. A kada trenirate nešto, ne znate tačno šta će naučiti.
Šta treba da uradimo kao društvo?
Autori ne nude gotove recepte, ali apeluju na globalnu saradnju, usporavanje razvoja superinteligencije i ozbiljne etičke okvire.
Naše impresije
Ova knjiga je provokativna i uznemirujuća, ali na najbolji mogući način.
Ako tražite „lagano štivo“, ovo nije za vas. Ali ako tražite knjigu koja će vas naterati da postavite važna pitanja o svetu u kojem živite i radite, ne tražite dalje.
Autori ne pišu kao panik majstori, već kao ljudi koji su decenijama razmišljali o veštačkoj inteligenciji, mnogo pre nego što je postala tema za klikbejt. Njihov ton je ozbiljan, ali ne elitistički. Čak i ako niste iz IT sveta, vrlo lako možete pratiti tok misli.
Za koga je ova knjiga?
Preporučujemo je:
Svima koji žele da donose informisane odluke o budućnosti tehnologije
Radoznalim ljudima koji razmišljaju dugoročno o svojoj karijeri, deci, društvu…
Onima koji više ne veruju slepo da je „svaka inovacija automatski dobra“
A da li treba paničiti?
Ne, ali treba biti budan.
Yudkowsky i Soares ne tvrde da će AI sigurno uništiti čovečanstvo. Oni tvrde da su šanse za katastrofu mnogo veće nego što mislimo i da ne postoji „druga šansa“ ako pogrešimo.
Naš Zaključak: Knjiga koja ne nudi utehu, već istinu
„If Anyone Builds It, Everyone Dies“ nije knjiga koju ćete zaboraviti kad zatvorite korice. Nateraće vas da gledate drugačije na vesti o AI-ju, da preispitate svoje digitalne navike, i možda da se uključite u diskusiju o tome kako svet treba da izgleda za 10, 50 ili 100 godina.
Ako imate hrabrosti da pogledate iza zavese tehnološkog entuzijazma, ova knjiga je mesto gde treba da počnete.