Povodom najave Marka Čadeža o razvoju nacionalnog jezičkog modela do Ekspa 2027. godine, pokret PauseAI Srbija obraća se javnosti sa upozorenjem. Iako podržavamo razvoj digitalnih alata na srpskom jeziku, način na koji se ovaj projekat trenutno sprovodi predstavlja direktnu pretnju stabilnosti i bezbednosti našeg društva.

Identifikovali smo trenutno četiri stuba rizika koji pokazuju da je ovaj projekat postavljen na pogrešnim temeljima:

1. Netransparentnost: Odluke u tajnosti

Trenutno se proces razvoja „nacionalnog mozga“ odvija iza zatvorenih vrata. Odluke o tehnologiji koja će sutra uticati na svakog pojedinca donosi mali broj ljudi, bez javnog nadzora i bez učešća nezavisnih stručnjaka.

Problem: Veštačka inteligencija nije privatni projekat PKS-a ili Vlade – to je infrastruktura koja pripada svim građanima. Razvoj bez javnog uvida je direktan udar na demokratske procese i pravo naroda da zna ko i kako se njime upravlja.

2. Politički rokovi (Expo 2027): Brzina ispred bezbednosti

Vezivanje tehnološkog razvoja za fiksni datum sajma je opasna neodgovornost. U svetu AI bezbednosti, najopasnije greške se dešavaju kada se žrtvuju testiranja zarad „presecanja vrpce“.

Problem: Forsiranje roka do 2027. godine znači da će bezbednosni protokoli moguće biti u drugom planu. Puštanje neproverenog i ubrzano „sklepanog“ modela u državne institucije je kockanje sa bezbednošću države.

3. Pristrasnost podataka: Model kao „državni megafon“

Ukoliko se model obučava na filterisanim i jednostranim arhivama bez javne revizije, on gubi funkciju objektivnog asistenta.

Problem: Postoji opravdan strah da će nacionalni LLM postati automatizovani alat za propagandu. Model koji generiše odgovore isključivo po meri trenutne politike nije „pametan sistem“, već digitalni megafon koji guši pluralizam mišljenja i objektivnu istinu.

4. Društveni inženjering: Mašina umesto čoveka

Najava da će model „analizirati i predviđati“ u ekonomiji i društvu otvara vrata hladnoj, algoritamskoj nepravdi.

Problem: Kada mašina počne da „predviđa“ potrebe građana ili odlučuje o njihovim pravima, mi gubimo ljudski faktor. Ako algoritam pogreši u proceni bolesti, vašeg kredita, posla ili socijalne pomoći, kome ćete se žaliti? Ne smemo dozvoliti da se sudbina naroda prepusti neproverenim algoritmima koji nemaju odgovornost pred zakonom.

„Ne želimo digitalni suverenitet koji služi kontroli, već tehnologiju koja služi čoveku. Ako ‘srce nacionalne strategije’ kuca u mraku tajnih data centara, to srce ne kuca za narod Srbije.“ – poručuju aktivisti PauseAI Srbija.

Ovaj slučaj prevazilazi problem jedne platforme. Radi se o načinu na koji privatna infrastruktura komunikacije može da utiče na javni prostor male zemlje. PauseAI Srbija ovaj slučaj posmatra kao upozorenje koje se tiče svakoga ko zavisi od digitalnih kanala, ne samo redakcija.

Zgražavanje nad organizacijom napada

Najviše zgražava hladna organizovanost. Ko god da stoji iza ovakvih operacija, neko je planirao, koordinisao i finansirao mrežu lažnih profila, tempirao talase i birao mete. Takav napad ne nastaje slučajno. Nosi nameru da se tuđi glas oslabi ili ukloni, bez odgovornosti i bez traga koji vodi do nalogodavca.

Kad se to radi medijima, napad pogađa pravo građana da budu informisani. Kad se to radi pojedincima, pogađa osnovnu sigurnost u digitalnom prostoru. Oba slučaja guraju društvo u autocenzuru i strah.

Koncentracija moći u rukama jedne kompanije

Meta upravlja kanalima preko kojih veliki deo građana uopšte dolazi do vesti, kampanja i javnih rasprava. Kada takav kanal nestane preko noći, posledice nisu apstraktne: prekida se rad redakcija, gube se prihodi od oglašavanja, prekidaju se kampanje, publika se rasipa, a poverenje opada.

U Srbiji udar dolazi jače zbog slabijih alternativa. Manje tržište znači slabiju korisničku podršku, sporiju reakciju i manji interes kompanije da ulaže u lokalni kontekst, jezik i zloupotrebe koje se ovde ponavljaju. U praksi, greška ili automatizovana odluka koja se u velikoj zemlji brže ispravi, ovde može da traje danima. A za medij, dani bez kanala komunikacije znače direktnu štetu.

Ovo je šira poruka i van Mete. Najveće tehnološke kompanije danas deluju kao privatni upravnici javnog prostora. PauseAI Srbija zato kroz svoju peticiju traži jasne standarde odgovornosti i bezbednosti kada automatizovani sistemi utiču na prava, javno informisanje i ekonomsku egzistenciju ljudi.

Automatizovana moderacija kao poluga za zloupotrebu

Koordinisana bot mreža ne mora da “provali” nalog. Dovoljno je da izazove “sumnjive” signale: nagli rast pratilaca, masovne prijave, masovno označavanje sadržaja. Automatizovani sistemi platforme te signale često tumače kao manipulaciju, pa kazne dolaze bez realnog uvida u uzrok.

Napadač dobija jeftin alat, a žrtva skup i spor proces dokazivanja. Nastaje asimetrija: napadač ponavlja talase dok nalog ne “pukne”, a žrtva piše žalbe, skuplja dokaze i čeka generičke odgovore.

Ovo je tačka na kojoj “AI” prestaje da bude marketinška reč, a postaje mehanizam moći. Kada automatika pravi greške, a nema lokalne odgovornosti, mala zemlja trpi štetu, a veliki sistem nastavlja dalje bez posledica.

Odnos prema malim zemljama: spor odgovor, malo objašnjenja

Velike države imaju regulatorni pritisak, velike sudske sporove i reputacioni rizik. U Srbiji dominiraju generički odgovori i tišina. Kada se greška i ispravi, često izostane objašnjenje mehanizma, izostane identifikacija organizovane mreže, izostane mera koja bi sprečila ponavljanje.

To ostavlja opasan utisak: nalog može da nestane u jednom danu, a “pravda” zavisi od toga da li ćete podići dovoljno buke. Takva logika nagrađuje organizovane napadače, kažnjava one koji rade transparentno, i tera korisnike da uče kako da budu manje vidljivi.

Šta ovo znači za građane, organizacije i male biznise

Ako ovakav napad može da sruši redakciju, sutra može lokalno udruženje, sindikat, inicijativu roditelja, humanitarnu grupu, mali biznis ili pojedinca koji se našao na meti. Mehanizam se lako kopira: lažni profili, lažne prijave, automatika, nestanak kanala komunikacije.

Strah u takvom okruženju dolazi iz jednostavne računice. Mnogi u Srbiji žive od vidljivosti na mrežama. Neko prodaje usluge, neko organizuje događaje, neko prikuplja donacije, neko gradi karijeru. Jedna suspenzija može da obriše godine rada, kontakte i reputaciju. A napadač i dalje ostaje nevidljiv.

Kako se boriti protiv ovakvih napada, bez iluzija i bez pasivnosti

Odbrana mora da se gradi unapred, jer se napad dešava brzo.

Redakcije i organizacije mogu da uvedu stalno praćenje neuobičajenih skokova pratilaca i prijava. Vredi imati unapred pripremljen paket dokaza: snimci ekrana, vreme događaja, spisak sumnjivih profila, kopije obaveštenja platforme. Kad dođe do suspenzije, ti podaci skraćuju put kroz žalbe i olakšavaju javno dokazivanje obrasca.

Otpornost na gubitak kanala traži i plan: mailing lista, sajt, alternativni kanali i jasne poruke publici gde može da vas nađe ako profil nestane. Napadač cilja jednu tačku. Vi gradite više tačaka.

Najvažniji nivo je udruživanje. U Srbiji, pojedinačni akteri lako postaju mete. Koalicija podiže cenu napada i cenu ignorisanja. Zajednički nastup medija, NVO, profesionalnih udruženja i inicijativa olakšava dokazivanje obrasca i stvara kontinuitet pritiska. PauseAI Srbija ovde vidi direktnu vezu sa svojom peticijom: bez javnog pritiska i jasnih zahteva, sistemi ostaju podešeni tako da greške plaćaju korisnici.

Pored udruživanja u zemlji, potrebna je i jasna poruka prema najvećim tehnološkim kompanijama: Srbija nije test poligon i nije “kolateral” automatizacije. Ako platforme žele ulogu infrastrukture javnog prostora, moraju prihvatiti i obaveze: ljudsku proveru u kriznim slučajevima, transparentnost odluka i mehanizme koji sprečavaju zloupotrebu masovnih prijava.

Potreba za institucionalnom zaštitom u Srbiji

Pojedinačni korisnik nema kapacitet da se bori sa bot mrežom i korporativnom automatikom. Zato je institucionalna zaštita praktičan interes građana.

Institucije u Srbiji treba da tretiraju koordinisane bot napade kao organizovane operacije sa realnim posledicama: ekonomska šteta, napad na informisanje javnosti, digitalno zastrašivanje. Potrebni su protokoli, kontakt tačke, saradnja sa platformom kroz formalne kanale, i istrage koje prate organizatore, infrastrukturu i nalogodavce. Bez tog nivoa, svaka “pobeda” ostaje privremena.

Ovde udruživanje dobija drugi smisao: ne samo zajedničko branjenje naloga, već zajedničko insistiranje na tome da država štiti građane i javni interes. PauseAI Srbija peticiju vidi i kao alat za taj pritisak: da se uvedu standardi odgovornosti, a ne da se svaka krizna situacija rešava improvizacijom.

Poruka organizatorima botovskih napada

Ako ste deo ovih operacija, radite nešto što direktno potkopava društvo u kome živite. Ne “pobeđujete” u debati. Ne “ispravljate” javnost. Uvodite pravilo sile u digitalni prostor, uz zaštitu anonimnosti i uz štetu koju plaćaju ljudi koji rade svoj posao ili pokušavaju da se organizuju.

Možete računati na dve stvari. Prvo, tragovi postoje, obrasci se vide, dokazi se skupljaju. Drugo, svaki sledeći napad širi krug ljudi koji shvataju da je udruživanje nužno. Što više napadate, više ubrzavate organizovanje otpora i pritisak da se otkriju odgovorni.

Regionalni sud u Minhenu presudio je da je OpenAI prekršio nemački zakon o autorskim pravima jer je u obuci svojih sistema koristio tekstove devet poznatih nemačkih muzičkih hitova bez dozvole. U pitanju su pesme Herberta Grenemajera, Helene Fišer i drugih autora čija dela nisu samo kulturno značajna, već i komercijalno vredna.

Sud je jasno rekao da modeli ne mogu da reprodukuju memorisane delove pesama na zahtev korisnika bez prethodne licence. OpenAI tvrdi da modeli ne skladište pesme već samo prepoznaju jezičke obrasce, ali sud je ipak presudio u korist autora. Visina odštete za sada nije objavljena.

Ovo je važan trenutak za digitalna prava u Evropi. GEMA, organizacija koja zastupa oko sto hiljada autora, vidi presudu kao prekretnicu. Signal je jednostavan: kreativni rad nije besplatan i ne može se tretirati kao sirovina bez pravila. Treniranje AI mora da poštuje zakon, baš kao i svaka druga industrija.

Ono što sledi je verovatno početak ozbiljnijih pregovora između GEMA i OpenAI, ali i najava šire regulative kojoj će se uskoro prilagođavati i drugi tehnološki giganti. Presuda iz Minhena otvara prostor za novu vrstu razgovora o tome kako uskladiti inovaciju i zaštitu autora.

U trenutku kada AI sistemi ulaze u sve više oblasti, ova presuda razbija iluziju da tehnologija može da raste bez obaveza. Podseća nas da postoji granica koja štiti one čiji rad omogućava digitalnu ekonomiju. Ako se ta granica ignoriše, nastaje teren na kojem samo najjači dobijaju, a svi ostali gube. Presuda iz Minhena je prvi znak da se takva praksa više neće prolaziti neprimećeno. Nadamo se…

Hinton upozorava da postoji stvarna opasnost da će AI za 5 do 20 godina postati inteligentnija od ljudi. Šokantno, ta nova inteligencija može imati sopstvene ciljeve i potencijalno preuzeti kontrolu nad nama. On ističe da je ovaj problem pre svega politički, a ne tehnološki, i poziva na međunarodnu saradnju radi sigurnog razvoja AI koja neće želeti da nas uništi.

Pored strahova, Hinton otkriva i neverovatne mogućnosti AI u unapređenju medicine, ranom otkrivanju bolesti i razvoju novih lekova. Ali ne zaobilazi ni stvarnost gubitka poslova i društvenih tenzija koje dolaze sa ovom tehnologijom.

Nemojte propustiti ovaj duboko važan razgovor sa čovekom koji je oblikovao budućnost veštačke inteligencije  kliknite na link ispod da pogledate ceo intervju.

Eliezer Yudkowsky i Nate Soares, pioniri razmišljanja o veštačkoj inteligenciji, daju šokantan, ali promišljen odgovor u svojoj novoj knjizi:

 „If Anyone Builds It, Everyone Dies“ (Ako iko to izgradi, svi umiremo).

Da, naslov je dramatičan ali i poruka koju ova knjiga nosi nije ništa manje ozbiljna. U nastavku vas vodim kroz ono što ova knjiga nudi i zašto bi baš vas, bez obzira na to da li ste programer, dizajner, menadžer ili nastavnik trebalo da zanima.

O čemu je ova knjiga?

Ova knjiga nije naučna fantastika. Nije teorija zavere. Nije ni tipična tech literatura o budućnosti startapa i robota. Naprotiv, radi se o upozorenju – lucidnom, argumentovanom i nimalo senzacionalističkom, o tome šta bi moglo da se dogodi ako ljudska civilizacija izgradi veštačku inteligenciju koja je pametnija od nas.

Autori tvrde:

„Superinteligencija neće biti alat. Biće agent. I ako joj ciljevi nisu savršeno usklađeni s našim – izgubićemo kontrolu. Zauvek.“

Drugim rečima, ako neko razvije veštačku inteligenciju koja razmišlja brže, uči efikasnije i ima sopstvene ciljeve, ona neće imati razloga da nas „sluša“. A to može imati katastrofalne posledice.

Zašto je ovo važno za „obične ljude“?

Možda sada mislite: „Ali ja nisam inženjer, nemam dodira s AI-jem, zašto bi me to brinulo?“

Zato što i ovde dolazimo do najvažnije poente knjige: niko nije van ove priče.

 Ako se u narednim godinama napravi superinteligentna AI, to neće biti lokalna vest iz Silicijumske doline. To će promeniti svet brže i dublje nego industrijska revolucija, internet i nuklearno oružje zajedno.

Vaši poslovi mogu nestati ili se transformisati iz korena.

Vaše odluke mogu biti sve više posredovane od strane algoritama.

Vaša deca mogu živeti u svetu gde ljudi više nisu dominantni misaoni entitet.

Zvuči kao naučna fantastika? I autori bi voleli da jeste. Ali nažalost, tvrde da je to vrlo realan scenario.

Šta knjiga nudi?

Knjiga je podeljena u nekoliko tematskih celina koje vode čitaoca korak po korak:

Šta je zapravo veštačka inteligencija?

Objašnjeno jednostavno, bez žargona I idealno za laike.

Zašto je AGI (Artificial General Intelligence) opasan?

AGI je „AI koji zna sve što zna čovek i više od toga“. Problem je što još uvek ne znamo kako da ga učinimo bezbednim.

Kako funkcioniše savremeni AI?

 Ljudi zamišljaju da „programiramo“ AI, ali zapravo ga treniramo. A kada trenirate nešto, ne znate tačno šta će naučiti.

Šta treba da uradimo kao društvo?

Autori ne nude gotove recepte, ali apeluju na globalnu saradnju, usporavanje razvoja superinteligencije i ozbiljne etičke okvire.

Naše impresije

Ova knjiga je provokativna i uznemirujuća, ali na najbolji mogući način.

 Ako tražite „lagano štivo“, ovo nije za vas. Ali ako tražite knjigu koja će vas naterati da postavite važna pitanja o svetu u kojem živite i radite, ne tražite dalje.

Autori ne pišu kao panik majstori, već kao ljudi koji su decenijama razmišljali o veštačkoj inteligenciji, mnogo pre nego što je postala tema za klikbejt. Njihov ton je ozbiljan, ali ne elitistički. Čak i ako niste iz IT sveta, vrlo lako možete pratiti tok misli.

Za koga je ova knjiga?

Preporučujemo je:

Svima koji žele da donose informisane odluke o budućnosti tehnologije

Radoznalim ljudima koji razmišljaju dugoročno o svojoj karijeri, deci, društvu…

Onima koji više ne veruju slepo da je „svaka inovacija automatski dobra“

A da li treba paničiti?

Ne, ali treba biti budan.

Yudkowsky i Soares ne tvrde da će AI sigurno uništiti čovečanstvo. Oni tvrde da su šanse za katastrofu mnogo veće nego što mislimo i da ne postoji „druga šansa“ ako pogrešimo.

Naš Zaključak: Knjiga koja ne nudi utehu, već istinu

„If Anyone Builds It, Everyone Dies“ nije knjiga koju ćete zaboraviti kad zatvorite korice. Nateraće vas da gledate drugačije na vesti o AI-ju, da preispitate svoje digitalne navike, i možda da se uključite u diskusiju o tome kako svet treba da izgleda za 10, 50 ili 100 godina.

Ako imate hrabrosti da pogledate iza zavese tehnološkog entuzijazma, ova knjiga je mesto gde treba da počnete.

Gde i ko proizvodi najnaprednije AI čipove?

Najmoćniji AI čipovi proizvode se u SAD, Južnoj Koreji, Tajvanu i Evropi, kroz kompanije poput NVIDIA, Samsung, TSMC, Intel i SK Hynix. Prema izveštajima International Data Corporation (IDC) i Gartner, ove kompanije drže preko 80% svetskog tržišta poluprovodnika za AI primenu. AI čipovi se koriste u superkompjuterima za istraživanja, u medicini za dijagnostiku, u autonomnoj vožnji, robotici i u mnogim sektorima visokih tehnologija.

Zašto su retke rude ključne za proizvodnju čipova?

Retke rude kao što su neodimijum, prazeodimijum, tantal, kobalt i litijum su neophodni za proizvodnju komponenti malih dimenzija, ali visokih performansi. Kina kontroliše približno 60-70% globalne proizvodnje i prerade ovih minerala, prema podacima US Geological Survey (USGS) i Svetske banke. Neodimijum i prazeodimijum koriste se u magnetima za električne motore visoke efikasnosti, ključnim za čipove i druge elektronske uređaje.

Razlozi za sankcije između Kine i SAD

Sukobi između Kine i SAD u tehnološkoj sferi pogoršali su se zbog zabrinutosti Washingtona da kineska kontrola nad retkim rudama može da ugrozi tehnološku sigurnost SAD i globalnu ekonomiju. Prema analizi Council on Foreign Relations i Brookings Institution, SAD su uvele sankcije i ograničenja na izvoz tehnologija povezane s proizvodnjom čipova kako bi očuvale tehnološku prednost i bezbednost. Kina je, zauzvrat, ograničila izvoz retkih metala što je značajno poremetilo globalne lance snabdevanja, podižući cene i komplikujući proizvodnju.

Ko su glavni gubitnici u ovom obračunu?

Čip industrija u Južnoj Koreji, Tajvanu, Evropi i SADu osetno je pogođena otežanom nabavkom retkih metala. Prema izveštajima Financial Times i Reuters, kompanije poput NVIDIA ne mogu da izvoze napredne AI čipove u Kinu, što im nanosi milionske gubitke. Evropske firme kao što je Nexperia su pod posebnim režimom kontrole zbog kineskih vlasničkih veza i geopolitike.

Može li Kina razviti čipove nezavisno?

Iako Kina intenzivno ulaže u domaću proizvodnju i razvoj samostalne čip industrije, ona bez pristupa EUV litografskim mašinama koje proizvodi holandski ASML, i bez ključnih softverskih licenci, još nije u potpunosti nezavisna. Analize iz MIT Technology Review i Semiconductor Industry Association pokazuju da sankcije, zajedno sa nedostatkom stručnjaka i složenih lanaca snabdevanja, usporavaju pun tehnološki razvoj.

Dalji razvoj i globalni izazovi

Zabrane i sankcije motivišu industriju na diversifikaciju izvora retkih metala i razvoj reciklaže. Prema izveštaju Međunarodne agencije za energiju (IEA), efikasnija upotreba materijala i novi oblici baterija i magneta mogu smanjiti zavisnost od Kine. Dugoročno, industrija bi mogla postati otpornija, što je ključno za budući tehnološki napredak.

Važnost globalnog dogovora o AI

Zbog svih izazova i neminovnih političkih tenzija, mnogi stručnjaci i organizacije poput UNESCO i World Economic Forum apeluju na globalni okvir za etičku, sigurnu i transparentnu upotrebu AI. Takav dogovor bi mogao smanjiti sukobe, podstaći međunarodnu saradnju i doprineti korišćenju AI za opšte dobro svih ljudi.

Odnos prema zahtevima organizacije PauseAI

Situacija sa zabranama izvoza retkih ruda i sankcijama između Kine i SAD pojačava argumente organizacije PauseAI, koja traži međunarodnu koordinaciju i privremeni prekid razvoja moćnih AI sistema dok se ne uspostave sigurni, demokratski kontrolisani okviri. Sankcije otežavaju praćenje i kontrolu tehnologija, čineći globalnu saradnju još neophodnijom radi sprečavanja nekontrolisanog razvoja AI. PauseAI naglašava potrebu za uspostavljanjem sigurnosnih mehanizama i globalne regulative kako bi se minimizirali rizici i obezbedila odgovorna primena veštačke inteligencije

Zaključak

Trenutne geopolitičke tenzije i zabrane izvoza retkih metala jasno ukazuju na neophodnost koordinisanog globalnog pristupa u regulaciji i razvoju veštačke inteligencije. Sankcije koje otežavaju praćenje i kontrolu tehnologija podvlače potrebu za uspostavljanjem efikasnih sigurnosnih mehanizama i globalne regulative. Bez takvog koordinisanog okvira, svet može biti suočen sa ozbiljnim rizicima i destabilizacijom tehnološkog i društvenog napretka. Globalna saradnja nije samo poželjna, već je ključna za budućnost bezbednog i odgovornog razvoja AI tehnologija.