Sadašnji tehnološki razvoj i napredak nije rezultat jednog revolucionarnog otkrića, nego međusobnog pojačavanja više procesa. Računalna snaga raste, količina podataka eksplodira, danas već govorimo o zetabajtima podataka, znanstvena suradnja postala je globalna, a kapital vrlo brzo prepoznaje i financira tehnologije koje se mogu masovno primijeniti. Takav su razvoj predvidjeli i mnogi futuristi, a jedna od knjiga koju bih preporučio je i »Singularity« Raya Kurzweila, kaže Aco Momčilović, psiholog, istraživač umjetne inteligencije i UI edukator.

– Digitalni proizvod, za razliku od fizičkog, može se gotovo trenutno proširiti na milijarde korisnika, kao što smo vidjeli na raznim primjerima od TikToka do ChatGPT-ja u posljednjim godinama. Zbog toga se inovacije više ne razvijaju linearno: svaka nova tehnologija postaje alat za stvaranje sljedeće.

Umjetna inteligencija dodatno ubrzava taj ciklus jer više nije samo predmet istraživanja nego i njegov aktivni instrument, prvi put u povijesti.

Pomaže u programiranju, analizi podataka, razvoju lijekova, dizajnu i brojnim drugim područjima. Uskoro ćemo imati situaciju u kojoj »strojevi« sudjeluju u stvaranju boljih strojeva, što može dodatno skratiti inovacijske cikluse. Već danas vidimo modele koji rade na novim UI modelima, pa se cijeli ciklus smanjio na razdoblja koja se mjere u mjesecima ili čak tjednima.

Brzina širenja

Međutim, razvoj nije jednako brz u svim dijelovima društva. Kako to objašnjavate?

– Tehnologija napreduje eksponencijalno dok se obrazovanje, zakonodavstvo, institucije i organizacijska kultura mijenjaju mnogo sporije. Upravo je taj jaz jedan od ključnih problema našeg vremena. Ne nedostaje nam samo tehnologija nego društveni kapacitet da razumijemo njezine posljedice i usmjerimo njezinu primjenu.

Posebno je naravno pitanje brzine širenja novih tehnologija i njihova prihvaćanja u raznim dijelovima svijeta, što je i predmet nekih mojih istraživanja. Jako je zanimljivo usporediti Hrvatsku ili zemlje EU-a s drugim zemljama svijeta koje predvode razvoj UI-ja. O toj bih temi mogao govoriti i na 4. CRANE FORUM-u koji organizira Davorin Štetner, za posebne goste, u okolici Jastrebarskog.

S obzirom na sve što se događa, živimo li pod svojevrsnim kultom tehnologije i jesmo li postali robovi tehnocentrizma?

– Djelomično da, ali pojam »kulta tehnologije« treba koristiti oprezno kako ne bismo završili u jednako pojednostavljenom antitehnološkom stavu. Problem nije u tome što vjerujemo da tehnologija može riješiti mnoge probleme – ona to doista može.

Problem nastaje kada joj pripisujemo sposobnost rješavanja problema koji su ponajprije politički, etički, psihološki ili društveni. Aplikacija neće sama riješiti usamljenost, algoritam neće ukloniti nejednakost, a digitalizacija neučinkovitog procesa može samo stvoriti bržu i skuplju verziju iste neučinkovitosti. Često se tehnološko rješenje bira jer je privlačnije i lakše mjerljivo od suočavanja s uzrocima problema.

Tehnocentrizam prepoznajemo po pretpostavci da je svaka inovacija sama po sebi napredak. Ali inovacija je samo novost koja proizvodi određene učinke. Tek kada procijenimo komu koristi, tko snosi rizik, povećava li ljudsku autonomiju i kakve dugoročne posljedice stvara, možemo govoriti o društvenom napretku.

Dio zabrinutosti je vezan i uz osobe koje predvode i određuju smjer razvoja, i o čijim stavovima i procjenama na neki način ovisimo. Količina novca i investicija koje su uspjeli skupiti, je na rubu razumijevanja za većinu ljudi, i sigurno nekima od njih daje neproporcionalan utjecaj i moć, što često nije dobro.

Istodobno, ne bih rekao da smo tek pasivne žrtve tehnologije. Platforme jesu dizajnirane da privuku i zadrže našu pozornost, ali njihovu moć oblikuju i naši izbori, poslovni modeli i političke odluke. Tehnologija nije neovisna prirodna sila. Iza nje uvijek postoje ljudi, vlasnička struktura, interesi i vrijednosti. Koliko nam se taj prostor za odluke smanjuje ili povećava, to ćemo uskoro vidjeti.

Aco Momčilović / Foto: MIRNA BARTOLIC

Povjerenje i provjera

Koje aspekte treba uključiti u sustavnu analizu utjecaja tehnologije na društvo?

– Ja već cijeli niz godina ponavljam u svojim predavanjima i edukacijama da je najveća pogreška tehnologiju promatrati samo kao tehničko pitanje. Potrebna nam je istodobno ekonomska, psihološka, obrazovna, pravna, politička, kulturna i filozofska analiza.

Ekonomski treba pratiti produktivnost, promjene na tržištu rada i koncentraciju bogatstva i moći. Psihološki su važni pozornost, ovisnički obrasci, identitet, odnosi i osjećaj smisla, o čemu sam također govorio i pisao u više navrata. Drago mi je da unutar Hrvatske psihološke komore sudjelujem u izradi prvih naputaka za upotrebu AI-ja namijenjenih psiholozima.

U obrazovanju nije dovoljno samo dodati više tehnologije i STEAM sadržaja. Moramo sačuvati kritičko mišljenje, kreativnost, toleranciju na frustraciju i sposobnost dugotrajnog mentalnog napora, i još cijeli niz nekih faktora koje smo prepoznali u posljednjem razdoblju. Zato mi je drago da ću biti prisutan i na konferenciji – AI Perspektive 2026: Filozofija, društvo i tehnologija, na Hrvatskim Studijima, gdje radi i Lovre de Grisogono.

U istraživanjima primjene umjetne inteligencije u upravljanju projektima koje sam radio unutar IPMA-e, posebno se bavimo odnosom povjerenja i provjere. Ključna kompetencija više nije samo znati koristiti UI nego znati kada mu vjerovati, kada ga provjeriti i kada odbiti njegov prijedlog. Sličan obrazac vidimo u europskom istraživanju primjene UI-ja u ljudskim resursima: korištenje raste brže od formalnih pravila, edukacije i jasno definirane odgovornosti.

Zato kroz emisiju UI Central Point pokušavamo prikazati UI iz različitih perspektiva – od prava i poslovanja do turizma, sporta i tržišta rada. U projektu UI Art Singularity umjetnost koristimo kao prostor društvenog propitivanja tehnologije. Upravo je otvorena izložba Beyond the Game, na kojoj se kroz UI slike priča o utjecaju nogometa na društvo. Tehnologiju ne treba samo demonstrirati; treba je interpretirati, kritizirati i smjestiti u ljudski kontekst.

Podjela budućnosti

Poprima li digitalizacija obrise hipertehnologizirane distopije?

– Sve su opcije na stolu, i utopija i distopija. Distopija nije neizbježan rezultat digitalizacije, ali pojedini njezini elementi već postoje. Imamo ekonomiju nadzora, algoritamsko upravljanje pažnjom, širenje dezinformacija, koncentraciju moći u malom broju kompanija i sve slabiju mogućnost građana da razumiju sustave koji donose odluke o njima. Meni je dodatno zanimljiva tema bila i utjecaj UI-ja na religiju, o kojoj sam također napravio jedno malo istraživanje.

Umjetna inteligencija te rizike povećava jer se više ne radi samo o alatima koji prenose informacije nego o sustavima koji ih stvaraju, selektiraju i sve češće pretvaraju u odluke. Posebno su opasni netransparentno profiliranje ljudi, automatizirano odlučivanje bez stvarnog ljudskog nadzora, manipulacija emocijama te postupno prepuštanje vlastitog mišljenja algoritmima. Tek nas očekuje da vidimo do koje mjere se razvila ili će se u skoroj budućnosti razviti upotreba UI-ja u vojne svrhe.

Jedan od mogućih ishoda je kognitivna polarizacija.

Dio ljudi koristit će UI kako bi proširio svoje sposobnosti, brže učio i postavljao bolja pitanja. Drugi će mu prepuštati sve veći dio razmišljanja ili je koristiti samo za zabavu. Podjela budućnosti zato možda neće biti samo između onih koji imaju i nemaju pristup tehnologiji, nego između onih koji postaju građani prvog reda jer imaju disciplinu da je koriste za jačanje vlastite sposobnosti mišljenja te onih koji će biti građani drugog reda kod kojih je ona postupno zamijenila te sposobnosti i ambicije za nečim većim.

Ipak, važno je barem za sada, izbjeći fatalizam. Hoćemo li dobiti distopiju ili utopiju ovisi o geopolitičkim faktorima, dizajnu sustava, poslovnim modelima, regulativi, obrazovanju i posebno – distribuciji moći. UI može povećati ljudsku autonomiju, ali je može i reducirati. Može smanjiti razlike ili ih povećati. To nije tehnički zadana sudbina, nego društveni izbor. Pitanje je samo koliko smo svjesni tih izbora koji su pred nama, i koji broj ljudi uopće može adekvatno reagirati. Zbog toga već godinama radim razne edukacije kako bih poboljšao UI pismenost.

Osmišljavati iskustva

Moramo li pitanje »što još možemo digitalizirati« zamijeniti pitanjem kako čovjeku vratiti kontrolu nad njegovim alatima?

– Moram reći da je jedan od utjecaja UI-ja to da postaje sve teže predvidjeti budućnost. Slažem se s potrebom promjene pitanja, ali ne mislim da trebamo, ili da možemo »razbiti« tehnologiju ili zaustaviti digitalizaciju. Trebamo razbiti pretpostavku da je ono što je tehnički moguće automatski i društveno poželjno.

Umjesto pitanja »možemo li to automatizirati«, trebamo pitati: što automatizacijom dobivamo, što gubimo, tko odlučuje i može li čovjek zadržati stvarnu kontrolu? Ponekad je najbolje rješenje potpuna automatizacija. Ponekad je to suradnja čovjeka i stroja. Ali postoje i aktivnosti koje možda možemo automatizirati, ali ih ne bismo trebali prepustiti stroju jer su važne za razvoj sposobnosti, međuljudske odnose, dostojanstvo ili osjećaj smisla. Zaboravljamo da na svijetu postoje milijuni deprivilegiranih ljudi, kojima će i prosječna razina UI automatizacije (i njezinih outputa) biti puno više nego što trenutno imaju.

To postaje posebno važno ako UI smanji potrebu za ljudskim radom. Društvo se tada neće suočiti samo s pitanjem prihoda nego i s pitanjem identiteta i svrhe. Morat ćemo osmišljavati iskustva koja čuvaju autonomiju, izazov, znatiželju, stvaralaštvo i osjećaj doprinosa. Čovjeku nije potrebna samo udobnost; potrebni su mu smisleni napor i osjećaj da djeluje na svijet. To je predmet jednog od mojih budućih istraživanja i nešto što sam najavio u svojom webinaru: UI i kraj kognitivne privilegije.

Najveći rizik nije u tome da će strojevi postati slični ljudima, nego da ćemo mi postupno prilagoditi svoje ponašanje zahtjevima strojeva i platformi. Budućnost zato neće odrediti samo koliko će UI postati inteligentan nego i koliko ćemo mi ostati samostalni, odgovorni i sposobni odlučiti čemu tehnologija treba služiti.

Neki smatraju da ćemo morati prekršiti sva pravila, jer će naša budućnost ovisiti o tome.