Umjetna inteligencija (UI) dio je računarstva koji se bavi razvojem sposobnosti računala da obavljaju zadaće za koje je potreban neki oblik inteligencije, tj. da se mogu snalaziti u novim prilikama, učiti nove koncepte, donositi zaključke, razumjeti prirodni jezik, raspoznavati prizore i slične zadaće, enciklopedijska je definicija UI-a.

U kojim se područjima tehnologija umjetne inteligencije danas najviše razvija, je li moguć razvoj umjetne opće inteligencije, o benefitima i opasnostima, o popularnom ChatGPT-u, razgovarali smo s prof. dr. sc. Janom Šnajderom, redovitim profesorom na Zavodu za elektroniku, mikroelektroniku, računalne i inteligentne sustave zagrebačkog FER-a.

Na razvoju tehnologije umjetne inteligencije već se dugo radi, ali pravi »boom« vidljivosti u javnosti kao da se dogodio s pojavom ChatGPT-a krajem prošle godine. Dobili smo vrlu živu sliku o mogućnostima UI-a…

– Da, ChatGPT je vrlo plastičan, upišete nešto u sustav i on razgovara s vama ili vam odgovori na pitanje. I unazad godinu-dvije imali smo primjera javnog predstavljanja i dostupnosti drugih sustava koji se koriste UI-em, poput Dall E-a za crtanje, koje je također napravio OpenAI, no s ChatGPT-em postalo je jasnije kamo nas razvoj umjetne inteligencije može odvesti.

Kako on može biti dobar, koristan i zabavan, ali i opasan, sve odjednom. Ta mogućnost direktnog razgovora koji teče glatko i jasno sa sustavom UI-a doista je uzburkala svijet.

Internetske tražilice

Vidjeli smo i primjer američkih profesora prava sa Sveučilišta u Minessoti, koji su isprobali ChatGPT na svojim ispitima. Sustav je ispite položio, i esejski dio i dio s pitanjima višestrukog izbora, iako s prosječnim ocjenama.

– Tehnologija umjetne inteligencije koju danas razvijamo u rješavanjima nekih zadataka vrlo je dobra, a u nekima je slabija. U odgovaranjima na pitanja iz različitih područja je relativno dobra, iako nerijetko radi i greške, ali je očito dovoljno kvalitetna da polaže testove na fakultetu.

Ovdje treba reći da to ne znači kako su naši testovi na fakultetima loši ili »glupi« i da ih sad moramo sve prekrajati. Jednostavno, dio testova provjerava činjenično znanje učenika i studenta, a iz OpenAI-a su uspjeli napraviti program koji dobro obrađuje podatke i tekst, kao što i činimo mi kada učimo.

To je jednostavno nužan prvi korak i za računalo i za čovjeka. Ne može se učenike i studente poticati na kritičko mišljenje, a da ne znaju osnovne podatke i informacije o kojima bi kritički mislili. Dakle, prvo činjenično znanje, a onda kritičko mišljenje kao nadgradnja.

No, tehnologije UI-a još uvijek nisu do kraja »ispolirane«, daju i odgovore koji izgledaju koherentno, no nemaju smisla ili nisu točni.

– Da, sustavi ponekad »haluciniraju« ili daju netočne odgovore. To nama može biti zabavno i smiješno, ali može se dogoditi da ljudi traže informaciju koju ne znaju unaprijed, pa neće biti svjesni ako su dobili pogrešan odgovor.

Jer, ide se u smjeru inkorporiranja umjetne inteligencije u internetske tražilice. Mi već dvadesetak godina pretražujemo internet pomoću ključnih riječi, no s velikom raširenošću ChatGPT-a se pokazalo da ljudi preferiraju upisati pitanje te onda dobiti odgovor.

ChatGPT zamišljen je kao program s kojim će korisnik razgovarati, a najviše ga se koristilo za dobivanje odgovora. Vidjet ćemo u kojem će se smjeru dalje razvijati pretraživanje informacija kada se ono krene još više oslanjati na algoritme umjetne inteligencije.

Jer, cijelo Googleovo carstvo temelji se na tome da vi nakon pretraživanja pojma odete na internetsku stranicu na kojoj će biti reklame te Google od toga zarađuje. A ako će vam tražilica sama odgovarati, treba vidjeti kako će se u to uključiti reklame.

Agencija američkog Ministarstva obrane (DARPA) objavila je kako su u tri godine došli od razvijanja algoritama umjetne inteligencije koji su prvo upravljali avionom u simulaciji na računalu, da bi sad letjeli nebom i upravljali pravim borbenim avionom.

– Trebalo bi vidjeti što točno oni misle pod razvojem u tri godine. Oni vjerojatno grade svoje algoritme na prethodnom iskustvu, jer s obzirom na izazove koji postoje u tom pogledu, tri godine je vrlo dobar rezultat, odličan.

Koliko dugo traje obuka jednog čovjeka za pilota… No, kad razvijete ovakvu tehnologiju, možete ju replicirati praktički bez ikakvih dodatnih troškova na različite zrakoplove. To je fantastično s umjetnom inteligencijom, jednom kad ju razvijete cijena replikacije je praktički nula. DARPA je inače od samih početaka financijer razvoja umjetne inteligencije, znamo svi s kojom motivacijom.

Obrada prirodnog jezika

U kojim se područjima umjetna inteligencija danas najviše razvija?

– Dva su dominantna područja: obrada prirodnog jezika i računalni vid. Obrada prirodnog jezika iznjedrila je ChatGPT, a u to područje spadaju i drugi relevantni zadaci: pretraživanje informacija, poput tražilica, Google, Bing, te analiza teksta kao i interakcija računala i čovjeka općenito.

Drugo veliko područje, računalni vid, odnosno prepoznavanje slika i videa još je propulzivnije. Ono je važno za autonomna vozila koja moraju moći prepoznati što se događa na cesti i u skladu s time reagirati, a sve u realnom vremenu.

U računalni vid spada i generiranje slika i videa, što danas također doživljava procvat. No, ima i drugih područja koja se razvijaju, koja su nekad eksponiranija, a nekad manje, ovisno o financiranju i medijskoj vidljivosti.

UI ima i veliku primjenu u medicini, koja se nastavlja na računalni vid, najčešće su to analize medicinskih slika. Tu je i općenito planiranje i rasuđivanje, kao i robotika, koja je zasebna disciplina, ali u smislu softvera koji će pogoniti pametnog robota radi se o umjetnoj inteligenciji.

OpenAI dao je korisnicima ChatGPT na korištenje bez plaćanja, a zauzvrat dobivaju neizmjernu količinu povratnih informacija o njegovu radu?

– Oni su to mogli napraviti jer su počeli kao startup, nemaju razvikano i prepoznato ime poput velikih igrača. Tako su lansirali poluproizvod bez rizika za svoju reputaciju. Google i Microsoft također razvijaju algoritme umjetne inteligencije, vjerojatno ih imaju i u razvijenijem stanju od OpenAI-a, ali ih neko vrijeme nisu »puštali« van, zbog straha za svoj ugled.

Jer, imali su ranijih pokušaja, u kojima su se opekli. Na primjer, Google je imao situaciju da je slike Afroamerikanaca UI prepoznavala i označavala kao gorile, što je bio skandal. Činilo se da UI još nije spremna za javnu i široku upotrebu.

No, situacija se sada mijenja, pa vidimo da Microsoft testira novi Bing, svoju tražilicu koja radi na novim algoritmima UI-a, pod pritiskom OpenAI-a. No, po meni nije normalno da se nedovršeni proizvodi na ovakav način testiraju na korisnicima.

Big Tech je navikao da ima besplatnu bazu korisnika, koji jedva čekaju isprobati njihove proizvode. Pravdaju se činjenicom da nema drugog načina da se tehnologija brzo izbrusi i usavrši, no to je notorna laž na kojoj cijela Silicijska dolina gradi svoje carstvo profita.

Foto Davor Kovačević

Laž je da tvrtka poput Microsofta nema financijskih sredstava za propisno testiranje »unutar kuće«. No, ponavljam, koriste činjenicu da smo svi vrlo receptivni za novu tehnologiju, svi je želimo iskoristiti i isprobati, a tek kasnije razmišljamo o utjecajima tehnologije na pojedinca i društvo. Mislim da to moramo hitno mijenjati.

Koliko smo daleko od opće umjetne inteligencije, odnosno inteligentnog agenta koji razumije ili može naučiti bilo koji intelektualni zadatak koji ljudsko biće može?

– Idemo u tom smjeru, a posebno će biti izazovno kada se superinteligencija dovoljno razvije te krene razvijati sama sebe. Trebamo imati rješenje za to jer se inače stvari mogu oteti kontroli. To je trenutno jedan od glavnih problema, kako osigurati da pod kontrolom držimo superinteligenciju koja je po definiciji inteligentnija od nas.

Drugi problem je kako u nju ugraditi ciljeve koji će biti poravnati s ljudskim društvenim vrijednostima, ako se uopće uspijemo dogovoriti koje su to naše vrijednosti. Vidjeli smo već na primjeru ChatGPT-a koliko je taj problem »držanja« pod kontrolom težak.

Razvijajući ga, inženjeri su probali anticipirati što će sve ljudi pokušati napraviti i onemogućiti da sustav generira neprikladan tekst ili opisuje društveno neprihvatljive akcije. No, vidjeli smo da se to može zaobići, pa su »krpali« sustav u hodu. Vidimo da je to pomalo beznadna utrka. Čini se vrlo teško rješiv problem.

Svi kutevi razvitka

No, tehnički nije moguće da se sustav odmetne, kao što se prikazuje u znanstvenofantastičnim filmovima? Ako nešto pođe po zlu, bit će zbog toga što sustav nije dobro programiran, a ne zato što se on odlučio okrenuti protiv ljudi. Hoću reći, volja i svijest su odvojeni od inteligencije.

– To je jedno od centralnih pitanja kojima se istraživači i filozofi bave danas: gdje se povlači razlika između inteligencije i agentnosti, odnosno namjera? Za sada se čini da bi to dvoje moglo biti razdvojeno, odnosno da će biti moguće napraviti superinteligentan sustav koji nema svoje namjere kao što ih ima čovjek.

No, kriva je intuicija da je potrebna namjera da stvari krenu po zlu. Dovoljno je da implementirate cilj u sustav. Na primjer, u literaturi je poznat primjer u kojem se umjetnoj inteligenciji kaže da pronađe način kako maksimizirati broj spajalica u svijetu.

Kada shvati da joj ponestaje materijala za spajalice, preporučit će uništavanje ljudi, kako bi se došlo do gradivnih elemenata za proizvodnju spajalica. To je pomalo apsurdan primjer, ali pokazuje kako stvari mogu krenuti krivo. Zato se vraćamo na pitanje kako osigurati da ciljevi umjetne inteligencije budu u skladu s našim vrijednostima. I koje su to naše vrijednosti?

Kao jedan od primjera superinteligencije spominjete »proročicu«. To jest, superinteligentni program koji bi čovjek razvio. Bio bi pohranjen na čuvanom mjestu te bi ga se konzultiralo u slučajevima potrebe. I u tom slučaju ističete važnost kontrole.

– Potpuno je moguće da bi superinteligencija, kad i ako je razvijemo, pa i ako bismo je zatvorili u jednu sobu, pokušala manipulirati s nama i tražiti kako da uspije pobjeći iz svog »zatvora«. Ponavljam, ne mora se tu raditi o svijesti i volji, već o računalnom kodu.

Mi smo u taj kod ugradili neki cilj, a superinteligencija može izračunati da joj je za ostvarivanje tog cilja potrebno da pobjegne. Također, svaka superinteligencija koju razvijemo nužno će imati cilj samoodržanja, željet će opstati.

A da bi opstala, može procijeniti da joj je potrebno da pobjegne iz »zatvora« u koji smo je smjestili. Kada bi do toga došlo, ne vjerujem da bi superinteligenciji bilo teško manipulirati nama. Znamo svi koliko smo podložni manipulacijama, i kako nas mogu izmanipulirati i ljudi koji nisu (super)inteligentni.

Futurist Raymond Kurzweil sugerira da će do razvitka opće umjetne inteligencije, odnosno superinteligencije, doći do 2050. godine…?

– On je malo radikalan u svojim idejama, ako možemo tako reći. Možemo ga svrstati u grupu tehnoutopista, jer on ne samo da prognozira tako brz razvitak, već ga i zaziva. Tehnoutopisti po mom sudu značajno zanemaruju negativne potencijalne aspekte takve tehnologije po društvo, i u tom smislu imaju selektivno sljepilo.

Svi smo na neki načim ograničeni u svojim pogledima, ali kod tehnologije koja je potencijalno toliko radikalna i toliko može izmijeniti društvo, važno je sagledati razvitak iz svih kuteva, pa je važno da se uključe i različite discipline i istraživači, filozofi, etičari, humanisti, društvene znanosti.