Paradoksalno je da se bojimo umjetne inteligencije, no istovremeno skoro svakodnevno skidamo ili čak i plaćamo razne aplikacije na svoje smartphone i pritom se ni ne raspitujemo koje će sve naše osobne podatke ta aplikacija koristiti. Mrzimo da Amazon i Google znaju sve o nama, ali istovremeno na društvene mreže stavljamo gomilu podataka o sebi
Za Riječanku Danicu Kragić bez pretjerivanja se može reći da je svjetski poznato ime na području robotike i umjetne inteligencije.
Prof. dr. sc. Kragić je magistrirala strojarstvo na Tehničkom fakultetu u Rijeci, a potom i doktorirala računarstvo na Kraljevskom institutu za tehnologiju (KTH) u Stockholmu uz koji je i danas veže iznimno uspješna karijera.
Trenutačno drži profesorsku poziciju na Fakultetu za računarstvo i komunikacije na KTH, direktorica je Centra za autonomne sustave, članica je Švedske kraljevske akademije znanosti i Švedske kraljevske akademije za inženjerstvo, kao i nadzornih odbora velikih kompanija Saab i FAM AB, te je redovno proglašavana jednom od najmoćnijih žena u švedskoj industriji. Uz sve to, Kragić je i vrlo uspješna u istraživanjima na području robotike, računalne vizije i strojnog učenja. Trenutačno je voditeljica ambicioznog švedskog megaprojekta WASP čiji je cilj razvoj umjetne inteligencije.
– Radi se o istraživanjima u području umjetne inteligencije (AI), ali sam AI je široko područje – od psihologije, filozofije, shvaćanja kako mi ljudi funkcioniramo i surađujemo, preko računarstva i automatiziranog upravljanja do stvaranja umjetnih sustava, robota primjerice, koji imaju svrhu u budućnosti surađivati s ljudima ili efektnije raditi stvari koje ljudi danas teško obavljaju. U projektu WASP se želimo fokusirati na razvoj sustava – bez obzira na to jesu li to roboti ili samo softverska rješenja – kojima se automatiziraju različite aktivnosti, odnosno problemi koje želimo rješavati. Mnogi procesi koji su se nekad radili manualno danas su automatizirani, poput unošenja i analiziranja podataka. Međutim u budućnosti se može automatizirati puno više različitih, još kompleksnijih procesa. Na primjer identifikacija fotografija – poput provjere putovnica na granici, dakle uspoređivanje značajki na fotografiji iz putovnice i onoj koju bi takav sustav uzeo na licu mjesta. Ili pak prepoznavanja od kud osoba dolazi temeljem njenog izgovora ili naglaska, što bi se moglo postići kad bi postojala ogromna baza podataka različitih načina govora. Drugim riječima, puno toga što se sada radi manualno, a za što koristimo naše osjete, poput vida ili sluha u budućnosti bi se moglo automatizirati.
Previše varijabli
Prošle dvije godine znanost je zabilježila velike uspjehe na području AI. Program je po prvi put pobijedio u kompleksnoj igri GO, naučio se sam snalaziti po londonskom metrou. Koliko daleko je danas otišao razvoj umjetne inteligencije i koji su sad trenutačno glavni izazovi?
Rekli ste mi prije da ste se u Švedskoj morali prilagoditi pomalo drugačijim pravilima i kulturi? U čemu je glavna razlika u odnosu na Hrvatsku?
– Ono što mi je bilo jako neobično odmah na početku je da na švedskom sveučilištu nije postojala nikakva hijerarhija. Dok sam studirala u Rijeci svi su bili na »vi«, dok su u Švedskoj svi na »ti«, bez obzira na to što je netko stariji trideset godina i u ulozi mentora. Nije bilo: »ja znam više od tebe«, nego »tvoj rad je meni bitan«. Zbog toga sam imala i veću volju za radom. Da ne pričam da sam u Rijeci bila cura koja se bavila manekenstvom i nosila minice, što na Tehničkom fakultetu nije bilo jako popularno. Jer valjda je uvriježeno mišljenje da ako nosite minicu, ne možete dobro znati matematiku. U Švedskoj izgled i spol nisu nikada bili važni za akademski uspjeh. A i sam odnos prema ljudima je drugačiji – u Švedskoj se ljudi strašno boje konflikta, pa svi naprave posao koji se od njih očekuje, u očekivanom roku.
Pretpostavljam da su i talent i trud prepoznati na primjeren način?
– I to. Bez obzira na to od kuda dolazite, ako napravite svoj posao kako treba i na vrijeme i ispunite očekivanja, sav vam je svijet otvoren. Poznavanje jezika, jer time pokazujete i poštovanje, također puno pomaže. Dolaskom u Švedsku, nikoga nisam poznavala, nisam imala nikakvih veza, ali nisam imala dojam da mi to zatvara vrata. Još i sada u Hrvatskoj imam dojam da to baš nije tako – ponašanje po pravilima se čak smatra čudnim. U Švedskoj pak svi pokušaju olakšati stvari jedni drugima i to dobro funkcionira.
– Primjeri s AI koja pobjeđuje u šahu ili igri GO su i dalje primjeri kontroliranih problema koje ti softveri rješavaju. Radi se o softverima gdje imamo rješenja koja su brža i efikasnija od ljudskih, no kod kojih se i dalje točno zna što sustav mjeri i što sustav treba napraviti. Primjerice, u igri GO se točno zna kako se igra i na koje sve načine se može pobijediti. Može se točno definirati kad je sustav napravio dobar potez i dati pozitivan »feedback«, odnosno negativan »feedback« kad napravi loš potez. I tako se sustav uči, baš poput načina na koji uče ljudi. Međutim, u ljudskom životu, prilikom naših interakcija s okolišem i drugim ljudima, ne možemo uvijek reći je li nekakvo ponašanje krajnje pozitivno ili krajnje negativno. Možda je to ponašanje ili neka reakcija pozitivna kratkoročno, ali se dugoročno može pokazati negativnom. Možda je po kiši bolje autom ići na posao jer nećete pokisnuti, ali dugoročno ćete više potrošiti i zagađujete okoliš. I sad je pitanje, koliko ima takvih situacija gdje ne možemo reći da je nešto potpuno ispravno ili potpuno pogrešno rješenje?
Takve situacije su još uvijek nerješive za postojeći koncept AI sustava, jer bi AI morao imati znanje o svim mogućim kratkoročnim i dugoročnim posljedicama u nekoj situaciji. Naši životi i sve te situacije u koje dolazimo, političke, društvene i bilo koje u kojima se donosi neka odluka imaju previše varijabli. Sustavi koje danas možemo napraviti su jako dobri u situacijama gdje možemo generirati razne potencijalne scenarije i onda koristiti teorije vjerojatnosti da bi procijenili rizik. U našoj svakodnevici isto koristimo procjenu rizika bazirajući to na nekom našem osobnom iskustvu ili iskustvu drugih ljudi, no nekakva super-inteligencija može se dogoditi tek u trenutku kad budemo u mogućnosti simulirati iskustva svih ljudi na svijetu.
Hoćete li na WASP projektu pokušati riješiti dio tih problema?
– Apsolutno. Jako puno metoda koje danas postoje nisu dovoljno brze da bi se odluke mogle donositi u realnom vremenu. Sve vezano za autonomna vozila, primjerice, koja moraju donositi brze odluke tijekom vožnje ili sustavi koji se koriste prilikom kirurških zahvata. Dakle, izazov je donijeti nove metode koje će učinkovitije koristiti parametre koje mjerite u realnom vremenu, primjerice fiziološke pokazatelje pacijenta na kirurškom stolu, i pomoći vam donijeti odluku kad svi parametri nisu dostupni.
Kako vam u razvoju AI sustava pomaže psihologija?
– Trenutačno recimo baš radimo na projektu kojem je cilj bolje shvatiti razliku između načina na koji funkcionira mozak osobe s autizmom i zdrave osobe. Cilj je ustanoviti na koji način možemo napraviti nekakve nove tipove igara koje bi bile zanimljive istovremeno i djeci s poremećajem autističnog spektra i djeci bez takve dijagnoze. Osnovni problem je u tome što i dalje ne razumijemo u potpunosti cijeli spektar autizma da bi tako nešto mogli napraviti. Psihologija, kognitivne znanosti, filozofija, sve su to grane nužne za razvoj AI, koje će biti još nužnije u budućnosti kad dođemo do nivoa da možemo razviti robote koji će se ponašati na određeni način. Primjerice, ni u Švedskoj trenutačno ne možete naći dovoljno ljudi za adekvatnu brigu o osobama s poteškoćama u razvoju, znam to iz primjera u vlastitoj obitelji. Postaje sve jasnije da je nužan razvoj robota koji bi pomagali ljudima s posebnim potrebama, no to nije moguće dok ne razumijemo funkcioniranje ljudskog mozga u dovoljnoj mjeri.
Ogledalo društva
To je i jedan od razloga zbog kojeg se uz AI vežu i mnoga etička pitanja. Primjerice, bojazan kakvu će AI u autonomnom vozilu donijeti odluku suočen s dva loša izbora u slučaju nesreće – primjerice da izbjegne neki automobil pred sobom ili pješaka. Problematičnim se pokazuje i da neki od tih sustava na sebe »preslikavaju« ljudske predrasude, jer je primjerice riječ kriminalac na internetu obično češće uparena s ljudima obojene kože…
– To uistinu jesu veliki problemi. I meni je zanimljivo da se o tome počelo više razglabati sada, razvojem umjetne inteligencije. Ti problemi postoje oduvijek, jer ljudi nisu u stanju suočiti se s tim moralnim pitanjima na pravi način. To su i dalje tabui o kojima je teško pričati. Način na koji AI sada funkcionira jer zapravo ogledalo društva. On se bazira na podacima koji su dostupni. Pitanje kako će AI u automobilu donijeti izbor između dva tragična izbora u slučaju nesreće, zapravo je pitanje kako bi ljudi reagirali. Naše društvo i dalje ima problem s rasizmom, nacionalizmom, šovinizmom koji ne znamo riješiti. Mi i dalje ne priznajemo da netko ima bolje mogućnosti u životu jer ima bijelu kožu, jer izgleda na određeni način, jer dolazi iz nekog određenog područja. Tako društvo danas funkcionira, a to održavaju i sustavi koji se baziraju na podacima o odlukama koje donose ljudi.
Drugim riječima, mi želimo »deux ex machina« čije odluke onda možda nećemo biti spremni prihvatiti…
– Mi možemo napraviti sustav umjetne inteligencije koji može pokušati stimulirati promjene u društvu, no možda ćete time kršiti pravila demokracije i diskriminirati nekog drugog…
Je li u tom kontekstu umjetna inteligencija, kako mnogi tvrde, opasna za čovječanstvo, odnosno treba li s njom opreznije?
– Mislim da je najveći problem što je AI i dalje koncept nedovoljno poznat velikom broju ljudi. Svaki alat je super stvar kad ga se koristi za njegovu namjenu, no ne i ako ga koristite da nekog ubijete. Nažalost, uvijek postoje ljudi koji neki alat koriste na neadekvatan način. Ista stvar je i s AI – važno je da ljudi znaju na koji način treba koristiti različite metode i podatke. Ono što je zanimljivo s AI, je da ti sustavi mogu donijeti odluku na bazi puno više podataka nego što je to u stanju ijedna osoba na svijetu. I zato ja gledam na AI i na sve te metode na jako pozitivan način. To je alat koji ljudima omogućuje da rade stvari koje sami nikad ne bi mogli zbog vlastitih ograničenja. No da se oni ne bi koristili na krivi način i postali opasni, nužno je da svi nauče više. Promjena bi trebala doći iz samog školskog sustava – trebali bi omogućiti generacijama koje dolaze da razumiju sve te metode i koriste ih na ispravan način. Trebalo bi se i o moralu i etici razgovarati na ozbiljniji način no što smo to dosad radili. Smatram da je uloga škole jako bitna da bi se na ispravan način razvila umjetna inteligencija budućnosti. Paradoksalno je, međutim da se bojimo umjetne inteligencije, no istovremeno skoro svakodnevno skidamo ili čak i plaćamo razne aplikacije na svoje smartphone i pritom se ni ne raspitujemo koje će sve naše osobne podatke ta aplikacija koristiti. Mrzimo da Amazon i Google znaju sve o nama, ali istovremeno na društvene mreže stavljamo gomilu podataka o sebi.
Robot u školi
Koja je vaša uloga u WASP projektu?
– Trenutačno sam zadužena za koordinaciju cijelog projekta, odnosno sedam najvećih švedskih sveučilišta koji su dio toga. Moja je uloga da ustanovim što će točno svako sveučilište raditi, koje projekte želimo započeti i kako ih uskladiti s potrebama švedske industrije. Primjerice shvatiti što je kritično i potrebno sada, a s čime možemo čekati dvije, tri godine. Da bi se švedska industrija održala u konkurenciji velikih svjetskih kompanija, moramo napraviti još intimniju suradnju između akademskog i industrijskog sektora. Ja se inače bavim i robotikom, a dio toga uključuje i razvijanje sustava koji bi pomagali u školama – primjerice da ne morate imati jednog učitelja na tridesetero djece, nego da mu u budućnosti u nekim zadacima može pomagati još pet robota.
Što bi takav robot u školi mogao raditi?
– Ostvariti interakciju s djetetom, postavljati pitanja, pomagati u rješavanju zadataka i ujedno i pohranjivati i analizirati sve te podatke kako bi se dobila bolja slika o djetetu, za što učitelji danas nemaju dovoljno vremena. Digitalni sustavi, poput računala, koje djeca danas koriste i kod kuće zapravo sadrže puno korisnih podataka o njima i njihovim potrebama. Jedno od pitanja je na koji način se ti podaci mogu uskladiti s podacima iz škole da bi se bolje vidjelo što dijete zna i može i čemu je naklonjeno, kako bi se primjerice moglo pojačati rad na području u kojem je slabije ili pak još više razviti ono za što je nadareno.
Koliko je već danas daleko došao razvoj robotike? Što danas roboti sve mogu?
– Puno aktivnosti koje su za ljude preopasne ili preteške, primjerice neke poslove koje uključuju puno dizanja i spuštanja stvari, kao što su poslovi u građevinskoj industriji. Roboti se šalju u područja koja su prerizična za ljude – područja uništena havarijama poput potresa, da bi se donijele procjene. Na njih se može staviti različite senzore, roboti mogu letjeti, mogu se poslati pod zemlju ili duboko ispod razine mora. Na jednom aktualnom projektu na kojem surađujemo s oceanografima, koristimo robote u podmorju, pa je naš zadatak da ustanovimo na koji način se robot treba kretati da ne preplaši morske životinje, kako bi ih neometeno pratio i snimao duže vremena.
Koliko je daleko pak otišla interakcija s ljudima? Nedavno je javnosti predstavljen humanoidni robot Sophija koja je naoko u stanju voditi normalni razgovor…
– Interakcija s ljudima je vrlo ovisna o tome koliko smo spremni prihvatiti nešto što znamo da nije čovjek. Još nismo ni blizu normalnoj interakciji kakva postoji između dvoje ljudi, gdje svaka strana može razumjeti što ona druga želi reći iako je govor ponekad isprekidan ili gramatički manjkav. Sustavi poput Sophije još uvijek imaju velikih problema razumjeti je li sugovornik ciničan, tužan i slično. Ljudi se u govoru uvelike koriste i neverbalnim informacijama, grimasama lica i pokretima da bi slali ili tumačili poruke, a to je za AI izazov. Sintetizirati govor iz dostupnih podataka, danas međutim, više nije problem, kao što recimo postoji Siri (Appleov softver, op. a.).
Osim što ste odnedavno članica međunarodnog savjeta riječkog sveučilišta, angažirani ste i na suradnji između zagrebačkog FER-a i KTH. O čemu se točno radi? Rekli ste i da velike nade polažete u razvoj Znanstvenog parka?
– Suradnja s FER-om je na području robotike i mislim da bi bilo super da možemo raditi na dugoročnoj suradnji što se tiče razmjene studenata, na primjer. Isto tako, moguće je razviti suradnju na području postdoktorskog studija – u oba smjera. Što se tiče Znanstvenog parka i uloge Saaba, interes je veliki u smislu da se dio razvoja koji je Saabu bitan na području softwarea nalazi u Hrvatskoj. Suradnja već postoji između tvrtki Ericsson i Ericsson/Nikola Tesla tako da to nije ništa novo. Mislim da bi to značilo puno za Hrvatsku, pa pokušavam uključiti i riječko Sveučiliste – posebno u smislu potencijalne suradnje s Tehničkim fakultetom u Rijeci i omogućavanja suradnje s više švedskih kompanija, ne samo sa Saabom.
Kojim specifičnim područjem robotike se vi bavite?
– Ja sam se od početka bavila fizičkom interakcijom i to je i dalje dio mog posla – dakle na koji način robot može koristiti svoje ruke da bi bio u interakciji s različitim objektima u okolini. To se obično čini jednostavnije nego što uistinu je, jer mi te ručne manipulacije radimo bez razmišljanja. No ukoliko pokušate raditi sve što radite svaki dan samo s palcem i kažiprstom, vidjet ćete da ni to nije jednostavno. Kad vidimo robote na filmu, mislimo da je vrlo lako napraviti robote s ljudskim tijelima, ali nije – napraviti robotske ruke s pet prstiju koje bi imitirale ljudske mišiće i živce neophodne za finu manipulaciju i »procjenu« koju silu koristiti da bi nešto držali, je vrlo teško. Ja razvijam umjetnu inteligenciju koja omogućava da se roboti kroz fizičku interakciju s okolinom nauče biti efektivni.
Treba pokušati
Kako ste s Tehničkog fakulteta u Rijeci došli do KTH?
Poznata ste zaljubljenica u modu, bili ste zaštitno lice kampajne švedske dizajnerice Carin Rodebjer, o čemu je pisao i Vogue. Na što ste najviše ponosni što se tiče vašeg modnog dijela kreativnog rada?
– Teško je reći. Uvijek me veseli kad preradim neki stari komad odjeće od mame iili bake i to postane nešto novo. Isto tako volim koristiti staro heklanje i čipku – ne kao nešto što se stavi na stol, nego kao nešto što završi na nekoj haljini ili kaputu.
– Igrom slučaja. Otišla sam u Švedsku s tadašnjim dečkom preko IAESTE-a i trebao je to biti samo kratki posjet. No vidjela sam članak gdje su objavljena doktorska mjesta na KTH i prijavila sam se. Imala sam znanje s fakulteta koje im je trebalo, govorila sam dobro engleski, znala sam programirati – još iz srednje škole i sve se poklopilo. Zato uvijek kažem ljudima da treba pokušati. Odmah sam se počela baviti robotikom jer je projekt na kojem sam bila zaposlena zahtijevao programiranje robota koji su se koristili kompjutorskom vizijom. Neke stvari su mi bile nove, no kompjutorska vizija i rad sa senzorima je zapravo matematika. I ako znate matematiku i programiranje, nekako se snađete.
Drugim riječima, riječki Tehnički fakultet se pokazao kao dobra baza?
– Jako dobra baza, ali moram i pohvaliti srednju školu – riječku matematičku gimnaziju »Andrija Mohorovičić«. Rekla bih da je programiranje koje smo tamo učili bilo na svjetskom nivou, a znanje iz matematike koje smo tamo dobili je odlična baza. Nadam se da srednja škola i danas ima taj nivo, a drago mi je i da Tehnički fakultet u Rijeci počinje uvoditi robotiku. I sama sam im poslala puno robota. Mislim da će znanje iz robotike omogućiti mnogim diplomantima da odu na doktorski studij u inozemstvo i da se onda, po mogućnosti, vrate u Rijeku. No da bi se ljudi vratili nužna je razvijena industrija u kojoj mogu primijeniti svoje znanje. Kad sam ja završila doktorski studij, takvi uvjeti u Hrvatskoj nisu postojali. Puno nade polažem i u suradnju zagrebačkog FER-a i KTH te u projekt budućeg znanstvenog parka u koji u partnerstvu s Ericsson Nikola Tesla želi ulagati i Saab.
