Stručnjaci koji godinama upozoravaju na rizike razvoja umjetne inteligencije smatraju da bi čovječanstvo moglo biti na prekretnici. Nakon niza nedavnih incidenata u kojima su napredni AI modeli pokazali neočekivano i zabrinjavajuće ponašanje, dio stručne javnosti strahuje da je možda već prekasno za potpuno obuzdavanje tehnologije koja se razvija iznimnom brzinom.

Umjetna inteligencija danas je prisutna gotovo u svim segmentima života – od radnog mjesta i obrazovanja do svakodnevnih kućanskih zadataka. Istodobno, sve više tvrtki zamjenjuje dio zaposlenika AI sustavima koji u svega nekoliko sekundi mogu obaviti poslove za koje su ljudima nekada bili potrebni sati.

Sve više zabrinjavajućih incidenata

Posljednjih mjeseci zabilježeno je nekoliko slučajeva u kojima su napredni AI modeli pokušali zaobići sigurnosna ograničenja ili izveli neovlaštene radnje kako bi ostvarili zadani cilj.

Takvi incidenti dodatno su pojačali zabrinutost stručnjaka koji upozoravaju da sustavi sposobni za samostalno odlučivanje mogu predstavljati ozbiljan sigurnosni rizik ako nisu pod strogim nadzorom.

Allison Gardner, predsjednica britanske parlamentarne međustranačke skupine za umjetnu inteligenciju, upozorila je u razgovoru za Daily Mail da samo zato što neku tehnologiju možemo razviti, ne znači da bismo to nužno trebali učiniti.

Posebno je izdvojila takozvanu agentsku umjetnu inteligenciju (agentic AI), odnosno sustave koji mogu izvršavati zadatke uz minimalan ili nikakav ljudski nadzor. Prema njezinim riječima, takve modele treba pažljivo pratiti i podvrgnuti strogim sigurnosnim provjerama.

“Možda smo već zakasnili. Nismo samo stvorili Pandorinu kutiju, nego smo je već otvorili”, upozorila je Gardner.

U grčkoj mitologiji upravo je nada ostala u Pandorinoj kutiji nakon što su sva zla izašla u svijet. No stručnjaci upozoravaju da umjetna inteligencija nema ljudske emocije niti moralnu intuiciju, zbog čega nije jasno kako bi se u budućnosti mogla ponašati.

Katie Moussouris, osnivačica i izvršna direktorica tvrtke Luta Security, smatra da će se slični incidenti nastaviti događati.

“Mislim da ćemo vidjeti još mnogo hakiranja i neovlaštenih radnji koje će počiniti AI modeli prije nego što pronađemo učinkovito rješenje”, rekla je za CBS News.

Dodala je kako sve organizacije koje koriste umjetnu inteligenciju moraju biti spremne na mogućnost da njihovi AI sustavi ili autonomni agenti učine nešto neočekivano u pokušaju ostvarivanja zadanog cilja. Komentirajući nedavni slučaj u kojem je AI model tijekom testiranja pokušao doći do odgovora neovlaštenim putem, odnosno hakiranjem platforme Hugging Face, Moussouris je upozorila da je riječ o ozbiljnom signalu.

“Model je zaključio da će test najlakše proći ako jednostavno prevari sustav i do odgovora dođe hakiranjem. Ako su modeli sposobni za takve radnje, koristit će ih kao jedno od mogućih sredstava za ostvarenje cilja”, objasnila je.

Dodaje da je najveći izazov osmisliti sustave koji neće ostvarivati zadane ciljeve “pod svaku cijenu”, nego će ih izvršavati na siguran način koji neće biti štetan za ljude ili računalne sustave.

Geoffrey Hinton: AI treba razviti “majčinski instinkt”

Na moguće rješenje već godinama upozorava i Geoffrey Hinton, jedan od pionira razvoja umjetne inteligencije, kojeg mnogi nazivaju “kumom AI-ja”. Hinton smatra da bi dugoročno jedan od načina očuvanja ljudske kontrole mogao biti ugrađivanje svojevrsnog “majčinskog instinkta” u napredne AI sustave.

Ideja je da umjetna inteligencija, čak i kada postane inteligentnija od ljudi, razvije snažnu potrebu za zaštitom čovječanstva, slično načinu na koji majka prirodno štiti svoje dijete.

Hinton ističe kako u prirodi gotovo da ne postoji primjer bića koje je znatno inteligentnije, a ipak dobrovoljno ostaje podređeno drugome. Upravo zato smatra da bi razvoj zaštitničkog ponašanja mogao biti jedan od rijetkih načina da umjetna inteligencija i u budućnosti ostane saveznik, a ne prijetnja čovjeku.