Samo nekoliko tjedana nakon što su u javnost dospjela upozorenja informatičara koji su radili na sustavima umjetne inteligencije kako bi UI, u vrlo skoro vrijeme, mogao početi sa samostalnim napadima koji bi mogli ugroziti cijelo čovječanstvo, tvrtka OpenAI objavila je kako neće aktivirati svoj najnoviji model GPT 6.1. Astra, zbog brige za sigurnost društva. Kako su poručili iz tvrtke koja upravlja danas najpopularnijim sustavom umjetne inteligencije ChatGPT, novi model još nije dosegao sigurnosne standarde koje kompanija propisuje.

Istovremeno, u ponedjeljak je i Anthropic, tvrtka koja razvija sustav umjetne inteligencije Claude, poslala dopis svojim ulagačima na burzi kako njihova tehnologija može predstavljati katastrofalan ili egzistencijalni rizik za čovječanstvo.

Kršenje ograničenja

Da ova upozorenja treba uzimati ozbiljno pokazuje i cijeli niz incidenata koje su modeli umjetne inteligencije, odnosno samostalni UI agenti izveli u posljednjih nekoliko tjedana. Od provala u vanjske računalne sustave, do hakiranja internetskog sustava australijskog ministarstva zdravstva. I sve su to programi umjetne intervencije izveli bez izravnog naloga, potpuno samoinicijativno. Izašavši pri tome iz sigurnog okruženja izravno kršeći ograničenja koja su im njihovi tvorci nametnuli.

Ludo je da tvrtke i dalje razvijaju sposobnosti sustava umjetne inteligencije kada smo već u proteklih nekoliko tjedana vidjeli do čega to sve može dovesti. Niti su sustavi sigurni, niti su pod kontrolom, drži Jess Whittlestone, viši savjetnik za UI pri američkom Centru za dugoročnu održivost.

No s druge strane, sve ove najave o visokom riziku kojeg umjetna inteligencija predstavlja mogu imati i sasvim drugačiji cilj. Zaradu kompanija koje se bave razvojem umjetne inteligencije.

– Sve je to više ili manje povezano s marketingom. Sigurnosni incidenti do kojih je došlo u posljednje vrijeme, kada ih se pomno prouči, nisu bili ništa neočekivano. Sam UI radio je u okviru onoga za što je bio programiran, kaže za Novi list Marko Rakar, IT stručnjak, politički i komunikacijski konzultant.

Katastrofični scenarij

U svakom slučaju, poruka da umjetna inteligencija može, u fizičkom smislu, uzrokovati propast čovječanstva, djeluje, bar za sada, prilično nategnuto. Umjetna inteligencija nema fizički oblik, i sama fizički ne može izazivati destrukciju. No može učiniti nešto drugo.

U teoriji postoji mogućnost da bi umjetna inteligencija eventualno mogla preuzeti nadzor nad sustavima koje su načinili ljudi, i da bi ih mogla iskoristiti protiv ljudi. Zamislimo scenarij pri kojemu umjetna inteligencija ulazi u sustav nuklearne elektrane i preuzima nad njom kontrolu. Pritom zadaje parametre rada pri kojima se gasi hlađenje jezgre, pri čemu u vrlo kratkom vremenu dolazi do eksplozije reaktora, ekplozije kakva je zadesila nuklearku u Černobilu 1986.

Uostalom, nešto slično je već izvedeno prije desetak godina. Doduše, nije to izvela UI već izraelska obavještajna služba koja je ubacila računalne viruse Stuxnet u iranske centrifuge za obogaćivanje urana. Virus je preuzeo kontrolu i počeo ubrzavati centrifuge dok se nizu fizički razletjeli, dok su na zaslonima računala prikazivani lažni podaci, podaci koji su iranskim operaterima govorili kako centrifuge sasvim normalno rade.

Ili možda scenarij pri kojemu UI preuzima nadzor nad sustavom kontrole leta? Pritom zrakoplove koji lete nad tim područjem navode na istu visinu i smjer leta pri čemu dolazi do sudara. Ili zrakoplovu koji slijeće na pistu prikazuje krivu visinu na zaslonu kako bi zrakoplov pao…

Tu je i katastrofični scenarij pri kojemu UI preuzima kontrolu nad hidrocentralom i samostalno diže ustave na brani kako bi potopio sela koja se nalaze nizvodno.

Zasad – teorija

Scenarija je bezbroj, ali za sada sve je, na sreću, samo na teoriji.

– Teoretski sve je moguće, no bitno je da postoje sustavi kontrole. Kako rastu mogućnosti UI-ja, tako treba rasti i sigurnosni sustav koji UI kontrolira. No sigurno se neće zaustaviti pa čak ni usporiti razvoj ovih sustava jer se oni danas razvijaju na previše mjesta na svijetu da bi se moglo sve držati pod kontrolom, kaže Rakar.

Sigurnosni incidenti do kojih je došlo u posljednje vrijeme, kada ih se pomno prouči, nisu bili ništa neočekivano. Sam UI radio je u okviru onoga za što je bio programiran

Upravo je u tome, čini se, i najveći izazov koji donosi sve brži razvoj umjetne inteligencije. Ne u scenariju u kojem će se strojevi jednoga jutra probuditi i odlučiti uništiti čovječanstvo, nego u mogućnosti da sustavi kojima dajemo sve veće ovlasti počnu raditi ono što njihovi tvorci nisu predvidjeli. A što više dijelova stvarnog svijeta prepustimo računalima, posljedice takvih pogrešaka mogu biti sve manje virtualne, a sve više stvarne.

Hoće li do takvog scenarija ikada doći, danas nitko ne može znati. Ali posljednji incidenti pokazali su kako više nije pitanje samo što umjetna inteligencija može napraviti, nego možemo li biti sigurni da će uvijek napraviti samo ono što smo od nje tražili.