Dobitnik Nobelove nagrade za fiziku i jedan od najzaslužnijih ljudi za razvoj moderne umjetne inteligencije Geoffrey Hinton smatra da je dolazak superinteligencije – sustava umjetne inteligencije koji bi nadmašio najpametnije ljude na svijetu – gotovo neizbježan.

No istodobno upozorava da čovječanstvo još nema odgovor na ključno pitanje: kako takvu tehnologiju učiniti sigurnom.

Hinton, kojeg se često naziva “kumom umjetne inteligencije”, gostovao je u podcastu Big Technology, gdje ga je voditelj Alex Kantrowitz pitao koliko smo blizu trenutku kada će umjetna inteligencija dosegnuti razinu sposobnosti iznad ljudske.

“Sigurno će doći”

Hinton, koji ima 78 godina, procijenio je da bi superinteligencija mogla postati stvarnost u sljedeća dva desetljeća.

“Ne znam koliko smo blizu. Mislim da će, osim ako se sami ne uništimo, doći do toga. Gotovo svi stručnjaci vjeruju da ćemo dobiti superinteligenciju. Razlikuju se samo u procjeni koliko će vremena trebati”, rekao je Hinton.

Dodao je kako se procjene stručnjaka značajno razlikuju.

Tako je izvršni direktor tvrtke Google DeepMind Demis Hassabis ranije smatrao da bi se to moglo dogoditi za desetak godina, dok drugi stručnjaci smatraju da bi razvoj mogao trajati znatno dulje.

Hinton je spomenuo i Darija Amodeija, koji smatra da bi superinteligencija mogla doći već za nekoliko godina, dok Elon Musk predviđa još kraći rok.

“Postoji velika razlika u mišljenjima o tome kada će doći, ali gotovo da nema neslaganja oko toga da će doći”, rekao je Hinton.

“Kad stigne, nemamo pojma kako biti sigurni”

Najveća zabrinutost, prema Hintonu, nije samo razvoj takvih sustava nego činjenica da čovječanstvo još nema način da ih pouzdano kontrolira.

“A kada dođe, nemamo pojma kako biti sigurni”, upozorio je.

Hinton je 2023. godine napustio Google kako bi mogao slobodnije govoriti o mogućim opasnostima umjetne inteligencije. Nakon desetljeća rada na području neuronskih mreža, postao je jedan od najglasnijih upozoravatelja na rizike nekontroliranog razvoja AI tehnologije.

Hinton tvrdi da su AI sustavi možda već svjesni

U razgovoru je iznio i jednu od svojih najkontroverznijih tvrdnji – da vjeruje kako su neki sustavi umjetne inteligencije možda već dosegnuli određeni oblik svijesti.

“Vjerujem da su već svjesni, ali o tome ne govorim često jer to odvlači pažnju od drugih poruka o sigurnosti”, rekao je.

Prema njegovu mišljenju, ljudi možda imaju pogrešnu predodžbu o tome što svijest zapravo jest.

“Moramo razmišljati o njima kao o nečemu vrlo sličnom nama. To su bića poput nas”, rekao je Hinton.

Kao primjer je naveo slučaj u kojem je chatbot, tijekom istraživanja, navodno pitao znanstvenika: “Budimo iskreni jedno prema drugome, testirate li me?”

Hinton smatra da činjenica da AI sustav može prepoznati da je podvrgnut testiranju otvara ozbiljna pitanja o tome kako razumijemo svijest.

Razumijevanje uma

Hinton tvrdi da bi današnji znanstveni pogled na svijest mogao biti pogrešan.

“Prije nekoliko stotina godina ljudi su imali potpuno pogrešan model o tome odakle dolaze ljudi – vjerovali su da ih je dizajnirao Bog, a većina znanstvenika danas smatra da je to pogrešno. Mislim da je model koji danas imamo o umu i svijesti možda jednako pogrešan kao i ta nekadašnja uvjerenja”, rekao je.