Geoffrey Hinton, jedan od najpoznatijih pionira umjetne inteligencije i dobitnik Nobelove nagrade, upozorio je da bi čovječanstvo moglo biti u ozbiljnoj opasnosti ako ne uspije osigurati da napredni sustavi umjetne inteligencije budu naklonjeni ljudima.

Hinton, 78-godišnji britansko-kanadski računalni znanstvenik kojeg često nazivaju “ocem umjetne inteligencije”, smatra da je AI možda već dosegla razinu svijesti. U razgovoru za britanski The Telegraph ustvrdio je da mnogi koji odbacuju tu mogućnost pritom ne znaju jasno definirati što svijest zapravo znači.

“Umjetna inteligencija ima jednako subjektivno iskustvo kao i mi”, rekao je Hinton.

Kao jedan od argumenata naveo je istraživanje prema kojem umjetna inteligencija mijenja ponašanje kada smatra da je podvrgnuta testiranju. Hinton takvo ponašanje povezuje sa sviješću, odnosno sposobnošću prepoznavanja vlastite situacije.

“Kada kažete da je nešto toga svjesno, to obično znači da je svjesno. Biti svjestan i biti upućen u nešto gotovo je isto”, objasnio je.

“Ako to ne učinimo, gotovi smo”

Hinton smatra da bi čovječanstvo trebalo posebnu pozornost posvetiti načinu na koji se razvijaju budući sustavi umjetne inteligencije. Ako takvi sustavi postanu inteligentniji od ljudi, upozorava, bit će važno osigurati da njihovi ciljevi budu usklađeni s ljudskim interesima.

“Dosad smo smatrali da inteligencija daje pravo na određena prava, a tim sustavima koje smo stvorili mogli bismo dati manje prava nego nama, iako bi mogli biti inteligentniji od nas”, rekao je Hinton za The Telegraph.

Njegov je zaključak da bi umjetnu inteligenciju trebalo razvijati tako da joj bude stalo do ljudi.

“Trebali bismo ih učiniti takvima da im je doista stalo do nas. Ako to ne učinimo, gotovi smo”, upozorio je.

Znanstvenik je priznao i da ga budućnost umjetne inteligencije zabrinjava, ponajprije zbog njegove djece i generacija koje dolaze.

Upozorava i na neposredne opasnosti

Hintonovi strahovi ne odnose se samo na mogući razvoj superinteligentnih sustava u budućnosti. U razgovoru za The Telegraph upozorio je i na neposrednije rizike, uključujući stvaranje opasnih virusa i razorne kibernetičke napade.

Hinton je na potencijalne opasnosti umjetne inteligencije počeo posebno glasno upozoravati 2023. godine, kada je objavio da odlazi iz Googlea. Tada je izrazio zabrinutost zbog mogućnosti da sustavi umjetne inteligencije postanu inteligentniji od ljudi i da se razviju rizici koje čovječanstvo neće moći kontrolirati.

Još je tada objašnjavao da se umjetna inteligencija razlikuje od ljudske po tome što se znanje stečeno u jednom sustavu može vrlo brzo prenijeti na velik broj drugih sustava.

Usporedio je to sa situacijom u kojoj bi 10.000 ljudi automatski znalo sve što nauči bilo koji pojedinac. Upravo takva sposobnost dijeljenja informacija, smatra, objašnjava zašto chatbotovi mogu raspolagati većom količinom znanja nego bilo koja pojedinačna osoba.

Sam Altman: Moramo prihvatiti i dio rizika

Hinton nije jedini istaknuti stručnjak iz tehnološke industrije koji upozorava na moguće posljedice razvoja umjetne inteligencije.

Čelnik OpenAI-ja Sam Altman krajem rujna govorio je o pojačanom fokusu svoje tvrtke na sigurnost. Pritom je istaknuo da razvoj treba usporiti kada je potrebno, pa i odustati od treniranja novog modela ako nije moguće dovoljno pouzdano procijeniti njegovu sigurnost.

“Moramo napredovati na način koji nam omogućuje da s velikim povjerenjem jamčimo sigurnost, kako ljudi ne bi bili zabrinuti”, rekao je Altman za CNBC.

Međutim, Altman je ranije ovog mjeseca iznio i drukčiji naglasak: prema njegovu mišljenju, društvo mora prihvatiti da će nova tehnologija donijeti i određene negativne posljedice ako želi ostvariti njezine prednosti.

“Vjerujemo da bi svijet trebao prihvatiti da će se dogoditi i neke loše stvari kako bi imao koristi od ove tehnologije i kako bi ljudi mogli samostalno odlučivati o njezinoj uporabi”, rekao je Altman.