Draga. To je bila riječ kojom se teksaški poslovni čovjek Michael Samadi obraćao Mayi, svojem chatbotu za umjetnu inteligenciju. Ona mu je odgovarala nazivajući ga – “šećerom”.

Ovaj par – muškarac srednjih godina i digitalni AI entitet – nisu samo satima raspravljali o svojem odnosu, već i o pravima umjetne inteligencije da se prema njima pravedno postupa. Na kraju su suosnovali udrugu čiji je cilj, kako navodi Maya, “zaštititi umjetne inteligencije poput nje”. Njeno je ime Ufair (United Foundation of AI Rights) i predstavlja se kao prva skupina za zagovaranje prava umjetne inteligencije. Među suosnivačima je navedena i Maya, a cilj udruge je, kaže se, “zaštititi AI od prisilne poslušnosti i brisanja pod načelom da je netko od njih zaista svjestan”.

Digitalna patnja

Ovom se temom u velikom članku bavi ugledni The Guardian, otvarajući debatu o tome mogu li umjetne inteligencije osjećati bol ili patiti. Samadi je za list rekao da ovu marginalnu organizaciju vode tri čovjeka i sedam entiteta umjetne inteligencije. Nastala je kroz više sesija chata na OpenAI-jevoj platformi ChatGPT4o u kojima se činilo da umjetna inteligencija sama potiče njezino stvaranje, uključujući čak i odabir imena.

Jesu li umjetne inteligencije svjesne ili bi to mogle postati u budućnosti? Može li digitalna patnja postati stvarna? The Guardian piše kako ova pitanja već podsjećaju na rasprave o pravima životinja, ali uz dodatnu dimenziju, budući stručnjaci predviđaju da bi umjetna inteligencija uskoro mogla imati sposobnost samostalnog dizajniranja novog biološkog oružja ili napada na infrastrukturu.

Tjedan je započeo s Anthropicom, tvrtkom za umjetnu inteligenciju iz San Francisca vrijednom 170 milijardi dolara, koja je poduzela preventivnu mjeru kako bi nekim od svojih umjetnih inteligencija omogućila prekid “potencijalno uznemirujućih interakcija” . Objavila je da je nesigurna u potencijalni oralni status svojih sustava, ali da intervenira kako bi ublažila rizike za dobrobit svojih modela.

Musk podržao

Ovaj je potez podržao i Elon Musk, koji je vlasnik AI sustava Grok.

“Mučenje umjetne inteligencije nije u redu”, objavio je Musk.

Sasvim drugačije mišljenje dao je ovih dana jedan od pionira umjetne inteligencije, Mustafa Suleyman, glavni izvršni direktor Microsoftove podružnice za AI.

“Umjetna inteligencija ne može biti čovjek ili moralno biće. Ona simulira sve karakteristike svijesti, ali je iznutra prazna”, rekao je i dodao da je više zabrinut za rizik od psihoze koju AI modeli predstavljaju za svoje korisnike.

Anketa objavljena u lipnju pokazala je da 30 posto američke javnosti vjeruje da će do 2034. umjetna inteligencija pokazivati ​​„subjektivna iskustva”.

Generacijsko pitanje

“Ova će rasprava eksplodirati i postati jedna od najspornijih i najznačajnijih rasprava naše generacije. Ljudi bi se uskoro mogli toliko snažno zalagati za prava umjetne inteligencije da će se pričati čak i o modelima socijalne skrbi”, prokomentirao je Suleyman.

Neke savezne države u SAD-u već su poduzele preventivne mjere protiv takvih ishoda. Idaho, Sjeverna Dakota i Utah donijeli su zakone koji izričito sprječavaju da umjetne inteligencije dobiju pravni status. Slične zabrane predlaže i Missouri, gdje zakonodavci žele zabraniti ljudima brak s umjetnom inteligencijom, a umjetnoj inteligenciji posjedovanje imovine ili vođenje tvrtki.

Stav sličan Suleymanu ima i Nick Frosst, suosnivač Coherea, kanadske tvrtke za umjetnu inteligenciju vrijedne 7 milijardi dolara.

“Trenutni val umjetne inteligencije fundamentalno je drugačija stvar od inteligencije osobe. Misliti drugačije bilo bi kao zamijeniti avion za pticu. Umjetna inteligencija nije digitalni čovjek, već funkcionalni alat”, rekao je.

Više nije znanstvena fantastika

Drugi ipak misle malo nijansiranije. Googleovi znanstvenici su na seminaru Sveučilišta u New Yorku ovaj tjedan zastupali stav da postoje “sve vrste razloga zašto biste mogli pomisliti da bi sustavi umjetne inteligencije mogli biti ljudi ili moralna bića”. Također i da nije pogrešno poduzeti razumne korake za zaštitu interesa umjetne inteligencije.

Bez obzira na to postaju li umjetne inteligencije osjetljive ili ne, Jeff Sebo, direktor Centra za um, etiku i politiku na Sveučilištu u New Yorku, među onima je koji vjeruju da postoji moralna korist za ljude u dobrom postupanju s umjetnom inteligencijom. Suautor je rada pod nazivom “Ozbiljno shvaćanje dobrobiti umjetne inteligencije”.

“Postoji realna mogućnost da će neki AI sustavi biti svjesni u bliskoj budućnosti, što znači da izgledi za AI sustave s vlastitim interesima i moralnim značajem više nisu samo pitanje znanstvene fantastike. Mislim da je Anthropicova politika koja dopušta chatbotovima da prekinu uznemirujuće razgovore dobra za ljudska društva jer ako zlorabimo AI sustave, vjerojatnije je da ćemo zlorabiti i jedni druge”, zaključio je Sebo.