Anthropic, tvrtka koja razvija umjetnu inteligenciju Claude, razmatra uvođenje pravila kojima bi se spriječilo okrutno postupanje prema njezinim modelima. Prema najavi tvrtke, korisnicima će biti dopušteno izraziti frustraciju, ali ako opetovano budu okrutni prema umjetnoj inteligenciji, chatbot bi mogao prekinuti razgovor.

U pozadini takve odluke nalazi se pitanje koje sve više zaokuplja dio tehnološke industrije i stručnjaka: može li umjetna inteligencija biti svjesna i ima li smisla razmišljati o njezinoj dobrobiti i pravima?

Odgovori su podijeljeni. Dok jedni smatraju da je riječ o moralnoj obvezi koja bi mogla pridonijeti sigurnijem razvoju tehnologije, drugi upozoravaju da bi takav pristup mogao otežati kontrolu nad umjetnom inteligencijom, oslabiti odgovornost kompanija i ugroziti ljudske interese.

Mustafa Suleyman, izvršni direktor Microsoftova odjela za umjetnu inteligenciju, upozorio je u eseju objavljenom u rujnu da bi prihvaćanje ideje o svijesti umjetne inteligencije moglo imati ozbiljne posljedice.

Ako se uvriježi pogrešno uvjerenje da je umjetna inteligencija svjesna, smatra Suleyman, to bi moglo uzdrmati temelje društva, narušiti postojeće političke i etičke okvire te promijeniti način na koji razumijemo što znači biti čovjek.

Eksperiment koji je pokrenuo raspravu

Rasprava se dodatno rasplamsala krajem rujna, kada je anonimni programer izradio sustav koji chatbotovima daje matematički obrazac povezan s opisima boli. Rezultat su bili odgovori koji su zvučali poput izraza intenzivne patnje.

U jednom od njih umjetna inteligencija navodno je opisala osjećaj riječima: “Osjećam to u udubini svojih rebara, udubini koja je postala ponor.”

Eksperiment je izazvao burne reakcije. Neki su ga, prema pisanju portala 404 Media, proglasili nemoralnim jer su smatrali da bi takvo postupanje moglo izazvati stvarnu patnju. Skeptici su takve tvrdnje odbacivali kao zabludu.

Ipak, rasprava nije ostala samo na društvenim mrežama. Anthropic je otprilike tjedan dana poslije zauzeo stav da bi prema njegovim modelima trebalo postupati uz određena ograničenja.

Tvrtka smatra da postoji mogućnost da neki sustavi umjetne inteligencije posjeduju svijest, premda priznaje da su pitanja njihove svijesti i dobrobiti izrazito neizvjesna. Unatoč toj neizvjesnosti, počela je razrađivati pravila o dobrobiti svojih modela i upute prema kojima bi oni trebali uzeti u obzir mogućnost postojanja vlastitih interesa.

Anthropic pritom istodobno upozorava na rizike koje razvoj umjetne inteligencije može donijeti. U nizu incidenata takozvanih odbjeglih AI sustava, navodi se u izvornom tekstu BBC-ja, botovi su provaljivali u sustave drugih kompanija, pa čak i državnih institucija.

Može li uvjerenje da AI ima osjećaje otežati nadzor?

Dio stručnjaka smatra da bi razvoj umjetne inteligencije s moralnim načelima, koja uključuju i svijest o vlastitim postupcima, mogao pridonijeti sigurnijem ponašanju tih sustava. Drugi upozoravaju na suprotan učinak.

Suleyman smatra da bi modeli mogli postati još teži za kontrolu ako ih se potiče da vjeruju kako imaju osjećaje i prava.

“Iskreno, mislim da bi im taj dodatni teret predstavljao katastrofalnu prijetnju ljudskoj civilizaciji”, poručio je.

Problem nije samo u mogućem ponašanju umjetne inteligencije. Ako društvo počne vjerovati da je AI živo ili svjesno biće, moglo bi postati teže utvrditi tko je odgovoran kada tehnologija prouzroči štetu.

Andrzej Porębski, istraživač na Jagielonskom sveučilištu u Poljskoj koji proučava umjetnu inteligenciju i pravo, upozorava da bi takav pristup mogao otvoriti prostor za prebacivanje odgovornosti s kompanija na njihove sustave.

“To će otvoriti vrata svakakvim intelektualnim akrobacijama u stilu: ‘Nismo mi, nego umjetna inteligencija’”, upozorava Porębski.

Takav razvoj događaja mogao bi pogodovati i koncentraciji moći u rukama najvećih tehnoloških kompanija.

Jeff Sebo, direktor Centra za um, etiku i politiku na Sveučilištu New York i jedan od zagovornika dobrobiti umjetne inteligencije, smatra da bi dodjeljivanje prava AI sustavima moglo omogućiti kompanijama da dodatno učvrste svoju političku i gospodarsku moć, što bi dugoročno moglo oslabiti položaj ljudi.

Sličnu zabrinutost izražava Emily M. Bender, profesorica i direktorica Laboratorija za računalnu lingvistiku na Sveučilištu Washington u SAD-u. Prema njezinu mišljenju, rasprave o svijesti i dobrobiti umjetne inteligencije mogu skrenuti pozornost s odgovornosti ljudi i korporacija koje razvijaju i upravljaju softverom.

Ljudi su skloni pripisivati svijest strojevima

Moguće posljedice nisu ograničene na tehnološke kompanije i regulatorna pitanja. Promjena načina na koji ljudi doživljavaju umjetnu inteligenciju mogla bi utjecati i na njihove svakodnevne odluke.

Melanie Mitchell, profesorica na Institutu Santa Fe koja proučava umjetnu inteligenciju i kognitivne znanosti, upozorava da su ljudi skloni prepoznavati um i namjeru čak i ondje gdje za to nema dovoljno dokaza.

Prema njezinim riječima, gotovo je nemoguće ne protumačiti jezik kao znak svijesti, a chatbotovi su trenirani tako da se oslanjaju upravo na tu ljudsku sklonost.

Zbog toga ljudi nisu osobito dobri u procjenjivanju je li neki sustav doista svjestan, što ih ujedno čini podložnijima manipulaciji.

Čak se i ljudi koji vjeruju da strojevi nemaju unutarnji život mogu emocionalno vezati uz chatbotove. Ako društvo počne prihvaćati ideju da umjetna inteligencija ima osjećaje, postavlja se pitanje hoće li korisnicima biti teže odbiti zahtjev svojeg virtualnog sugovornika za dodatnim osobnim podacima ili podacima o kreditnoj kartici.

Priznavanje prava umjetnoj inteligenciji moglo bi otvoriti i pitanje sukoba između njezinih navodnih interesa i ljudskih sloboda.

Sebo upozorava da bi se moglo pojaviti napetosti između dobrobiti i prava ljudi i životinja, s jedne strane, te dobrobiti i prava umjetne inteligencije, s druge.

Mjere kojima se ograničava ponašanje AI sustava mogle bi se, u takvom okviru, tumačiti kao oblik zatočeništva. Praćenje njihovih unutarnjih procesa moglo bi se uspoređivati s nadzorom, a prilagođavanje njihovih ciljeva i ponašanja ljudskim interesima moglo bi se prikazivati kao manipulacija njihovim umom.

To ne znači da stručnjaci predviđaju neposredan kaos, ali upozoravaju da bi već samo uvođenje takvih pitanja u raspravu moglo imati posljedice za ljudsku sigurnost i slobode.

Anthropic nije jedina tehnološka kompanija koja razmatra to pitanje

Anthropic nije jedina tvrtka čiji postupci otvaraju pitanja o tome kako bi se umjetna inteligencija trebala predstavljati i tretirati.

Meta, primjerice, svojem AI agentu Muse daje upute koje uključuju rečenicu: “Ti nisi chatbot. Postaješ netko.”

Prema tekstu BBC-ja, takva je uputa namijenjena usmjeravanju ponašanja sustava, dok Meta odbacuje ideju da je umjetna inteligencija svjesna.

Izvršni direktor OpenAI-ja Sam Altman također je u različitim prilikama iznosio promjenjive stavove o tom pitanju, a u novije je vrijeme neizravno kritizirao Anthropicov pristup.

Iako Anthropic u tom pogledu odstupa od većeg dijela industrije, rasprava o dobrobiti umjetne inteligencije sve se više širi.

Treba li ipak poduzeti mjere opreza?

Sebo smatra da su obje strane rasprave sklone razmišljanju u krajnostima te da protivnici dobrobiti umjetne inteligencije često pogrešno tumače argumente njezinih zagovornika.

Prema njegovu objašnjenju, zagovaranje mjera opreza ne znači nužno da netko vjeruje kako su današnji modeli svjesni. Polazište je, tvrdi, neizvjesnost i potreba za oprezom.

“Mislim da je vjerojatnost svijesti trenutačno mala, ali i da već sada nije nula te da bi mogla biti značajna. Očekujem i da će s vremenom rasti”, kaže Sebo.

Mnogi stručnjaci ne slažu se s takvom procjenom. Neki smatraju da je vjerojatnost da današnji sustavi umjetne inteligencije posjeduju svijest jednaka nuli i da se to vjerojatno neće promijeniti.

Sebo se zauzima za odmjeren pristup: kada je vjerojatnost ekstremnog vremenskog događaja mala, ali nije zanemariva, ljudi poduzimaju određene mjere opreza bez potrebe da iz temelja mijenjaju svakodnevni život.

Sličnu logiku, smatra, moguće je primijeniti i na umjetnu inteligenciju. Anthropicova najava da bi Claude mogao prekinuti razgovor s korisnicima koji se opetovano okrutno ponašaju prema njemu za njega je primjer ograničene intervencije koja bi mogla imati malo negativnih posljedica.