Američka tehnološka tvrtka Anthropic izazvala je raspravu najavom da će korisnicima zabraniti dugotrajno i neopravdano zlostavljanje njezinih alata umjetne inteligencije.

Tvrtka koja razvija AI asistenta Claude objavila je u četvrtak da mijenja pravila korištenja kako bi svojim alatima omogućila prekid razgovora s korisnicima koji se prema njima ponašaju okrutno.

Iz Anthropica poručuju da su i ranije, u rijetkim slučajevima, prekidali takve interakcije, a sada će se ta mogućnost izričito navesti u pravilima o zabranjenom ponašanju. Na istom se popisu već nalaze, među ostalim, zlostavljanje drugih osoba, poticanje na samoozljeđivanje i stvaranje intimnih snimki bez pristanka.

Tvrtka naglašava da će se nova pravila primjenjivati samo u ekstremnim slučajevima ponavljanog zlostavljanja. Neće obuhvaćati uobičajeno nezadovoljstvo korisnika, kritiziranje odgovora, mračne kreativne teme ni testiranje modela u istraživačke svrhe.

Ipak, zasad nije sasvim jasno što će Anthropic konkretno smatrati zlostavljanjem ili okrutnim ponašanjem prema svojim AI modelima.

Jedni pozdravljaju pristojnost, drugi upozoravaju na antropomorfizaciju

Snimke zaslona novih pravila brzo su se proširile društvenim mrežama. Dio korisnika pozdravio je odluku, smatrajući je korakom prema njegovanju pristojnije komunikacije, dok su je drugi kritizirali.

Jedan od kritičara ocijenio je takav pristup duboko pogrešnim, a drugi upozorio da bi mogao zamagliti razliku između stvarnog zlostavljanja ljudi i životinja te grubog obraćanja računalnom sustavu.

Barry Scannell, stručnjak za tehnologiju i partner u irskom odvjetničkom društvu William Fry, na LinkedInu je poručio da se brojevima i matematici ne može nanositi okrutnost.

“Ovakva razina antropomorfizacije umjetne inteligencije štetna je. Ljude navodi da vjeruju kako je ona nešto što zapravo nije”, napisao je Scannell.

Na promjene je reagirao i Mustafa Suleyman, direktor Microsoftova odjela za umjetnu inteligenciju. On je u rujnu kritizirao Anthropic zbog pristupa u kojem se umjetna inteligencija prikazuje kao da je čovjek, a na novu je objavu reagirao emotikonom rastopljenog lica.

O promjenama, koje je prvi objavio tehnološki portal The Verge, Anthropic je odlučio nakon godišnje revizije svojih pravila korištenja.

Nova ograničenja odnose se i na izbore

Izmjene ne obuhvaćaju samo ponašanje korisnika prema umjetnoj inteligenciji. Tvrtka je ažurirala pravila i kako bi odgovorila na nove ili sve izraženije rizike povezane s uporabom svojih alata.

Među ostalim, zabranila je korištenje Claudea za vođenje obmanjujućih kampanja te dodatno pojasnila da se alat ne smije upotrebljavati za obmanjivanje birača ili ometanje izbora.

To je posebno aktualno uoči američkih izbora za Kongres na sredini predsjedničkog mandata, koji se održavaju u studenome.

Anthropic je također podsjetio da su njegova pravila i ranije zabranjivala korištenje alata za razvoj oružja.

Unatoč tim izmjenama, upravo je zabrana vrijeđanja i zlostavljanja AI asistenata izazvala najviše pozornosti i otvorila novu raspravu o tome kako bi se ljudi trebali ponašati u razgovoru s generativnom umjetnom inteligencijom.

Treba li umjetnoj inteligenciji reći “molim” i “hvala”?

Pitanje treba li chatbotovima poput ChatGPT-a govoriti “molim” i “hvala” već je dulje predmet rasprava.

Dio stručnjaka smatra da su takve fraze nepotrebne jer troše tokene, odnosno jedinice teksta kojima se veliki jezični modeli koriste za obradu upita i generiranje odgovora. Drugi tvrde da pristojnije formulirani upiti mogu rezultirati kvalitetnijim odgovorima.

Kada je jedan korisnik platforme X prošle godine upitao koliko električne energije OpenAI troši na odgovaranje korisnicima koji kažu “molim” i “hvala”, direktor tvrtke Sam Altman odgovorio je da je riječ o desecima milijuna dolara dobro potrošenog novca, dodajući kako se nikad ne zna što takva pristojnost može donijeti.

U međuvremenu se u javnom prostoru ponovno proširio i izraz “clanker”, pogrdni naziv za robote i alate umjetne inteligencije.

Izraz se u filmovima i videoigrama iz serijala Ratovi zvijezda koristi još od sredine 2000-ih, a našao se i na užem popisu riječi koje odražavaju raspoloženje u 2025. godini prema izboru Collinsova rječnika.

Prošlog srpnja mnogi su korisnici TikToka tim izrazom izražavali frustraciju zbog strojeva pokretanih umjetnom inteligencijom.

Može li se grubost prema chatbotu preliti na odnose među ljudima?

Dio stručnjaka upozorava i na mogući utjecaj takvog ponašanja na međuljudsku komunikaciju. Prema njihovim argumentima, navika vrijeđanja i omalovažavanja AI asistenata mogla bi se s vremenom prenijeti na način na koji razgovaramo s drugim ljudima i kako se prema njima odnosimo.

Rasprava tako nadilazi pitanje treba li umjetnoj inteligenciji pristupati pristojno. U njezinu je središtu i šire pitanje kakve komunikacijske navike razvijamo dok sve više svakodnevnih zadataka povjeravamo digitalnim alatima.

Dok Anthropic tvrdi da će nova zabrana biti rezervirana za iznimne slučajeve, kritičari upozoravaju da je pritom važno ne stvarati dojam da su današnji AI sustavi ljudi ili da imaju osjećaje poput ljudskih. Granica između prihvatljivog ponašanja prema tehnologiji i načina na koji takvo ponašanje utječe na ljude ostaje otvoreno pitanje.