Američki zakonodavci žele dati vladi mogućnost da brzo naredi isključivanje alata umjetne inteligencije (AI) koji bi mogli ugroziti javnost. Iza inicijative stoje demokratski kongresmen Ted Lieu i njegov republikanski kolega Nathaniel Moran, a sve je uslijedilo nakon nedavnog priznanja OpenAI-ja da su njihovi AI modeli izmakli kontroli na “neviđen način i hakirali glavnu bazu računalnog koda”, piše BBC.

Lieu je rekao da je “neophodno da sustavi umjetne inteligencije imaju prekidač za gašenje i da savezna vlada mora imati jasne ovlasti i postupak za gašenje lažnih modela umjetne inteligencije”.

“Umjetna inteligencija će nastaviti napredovati, i trebala bi. No treba osigurati da ljudi zadrže sposobnost kontrole tehnologije koju gradimo”, dodao je Moran.

Iz OpenAI-a, na čelu sa suosnivačem Samom Altmanom, nisu komentirali inicijativu. Ranije su priopćili kako tvrtka želi osigurati da tehnologija umjetne inteligencije “koristi cijelom čovječanstvu”.

Zakon o isključivanju iz sustava predlaže da se Ministarstvu domovinske sigurnosti dadu ovlasti da naredi privatnoj tvrtki da isključi model ili alat umjetne inteligencije, te da tvrtke koje razvijaju takvu tehnologiju umjetne inteligencije moraju održavati “tehničku sposobnost da ih uspore, obustave ili isključe”. Unatoč tome što su mnoge tehnološke tvrtke pristale s vladinim agencijama podijeliti modele i alate umjetne inteligencije koji se razvijaju, u ovom času nema mogućnosti da se intervenira u njihove aktivnosti ili ih se jednostavno – isključi.

Također se predlaže stvaranje okvira da tvrtke koje se bave umjetnom inteligencijom prijavljuju vladi tehnološke incidente ili kvarove, kao i protokol reakcije na takve incidente – u rasponu od početnog usporavanja do potpunog gašenja.

Inicijativu podržava i Jack Clark, suosnivač Anthropica, koji je prošli je mjesec za BBC izjavio da nema ništa protiv veće vladine mogućnosti kontrole razvoja umjetne inteligencije.

“Želite mogućnost da možete maknuti nogu s gasa i staviti nogu na kočnicu. Trenutno izgleda kao da industrija umjetne inteligencije ima papučicu gasa, ali nema papučicu kočnice”, rekao je.

Lieu je, predlažući zakon, rekao da se umjetna inteligencija trenutno transformira od tehnologije koja odgovara na pitanja prema tehnologiji koja poduzima akciju, “bilo da se radi o izvršavanju financijskih transakcija ili kontroli transportnih sustava ili sudjelovanju u kibernetičkoj obrani i napadu”.

“Nažalost, moćni AI sustavi mogu postati nefunkcionalni, ponašati se na izuzetno opasan način ili čak odoljeti ljudskoj intervenciji”, naveo je Lieu, dodajući da će vlada s novom regulativom imati metodu za brzu intervenciju u takvoj situaciji.