Direktor OpenAI-ja Sam Altman priznao je da tvrtka nema kontrolu nad načinom na koji američka vojska koristi njihove modele umjetne inteligencije.

Prema njegovim riječima, nakon što se tehnologija isporuči vladi, operativne odluke prelaze u ruke vojske. Altman je to poručio zaposlenicima tijekom internog sastanka, naglašavajući da tehnološke kompanije ne sudjeluju u donošenju vojnih odluka.

“Ne donosite operativne odluke”, rekao je Altman zaposlenicima, aludirajući na činjenicu da se odluke o vojnim operacijama donose unutar vlade i vojske, a ne u tehnološkim kompanijama.

Izjava je dodatno rasplamsala raspravu o ulozi privatnih tehnoloških tvrtki u vojnim projektima i odgovornosti za posljedice korištenja umjetne inteligencije na bojištu.

Sporni ugovor omogućuje američkom Ministarstvu obrane, korištenje OpenAI-jevih modela umjetne inteligencije unutar njegovih sigurnih, klasificiranih mreža. Sporazum je potpisan ubrzo nakon što je Pentagon prekinuo suradnju s konkurentskom tvrtkom Anthropic. Ta je kompanija odbila pristati na uvjete koji bi omogućili šire korištenje njezinih AI modela, uključujući scenarije povezane s nadzorom ili autonomnim oružjem.

OpenAI je, s druge strane, pristao na suradnju uz određene zaštitne mjere. Tvrtka tvrdi da njezina tehnologija ne smije biti korištena za masovni nadzor građana niti za potpuno autonomne sustave oružja bez ljudske kontrole.

Ipak, kritičari upozoravaju da jednom kada se tehnologija integrira u vojni sustav, stvarna kontrola nad načinom njezine primjene više nije u rukama proizvođača.

Sporazum je izazvao snažne reakcije unutar tehnološke zajednice. Dio zaposlenika u velikim tehnološkim tvrtkama izrazio je zabrinutost zbog potencijalne upotrebe umjetne inteligencije u ratnim operacijama, posebno u donošenju odluka o ciljanju ili nadzoru.

Rasprava se dodatno intenzivirala zbog izvješća da AI sustavi već imaju ulogu u analizi vojnih podataka i odabiru potencijalnih ciljeva u pojedinim sukobima.

Altman je priznao i komunikacijske pogreške u načinu na koji je sporazum predstavljen javnosti, rekavši da je cijeli proces bio prebrz i nedovoljno jasno objašnjen.