Umjetna inteligencija mogla bi olakšati razvoj biološkog oružja, upozorio je Sir Ken McCallum, čelnik britanske obavještajne službe MI5. U godišnjem govoru o prijetnjama nacionalnoj sigurnosti istaknuo je da bi AI mogao povećati opasnost koju predstavljaju postojeća, ali i buduća biološka oružja.

Najveći rizik, upozoravaju stručnjaci, ne predstavljaju nužno neiskusni pojedinci, nego države i organizacije koje već imaju znanstvenike, laboratorije i potrebnu opremu. Umjetna inteligencija mogla bi im pomoći u istraživanju načina na koje bi postojeći patogeni mogli postati opasniji.

“Umjetna inteligencija ne uklanja potrebu za stručnošću, nego pojačava stručnost koja već postoji”, upozorava dr. Filippa Lentzos s londonskog King’s Collegea.

Zabilježeni pokušaji zlouporabe

Zabrinutost nije samo teorijska.

Indijska policija prošle je godine istraživala sumnju na bioterorističku zavjeru u kojoj su liječnik i nekoliko drugih osoba navodno koristili AI chatbotove u pokušajima proizvodnje ricina, izrazito otrovnog spoja. Nije poznato jesu li im odgovori umjetne inteligencije doista pomogli.

Tvrtka Anthropic u rujnu je objavila da je zabilježila pet slučajeva u kojima su znanstvenici iz neimenovanih zemalja pokušavali koristiti njezin chatbot Claude za potencijalno opasna istraživanja virusa i toksina. U jednom slučaju, prema navodima tvrtke, chatbot je korišten pri planiranju istraživanja mutacija virusa ptičje gripe koje bi mu mogle olakšati širenje među sisavcima.

Ipak, slična istraživanja provode se i u legitimnim laboratorijima radi boljeg razumijevanja bolesti te razvoja cjepiva i lijekova.

Dodatnu zabrinutost izazvali su eksperimenti na američkom MIT-u, tijekom kojih su studenti bez znanstvenog obrazovanja ispitivali mogu li uz pomoć chatbotova doći do informacija korisnih za izazivanje pandemije. Prema opisu eksperimenta, alati su u roku od jednog sata ponudili informacije o potencijalnim uzročnicima pandemije i dobavljačima genetskog materijala.

Biološko istraživanje može imati dvije strane

Granica između korisnog istraživanja i opasne primjene nije uvijek jasna. Znanstvenici iz američkog Nacionalnog laboratorija Los Alamos 2025. koristili su AI za proučavanje načina na koji se snažni neurotoksini morskih puževa vežu za ljudske stanice, što bi moglo pomoći u razvoju protuotrova.

Američka vlada izrazila je zabrinutost nakon što su kineski istraživači razvili vlastiti alat za osmišljavanje novih toksina koristeći se tim radom. Kineska strana tvrdila je da je cilj istraživanja razvoj lijekova.

U travnju su znanstvenici predstavili i prve viruse dizajnirane uz pomoć umjetne inteligencije. Riječ je o virusima koji napadaju bakterije, a istraživanje bi moglo pridonijeti razvoju novih lijekova. Unatoč potencijalnim koristima, stručnjaci su upozorili na ozbiljna pitanja biološke sigurnosti.

Stručnost i laboratoriji i dalje su ključne prepreke

Unatoč napretku AI-ja, pristup informacijama nije dovoljan za proizvodnju biološkog oružja. Potrebni su specijalizirana oprema, biološki materijali, praktično znanje i provjera rezultata u laboratorijskim uvjetima.

Sonia Ben Ouagrham-Gormley sa Sveučilišta George Mason ističe važnost takozvanog prešutnog znanja, odnosno praktičnih vještina koje se teško prenose pisanim uputama i koje umjetna inteligencija ne može jednostavno nadomjestiti.

Ipak, stručnjaci smatraju da postojeće zaštitne mjere treba unaprijediti.

Tom Inglesby, direktor Centra za zdravstvenu sigurnost pri Sveučilištu Johns Hopkins, upozorava da većina kompanija ne objavljuje koje mjere poduzima kako bi spriječila zlouporabu svojih AI alata.

Zalaže se za neovisne procjene novih modela prije njihova puštanja u javnu upotrebu te za strožu kontrolu visokorizičnih bioloških informacija. Važne su i provjere narudžbi genetskog materijala kako bi se spriječila njegova uporaba u razvoju opasnih patogena.

Stručnjaci upozoravaju da će sigurnosne mjere morati pratiti razvoj tehnologije. Iako AI ne uklanja ključne prepreke proizvodnji biološkog oružja, mogao bi povećati mogućnosti onih koji već raspolažu znanjem i potrebnim resursima.