U svjetlu sve većih zabrinutosti da bi umjetna inteligencija mogla izbjeći ljudskoj kontroli, vodeći stručnjaci pozivaju tvrtke koje razvijaju napredne AI sustave da naprave rigorozne sigurnosne izračune prije nego što puste u rad svoje moćne tehnologije.

Max Tegmark, profesor fizike i istraživač umjetne inteligencije na MIT-u, usporedio je potrebu za takvim izračunima s onima koje je američki fizičar Arthur Compton napravio prije prvog nuklearnog testa 1945. godine. Tegmark i njegov tim predlažu da se izračuna tzv. “Comptonova konstanta” – vjerojatnost da će sveprisutna umjetna superinteligencija izmaknuti ljudskoj kontroli i predstavljati egzistencijalnu prijetnju čovječanstvu.

Prema Tegmarku, tvrtke koje razvijaju superinteligentne AI sustave ne smiju se oslanjati samo na osjećaj sigurnosti, već moraju znanstveno i precizno procijeniti rizike. U svojoj studiji on navodi da je vjerojatnost da ASI postane prijetnja čak 90 posto, što zahtijeva ozbiljan pristup sigurnosti.

Ovaj poziv dolazi u trenutku kada se globalna AI zajednica, uključujući stručnjake iz vodećih tehnoloških kompanija poput OpenAI i Google DeepMind, kao i akademike i predstavnike državnih tijela, okuplja kako bi definirala prioritete za sigurni razvoj umjetne inteligencije. Izrađen je i dokument poznat kao Singapurski konsenzus o globalnim prioritetima istraživanja AI sigurnosti, koji naglašava tri ključna područja – mjerenje utjecaja AI sustava, definiranje željenog ponašanja AI te upravljanje i kontrolu nad tim sustavima.

Podsjetimo, Tegmark je jedan od suosnivača Future of Life Institutea, neprofitne organizacije koja promiče siguran razvoj umjetne inteligencije. Institut je 2023. godine objavio otvoreno pismo potpisano od preko 33.000 ljudi, uključujući Elona Muska i Stevea Wozniaka, u kojem se poziva na privremenu obustavu razvoja najmoćnijih AI sustava zbog zabrinutosti oko njihove kontrole i sigurnosti.

Ovaj apel za rigoroznim izračunima i međunarodnom regulacijom predstavlja novi važan korak.