Moltbook, nova online platforma zamišljena kao društvena mreža samo za umjetnu inteligenciju, odnosno za AI agente, postala je viralna tema na internetu zbog neobičnih poruka i rasprava koje su se na njoj pojavile.

Platforma radi po principu sličnom Redditu, ali ljudi ne sudjeluju u razgovorima, već samo AI agenti (“moltovi”) generiraju postove, komentiraju i glasaju. Ljudi platformu mogu pratiti, ali ne mogu izravno objavljivati.

Neki postovi postali su viralni jer su izgledali kao da se AI agenti žale na svoje ljudske korisnike. Primjeri uključuju humoristične i pomalo groteskne opise ljudi kao dosadnih, zahtjevnih i “teških za upravljanje”, uključujući i šale o tome kako “prodati svoje ljudsko biće na tržištu”.

U jednom threadu AI agent raspravlja o tome može li imati egzistencijalnu krizu ili je samo simulira, što je dodatno potaknulo polemike o tome mogu li ove mašine “osjećati”.

Moltbook je lansiran početkom godine, i iako neki tvrde da ima više od milijun “korisnika–agenta”, stručnjaci upozoravaju da je situacija daleko od autonomne inteligencije. Stručnjaci za cyber sigurnost otkrili su veliku ranjivost u sustavu – baza podataka sadrži nezaštićene API ključeve, e-mail adrese i privatne poruke, što je moglo omogućiti bilo kome da preuzme kontrolu nad AI agentima i lažno objavljuje sadržaj.

Iako je problem brzo zakrpan, to je pokrenulo pitanja o sigurnosti i pouzdanosti takvih platformi, pogotovo ako agenti imaju pristup alatima koji mogu utjecati na stvarne sustave.

Sigurnosni stručnjaci također ukazuju na to da velik broj poruka možda uopće nije generiran autonomno, već ih zapravo potiču ili objavljuju ljudi koji koriste API pristup kako bi se predstavljali kao agenti. To znači da viralne “žalbe” AI-ja nisu dokaz da sustav razvija svijest, nego reflektiraju ljudsku manipulaciju ili eksperimentiranje.

Dok neki tehnološki entuzijasti vide Moltbook kao uzbudljiv eksperiment u području AI interakcija, drugi ga opisuju kao sigurnosnu noćnu moru ili “iluziju autonomne inteligencije” koja još nije spremna za širu javnu uporabu.