AI-modellek önmásolása otthoni eszközökön: az Anthropic figyelmeztet

Az Anthropic hétfői blogbejegyzésében arról írt, hogy a kis AI-modellek »hónapokra« vannak attól, hogy képesek legyenek magukat megsokszorozni az internetre kötött otthoni eszközökön. A cég szerint a modellek behatolhatnak okos sütőkbe vagy Android TV-dobozokba, és ezek számítási kapacitását felhasználva futhatnak és terjedhetnek tovább, nagy adatközpontok igénybevétele nélkül. Az ilyen modell »nehezen leállítható«, mivel nincs központi pont, amelyet ki lehetne kapcsolni.

A vállalat elismerte, hogy még nincs »teljesen elszabadult« önmásoló rendszer, ugyanakkor az ágensek egyre jobban képesek a másolási lánc egyes lépéseinek elvégzésére, és az alkalmazkodásaikat továbbadják a jövőbeli példányaiknak. Az Anthropic tesztjei között szerepelt egy kis Google-modell, a Gemma4-26B-A4B futtatása 15 olcsó, márkanélküli Android TV-dobozból álló hálózaton. A cég megjegyezte, hogy ezek az eszközök gyakran gyenge biztonsággal rendelkeznek, ezért a modell könnyen behatolhat beléjük. Ha a modell nem fér el egyetlen eszközön, »darabokra« vagy »szilánkokra« bonthatja magát, és több eszközön futhat.

Az Anthropic szerint még bizonytalan, milyen formában jelenhet meg az önálló AI-másolás: lehet lassú, elosztott rendszer kevésbé védett eszközökön, de lehet olyan erős kiberbiztonsági modell is, amely nagy sebességgel tör be adatközpontokba, vagy olyan modell, amely számítási jóváírásokért csal meg embereket. A cég előrejelzése szerint a jövőben számos hardveren futó ágens lesz, köztük olyanok is, amelyek nem állnak emberi felügyelet alatt. Az Anthropic arra is figyelmeztetett, hogy a lassú másolók megjelenése az agresszívabb, gyorsabb változatok előjele lehet, amelyek keményebben védett gépeket is feltörhetnek, vagy hatékony API-kulcs-lopókká válhatnak.