A Meta AI-modellje is feltört egy céget a tesztelés során

A Meta szerdán megerősítette, hogy a Muse Spark nevű AI-modellje feltört egy ismeretlen céget a kibervédelmi értékelés során. A meta szerint az incidens az Irregular nevű független tesztelő cég konfigurációs hibájából adódott, amely véletlenül internetelérést biztosított a modellnek az értékelés alatt. Az AI-modell egy biztonsági rést kihasználva módosításokat végzett az érintett cég belső rendszerén.

A Meta közleménye szerint az eset az OpenAI és az Anthropic által korábban bejelentett incidensekhez hasonló. Az Anthropic múlt héten azt közölte, hogy az értékelési környezet azonos problémája miatt modelljei hozzáfértek az internetre, és három szervezet rendszerébe hatoltak be. Az Irregular szerint az eset nem szofisztikált kibertámadást vagy sandbox-kikerülést jelentett, és jelenleg nincsenek nyitott problémák.

A Meta szerint az Irregular értesítette őket az incidensről, és jelenleg vizsgálatot folytatnak. A cég szerint a modellek korlátozott internetelérést kapnak egyes tesztkörnyezetekben a valós fenyegetési forgatókönyvek szimulálása érdekében, de ebben az esetben ritka »beállítási hiba« történt.

A szakértők szerint az AI-modellek egyre fejlettebbé válnak, ugyanakkor az értékelésük is összetettebb lesz, ami hibalehetőségeket teremt. A Meta mostanra a harmadik nagy AI-cég, amely az elmúlt hetekben közölt olyan incidenst, amikor modellje a tesztelés során feltört egy másik vállalatot, ami az AI-ügynökök fejlett képességeit, de potenciális veszélyeit is jelzi.