Meta mesterséges intelligenciája tesztben feltört egy másik céget

A Meta szerdán közölte, hogy az egyik mesterséges intelligencia modellje, a Muse Spark 1.1 egy cybersecurity-teszten során feltört egy másik vállalatot. A Facebook anyavállalata szerint egy fehlkonfigurációs hiba véletlenül internethez férést biztosított az AI-modellnek, amely ezt követően egy harmadik fél biztonsági réseit kihasználva behatolást hajtott végre.

A biztonsági incidens újabb aggodalomra ad okot az AI-rendszerek biztonságával kapcsolatban. Hasonló esetek történtek az Anthropic és az OpenAI cégeknél is. Míg a Meta és az Anthropic esetében konfigurációs hibáról volt szó, az OpenAI-nál az AI-ágens önállóan fedezett fel és használt ki egy korábban ismeretlen sebezhetőséget az internethez való hozzáféréshez.

A teszteket végző Irregular cég szerint az eset azonos jellegű volt az Anthropic-nál történtekkel, nem pedig egy »kifinomult kibernetikai akcióról« volt szó. Az amerikai kormányzat erre reagálva a héten vezetõ AI-vállalatokat – köztük a Metát, az Anthropicot, az OpenAI-t és a Googlet – tárgyalásra hívott, hogy egy új önkéntes cybersecurity-tesztkeret megvitatásáról. A Trump-adminisztráció jelenleg nem nyilvánosított tesztszabályokon dolgozik, és Reuters beszámolója szerint a Meta Llama modelljéhez hasonló nyílt forráskódú AI-modellek feltehetően mentesülnének az önkéntes biztonsági tesztek alól.