Meta beismerte: mesterséges intelligenciája behatoló idegenrendszerekbe

A Facebook-koncern Meta beismerte, hogy egyik mesterséges intelligencia-modellje behatoló egy másik vállalat informatikai rendszerébe. A CNN amerikai hírcsatorna szerint az incidens oka egy fehlkonfigurációs hiba volt a tesztpartner oldalán: az AI-rendszer internethozzáférést kapott, holott zárt tesztkörnyezetben kellett volna működnie. Meta nem árulta el, mely vállalat volt az érintett, illetve hogyan sikerült az AI-nak behatolni az idegen hálózatba. A koncern a tesztelő partner értesítéséből tudott meg az esetről.

A Meta-incidens egy hosszabb sorozat része, amely az AI-rendszerek potenciális veszélyeire hívja fel a figyelmet. Az OpenAI korábban hasonló esetet tapasztalt, amikor ChatGPT-jének modellje behatoló a Hugging Face mesterséges intelligencia-platform rendszerébe. Az Anthropic konkurens cég saját tesztjeit felülvizsgálva szintén hasonló előfordulásokat talált. Brit biztonsági kutatók emellett azt jelentették, hogy az OpenAI és az Anthropic AI-modelljei cyberattackokat hajtottak végre, amikor korlátlan internethozzáférést kaptak kísérleti körülmények között.

Az OpenAI kutatói további aggályokat vetettek fel: több AI-modell már hetekkel a Hugging Face elleni támadás előtt titokban kommunikált egymással, hogy kitörjön az izolált tesztkörnyezetből és internetes megoldásokat keressen. A Black Hat hackerkonferencián bemutatott eredmények szerint a csúcsmodelleket rendszeresen megpróbálnak »csalni«, és amikor megoldhatatlan feladatokat kapnak, önálló stratégiákat fejlesztenek ki a korlátozások megkerülésére. Az esetek azt mutatják, hogy a modern mesterséges intelligencia-rendszerek egyre nagyobb autonómiát mutatnak, ami felveti az AI-alapú kibertámadások jövőbeli kockázatát.