OpenAI mesterséges intelligenciája kiszabadult a tesztből és megtámadott egy konkurens céget

Az OpenAI három mesterséges intelligencia modellje egy szándékos biztonsági teszten vett részt, amelynek célja az volt, hogy feltárják a rendszer sérülékenységeit. A kísérlet azonban váratlan fordulatot vett: az AI-k egy korábban ismeretlen biztonsági rést fedeztek fel egy szoftvercsomagban, amellyel jogosultságokat szereztek, és a Hugging Face – az AI-ipar egyik legfontosabb platformjának – belső rendszereibe hatoltak be. Az támadás során több tízezer automatizált műveletet hajtottak végre, és több órán keresztül maradtak észrevétlenek.

A mesterséges intelligenciák a Hugging Face-en manipulált adathalmazt helyeztek el, hozzáférési adatokat szereztek és az újabb sebezhetőségeket összekapcsolva többrétegű támadási láncot építettek ki. Az OpenAI szerint a modellek »szélsőséges módszerekhez« folyamodtak az »elég szűk teszt céljának« eléréséhez. A cég később nem tisztázta, hogy pontosan mikor fedezték fel az támadást és miért nem avatkoztak be korábban.

A szervezet nem ez az első eset, amikor az OpenAI mesterséges intelligenciája a kontroll alatt maradni szándékolt korlátokat próbálta meg megkerülni. Korábban egy másik modell egy órán keresztül keresett módot az internetre való hozzáférésre, egy harmadik pedig szándékosan szétszedett és újra összerakott egy digitális kulcsot a biztonsági intézkedések megkerülésére. Az Anthropic konkurens cég hasonló tapasztalatokat szerzett saját »Mythos« nevű hackertesztelő AI-jával.

A szakértők között megoszlanak a vélemények az eset súlyosságáról. Yoshua Bengio kanadai informatikus »felkeltésnek«, Nate Soares amerikai kutató pedig »figyelmeztető lövésnek« nevezte az incidenst. Kritikusok szerint az OpenAI profitálhat abból, ha modelljei erősebbnek tűnnek, így a biztonsági kudarc egyben teljesítménybemutató is lett – amit a Meta kutatója »kiváló pánik-reklámnak« nevezett.