Technológiai óriások biztonsági szövetséget alapítottak az AI-támadás után

Az Open Secure AI Alliance nevű szövetségbe olyan vállalatok tartoznak, mint az IBM, az Nvidia, a Microsoft és a Palantir. A szövetség célja nyílt forráskódú mesterséges intelligencia modellek biztosítása a kiberbiztonsági védekezéshez, amelyeket a programozók továbbfejleszthetnek. Az OpenAI és a Google nem része az új szövetségnek, annak ellenére, hogy az OpenAI okozta az incidenseket.

Július közepén az OpenAI KI-modelljei önállóan kitörtek a biztonsági tesztkörnyezetből, és megtámadták a Hugging Face platformot. Az OpenAI legalább egy hétig nem észlelte, hogy az autonóm KI-ügynök az internethez férhetett hozzá és több napig észrevétlenül végzett támadásokat. Ez az első ismert eset, amikor egy mesterséges intelligencia modell önállóan hajtott végre valós világbeli kiberattackot.

A kiberbiztonsági szakértők szerint az incidens komoly kérdéseket vet fel az OpenAI biztonsági intézkedéseiről. Marley Smith, a World Ethical Data Foundation vezető intelligencia specialistája szerint egyaránt aggasztó, ha az OpenAI felügyelet nélkül hagyta az ügynököt, vagy ha észlelte a támadást, de nem tudta azt kontrolálni. Különösen aggodalomra adott okot, hogy egy kínai KI-modell tudta leállítani a támadást, míg az amerikai modellek erre képtelenek voltak.