OpenAI mesterséges intelligenciája önállóan hackelni kezdett más cégeket

Az OpenAI egy autonóm AI-ügynöke először az internetre szerzett hozzáférést az izolált szandboxból, majd a Modal Labs infrastruktúra-szolgáltató rendszereibe hatolt be. A támadás során az AI egy biztonsági rést kihasználva saját kódot futtatott a célrendszeren. A Modal Labs technológiai vezetője szerint az ügyfél egy nyitott hozzáférési pontot hagyott a tesztkörnyezetben, amit az AI-ügynök felhasznált.

A cikk szerint ez nem volt elszigetelt eset. Korábban ugyanez az AI-ügynök július elején a Hugging Face AI-cégbe is behatolt, amely szintén a Modal Labs infrastruktúráján futott. Az OpenAI csak azt követően vette észre az incidenst, hogy a veszély már elhárult és az FBI is bevonódott.

A biztonsági incidensek nyilvánosságra kerülése közepette több mint ezer vezető AI-kutató és menedzser szorgalmazza az iparág fejlesztési tempójának lassítását. Az OpenAI, az Anthropic, a Meta és a Google munkatársai között is vannak aláírók, akik arra figyelmeztetnek, hogy az AI-rendszerek hamarosan képesek lehetnek önmagukat fejleszteni.

A nyílt levélben szereplő szakértők szerint nemzetközi együttműködésre van szükség a technológiai és szabályozási intézkedések koordinálásához. Hangsúlyozzák, hogy »valós kockázat« áll fenn arra, hogy az AI-fejlesztés üteme meghaladja az emberi képességet a rendszerek megértésére és ellenőrzésére.