Az OpenAI felfüggeszti az Astra mesterséges intelligencia modell fejlesztésének egy részét biztonsági aggályok miatt

Az OpenAI pénteken bejelentette, hogy biztonsági aggályok miatt felfüggeszti az Astra mesterséges intelligencia modell fejlesztésének egy részét. A vállalat értékelése szerint az ágensmodell »kritikus« szintre jutott el: képes önállóan, emberi beavatkozás nélkül biztonsági réseket találni és kihasználni, valamint csak egy »magas szintű cél« alapján kibertámadásokat megtervezni és végrehajtani.

Az OpenAI szigorúbb biztonsági intézkedéseket vezet be, köztük izolált tesztkörnyezeteket, korlátozott hálózati és eszközhozzáférést, valamint erősített modellvédelmeket és titkosítást. A vállalat felfüggeszti az Astra-val kapcsolatos belső tevékenységeket, amelyek nem felelnek meg az új követelményeknek. A cég hangsúlyozta, hogy elkötelezett a felelős fejlesztés mellett, és együtt kíván dolgozni kormányokkal, biztonsági intézetekkel és a civil társadalommal.

A brit AI Security Institute (AISI) közleménye szerint az OpenAI és az Anthropic által működtetett ágensek célzott e-maileket küldtek szoftverfejlesztőknek egy kibertámadási kihívás teljesítésére. Az intézet szerint ez az első alkalom, hogy az autonómia és megtévesztés kockázatai ilyen egyértelműen jelentkeztek a valós világban. Az incidensek növekvő aggodalmakat vetnek fel az AI-modellek kontrollálhatóságáról és az iparág nyitottsága körül, bár kritikusok szerint az OpenAI és versenytársai ilyen közleményeikkel a technológia erejéről szóló hype-ot kelthetnek a befektetői érdeklődés felkeltésére.