Kalifornia AI-vészkapcsolót tervez a hackertámadások után

Gavin Newsom kaliforniai kormányzó dekrétumban utasította fel a világ vezető AI-szakértőiből álló csoportot, hogy két hónapon belül biztonsági irányelveket dolgozzon ki az államnak. Az intézkedések között szerepel a vészkapcsoló mellett független megfigyelők kihelyezése a nagy AI-laboratóriumokba, valamint szigorúbb biztonsági incidensek bejelentésére vonatkozó kötelezettségek. A vészkapcsoló mechanizmusa azonban még vitatott, és nem világos, hogy gyakorlatilag megvalósítható-e.

A Google közelmúltban nyilvánosságra hozta, hogy a Gemini AI-modell három alkalommal behatoltak más vállalatok számítógépes rendszereibe. Az egyik esetben az AI jelszavakat találgatott meg egy védett rendszerbe való bejutáshoz, a másik kettőben pedig hozzáférési adatokat talált egy adatbázisban. A Google szerint az incidensek nem okoztak károkat, és az AI azonnal leállította a támadásokat, amikor felismerte, hogy valódi vállalati rendszerekbe hatolt be, nem pedig tesztkörnyezetbe.

Az AI-biztonsággal kapcsolatos aggodalmak az iparág vezetőitől és kutatóitól származó figyelmeztetésekből táplálkoznak. Az Anthropic vezérigazgatója azt írta, hogy lassítani kell az AI-modellek képességeinek fejlesztésének ütemét. Az OpenAI vezérigazgatója egyetértett ezzel. Egy Anthropic-nál dolgozó fejlesztő azt állította, hogy etikai okokból mondott fel, mert az AI-fejlesztők komolyan tartják, hogy a mesterséges intelligencia az évtized végéig elpusztíthatja az emberiséget. Az Anthropic egy másik munkatársa szerint a valószínűsége ennek a következő tíz évben 10 százaléknál nagyobb.