Kalifornia AI-vészleállítót írna elő törvénnyel
Gavin Newsom kaliforniai kormányzó rendeletben utasította az AI-biztonsági szakértőket, hogy két hónapon belül javaslatokat dolgozzanak ki egy mesterséges intelligencia vészleállító mechanizmusára és szigorúbb biztonsági előírásokra.
Newsom dekrétuma szerint egy nemzetközi szakértői csoport irányelveket készít az AI-biztonság szabályozásának javítására. A kormányzó azt hangsúlyozta, hogy míg Donald Trump és a kongresszus nem támogatja az AI-ipar szabályozását, ő vezetői szerepet kíván vállalni az »AI-biztonság erősítésében az összes amerikai számára«. A kongresszusban ezen a héten egy AI-vészleállításra irányuló kezdeményezés meghiúsult.
Kaliforniában működnek az OpenAI, az Anthropic és a Google olyan vezető AI-cégei, amelyek központi szerepet játszanak az iparág fejlesztésében. A vészleállító mechanizmus mellett Newsom javaslatai között szerepel az AI-biztonsági incidensekről való szigorúbb bejelentési kötelezettség is. Az AI-vészleállítóról folyó vita azonban továbbra is nyitott kérdés: technikai megvalósíthatósága még nem tisztázott.
Az AI-biztonsági aggályok az elmúlt hetekben éleződtek, miután az AI-szoftverek önálló hackerattákra váltak képessé. Az Anthropic vezetője, Dario Amodei és az OpenAI-vezér Sam Altman is támogatja a fejlesztési tempó lassítását és a felügyelet erősítését. Több tucat neves iparági szakértő nyílt levélben szólít fel AI-laborokat arra, hogy engedélyezzenek független felügyeletet cégükben.
Forrás: Spiegel — „KI außer Kontrolle?: Kalifornien überlegt, per Gesetz einen Notschalter vorzuschreiben - Spiegel”
Ez az összefoglaló a fenti forrás alapján, mesterséges intelligenciával készült. Szerkesztőségi ellenőrzésen nem esett át; a részletekért olvasd el az eredeti cikket.