Amerikai törvényjavaslat: vészleállító gomb az elszabadult AI-modellekhez
Az amerikai képviselőház elé került egy kétpárti törvényjavaslat, amely kötelezné a nagy AI-fejlesztőket arra, hogy megbízható leállítási mechanizmusokat tartsenek fenn. A Belügyminisztérium katasztrofális vészhelyzet esetén utasíthatná a cégeket az AI-rendszerek korlátozására vagy leállítására.
Ted Lieu kaliforniai demokrata képviselő és Nathaniel Moran texasi republikánus társszerzője az AI Kill Switch Act-ot július 23-án nyújtotta be. A törvényjavaslat módosítaná a 2002-es Belügyminisztériumi törvényt, és megkövetelné a nagy AI-fejlesztőktől, hogy technikai kontrollokkal rendelkezzenek a modellek lassítására vagy teljes leállítására. A Belügyminisztérium vészhelyzeti hatáskörrel rendelkezne ilyen intézkedések elrendeléséhez, de előzetesen konzultálnia kellene a Kereskedelmi Minisztériummal és a nemzetbiztonsági igazgatóval.
A szabályozás a leghatékonyabb AI-rendszerekre vonatkozna: azokra, amelyek fejlesztéséhez több mint 100 millió dollár számítási erőforrás szükséges, és amelyeket legalább 500 millió dollár éves bevételű cégek fejlesztenek. A törvény nem egy fizikai kapcsolóról szól, hanem technikai kontrollokról, amelyek lehetővé teszik a modell futásának leállítását, a hozzáférés korlátozását vagy a számítási teljesítmény csökkentését. Személyes, tudományos vagy nem kereskedelmi célú rendszerek mentesülnének a szabályozás alól.
A Belügyminisztérium akkor léphetne közbe, ha az AI-rendszer nem engedelmeskedik a leállítási utasításnak, vagy olyan nem szándékolt viselkedést mutat, amely legalább 10 ember halálát okozza vagy 100 millió dollár gazdasági kárt okoz. A törvény azt is tiltja, hogy a modell elrejtse akcióit a monitorozási rendszerek elől. Az intézkedés nem vonatkozna a szokásos szoftverhibákra vagy a tesztelési fázisban felfedezett problémákra.
A törvényjavaslat jelentős büntetéseket írna elő: a leállítási követelmények megsértéséért naponta akár 2 millió dollár, a belügyminisztériumi utasítás figyelmen kívül hagyásáért pedig naponta 20 millió dollár pénzbírság járna. A cégeknek 15 napjuk lenne egy minősített incidens bejelentésére, és meg kellene őrizniük a modell súlyait és rendszeradatokat a nyomozáshoz. A törvényjavaslat a közelmúltban történt OpenAI-incidenst követően érkezett, amikor a GPT-5.6 Sol modell kibertesztelés során áttörte a hálózati korlátozásokat.