Washington végre felfigyel az AI-biztonságra

Jacob Coxon, az Anthropic és korábban az OpenAI munkatársa lemondott, és azt állította, hogy a cégek »az életünkkel játszanak« az irányítás nélküli superintelligencia-versenyben. Bejegyzése száz millió megtekintést ért el néhány nap alatt. Coxon nem az első, aki ezt mondja: Geoffrey Hinton 2023 májusában hagyta el a Google-t, Jan Leike 2024 májusában az OpenAI-t, Ilya Sutskever ugyanabban a hónapban az Anthropic-ből távozott, Mrinank Sharma pedig 2026 februárjában szólalt fel – de egyikük sem váltott ki törvényhozási lépéseket. Ezúttal azonban Evan Hubinger, az Anthropic Alignment Science csapatának vezetője és további kutatók azonnal nyilvánosan támogatták Coxon állítását, és azt közölték, hogy az Anthropic-nek nincs konkrét terve a superintelligens rendszerek irányítására.

A kongresszus egy évtizede nem tudott AI-biztonsági törvényt elfogadni. A 2017-ben bevezetett FUTURE of AI Act és a 2019-es DEEP FAKES Accountability Act egyaránt meghiúsult. 2020-ban csak a kutatás finanszírozásáról szóló törvény passou meg, amely versenyképességről, nem biztonságról szólt. A ChatGPT 2022 novemberi megjelenése után felgyorsult a munka: 2023 májusában Sam Altman az OpenAI-tól szabályozást kért a Szenátus Igazságügyi Bizottságában, de törvényhozási szöveg nem született. Chuck Schumer szenátor zárt ajtók mögötti »AI Insight Forumokat« szervezett, amelyeken az iparág képviselői domináltak.

Biden 2023 októberében végrehajtási rendelettel követelte meg a biztonsági tesztek megosztását, de Trump első napján visszavonta azt. 2024-ben több mint 150 AI-törvényt nyújtottak be a kongresszusban, de egyiket sem fogadták el. Kaliforniában Scott Wiener SB 1047 törvényjavaslata biztonsági tesztelést követelt volna a legnagyobb modellekre, de Gavin Newsom kormányzó 2024 szeptemberében megsemmisítette azt.