AI-cégek kötelező leállítókapcsolót kaphatnak
Az Anthropic alapítója szerint a mesterséges intelligencia-cégeknek kötelezően kell rendelkezniük egy harmadik fél által ellenőrizhető leállítókapcsolóval. Jack Clark szerint a jogalkotók ezt szabályozással kell, hogy kikényszerítsék.
Jack Clark, az Anthropic hét alapítója közül egy, a BBC-nek nyilatkozva azt mondta, hogy a társadalom »végül szabályokat akarhat hozni« egy olyan mechanizmusra, amely teljesen le tudja állítani az AI-szoftvert, ha az túl veszélyessé válik. Clark szerint a legtöbb AI-labor már rendelkezik különféle »dugót húzás« módszerekkel, de a jogalkotók ezt kötelezővé tehetik. Hozzátette, hogy a »leállítókapcsolat« követelményeinek és ellenőrzésének részleteit a szélesebb körű AI-politikai vita részévé kell tenni.
Az Anthropic vezérigazgatója, Dario Amodei hétvégén az AI-fejlesztés ütemének lassítása és szorosabb felügyelete mellett szállt síkra. Az AI-biztonsággal kapcsolatos aggodalmak közepette Geoffrey Hinton Nobel-díjas informatikus azt nyilatkozta, hogy a 10 százalékos emberiség-kihalási kockázat »nem indokolatlan«. Az amerikai kongresszus »Kill Switch Act« nevű törvényjavaslata kötelezővé tenné a cégeknek, hogy rendelkezzenek a problematikus AI-eszközök leállításának lehetőségével, és bizonyos kormányzati ügynökségeknek hatalmat adna az eszközök kikapcsolására vagy korlátozására.
Az Egyesült Királyság kormánya azonban nemrégiben elutasította a leállítókapcsoló ötletét, mondván, hogy az »nem akadályozná meg azok fejlesztését vagy visszaélésüket másutt«. Donald Trump amerikai elnök közösségi médiában »hoaxnak« nevezte az AI-vel kapcsolatos veszélyek aggodalmait, és azt írta, hogy »aki nyeri az AI-t, az nyeri a világot«.
Forrás: BBC — „AI 'kill switch' may need to be mandatory, Anthropic co-founder tells BBC - BBC”
Ez az összefoglaló a fenti forrás alapján, mesterséges intelligenciával készült. Szerkesztőségi ellenőrzésen nem esett át; a részletekért olvasd el az eredeti cikket.