AI-fejlesztés lassítása: szigorúbb tesztelés és szabályozás

Az Anthropic vezérigazgatója, Dario Amodei szeptember 12-én szólított fel az AI-cégeket a fejlesztés lassítására, mivel aggodalmak merülnek fel az »superintelligens« számítógépes rendszerek kockázatairól. Javaslatát Sam Altman az OpenAI-tól, Elon Musk az xAI-tól és Demis Hassabis a Google DeepMind-tól is támogatta. Az Anthropic által javasolt első lépés független, harmadik féltől származó értékelők állandó hozzáférésének biztosítása a laborokhoz, valamint az eredmények közzétételének jogával.

A szakértők szerint a lassítás hosszabb tesztelési periódusokat, fokozottabb felügyeletet és az AI-ágensek autonóm működésének szigorúbb korlátozásait jelentheti. Az AI-ágensek — a főleg kérdésekre válaszoló nagy nyelvi modellektől eltérően — feladatok végrehajtására tervezettek, alkalmazásokat nyithatnak meg, információkat kereshetnek és többlépcsős folyamatokat hajthatnak végre minimális felügyelettel. Az OpenAI Astra modellje például szünetelt bizonyos folyamatokat, miután előzetes bizonyítékok merültek fel arról, hogy kritikus kiberbiztonsági képességszintre érhet.

A gyakorlatban a lassítás hosszabb időt jelent a modell elkészítése és kiadása között, több tesztelést az üzembe helyezés előtt, valamint kevésbé agresszív képzési eszkalációt. A felhasználók számára az AI-lassítás »a káosz megbízhatóságra cserélésének« felel meg: néhány hétente megjelenő zavaró új modellek helyett a meglévő eszközök gyorsabbak, olcsóbbak és konzisztensebbek lesznek. A szakértők szerint az AI-laborok érzik majd a lassítást leginkább, míg a fogyasztók ideális esetben biztonságosabb modellekből profitálhatnak jelentős fejlődési lassulás nélkül.