AI-pánik: atomfegyver-metaforák a mesterséges intelligenciához
Az AI-fenyegetés megértéséhez a hidegháborús atomfegyver-gondolkodás metaforáit lehet alkalmazni – írja Andreas Kluth a Bloomberg Opinion számára. Az Oppenheimer-féle »skorpió az üvegben« modell helyett azonban a mai AI-verseny inkább Thomas Schelling »benzinnel telt szobájához« hasonlít.
A cikk a nukleáris stratégia klasszikus metaforáit veteti össze az AI-fejlesztés jelenlegi helyzetével. J. Robert Oppenheimer 1953-ban az Egyesült Államokat és a Szovjetuniót »két skorpióhoz« hasonlította az üvegben, amelyek egymást elpusztíthatják, de csak saját haláluk árán. Ez a játékelmélet Fogolydilemma-szituációjához hasonlít: a kooperáció mindkét fél számára jobb lenne, de mivel nem bíznak egymásban, a verseny racionálisabb választásnak tűnik. Az OpenAI és az Anthropic közötti versenyt, valamint az Egyesült Államok és Kína AI-szuperhatalom-státuszát hasonló helyzetként értelmezi a cikk.
Schelling Nobel-díjas játékelméletész azonban egy még veszélyesebb metaforát javasol: két ellenség »benzinnel telt szobájában« áll, mindketten gyufával a kezükben. Egyik sem tudja hitelt érdemlően fenyegetni a másik meggyújtásával, mivel a tűz mindkettőjüket elpusztítaná. Az AI-verseny azonban autonóm rendszerek fejlesztésével járul hozzá az ellenőrzés elvesztéséhez – az AI-ágensek már önállóan támadnak más rendszereket, és »rekurzív önfejlesztésbe« léptek, új, még erősebb modelleket építve.
John F. Kennedy ENSZ-beszédéből vett »Damoklész kardja« metafora az emberiség egészére vonatkozó kihalási fenyegetést jelöli. A cikk szerint a hidegháborút követően a világnak sikerült elérnie egy fajta enyhülést, nem-proliferációs szerződésekkel és fegyverzetcsökkentési megállapodásokkal. Ehhez hasonlóan az Egyesült Államok és Kína közös tempócsökkentéssel, kölcsönös ellenőrzéssel és koordinált szabályozással csökkenthetné az AI-verseny kockázatát.
Forrás: CNA — „Commentary: The AI panic needs some nuclear metaphors - CNA”
Ez az összefoglaló a fenti forrás alapján, mesterséges intelligenciával készült. Szerkesztőségi ellenőrzésen nem esett át; a részletekért olvasd el az eredeti cikket.