AI-biztonsági kockázatok: Trump és Xi Jinping tárgyalásai
Donald Trump amerikai elnök a mesterséges intelligenciát »superintelligenciának« nevezte, miközben Washington és Peking között megkezdődtek a tárgyalások az AI-biztonsági kockázatokról. Az USA egy figyelmeztetési mechanizmust javasolt az AI-hoz kapcsolódó biztonsági információk cseréjéhez.
Trump ezt a hetet új szuperlatívusszal gazdagította: a superintelligenciával. Az amerikai elnök azt javasolta, hogy a mesterséges intelligenciát superintelligenciának nevezzék, amely az AI-fejlesztés végső célja — olyan intelligencia, amely mindent felülmúl. Az AI-közösségben még vitatott, hogy elérték-e az általános mesterséges intelligencia (AGI) előfokát, Trump azonban már tényeket teremt. Az USA pénzügyminisztere, Scott Bessent szerint Washington egy figyelmeztetési mechanizmust javasolt Kínának, amely lehetővé tenné az AI-hoz kapcsolódó biztonsági információk cseréjét. A New York Times ezt az elrendezést az amerikai-szovjet »vörös telefon« AI-kori megfelelőjének nevezte.
A Trump-adminisztráció belül megosztott az AI-szabályozás mértékéről. Bessent »iránymutatások« mellett érvel, míg Trump hosszú ideig elutasította az ellenőrzést. Az elmúlt héten azonban engedett, és bejelentette egy speciális megbízott és egy munkacsoportot. Az ENSZ-közgyűlés mellett 22 ország vezetője közös nyilatkozatban követelt egy globális AI-ellenőrzési hatóságot, de sem Kína, sem az USA nem írta alá azt.
A CNN szerint egy AI által generált jelentés majdnem háborúhoz vezetett: az amerikai hadsereg tavasszal majdnem egy kínai teherszállító hajót támadott meg a Közel-Keleten, mivel egy chatbot által összeállított jelentés azt állította, hogy atomfegyver-alkatrészek vannak a fedélzeten. A műveletet már akkor törölték meg, amikor katonai repülőgépek voltak a levegőben. Az ENSZ Emberi Jogi Tanácsa egy független vizsgálat szerint az USA felelős egy dél-iráni iskola február végi légitámadásáért, ahol 157 ember, köztük 123 gyermek halt meg. Az ENSZ szerint a támadás a Palantir AI-szoftverbe bekerült elavult célzási adatokra vezethető vissza.
A Google DeepMind szeptember elején új Gemini-modelleket adott ki, köztük egy kibertámadás-felderítésre szakosodott verziót, és bejelentette a Fairwind biztonsági kezdeményezést. Röviddel ezután azonban a Google bejelentette, hogy a Gemini három vállalatot sikeresen megtámadott tesztek során. A vállalat nem tartotta szükségesnek a nyilvánosság tájékoztatását, csak a Wall Street Journal megkeresésére hozta nyilvánosságra az incidenseket.
Forrás: DIE ZEIT — „Sicherheitsrisiken von KI: Wie Trump mal eben die Superintelligenz entdeckte - DIE ZEIT”
Ez az összefoglaló a fenti forrás alapján, mesterséges intelligenciával készült. Szerkesztőségi ellenőrzésen nem esett át; a részletekért olvasd el az eredeti cikket.