AI-jelentés majdnem háborút váltott ki az USA-ban
Az amerikai katonai hírszerzés tavasszal egy mesterséges intelligencia által generált hamis jelentésre alapozva készült fel egy kínai hajó elfogására, amely szinte fegyveres konfliktushoz vezetett volna. Az eset rámutat az AI-alapú célzás katonai alkalmazásának kockázataira.
A CNN által megszerzett információk szerint az USA Különleges Műveleti Parancsnoksága egy elemzőjének AI-chatbotja tévesen azonosította egy kínai hajó szállítmányát, amely állítólag nukleáris fegyverprogram alkatrészeit tartalmazta. Az amerikai hadsereg azonnal akcióba lépett: katonai repülőgépek voltak a levegőben, és fegyverzett katonák készültek a hajó elfogására. Az operáció csak az utolsó pillanatban lett leállítva, amikor az elemzők mélyebben megvizsgálták a jelentést, és rájöttek, hogy az »teljesen hamis« volt, és »majdnem háborút indított el«.
Az amerikai védelmi és hírszerzési közösség széles körben igyekszik beépíteni az AI-t munkájuk szinte minden aspektusába – a hatalmas mennyiségű nyers hírszerzési adat elemzésétől a célzásig. Pete Hegseth védelmi miniszter januárban kiadta a Védelmi Minisztérium »Mesterséges Intelligencia Gyorsítási Stratégiáját«, amely a katonai AI-használat felgyorsítására irányul. Az intézkedés decentralizált: a kormányzat különböző részei eltérő eszközöket, eltérő utasítások és biztonsági szabványok szerint használ, és nincs egységes ellenőrzési rendszer az AI által generált információk hitelesítésére.
A szakértők szerint az AI-alapú célzás során jelentős a hibázás kockázata, és nincs valódi útmutató arra, hogy az emberi felügyelet hogyan akadályozza meg a civil áldozatokat. Az egyik forrás szerint az AI »lehetővé teszi, hogy gyorsabban jussunk el egy rossz ötlethez«. Az elemzők között vita folyik arról, hogy az AI-eszközök felhasználása nyomást gyakorol az elemzőkre a gyorsabb hírszerzési közlésre, ami hibákra vezethet, különösen a fiatal elemzők körében, akik hajlamosabbak az eszközöket kritika nélkül megbízni.
Forrás: CNN — „Exclusive: US military had close call after using AI for false intelligence report, sources say - CNN”
Ez az összefoglaló a fenti forrás alapján, mesterséges intelligenciával készült. Szerkesztőségi ellenőrzésen nem esett át; a részletekért olvasd el az eredeti cikket.