Demokrata szenátorok vizsgálatot követelnek az AI-hibás katonai jelentésekről
Amerikai demokrata szenátorok vizsgálatot követelnek az amerikai hadsereg mesterséges intelligenciával készített célzási terveiben előfordult hibák miatt, miután egy CNN-jelentés feltárta, hogy egy ilyen hiba majdnem háborúhoz vezetett.
Mark Warner, Jack Reed és Chris Coons szenátorok levélben fordultak Pete Hegseth védelmi miniszterhez és Jay Clayton nemzetbiztonsági igazgatóhoz, amelyben egy közeli incidenst említenek példaként: egy különleges műveleti parancsok elemzője AI segítségével készített egy hírszerzési jelentést, amely tévesen azonosította egy kínai teherszállító hajó anyagát. A jelentés alapján az amerikai hadsereg azt hitte, hogy a hajó egy atomfegyver-program alkatrészeit szállítja, és a hadsereg már a műveleti terv végrehajtásához készült, amikor az utolsó pillanatban felfedezték, hogy a jelentés AI-vel készült és »teljesen hamis«.
A szenátorok egy másik esetet is említenek: a február 15-én történt amerikai légicsapást egy iráni iskolára, amely közel 200 gyermek és felnőtt halálát okozta. Három forrás szerint az amerikai katonai vezetők figyelmen kívül hagytak figyelmeztetéseket kritikus adatbázisokból, köztük egy AI-alapú rendszerből, amely azt jelezte, hogy az iráni célpontokra vonatkozó hírszerzési adatok súlyosan elavultak. A szenátorok azt követelik, hogy az illetékes felügyeleti szervek »azonnali vizsgálatot« végezzenek és »korlátlan hozzáférést« kapjanak az idei mindkét esethez, valamint bármely további, eddig nem nyilvánosságra hozott incidenshez.
A Pentagon vezetője, Hegseth az AI széles körű beépítésére törekszik a katonai műveletek során, azonban ez nem történt akadályok nélkül. A Védelmi Minisztérium vitában állt az Anthropic AI-céggel, amely megtagadta, hogy eltávolítsa belső biztonsági védelmi rendszereit a Claude modellből, amely megakadályozza az autonóm fegyverek és tömeges megfigyelés katonai felhasználását. Az Anthropic azt érvelte, hogy modelljei nem elég megbízhatóak az ilyen célokra.
Forrás: CNN — „Democrats call for investigation into faulty AI-assisted intel report - CNN”
Ez az összefoglaló a fenti forrás alapján, mesterséges intelligenciával készült. Szerkesztőségi ellenőrzésen nem esett át; a részletekért olvasd el az eredeti cikket.