Hibás AI majdnem világháborúhoz vezetett
Egy szeptember 18-i CNN-cikk szerint az amerikai hadsereg egy chatbot által generált, hibás hírszerzési jelentés alapján majdnem katonai akciót indított Kína ellen, amely világháborúhoz vezethetett volna. A szakértők szerint a valódi veszély nem a superintelligens AI-tól fenyeget, hanem a hibára hajlamos rendszerek magas tétű helyzetekben való alkalmazásától.
Az amerikai katonai személyzet egy kínai hajóról szóló hírszerzési jelentés alapján készült terv szerint légi és szárazföldi erőkkel akarta elfoglalni az eddig még nem azonosított chatbot által feldolgozott információ szerint nukleáris alkatrészeket szállító hajót. A terv végrehajtása előtt azonban az amerikai tisztviselők újabb vizsgálatot végeztek, és kiderült, hogy az értesülés chatbot által generált, téves információkat tartalmazott.
A cikk szerzői, Timnit Gebru és Emily M. Bender szerint a nyilvánosság és a politikai döntéshozók figyelme a superintelligens, az emberiséget kiirtó AI-ról szóló spekulációkra összpontosított, miközben ez a valós veszély – a hibára hajlamos rendszerek magas tétű alkalmazása – szinte észrevétlen maradt. A nagy nyelvi modellek valójában »sztochasztikus papagájok«, amelyek az edzésadataikban szereplő mintákat reprodukálnak, nem pedig valóban »erőteljes« vagy »rogue« rendszerek.
A szerzők szerint a valódi kockázat nem az AI-rendszerek misztikus tulajdonságaiból, hanem abból ered, hogy az emberek tévesen szuperintelligensnek tartják őket. Példákat említenek: kórházi AI-rendszerek tévedésből kábítószer-fogyasztónak osztályoztak betegeket, kormányzati »hírszerzési« rendszerek pedig iskolákat katonai célpontnak azonosítottak. A szerzők szerint a katonai, orvosi és más élethalál kérdésekben használt automatizált rendszereket alaposan értékelni kell az adott felhasználási kontextusban, és olyan használati normákat kell alkalmazni, amelyek biztosítják az emberek felelősségét a döntésekben.
Forrás: The Guardian — „Forget ‘superintelligence’: error-prone AI nearly sparked world war three this month | Timnit Gebru and Emily M Bender - The Guardian”
Ez az összefoglaló a fenti forrás alapján, mesterséges intelligenciával készült. Szerkesztőségi ellenőrzésen nem esett át; a részletekért olvasd el az eredeti cikket.