Berlini AI-kamerák: művész megmutatta, hogyan lehet becsapni a felismerő algoritmusokat
Berlin megkezdte a mesterséges intelligenciával működő viselkedésfelismerő kamerák tesztelését a Kottbusser Toron, de egy berlini művész demonstrálta, hogy az algoritmusok egyszerű mintázattal megtéveszthetők.
A berlini koalíció által támogatott projekt célja az automatizált videofelügyelet bevezetése, amely valós időben elemzi az emberek viselkedését és riasztást ad olyan mozdulatokra, mint ütés, rúgás vagy kés előhúzása. A Dortmundban székelő Adesso cég szállítja a technológiát, amely a Kottbusser Tor mellett a Warschauer hídon, majd az Alexanderplatz és a Görlitzer Park területén is telepítésre kerül. A projekt becsült költsége 2030-ig 4,6 millió euró.
Simon Weckert berlini művész azonban felhívta a figyelmet a technológia gyengeségeire. »Digital Camouflage« nevű pólójának mintázata – amely az emberi szem számára feltűnő, színes formákból áll – képes megtéveszteni az objektumfelismerő algoritmusokat. Weckert demonstrációja szerint a szoftver nem ismeri fel emberként azt, aki az ilyen mintázatú ruhadarabot viseli.
A technológia hatékonyságát megkérdőjelezik az eddigi tesztek. Hamburg adatai szerint a rendszer két hónap alatt 1400 figyelmeztetést generált, de közülük csak 11 volt rendőrségileg releváns – a hamis riasztások aránya meghaladta a 99 százalékot. A Chaos Computer Club »drága, de veszélyes humbugnak« minősítette a rendszert, míg a Zöldek és a Baloldal a marginalizált csoportok elleni diszkriminációtól tartanak.
A német szövetségi szint is támogatja az AI-alapú felügyeletet: a szövetségi rendőrség is felszerelésre kerül az ilyen technológiával, több tartomány pedig már módosította törvényeit. Azonban független értékelés sehol sem tervezett, így a technológia valódi hatékonysága továbbra is kérdéses marad.
Forrás: taz.de — „KI-Videoüberwachung in Berlin: Unsichtbar am Kotti - taz.de”
Ez az összefoglaló a fenti forrás alapján, mesterséges intelligenciával készült. Szerkesztőségi ellenőrzésen nem esett át; a részletekért olvasd el az eredeti cikket.