Biztonsági kutató olyan mintákat fejlesztett, amelyek megtévesztik az AI-alapú arcfelismerést

Bill Swearingen biztonsági kutató »noRecognition« projektjében több mint 31 millió tesztet végzett annak érdekében, hogy olyan mintákat találjon, amelyek zavarják a különféle felismerési algoritmusokat. Módszere iteratív: a rendszer különböző mintákat próbál ki, majd ellenőrzi, hogy a kamera még felismeri-e az objektumot. Swearingen szerint az általa kifejlesztett minták sikeresen megtévesztették az összes tesztelt tizenegy felismerési rendszert, köztük a széles körben használt Flock-rendszámfelismerést, az Axon-testikamerákat és a Clearview AI arcfelismerési technológiáját.

A technológia lényege, hogy az objektumok nem válnak láthatatlanná a kamera számára – a képek továbbra is rögzítésre kerülnek és az emberek számára láthatóak maradnak. Az automatizált felismerő és riasztási rendszerek azonban nem tudják megbízhatóan azonosítani, hogy az képen ember vagy jármű található. A módszer első nyilvános demonstrációja a Las Vegas-i DEF CON konferencián történt, ahol egy 2009-es Toyota Yaris-t elláttak az egyik mintával, és egy Flock-kamera mellett hajtottak el.

Swearingen célja a technológia mindennapi felhasználhatóvá tétele. Egy crowdfunding-kampányon keresztül már értékesítik az ilyen mintákkal ellátott ruhadarabokat – tervben vannak pólók és hoodiek, valamint hosszú távon járműfóliázások is. A fejlesztés potenciálisan releváns lehet az olyan hordható kamerák számára is, mint a Meta Ray-Ban okosszemüveg, amely folyamatosan képes rögzíteni a környezetét.

Azonban fontos megjegyezni, hogy az eddigi tesztek nem bizonyítják, hogy az ilyen ruházat védelmet nyújtana az okosszemüvegek kamerái vagy azok AI-funkcióival szemben. A fejlesztők specifikus képfelismerési rendszerek ellen tesztelték mintáikat, nem az összes jelenleg elérhető kamera- és AI-technológia ellen.