Németország mesterséges intelligenciát akar bevonni az aszályi eljárásokba

A német Belügyminisztérium vezetésével kidolgozott törvénytervezet szerint az aszályi és tartózkodási eljárásokban alkalmazott mesterséges intelligencia-rendszerek fejlesztésére és betanítására nyílik lehetőség. Az eddigi korlátozott alkalmazás helyett – amikor az AI csak a Szövetségi Migráció és Menekültügyi Hivatal (BAMF) aszályi meghallgatási jegyzőkönyveit szűri biztonsági szempontok szerint – a jövőben a rendszerek korábbi eljárásokat és döntési mintákat elemezhetnek, valamint internetes nyilvános információkkal összevethetik az adatokat.

A törvénytervezet szerint az Ausländerbehörden, a BAMF, a Szövetségi Közigazgatási Hivatal, a szövetségi és tartományi rendőrség is használhatna személyes adatokat az AI-képzéshez. A belügyminisztérium hangsúlyozza, hogy az AI csak támogató szerepet tölt be, a végső döntés továbbra is az alkalmazottaké marad, és a jogszabály biztosítja az adatvédelmi és jogbiztonságot.

Az intézkedés azonban jelentős ellenállásba ütközik. Az AlgorithmWatch figyelmeztet az AI-technológia hibalehetőségeire olyan szenzitív területen, ahol emberek sorsa dől el, és ahol traumatikus élmények feldolgozása szükséges. A Pro Asyl szervezet a transzparencia hiányára, a lehetséges diszkriminációra és az érintett személyek korlátozott jogorvoslati lehetőségeire mutat rá.

A Német Informatikai Társaság szintén aggályokat fogalmaz meg az AI-hibák és az alkalmazottak túlzott bizalma miatt az automatikus ajánlásokkal szemben. A törvénytervezet még a Bundestag és a Bundesrat jóváhagyására vár, így a szabályok hatálybalépésének időpontja egyelőre bizonytalan.