Németország: a Bafin felügyeli a bankok és biztosítók mesterséges intelligenciáját
A német pénzügyi felügyelet (Bafin) kiterjesztett hatáskörrel felügyeli az EU AI-rendelete alapján a pénzügyi szektorban alkalmazott mesterséges intelligencia-rendszereket. A szabályozás célja a diszkrimináció megelőzése és az alapjogok védelme az automatizált döntésekben.
A Bafin az EU AI-rendelete (EU AI Act) hatálybalépésével hivatalos piaci felügyelet szerv lett a pénzügyi szektorban használt mesterséges intelligencia-rendszerek tekintetében. A felügyelet kiterjed a hitelintézetekre, biztosítókra és egyéb pénzügyi vállalkozásokra.
A szabályozás különösen az ügyfélszolgálati mesterséges intelligencia-chatbotok átláthatósági követelményeire, a tiltott mesterséges intelligencia-gyakorlatok betartására, valamint az úgynevezett magas kockázatú mesterséges intelligencia-rendszerek alkalmazására vonatkozik. Ez utóbbiba tartoznak például a bankok automatizált hitelképesség-vizsgálati rendszerei és a biztosítók kockázatértékelő algoritmusai.
A Bafin vezetője, Mark Branson hangsúlyozta, hogy az automatizált mesterséges intelligencia-döntéseket továbbra is emberi beavatkozással korrigálni kell, és a felelősség a vállalatok vezetésénél marad. Az EU AI-rendelete szerinti szabályozás célja a diszkrimináció megelőzése és az alapjogok védelme az automatizált döntésekben.
A pénzügyi szektorban közvetlenül nem alkalmazott mesterséges intelligencia-alkalmazások, például a bankok személyzeti menedzsmentjében használt rendszerek, a német szövetségi hálózati ügynökség (Bundesnetzagentur) felügyelete alá tartoznak.