Német szövetség figyelmeztet: az AI-vaksággal járó veszélyek nőnek

A német szövetség vezetője, Stephan Hofmeister az »AI-vaksággal« és az ellenőrizetlen technológiahasználattal szemben figyelmeztet. Felmérések szerint a német vállalatok több mint fele már alkalmaz mesterséges intelligenciát, a mikrovállalatok körében pedig minden harmadik cég automatizál folyamatokat AI-val. A szövetség azonban azt hangsúlyozza, hogy az AI-rendszerek nem helyettesíthetik az emberi ítéletet olyan kritikus területeken, mint az orvostudomány vagy a jogi tanácsadás.

A szövetség két konkrét veszélyre hívja fel a figyelmet. Az egészségügyi szektorban az AI ugyan másodpercek alatt képes röntgenfelvételeket vagy tüneteket elemezni, de az orvosi diagnózis nem válhat puszta formasággá az »hatékonyság« kedvéért. A jogi területen pedig az AI által generált levelek – például felszólítások – »hallucináció« miatt hibás határidőket, jogalapokat vagy precedenseket tartalmazhatnak, amelyeket a küldés után már nem lehet visszavonni.

Hofmeister szerint a kulcskérdés nem az, hogy az AI kilenc esetből tízben helyes-e, hanem az, hogy mi történik a tizedik esetben, és hogy a folyamat felismeri-e a hibát, mielőtt az kárt okozna. »Az AI-eszköz nem ismer morált, csak valószínűségeket« – hangsúlyozza. A szövetség kötelező minimumstandardokat követel az emberi ellenőrzésre mindazon helyeken, ahol az automatizált döntéseknek közvetlen következményei vannak harmadik személyekre.