Orvosok vakon követik a mesterséges intelligencia javaslatait, még ha azok hibásak

Egy 223 orvost bevonó online kísérlet során a kutatók azt vizsgálták, hogyan reagálnak az egészségügyi szakemberek az AI által javasolt terápiákra. A mesterséges intelligencia egy fiktív ritka betegségben szenvedő pácienseket csoportokra osztott aszerint, hogy várhatóan jól vagy rosszul reagálnak-e egy kísérleti kezelésre. Az orvosok döntéseket hoztak a kezelésről, majd visszajelzéseket kaptak az eredményekről.

A kutatás meglepő eredménye az volt, hogy az orvosok továbbra is az AI-ajánlásokat követték, még akkor is, amikor a visszajelzések egyértelműen mutatták, hogy az algoritmus tévedett. A második kísérletben, ahol a kezelés teljesen hatástalan volt, sok orvos még azt sem vette észre, hogy a terápia semmilyen hasznot nem hozott.

A tanulmány szerint az orvosok – akárcsak más emberek – az »automatizálási torzításnak« nevezett jelenségre hajlamosak, vagyis túlzottan megbíznak az algoritmusok ajánlásaiban. Ez azt eredményezheti, hogy az ellentmondó információkat és új bizonyítékokat nem veszik kellőképpen figyelembe. Helena Matute, a kutatás társszerzője szerint az a gyakori kijelentés, hogy »végül mindig egy ember ellenőrzi az algoritmust«, a gyakorlatban nem működik olyan jól, mint gondolnánk.

A kutatók hangsúlyozzák, hogy eredményeik nem azt jelentik, hogy az AI-t el kellene vetni az orvoslásban. A kísérletek erősen leegyszerűsített laboratóriumi körülmények között zajlottak. A valós klinikai gyakorlatban az orvosoknak sokkal több információ áll rendelkezésére, például betegségek előzménye, laboreredmények és kezelési irányelvek.

A jövőre nézve a kutatók az AI-val való munka javítása szükségességét hangsúlyozzák. További tanulmányok szükségesek olyan stratégiák és protokollok kidolgozásához, amelyek az orvosok kritikus gondolkodását erősítik és segítik az AI-hibák felismerésében, hogy így jobban kihasználható legyen az ember és a mesterséges intelligencia együttműködésének lehetősége.