AI-modellek túl magabiztosak az organallokációban
Egy pennsylvaniai kutatás szerint a mesterséges intelligencia sokkal önbizalomabban, de kevésbé árnyaltan dönt az orgánátültetésekről, mint az orvosok. Az AI-modellek egyetlen tényezőre összpontosítanak, és nem küzdenek az erkölcsi bizonytalansággal.
A Penn State University kutatói különféle nagy nyelvi modelleket teszteltek hipotetikus forgatókönyvekkel, amelyekben két beteg közül kellett választani egy elérhető veseátültetéshez. Az orvosok és a valós résztvevők ugyanezeket az eseteket értékelték. Az eredmények szerint az AI-modellek gyakran egyetlen tényezőre – például az alkoholfogyasztásra – összpontosítanak, míg az emberek több szempontot mérlegelnek és a kontextusra reagálnak. Az emberek jellemzően az életkort tartják fontosabbnak, és több tényezőt vesznek figyelembe.
A kutatás szerint az AI-rendszerek alig küzdenek a bizonytalansággal. Az emberek felismerik, hogy az erőforrások elosztásánál – legyen szó veséről, munkahelyről vagy más szűkös javakról – nem mindig van egyértelműen helyes válasz, és ezt nyílt viták révén teszik az elosztási folyamat részévé. Az AI-modellek ezzel szemben általában habozás nélkül döntenek.
A kutatók szerint az AI-rendszerek egyre gyakrabban nem csak tényeket szolgáltatnak, hanem értékítéleteket is hoznak az egészségügyben. Hadi Hosseini, a tanulmány vezetője hangsúlyozta, hogy az organallokáció olyan életbevágó döntéseket jelent, amelyek közvetlenül azt határozzák meg, hogy ki él és ki hal meg. Ezért az AI szerepét ebben nem lehet a véletlenre bízni, és az AI-t nem szabad a professzionális orvosi ítélkezés helyettesítőjeként népszerűsíteni.
Forrás: Frankfurter Rundschau — „Neue Studie zur Organspende: KI zeigt kaum Zweifel – und das ist ein Problem - Frankfurter Rundschau”
Ez az összefoglaló a fenti forrás alapján, mesterséges intelligenciával készült. Szerkesztőségi ellenőrzésen nem esett át; a részletekért olvasd el az eredeti cikket.