Chatbot-hallucináció: cégek felelnek a hamis információkért
A Hamm Fellebbviteli Bíróság jogerős ítélete szerint a vállalatok felelősek azért, ha weboldali chatbotjuk tévesen válaszol. Az eset egy klinikát érintett, amelynek AI-asszisztense nem létező orvosi szakképzettségeket állított.
A német bíróság egy olyan esetet döntött el, amelyben egy klinika weboldali chatbotja valótlan információkat közölt az intézmény vezetőiről. A chatbot arra a kérdésre, hogy a két vezető fachárzte-e a plasztikai és esztétikai sebészetben, igennel válaszolt, majd azt is közölte, hogy mindketten esztétikai medicina szakorvosok. Valójában egyik sem rendelkezett ilyen képzettséggel, és az »esztétikai medicina szakorvos« cím nem is létezik.
A klinika a történteket »sajnálatos technikai hibának« nevezte, és azt érvelésként használta, hogy nem felelős a chatbot autonóm, statisztikai valószínűségszámításokon alapuló válaszaiért. Azt állította, hogy az AI-rendszert nem irányítja vagy ellenőrzi, így a kijelentések nem vezethetők vissza emberi döntésre. A bíróság azonban elutasította ezt az érvelést, és megállapította, hogy a chatbot-válaszok a klinika üzleti tevékenységének részét képezik.
A bíróság rámutatott: a klinika nyilvánvalóan képes volt a chatbotot úgy átprogramozni, hogy ne adjon hamis válaszokat, amit az eset után meg is tett. Az ítélet szerint az intézménynek előre kellett volna látnia, hogy potenciális betegek a chatbothoz fordulnak az orvosok képzettségéről. Az eset végül 260 euró bírságot és a teljes perköltséget eredményezte a klinika számára.
Forrás: FAZ — „OLG Hamm: Firmen haften, wenn Chatbot halluziniert - FAZ”
Ez az összefoglaló a fenti forrás alapján, mesterséges intelligenciával készült. Szerkesztőségi ellenőrzésen nem esett át; a részletekért olvasd el az eredeti cikket.