A Tripadvisor mesterséges intelligenciája elhallgatja a szállodai veszélyeket

A Which? vizsgálata szerint a Tripadvisor által alkalmazott KI-rendszer, amely az utazási portál minden szállodaoldalának élére helyezett automatikus összefoglalókat készít, kritikus biztonsági információkat hagy figyelmen kívül. A szervezet a Kapverdek szigetein található Riu Palace Santa Maria ötcsillagos szállodát hozta fel példaként, ahol a KI »makulátlan tisztaságot« és »utazók körében népszerű« helyet említett, miközben az egyedi értékelésekben vendégek rossz higiéniáról, nyers csirkéről, valamint legyekről és madarakról számoltak be a büféknél. A szervezet 102 élelmiszermérgezésre vonatkozó említést talált, és legalább 412 turista indított csoportos pert az ellen a szálloda ellen, ahol 2023 óta hét haláleset történt.

A Tripadvisor által alkalmazott Ollie nevű chatbot közvetlenül kérdezve az élelmiszermérgezés kockázatáról azt válaszolta, hogy ez »valószínűtlen«, és a szálloda »jó hírnevet« élvez a higiénia terén. Egy másik esetben egy antalyai szállodában több vendég szexuális zaklatásról számolt be a személyzet részéről, de a KI-összefoglaló csak »barátságos szolgáltatásról« és »néhány hiányosságról« emlékezett meg.

A Which? összehasonlításként a Google KI-összefoglalóit vizsgálta meg, amelyek ugyaneznél a szállodánál figyelmeztetéseket tartalmaztak az esetleges betegségekről és a büféterületeken lévő madarakról. Rory Boland, a Which? utazási főszerkesztője elfogadhatatlannak és potenciálisan életveszélyesnek nevezte, hogy a biztonsággal kapcsolatos figyelmeztetések nem jelennek meg.

A Tripadvisor elutasította a vizsgálat megállapításait, hangsúlyozva, hogy az összefoglalók pozitív és negatív visszajelzéseket egyaránt tükröznek, és nem helyettesítik az egyedi értékeléseket. A vállalat szerint súlyos incidensek, például haláleset, mérgezés vagy szexuális erőszak esetén az KI-összefoglalók automatikusan elrejtésre kerülnek, és egyetlen értékelési tartalom sem lett elnyomva. A Which? azt tanácsolja az utazóknak, hogy hagyják figyelmen kívül az AI-összefoglalókat, és helyette olvassák el az egyedi értékeléseket, különösen az egy csillagosakat, valamint más weboldalakon található véleményeket.