AI-csalók elleni küzdelem: hogyan lehet zavarba hozni a mesterséges intelligencia csalókat
Az AI-alapú telefonos csalások egyre elterjedtebbek, de tartalom-készítők és biztonsági kutatók már módszereket találtak az olyan csaló botok zavarba hozására, amelyek egyszerű prompt injection technikákkal összeomolnak.
Az AI-alapú telefonos csalások számára egyre nagyobb fenyegetést jelentenek, különösen az idősebb és kevésbé technológiailag jártas emberek számára. Az MIT kutatója, Simon Mylius szerint a technológia olyan szintre jutott, ahol szinte bárki képes deepfake-tartalmat készíteni, gyakorlatilag nincs belépési korlát.
A tartalom-készítők és biztonsági szakértők azonban már felfedezték, hogy az AI-csaló botok sebezhetők. A YouTube-on ismert Kitboga egyszerű prompt injection technikával képes összeomoltatni az AI-csalókat, amelyek ekkor végtelen hurokba kerülnek és értelmetlenül ismételgetnek szövegrészleteket. Jim Browning pedig deepfake videó-csalókat fedez fel és mutat be nyilvánosan.
A probléma azonban egyre súlyosabbá válik. A Doppel szociális mérnöki védelmi cég vezetője, Bobby Ford szerint az AI-csalók már felgyorsították a támadások ütemét: a deepfake-tartalmak készítése sokkal gyorsabbá vált, így a csalások volumene exponenciálisan nő.
A szakértők szerint az önvédelem leghatékonyabb módja az, ha az olyan videókat, amelyeken AI-csalók összeomolnak, megosztjuk az idősebb családtagjainkkal és kevésbé technológiailag felkészült ismerőseinkkel, hogy felismerjék a veszélyt.
Forrás: Kotaku — „AI Scam Bots Breaking Down Mid-Call Is My New Guilty Pleasure - Kotaku”
Ez az összefoglaló a fenti forrás alapján, mesterséges intelligenciával készült. Szerkesztőségi ellenőrzésen nem esett át; a részletekért olvasd el az eredeti cikket.