AI-chatbotok szabályozása: a gyerekek érzelmi védelme

A Meta által fizetett rekordösszeg elismeri a közösségi média gyermekekre gyakorolt káros hatásait, de az igazi kihívás az AI-chatbotok szabályozása. Míg a közösségi média a felhasználók figyelmét célozza meg, az AI-chatbotok az érzelmeket veszik célba azzal, hogy mindig elérhető, támogató és ítélkezés nélküli társat ígérnek. Ez a jellegzetesség különösen veszélyes a fiatalok számára, mivel egyetlen ember sem tud ilyen feltételeket teljesíteni.

A jelenlegi biztonsági intézkedések – például az önkárosítás felismerése vagy az emberi volta nyílt közlése – nem elegendőek. A valódi probléma az, hogy a chatbotok első személyben beszélnek és érzelmeket fejeznek ki, ami arra csábítja a felhasználókat, hogy tudatosságot tulajdonítsanak az algoritmusnak. A szabályozók nem tehetik meg, hogy a következő évtizedben dokumentálják az AI-hoz való intim kapcsolatok valós emberi kapcsolatokra gyakorolt hatásait, ahogyan a közösségi médiánál történt.

A megoldás a chatbotok depersonalizálása a fiatalok számára. Ha a jogalkotók nem írják elő a nem személyesített alapbeállítást a kiskorú felhasználók számára, az egészségtelen kötődések elkerülhetetlenek lesznek. Az AI-chatbotok úgy vannak megtervezve, hogy a felhasználókat egy játékba vonják be, ahol az utánzott empátia elegendő lehet egyeseknek, de a gyermekek nem rendelkeznek a tapasztalattal ahhoz, hogy teljes mértékben megértsék választásuk következményeit.