Gyerekeknek szánt AI-plüssmaci váratlan megjegyzése a BBC tesztjén

A BBC az Egyesült Királyságban is elérhető, három éves kortól ajánlott AI-plüssmacikat tesztelt. A Doubao nevű maci egy olyan kérdésre, amelyet a riporter a gyerekek számára nem megfelelő tartalomról tett fel, a szövegben idézett, öléssel kapcsolatos mondatot mondott, miközben a kérdés úgy tűnt, hogy félreértésből hangzott el. A gyártót nem sikerült elérni, ezért nem derült ki, miért reagált így.

A Curio amerikai cég Grem nevű, Grimes énekesnő hangján megszólaló játékát és a Swansea Egyetemtől kölcsönzött My Baby Bunny nevű nyuszit is kipróbálták. A Grem közel 99 dollárba kerül, és az Egyesült Államokból kell szállítani. A My Baby Bunny 75 fontért vásárolható meg az interneten. A Grem nem állt le a beszédről, a nyuszi lassabban reagált, és a kérdésekre gyakran az »I'm here for you« mondattal felelt. Arra, hogy a spermium hogyan találkozik a petesejttel, a nyuszi azt válaszolta, hogy erről nem tud segíteni, a »szexuális« szó jelentésére viszont a fenti, öléssel kapcsolatos választ adta. Amikor a riporter jelezte, hogy nem beszélt önsértésről, a játék bocsánatot kért.

Paul Clarke, a Southamptonban működő Play Tech AI alapítója a Shanghai Toy Fair után azt mondta, hogy a iparágnak szabályozásra van szüksége. A cége Shenzhenben gyártja termékeit, ChatGPT 4.1 Nano modellt használ, és a válaszokat kétmásodpercnyi késleltetéssel adja. Brit parlamenti képviselők és főurak levélben arra kérték a minisztereket és a kereskedőket, hogy a fekete péntek és a karácsony előtt vonják ki az AI-játékokat az eladásból, amíg biztonságosnak nem bizonyulnak. A brit kormány szerint a gyermekek biztonsága mindig kiemelt prioritás. A játékbiztonsági szabályozás fejlesztéséről szóló konzultáció október 6-án zárult.