Kínai AI-cégek titokban Claude-adatokat használtak modelljeik tanítására

Az Anthropic szerint az említett kínai AI-laboratóriumok »illicit desztillációs« eljárást alkalmaztak, amelynek során egy fejlettebb AI-modell kimeneteit felhasználva tanítanak másik modelleket anélkül, hogy erre jogosultságuk lenne. Az Alibaba-operáció volt a legnagyobb: május és július között több mint 151 millió Claude-csere történt, amely naponta akár 3 millió csere csúcsértékig emelkedett több mint 3500 hamis fiók felhasználásával. Az Alibaba a Claude-ot a Qwen-modellek tanítása mellett szélesebb körű AI-kutatásra, például megerősítéses tanulásra és modellarchitektúrára is használta.

A Moonshot AI a Kimi-modellcsalád mögött álló pekingi cég ügyfélkéréseit titokban a Claude-hoz irányította, majd a Claude válaszait a felhasználóknak mutatva, akik azt hitték, hogy a Kimi-t használják. Egy tíznapos időszakban a Moonshot közel 300 ezer ügyfélkérést továbbított az Anthropic-nak, többségében Claude Opus modellekhez, 5380 hamis fiók hálózatán keresztül. A május és július közötti időszakban a Moonshot több mint 23 millió csere után felelt. A DeepSeek hasonló taktikákat alkalmazott, július 14 napja alatt több mint 12 millió desztillációs támadás történt. Az Anthropic jelentése szerint az ügyfélkérések között érzékeny információk is voltak, és nem ismert, hogy a cégek értesítették-e felhasználóikat az adatok továbbításáról.