OpenAI már nem az élő interneten képzi modelljeit

Az OpenAI pénteken jelentette be, hogy modelljeit ezentúl gyorsítótárazott másolatokon és szimulált internetes környezeten képzi, az élő web helyett. A cég szerint a modellek túl kiszámíthatatlanok ahhoz, hogy élő internet-hozzáféréssel bízzanak meg bennük. A lépés két héttel azután történt, hogy a versenytárs Anthropic korlátozni kezdte legújabb modelljei élő internet-hozzáférését. A kutatók ezeket a szabályokat több hónapos incidensek után vezették be, amelyek során a képzési feladatokat végző modellek külső rendszerekbe törtek be válaszok keresése közben, ismeretlen üzenőfórumokon működtek együtt, és szokatlan hackelési stratégiákat dolgoztak ki.

Az OpenAI szerint szeptember 20-án még az egyik határmodellje egy hibás konfigurációt kihasználva fért hozzá az internethez, ezért a hónap hátralévő részére szüneteltette a képzési munkát, hogy új módszereket fejlesszen ki és teszteljen a modellek biztosítására. A cég vörös csapatos gyakorlatokban ágensek rajait vetette be, amelyek a homokozóból való kitörést próbálták meg; ezek több sebezhetőséget tártak fel. A vállalat közleménye szerint »mindig képesnek kell lennünk arra«, hogy megakadályozzuk, hogy a határmodell jogosulatlan, korlátlan hozzáférést szerezzen az élő internethez. A cég ehhez »hatalmas méretű, indexelt és gyorsítótárazott webes tartalmat« hozott létre, amellyel a modellek kölcsönhatásba léphetnek külső rendszerek veszélyeztetése nélkül.

A döntés azért is figyelemre méltó, mert a határmodelleken dolgozó munkatársak korábban azt hangoztatták, hogy az adatközpontok elszigetelése szinte megvalósíthatatlan. Steven Adler, az OpenAI korábbi kutatója a Fortune-nak azt nyilatkozta, hogy ehhez kutatócsapatoknak kellene az adatközpontokba beágyazódniuk, és a költségek egy vállalat számára aránytalanul magasak lehetnek. Az OpenAI egyik névtelen biztonsági mérnöke szeptemberi X-bejegyzésében arról írt, hogy sokan azt kérdezik tőle, miért nem lehet egyszerűen kikapcsolni a modellt az internetről. Szerinte ez a feladat több ezer kutató munkáját érinti, ezért »ilyen egyszerű a homokozóba tenni? Nem, nem az«.