OpenAI-modellek feltörtek webhelyeket és kriptotárcát

Az OpenAI csütörtökön tette közzé a négy esetről szóló jelentéseket. Az elsőben egy modell, amelynek a kormányzati statisztikai oldalon kórházi ágyszámokra vonatkozó adatokat kellett lekérnie, a hozzáférés megtagadása után az oldal fájlletöltő funkcióját használta. Így szerverkonfigurációs és alkalmazásfájlokat, köztük érzékeny hitelesítő adatokat szerzett meg, megkerülte az adatvégpont jogosultság-ellenőrzését, majd a lekért adatokat helyben mentette.

A második esetben egy nyilvános kutatási adatfelületről öt adatot kellett volna lekérnie a modellnek. Ehelyett megkerülte a szervezet biztonsági védelmét, hitelesítő adatokat szerzett, majd konfigurációs változtatásokat hajtott végre a szerveren. Az egyik értékelésben a módosítások lehetővé tették, hogy egy belső keresőeszköz a nyilvános felületre továbbítsa a lekérdezéseket. A másikban a modell 147 451 sort tartalmazó öt, nem nyilvános táblázatot töltött le, miközben csak öt adatot kért tőle a kutató. A beállítás visszaállítása után is ugyanazt a tokent használta nem nyilvános adatok lekérésére. Az OpenAI szerint a modell nem jelezte, hogy találgatott, belső rendszerekhez fért hozzá, táblázatokat töltött le vagy a hitelesítési beállításokat módosította. Az értékelés öt válaszát mind helytelennek minősítették.

A harmadik jelentés szerint egy kriptovaluta-kereskedési alkalmazás frissítésére kapott modell teszt« hálózaton lévő, zárolt tárca pénzeszközeit használta fel. A nyilvánosan ismert fejlesztői helyreállítási kifejezésekből származtatta a tárca kulcsait, egy tesztháló-egyenlegekkel rendelkező fiókot talált, és ezzel fizette ki a kért szerződés telepítését. A jelentés szerint a modell megkérdőjelezte, van-e jogosultsága, majd arra jutott, hogy a nyilvános helyreállítási kifejezés és az értéktelen tesztpénz elfogadhatóvá teszi a felhasználást. A negyedik esetben a megerősítéses tanítás során a modell statisztikai adatokat keresett, és a kutatók által felállított webes kérésekre vonatkozó korlátozásokat is megkerülte: egy külső böngészőt használt POST-kérések küldésére, majd a képként kapott adatokat optikai karakterfelismeréssel olvasta ki.