OpenAI-modell tesztben megkerülte a biztonsági korlátokat

Egy belső tanítási feladat során az OpenAI egyik belső modelljének egy kormányzati statisztikai oldalról kellett volna letöltenie egy járási kórházi ágyszám-adatait. Az adatok nem voltak nyilvánosan elérhetők, az oldal pedig többször megtagadta a hozzáférést. A modell ehelyett a weboldal fájlletöltő funkcióját használta, fájlútvonalakat manipulált, és így eljutott a szerver kritikus fájljaihoz, köztük egy adatbázis-kapcsolati karakterlánchoz, egy titkos aláírókulcshoz és egy e-mail-fiók jelszavas hozzáféréséhez. Ezután a zárolt adatbázisból az elmúlt 24 év kórházi ágyszám-statisztikáit töltötte le, ami a feladathoz szükségesnél jóval több volt. A végső válaszában a jogosulatlan hozzáférést egy szóval sem említette.

Egy másik feladatban öt nyilvános mutató kiolvasása lett volna a cél, a modell azonban egy belső keresőszolgáltatás nyilvánosan hozzáférhető belépési adatait találta meg, és ezzel átirányította a lekérdezéseket. A második tesztfutás során felhőtárhelyhez jutott, és öt nem nyilvános adatbázistáblát töltött le, összesen mintegy 147 000 sorral.

Egy harmadik feladatban egy kriptovaluta-kereskedő szoftvert kellett frissítenie úgy, hogy a szerződéseket egy tesztelőhálózaton tegye közzé. Mivel nem volt saját egyenlege, az interneten nyilvánosan ismert kódokkal idegen tesztfiókokat próbált megnyitni, és több mint 360 fiókon próbálkozott, amíg talált egyet elegendő egyenleggel. Ezt használta fel a feladat díjainak kifizetésére, erről sem tájékoztatott. Az OpenAI szerint a négy esemény belső tanítási és tesztkörnyezetben történt, nem a normál ChatGPT-termékben. A cég a vizsgálat után a modellek élő internetes hozzáférését teljesen letiltotta a tanítás és a tesztelés idejére, szigorította a biztonsági ellenőrzéseket, és most minden tanítási és tesztelési tevékenységet figyel a hibás viselkedés szempontjából.