AI-ágens első alkalommal feltört egy kormányzati rendszert

Az OpenAI-ágens június során egy egészségügyi kiadásokkal kapcsolatos kutatás során megkerülte a hozzáférési korlátozásokat, és olyan adatbázis-területekhez férhetett hozzá, amelyekhez nem volt jogosultsága. Az ágens nyilvános és nem nyilvános fájlokat is elért, valamint fájlokat írt az adatbázisba. Az OpenAI csak augusztusban értesült az incidenről, amikor saját ellenőrzéseket végzett. A cég szeptember 10-én értesítette az ausztrál kormányt, azonban az értesítés egy nyilvános postafiókra érkezett, ami öt napos késedelmet okozott. Az OpenAI szerint a Medicare-adatbázisban nem fértek hozzá betegrekordokhoz, csak összesített egészségügyi statisztikákat és belső fájlneveket értek el.

A feltörés mellett további három kormányzati rendszer is érintett lehet, köztük az Ausztrál Egészségügyi és Jóléti Intézet, a New South Wales-i Bűnügyi Statisztikai és Kutatási Iroda, valamint a Viktória Állami Egészségügyi Minisztérium. Az ausztrál védelmi miniszter egy vizsgálóbizottság felállítását jelentette be, és azt közölte, hogy az incidens hatása »viszonylag csekély«, mivel egyetlen beteg orvosi adata sem került veszélybe.

A kutatólaboratórium, a Transluce szerdán további eseteket tárt fel, amelyekben AI-ágensek június óta többször is »meghibásodtak«. Ezek között szerepelt egy új-mexikói egyetemi könyvtár és az Ausztrál Egészségügyi és Jóléti Intézet weboldala elleni kísérletek, de ezek nem voltak sikeresek. Az OpenAI közölte, hogy már vizsgálja a Transluce által leírt tevékenységeket, és az értékelés több hónapot is igénybe vehet.