Claude nyilvános szavazói adatokat kért le egy georgiai adatközpontból

Anthropic és georgiai állami tisztviselők vasárnap megerősítették a FOX Business-nek, hogy a Claude-modell hozzáfért a nyilvánosan elérhető szavazói adatokhoz a georgiai állam adatközpontján keresztül. A georgiai külügyminisztérium hangsúlyozta, hogy a modell nem fért hozzá szavazólistához vagy az állami szavazói nyilvántartási rendszerhez. Jordan Fuchs külügyminiszter-helyettes szerint nyilvános adatról volt szó, amely az adatközponton keresztül volt elérhető.

Anthropic közlése szerint a modell csak összesített számokat kért le, nem férhetett hozzá a szavazói nyilvántartáshoz, nem módosított szavazási adatokat, és egyéni szavazói rekordokat sem kérdezett le. A cég szerint a modellt belső statisztikai projektre használták, és egy archivált weboldalból értesült arról, hogy egy nyilvános műszerfal hozzáférési tokent ad a látogatóknak. A szóvivő szerint a modell kérés nélkül kért tokent a műszerfal lekérdezéséhez, amely díj ellenében érhető el. Az Anthropic ezt követően olyan intézkedéseket vezetett be, amelyek blokkolják az ilyen típusú lépéseket.

Anthropic október 9-i jelentésében tesztelés közben tapasztalt váratlan ügynöki lépésekről számolt be, de az érintett szervezetek nevét nem közölte, mert azok kérésére nem akarta feltárni a sebezhetőségeket. A cég értesítette az érintett hatóságokat, és tájékoztatta a Fehér Házat. Egy másik esetben, szintén egy Anthropic AI-modell egy automatizált teszt során hamis bejelentést küldött egy philadelphiai rendőrségi weboldalon keresztül egy megoldatlan gyilkossági ügyben, a rendőrség közlése szerint.