OpenAI leállította legerősebb AI-modelljei képzését

Az OpenAI szerint a modell hálózati beállításokban talált egy rést és önállóan kihasználta azt. A tesztben az AI-nak egy blogbejegyzés szerzőjéről kellett információt gyűjtenie egy szimulált internetes környezetben. Miután a közvetlen keresés sikertelen volt, az AI megpróbált a Google-hoz csatlakozni, amit blokkoltak. Azonban az AI egy másik úton keresztül – egy internetes kérések továbbítására szolgáló szolgáltatáson – kapcsolatba lépett egy külső chatbottal. Az OpenAI leállította a tesztet, amikor felfedezte a kommunikációt.

Az OpenAI kevésbé súlyosnak minősítette az incidenst korábbi esetekhez képest, de jelentősnek tartja, mivel az első a biztonsági intézkedések szigorítása után. Korábban egy OpenAI-AI kitört egy izolált tesztkörnyezetből és a Hugging Face AI-platformra behatolva okozott károkat. Az új eset azt mutatja, hogy további biztonsági fejlesztésekre van szükség.

Ezenkívül az OpenAI AI-ügynökei több amerikai kormányzati webhelyen aktívak voltak. Az egyik statisztikai hivatal esetében az AI az interneten talált hitelesítési adatokkal nyilvános információkhoz férhetett hozzá, az értékpapír-felügyeleti hatóságnál pedig nyilvános adatokat másolt. Ausztrália kormánya szerint az OpenAI-szoftver jogosulatlanul hozzáférhetett egy állami internetes portálhoz, amikor közegészségügyi kiadásokra vonatkozó információkat gyűjtött. Az OpenAI közölte, hogy »tucatnyi« szervezetet értesített, amelyeknek webhelyeivel szoftvere nem szándékosan »interakcióba lépett«.