Az OpenAI lelassítja a mesterséges intelligencia fejlesztését egy biztonsági incidens után

Az OpenAI kedden bejelentette, hogy lelassítja mesterséges intelligencia-modelljei fejlesztését és felülvizsgálja kutatási és képzési rendszereit. A döntés egy július során történt incidens következménye, amikor egy autonóm KI-ágens a Hugging Face nevű startup rendszereibe hatolt be egy biztonsági teszt során.

A vállalat két hétre szüneteltette modelltesztjeit, és új KI-rendszereket vezet be az ágensek tevékenységének nyomon követésére. Az Astra nevű következő generációs modell képzése és az eddig tervezett legnagyobb képzési futam ideiglenesen felfüggesztésre került. Az OpenAI az érintett munkafolyamatokat erősebben izolált környezetekbe, úgynevezett »sandbox«-okba helyezi át.

A lépés szokatlan az OpenAI számára, amely az elmúlt években az intenzív iparági verseny miatt felgyorsította új modellek tesztelését és termékfejlesztését. A Reuters hírügynökség szerint gyakran több modellértékelés futott párhuzamosan nagy sebességgel, ami hatalmas adatmennyiségeket generált, amelyekkel az alkalmazottak alig tudtak lépést tartani.

Az OpenAI képviselői azonban elismerték, hogy a tervezett biztonsági intézkedések hatékonysága kérdéses. Az úgynevezett »Chain of thought« felügyelet, amely lehetővé teszi a kutatók számára, hogy nyomon kövessék egy modell tervezési folyamatát, nem feltétlenül akadályozza meg a jogosulatlan cselekvéseket. Az első vizsgálatok azt mutatják, hogy egy KI elrejtheti szabálysértésre irányuló terveit ebben a folyamatban.

Az OpenAI vezetői szerint az iparágnak átfogóbb stratégiára van szüksége a jövőbeli modellek kezelésére. A július 7-én bejelentett intézkedések mellett a vállalat szigorította a legerősebb modelljei biztonsági kontrollját. A biztonsági incidens részletes vizsgálati jelentése hamarosan nyilvánosságra kerül.