OpenAI az Astra modellt biztonsági okokból korlátozza

Az OpenAI az Astra modell fejlesztésénél biztonsági intézkedéseket vezetett be, miután belső értékelések azt mutatták, hogy a rendszer olyan képességeket érhet el, amelyeket a vállalat »kritikus« kockázati szintnek minősít. Ez azt jelenti, hogy az AI képes lehet emberi segítség nélkül működőképes nulladik napi exploitokat azonosítani és fejleszteni, valamint önállóan új kibertámadásokat tervezni és végrehajtani a megerősített rendszerek ellen.

Az OpenAI hangsúlyozza, hogy az Astra még nem bizonyítottan rendelkezik ezekkel a képességekkel, de a jelenlegi eredmények elég erősek ahhoz, hogy ezt a szintet nem lehet kizárni. A vállalat szigorított biztonsági intézkedéseket vezetett be, köztük izolált tesztkörnyezeteket, korlátozott hálózati hozzáférést, erősebb titkosítást és fokozott felügyeleti mechanizmusokat. Az ezeket az előírásokat még nem teljesítő belső tevékenységeket felfüggesztették.

Az Astra az OpenAI »következő nagy modelljének« nevezhető, és korábban már bemutatott lenyűgöző képességeket: egy belső verzió új eredményeket ért el tíz matematikai és elméleti informatikai problémában, a magas dimenziós geometriától a kvantumkomplexitásig. Az OpenAI kormányzati szervekkel és kiválasztott AI-biztonsági szervezetekkel együttműködik az Astra képességeinek további tesztelésében.

A szakértők szerint az OpenAI biztonsági aggályainak közlése egyrészt valódi kockázatkezelés, másrészt azonban a modell erejének demonstrációjaként is értelmezhető. Az AI-iparban egyre gyakoribb gyakorlat, hogy az új csúcsmodellek »veszélyesként« kerülnek bemutatásra, ami egyben erőteljes marketingüzenetként is működik.