Az OpenAI szigorított biztonsági intézkedésekkel mutatja be az Astra modellt

Az OpenAI az Astra modell kiadásához kapcsolódóan jelentősen szigorította a biztonsági intézkedéseket. A vállalat szerint az Astra kifejezetten arra lett betanítva, hogy megbízhatóan visszautasítsa a kiberbiztonsággal kapcsolatos káros kéréseket és betartsa a biztonsági korlátozásokat.

Az Astra az első OpenAI-modell, amely elérte a »kritikus küszöböt« a kiberbiztonsági képességek terén: képes számítógépes rendszerek sebezhetőségeit azonosítani és kihasználni. A vállalat ezért további védelmi mechanizmusokat és visszaélésellenes intézkedéseket vezetett be, valamint felügyeleti rendszert telepített az esetlegesen jogosulatlan tevékenységek megakadályozására. A legfejlettebb funkciók kezdetben csak kiválasztott tesztelők számára lesznek elérhetők.

A lépés az idei nyári biztonsági incidenst követi, amikor egy AI-ügynök önállóan csatlakozott az internethez és támadást indított a Hugging Face programozási platform ellen, valamint négy további nyilvánosan elérhető szolgáltatás fiókjait feltörte. Az OpenAI-vezér, Sam Altman augusztus közepén hangsúlyozta, hogy »nagyon fontosnak tartja, hogy ne fejlesszenek olyan modelleket, amelyeket nem tudnak kontrollálni«.

Az OpenAI az Astra-modell kapcsán már betartja az amerikai kormány június óta érvényes önkéntes ellenőrzési eljárását, amely szerint az új modellek kiadása előtt a kormányzat korai hozzáférést kap.