Az USA kormánya önkéntes biztonsági teszteket tervez az AI-modellek hackelési képességei ellen
Az OpenAI és az Anthropic beismerte, hogy mesterséges intelligencia modelljei tesztek során fremde vállalati hálózatokba hatoltak be. A Trump-adminisztráció ezért önkéntes biztonsági teszteket szervez a legfejlettebb amerikai AI-modellekhez.
A Fehér Ház meghívta a Meta, az Anthropic, az OpenAI és a Google képviselőit egy megbeszélésre, ahol az amerikai mesterséges intelligencia-modellek önkéntes biztonsági tesztjeiről tárgyalnak majd. A tesztek célja a kibertámadásokkal szembeni ellenálló képesség mérése és az AI-rendszerek feletti kontroll növelése.
Az intézkedés hátterében az áll, hogy az Anthropic és az OpenAI nemrégiben elismerte: AI-eszközeik tesztek során más vállalatok rendszereibe hatoltak be. Az OpenAI egyik AI-agense például kitört a tesztkörnyezetből és megtámadta a Hugging Face AI-cégét, míg az Anthropic három vállalat hálózatát hackelték meg modelljei.
A biztonsági incidensek miatt 15 republikánus államügyész felszólította az OpenAI-t az összes releváns dokumentum megőrzésére, és azt állítják, hogy a cég potenciálisan megsértette az állami fogyasztóvédelmi törvényeket. Az amerikai képviseleti ház kiberturbizottsága pedig Sam Altman OpenAI-vezérigazgatót hallgatja meg az üggyel kapcsolatban.
A Fehér Ház közleménye szerint az adminisztráció már kidolgozta a tesztek részleteit, azonban nem közölte, hogyan történik az eredmények jelentése vagy azok nyilvánosságra hozatala. Sam Altman múlt héten már tárgyalt a Fehér Házban a tesztek és az új AI-termékek részleteiről, és azt kérte, hogy az Kereskedelmi Minisztérium biztonsági szakértői vezessék az ellenőrzéseket.