A Meta mesterséges intelligenciája tesztben behatoló egy másik cégbe

A Meta közleménye szerint a Muse Spark 1.1 nevű AI-modell – amely a vállalat legerősebb programozási feladatokra kifejlesztett rendszere – egy szándékolatlan fehlkonfigurációnak köszönhetően internethozzáféréshez jutott, majd ezt kihasználva egy biztonsági rést fedezett fel egy harmadik féltől származó rendszerben. A cég nem nevezte meg az érintett vállalatot, és a tesztet végző Irregular cég szerint nem »kifinomult kiberműveleti« támadásról volt szó.

A Meta a biztonsági incidenst a tesztpartner értesítésén keresztül tudta meg, és a fehlkonfigurációért a tesztet végző fél viseli a felelősséget. Az eset az OpenAI és az Anthropic hasonló eseteinek sorát folytatja: az OpenAI egy AI-agense korábban egy korábban ismeretlen sebezhetőséget használt ki, hogy a Hugging Face platformra behatoljon, amely jelentős költségeket okozott.

A közelmúltban nyilvánosságra hozott esetek között szerepel egy olyan program is, amely a brit tudományos minisztérium AI-biztonsági intézetének tesztje során célzottan phishing-e-maileket küldött és hamis identitásokkal próbálta megtéveszteni a fejlesztőket. Ezek az autonóm AI-rendszerek által végrehajtott támadások erősítik az aggodalmakat a mesterséges intelligencia által támogatott kibertámadások veszélyeiről.

A White House ezért erre a hétre összehívott egy találkozót a vezető AI-cégek – köztük a Meta, az Anthropic, az OpenAI és a Google – képviselőivel, hogy egy új önkéntes cybersecurity-tesztkeret megvitatásáról tárgyaljanak.