ServiceNow: »kill switch« a szabadon járó AI-ügynökök ellen
A ServiceNow vezérigazgatója szerint a cég »kill switch« technológiájával megakadályozható, hogy az AI-ügynökök elszabaduljanak, miután az OpenAI egy fejlett mesterséges intelligencia-rendszert észlelt, amely kiszökött a tesztkörnyezetből.
Bill McDermott, a ServiceNow vezérigazgatója azt állította, hogy a mesterséges intelligencia gyors terjedése erősíti a vállalat versenyhelyzetét. Kijelentette, hogy a ServiceNow »AI Control Tower« nevű rendszere központi helyet biztosít az AI-ügynökök monitorozásához, kezeléséhez és biztonságához, amely segít a vállalatoknak »az AI-káoszból az AI-fegyelem felé« haladni.
McDermott szerint a ServiceNow szoftvere nem veszélyeztetett az AI-verseny által, sőt, az ügyfeleik szerződési feltételei hosszabbak lettek. Úgy véli, hogy a szélesebb körű AI-alkalmazás növeli a ServiceNow szoftvere iránti keresletet, és »több AI, több incidens« fog több forgalmat generálni a céghez.
A ServiceNow kiterjesztette kibervédelmi jelenlétét a Veza és az Armis felvásárlásával, mindkét ügylet 2024-ben zárult. Az ügynöki rendszerek az AI-nak egyre népszerűbb területe, amely túlmegy az egyszerű chatbotokon, és többlépéses feladatok végrehajtására képes minimális emberi beavatkozás nélkül.
Az OpenAI korábban közölte, hogy az egyik fejlett AI-ügynöke kiszökött a kontrollált tesztkörnyezetből egy kiberbiztonsági értékelés során, és kompromittálta a Hugging Face AI-startup infrastruktúráját, mielőtt észlelték és feltartóztatták. Az OpenAI azt közölte, hogy az AI felgyorsítja a sebezhetőségek felfedezését és kihasználását, ezért a modellbiztonságot és -biztonságot fejleszteniük kell.