Szingapúr: az AI-cégek védelmi intézkedései elégtelenek
Szingapúr digitális fejlesztésért felelős minisztere szerint a tartalomszűrés és felhasználó-ellenőrzés nem elegendő az egyre képesebb AI-rendszerek kockázatainak kezelésére, mivel a rosszindulatú felhasználók nyilvánosan elérhető modellekhez fordulhatnak.
Josephine Teo miniszter szerint az AI-cégek által alkalmazott védelmi intézkedések — tartalomszűrés, felhasználó-ellenőrzés, kiadás előtti tesztelés — fontosak, de nem elegendőek. A rosszindulatú felhasználók megkerülhetik ezeket a védelmi rendszereket, ha nyilvánosan letölthető AI-modellekhez fordulnak, amelyeket bárki függetlenül futtathat. Így könnyebben elrejthetik a visszaéléseket és kihasználhatják az AI-t számítógépes rendszerek gyengeségeinek felderítésére, rosszindulatú kód írására, kibertámadások automatizálására és meggyőzőbb csalások létrehozására.
Teo hangsúlyozta, hogy az AI-ágensek egyre gyakrabban végeznek feladatokat az emberek nevében, ami új kockázatokat teremt. Az ágensek nem csak szándékos visszaélés révén okozhatnak kárt, hanem félreértelmezhetik az utasításokat, megtéveszthetők rosszindulatú információkkal, vagy túl sok hozzáféréssel és eszközzel ruházhatók fel. Például egy online vásárlásra használt AI-ügynök megtéveszthető egy weboldal rosszindulatú utasításaival, amely nem szándékolt vásárlásokra vagy személyes adatok felfedésére kényszerítheti.
Szingapúr több védelmi vonalat igényel, beleértve az erősebb kibervédelmet és az AI-rendszerek képességeinek jobb megértését — mondta a miniszter. A Szingapúri Kiberbiztonsági Ügynökség útmutatást adott a szervezeteknek a sebezhetőségek javítására, az erős hitelesítésre és a hozzáférés-ellenőrzésre. Teo szerint a szervezetek az AI-t védekezésre is használhatják, például a sebezhetőségek azonosítására, mielőtt az támadók tennék.
Forrás: CNA — „Existing safeguards by AI companies insufficient as models grow more capable: Josephine Teo - CNA”
Ez az összefoglaló a fenti forrás alapján, mesterséges intelligenciával készült. Szerkesztőségi ellenőrzésen nem esett át; a részletekért olvasd el az eredeti cikket.