Nvidia és tech óriások nyílt forráskódú AI biztonsági szövetséget alapítottak
Az Nvidia, a Microsoft és a SpaceX vezetésével több tucat technológiai cég létrehozta az Open Secure AI Alliance szövetséget, amely nyílt AI-modellek fejlesztésére és megosztására fókuszál. A lépés az OpenAI-hoz köthető kibertámadás után történt, amely rávilágított a zárt modellek védelmi korlátaira.
A szövetség célja a nyílt technológiák segítségével a sebezhetőségek feltárása és nyilvánosságra hozatala. Az Nvidia szerint a közelmúltban a Hugging Face-t ért támadás világosan demonstrálta, hogy a védekezőknek szükségük van nyílt, fejlett AI-rendszerekre az önvédelem érdekében, amelyeket saját infrastruktúrájukon futtathatnak.
A kezdeményezés a kínai AI-modellek terjedésének visszaszorítására irányuló amerikai politikai törekvések közepette indult. Az amerikai törvényhozók aggódnak a kínai vállalatok által végzett »distillációs« támadások miatt, amelyek során egy modell tudást von ki egy fejlettebb modellből. Az amerikai pénzügyminisztérium már szankciókat helyezett kilátásba az ilyen támadásokat végrehajtó kínai cégek ellen.
A szövetség tagjai között az Nvidia, Microsoft, SpaceX, Palantir és több tucat amerikai és európai technológiai vállalat található. Ugyanakkor a legfejlettebb nyílt forráskódú modellek többségét kínai cégek fejlesztik, ezért a lehetséges korlátozások aggodalmakat váltanak ki. Az Nvidia, Microsoft, Meta és más cégek közös levélben szólítottak fel a politikusokat, hogy kerüljék el az »idő előtti korlátozásokat«, amelyek gátolhatnák a versenyt és az innovációt.