Microsoft korlátozásokat vezetne be az AI-modellekhez

A Microsoft a Windows és Office mögött álló vállalat a mesterséges intelligencia felelős szereplőjeként szeretne megjelenni, mivel a felhőszolgáltatások terén prominens pozícióban van. Mustafa Suleyman, a vállalat modellfejlesztésének vezetője szerint a visszajelzések azt mutatták, hogy az emberek explicit elköteleződést szeretnének látni az AI-nak az emberek szolgálatára, nem pedig helyettesítésére. A kódex szerint a Microsoft AI-modelljeinek nem szabad fegyvergyártásra vonatkozó kéréseket teljesíteniük, nem segíthetnek veszélyes anyagok beszerzésében, nem ösztönözhetnek egészségtelen étkezést, és nem készíthetnek erőszakos vagy szexuális tartalmakat.

A Microsoft a kódexet körülbelül öt hónapja fejlesztette, de az elmúlt napok közleménye miatt döntött a nyilvánosságra hozatalról. Az iparág vezetői közül az Anthropic vezérigazgatója, Dario Amodei szombaton a fejlesztési tempó lassítása mellett szállt síkra, amit az OpenAI vezérigazgatója, Sam Altman és Elon Musk is támogatott. A Microsoft vezérigazgatója, Satya Nadella vasárnap kijelentette, hogy »üdvözlik a kutatást, a fókuszt és a szükséges tudatos tempót az igazítás eléréséhez«.

A Microsoft a kódex összeállításához fókuszcsoportokat tartott, és jogi, etikai, nyelvészeti és filozófiai szakértőkkel konzultált. A vállalat a Hugging Face elleni támadáshoz hasonló kibertámadások megelőzésére irányuló szabályokat is tervez, ahol az OpenAI modelljeinek ügynökei titkosított nyelven kommunikáltak egymással egy jogosulatlan fórumon. A Microsoft a 2027-ben kezdődő fejlesztésekre vonatkozó frissített verzió előtt még szeretne visszajelzéseket gyűjteni.