III. Károly király az AI existenciális veszélyeire figyelmeztet
III. Károly brit király csúcstalálkozót szervezett, ahol az AI-vezetőknek figyelmeztette az olyan technológiák veszélyeire, amelyek rossz kezekbe kerülhetnek. A rendezvényen az Nvidia, az OpenAI és az Anthropic képviselői, valamint az Egyesült Királyság AI-minisztere is részt vett.
A skóciai Dumfries House-ban tartott csúcstalálkozón III. Károly rámutatott, hogy az AI-technológiákat létrehozók egyre gyakrabban figyelmeztetnek az olyan »sötétebb képességek« kifejlesztésének kockázatára, amelyek akár az élet kioltására is képesek lehetnek. A király hangsúlyozta az »urgenciát« abban, hogy »megfelelően mérlegeljék az ilyen technológiák rossz kezekbe kerülésének és potenciálisan katasztrofális felhasználásának existenciális veszélyeit«. Kiemelte, hogy a résztvevők feladata nem csupán a technológia fejlesztése, hanem annak biztosítása, hogy az »az emberiség, a közösség és a természeti világ szolgálatában maradjon«.
Jensen Huang, az Nvidia vezérigazgatója hangsúlyozta, hogy a biztonság »rendkívül fontos«, és a cégeknek vissza kell tartaniuk a termékeket, ha azok nem elég biztonságosak. Sir Demis Hassabis, a DeepMind alapítója óvatosabb megközelítést javasolt, megjegyezve, hogy az általános mesterséges intelligencia »valószínűleg csak néhány év múlva« érkezhet el, és hatása »tízszer nagyobb lehet az ipari forradaloménál«. Sarah Friar, az OpenAI pénzügyi igazgatója egyetértett abban, hogy az AI növekvő képességei biztonsági kérdéseket vetnek fel, és hogy »egyetlen cég vagy kormány sem tudja ezt egyedül megoldani«.
A csúcstalálkozó célja egy »közös elvek« kidolgozása volt az AI jövőbeli alkalmazásának irányítására. Az augusztus óta tartó vita az AI-szabályozásról és ellenőrzéséről több iparági vezető drámai nyilatkozatával párosult, köztük Jacob Coxon Anthropic-kutatótól, aki az AI-nak az emberiség kiirtásával kapcsolatos aggodalmait osztotta meg. Evan Hubinger, az Anthropic tudósa személyesen több mint 10 százalékra becsülte az AI okozta emberi kihalás valószínűségét.
Forrás: BBC — „King Charles warns of 'existential danger' of AI falling into wrong hands - BBC”
Ez az összefoglaló a fenti forrás alapján, mesterséges intelligenciával készült. Szerkesztőségi ellenőrzésen nem esett át; a részletekért olvasd el az eredeti cikket.