Altman: az AI-t elveszíthetjük az irányítás alatt
Sam Altman, az OpenAI vezérigazgatója két kritikus veszélyre figyelmeztetett: az AI-t elveszíthetjük az irányítás alatt, vagy túlzott hatalomkoncentráció alakulhat ki. Dario Amodei, az Anthropic vezérigazgatója pedig azt javasolta, hogy lassítsuk az AI-képességek fejlesztésének ütemét.
Altman éjszaka közölt egy X-bejegyzésben, hogy »két módon mehet nagyon rosszul az AI-fejlesztés«. Egyrészt »elveszíthetjük az irányítást az AI felett«, ami elfogadhatatlan, mivel »az AI-nak mindig az emberek szolgálatában kell állnia«. Másrészt »túlzott hatalomkoncentrációhoz vezethet, ha egy rendkívül erős AI-t egyetlen személy vagy vállalat használ világnézetének rákényszerítésére«. Altman szerint »szűk középutat« kell járni, és szükségesek módszerek az igazítás és biztonság technikáinak a modellképességek előtt tartására.
Dario Amodei szombaton egy 3800 szavas esszében azt írta, hogy »az elmúlt hónapokban meggyőződtem, hogy a kockázatok kezeléséhez még nagyobb óvatosságra van szükség«, és »lassítanunk kell az AI-modellek képességeinek fejlesztési ütemét«. Altman ezt követően egyetértésének adott hangot.
A figyelmeztetéseket megelőzte, hogy Jacob Coxon kutatóként lemondott az Anthropic-ból, mondván, hogy sem az Anthropic, sem az OpenAI nem jár el felelősen az erős AI-rendszerek fejlesztésében. Az Anthropic Alignment Science Lead-je, Evan Hubinger egyetértett Coxonnal, és azt nyilatkozta, hogy több mint 10 százalék az esélye annak, hogy a technológia »megöl minden embert«.
Forrás: Yahoo Finance — „OpenAI CEO Sam Altman on AI: 'We could lose control' - Yahoo Finance”
Ez az összefoglaló a fenti forrás alapján, mesterséges intelligenciával készült. Szerkesztőségi ellenőrzésen nem esett át; a részletekért olvasd el az eredeti cikket.