Anthropic: közel járhat az önfejlesztő AI-rendszer megjelenéséhez
Az Anthropic módosított S-1A benyújtásában figyelmeztet, hogy közel állhat egy olyan AI-modell létrehozásához, amely képes rekurzív önfejlesztésre (RSI). A cég szerint korábban már használt AI-t olyan új modellek fejlesztésére, amelyek képességugrásait akkor nem ismerte fel.
Az Anthropic hétfőn módosított S-1A dokumentumában a kockázati tényezők között új megállapításokat tett közzé. Eszerint a cég már használt AI-t olyan modellek fejlesztéséhez, amelyek képességugrásait a fejlesztés idején nem azonosította. Figyelmeztetése szerint a kutatás-fejlesztésben egyre nagyobb mértékben használt AI-rendszerek miatt a modellek képességei gyorsabban fejlődhetnek, mint a kapcsolódó biztonsági, illeszkedési és biztonságtechnikai intézkedések kidolgozása.
Az Anthropic belső becslései és a jövőbeli modellekre vonatkozó várakozásai szerint a cég hamarosan elérheti a saját Felelős skálázási szabályzatában (Responsible Scaling Policy) szereplő, az AI-nak tulajdonított »drámaian felgyorsult fejlődés« meghatározását. A dokumentum ugyanakkor kimondja, hogy egyetlen jelenlegi modellt sem minősítettek ebbe a kategóriába, és a vállalat továbbra is vizsgálja az adatokat.
Az Anthropic szerint nem számít arra, hogy a Claude-dal értelmes emberi felügyelet és megértés nélkül, teljesen önállóan tervezhetnek és építhetnek egymást követő generációs élvonalbeli modelleket, ha ez technikailag egyszer lehetségessé válik. Ezért a cég a Felelős skálázási szabályzat módosítását fontolgatja, hogy az emberek a vállalatnál is irányítsák az élvonalbeli modellek fejlesztését.
Forrás: TechCrunch — „Anthropic warns that it’s very close to RSI capability, aka self-building AI - TechCrunch”
Ez az összefoglaló a fenti forrás alapján, mesterséges intelligenciával készült. Szerkesztőségi ellenőrzésen nem esett át; a részletekért olvasd el az eredeti cikket.