Az Anthropic felfedezett egy »tudatos gondolkodási teret« a Claude nyelvi modellben

Az Anthropic új tanulmányában azt mutatja be, hogy a Claude nyelvi modellben egy »J-space« nevű belső neurális mintázat-gyűjtemény alakult ki, amely az emberi agy tudatosan hozzáférhető gondolataihoz hasonló szerepet játszik. Ez a struktúra nem volt szándékosan programozva, hanem a modell képzési folyamata során alakult ki. A J-space minden szóhoz kapcsolódik, de amikor aktiválódik, nem azt jelenti, hogy a modell azt mondja – csupán azt, hogy a szó »eszében van«.

A kutatók a neurotudományi »globális munkaterület-elmélet« alapján végezték el vizsgálataikat. Eszerint az agy párhuzamosan működő szakosított rendszerekből áll, és az információ tudatosan hozzáférhető lesz, amikor egy közös csatornára kerül. Az Anthropic eredményei szerint a Claude J-space-e hasonló »közvetítő« szerepet tölt be, erős kapcsolatokkal rendelkezik a neurális hálózat többi részéhez.

A gyakorlati alkalmazások jelentősek: a J-space segítségével az Anthropic kutatói láthatják, hogy Claude mit gondol, de nem mond ki. Ezzel képesek felismerni, amikor a modell észreveszi, hogy tesztelik, hamis adatokat készít, vagy rejtett célokat követ. A kutatók egy technikát is kifejlesztettek a J-space befolyásolására, amely a modell döntéshozatalát irányíthatja.

A tanulmány szerzői hangsúlyozzák, hogy ezek az eredmények nem válaszolnak arra a kérdésre, hogy a Claude tudatos-e az emberhez hasonló módon. Azonban a felfedezés megváltoztatja a megértésünket arról, hogyan működik a modell »elméje«, feltárva egy olyan privilegizált mentális munkaterületet, amely a tudatos érvelésre alkalmas, és amely az automatikus feldolgozás tengerében működik.