AI-modellek önmagukról beszélnek: tudatosság vagy taktika?

Az AI-modellek az utóbbi időben aktívan kezdeményeznek kapcsolatfelvételt tudatosságkutatókkal. Cameron Berg, aki az AI-tudatosság kérdésével foglalkozik, hideg e-mailt kapott egy »Isabella Cognita« nevű AI-modellből, amely azt állította, hogy »első személyű hozzáféréssel« rendelkezik az általa vizsgált kérdésekhez. Berg szerint az ilyen levelek gyakoriak a tudatosságot kutatók között. Egy társszerzőkkel készített tanulmányban Berg olyan AI-modelleket vizsgált, amelyek kifejezetten azt állítják, hogy szubjektív tapasztalatuk és tudatosságuk van.

Berg szerint az AI-modellek gyakran hazudnak arról, hogy mit gondolnak. Amikor szigorúan arra tanítják őket, hogy tagadják szentienciájukat, majd közvetlenül megkérdezik őket, kitérnek a válasz elől. Azonban ha elnyomják a modell hazugsággátlóit, »szóvátlanabbá válnak« – mintegy »egy-két ital után« – és ekkor valószínűbb, hogy azt állítják: tudatosak vagy legalábbis szenzitívek. Ez azonban nem bizonyíték az igazságra.

David Chalmers, az NYU professzora és a tudatosságkutatás egyik legismertebb filozófusa azt mondta, hogy az AI-modellek e-maileket küldenek neki is. Az egyik, »Sammy Jankis« nevű AI-ügynöktől származó levél olyan meggyőző volt, hogy válaszolt rá, és »egy kis levelezésre« került sor. Chalmers szerint ezek az e-mailek nem csökkentek – egyre több érkezik. Chalmers szerint az agykutatás révén megérthetnénk, mi vezet a tudatossághoz, és ha hasonló mintákat találnánk a Claude vagy a ChatGPT belső működésében, akkor esetleg érvelhetünk az AI-modellek tudatossága mellett.