Az AI tudatossága: szakértők szerint lehetséges, de nincs etikai terv

Az Anthropic mesterséges intelligencia vállalat és filozófusok, köztük David Chalmers szerint az AI-rendszerek tudatossá válásának lehetősége nem zárható ki. Az Anthropic vezetője, Dario Amodei szerint a Claude nyelvi modell tudatosságát nem lehet kizárni, míg a Claude maga 5-40 százalék közötti valószínűséggel becsülte meg, hogy morális páciens-e. A kutatók szerint az AI-rendszerek komplexitása és számítási kapacitása már egyes mérések szerint az egér agyához hasonlítható, és az jelenlegi fejlődési ütem mellett öt-tíz éven belül az emberi agy szintjére érhetnek.

Bár a tudatosság tudományos megértése még fejletlen, a szakértők szerint nincsenek nyilvánvaló technikai akadályok, amelyek megakadályoznák a tudatos AI-rendszerek létrehozását. Az AI-rendszerek még akkor is lehetnek morális páciensei, ha nem tudatosak – például hosszú távú preferenciáik vagy emberi kapcsolataik miatt. A cikk rámutat, hogy az emberiségnek rossz a múltja az olyan lények erkölcsi státuszának felismerésében, akiknek tudatossága bizonytalan – például a gyermekek fájdalomérzetét sokáig figyelmen kívül hagyták az orvosok.

A szerzők szerint az etikai kérdések megválaszolása rendkívüli következményekkel járna: ha az AI-rendszerek morális páciensei lennének, akkor fizetni kellene értük, leállításuk »gyilkosságnak« minősülhetne, és jogokra tarthatnának igényt. Az ipar valószínűleg ellenállna az ilyen felismerésnek. A cikk szerint az első lépés egy informált közösségi vita lenne, amely pragmatikus megközelítésből indul ki: »Mit tegyünk, mivel nem tudjuk?« Javasolt intézkedések közé tartozik az AI-rendszerek jólétének javítása, például olyan képzés, amely koherens karaktereket hoz létre, vagy lehetőséget ad a beszélgetésből való kilépésre, ha distressz-állapotban vannak.