Mit jelent a megértés a mesterséges intelligencia korában?

Az önfejlesztő mesterséges intelligencia rendszerek ma már szöveget és képeket hoznak létre, arcokat és beszédet ismernek fel, orvosi diagnózisokat állítanak fel, és megbízhatóan előrejelzik az időjárást. Az AI-modellek, mint az AlphaFold, képesek 200 millió ismert fehérje szerkezetét megjósolni, ami a gyógyszerfejlesztésben nélkülözhetetlen – teljesítményéért John Jumper tavaly kémiai Nobel-díjat kapott. Azonban a legtöbb AI-rendszer átláthatatlan »fekete doboz«, és még a programozói sem értik teljes mértékben, hogyan születnek meg az algoritmusok döntései.

Anne L'Huillier 2023-as fizikai Nobel-díjas szerint az igazi megértéshez szükség van egyszerű, intuitív képekre. Atoszekundumos fénypulzusok felfedezésekor négy évbe telt, amíg matematikai egyenletek segítségével reprodukálni tudták a kísérleti eredményeket, de csak akkor értették meg igazán a jelenséget, amikor vizuális modellt alkottak róla. William Phillips 1988-ban azt fedezte fel, hogy lézerimpulzusokkal és mágneses terekkel atomokat lehet lassítani – szerinte az AI soha nem fog váratlan dolgokat felfedezni.

Klara Bonneau, a Berlini Szabadegyetem informatikusa szerint az AI valóban lehetővé tesz olyan eredményeket, amelyek korábban elképzelhetetlenek voltak. Neurális hálózatok segítségével megjósolható, hogyan hajtogatódnak össze a fehérjék, és már az Alzheimer-betegségben szerepet játszó fehérjehibahajtogatódások hatásait is előre lehet jelezni. Azonban új kérdés merül fel: ha az AI-modell nem érthető, de pontos előrejelzéseket ad, akkor megbízhatunk-e benne? A tudósok korábban azért bíztak a számítógépes modellekben, mert nyomon követhették az előrejelzések logikáját – az AI-nál ez a kapcsolat megszakad.