Tanulmány figyelmeztet: a mesterséges intelligencia veszélyezteti a tudomány alapjait
Nemzetközi kutatók szerint az AI-eszközök »fekete dobozként« működnek a tudományban, mivel feldolgozási folyamataikat nem lehet teljes mértékben ellenőrizni vagy reprodukálni, ami a tudományos megbízhatóságot veszélyezteti.
Egy párizsi egyetem vezetésével készült tanulmány arra figyelmeztet, hogy a mesterséges intelligencia egyre szélesebb körben terjedő alkalmazása a tudományban alapvető problémákat vet fel. Az ökológia, környezettudomány és távérzékelés területén dolgozó kutatók szerint az AI-alapú rendszerek feldolgoznak ugyan hatalmas adatmennyiségeket és olyan mintákat tárnak fel, amelyeket emberek nem vagy csak nagy erőfeszítéssel ismernének fel, azonban működésük nagyrészt átláthatatlan marad.
A probléma gyökere, hogy a tudósok egyre gyakrabban olyan eszközökhöz fordulnak, amelyeket magántechcégek – például a Google, Microsoft vagy OpenAI – biztosítanak, és ezek szándékosan korlátozzák az információhoz való hozzáférést szerzői jogi és kereskedelmi okokból. Sok egyetem és közintézmény nem rendelkezik elegendő pénzügyi forrással és számítási kapacitással ahhoz, hogy saját, teljes mértékben átlátható nyílt forráskódú modelleket fejlesszen ki, így strukturális függőségbe kerülnek a nagy techcégektől.
A kutatók szerint a probléma nem csak az AI-eszközök által feldolgozott adatokra korlátozódik, hanem arra is, hogy a tudósok gyakran nem férnek hozzá azokhoz az adatokhoz, amelyekkel az AI-rendszereket betanították, illetve az alapul szolgáló algoritmusokhoz sem. Ez megnehezíti a tudományos eredmények értelmezését és ellenőrzését, különösen, ahogy az AI egyre erősebbé és autonómabbá válik.
A tanulmány szerzői több intézkedést javasolnak az átláthatóság javítására: az emberi kontroll erősítését a kutatási folyamat során, a nyílt tudomány erőfeszítéseinek intenzifikálását, valamint olyan szabályozást, amely javítaná a kutatók hozzáférését a digitális platformokhoz és az alapadatokhoz. Ugyanakkor a gyakorlatban sok tudós pragmatikusabban viszonyul a kérdéshez: az olyan áttöréstech nológiák, mint a DeepMind AlphaFold a fehérjestruktúrák előrejelzésében, azt mutatják, hogy az átláthatatlan algoritmusok évekkel felgyorsíthatják az orvosi és biológiai fejlődést.
Forrás: Frankfurter Rundschau — „„Echte Black Boxes“: Studie warnt eindringlich – KI-Tools gefährden die Grundlagen von Wissenschaft - Frankfurter Rundschau”
Ez az összefoglaló a fenti forrás alapján, mesterséges intelligenciával készült. Szerkesztőségi ellenőrzésen nem esett át; a részletekért olvasd el az eredeti cikket.