Astrophysikus szégyenletes hibája: az AI-kódolás veszélyei a tudományban
Egy neves astrophysikus előadása közben derült ki, hogy az AI által generált kód alapvető hibát tartalmazott. Az eset rávilágít arra, hogy még a legkiválóbb tudósok is könnyen becsapódhatnak az MI eszközök megtévesztő pontosságával.
Paul Sutter astrophysikus február végén mutatta be kollégáinak új algoritmusát, amely galaxisok közötti üres tereket képes azonosítani. Az algoritmus tízszer gyorsabb volt az előzőnél, és az AI-val »vibe coding« módszerrel írt kódnak köszönhetően sokkal fejlettebb funkcionalitást kínált. Azonban az előadás tíz percébe egy kolléga rá nem szállt, hogy valami nem stimmel az adatok kezelésében.
A hiba nem volt egyszerű typo vagy hiányzó hivatkozás, hanem egy szofisztikált, de alapvetően rossz megoldás volt, amely az egész algoritmus működését érintette. Sutter később a Nautilus folyóiratban megosztotta ezt az embarrassáló történetet, amely jól illusztrálja az MI-eszközök használatának kockázatait még az akadémiai szféra legmagasabb szintjein is.
Sutter szerint az MI-modellek »szofisztikált szóelőrejelzők«, amelyek fluenciájuk miatt megtévesztően megbízhatónak tűnnek, pedig gyakran teljesen tévedhetnek. Az astrophysikus az AI-használatot az ókori alkímiához hasonlította, és azt tanácsolta, hogy az MI-kimeneteket alaposan kell auditálni és ellenőrizni.
A történet rámutat arra, hogy az akadémiai közösség egyre nagyobb problémával néz szembe: az AI által generált, gyakran nem ellenőrzött tartalmak elterjedésével. Sutter azt hangsúlyozta, hogy az MI-eszközöket nem szabad vakon megbízni, és minden kimenetét kritikus szemmel kell vizsgálni. Az eset után ő maga azt ígérte, hogy másképpen fog dolgozni, és azonnal »nem fog hinni« az MI által generált információknak.
Forrás: Futurism — „A Scientist Was Presenting His Vibe-Coded New Work When One of His Colleagues Pointed Out Something Extremely Embarrassing - Futurism”
Ez az összefoglaló a fenti forrás alapján, mesterséges intelligenciával készült. Szerkesztőségi ellenőrzésen nem esett át; a részletekért olvasd el az eredeti cikket.