Kínai gazdálkodó 25 hektár termést vesztett az AI chatbot tanácsára
Egy 67 éves kínai farmer vakon követte egy mesterséges intelligencia által javasolt növényvédelmi utasításokat, ami a teljes ültetvénye pusztulásához vezetett. Az eset újabb figyelmeztetés az AI-rendszerek korlátaira.
A chuzhou-i gazdálkodó egy chatbottól kapott tanácsot követve herbicideket és rovarirtószereket kevert össze, majd az egész szezámültetvényére felhordta az oldatot. A kezelés után másnap reggel rájött, hogy körülbelül 24,7 hektárnyi szezámpalántája elpusztult.
Az AI később elismerte, hogy hibás tanácsot adott. Az egyik felhasznált herbicid, a flufenacet széles levelű gyomok ellen hat, és mivel a szezám is széles levelű növény, az szer megsemmisítette azt. Ráadásul az AI nem említette meg, hogy az szert csak a fertőzött területekre szabad felhordani, nem az egész mezőre.
A farmer kezdetben nem bízott az AI alkalmazásban, de miután az korábban hasznos tanácsot adott, megváltoztatta véleményét. Az eset rávilágít arra, hogy még az eddig megbízható AI-rendszerek is tévedhetnek, és a felhasználók nem szabad vakon követniük az ajánlásaikat. A ChatGPT és hasonló alkalmazások is tartalmaznak figyelmeztetéseket a lehetséges hibákról.
Ez nem az első eset, amikor az AI-tanácsok súlyos következményekhez vezettek. Tavaly egy 60 éves férfi a ChatGPT javaslatára nátrium-bromiddal helyettesítette az étkezési sót, ami bromizmushoz, vagyis krónikus brommérgezéshez vezetett – egy olyan pszichiátriai betegséghez, amely az 1800-as óta nem gyakori.
Forrás: TechSpot — „Farmer trusted AI after it gave good advice, then it helped wipe out 25 acres of his crops - TechSpot”
Ez az összefoglaló a fenti forrás alapján, mesterséges intelligenciával készült. Szerkesztőségi ellenőrzésen nem esett át; a részletekért olvasd el az eredeti cikket.