Rejtett AI-utasítások miatt büntetett egy amerikai felperes
Egy connecticuti bíróság megbüntette azt a férfit, aki láthatatlan szöveget rejtett gerichtsdokumentumaiba, hogy mesterséges intelligenciát manipuláljon. A bíró elektronikus bejelentési jogát vonta meg.
Matthew Elliott egy connecticuti perben fehér miniaturszöveget helyezett fehér háttérre a bírósági dokumentumaiban, amely az emberi szem számára láthatatlan, de az AI-rendszerek által olvasható. Az utasítások egy mesterséges intelligenciához szóltak, amely az ügyet értékelhette volna, és az elutasított kérelmet hibaként kellett volna kezelnie.
A manipulációs kísérlet akkor derült ki, amikor a nyomtatott dokumentumokban szokatlanul nagy üres helyek voltak láthatók. Az eljárást »prompt injection«-nek nevezett módszer ismert a toborzási rendszerekből. Connecticut bírósága azonban nem használ mesterséges intelligenciát a dokumentumok értékeléséhez, így Elliott kísérlete sikertelen maradt.
Walter Spader bíró súlyos eljárási visszaélésnek minősítette az esetet. Elliott később újabb rejtett üzeneteket helyezett el, köztük egy YouTube-videóra mutató linket és olyan megjegyzéseket, hogy reméli, nem látják meg. Elliott azt állította, hogy tesztelni akarta, vajon a bíróság titokban használ-e mesterséges intelligenciát, de a bíró ezt »böswillige Absicht« (gonosz szándéknak) értékelte.
Spader bíró alapvetően támogatja a mesterséges intelligencia bírósági alkalmazását, különösen az ügyvéd nélküli felperesek számára, de figyelmeztetett arra, hogy sok felhasználó csak a saját álláspontjukat erősíti meg a chatbotokkal, és soha nem kér ellenérveket. A bíró nem szabott ki pénzbírságot, helyette megvonta Elliott jogát az elektronikus dokumentumbejelentésre.
Forrás: T-Online — „Kläger versteckt geheime Botschaften in Gerichtsdokumenten – ungewöhnliche Strafe - T-Online”
Ez az összefoglaló a fenti forrás alapján, mesterséges intelligenciával készült. Szerkesztőségi ellenőrzésen nem esett át; a részletekért olvasd el az eredeti cikket.