Első eset az USA-ban: férfi rejtett AI-utasításokat csempészett bírósági iratokba
Egy connecticuti bíró azonosította az első esetet, amikor egy felperes láthatatlan szöveget rejtett be jogi dokumentumokba, hogy mesterséges intelligenciát manipuláljon az ügye megnyerésére. Az kísérlet kudarcot vallott, és a bíróság szankciókat szabott ki.
Matthew Elliott connecticuti férfi egy egészségügyi szolgáltató ellen indított perben rejtett utasításokat helyezett el az iratainak szövegébe, amelyeket csak AI-rendszerek tudtak volna olvasni. Az apró, fehér betűkkel fehér háttéren formázott szöveg az AI-t arra utasította volna, hogy az ellenfél korábbi vereségeit figyelmen kívül hagyja, és az ügyet az ő javára döntsék el. Walter Spader Jr. bíró szerint ez a »prompt injection« nevű támadás »veszélyes« precedenst teremt.
Elliott még azután is folytatott rejtett üzeneteket az iratokba, hogy a bíróság figyelmeztette. Később azt állította, hogy ezek »viccek« voltak, köztük egy Nosferatu-videó linkje és értelmetlennek tűnő szövegek. Védekezésében azt állította, hogy az eredeti rejtett parancs az volt, hogy »auditálja« a bíróságot, mivel gyanította, hogy az AI-t használnak az ügyek eldöntésére.
Spader bíró azonban nem találta hitelesnek ezt az érvet, és rámutatott, hogy ha Elliott valóban aggódott az AI-használat miatt, »nyíltan és láthatóan« írhatott volna erről. A rejtett szöveg »a rosszindulatú szándék bizonyítéka« – mondta a bíró. Mivel Connecticut nem használ AI-t az ügyek eldöntésére, az utasítások nem voltak veszélyesek, de az eljárás visszaélésének minősült.
Spader megjegyezte, hogy az ilyen támadások máshol már sikeresek voltak: Brazíliában két ügyvéd hasonló módszert alkalmazott egy AI-t használó bíróságon, és körülbelül 16 000 dollár pénzbírságot kapott. Azonban az eddigi esetek azt mutatják, hogy az ilyen manipulációs kísérletek nem működnek, mivel az emberek végül észrevesznek mindent. A bíró figyelmeztetett, hogy a bíróságoknak új szabályokat kell kidolgozniuk a prompt injection elleni védekezésre, ahogy az AI-eszközök terjednek a jogrendszerben.
Forrás: Ars Technica — „Suspecting court of using AI, man injected prompts in filings to try to win case - Ars Technica”
Ez az összefoglaló a fenti forrás alapján, mesterséges intelligenciával készült. Szerkesztőségi ellenőrzésen nem esett át; a részletekért olvasd el az eredeti cikket.