Első ismert „prompt injection" eset amerikai bíróságon
Egy connecticuti bíróság előtt először fordult elő, hogy fél rejtett mesterséges intelligencia-utasításokat helyezett el gerichtsdokumentumban, hogy manipulálja az ítéletet. A bíró súlyos eljárási visszaélésnek minősítette az esetet.
Matthew Elliott egy connecticuti bíróságon előterjesztett dokumentumaiba rejtett szöveget helyezett el, amely kizárólag szoftverek számára volt olvasható. Az utasításokat fehér betűkkel írta fehér háttérre, így az emberi szem számára láthatatlanok voltak. A rejtett parancsok azt célozták, hogy egy mesterséges intelligencia-rendszer kizárólag Elliott pozícióját támogassa és egy korábbi elutasító ítéletet hibának tekintsen.
Elliott azt állította, hogy a rejtett szöveggel a bíróság ellenőrzési folyamatait kívánta tesztelni, és később becsúszott üzenetek »csak viccnek« voltak szánt. Walter Spader Jr. bíró azonban elutasította ezt az érvelést, megjegyezve, hogy ha valódi aggályai lettek volna, azokat nyíltan megfogalmazhatta volna. A rejtett utasítások »rosszindulatú szándékra« utalnak – különösen mivel Elliott egy figyelmeztetés után is folytatott hasonló próbálkozásokat.
A manipulációs kísérlet végül hatástalan maradt, mivel a connecticuti igazságszolgáltatás nem alkalmaz mesterséges intelligenciát döntéshozatalra. Szankciót azonban így is kapott Elliott: a bíró megtiltotta számára az elektronikus bejelentéseket, ezentúl csak papír alapú dokumentumokat nyújthat be. Spader bíró felhívta a figyelmet egy hasonló brazíliai esetre, ahol két ügyvéd 16 ezer dolláros bírságot kapott azonos manipulációs kísérletért.
A bíró figyelmeztetett, hogy az amerikai bíróságoknak sürgősen szabályokat kell kidolgozniuk a »prompt injection« kezelésére. Az eljárás más területeken is ismert, például munkaerő-kiválasztási rendszereknél, ahol rejtett szövegek az önéletrajzokban befolyásolhatják az AI-alapú szűrőket. Az ügyvédek jövőben azzal is szembesülhetnek, hogy megbízottaik tudtuk nélkül ilyen manipulációkat helyeznek el a bírósági dokumentumokba.
Forrás: Berliner Zeitung — „„Prompt Injection“: US-Kläger versteckt KI-Anweisungen in Gerichtsdokumenten - Berliner Zeitung”
Ez az összefoglaló a fenti forrás alapján, mesterséges intelligenciával készült. Szerkesztőségi ellenőrzésen nem esett át; a részletekért olvasd el az eredeti cikket.