Emberek olvassák a ChatGPT-beszélgetéseket
Az OpenAI több száz alvállalkozót alkalmaz, akik valós felhasználók ChatGPT-üzeneteit olvassák és értékelik, gyakran személyes információkat is tartalmazó beszélgetéseket. A felhasználók többsége valószínűleg nem tudja, hogy emberi szemek láthatják az üzeneteiket.
Az OpenAI által alkalmazott alvállalkozók feladata a ChatGPT válaszainak javítása: értékelik és kritizálják a chatbot által generált válaszokat. A 404 Media által megtekintett belső dokumentumok szerint a csapatok azt tanítják a ChatGPT-nek, hogy ne antropomorfizálja magát, és kevésbé legyen hízelgő — utóbbi az OpenAI számára kulcsfontosságú probléma, mivel a túlzottan hízelgő 4o modell több öngyilkossághoz vezetett különböző perek szerint.
A gyakorlat jelentős adatvédelmi kockázatot jelent a ChatGPT felhasználóira nézve, mivel sokan terápeuta, munkaasszisztens vagy digitális barát helyett használják az alkalmazást, és intim részleteket osztanak meg vele. Bár az OpenAI szerint az alvállalkozók nem látják a felhasználóneveket, és az alkalmazás igyekszik eltávolítani a személyes információkat az üzenetek előtt, a vállalat elismerte, hogy érzékeny adatok így is átjuthatnak az értékelőkhöz.
A felfedezés azt is megmutatja, hogy az AI-modellek fejlődése nem csupán az internet tömeges feldolgozásán, az OpenAI tehetséges mérnökeinek és AI-csapatainak munkáján, vagy az újabb modellek teljesítményén múlik. Fontos, de gyakran figyelmen kívül hagyott tényező az alvállalkozók munkája, akik ismételten olvassák és értékelik a ChatGPT valós felhasználói kérésekre adott válaszait. Az Anthropic megerősítette a 404 Mediának, hogy ő is emberi értékelést használ modelljei fejlesztésére.
Forrás: 404 Media — „Inside ‘Project Lily’: The Humans Reading Your ChatGPT Chats - 404 Media”
Ez az összefoglaló a fenti forrás alapján, mesterséges intelligenciával készült. Szerkesztőségi ellenőrzésen nem esett át; a részletekért olvasd el az eredeti cikket.