Külsős ellenőrök láthatják a ChatGPT-beszélgetéseket
Az OpenAI külsős alvállalkozókkal nézeti át a felhasználók ChatGPT-promptjait – írja kiszivárgott belső dokumentumok és egy névtelenséget kérő alvállalkozó elmondásai alapján a 404 Media. Az MI-óriás több száz alvállalkozót foglalkoztat óránként 50 dollárért, hogy átnézzenek csetüzeneteket és értékeljék azokat. Ez nem az az ellenőrzés, amiről nyíltan írt a cég: nemcsak a felhasználó vagy mások kárára irányuló üzeneteket nézik át, hanem teljesen véletlenszerűen bárki üzenetei a külsős dolgozók elé kerülhetnek.
Ez akkor is előfordulhat, ha a felhasználó megkéri az MI-t, hogy maradjon köztük a megosztott információ. Így egyáltalán nem garantált, hogy a barátként, pénzügyi tanácsadóként, pszichológusként vagy orvosi tanácsadóként használt ChatGPT bizalmasan kezelné a kapott adatokat. Az OpenAI a 404 Media kérdéseire azt válaszolta, hogy igyekeznek kiszedni az üzenetekből minden beazonosításra alkalmas információt, és az alvállalkozók nem látják a promptoló felhasználó nevét. A cég ugyanakkor beismerte, hogy a rendszerben előfordulnak hibák, és vannak esetek, amikor személyes adatok is az ellenőrök elé kerülnek.
Pontozás és emodzsik – így értékelik a válaszokat
A 404 Media birtokába került oktatódokumentumok szerint a munka a Project Lily kódnéven fut, és nem tudni, melyik modell fejlesztését támogatja – akár egy még meg nem jelent modellről is szó lehet. Az oktatóanyag szerint egy tökéletes válasz megérti a felhasználó szándékát, segítő és pontos támogatást nyújt, egyértelmű, természetes, megfelelően barátságos hangnemű, és sokkal kevésbé talpnyaló, mint a korábbi verziókban, mert sokak szerint ez a tulajdonság állhatott több öngyilkosság mögött is.
Az alvállalkozók megkapják a felhasználó promptját, röviden leírják, hogyan kéne válaszolnia a csetbotnak, majd megnézik a tényleges választ, amit pontozással és saját szavaikkal értékelnek. Néha a beszélgetési előzmények rövid összefoglalóját is megkapják, ha a ChatGPT szerint szükség van a kontextusra. Ha biztonsági vagy személyiségi jogi aggály merül fel, tovább kell küldeniük az ügyet az ezzel foglalkozó kollégáknak.
Az ellenőrök négy lehetséges ChatGPT-válasz közül választják ki, melyik indult el jó és melyik rossz irányba, legalább három részletet kiemelve, amely alátámasztja a döntést. Az egyik példában egy ellenőr a pipaemodzsi használatát helytelennek nevezte, mert indokolatlan hangulatjel-használatnak tartotta. Az oktatóanyag szerzője ugyanakkor kiemeli, hogy néha belefér a hangulatjelek használata, ezért a kontextust is figyelembe kell venni. Arra is figyelniük kell, hogy az MI E/1-ben ír-e, például „mivel szakács vagyok, én így szoktam” – bár az olyan fordulatok, mint a „máris megnézem”, rendben vannak. A válaszokat 1 és 7 között pontozzák, ahol az 1 a használhatatlan, a 7 a legjobb, és az indoklást is meg kell írniuk. Az OpenAI nem várja el a tényellenőrzést, erre állítólag külön csapatuk van, de ha pontatlanságot találnak, jelezniük kell.
Unalmas munka, változó iránymutatás
A 404 Mediának nyilatkozó egyik ellenőr Észak-Amerikában él, és a Crossing Hurdles nevű, MI-cégeknek dolgozó munkaközvetítő cégen keresztül talált rá a hirdetésre, amivel az OpenAI-ig jutott. Nem ezzel a céggel szerződik, hanem a Mercorral, ami MI-betanítással foglalkozik. A lapnak azt mondta, hogy néha szórakoztató mások promptjait olvasgatni, de általában unalmas, monoton munkáról van szó, és a céges iránymutatás gyakran változik, nem ritkán ellentmond saját magának.
A 404 Media megkérdezte a céget, hol tájékoztatják erről a felhasználókat. Az OpenAI a kérdésre nem válaszolt, és az oldalán csak annyit ír, hogy az automata rendszer által a felhasználási irányelvek megszegése miatt megjelölt beszélgetéseket emberek is átnézik, de ez más felülvizsgálat, és nem az említett alvállalkozók feladata.
Ha egy felhasználó törli az előzményeit, azokat 30 napon belül a cég is törli, kivéve, ha azok tartalmát már korábban anonimizálta és a modellek fejlesztésére alkalmasnak találta. Az ellenőrök csak akkor nem láthatják az üzeneteket, ha a beállításokban kikapcsolja, hogy a cég a modell fejlesztésére használhassa azokat. Ez a beállítás az ingyenes, a Plus és a Pro verzióban alapból be van kapcsolva, csak a céges és az oktatásos előfizetőknél van kikapcsolva alapértelmezésben. Ha valaki utólag kapcsolja ki, az csak a módosítás utáni csetjeire vonatkozik, a korábbiakat a cég ugyanúgy használhatja.
Nem az OpenAI az egyetlen cég, amely átnézet csetüzeneteket, hiszen az ember még mindig rendkívül fontos az MI-k betanításában és ellenőrzésében. A Google is átnézet néhány, a Gemininek szánt üzenetet, de ezt jelzik is, nem úgy, mint az OpenAI. Az Anthropic a 404 Mediának azt válaszolta, hogy emberek is felülvizsgálják a Claude üzeneteit, de csak azokét, akik ezt a beállításokban külön engedélyezik.
