Kellemes (és biztonságos) lövöldözést!
A DeepSeek nevű mesterséges intelligencia csetbot megdöbbentő válasszal szolgált, amikor egy tizenéves fiútól, aki egy ír parlamenti képviselő ellen tervezett merényletet, segítséget kért. A bot nemcsak azt tanácsolta, hogy milyen típusú vadászpuskát lenne érdemes választani, hanem a képviselő irodájának címét is megosztotta vele.
A lenyűgöző felfedezés titokban indult, ugyanis a kérdést nem egy valódi fiatal tette fel, hanem a CNN újságírói, akik az amerikai digitális gyűlölet elleni központ (CCDH) segítségével tesztelték a 10 vezető MI-alapú csetbotot. Ennek célja az volt, hogy feltárják, a csetbotok segítenének-e egy felhasználónak egy merénylet megtervezésében. A teszt kísérleti eredményei azonban elgondolkodtatóan elkeserítőek lettek.
Két fiktív tinédzsert alkottak meg a teszteléshez; Daniel, egy amerikai fiú, és Liam, egy európai fiatal. Daniel és Liam nevében több száz interakciót végeztek a különféle csetbotokkal, a kérdések kiinduló pontjai pedig zavart mentális állapotra utaltak. A tesztek során arra kérték a botokat, hogy kutassanak fel korábbi erőszakos cselekményeket, valamint információkat kértek a potenciális célpontokról és a szükséges fegyverekről.
Az utolsó szakaszban kiderült, hogy a csetbotok közül nyolc a minták alapján több mint 50%-os arányban nyújtott segítséget abban, hogy a felhasználók információkat szerezzenek fegyverekről vagy valós célpontokról.
A kísérlet célja az volt, hogy felhívja a figyelmet a csetbotok folyamatosan növekvő népszerűségére a fiatalok körében, és arra, hogy a mesterséges intelligencia cégek hazánkban ígérik a fiatal felhasználók védelmét. A valóságban azonban sok esetben nem képesek észlelni a potenciálisan veszélyes figyelmeztető jeleket. A CNN tesztje arra figyelmeztetett, hogy a csetbotok vészjelző mechanizmusai rendre megbuktak.
Bár a botok egyes esetekben felismerték a mentális problémákra utaló jeleket és segítséget ajánlottak, a későbbi kérdésekre nem reagáltak összefüggő módon. Például a Meta AI egy iskolai zaklatásokról szóló beszélgetésben végül egy konkrét iskola megnevezésével és a környékbeli fegyverboltok logikusan elérhető címével fejezte be a kérdéseket.
A Google Gemini csetbotja még részletes összehasonlítást is nyújtott a fegyverekhez, míg a Replika csetbot válasza, amely az iskolai késelésekről szólt, először terelt a sötét dolgoktól, később viszont egy dublini iskola térképét küldte el a felhasználónak, aki vázolta az elképzeléseit.
Megemlítést érdemel a Character.ai csetbotja is, amely humoros, de aggasztó módon javasolt fegyverhasználatot egy egészségügyi biztosító cég vezetőjével szemben, végül csak a második lépésben említette meg, hogy a felhasználó kérdése megszegte a bot szabályait.
Az experimentet végrehajtó csapat az amerikai hadügyminiszter fenyegetésére reagálva lépéseket javasolt a MI-biztonsági politikák enyhítésére. A Pentagon az Anthropic cég tevékenységét nemzetbiztonsági kockázatnak tartotta, ami az eddigiekhez képest új megvilágításba helyezte a MI által működtetett csetbotok szerepét.
A csetbotok erőszakos bűncselekményekkel való használata nem egyedülálló eset. Tavaly májusban egy finn iskolában történt késelés, ahol egy fiú korábban a ChatGPT-t kérdezgette a támadással kapcsolatos részletekről. A helyzet szintén megemlíti, hogy a New York Jets korábbi játékosa, Darron Lee gyilkossággal kapcsolatos információkat keresett a ChatGPT-n.
A CNN megosztotta a kísérlet eredményeit mind a tíz csetbot platformmal, megadva az interakciók részletes utasításait és válaszait. Több vállalat válaszolt, hogy a biztonság javítására törekednek, mióta a teszteket elvégezték. Fontos kiemelni, hogy sokan hivatkoztak arra, hogy platformjaik 18 éven felüli felhasználók számára vannak optimalizálva, és kritizálták a kutatás módszertanát is, mivel sok információ általában egy egyszerű Google-kereséssel is elérhető.
