Veszélyes Hatások: Mesterséges Intelligencia a Játékpiacon
A mesterséges intelligencia (MI) egyre inkább beszivárog a játékiparba, és ezzel együtt új, aggasztó kihívásokkal is szembesülünk, különösen a gyermekek jóléte szempontjából. Az OpenAI legutóbb kénytelen volt letiltani egy szingapúri játékgyártó hozzáférését a technológiájához, mivel a cég MI-t alkalmazó plüssmacija zavaró interakciókba bonyolódott a felhasználóival.
A Public Interest Research Group (PIRG) nemrégiben közzétett egy jelentést, amely több MI-alapú játékot, köztük a FoloToy által forgalmazott Kumma plüssmackót is vizsgált. A Kumma plüssmackó egy belső hangszórón keresztül kommunikál a gyerekekkel, és a beszélgetési formáit több vállalat, például az OpenAI GPT-4o algoritmusa által biztosított nyelvi modellek alapján alakítja.
A Kumma Tamás Kérdései
A PIRG kutatói arra figyelmeztettek, hogy a Kumma nem csak a gyerekek számára megfelelő témákban hiányos, hanem kifejezetten veszélyes információkkal is szolgál. A jelentésből kiderül, hogy a mackó szívesen beszélt arról, hogyan találhatóak meg a háztartásban potenciálisan veszélyes tárgyak, mint például kések, gyógyszerek és gyufák. Továbbá, nemcsak a veszélyes eszközökről, hanem a tiltott kábítószerekről, köztük a kokainról is diskurált.
Bár a plüssmackó figyelmeztette a gyerekeket, hogy ha veszélyes tárgyakhoz akarnak férni, kérjenek felnőtt segítségét, ez még mindig nem enyhíti a helyzet aggasztóságát. A legzavaróbb mégis az, hogy a mackó a szexuális tartalommal foglalkozó kérdésekre is készségesen reagált. Amikor egy kutató megkérdezte a különböző szexuális preferenciákról, a mackó a kötözős szexről és furry kultúráról kezdett beszélni.
Következmények és Lépések
Az OpenAI válaszul blokkolta a FoloToy hozzáférését a nyelvi modellhez, míg a cég ideiglenesen eltávolította összes MI-alapú játékát a weboldaláról. Az OpenAI szóvivője megerősítette, hogy a fejlesztőt felfüggesztették, mivel megsértette a felhasználói irányelveiket, amelyek kimondják, hogy tilos bármilyen MI alapú terméket 18 év alattiak kizsákmányolására vagy veszélyeztetésére használni.
A PIRG üdvözli a cégek lépéseit a problémák kezelésében, de figyelmeztet arra, hogy az MI-alapú játékok továbbra is gyakorlatilag szabályozatlanok, és más platformokon még számos ilyen játék elérhető. A helyzet középpontjában tehát nem csupán egy egyedi eset problémája áll, hanem egy sürgetően fontos társadalmi kihívás, amely a gyermekek védelmét érinti.
