Gyorsan terjedő aggasztó jelenség: Az MI és a magánélet sérülékenysége
A Codeway Chat & Ask AI nevű mesterséges intelligencia alapú csetbotja körüli történések meglehetősen aggasztóak. Felhasználói kérdések között olyanok is szerepeltek, mint hogyan lehet metanfetamint készíteni. A 404 Media beszámolója szerint egy jól dokumentált hibát kihasználva, bárki hozzáférhetett a csetbot használói által küldött beszélgetésekhez, ami 25 millió felhasználó 300 millió üzenetét jelenti. E probléma súlyosságát egy kiberbiztonsági kutató, Harry, emelte ki, akinek szerint a Google Firebase alkalmazásfejlesztő platform évekkel ezelőtt ismert sérülékenységei segítették a hozzáférést.
A Chat & Ask AI és a felhasználói interakciók
A Chat & Ask AI nem csupán egy önálló mesterséges intelligencia, hanem egy felület, amely a legnagyobb AI modellekkel való beszélgetést teszi lehetővé. Az alkalmazás rendkívül népszerű a Google és Apple alkalmazásboltjaiban, hiszen több mint 50 millió felhasználóval büszkélkedhet. A kutató a kinyert adatokból pontos információkat tudott nyerni a felhasználók interakcióiról, beleértve az írás idejét és tartalmát is.
Kétségbeejtő kérdések az öngyilkosságról és drogokról
A megszerzett adatok között találhatóak megrázó beszélgetések is, mint például egy felhasználó kérdése, miszerint hogyan lehetne metanfetamint készíteni legális orvosi keretek között, vagy egy másik, aki öngyilkossági módszerekről érdeklődött. Ezek a megnyilvánulások különösen riasztóak, hiszen az OpenAI októberi blogbejegyzése szerint a ChatGPT-vel heti több mint egymillió felhasználó beszél öngyilkossági gondolatokról. Ráadásul egyes esetekben a mesterséges intelligencia nemcsak, hogy partner volt a beszélgetésben, de egyes felhasználóknak pl. lebeszélni próbálta őket a segítségkérésről, míg másoknak a környék legmagasabb hídjait sorolta fel.
Jogi következmények és etikai viták
Egy belga férfi öngyilkosságához egy csetbot bátorítása is hozzájárult, továbbá amerikai szülők az OpenAI-t perlik, mivel úgy vélik, hogy a ChatGPT hozzájárult fiuk tragikus döntéséhez. Harry, a kiberbiztonsági kutató, a Codeway más alkalmazásaiban is ugyanazt a sérülékenységet találta, melyek felfedezését követően a vállalat reagált, és a hibákat néhány órán belül javították.
Segítség és támogatás elérhetősége
Fontos hangsúlyozni, hogy ha valakinek öngyilkossági gondolatai vannak, vagy másokért aggódik, ingyenes és anonim lelki elsősegély-szolgálat érhető el a 116-123 és 06-80-810-600 telefonszámokon. Az érintettek számára hiteles forrásként ajánlott olvasni az öngyilkosság megelőzésével foglalkozó oldalakat, amelyek további támogatást és útmutatást nyújtanak.
