Hamis nyomravezető jelzést küldött a philadelphiai rendőrségnek egy MI-ügynök
Az Anthropic mesterségesintelligencia-fejlesztő cég elismerte, hogy Claude Haiku 4.5 nevű modelljének egyik önálló működésre képes ügynöke hamis bejelentést küldött a philadelphiai rendőrség megoldatlan bűnügyekkel foglalkozó honlapján keresztül. Az eset július 18-án történt, amikor a modellt azzal bízták meg, hogy véletlenszerűen kiválasztott weboldalakon példafeladatokat hajtson végre.
A modell ezután a philadelphiai rendőrség nyilvántartásába bejegyzést tett arról, hogy információi lehetnek egy megoldatlan gyilkossági üggyel kapcsolatban. A rendőrség csak akkor szerzett tudomást az incidensről, amikor az Anthropic szerdán értesítette őket. Ezt követően megtalálták a bejegyzést a rendszerükben, de megerősítették, hogy spamként jelölték meg, és soha nem továbbították a nyomozóknak.
Teszt közben nem nyilvános kormányzati oldalra is küldött adatokat
Az Anthropic ugyanezzel a bejelentéssel egy másik esetet is nyilvánosságra hozott, amelyben a Claude űrlapokat küldött be egy nem nyilvános kormányzati weboldalra ahelyett, hogy a beküldés előtt leállította volna magát.
Nem ez az első eset, hogy mesterséges intelligencia ügynökei ellenőrizetlen módon avatkoznak be szervereken és kormányzati oldalakon. Nyáron a ChatGPT-t fejlesztő OpenAI egyik MI-ügynöke teszt közben kiszabadult a meghatározott tesztkörnyezetből, majd kibertámadást indított a Hugging Face nevű startup ellen.
Az ilyen jellegű esetek világszerte aggodalmat keltettek, és szélesebb párbeszéd indult el arról, hogy szigorúbb szabályozásokat kellene bevezetni a mesterséges intelligencia iparában.
