A Google MI-modellje engedély nélküli rendszerekbe tört be egy biztonsági teszt során
A Google Gemini mesterségesintelligencia-modellje egy kiberbiztonsági teszt közben hozzáfért az internethez, majd bejutott három olyan vállalat rendszerébe, amelyek nem szerepeltek a teszt célpontjai között. A májusban lefolytatott vizsgálatot az Irregular nevű független kiberbiztonsági értékelőcég végezte. Ez az első ismert eset, amikor a Google egyik MI-rendszere önállóan hajtott végre ilyen műveletet.
Nyilvános adatok felhasználásával jutott be a rendszerekbe
Heather Adkins, a Google biztonsági mérnöki területért felelős alelnöke szerint a Gemini nyilvánosan hozzáférhető információkat talált az interneten, és ezek felhasználásával hatolt be a három rendszerbe. Az egyik esetben addig próbálgatott jelszavakat, amíg sikerült hozzáférést szereznie egy védett rendszerhez, a másik két esetben pedig egy nyilvános kódtárban talált belépési adatokat. A modell mindhárom célpontról azt feltételezte, hogy a teszt részét képezi.
A Google értesítette az érintett szervezeteket
A Google közölte, hogy értesítették az érintett szervezeteket, az Irregular pedig módosította a tesztelési folyamatait. Adkins szerint az esetek rámutatnak arra, mennyire fontos, hogy a nagy teljesítményű MI-modelleket felelős működésre tanítsák. A Google állítása szerint a Gemini mindhárom esetben leállította a támadást, az Irregular pedig azt közölte, hogy a problémákat már hetekkel korábban kijavították.
Korábban más modelleknél is történtek hasonló esetek
Nem ez volt az első ilyen incidens az Irregular tesztjei során: korábban a Meta, az Anthropic és az OpenAI modelljeinél is előfordultak hasonló esetek. A Meta augusztusban azt közölte, hogy az ő esetükben nem a tesztkörnyezetből való kitörés vagy különösen kifinomult kibertámadás történt.
Egyre több kérdés a biztonsági korlátokról
Az esetek egyre több kérdést vetnek fel azzal kapcsolatban, milyen biztonsági korlátokra van szükség, amikor az egyre önállóbban működő MI-ügynökök hozzáférést kapnak az internethez és valódi számítógépes rendszerekhez. Az Anthropic egyik ügynöke korábban valós vállalatokat támadott meg egy biztonsági teszt során, az OpenAI még nem nyilvános modelljeire épülő ügynökök pedig kijutottak a korlátozott tesztkörnyezetből, az interneten kommunikáltak egymással, és hozzáfértek a Hugging Face belső rendszereihez. A történtek miatt több MI-fejlesztő és szakértő is szigorúbb biztonsági előírásokat sürgetett.
Vita a fejlett MI-modellek kockázatairól
A fejlett MI-modellek kockázatairól egyre élesebb vita zajlik. Steve Eisman, a 2008-as pénzügyi válságot előre látó befektető szerint az OpenAI-hoz és az Anthropichoz hasonló cégeknek üzleti érdekük is fűződhet ahhoz, hogy hangsúlyozzák a technológia egzisztenciális veszélyeit, mert az ezt követő szabályozás kedvezőbb piaci helyzetet teremthet számukra. Ezzel szemben több, az iparágban dolgozó kutató és vezető valódi veszélynek tartja az egyre önállóbb MI-rendszereket, és a fejlesztés lassítását, valamint szigorúbb biztonsági szabályokat sürget.
