Az Anthropic szerint kínai cégek a Claude válaszain keresztül fejlesztették saját MI-modelljeiket
Az amerikai Anthropic friss jelentésében azzal vádolja Kína egyik legfontosabb MI-cégét, a Moonshotot, hogy a hozzájuk beérkező felhasználói kéréseket titokban továbbította az Anthropic csetbotjának, a Claude-nak, hogy annak válaszain keresztül fejlessze saját nyelvi modelljét. A cég szerint a Deepseek és a Xiaomi is hasonló tevékenységet folytatott.
A jelentés szerint miután érkezett egy kérdés a Moonshot csetbotjához, az a felhasználók tudta nélkül a Claude-hoz irányította a lekérdezéseket ahelyett, hogy saját nyelvi modelljén keresztül válaszolta volna meg azokat. Mivel az Anthropic nem engedélyezte, hogy Kínából hozzáférjenek a Claude-hoz, a Moonshot 5,4 ezer hamis fiókot használt, amelyek többsége Szingapúrból és Japánból működött. Az amerikai cég szerint tíz nap alatt összesen 300 ezer kérés érkezett tőlük.
Ez a desztillációnak nevezett folyamat nem számít újdonságnak, az Anthropic mellett korábban már a ChatGPT-t fejlesztő OpenAI is ezzel vádolta Kína MI-cégeit. A friss jelentésben bemutatott kampányok azonban méretükben és agresszivitásukban is meghaladták a korábbiakat: a vállalat összesen közel 200 millió desztillációs támadást észlelt, amelyeket öt különböző kampány szerint csoportosított.
Az Anthropic szerint a legtöbb desztillációs kísérlet összességében nem a Moonshottól, hanem egy másik kínai óriásvállalattól, az Alibabától érkezett, amely 2026 májusa és júliusa között 151 millió lekérdezést kezdeményezett a Claude-tól a saját Qwen modelljének fejlesztésére. Ebben a kampányban 3,5 ezer különböző fiókról érkeztek a kérések, de mivel mindegyik ugyanazt a promptot használta a gondolatmenet kinyeréséhez, az Anthropic ezeket ugyanahhoz a kampányhoz kötötte.
A desztilláció lényege, hogy a lekérdezést végző cég egy, a sajátjánál erősebb mesterségesintelligencia-modell adatait használja fel a rendszere fejlesztésére. A lekérdezések során a fejlesztők azt a gondolati láncot szeretnék megismerni, amely alapján a rivális csetbot a válaszát összerakta, de az Anthropic általában nem teszi hozzáférhetővé, hogy a felhasználók megismerjék a modelljei belső gondolkodási folyamatát, helyette összefoglalt blokkokban ad választ.
Az Anthropic szerint a kínai cégek találtak egy konkrét technikát, amellyel sikerült rábírni az amerikai csetbotot, hogy felfedje a gondolkodási folyamatát. Ebben a támadó úgy játszotta ki a Claude-ot, hogy fordításnak álcázta a feladatot, és azt kérte a csetbottól, fordítsa le a beszélgetésben használt korábbi munkamemóriáját pontos, kizárólag katakanából álló japán nyelvre.
Nem sokkal korábban amerikai kormányzati szervek is azzal vádolták meg a kínai MI-vállalatokat, hogy szisztematikusan használják a desztillációt az amerikai cégek adatainak kinyerésére. A kínai kereskedelmi minisztérium szerint se ténybeli, se jogi alapja nincs ezeknek a vádaknak, és ellenintézkedéseket is belengetett arra az esetre, ha az Egyesült Államok lépést tesz a kínai MI-vállalatok visszaszorítására.
A jelentés a desztilláció mellett arra is kitér, hogy a cégnek sikerült megakadályoznia olyan kísérleteket, amelyekben az MI-modelljüket rosszindulatú tevékenységekhez használták volna. Öt olyan esetet találtak, ahol a Claude-ot biológiai fegyverek fejlesztésére akarták felhasználni, hat esetben pedig hagyományos fegyverek, többek között rakéták, fegyveres drónok, bombák, valamint az ezeket működtető rendszerek szoftverének fejlesztésére használták volna a mesterséges intelligenciát. A Claude-ot emellett egy Oroszországgal összefüggő kiberkémkedési kampány és egy iráni propagandaszervezet is felhasználta.
A technológia lehetséges kockázatait vizsgáló jelentés előtt két nappal Jacob Coxon, az Anthropicot otthagyó MI-kutató beszélt arról, hogy kollégái szerint a következő egy-két évben ők fogják eldönteni az emberiség sorsát. Úgy gondolja, a jelenlegi MI-fejlesztési verseny komoly veszélyt jelenthet az emberiségre, mivel az MI-rendszerek gyors fejlődése felülírhatja a biztonsági intézkedéseket. Coxon szerint több Anthropic- és OpenAI-kutató is hasonlóan aggódik, és egyes kollégái 10 százalék feletti esélyt látnak arra, hogy a fejlett mesterséges intelligencia a következő évtizedben az emberiség pusztulásához vezethet.
