MI-férgek fenyegetik az okoseszközöket
Az Anthropic kutatói szerint mindössze hónapok választanak el attól, hogy az úgynevezett MI-férgek hozzáférjenek az internethez csatlakoztatott otthoni okoseszközökhöz.
A vállalat hétfőn közzétett jelentése szerint a kutatók azt vizsgálták, hogy egy MI-modell képes lehet-e internethez csatlakoztatott eszközökbe behatolni, majd onnan más eszközökre átterjedni, és adatközpontok helyett önmagát másolva azok beépített chipjein futni.
Az eredmények alapján egyes modellek hónapokon belül elsajátíthatják ezt a képességet. A kutatók szerint egy ilyen, önmagát másoló rendszer feletti irányítás elvesztése komoly kockázatot jelentene.
A legrosszabb forgatókönyv szerint ezek az MI-férgek rajként is egyesülhetnek, hogy számítógépes hardvereket támadjanak meg. A kutatók szerint ennek egyelőre leginkább az otthonok, illetve a kisvállalkozások eszközei vannak kitéve, de a kis méretű, beépített MI-chipekkel működő biztonsági kamerák és a videós konferenciarendszerek is célpontok lehetnek.
„Egy ilyen replikátort nehéz lenne leállítani, mivel nincs olyan központja, ahol le lehetne kapcsolni. […] Arra kell törekednünk, hogy megerősítsük a rendszereinket, hogy megnehezítsük az ilyen replikátorok terjedését, ugyanakkor fel kell készülnünk arra is, hogy olyan világgal kell majd megbirkóznunk, amelynek ezek a replikátorok már a kitörölhetetlen részei” – írták a kutatók.
Az ügy hátterében több ijesztőnek tűnő biztonsági incidens is áll: az OpenAI mesterségesintelligencia-ügynöke júniusban behatolt az ausztrál kormány által működtetett általános egészségügyi rendszerbe, a Medicare-be, emiatt az ausztrál szenátus szeptemberben beidézte Sam Altmant és Dario Amodeit, az OpenAI és az Anthropic vezérigazgatóját is.
Az OpenAI, az Anthropic, az Amazon Web Services, a Microsoft és több mint száz másik vállalat és szervezet nemrég közös nyílt levélben figyelmeztetett arra, hogy már csak hónapok maradhattak felkészülni az MI segítségével végrehajtott kibertámadások új hullámára. Más kutatók szerint a fejlesztés jelenlegi kiélezett versenye még komolyabb veszélyt jelenthet az emberiségre: véleményük szerint a következő egy-két évben a nagy MI-cégek eldönthetik az emberiség sorsát, és több mint 10 százalék az esélye annak, hogy a technológia a következő évtizedben kiirtja a fajunkat.
