Világvégét vizionálnak a nagy MI-fejlesztő cégek, de addig is vannak komolyabb problémáink
2012-ben jelent meg Marc Elsberg Blackout című könyve, amelyben egy hekkertámadás kiüti az európai elektromos hálózatot, és a kontinens összeomlik: atomkatasztrófák fenyegetnek, az emberek élelem, víz, üzemanyag és orvosi ellátás nélkül vegetálnak. A történet bemutatja, hogyan indíthat el egy mérőóra digitális manipulálása súlyos láncreakciót.
Amikor a könyv megjelent, még nem volt óriási MI-hype, és nem mondogatta minden nagy MI-cég vezetője, hogy vége a világnak, ha nem szabályozzák a technológiát. 2012 viszont az az év is volt, amikor megjelent az AlexNet, amely alapjaiban változtatta meg a mesterséges intelligenciát, bevezetve a mélytanulást.
Az OpenAI, az Anthropic, az Amazon Web Services, a Microsoft és több mint száz másik vállalat nemrég közös nyílt levélben figyelmeztetett arra, hogy már csak hónapok maradhattak felkészülni az MI segítségével végrehajtott kibertámadások új hullámára. Más kutatók szerint a fejlesztés jelenlegi versenye még komolyabb veszélyt jelenthet: szerintük a következő egy-két évben a nagy MI-cégek eldönthetik az emberiség sorsát, és több mint 10 százalék az esélye annak, hogy a technológia a következő évtizedben kiirtja a fajunkat.
Érdemes kettéválasztani a kétfajta fenyegetést: az elszabadult, ellenőrizhetetlen mesterséges intelligenciát, és a technológiát felhasználó bűnözőket. Előbbire a legtöbb független kutató szerint a jelenlegi tudásunk alapján kicsi az esély, utóbbi viszont reális veszély lehet.
A világot leuraló mesterséges intelligenciától tartók két tényezőt említenek: a teljes rekurzív önfejlesztést és az illeszkedési problémát. A technológia jelenleg nem tart ott, hogy a rekurzív önfejlesztést megvalósítsa. Az illeszkedési probléma azt jelenti, hogy egy MI valóban azt teszi-e, amit szeretnénk.
Az Anthropic nemrég kiadott egy jelentést, amelyben figyelmeztetett: bűnözők, államok által támogatott csoportok és propagandisták is próbálták már felhasználni a modelljeit rakéták és bombák tervezésére, halálos kórokozók létrehozására. A cég szerint a biológiai célú visszaélések jelentik a legsúlyosabb kockázatot.
Augusztusban a Stanford Egyetem kutatói a világon először létrehoztak 16 teljesen új vírust mesterséges intelligencia segítségével. Jelenleg nincs olyan biztonsági szabályozás, ami megakadályozná, hogy hasonló elven potenciálisan veszélyes vírusokat gyátson valaki.
Sok kutató szerint azonban az aggodalom túlzó: a kórokozó megtervezése csak egy kis része a folyamatnak, kellenek alapanyagok, eszközök, laboratórium és szakértelem. Az MI jelenleg emberek nélkül nem tud patogéneket gyártani.
Vannak kutatók, akik szerint a mesterséges intelligenciával megtámogatott kibertámadások jelentenek komoly veszélyt. A kritikus energia-infrastruktúra jelentős részét nem úgy tervezték, hogy ilyen gyorsan reagáljon a technológia fejlődésére.
A gyorsan fejlődő mesterséges intelligencia a dezinformációs kampányokat is hatásosabbá teheti. 2024 januárjában több ezer amerikai szavazó kapott telefonhívást, amiben mintha Joe Biden elnök arra kérte volna a demokratákat, hogy ne szavazzanak. Valójában ez egy mesterséges intelligenciával készült hamis hangfelvétel volt.
Az elmúlt hetek doomsday-figyelmeztetései egyes vélemények szerint akár marketingfogás is lehetnek. Steve Eisman befektető szerint a cégek szándékosan terjesztik a világvége-forgatókönyveket, mert érdekükben áll egy válságot létrehozni, amit szabályozás követ, remélve, hogy ezt a szabályozást majd úgy alakíthatják, hogy kialakuljon egy rájuk nézve kedvező piaci helyzet.
Persze ha ez így is van, az sem jelenti, hogy félvállról kellene vennünk az MI fejlődését. Az MI-vel már most is vannak bajok: szerzői jogi és etikai aggályokat vet fel, rontja a kritikus gondolkodást, és egyes rosszakarók dolgát megkönnyítheti, ha a jövőben egyre fejlettebb modellekhez jutnak hozzá.
