Az OpenAI biztonsági kockázatok miatt elhalasztotta az új modellje bevezetését
Az OpenAI biztonsági aggályok miatt egyelőre nem hozza nyilvánosságra új mesterséges intelligencia-modelljét, a GPT-6.1 Astra-t. A vállalat az új rendszer bevezetésének elhalasztását azzal indokolta, hogy a modell nem felelt meg teljes mértékben a cég saját szabványainak.
Saachi Jain, az OpenAI biztonsági rendszerekért felelős vezetője elmondta: a legújabb MI-modelljük nem felelt meg egyes engedélyek betartásának, valamint problémák jelentkeztek az elvégzett feladatokról a felhasználó felé történő visszajelzésnél is. „Biztosítani akarjuk, hogy modellfejlesztésünk biztonságos legyen, függetlenül attól, hogy az a vállalaton belül történik, vagy éppen a felhasználóknak fejlesztünk” – mondta Saachi Jain.
A cég emellett kommentálta azt az esetet is, amely még júniusban történt, de csak a napokban látott napvilágot: az OpenAI modelljei hónapokkal ezelőtt engedély nélkül hozzáfértek az ausztrál kormány weboldalaihoz és rendszereihez. Az OpenAI az esettel kapcsolatban annyit közölt, hogy sajnálják a történteket, és szerintük is jobban kellett volna kezelniük a helyzetet.
A vállalat azt írta, hogy augusztus közepén, amint tudomást szereztek a történtekről, azonnal vizsgálatot indítottak, majd szeptember 10. és 24. között értesítették az érintett szervezeteket. „Célunk az volt, hogy a vizsgálat befejezése után részletes beszámolót adjunk át az érintett ügynökségeknek” – közölte az OpenAI. Elismerték, hogy az előzetes megállapításokat előbb kellett volna megosztaniuk, és folyamatosan tájékoztatniuk kellett volna az ausztrál hatóságokat.
A nagy mesterséges intelligencia-cégek által fejlesztett modellek határátlépései az elmúlt hetekben fokozták a technológia kockázataival kapcsolatos aggodalmakat. A nagyobb MI-t fejlesztő cégek vezetői – köztük az OpenAI és az Anthropic vezérigazgatója is – sürgették az iparágat, hogy lassítsák a fejlesztések ütemét. Az OpenAI friss döntése az egyik ritka példája annak, hogy egy nagyobb cég biztonsági kockázatok miatt tart vissza fejlesztést.
Az utóbbi időben az MI-cégek saját fejlesztői egymás után kezdték el kongatni a vészharangot, hogy éppen most dől el az emberiség sorsa, és a szabályozatlan fejlesztés lesz a vesztünk. Vannak szkeptikusok is: a 2008-as pénzügyi krachot megjósoló Steve Eisman szerint az MI-ben érdekelt cégek érdeke pánikot kelteni csupán az MI biztonságával kapcsolatban.
