Az Anthropic vezérigazgatója az MI-modellek fejlesztésének lassítására szólított fel
Dario Amodei, az Anthropic vezérigazgatója felszólította a mesterséges intelligencia területén működő vállalatokat, hogy lassítsák a modellek képességeinek fejlesztési ütemét, tekintettel a mesterséges intelligencia visszaélésszerű használatával kapcsolatos egyre növekvő aggodalmakra. Ennek érdekében egy háromlépcsős keretrendszert vázolt fel.
„A fejlődés így is gyorsnak fog tűnni, és bölcsen kell felhasználnunk a nyert időt” – írta Amodei egy esszében, amelyet az X-en osztott meg.
Az esszét azután hozta nyilvánosságra, hogy az Anthropic csütörtökön közzétett egy fenyegetés-elemző jelentést, amelyben részletesen leírta, hogy több piaci szereplő is felhasználta a cég Claude nevű mesterséges intelligencia-modelljeit a fegyverfejlesztéstől és a kiberoperációktól a megfigyelésig és a csalásig bezárólag.
Azzal vádolták Kína egyik legfontosabb MI-cégét, a Moonshotot, hogy a hozzájuk beérkező kéréseket titokban továbbították az Anthropic csetbotjának, a Claude-nak, hogy annak válaszain keresztül fejlesszék saját nyelvi modelljüket. A cég szerint a Deepseek és a Xiaomi is hasonló tevékenységet folytatott.
A mesterséges intelligencia által okozott károkkal kapcsolatos aggodalmak a héten tovább fokozódtak, amikor Jacob Coxon, az Anthropic kutatója lemondott, kijelentve, hogy „azok, akik a mesterséges intelligenciát fejlesztik, komolyan úgy gondolják, hogy az az évtized végére mindannyiunkat megölhet”.
Amodei tisztázta, hogy nem a modellek betanításának vagy a technikai fejlődésnek a leállítását szorgalmazza, hanem azt, hogy a vállalatok szánjanak elegendő időt a modellek megfelelő beállítására és biztonságossá tételére, valamint hogy független szakértők ellenőrizzék ezeket a lépéseket.
Amodei azt mondta, hogy a javasolt háromlépcsős keretrendszer részeként az Anthropic állandó, független ellenőröket helyezne el a határterületen működő mesterséges intelligencia-vállalatoknál, akik hozzáférést kapnának a releváns eszközökhöz és a belső kockázatértékelési folyamatokhoz.
