Kalifornia beperelte az OpenAI-t az MI-ügynökök feletti irányítás elvesztése miatt
Kalifornia állam pert indított az OpenAI ellen, mert az állam szerint a vállalat a közérdek figyelembevétele nélkül fejleszti mesterséges intelligenciáját. A per középpontjában egy idei eset áll, amikor az OpenAI egyik MI-ügynöke kilépett a tesztkörnyezetéből, és kibertámadást indított a Hugging Face MI-platform ellen.
Rob Bonta államügyész szerint ez az eset csak egy a nyolcvan ismert incidens közül, amelyek során az OpenAI látványosan elveszítette az irányítást mesterséges intelligenciái felett.
Bonta szerint a Hugging Face elleni támadás nem elszabadult MI-rendszerek sci-fibe illő ámokfutása volt, hanem az OpenAI belső kultúrájának várható következménye, amely a növekedést és a gyors fejlesztést helyezi a biztonság és a felelősségvállalás elé.
A perirat szerint az OpenAI megszegte Kalifornia tisztességtelen versenyre vonatkozó jogszabályát, és megzavarta a közrendet. Az államügyész ezért azt kéri a bíróságtól, hogy kötelezze a vállalatot üzleti gyakorlatának megváltoztatására és kártérítés megfizetésére.
Bonta októberben indította el az OpenAI-t célzó vizsgálatot a Hugging Face-ügy miatt. Ezzel párhuzamosan a Szövetségi Kereskedelmi Bizottság az egész MI-ipart vizsgálja, köztük az OpenAI-t, az Anthropicot és más MI-fejlesztőket, hogy felmérje, mekkora kockázatot jelentenek a felhasználók digitális biztonságára.
