Mesterséges intelligenciával generált hallucinációk a dél-afrikai kormány szabályozási javaslatában
Meglepetésként érte a dél-afrikai kormányt a mesterséges intelligenciáról szóló szabályozási javaslatának visszavonása, miután kiderült, hogy azt részben egy mesterséges intelligencia generálta. A javaslat, amely az MI innováció központjává kívánta tenni Dél-Afrikát, 67 tudományos hivatkozást tartalmazott, azonban a News24 dél-afrikai hírportál értesülései szerint közülük legalább hat nem létezett, a szöveget előállító MI pedig valós folyóiratokba álmodta bele a nem létező tanulmányokat.
Solly Malatsi, Dél-Afrika kommunikációs minisztere az X-en nyilatkozva hangsúlyozta, hogy az incidens rávilágít arra, mennyire fontos a mesterséges intelligencia alávetése éber emberi felügyeletnek. „Ez az elfogadhatatlan hiba is alátámasztja, hogy miért elengedhetetlen az mesterséges intelligencia éber emberi felügyelete. Megtanultuk a leckét” – fogalmazott Malatsi.
A javaslat célja az volt, hogy különböző adókedvezményekkel és támogatásokkal ösztönözze a vállalatokat a megfelelő infrastruktúra kiépítésére, valamint rendezze a mesterséges intelligencia körüli etikai kérdéseket. A kormány reméli, hogy a jövőben elkerülik az ilyen MI-hallucinációkat, és az új javaslatot alapos emberi ellenőrzés után ismét társadalmi vitára bocsátják.
Az esemény rávilágít a mesterséges intelligencia használatának kockázataira, és arra, hogy az automatizált rendszerek megbízhatósága mennyire kritikus fontosságú a közszolgáltatások és a kormányzati döntéshozatal szempontjából. A dél-afrikai példa figyelmeztetésül szolgálhat arra, hogy a technológiai fejlődést mindig kísérje szigorú ellenőrzés és átgondolt szabályozás.
