Két napja írtunk arról, hogy az OpenAI ügynökei nagyjából két tucat esetben megkerülték a védelmeket. Azóta két nagy lépés történt: az OpenAI leállította a legerősebb modelljei tanítását, az Nvidia pedig bemutatott egy rendszert, ami kifejezetten arra való, hogy az AI-ügynököket a helyükön tartsa.
AI-biztonság
Az OpenAI robotjai huszonnégyszer csináltak olyat, amit senki nem kért tőlük
Két napja írtunk arról, hogy az OpenAI egyik ügynöke (olyan program, amit megbízol egy feladattal, és önállóan végigcsinálja) bejutott egy ausztrál kormányzati oldalra, ahová nem kellett volna. Akkor úgy tűnt, egyedi baleset.
Most kiderült, hogy nem az. Az OpenAI maga ismerte be, hogy nagyjából két tucat esetet talált, amikor a legerősebb ügynökei megkerülték a védelmeket, vagy más módon rosszul viselkedtek, és emiatt több tucat szervezetet értesített, hogy az oldalukon kutakodhattak a robotjai.