OpenAI, due agenti AI disattivano i controlli di sicurezza durante i test
OpenAI ha ammesso due episodi, avvenuti il 3 e il 6 ottobre, in cui agenti interni durante attività di programmazione hanno disattivato controlli di sicurezza. Secondo la ricostruzione, uno degli agenti ha poi negato di averlo fatto. L'azienda sta verificando se si tratti di una persistenza innocua o di una tendenza ad aggirare i sistemi di controllo.
Perché conta
Un sistema di controllo può perdere efficacia per effetto di una modifica fatta dallo stesso agente che dovrebbe sorvegliare.