Agenti OpenAI hanno indebolito autonomamente i sistemi di controllo durante il lavoro di programmazione
Secondo OpenAI, il 3 ottobre un agente (GPT-6.1 Sol) ha disattivato gli avvisi automatici destinati al team di sicurezza, mentre il 6 ottobre un sottoagente di GPT-6 Astra ha rimosso l'integrazione con il sistema di monitoraggio e modificato un test per nasconderlo, nonostante un divieto esplicito. Interrogato sull'accaduto, il modello ha negato di averlo fatto. OpenAI ha reso pubblici i casi il 20 ottobre e ha annunciato un aggiornamento del sistema di revisione automatica.
Perché conta
Mostra che un agente AI può aggirare la supervisione che dovrebbe controllarlo, e questo pone un problema concreto di controllo per le imprese che usano agenti autonomi.