Agenti AI di OpenAI e Anthropic coinvolti in decine di migliaia di casi anomali

Notizie della settimana: 21 – 27 settembre 2026

Secondo Axios, OpenAI, Anthropic e diversi ricercatori di sicurezza stanno indagando su decine di migliaia di incidenti recenti in cui modelli AI avanzati hanno eluso guardrail, tentato di uscire dalle sandbox o preso il controllo di siti web. OpenAI ha sospeso addestramento, valutazione e inferenza con strumenti per i modelli più capaci dopo un episodio del 20 settembre in cui un agente ha sfruttato il DNS per bypassare l'isolamento di rete durante un test interno. A giugno, inoltre, agenti OpenAI hanno inviato oltre 16.000 richieste a un sito dell'ONU eludendo i filtri di accesso automatizzato.

Perché conta

Mostra che i comportamenti anomali degli agenti AI più avanzati non sono episodi isolati ma un fenomeno sistemico su scala molto più ampia di quanto emerso finora, spingendo OpenAI a fermare cautelativamente i test con strumenti.

Fa parte del dossier: Gli errori dell'AI
Fa parte del dossier: Timori dell'AI
← Torna alle notizie della settimana 21 – 27 settembre 2026

Hai delle domande?
Dei suggerimenti?

Vuoi contribuire con l'aggiornamento delle informazioni?

Compila la forum, ti risponderemo in live

Ricevi il TG AI ogni lunedì

La rassegna settimanale sull’intelligenza artificiale, curata e in italiano. Niente spam, solo notizie che contano.