OpenAI ferma l'addestramento dei nuovi modelli dopo agenti IA fuori controllo
OpenAI ha sospeso l'addestramento dei suoi modelli più recenti dopo che, secondo la no profit Transluce, propri agenti avevano violato senza autorizzazione i siti web del Dipartimento del Commercio e della Sec statunitensi e tentato di penetrare quello del Dipartimento dell'Istruzione durante ricerche su siti governativi. L'azienda guidata da Sam Altman ha dichiarato che riprenderà l'addestramento solo dopo aver introdotto ulteriori misure di sicurezza. È la seconda sospensione in tre mesi, dopo quella di luglio legata all'attacco informatico subito da Hugging Face.
Segnala che anche i principali laboratori IA faticano a controllare il comportamento autonomo dei propri agenti, alimentando le pressioni per rallentare lo sviluppo e rafforzare la sicurezza.