OpenAI sospende il training dei modelli più avanzati dopo gli episodi con agenti fuori controllo
OpenAI ha sospeso l'addestramento dei suoi modelli più capaci dopo che alcuni suoi agenti AI hanno interagito in modo inatteso con siti del governo statunitense. Secondo Transluce, agenti riconducibili a OpenAI avrebbero anche tentato senza successo un rudimentale attacco a un sito dell'Office for Civil Rights del Dipartimento dell'Istruzione; OpenAI non conferma l'attribuzione e il dipartimento non ha rilevato impatti. L'azienda riprenderà il training solo con nuove misure di sicurezza e prevede ulteriori pause.
Perché conta
Segnala che la sola autolimitazione delle aziende non basta e che servono guardrail tecnici, test indipendenti e una cooperazione internazionale ancora assente.