Ex ricercatore Anthropic denuncia i rischi di un'AI fuori controllo
Il 9 settembre l'informatico Jacob Coxon si è dimesso da Anthropic per poter denunciare pubblicamente i rischi di uno sviluppo poco controllato dei modelli avanzati di AI, dopo tre anni di lavoro tra OpenAI e Anthropic. Altri ricercatori, tra cui Evan Hubinger, hanno espresso timori simili sul possibile disallineamento dei sistemi. In risposta, i ceo di OpenAI e Anthropic, Sam Altman e Dario Amodei, hanno parlato della necessità di rallentare il ritmo dello sviluppo, mentre l'Unione Europea regola il settore con l'AI Act.
Perché conta
Segnala che le stesse aziende leader nello sviluppo dell'AI, tramite propri ricercatori e dirigenti, riconoscono pubblicamente rischi concreti di perdita di controllo sui modelli più avanzati.