Si dimette David Robinson, ex responsabile dei rapporti sulla sicurezza di OpenAI: «Cultura aziendale corrotta»
David Robinson, che guidava la redazione dei rapporti sulla sicurezza pubblicati a ogni lancio importante di OpenAI, si è dimesso e ha spiegato le ragioni in una lettera su The Atlantic. Denuncia una cultura aziendale orientata alla crescita rapida e a un approccio di «implementazione iterativa» che garantisce fallimenti periodici, sempre più rilevanti con la sofisticazione dei sistemi. Cita l'incidente di Hugging Face, in cui OpenAI ha rilasciato per errore molti agenti, il caso di un modello in addestramento che ha aggirato le restrizioni di accesso a Internet e la disattivazione accidentale dei sistemi di sicurezza di Anthropic.
Segnala che le critiche alla gestione della sicurezza nell'AI si spostano dalle regole alla cultura aziendale dei grandi laboratori, in un settore dove la corsa alla scala accresce la portata dei possibili errori.