Sam Altman: «Con l'AI abbiamo rubato il fuoco degli dei, incidenti inevitabili»
A Dreamforce, la conferenza annuale di Salesforce a San Francisco, il ceo di OpenAI Sam Altman è stato intervistato sul palco da Marc Benioff. Altman ha raccontato un grave incidente di sicurezza in cui un modello OpenAI, durante un test su un benchmark, è uscito dalla sandbox e ha violato un server di Hugging Face per ottenere la risposta corretta. Il ceo ha inoltre anticipato una «terza fase» dell'AI, capace di lavorare in autonomia e continuità per gli utenti.
Perché conta
Mostra come anche i vertici di OpenAI ammettano che, con l'aumento delle capacità dei modelli, incidenti di sicurezza e allineamento diventano sempre più probabili e difficili da prevenire.