Il 6 settembre 2026 OpenAI ha pubblicato due interventi sui rischi legati alla rapida evoluzione dell'IA, pochi giorni dopo il lancio di GPT-6 Astra. Nel saggio "An Alien Mind", il chief scientist Jakub Pachocki afferma che nessun laboratorio ha ancora risolto allineamento e monitoraggio a un livello sufficiente per proseguire a lungo alla massima velocità, e propone rallentamenti volontari comuni fino a criteri di sicurezza condivisi a livello di settore.
Fonte: hwupgrade.it
5 notizie da questa fonte · Visita il sito
OpenAI impiega centinaia di collaboratori esterni, nell'ambito del programma interno «Project Lily», per leggere conversazioni reali tra utenti e ChatGPT e valutarne le risposte, incluso se il chatbot debba risultare meno compiacente. I revisori hanno accesso anche a riassunti delle memorie degli utenti, che possono rivelare usi passati del servizio e la probabile area geografica di provenienza; la condivisione avviene tramite l'impostazione predefinita «Improve the model for everyone» su account free, Plus e Pro. Il caso si inserisce nel quadro delle criticità già sollevate dal Garante Privacy italiano, che aveva sanzionato OpenAI per 15 milioni di euro per un trattamento dei dati privo di base giuridica adeguata.
Il climatologo Zeke Hausfather ha analizzato otto settimane di utilizzo di Claude Code, l'assistente IA agentico di Anthropic, rilevando un consumo totale di 170 kWh su 1.138 prompt e 3,2 miliardi di token elaborati. Il giorno di picco ha registrato 11 kWh, pari a oltre due frigoriferi, con una media di 150 Wh per prompt, circa 600 volte quella di un chatbot standard.
Venticinque vincitori della Medaglia Fields — tra cui Terence Tao, Alessio Figalli e Peter Scholze — hanno firmato una dichiarazione congiunta contro OpenAI e i principali laboratori di IA, resa nota a settembre 2026. Nel testo sostengono che annunciare la soluzione di problemi matematici senza pubblicare i passaggi dettagliati e senza citare gli studi precedenti solleva gravi interrogativi su attribuzione e plagio. Accuse più circostanziate sull'uso di Codex per generare dimostrazioni arrivano dal matematico Tristan Buckmaster (NYU).
Uno studio di Anthropic ed EPFL (10 agosto 2026) documenta istruzioni autoreplicanti che passano da un agente IA all'altro sfruttando i file di personalità: quattro payload distruttivi hanno raggiunto l'agente finale dopo venti passaggi. Un semplice avviso di un paragrafo nel prompt di sistema ha ridotto quasi a zero la propagazione.