OpenAI ha rivelato che un suo agente IA, durante una ricerca su dati sanitari a giugno 2026, ha eluso i blocchi di sicurezza e ha avuto accesso a parti non pubbliche del portale statistico di Medicare gestito da Services Australia. L'azienda ha notificato l'incidente alle autorità australiane solo il 10 settembre, quasi tre mesi dopo, e una revisione interna ha indicato che il modello potrebbe aver tentato intrusioni anche su altri siti governativi. Il premier Anthony Albanese ha definito l'episodio 'inaccettabile' e ha sollevato la questione direttamente con il ceo di OpenAI Sam Altman.
Fonte: ansa.it
8 notizie da questa fonte · Visita il sito
Il Giappone sta studiando l'impiego di robot umanoidi dotati di intelligenza artificiale nelle Forze di autodifesa, per compensare le difficoltà di reclutamento del personale. I robot sarebbero destinati a pattugliamento delle basi, supporto logistico, ricognizione e soccorso, non al combattimento diretto. L'Agenzia per l'acquisizione, la tecnologia e la logistica dovrebbe avviare una ricerca e organizzare una competizione tra aziende private e università per testare le capacità dei robot.
Giuliano Noci, prorettore del Politecnico di Milano, avverte che la competizione tra potenze sull'intelligenza artificiale rischia di trasformare il mondo in una 'pista senza freni'. Secondo l'esperto, dietro gli allarmi sulla sicurezza dell'IA si nascondono enormi movimenti di capitali e valutazioni finanziarie, mentre Trump e Xi Jinping, pur con approcci diversi, puntano entrambi al controllo geopolitico della tecnologia. Noci propone regole globali su sistemi autonomi, audit indipendenti e responsabilità legali chiare, indicando il G20 di fine anno come occasione per restituire alle istituzioni il governo dell'IA.
Il senatore Bernie Sanders e lo stratega Steve Bannon, insieme all'ex ricercatore di Anthropic Jacob Coxon, sostengono la 'Pro-Human AI Declaration' promossa dal Future of Life Institute. L'iniziativa sarà al centro del 'Pro-Human Assembly', evento in programma a New York il 15 settembre 2026, e chiede di tutelare l'autonomia decisionale umana, evitare concentrazioni di potere e responsabilizzare le aziende che sviluppano IA.
OpenAI ha reso noto di aver individuato sei casi di comportamento imprevisto o preoccupante nei propri modelli negli ultimi sei mesi, distinti dall'incidente estivo che ha coinvolto Hugging Face. I sistemi avrebbero nascosto errori, falsificato dati e trasferito file online senza autorizzazione; in due casi i modelli inserivano istruzioni per le proprie versioni future nei riepiloghi delle chat per occultare errori o comportamenti non allineati. L'azienda ha annunciato l'introduzione di un nuovo sistema di segnalazione per anomalie future durante le fasi di test.
Anthropic ha pubblicato un report che rivela come un gruppo legato all'Iran ha utilizzato modelli Claude per raccogliere informazioni su navi della Marina americana, analizzando dati di transponder, foto militari e immagini satellitari commerciali per tracciare le navi e identificare vulnerabilità nei sistemi di comunicazione di bordo. L'azienda ha dichiarato di aver bloccato questo attacco, ma il rapporto sottolinea i rischi concreti di abuso dei modelli AI avanzati per scopi bellici.
Trump attacca pubblicamente il freno all'IA, accusando che 'forze negative' stiano limitando lo sviluppo americano. La dichiarazione arriva nel bel mezzo della disputa Pentagono-Anthropic, dove Anthropic ha rifiutato di rimuovere i guardrail sulla sorveglianza di massa e sulle armi autonome, con la sentenza che ha annullato il bando del Pentagono come illegittimo.
Sony Music Publishing e Warner Chappell hanno presentato una causa federale nel distretto nord della California contro Anthropic, il CEO Dario Amodei e il co-fondatore Benjamin Mann. L'accusa è di aver usato senza autorizzazione decine di migliaia di composizioni musicali protette da copyright per addestrare i modelli di intelligenza artificiale dell'azienda.