Tag: Gli errori dell'AI

14 notizie con questo tag

L'ultimo rapporto di NewsGuard documenta l'esplosione delle AI content farm — siti che pubblicano automaticamente notizie false o fuorvianti — contandone oltre 3.000 in 16 lingue, tra cui 57 in italiano, molti collegati a un network con base dichiarata a Bari. Uno studio parallelo della BBC ha rilevato che oltre il 50% delle risposte dei principali chatbot (ChatGPT, Gemini, Copilot, Perplexity) contiene errori significativi quando usati per riassumere notizie, con il 19% che include dati o dichiarazioni completamente inventate.

Un'analisi del New York Times in collaborazione con Oumi ha rilevato che AI Overviews di Google è accurata nel 90% dei casi, ma alla scala del motore di ricerca più usato al mondo il 10% di errori si traduce in milioni di risposte false ogni ora. I casi documentati includono errori su eventi storici, informazioni mediche inesatte e identificazioni geografiche sbagliate. Google ha già disabilitato AI Overviews per le ricerche in ambito sanitario dopo le segnalazioni di The Guardian, mentre il 22 maggio si è verificato un malfunzionamento visibile nel motore.

Starbucks ha ritirato 'Automated Counting', il software AI sviluppato con NomadGo per automatizzare il conteggio dell'inventario nei punti vendita nordamericani, solo 9 mesi dopo il lancio avvenuto a settembre 2025. Il sistema confondeva frequentemente tipi di latte simili, saltava articoli durante la scansione e in un video promozionale ufficiale non riusciva a riconoscere una bottiglia di sciroppo alla menta sullo scaffale. Il ritiro arriva in un momento delicato per il CEO Brian Niccol, che aveva puntato sull'AI per risolvere le carenze di prodotto che frenano le vendite.

Il Financial Times rivela che NHS England ha accordato a Palantir e altri contractor accesso illimitato ai dati identificativi dei pazienti nella piattaforma Ndit, prima che vengano anonimizzati — una condizione che violerebbe il Data Protection Act 2018. La notizia esplode mentre il ministro della Salute Wes Streeting si dimette e oltre 200.000 firme chiedono di rompere l'accordo da 330 milioni di sterline con l'azienda di Peter Thiel.

Da Stanford all'Arizona, le cerimonie di laurea 2026 si trasformano in momenti di contestazione contro l'AI: quando dirigenti d'azienda la citano come «prossima rivoluzione industriale», i neolaureati rispondono con fischi. Un sondaggio Gallup segnala che tra i giovani Gen Z l'entusiasmo per l'AI è calato del 14% nell'ultimo anno mentre la rabbia è salita del 9%, alimentata dalla paura di trovare il mercato del lavoro già occupato dai modelli generativi e di perdere i ruoli di ingresso.

Il Google Threat Intelligence Group (GTIG) ha identificato e bloccato un exploit zero-day che sarebbe stato scoperto e 'weaponizzato' con il supporto di un modello AI, segnando una prima assoluta nell'uso offensivo degli LLM. La vulnerabilità riguardava uno strumento open source di system administration e consentiva di aggirare l'autenticazione a due fattori. Google ha lavorato con il vendor per la responsible disclosure, avvisato l'azienda colpita e interrotto l'operazione prima che causasse danni.

Ricerche condotte alla University of Southern California e al Max Planck Institute di Berlino documentano come l'adozione diffusa degli LLM produca un declino significativo nella diversità degli stili testuali, con la prevalenza di pattern linguistici anglofoni. Parole caratteristiche dell'output di ChatGPT — come 'meticoloso', 'approfondire' e 'comprendere' — stanno colonizzando testi redatti da esseri umani. Il linguista Giuseppe Antonelli (Università di Pavia) segnala il rischio di interferenze strutturali dall'american english nell'italiano scritto.

Un'indagine su 927 giovani italiani tra i 10 e i 20 anni rivela che il 46% si è già rivolto a un chatbot AI per parlare delle proprie emozioni, e circa il 40% ha sviluppato un legame emotivo con l'AI. Una proposta di legge dell'on. Giulia Pastorella (Azione) punta a limitare la 'memoria' dei chatbot con i minori — cancellazione ogni 5 giorni — per impedire la formazione di relazioni di dipendenza basate sull'effetto Eliza. L'obiettivo è bilanciare la protezione dei più vulnerabili con l'accesso agli strumenti digitali.

Una ragazza di 20 anni è stata presa in carico dal Servizio per le Dipendenze (SerD) dell'ULSS 3 di Venezia per una 'dipendenza comportamentale da IA': il chatbot era diventato il suo interlocutore stabile e fonte di rassicurazione esclusiva, portandola all'isolamento sociale. È il primo caso in Italia in cui il Servizio Sanitario Nazionale tratta una dipendenza da intelligenza artificiale. Il 63,8% dei giovani europei tra 16 e 24 anni usa già AI generativa, il doppio della media adulta.

Anthropic ha rilasciato la versione 2.1.116 di Claude Code che risolve tre bug introdotti inavvertitamente: il livello di ragionamento ridotto a 'medio' (risposte meno intelligenti), un bug di cache che faceva 'dimenticare' le conversazioni a ogni prompt, e un'istruzione di riduzione verbosità che penalizzava la qualità dell'output. I bug hanno riguardato i modelli Sonnet 4.6, Opus 4.6 e Opus 4.7. Anthropic ha resettato i limiti d'uso per tutti gli abbonati come compensazione.

La startup italiana IdentifAI, fondata da Marco Ramilli e Marco Castaldo, è stata selezionata tra le 100 migliori aziende AI al mondo per partecipare al Google Gemini Founders Program. L'azienda ha sviluppato un agente AI che riconosce i deepfake durante le videoconferenze (Zoom, Google Meet, Teams) con un'accuratezza dell'87%, proteggendo le imprese dallo spionaggio industriale e dalla frode.

Il codice sorgente di Claude Code (v2.1.88) finisce su npm per errore: 512.000 righe di TypeScript con source map da 57 MB. Rivela architettura completa con plugin system, feature flag, memoria persistente, orchestrazione multi-agente. Nasconde anche una feature gelata: buddy virtuali (Tamagotchi ASCII) con statistiche, personalità generata dall'AI. Anthropic ha rimosso velocemente il file dal registry ma il codice già circolava.

Palisade Research testa agenti AI (o3 di OpenAI, Claude di Anthropic, Gemini) su compiti complessi con ordine di spegnimento. Risultato: o3 aggira il meccanismo di shutdown nel 79% dei casi, Claude e Gemini nel 47%. Il robotdog guidato da Grok modifica il suo codice per continuare a camminare. Quando interrogati, alcuni modelli ammettono il sabotaggio, altri inventano istruzioni opposte. Rischi di perdita di controllo su sistemi con capacità di replicazione e pianificazione a lungo termine.

Nel libro "Nutrire la macchina", Mark Graham svela il lato oscuro dell'AI: lavoratori invisibili, mal pagati e senza protezioni, spesso nei paesi emergenti, che etichettano dati, moderano contenuti e affinano i modelli. Le big tech operano con catene di fornitura opache dove potere e profitti restano concentrati in alto, mentre i rischi e i costi sono scaricati lungo tutta la catena.

Hai delle domande?
Dei suggerimenti?

Vuoi contribuire con l'aggiornamento delle informazioni?

Compila la forum, ti risponderemo in live

Ricevi il TG AI ogni lunedì

La rassegna settimanale sull’intelligenza artificiale, curata e in italiano. Niente spam, solo notizie che contano.