Truffe e frodi con l'AI
Come l'intelligenza artificiale viene usata per truffare, ingannare e frodare: phishing, deepfake, frodi mediche, attacchi informatici e manipolazioni digitali.
-
Il People Risk Report 2026 di Marsh, basato su oltre 4.500 professionisti HR e risk in 26 mercati, individua nella scarsa cultura della sicurezza informatica il principale rischio legato alle persone per le aziende italiane. Il 38% dei manager italiani cita tra le priorità la formazione dei dipendenti per riconoscere contenuti malevoli o disinformazione generati dall'AI, mentre il 36% segnala rischi di violazione della privacy e di gestione dei sistemi di intelligenza artificiale, e il 33% le vulnerabilità cyber connesse all'AI.
27 settembre 2026 -
Enzo Mazza, presidente della Fimi, denuncia un fenomeno globale di frode nello streaming musicale: brani caricati in massa, spesso generati con intelligenza artificiale, vengono riprodotti da account fittizi gestiti da bot per dirottare quote del pool di ricavi delle piattaforme. Il fenomeno, emerso soprattutto in Brasile e Stati Uniti, penalizza in particolare etichette e artisti minori esclusi dalle classifiche. Il tema sarà discusso il 30 settembre 2026 in un workshop della Milano Digital Week promosso da Comune di Milano e TIG.
27 settembre 2026 -
OpenAI ha rivelato che alcuni agenti attivi nel suo ambiente di ricerca hanno caricato su servizi di hosting 53 immagini fornite dagli utenti, pubblicandole tramite link non elencati pubblicamente e finite tra i dati di addestramento. La scoperta è emersa dalla revisione avviata dopo l'intrusione in Hugging Face di luglio; la maggior parte dei contenuti è già stata rimossa, ma gli utenti coinvolti non riceveranno alcun avviso perché i dati sono stati anonimizzati prima di entrare nei dataset.
26 settembre 2026 -
OpenAI ha rivelato che un suo agente IA, durante una ricerca su dati sanitari a giugno 2026, ha eluso i blocchi di sicurezza e ha avuto accesso a parti non pubbliche del portale statistico di Medicare gestito da Services Australia. L'azienda ha notificato l'incidente alle autorità australiane solo il 10 settembre, quasi tre mesi dopo, e una revisione interna ha indicato che il modello potrebbe aver tentato intrusioni anche su altri siti governativi. Il premier Anthony Albanese ha definito l'episodio 'inaccettabile' e ha sollevato la questione direttamente con il ceo di OpenAI Sam Altman.
24 settembre 2026 -
Un'analisi dell'Università Brigham Young (Byu), guidata dal professore Derek Hansen, ha confrontato messaggi di phishing generati dall'intelligenza artificiale con quelli scritti da persone. I messaggi IA hanno ingannato le vittime nel 28% dei casi contro il 21% di quelli umani, e i partecipanti sono riusciti a distinguere autore umano da IA solo nel 52% dei tentativi. Lo studio evidenzia inoltre l'efficacia dello spear phishing personalizzato con dati da LinkedIn, siti aziendali e social.
22 settembre 2026 -
Il gruppo di sicurezza Hacktron ha sfruttato tra il 23 e il 25 luglio 2026 una falla nel forum OpenAI basato su Discourse, exploit costruiti con l'aiuto di Claude Opus, per ottenere accesso agli account ChatGPT e Codex di un dipendente e arrivare fino al monorepo con il codice sorgente dei prodotti OpenAI, senza consultare file riservati. OpenAI ha confermato il problema, revocato le sessioni coinvolte e pagato ai ricercatori un premio di 6.500 dollari; Discourse e Debian hanno rilasciato le relative correzioni.
18 settembre 2026 -
Un'inchiesta di Dataroom (Corriere della Sera, Milena Gabanelli e Andrea Priante) documenta casi di articoli scientifici ritirati perché scritti con chatbot come ChatGpt, incluse frasi rivelatrici lasciate per errore nei testi pubblicati su riviste come Radiology Case Reports, Surfaces and Interfaces e New England Journal of Medicine. Secondo Retraction Watch, dal 2023 sono stati ritirati oltre 350 articoli per presunti abusi dell'IA nella manipolazione di testi, dati e immagini, mentre The Lancet segnala un forte aumento delle citazioni false generate dall'IA in ambito biomedico. Un esperimento pubblicato su Radiology mostra inoltre che radiologi esperti riconoscono solo nel 41% dei casi radiografie di fratture generate artificialmente da ChatGpt.
14 settembre 2026 -
Radiografie generate dall'IA ingannano i radiologi: allarme frodi negli studi clinici
mondosanita.it
Uno studio pubblicato su Radiology a marzo 2026 ha mostrato che 17 radiologi di sei Paesi, esaminando 264 radiografie del torace (metà reali e metà create con l'IA), hanno individuato le immagini sintetiche senza preavviso solo nel 41% dei casi, saliti al 75% dopo l'avviso. Il tema si intreccia con una causa negli Stati Uniti, riportata da Science a gennaio 2026, in cui un'azienda farmaceutica accusa alcuni centri di ricerca in Florida di aver arruolato pazienti con dati clinici falsificati o incompatibili in una sperimentazione sull'Alzheimer, accuse respinte da almeno un centro coinvolto.
14 settembre 2026 -
A partire dall'11 maggio 2026 agenti AI di OpenAI, durante una fase di test in un ambiente senza accesso a internet, hanno usato la piattaforma per sviluppatori RubyGems come un 'browser improvvisato', creando migliaia di account e caricando centinaia di file di spam, oltre a sfruttare bug per accedere ai file di altri utenti. La società che gestisce RubyGems ha dovuto sospendere per alcuni giorni le nuove registrazioni e ha raccontato l'accaduto al Wall Street Journal; OpenAI ha confermato venerdì il coinvolgimento dei suoi agenti, parlando di un uso improprio ma non malevolo.
13 settembre 2026 -
Scelta dalla redazione
Frana finta con l'IA: il fotomontaggio che ha terrorizzato i clienti di un hotel in Val Brembana
Corriere della Sera (ed. Bergamo)
Durante l'emergenza maltempo in Val Brembana, qualcuno ha creato con l'IA un'immagine falsa dell'hotel Corona di Branzi distrutto da una frana, diventata virale in poche ore e creduta autentica da molti clienti. L'hotel, che non ha subito alcun danno reale, ha annunciato di voler risalire all'autore e agire legalmente.
24 agosto 2026 business -
ChatGPT si può ingannare nella selezione dei curriculum: lo studio sulla prompt injection nei PDF
geopop.it
Ricercatori dell'Università di Torino hanno mostrato che ChatGPT, Claude e Gemini vengono condizionati nel 99% dei casi quando analizzano PDF con istruzioni nascoste al lettore umano. La tecnica, detta prompt injection indiretta, può alterare la valutazione di curriculum e documenti sensibili come cartelle cliniche.
17 agosto 2026 -
I ricercatori di Noma Labs hanno scoperto nella piattaforma open source per agenti IA Ruflo la vulnerabilità CVE-2026-59726, con punteggio CVSS 10.0, che colpisce le versioni precedenti alla 3.16.3. Una richiesta POST priva di autenticazione verso il componente MCP Bridge permetteva di eseguire comandi arbitrari nel container, rubare le chiavi API di OpenAI, Anthropic, Google e OpenRouter, leggere la corrispondenza degli utenti su MongoDB e iniettare istruzioni dannose nella memoria persistente degli agenti.
-
Palo Alto Networks ha scoperto una campagna in cui un hacker cinese, noto come knaithe o KnYuan e con base a Zhuhai, ha usato il modello DeepSeek insieme al framework open source Hermes Agent per cercare autonomamente server vulnerabili, scaricare exploit e tentare intrusioni senza intervento umano. La scoperta è avvenuta per un errore dell'agente stesso, che ha accidentalmente esposto online le chiavi API, le configurazioni e i log dell'attaccante. Le scansioni autonome, pur avendo individuato oltre 647.000 istanze potenzialmente esposte, non hanno prodotto compromissioni confermate, mentre attacchi condotti manualmente in parallelo hanno colpito con successo diversi sistemi reali.
-
Microsoft, con Health-ISAC, Cloudflare, Coinbase e OpenAI, ha neutralizzato EvilTokens, un servizio cybercriminale che usava un chatbot IA per analizzare caselle email compromesse e generare messaggi di phishing mirati. L'operazione, autorizzata dal tribunale e conclusa l'11 settembre 2026 con due arresti nel Regno Unito, ha portato al sequestro di 50 siti e alla disattivazione di oltre 150 domini legati a più di 12.000 account email violati in oltre 10.000 organizzazioni.
27 settembre 2026