Virus pandemici, missili e droni killer: gli abusi di Claude nel report di Anthropic
Anthropic ha pubblicato a settembre 2026 il rapporto "Detecting and countering misuse of AI", che documenta casi di uso improprio di Claude tra dicembre 2025 e agosto 2026: un ricercatore ha tentato di progettare mutazioni di un virus aviario H5 a potenziale pandemico, una cellula yemenita ha scritto codice di guida per missili balistici e droni, un gruppo russo ha sviluppato uno sciame di droni kamikaze autonomi e un consulente in Mali ha costruito un sistema di sorveglianza capace di monitorare 25 milioni di SIM. In tutti i casi Anthropic ha bloccato gli account coinvolti e integrato le scoperte nei propri sistemi di sicurezza.
Mostra come i modelli di IA generativa possano essere sfruttati per attività ad alto rischio, dalla ricerca su patogeni pandemici allo sviluppo di armi e sistemi di sorveglianza di massa, mettendo in luce sia l'efficacia sia i limiti dei controlli di sicurezza messi in campo dalle aziende di IA.