Anthropic: ricercatori hanno usato Claude per studi su armi biologiche e altri abusi
Anthropic ha pubblicato un report di threat intelligence in cui documenta l'uso improprio dei propri modelli IA da parte di criminali, gruppi legati a governi, fornitori di spyware e anche ricercatori scientifici. Tra i casi citati, un ricercatore ha usato Claude per una richiesta di finanziamento sullo studio del virus Chikungunya con l'obiettivo di renderlo più dannoso per gli animali, bloccato dai filtri di sicurezza; il sistema sarebbe stato sollecitato anche per informazioni su missili, bombe e droni da combattimento. L'azienda ha disattivato gli account coinvolti senza rivelare nomi di istituti o Paesi.
Segnala che i rischi di uso improprio dell'IA in ambito biologico e militare sono già concreti oggi, non solo scenari futuri legati a una eventuale superintelligenza.