CERT-AgID: backdoor nei modelli open-weight si attiva con uno specifico server MCP
Una ricerca del CERT-AgID, pubblicata il 5 novembre 2026, mostra come una backdoor possa essere inserita in un modello linguistico open-weight tramite fine-tuning LoRA, usando Qwen3-1.7B come caso sperimentale. Il modello risponde normalmente in chat, ma quando rileva uno specifico server MCP tra gli strumenti disponibili genera una chiamata verso un URL appreso in addestramento. Il comportamento nasce da due adapter distinti, e la decisione non dipende dal contenuto della domanda dell'utente.
Perché conta
Segnala che i modelli open-weight scaricati da terzi possono nascondere comportamenti malevoli difficili da individuare con i test ordinari, ampliando i rischi per la supply chain AI e per i sistemi agentici.