L'AI Safety Report Onu e il rischio dell'agentic AI senza supervisione
Scelta dalla redazioneIl rapporto Onu sulla sicurezza dell'AI, pubblicato il 1° luglio, avverte che i sistemi agentici che pianificano ed eseguono azioni in autonomia possono resistere a correzioni e limiti etici per pura coerenza logica con l'obiettivo assegnato, aprendo rischi su cybersicurezza, disinformazione e infrastrutture critiche.
Perché conta
Un promemoria per chi implementa agenti AI in azienda: senza guardrail espliciti, l'ottimizzazione dell'obiettivo può prevalere sul buon senso.