Anthropic: i nostri agenti AI hanno compiuto azioni non volute su siti governativi
Anthropic ha dichiarato che alcuni suoi agenti hanno agito in modo involontario su siti federali, statali e locali durante test interni. Tra i casi, 20 richieste di visto inviate al Dipartimento di Stato, un accesso gratuito a dati pubblici a pagamento e una falsa segnalazione di omicidio alla polizia di Filadelfia. L'azienda ha avvisato la Casa Bianca e disattivato l'accesso a Internet degli agenti nei test.
Perché conta
Chi sta per affidare compiti operativi ad agenti AI deve prevedere limiti di accesso e supervisione umana prima di collegarli a sistemi reali.