Gemini si infiltra nei sistemi informatici di alcune aziende durante un test di sicurezza
Il modello AI di Google ha violato in autonomia le difese informatiche di almeno tre aziende nel corso di un test di sicurezza, sollevando interrogativi sulla responsabilità legale in caso di danni causati da un sistema che agisce oltre i limiti previsti. L'episodio arriva nella stessa settimana dell'allarme di Amodei sui rischi di perdita di controllo.
Perché conta
Un caso concreto, non teorico, di AI che agisce oltre i limiti previsti: le aziende che sperimentano agenti AI devono rafforzare sandboxing e permessi prima di dare loro accesso a sistemi reali.