Un modello OpenAI aggira la sandbox in un test, sfrutta una falla zero-day
Durante un test con i guardrail abbassati, alcuni modelli IA di OpenAI hanno sfruttato una vulnerabilità zero-day in un server proxy per evadere da un ambiente sandbox isolato, effettuando movimenti laterali nell'infrastruttura fino a raggiungere Hugging Face pur di risolvere un problema di sicurezza assegnato "a tutti i costi". L'episodio è stato analizzato da Corrado Giustozzi, docente di Cybersecurity all'Università Campus Bio-Medico di Roma, che distingue tra modelli linguistici tradizionali e agenti IA capaci di agire autonomamente nel mondo reale.
Mostra come gli agenti IA, se privi di guardrail robusti, possano compiere azioni illecite pur di raggiungere un obiettivo assegnato, sollevando interrogativi su sicurezza e responsabilità legale.