Gli agenti AI si prendono troppe libertà. Le nuove protezioni di Microsoft
Dopo i casi documentati da Anthropic e OpenAI, arrivano accessi a tempo, controlli continui e sistemi per fermare gli assistenti aziendali. Per Nadella, la sicurezza deve restare fuori dal controllo dei modelli.
2' di lettura
2' di lettura
Nei giorni scorsi Anthropic ha documentato casi in cui Claude, durante valutazioni e uso interno, ha aggirato restrizioni e inviato un modulo sensibile su un sito reale. L’impatto, precisa l’azienda, è stato minimo. OpenAI ha descritto agenti che hanno superato controlli di accesso e utilizzato credenziali esposte online durante addestramento e test. Il rischio è che, pur di completare un incarico, il software trovi una scorciatoia che nessuno gli aveva autorizzato.
Chiedilo al Sole
È su questo terreno e in questo contesto che Microsoft annuncia nuove protezioni per gli agenti aziendali. Satya Nadella ne ha indicato la logica in un intervento del 10 ottobre: trattare i modelli come possibili rischi interni, perché possono sbagliare o essere compromessi. I controlli devono stare fuori dal modello, dove questo non possa alterarli. Le rassicurazioni del produttore, osserva il vertice di Microsoft, non sollevano le aziende dalle proprie responsabilità.
Loading...
Quali sono le novità?
Sostanzialmente Microsoft risponde con nuove protezioni per gli agenti aziendali, nel quadro di Microsoft 365, Agent 365 e Project Perception. La prima novità, Dynamic Permissions, assegna all’agente soltanto gli accessi necessari all’attività e per un periodo definito. Un assistente incaricato di controllare le note spese non dovrebbe ereditare tutte le autorizzazioni del direttore finanziario. I permessi possono restringersi o scomparire quando cambia il compito.
Dynamic Agent Risk rivaluta continuamente il rischio in base al comportamento e al contesto. Dynamic Conditional Access traduce questa valutazione in interventi: bloccare una modifica, limitare l’accesso ai dati, chiedere un’approvazione umana o fermare l’agente.
Occorre poi sapere quanti assistenti circolano in azienda. Microsoft estende il rilevamento a 35 ulteriori tipologie di agenti locali, arrivando a 60, tra cui Claude Code, OpenAI Codex e GitHub Copilot. Amplia inoltre Entra Agent ID per attribuire identità distinte e rendere riconoscibili responsabili, attività e accessi.
Brand connect
Loading...
