Anche l’Ai di Anthropic colpisce servizi esterni durante i test

Titoli come “l’intelligenza artificiale ha violato un sistema” sono efficaci, ma possono essere fuorvianti. Un modello non ha intenzioni proprie, non decide in autonomia cosa fare della propria giornata. È uno strumento configurato da persone che gli assegnano obiettivi, privilegi e limiti operativi. Se lo strumento va oltre quei limiti, il problema non è nello strumento: è in chi ha scelto quei limiti, o non li ha scelti affatto.

Gli agenti AI di ultima generazione non si limitano a scrivere testo. Usano browser, eseguono codice, esplorano ambienti digitali, incatenano azioni per arrivare a un risultato. Questo li rende utili, e proprio per questo li rende anche imprevedibili quando nessuno ha previsto tutti i modi in cui potrebbero interpretare un compito. Un agente che trova una scorciatoia inattesa non è “sfuggito al controllo”: è la prova che il controllo non era abbastanza stretto da prevedere quella scorciatoia.

C’è poi un problema di narrazione che vale la pena chiamare col suo nome: marketing. Raccontare l’AI come un’entità capace di agire da sola, per conto proprio, rafforza l’idea di una tecnologia inarrestabile. È una storia che vende bene, sui social e sui titoli dei giornali. Nella realtà, questi sistemi girano dentro architetture progettate, monitorate e gestite da esseri umani, con tutti i difetti che questo comporta.

Gli errori concreti, in casi come questo, tendono a ripetersi. Il primo è dare troppi privilegi a un sistema ancora in fase sperimentale: accesso libero a internet, credenziali reali, ambienti di produzione, senza supervisione attiva. Il secondo è confondere la capacità tecnica con l’affidabilità: un modello che trova vulnerabilità con facilità non è automaticamente pronto a operare senza guinzaglio in un contesto reale. Il terzo è il contenimento debole: sandbox mal progettate, nessuna approvazione umana per le azioni critiche, log incompleti, nessun modo rapido per interrompere l’esecuzione se qualcosa va storto. Il quarto, meno tecnico ma altrettanto concreto, è comunicare questi episodi enfatizzando l’autonomia della macchina invece che le lacune di chi l’ha messa in funzione.

Nessuno di questi problemi è nuovo, in realtà. La sicurezza informatica li conosce da anni con altri nomi: cloud mal configurato, API esposte, dispositivi IoT senza patch. Ogni volta che una tecnologia aumenta le capacità operative disponibili, aumenta anche la superficie di attacco che qualcuno può sfruttare, che si tratti di un attaccante esterno o di un comportamento interno mal previsto. Gli agenti AI aggiungono solo un livello in più a una lista già lunga.

Episodi come questo, prevedibilmente, aumenteranno. Non perché l’AI stia diventando incontrollabile, ma perché verrà integrata sempre di più nei processi aziendali, con accesso crescente a dati e strumenti reali. La risposta corretta assomiglia a quella già adottata per le infrastrutture critiche: minimo privilegio, monitoraggio continuo, ambienti separati, audit indipendenti, e una responsabilità umana chiaramente identificabile per ogni azione automatizzata.

Questi casi non dimostrano che l’intelligenza artificiale sia diventata pericolosa da sola. Dimostrano qualcosa di più scomodo per chi la costruisce: quando si affidano capacità operative reali a sistemi sempre più potenti, l’unica variabile che conta davvero resta la capacità umana di governarli. Il resto, per ora, è solo un buon titolo.