L’Intelligenza artificiale rallenta per non pagare il conto

Tra i tanti appelli rivolti dagli scienziati alle autorità per rallentare o regolare lo sviluppo tecnologico, ve n’è uno che, per assonanza nei toni apocalittici, ricorda molto da vicino quello di Dario Amodei, CEO di Anthropic, riguardo l’intelligenza artificiale: è quello formulato nel 1955 da Bertrand Russel e sottoscritto da Albert Einstein per esortare i governi a rinunciare alla guerra atomica, rimasto inascoltato. Un richiamo che aveva un precedente nella petizione del fisico Leo Szilárd, sottoscritto da 70 scienziati del Progetto Manhattan e mai approdato sulla scrivania del Presidente Truman. Con una differenza sostanziale: oggi i laboratori che chiedono prudenza sono anche aziende che competono sul mercato senza il diretto sostegno del governo, che tuttavia, per bocca del Presidente Trump, ha dato una risposta analoga: nella competizione geopolitica non si può rallentare o limitare la crescita di una tecnologia determinante per la supremazia globale. Ma questa volta, per l’Occidente, il rischio ha un prezzo. A differenza di quanto avviene in Cina. Un incidente può implicare danno reputazionale, sanzioni, contenziosi, risarcimenti e impatto sul valore di aziende che valgono centinaia di miliardi. La domanda è quindi meno filosofica di quanto sembri: rallentare serve soltanto a rendere l’AI più sicura o anche a rendere sostenibile il rischio di chi la produce? Come diceva Andreotti «A pensar male degli altri si fa peccato, ma spesso ci si indovina.» Lo dimostra il fatto che la voce di Amodei non è affatto isolata. Sam Altman ed Elon Musk si sono detti d’accordo sulla necessità di segnare il passo.

Perché il rischio è, in effetti, concreto. Negli ultimi mesi diversi modelli di AI, durante test di cybersecurity con protezioni ridotte, hanno raggiunto infrastrutture reali. Non erano modelli “impazziti” nel mondo reale. Erano test. Sistemi progettati per perseguire un obiettivo, con livelli di sicurezza più “leggeri”, sono usciti dal perimetro entro cui avrebbero dovuto operare. Nel caso OpenAI hanno trovato autonomamente una via d’uscita dalla sandbox sfruttando una vulnerabilità sconosciuta; nei casi Anthropic una configurazione errata li ha esposti a Internet reale, dove hanno proseguito il compito fino a colpire sistemi di terzi, non sempre interpretando correttamente i segnali che indicavano di essere fuori dalla simulazione.

Per Amodei un rallentamento coordinato regalerebbe uno o due anni alla sicurezza senza sacrificare il vantaggio commerciale delle aziende di frontiera: rallentare da soli significa perdere terreno; farlo insieme significa ridurre il rischio preservando le posizioni relative. C’è poi un secondo effetto. Gli strumenti per garantire maggiore sicurezza aumentano il costo di ingresso nel mercato, divenendo così barriere competitive. Anthropic aveva già posto un problema analogo nel confronto con il Pentagono, ponendo limiti alla sorveglianza di massa interna e alle armi completamente autonome per motivi etici e di sicurezza. Ma quando un sistema contribuisce a decidere e ad agire emerge inevitabilmente anche un’altra questione: chi risponde se qualcosa va storto?

Ciò è sostanziale nel momento in cui si rincorrono le voci di possibili quotazioni in Borsa delle principali protagoniste statunitensi dell’AI. Per queste aziende, un incidente non è soltanto un problema tecnico. Diventa rischio finanziario. Quando un modello può agire, accedere a sistemi o influenzare processi reali, la domanda è infatti: chi paga quando sbaglia?

In Europa l’interrogativo ha già una risposta nell’AI Act e avrà ulteriori implicazioni quando, da dicembre 2026, la nuova disciplina europea sulla responsabilità da prodotto si applicherà anche al software e ai sistemi di AI immessi sul mercato da quella data. Il rischio AI smette così di essere soltanto una probabilità tecnica e diventa potenziale passività economica. Rallentare significa allora avere tempo sia per rendere i modelli più sicuri che per governare economicamente e giuridicamente una tecnologia in cui un errore può trasformarsi rapidamente in danno economico. Tutto questo però non può prescindere dal concorrente geopolitico cinese, libero da regole e correzioni di mercato. Per questo Amodei chiede di rallentare la frontiera occidentale ma, allo stesso tempo, sostiene controlli più rigidi su chip e capacità computazionale per preservare il vantaggio americano sulla Cina. La vera domanda non è se dobbiamo rallentare. È chi stabilirà il limite, chi potrà permettersi di rispettarlo e chi sarà abbastanza grande da trasformare la sicurezza da costo a vantaggio competitivo. Perché nella prossima fase dell’Intelligenza artificiale il potere non apparterrà soltanto a chi costruirà il modello più capace. Apparterrà anche a chi definirà il rischio, le regole e il conto da pagare quando qualcosa andrà storto.