Guerra e intelligenza artificiale, il rischio sistemico: quando gli algoritmi anticipano la decisione umana

In altre parole, non siamo ancora davanti a sistemi che decidono autonomamente di colpire un bersaglio, ma stiamo entrando in una fase in cui la guerra viene progressivamente “pre-decisa” dagli algoritmi che selezionano e interpretano i dati. Ed è proprio questa zona grigia, tra supporto e automazione della decisione, che rappresenta oggi il vero rischio strategico, etico e politico della guerra nell’era dell’intelligenza artificiale.

Un rapporto della National Security Commission on Artificial Intelligence (NSCAI), organo istituzionale statunitense, avverte che l’integrazione dell’IA nei sistemi d’arma pone questioni “rilevanti rispetto alla legalità, alla sicurezza e all’etica” di tali sistemi, soprattutto quando questi superano il ruolo di mero strumento di supporto e acquisiscono livelli crescenti di autonomia.

L’impiego dell’intelligenza artificiale nei sistemi d’arma sta aprendo scenari profondamente preoccupanti, in particolare con lo sviluppo delle Lethal Autonomous Weapon Systems (LAWS), armi in grado di selezionare e colpire un obiettivo senza intervento umano diretto. Spesso definite “killer robot”, queste tecnologie sollevano interrogativi etici e di sicurezza senza precedenti, perché trasferiscono a un sistema algoritmico decisioni che riguardano la vita e la morte.

Uno dei principali rischi riguarda l’opacità del processo decisionale. Molti sistemi di IA funzionano come vere e proprie “scatole nere”: anche i loro sviluppatori non sempre riescono a comprendere esattamente quale sarà la decisione presa in un contesto specifico. Questo rende estremamente difficile prevedere o spiegare il comportamento di un’arma autonoma in situazioni reali. Inoltre, sistemi addestrati in ambienti controllati possono reagire in modo imprevedibile in scenari complessi come il campo di battaglia, con il rischio concreto di colpire obiettivi civili o generare effetti non intenzionali.

Un’altra preoccupazione cruciale riguarda la possibile esclusione dell’essere umano dalla catena decisionale militare, la cosiddetta kill chain. Con l’aumento della velocità dei sistemi di combattimento automatizzati, il tempo per la verifica umana si riduce sempre più. Tuttavia, l’IA non è in grado di applicare in modo affidabile principi fondamentali del diritto internazionale umanitario, come la distinzione tra combattenti e civili o la proporzionalità nell’uso della forza. Senza un controllo umano significativo, questi principi rischiano di essere violati.

Infine, esiste il pericolo di escalation incontrollata dei conflitti. Sistemi autonomi che reagiscono in frazioni di secondo possono interpretare erroneamente segnali o movimenti come minacce e rispondere automaticamente, dando origine a dinamiche di conflitto rapidissime, talvolta definite flash wars. In tali scenari, gli esseri umani potrebbero non avere il tempo materiale per intervenire e fermare l’escalation, aumentando il rischio di errori tragici e di crisi militari difficili da contenere.

L’introduzione di sistemi d’arma autonomi basati sull’intelligenza artificiale apre uno dei dilemmi più inquietanti della guerra moderna: chi è responsabile quando una macchina prende decisioni letali? Se un sistema automatizzato colpisce un obiettivo civile o viola il diritto internazionale umanitario, la responsabilità diventa difficile da attribuire. Potrebbe ricadere sui programmatori che hanno progettato l’algoritmo, sui comandanti militari che ne hanno autorizzato l’impiego o sullo Stato che ha schierato il sistema. Tuttavia, il diritto internazionale non offre ancora risposte chiare a queste domande.

Negli ultimi anni la comunità internazionale ha iniziato a riconoscere la gravità del problema. Alle Nazioni Unite diversi Paesi hanno sostenuto la necessità di definire regole vincolanti sull’uso militare dell’intelligenza artificiale, mentre iniziative politiche promuovono il principio di una supervisione umana significativa nelle decisioni di attacco. Nonostante ciò, le grandi potenze restano divise e i negoziati procedono lentamente.

L’unica certezza è che la tecnologia avanzi molto più velocemente della regolamentazione. Se non verranno stabiliti limiti chiari, i futuri conflitti potranno essere sempre più guidati da sistemi automatizzati capaci di reagire in pochi secondi. In uno scenario estremo, l’integrazione dell’IA in sistemi strategici potrebbe perfino ridurre i tradizionali freni umani nelle crisi militari, aprendo la strada a escalation rapidissime e potenzialmente catastrofiche.

Conclusione

L’intelligenza artificiale non è più solo uno strumento: è un arbitro del destino umano. Promette efficienza e sicurezza, ma nelle mani di pochi miliardari e corporation, mossi da ideologie discutibili, diventa un’arma capace di riscrivere la nostra storia evolutiva, stabilendo chi conta e chi è sacrificabile. La guerra non è più decisa dall’uomo: algoritmi opachi selezionano obiettivi, accelerano conflitti e trasformano la catena di comando in un gioco in cui il giudizio umano rischi di diventare un optional.

Peter Thiel, Alex Karp e altre figure eminenti del panorama tecnologico mondiale, la moderna autocrazia, non solo modellano la tecnologia, ma plasmano il futuro politico e sociale.

Secondo Thiel, la politica è un ostacolo al progresso tecnologico dell’umanità e per questo motivo andrebbe sostituita dalla tecnocrazia, ovvero da un sistema di governo in cui il potere decisionale è affidato a esperti, tecnici e scienziati.

Tuttavia, la politica, in filosofia, non è solo governare, ma studiare come organizzare la vita comune per il bene collettivo, analizzando potere, giustizia e governo. Siamo davvero pronti a sacrificare questo concetto ancestrale per il profitto di pochi e l’evoluzione della civiltà delle macchine?

Thiel sostiene correttamente che la sfida globale sarà tra Usa e Cina per la supremazia nell’IA. Definisce “Anticristo” chi frena il progresso, tra eccessiva regolamentazione e ambientalismo e sottolinea che democrazia e libertà non sono più compatibili.

L’IA diventa così uno strumento di controllo sociale e politico, dove la vita e la morte, la libertà e il potere, sono decise da chi detiene la tecnologia, non dalla legge o dall’etica.

Se non si stabiliscono limiti globali e vincolanti, l’IA accelera conflitti, indebolisce la capacità umana di mediare e apre la strada a escalation incontrollabili. Le guerre potrebbero diventare flash, le decisioni mortali immediate, e il futuro una distopia in cui pochi decidono la sorte di molti. L’innovazione senza controllo rischia di trasformarsi in apocalisse silenziosa, e la sopravvivenza stessa della democrazia è messa a rischio.

Pierluigi Paganini, Ceo di Cyberhorus, Direttore Osservatorio in Cybersicurezza dell’Unipegaso e coordinatore scientifico Sole 24 Ore formazione