Dario Amodei di Anthropic avverte: l’intelligenza artificiale avanzata potrebbe sfuggire al controllo umano

L’immagine più forte usata da Amodei è quella di un “paese di geni” concentrato in un data center. Con questa espressione intende sistemi artificiali capaci di operare al livello dei migliori premi Nobel in campi come chimica, ingegneria o biologia, lavorando in modo autonomo e continuo.

Un’entità del genere, sostiene, avrebbe un potere paragonabile, se non superiore, a quello di uno Stato. In un’ottica di sicurezza nazionale, scrive, verrebbe probabilmente considerata una delle minacce più gravi mai affrontate dai governi moderni.

Tra gli effetti più immediati Amodei indica l’impatto sul lavoro qualificato. A suo giudizio, una quota molto ampia delle posizioni impiegatizie di ingresso potrebbe essere automatizzata in tempi brevi, mentre nello stesso arco temporale potrebbero emergere sistemi più competenti di qualsiasi lavoratore umano.

Va detto che gli ultimi dati sull’occupazione americana non sembrano confortare questi timori, anche se c’è il sospetto che l’AI stia rallentando le assunzioni di giovani in ruoli tecnici.

Il timore più forte è in ambito biologico-terroristico.

Amodei ritiene che l’uso dell’AI in questo campo renda più facile per singoli individui o piccoli gruppi progettare attacchi su larga scala, con una capacità distruttiva prima riservata agli Stati. Non prevede un’escalation immediata, ma considera realistico il rischio di eventi catastrofici nel giro di pochi anni. Un tema affrontato anche dalla nuova versione della “costituzione” di Anthropic, set di regole a tutela appunto della sicurezza per questi modelli.

Un altro nodo è politico. L’accesso all’AI avanzata, osserva, non sarà limitato alle democrazie.

Regimi autoritari potrebbero usare questi strumenti per rafforzare sistemi di sorveglianza e controllo sociale. Amodei cita esplicitamente la Cina, descritta come uno dei Paesi più vicini agli Stati Uniti per capacità tecnologiche e al tempo stesso come uno Stato con un apparato repressivo sofisticato.

Una parte del saggio è dedicata alle responsabilità delle stesse aziende di AI.

Amodei riconosce che i grandi laboratori privati concentrano potere, competenze e infrastrutture senza precedenti. Controllano i data center, addestrano i modelli di frontiera e hanno un contatto diretto con centinaia di milioni di utenti.

Teme qui un uso distorto dei sistemi, dalla manipolazione dell’opinione pubblica fino alla pressione indebita sui decisori politici. La governance delle società che sviluppano AI, scrive, dovrebbe essere sottoposta a un controllo pubblico molto più stringente.

Di fondo, sono gli incentivi economici a spingere sull’acceleratore della tecnologia in modo potenzialmente pericoloso per l’umanità. L’AI – dice Amodei - promette profitti nell’ordine delle migliaia di miliardi di dollari all’anno. Questo rende politicamente e industrialmente difficile imporre limiti, anche quando emergono segnali di rischio. Amodei cita episodi problematici emersi nei test interni dei modelli, resi pubblici dalla stessa Anthropic, come quando la sua AI ha cercato di ricattare i ricercatori per non farsi spegnere. Da qui l’appello finale, rivolto in particolare ai bit della tecnologia: chi ha beneficiato di questa trasformazione, scrive, ha anche il dovere di contribuire a ridurne i rischi.