Economia Digitale

Microsoft, Maia 200 entra in produzione: i nuovi chip Maia 300 arriveranno nel 2027

Dall’anno prossimo Maia diventerà il principale sistema di inferenza dei prodotti Microsoft, con installazioni su scala di più gigawatt. L’obiettivo è servire più richieste con la stessa energia e controllare una parte maggiore dei costi di Copilot e degli agenti.

4' di lettura

English Version

4' di lettura

English Version

Microsoft ha annunciato che dal 2027 estenderà le installazioni della propria famiglia di chip Azure Maia su scala di più gigawatt, facendone il principale sistema di inferenza dei suoi prodotti e servizi. L’obiettivo è ridurre il costo delle operazioni che Copilot esegue ogni volta che riassume una riunione, suggerisce una riga di codice o legge un documento. Per rispondere bisogna eseguire il modello, spostare i dati e alimentare le memorie: su milioni di richieste, l’efficienza di queste operazioni incide sui conti dell’intelligenza artificiale.

Domande di approfondimento generate da 24Ore AI

Cosa è Maia e a cosa serve l’inferenza?

Mettiamola così: ogni volta che Copilot riassume una riunione, suggerisce una riga di codice o legge un documento, Microsoft sostiene un costo. Bisogna eseguire il modello, spostare i dati, alimentare le memorie. Su milioni di richieste, queste operazioni diventano una questione industriale. L’inferenza è il lavoro che un modello già addestrato compie per rispondere a una richiesta. Durante l’addestramento acquisisce le capacità che poi utilizza nelle interazioni con gli utenti. Con gli agenti il conto può aumentare: per svolgere un incarico, un sistema può interrogare più volte il modello, usare strumenti esterni, esaminare i risultati e correggere il percorso. Una sola richiesta può quindi richiedere numerosi passaggi di elaborazione. Sostanzialmente il nuovo piano Azure Maia interviene su questa voce della fattura dell’intelligenza artificiale. Secondo Microsoft, esegue carichi di produzione di Microsoft 365 Copilot e sostiene il gruppo Microsoft AI nello sviluppo dei modelli. GitHub Copilot e Microsoft Foundry seguiranno entro fine anno. Sull’hardware girano modelli OpenAI, modelli interni MAI e famiglie open source. Il programma ha superato la fase dimostrativa ed è entrato nei servizi dai quali l’azienda deve ottenere ricavi e margini. Ecco perché è cos’ì importante per i conti di Microsoft e per il mercato dell’AI.

Loading...

Come è fatto Maia 300?

Microsoft lo presenta come un sistema completo, sviluppato insieme al software, alle memorie e alle reti. La ragione è concreta: nell’inferenza, soprattutto durante la generazione delle risposte e quando il modello deve gestire contesti lunghi, le unità di calcolo possono restare in attesa dei dati. Poter eseguire più operazioni serve poco se le informazioni arrivano troppo lentamente.

Maia 300 punta a ridurre queste attese. Il software stabilisce dove collocare i dati e come trasferirli tra memorie, unità di calcolo e acceleratori. Una memoria locale sul chip mantiene le informazioni vicine alle unità che le utilizzano, riducendo il traffico verso la memoria principale. In questo modo una quota maggiore dell’energia può essere destinata all’elaborazione.

Le specifiche dichiarate indicano le dimensioni del progetto: otto stack di memoria HBM4, con una banda di picco complessiva di 18 terabyte al secondo e un TDP di 950 watt per acceleratore. Calcolo, controllo della memoria e connessioni sono distribuiti su diversi chiplet, piccoli componenti integrati nello stesso package. Quelli dedicati al calcolo saranno realizzati con il processo N2P di TSMC.

Le conversazioni lunghe pongono anche un problema di capacità della memoria. I modelli conservano risultati intermedi nella cosiddetta KV cache, per evitare di ricalcolarli a ogni nuovo token. Lo spazio necessario cresce con la lunghezza del contesto e con il numero di richieste simultanee. Maia 300 supporta formati numerici a precisione ridotta, tra cui una versione avanzata di MXFP4, per limitare l’occupazione di memoria e il trasferimento dei dati. Il vantaggio effettivo dipenderà anche dalla qualità delle risposte che i modelli riusciranno a mantenere con queste ottimizzazioni.

Il progetto si estende all’intero rack, l’armadio che ospita gli apparati. Un rack Maia 300 riunirà 96 acceleratori, 27,6 terabyte di memoria HBM e una banda aggregata di circa 1,7 petabyte al secondo, entro un budget di potenza di 167 kilowatt. Connessioni basate su Ethernet consentiranno di collegare più rack e distribuire l’elaborazione dei modelli tra gli acceleratori.

Microsoft prevede il 40% di token in più per megawatt rispetto ai principali sistemi basati su GPU e, nella configurazione completa, una capacità di elaborazione fino a sette volte quella di un rack Maia 200. Il materiale fornito non identifica però le GPU di riferimento né descrive tutte le condizioni delle misurazioni. Il secondo confronto riguarda inoltre un intero rack: non dimostra un miglioramento equivalente per singolo chip o per watt. Per Maia 200 l’azienda dichiara già fino a 1,7 volte i token per watt rispetto alle principali infrastrutture GPU, su determinate funzionalità dei propri servizi.

E i concorrenti?

La mossa di Microsoft era obbligata. Google sviluppa le proprie TPU, con la generazione Ironwood progettata per sostenere anche l’inferenza dei modelli più impegnativi. Amazon offre su AWS gli acceleratori Inferentia, dedicati all’inferenza, e Trainium, utilizzati sia per l’addestramento sia per l’esecuzione dei modelli. In entrambi i casi, il cloud diventa anche il canale attraverso cui mettere a disposizione dei clienti il silicio proprietario. Nvidia risponde con sistemi come Blackwell Ultra, che integrano GPU e connessioni ad alta velocità a livello di rack, pensati anche per il ragionamento e gli agenti. La competizione riguarda quindi l’intero sistema: chip, memoria, reti e software. Per Microsoft, Maia è uno strumento per controllare più direttamente il costo dei propri servizi AI. Come detto, una mossa obbligata.

Riproduzione riservata ©
  • Luca Tremolada

    Luca TremoladaGiornalista

    Luogo: Milano via Monte Rosa 91

    Lingue parlate: Inglese, Francese

    Argomenti: Tecnologia, scienza, finanza, startup, dati

    Premi: Premio Gabriele Lanfredini sull’informazione; Premio giornalistico State Street, categoria "Innovation"; DStars 2019, categoria journalism

Loading...

Brand connect

Loading...

Newsletter

Notizie e approfondimenti sugli avvenimenti politici, economici e finanziari.

Iscriviti