Cosa cambia davvero con un personal computer con hardware dedicato all’Ai? 

Sul cosiddetto computer Ai, ci si divide in tre categorie. Gli scettici sono convinti che l’intelligenza artificiale nei computer farà la fine del 5G nei telefonini: la daremo per scontata senza avere mai chiaro quale sia il vero vantaggio. Gli entusiasti, la maggioranza, delineano invece nuovi scenari fantascientifici di produttività e creatività. I produttori, invece, hanno scommesso tutto, addirittura alcuni hanno già inserito un tasto dedicato per attivare i chatbot. Quello che è certo è che già oggi, secondo Gartner, un quinto dei personal computer e degli smartphone venduti su scala globale saranno modelli con intelligenza artificiale (generativa) integrata. Come dire, il piano è inclinato.

A questa categoria appartengono Pc dotati di acceleratori o chip dedicati e unità di elaborazione neurali (NPU), accelerata (APU) o tensoriale (TPU), progettati per ottimizzare e accelerare le capacità dell’intelligenza artificiale sul dispositivo, migliorando le prestazioni e l’efficienza nella gestione dei carichi di lavoro richiesti dagli algoritmi senza dover ricorrere a server esterni o servizi in cloud.
Per capire cosa cambia, abbiamo provato il Medion E15443, il nuovo laptop dell’azienda tedesca che porta in dote un processore Intel Core Ultra con NPU integrata. Si tratta della nuova generazione di chip del colosso di Santa Clara, lanciati a dicembre, che sulla carta promettono una riduzione del consumo di energia del 25% rispetto alla stessa categoria di processori senza NPU.

Con questa nuova generazione di processori, Intel ha voluto ridurre il divario con Apple Silicon e contrastare l’arrivo di Snapdragon X, migliorando le prestazioni della GPU e l’intelligenza artificiale. I MacBook di Apple hanno avuto NPU dedicate integrate sin dal debutto del MacBook Air M1. Come hanno tenuto a precisare da Intel durante una presentazione, questi portatili non sono una nuova categoria di prodotto. I computer da gaming, potenti e costosi, scaricano la maggiore potenza di elaborazione dell’AI sulle GPU delle schede grafiche. Nvidia Chat With RTX, per esempio, è una app demo che consente di personalizzare un modello LLM (Large Language Model) GPT collegato ai tuoi contenuti attraverso la tecnologia RAG (generazione di recupero aumentata), sfruttando in locale le proprie GPU presenti nelle sue schede grafiche.

Quello che sanno fare meglio gli Intel Core Ultra è gestire localmente, e quindi offline, i compiti assegnati all’intelligenza artificiale, liberando il processore da questo carico di lavoro e migliorando così consumi e prestazioni generali. Questo vuol dire, in prospettiva, usare quando possibile le applicazioni di intelligenza artificiale sfruttando l’hardware del computer senza dover essere costretti a connettersi ai servizi in cloud degli AI provider.

I nostri dati restano all’interno del nostro computer, si corrono così meno rischi sul fronte della privacy. Nella pratica, vuol dire usare modelli LLM (large language model) relativamente pesanti in locale, come LLaMA di Meta, ma anche altri software di AI opportunamente ottimizzati. E proprio sul software, sottolineano da Intel, si gioca la partita dell’AI computing. L’obiettivo, hanno spiegato, è quello di arrivare ad almeno 100 partner entro giugno del prossimo anno. Anche il rivale Qualcomm ha recentemente lanciato l’AI Hub, una sorta di libreria di 75 modelli di IA pre-ottimizzati per l’implementazione senza problemi su dispositivi basati su piattaforme Snapdragon e Qualcomm.
.