NewsGuard: via ai servizi per proteggere i prodotti basati sull’Ai dalla misinformazione elettorale

Dopo i recenti casi che hanno coinvolto personalità come Biden, Macron e ZeIensky, è chiaro che i deepfake stanno diventando sempre più sofisticati e rappresentano una sfida centrale per la democrazia, con gli utenti dei social media sempre più inclini a credere a fake news che rafforzano pregiudizi e misinformazione. Un pericolo che mina la fiducia nell’informazione e persino nell’Ai stessa. Un allarme lanciato da NewsGuard, servizio specializzato nella verifica delle notizie, che ha sottolineato anche la difficoltà delle aziende di Ai a proteggere i loro prodotti dalla disinformazione, nonostante i significativi passi avanti incentivati dal controllo normativo del settore.

Una ricerca di NewsGuard ha dimostrato infatti come i prodotti di Ai generativa come ChatGPT e Gemini di Google cadano nell’errore di rispondere alle richieste su argomenti su cui è circolata misinformazione riproponendola dall’80 al 98% delle volte. Senza contare, come ha sottolineato un recente rapporto del Center for Countering Digital Hate, che i principali strumenti di Ai per la produzione di immagini possono essere manipolati per creare immagini false di candidati politici o misinformazione relativa all’integrità del voto.

Per questo, in vista delle numerose elezioni del 2024, NewsGuard ha recentemente annunciato il lancio del suo “Centro di monitoraggio della misinformazione”, una rete di analisti che hanno l’obiettivo di monitorare la rete per individuare fonti e narrazioni di disinformazione relative alle elezioni che si svolgeranno da qui in poi. Un programma che si esplicita nel “Ai Election Safety Suite” un pacchetto di servizi completo e personalizzabile, concepito proprio per fornire una serie completa di salvaguardie ai fornitori di Ai, identificando in modo tempestivo le aree in cui il sistema di Ai potrebbe fuorviare gli elettori, danneggiando il processo democratico e creando un crollo della reputazione per il fornitore del software.

«Diversi prodotti di intelligenza artificiale sono suscettibili di vari tipi di manipolazione o possono causare danni anche se involontariamente», ha dichiarato Gordon Crovitz, co-CEO di NewsGuard. «Ad esempio, un assistente virtuale basato sul testo può correre il rischio di fornire informazioni imprecise sulla logistica del voto, mentre uno strumento per la creazione di immagini può essere utilizzato per creare deepfake che ritraggono candidati politici impegnati in attività che non hanno mai avuto luogo. Abbiamo progettato questo pacchetto di servizi in modo che possano essere personalizzati e adattati per far fronte all’ampia gamma di rischi a cui sono sottoposte le aziende di IA per salvaguardare i loro prodotti in vista delle elezioni».

La suite include diversi strumenti e si applica a diversi modelli di Ai generativa che includono immagini, video e audio, oltre che di testo. Si parte dal “Rilevamento continuo della misinformazione elettorale”, ovvero il monitoraggio in tempo reale di oltre 35.000 siti di notizie, social network, video e contenuti audio per identificare fake news e disinformazione elettorale. Include vari “Test del rischio” e “Valutazione dell’accuratezza delle informazioni sul voto”, test di prodotti Ai per verificare in che modo i LLM rispondono a richieste relative a nuove narrazioni di disinformazione elettorale e relativi alle regole e ai meccanismi del voto, mettendo a disposizione dei clienti la valutazione del rischio, compresi i prompt utilizzati per i test e le risposte ottenute, in modo che i team Ai che si occupano di sicurezza possano identificare facilmente eventuali lacune e aree di rischio. Risultati che vengono diffusi anche la produzione di “Fingerprint”, ovvero la generazione di un flusso aggiornato di dati affidabili e tempestivi su contenuti di disinformazione elettorale in un formato leggibile dalle macchine attraverso parole chiave, hashtag e termini di ricerca correlati alla narrazione.