AI ed etica, come alimentare l’innovazione proteggendo le persone

Sono molte le organizzazioni che già si avvalgono di algoritmi per fornire un triage iniziale, per esempio per lo screening dei candidati nei processi di assunzione. In questo caso diventa essenziale monitorarli e rivederli regolarmente per identificare e rimuovere eventuali tendenze discriminatorie nella valutazione dei curriculum. Per assicurarsi infatti che le decisioni automatizzate siano informate dalla logica, dall’etica e dall’empatia, è imperativo mantenere un approccio “human in the loop”, nel quale c’è sempre una persona che supervisiona e può intervenire nelle operazioni dell’AI per garantire che i risultati siano imparziali.

Continuando sull’esempio delle assunzioni, immaginate di candidarvi per un lavoro e scoprire che la vostra domanda sia stata valutata e rifiutata da un sistema di AI, senza nemmeno raggiungere un selezionatore umano. Questa mancanza di trasparenza può portare i candidati a perdere fiducia e a credere di non aver avuto una giusta possibilità nel processo di reclutamento.

Le organizzazioni devono essere in grado di mostrare chiaramente in che modo i sistemi di AI valutano le candidature e prendono decisioni, fornendo spiegazioni complete degli standard e delle procedure implementate. È quindi necessario disporre di canali facilmente accessibili per commenti o ricorsi degli utenti e garantire che essi sappiano se le conclusioni dell’AI sono definitive o soggette a revisione umana.

L’equità e la responsabilità nell’implementazione dell’AI sono ulteriormente rafforzate da quadri di governance interna aperti, come quelli che delineano esplicitamente la giurisdizione dei comitati etici dell’AI.

L’AI può raccogliere e analizzare enormi volumi di dati a velocità prima inimmaginabili. Questo potere, tuttavia, comporta un elevato rischio di violazioni della privacy, come dimostrato da McKinsey, che ha rilevato che 8 cittadini europei su 10 esprimono preoccupazione su chi può accedere ai loro dati personali.

Il rispetto dei diritti individuali va oltre la conformità legale e, nello sviluppo dell’AI, la protezione dei dati sensibili e personali identificabili dovrebbe essere una priorità assoluta.

Questo si può ottenere attraverso percorsi di alfabetizzazione sull’AI e con il continuo aggiornamento delle competenze sia delle singole persone che a livello di intera organizzazione.

L’avanzamento della tecnologia AI spesso supera la capacità delle normative e degli standard etici esistenti. Ritardare l’azione espone al rischio di un suo uso dannoso o imprevedibile da parte delle aziende, dato che l’AI influisce ormai concretamente su molte aree della vita quotidiana, come la sanità, il lavoro, la privacy e la sicurezza.

Etica e sicurezza sono diventate priorità strategiche per l’UE, che mira a compiere progressi significativi verso lo sviluppo responsabile dei modelli di AI e a fornire ai cittadini i necessari meccanismi di protezione. Ne è prova il Codice di Condotta per l’AI di Scopo Generale (GPAI) recentemente lanciato dalla Commissione Europea.

Lo sviluppo dell’AI è per sua natura distribuito, e vede coinvolta una varietà di istituzioni e paesi. Stabilendo principi morali comuni, possiamo tutti assumerci la responsabilità di prevenire gli abusi e promuovere applicazioni utili che costruiscano la fiducia globale.

*Group Vice President Southern Europe di Cloudera