Puoi fidarti dell'IA? Dovresti accettare i suoi risultati come oggettivamente validi senza dubbio? Il problema è che anche mettere in discussione l'IA stessa non darebbe risposte chiare.
I sistemi di intelligenza artificiale hanno generalmente funzionato come una scatola nera: i dati vengono immessi e i dati vengono emessi, ma i processi che trasformano tali dati sono un mistero. Questo crea un duplice problema. Uno è che non è chiaro quali siano le prestazioni degli algoritmi più affidabili. L'altro è che i risultati apparentemente oggettivi possono essere distorti dai valori e dai pregiudizi degli umani che programmano i sistemi. Questo è il motivo per cui c'è bisogno di trasparenza per i processi di pensiero virtuale che tali sistemi usano, o "AI spiegabili".
L'imperativo etico è diventato legale per chiunque sia soggetto al GDPR, il che ha un impatto non solo sulle aziende con sede nell'UE ma anche su quelle che hanno rapporti con persone o organizzazioni. Contiene una serie di disposizioni sulla protezione dei dati che si estendono ai cittadini dell'UE "il diritto a non essere soggetti esclusivamente al processo decisionale automatizzato, tranne in determinate situazioni" e "il diritto a ricevere informazioni significative sulla logica implicata nella decisione “.
