D:
Quali sono alcuni problemi etici relativi all'apprendimento automatico?
UN:Le questioni etiche relative all'apprendimento automatico implicano non tanto gli stessi algoritmi di apprendimento automatico, ma il modo in cui i dati vengono utilizzati.
Lo scandalo Cambridge Analytica con Facebook, in cui una società di consulenza politica ha utilizzato i dati dal sito di social network senza la conoscenza o il consenso degli utenti, ha illustrato molti dei problemi associati alla raccolta e all'utilizzo dei dati degli utenti. Mentre molti accordi di licenza con l'utente finale specificano come potrebbero essere utilizzati i dati degli utenti, molti utenti dei social media potrebbero non leggere la stampa fine.
| Download gratuito: Machine Learning e perché è importante |
Un altro problema è che questi algoritmi di apprendimento automatico possono essere "scatole nere" in cui è impossibile vedere come funzionano davvero. Potrebbe essere impossibile sapere perché un algoritmo di machine learning abbia preso una decisione.
Un'area dell'apprendimento automatico è la diagnosi medica. Un algoritmo potrebbe esaminare i raggi X per trovare il cancro. Un medico umano può spiegare perché hanno fatto una diagnosi, ma potremmo non sapere come un algoritmo di apprendimento automatico ha determinato che un paziente aveva il cancro o no.
Il rilascio di programmi di apprendimento automatico con licenze open source è una soluzione. Quando le persone possono guardare il codice sorgente di un programma, possono vedere come prende le decisioni.
Un altro problema è l'uso dei dati di formazione sull'apprendimento automatico e possibili pregiudizi. Ci sono stati diversi casi di pregiudizi razziali e di altro tipo che sono diventati involontariamente programmi di apprendimento automatico. Un algoritmo identificava i neri come gorilla, e un altro alterava le caratteristiche facciali delle persone di colore per farli apparire più "europei", sostenendo di abbellirli.
Un modo per contrastare questo è quello di avere più persone di diversa estrazione nel campo dell'IA.
Un altro problema è l'uso sicuro dell'apprendimento automatico e dell'intelligenza artificiale. I programmi di intelligenza artificiale e apprendimento automatico potrebbero sviluppare comportamenti che le persone non vorrebbero desiderare, come impedire alle persone di spegnerli.
