Sommario:
Definizione - Cosa significa Distorsione da macchina?
La distorsione da macchina è l'effetto di assunzioni errate nei processi di apprendimento automatico. La parzialità riflette i problemi legati alla raccolta o all'uso dei dati, in cui i sistemi traggono conclusioni improprie sui set di dati, sia a causa dell'intervento umano sia a causa della mancanza di valutazione cognitiva dei dati.
Il bias della macchina è anche noto come bias dell'algoritmo o semplicemente bias.
Techopedia spiega Machine Bias
La distorsione da macchina assume varie forme. Uno degli esempi più importanti riguarda l'uso dei sistemi di apprendimento automatico per formulare giudizi su singole persone o gruppi di persone. Ad esempio, quando utilizzati nel campo della giustizia penale, alcuni modelli di apprendimento automatico hanno dimostrato di assumere tassi di criminalità più elevati per le persone sulla base di dati superficiali come etnia o ubicazione.
Un altro modo per spiegare la distorsione della macchina in termini scientifici è descriverlo come un "raggruppamento" di dati che non è intrinsecamente giustificato, in cui la distorsione è una parte di ciò che gli ingegneri chiamano un compromesso di "scostamento dalla distorsione". Distorsioni elevate possono causare un clustering errato. Una varianza elevata può causare un'eccessiva diffusione dei dati. Gli ingegneri potrebbero riferirsi a un sistema o risultato come "bias elevato, varianza elevata" o "bias basso, varianza elevata" o un'altra combinazione.
