Sommario:
- Definizione - Che cosa significa Value Learning Problem?
- Techopedia spiega il problema dell'apprendimento del valore
Definizione - Che cosa significa Value Learning Problem?
Il problema dell'apprendimento di valore è una questione fondamentale specifica nello sviluppo dell'apprendimento automatico e delle tecnologie di intelligenza artificiale che affronta la differenza tra uomo e computer e il modo in cui pensano.
In breve, il problema dell'apprendimento del valore si basa su quanto sia difficile per i computer capire cosa "valutare" (in termini sia di dati che di politica) e come agire in una rete di apprendimento automatico, e su come i programmatori possono ottimizzare come il programma agisce per abbinare le loro intenzioni originali quando lo hanno creato.
Techopedia spiega il problema dell'apprendimento del valore
La chiave del problema dell'apprendimento del valore è che è estremamente importante che i programmatori siano in grado di realizzare programmi di apprendimento automatico che realizzino i valori desiderati. Tuttavia, il fermo-22 è che i valori non possono essere esplicitamente dichiarati in modi che ostacolano l'apprendimento del programma stesso.
Le persone a volte parlano della "convergenza" delle tecnologie di apprendimento automatico come del successo focalizzato sui dati di valore, ma il problema dell'apprendimento di valore è in qualche modo leggermente diverso. È l'idea che ci debba essere un modo fondamentale per mostrare al programma di apprendimento automatico ciò che si desidera, piuttosto che spiegarlo, che è un modo deterministico di eseguire ML.
Ad esempio, prendi questo articolo sul problema dell'apprendimento del valore che suggerisce che i programmi di apprendimento automatico potrebbero avere un set di input che mostra risposte umane positive agli stimoli. Nel leggere questi tipi di indirizzi per il problema dell'apprendimento di valore, diventa chiaro che c'è un grande divario nell'apprendimento automatico che non è facile da risolvere - essenzialmente - come fanno le persone a creare macchine che possono davvero pensare come le persone? Un altro modo per spiegarlo è che il problema dell'apprendimento di valore va al cuore di come pensiamo come esseri umani e di come i nostri pensieri non siano sempre basati su input fisici.
Per i computer modellare la nostra intuizione, il nostro istinto, le nostre inclinazioni sociali e i nostri valori etici più profondi è un ordine elevato, anche quando i computer possono imparare a giocare a scacchi in modo umano o superarci nel risolvere difficili problemi matematici. I professionisti possono aspettarsi che il programma di apprendimento del valore continui a essere centrale nello sviluppo delle tecnologie di apprendimento automatico.
