D:
Perché alcune aziende stanno pensando di aggiungere "controlli di feedback umani" ai moderni sistemi di intelligenza artificiale?
UN:Alcune aziende che lavorano con la tecnologia AI all'avanguardia stanno lavorando per istituire controlli umani per questi sistemi, fornendo agli strumenti di apprendimento automatico e di apprendimento profondo una supervisione umana diretta. Anche queste aziende non sono piccoli attori: DeepMind di Google e OpenAI di Elon Musk sono due esempi di grandi aziende che stanno mettendo a punto i progressi dell'intelligenza artificiale. Tenendo conto di ciò, i risultati differiscono: ad esempio, DeepMind è stato oggetto di controversie per la sua riluttanza percepita a fornire dati chiave al pubblico, mentre OpenAI è molto più aperto sul suo lavoro sul controllo dell'intelligenza artificiale.
Anche notabili come Bill Gates hanno tenuto conto della questione, Gates afferma che è uno dei tanti che sono preoccupati per l'emergere di una superintelligenza artificiale che potrebbe in qualche modo andare oltre il controllo umano. Musk, da parte sua, ha anche messo in piedi un linguaggio allarmante sulla possibilità di "AI canaglia".
Questa è probabilmente la ragione più urgente per cui le aziende stanno lavorando per applicare i controlli umani all'intelligenza artificiale - l'idea che una singolarità tecnologica si tradurrà in una tecnologia senziente superpotente che gli umani semplicemente non possono più controllare. Fin dagli albori delle ambizioni umane, abbiamo messo in atto strumenti per assicurarci di poter controllare i poteri che esercitiamo - che si tratti di cavalli con redini e imbracature, elettricità in fili isolati o qualsiasi altro tipo di meccanismo di controllo, avendo il controllo è una funzione innata dell'uomo e quindi ha tutto il senso nel mondo che quando l'intelligenza artificiale si avvicina alla reale funzionalità, gli umani applicano i propri controlli diretti per tenere sotto controllo quel potere.
Tuttavia, la paura dei robot super-intelligenti non è l'unica ragione per cui le aziende applicano controlli umani ai progetti di machine learning e AI. Un altro motivo importante è il pregiudizio alla macchina - questa è l'idea che i sistemi di intelligenza artificiale spesso sono limitati nel modo in cui valutano i dati in questione - in modo da amplificare qualsiasi pregiudizio inerente al sistema. La maggior parte dei professionisti che si occupano di apprendimento automatico può raccontare storie horror su sistemi IT che non sono stati in grado di trattare allo stesso modo i gruppi di utenti umani, sia che si tratti di disparità di genere o etnica, o di qualche altro fallimento del sistema nel comprendere veramente le sfumature delle nostre società umane e come interagiamo con le persone.
In un certo senso, potremmo mettere controlli umani sui sistemi perché abbiamo paura che possano essere troppo potenti - o in alternativa, perché abbiamo paura che non siano abbastanza potenti. I controlli umani aiutano a indirizzare i set di dati di apprendimento automatico per fornire maggiore precisione. Aiutano a rafforzare le idee che il computer semplicemente non può imparare da solo, o perché il modello non è abbastanza sofisticato, perché l'IA non è progredita abbastanza lontano, o perché alcune cose si trovano solo nella provincia della cognizione umana. L'intelligenza artificiale è ottima per alcune cose - per esempio, un sistema basato sul premio e sul punteggio ha permesso a un'intelligenza artificiale di battere un giocatore umano nel gioco da tavolo immensamente complesso "Go" - ma per altre cose, questo sistema basato su incentivi è totalmente inadeguato.
In breve, ci sono numerose ragioni convincenti per coinvolgere direttamente gli utenti umani nel funzionamento dei progetti di intelligenza artificiale. Anche le migliori tecnologie di intelligenza artificiale possono pensare molto da sole - ma senza un vero cervello umano biologico in grado di elaborare cose come emozioni e costumi sociali, semplicemente non riescono a vedere il quadro generale in modo umano.
Un'azienda specializzata nel machine learning può aiutare a raggiungere questo equilibrio con un mix di esperti di business e materie e gli sviluppatori di machine learning con le competenze per risolvere i grandi problemi aziendali.
