L'intelligenza artificiale non è una cosa facile e possono sorgere problemi anche in aziende con una vasta esperienza di sviluppo in questo campo. È successo anche con Amazon. Come riportato dall'agenzia di stampa Reuters: “L'azienda ha dovuto abbandonare un progetto basato sull'intelligenza artificiale che selezionava automaticamente il personale. Il suo problema principale è l'oppressione delle donne".
Un esperimento fallito di Amazon
Nella maggior parte dei casi, l'addestramento AI viene effettuato analizzando i dati storici. Il loro problema frequente è l'esecuzione di compiti basati su "preconcetti". In questo caso, il "pregiudizio" è stato un numero significativo di uomini che lavorano nel campo informatico. Il software ha sviluppato un algoritmo che classifica i questionari che elencano i college femminili e che contengono la parola "femminile" negli ultimi posti della classifica.
Leggi anche: Amazon lancia Echo Wall Clock con supporto per l'assistente vocale Alexa
"Il team di sviluppo ha cercato di sviluppare un programma che, su 100 candidature presentate, seleziona le migliori 5, secondo determinati criteri." - riporta una fonte anonima.
Leggi anche: Amazon presenta lo smart speaker Echo Show aggiornato con un ampio display da 10 pollici
Quando l'azienda si è resa conto che il programma stava dando risultati basati sulle differenze di genere, ha deciso di modificare gli algoritmi dell'IA. Tuttavia, la reputazione del progetto è stata minata. Inoltre, non c'erano garanzie che non ci fossero altri "pregiudizi" nel programma. Pertanto, senza pensarci a lungo, Amazon ha deciso di coprire il progetto fino a tempi migliori.
Possiamo solo sperare che il progetto venga corretto e continui a soddisfare gli utenti con risultati onesti.
fonte: il limite