Secondo un genitore che ha pubblicato screenshot della cronologia delle attività di Alexa, l'assistente vocale di Amazon, quando un bambino gli ha chiesto di offrire una sfida, ha fornito un esempio di un esperimento mortale con l'elettricità, estraendo la sua descrizione dal contesto di un articolo casuale. La colonna Echo ha parlato di un esperimento popolare tra i fan di TikTok con l'uso di una moneta e un caricabatterie per uno smartphone: numerosi incidenti, feriti e incendi dopo la sua implementazione sono stati segnalati da vari media più di una volta. Apparentemente, il dispositivo ha avuto l'idea di questa sfida da un articolo che la descriveva come pericolosa, citando un rapporto su una presunta sfida TikTok esistente.
Secondo uno screenshot preso da Christine Livdahl, quando gli è stato chiesto di "mostrarmi un compito", Echo ha risposto: "Ecco qualcosa che ho trovato online". Secondo ourcommunitynow.com, il compito è semplice: "inserire il caricatore del telefono a metà circa nella presa, quindi toccare i pin scoperti con un penny".
In una dichiarazione alla BBC, Amazon ha confermato il comportamento di Alexa, dicendo: "Non appena siamo venuti a conoscenza di questo errore, abbiamo preso provvedimenti immediati per risolverlo". Livdahl ha twittato ieri che la richiesta di sfida non funzionava più. Anche gli utenti sul Web hanno testato la richiesta con Alexa e hanno ottenuto un risultato simile.
OMFG Mia figlia di 10 anni ha appena chiesto ad Alexa sul nostro Echo una sfida e questo è quello che ha detto. pic.twitter.com/HgGgrLbdS8
- Kristin Livdahl (@klivdahl) Dicembre 26, 2021
Amazon non è l'unica azienda che ha riscontrato problemi durante l'analisi dei contenuti web. A ottobre, un utente ha riferito che Google mostrava consigli potenzialmente pericolosi in uno dei suoi frammenti se digitava "hai un attacco, cosa fare" in Google: le informazioni sono state prese da una sezione della pagina web che descrive cosa non da fare se qualcuno ha un attacco. Tuttavia, gli utenti hanno segnalato altri problemi simili, incluso un utente che ha riferito che Google restituisce risultati per l'ipotensione ortostatica durante la ricerca di ipertensione ortostatica, e un altro ha pubblicato uno screenshot di Google che mostrava consigli terribili per confortare una persona in lutto sulla falsariga di "Felice che tu stai bene" o "Non essere triste! Rallegrarsi!".
Il riepilogo della ricerca di Google rispetto alla pagina effettiva pic.twitter.com/OJxt1FrBqh
— soft.linden (｡•̀ᴗ-)✧ (@soft) Ottobre 16, 2021
Abbiamo anche visto avvertimenti su comportamenti pericolosi intensificarsi per rendere il problema più grande di quanto non fosse: all'inizio di questo mese, alcuni distretti scolastici statunitensi sono stati bloccati dopo le segnalazioni di minacce di tiro su TikTok. Si è scoperto che la tempesta sociale è stata causata principalmente dal fatto che le persone parlavano delle minacce, molto più delle minacce effettivamente esistite. Nel caso di Alexa, l'algoritmo ha selezionato la parte descrittiva dell'avviso e l'ha amplificata senza il contesto originale. Nonostante i genitori fossero lì per intervenire immediatamente, è facile immaginare una situazione in cui non è così e le conseguenze.
Livdahl ha twittato di aver sfruttato l'opportunità per "discutere la sicurezza di Internet con suo figlio e non fidarsi di ciò che leggi senza ricerca e verifica", cosa che ti suggeriamo di fare anche tu.
Leggi anche: