Allucinazioni AI: cosa sono e perché sono importanti

Nella rivoluzione dell'IA, è difficile credere che stiamo assistendo a qualcosa di veramente rivoluzionario. E non si tratta di politica, ma di matematica. Il problema sta nelle allucinazioni dell'IA.

Immagina un mondo in cui una calcolatrice ogni tanto dice 2+2=5. O in cui un software di contabilità inventa transazioni mai avvenute. Sembra assurdo, vero? Eppure è questo il tipo di mondo in cui stiamo entrando con l'attuale rivoluzione dell'intelligenza artificiale.

Fin dall'inizio dell'era digitale, una cosa era certa: i computer potevano bloccarsi, le stampanti potevano comportarsi male e gli utenti potevano impazzire per le schermate blu della morte. Ma nonostante tutto, ci si fidava che facessero una cosa in modo impeccabile: eseguire calcoli. Quel fondamento di fiducia, costruito nel corso di decenni, ora viene costantemente eroso da ciò che gli esperti chiamano allucinazioni dell'IA.

La storia dei computer non è iniziata con i social media o i videogiochi, ma con la necessità di eseguire calcoli complessi. Il primo computer elettronico multiuso, ENIAC, occupava una stanza di 7 per 13 metri e ospitava quasi 18,000 tubi a vuoto insieme a migliaia di relè. Questa macchina imponente fu sviluppata per calcolare le tabelle di fuoco dell'artiglieria e assistere nel lavoro sulla bomba all'idrogeno. Poteva eseguire 5,000 addizioni, 350 moltiplicazioni o 40 divisioni al secondo, più velocemente di qualsiasi cosa immaginabile all'epoca.

Sono passati più di 75 anni da allora e i computer hanno subito una trasformazione radicale. Da giganti delle dimensioni di una stanza, si sono evoluti in dispositivi abbastanza piccoli da stare nelle nostre tasche. Eppure, nonostante tutte le rivoluzioni tecnologiche, il loro scopo principale è rimasto lo stesso: i computer sono, prima di tutto, macchine costruite per calcolare.

Leggi anche: Tecno-feudalesimo – Una nuova forma di ordine mondiale

Excel: matematica di cui ti puoi fidare

Un buon esempio di questa continuità è Microsoft Excel, un programma che, in fondo, è ancora una calcolatrice visiva avanzata. Nel corso dei decenni, Excel è diventato la spina dorsale dell'economia globale, utilizzato da tutti, dalle piccole imprese alle multinazionali, dal bilancio familiare ai complessi modelli finanziari di Wall Street. Sebbene abbia i suoi critici e limiti, una cosa è rimasta costante: i suoi calcoli sono affidabili.

Naturalmente, anche in Excel possono verificarsi degli errori. Un esempio comune è il messaggio #VALUE!, che appare quando si tenta di eseguire operazioni matematiche su testo anziché numeri. Ma, e questa è la differenza fondamentale, tali errori hanno sempre cause chiare e identificabili e soluzioni semplici. Ancora più importante, Excel non indovina né inventa mai risultati. La formula =SUM(A1:A10) restituirà sempre lo stesso output per lo stesso input, sia che la si esegua per la prima volta o per la millesima.

Questa natura deterministica del software tradizionale ha rafforzato la nostra fiducia nei computer per decenni. Potremmo esserci lamentati delle interfacce utente, delle prestazioni o della compatibilità, ma non abbiamo mai messo in dubbio l'accuratezza matematica dei risultati.

Leggi anche: Canale di Panama: storia della sua costruzione e base delle rivendicazioni statunitensi

Allucinazioni dell’intelligenza artificiale: quando la matematica inizia a fantasticare

E questo ci porta al problema centrale dell'attuale rivoluzione dell'intelligenza artificiale. I moderni modelli di intelligenza artificiale, in particolare i grandi modelli linguistici (LLM), differiscono fondamentalmente dal software tradizionale. Invece di eseguire operazioni specifiche e deterministiche, sono progettati per riconoscere modelli in enormi set di dati e generare risposte plausibili basate su tali modelli.

Questo cambiamento fondamentale nell'architettura porta a ciò che gli esperti chiamano allucinazioni di IA, casi in cui i modelli di IA generano informazioni che sembrano reali ma sono completamente errate o scollegate dalla realtà. È importante notare che queste allucinazioni non sono errori casuali; sono il risultato della natura stessa di questi sistemi, la complessa interazione tra dati di training, costruzione del modello e il modo in cui il modello interpreta le query.

L'aspetto più preoccupante è che le allucinazioni dell'IA spesso appaiono con lo stesso livello di sicurezza delle informazioni fattuali. Un modello può affermare con sicurezza che Kiev è la capitale dell'Ucraina (il che è vero) e che ha ospitato le Olimpiadi estive del 1995 (il che è interamente inventato). Per l'utente, in particolare per un non esperto, può essere estremamente difficile distinguere i fatti dalle allucinazioni.

Leggi anche: Usalo o perdilo: come l'intelligenza artificiale sta cambiando il pensiero umano

L'entità del problema delle allucinazioni

Sebbene sia difficile stabilire statistiche esatte sulla frequenza delle allucinazioni dell'IA, gli esperti concordano che si tratta di un problema diffuso che riguarda tutti i grandi modelli linguistici. I sistemi più inclini alle allucinazioni sono quelli che non dispongono di efficaci meccanismi di verifica delle informazioni, si basano su dati obsoleti e non riescono a interpretare correttamente il contesto delle query.

Le cause delle allucinazioni sono complesse e multistrato. Tra i fattori principali, gli esperti indicano:

• Imperfezioni nei dati di addestramento: se i dati utilizzati per addestrare il modello contengono errori, imprecisioni o informazioni contraddittorie, il modello potrebbe replicare questi problemi o generare nuovi contenuti falsi.

• Overfitting del modello: si verifica quando l'algoritmo si adatta troppo al set di dati di addestramento, perdendo la capacità di generalizzare e identificare correttamente nuovi modelli.
• Presupposti errati nella progettazione del modello: se gli sviluppatori di intelligenza artificiale basano la loro progettazione su presupposti errati, il modello potrebbe generare sistematicamente allucinazioni.

Esempi specifici di sistemi di intelligenza artificiale, particolarmente inclini alle allucinazioni, includono soluzioni cinesi come Qwen e DeepSeekNonostante i loro progressi tecnologici, questi modelli devono ancora affrontare questo problema. Spesso generano informazioni che sembrano plausibili ma in realtà sono false o non allineate con la realtà, specialmente in contesti in cui i dati possono essere incompleti o contraddittori.

Leggi anche: Tutto su Microsoft'S Majorana 1 Processore quantistico: svolta o evoluzione?

Il problema della fiducia: il 98% non è ancora sufficiente

E qui arriviamo alla questione fondamentale della fiducia. Nel software tradizionale, gli errori erano eccezioni, non la regola. Nel caso dell'intelligenza artificiale, le allucinazioni sono una parte intrinseca del funzionamento del sistema. Anche se un modello genera informazioni accurate nel 98% dei casi, il restante 2% è un problema serio.

Immagina di usare una calcolatrice che fornisce il risultato corretto nel 98% dei casi, ma nel 2% dei casi fornisce la risposta sbagliata. Ci fideremmo di un dispositivo del genere per compiti come calcolare le tasse, sviluppare medicine o progettare un ponte? La risposta è chiara.

La questione delle allucinazioni dell'IA è particolarmente critica in campi che richiedono completa accuratezza e correttezza fattuale, come medicina, diritto, finanza e ingegneria. In questi ambiti, anche la minima possibilità di errore può portare a conseguenze disastrose.

Leggi anche: Spostamenti tettonici nell'intelligenza artificiale: è Microsoft scommesse su DeepSeek?

Excel contro intelligenza artificiale: calcolo contro confabulazione

In Excel, quando appare un errore come #VALUE!, il programma indica chiaramente che qualcosa è andato storto. Non tenta di indovinare il risultato o di nascondere il problema. Inoltre, ci sono raccomandazioni specifiche su come risolvere tali errori, ad esempio, assicurandosi che tutti i valori in una formula matematica siano numeri, non testo.

D'altro canto, nel caso dei sistemi di intelligenza artificiale, quando il modello non conosce la risposta, spesso genera una risposta convincente ma falsa anziché riconoscere la sua mancanza di conoscenza. La parte peggiore è che l'utente potrebbe non rendersi nemmeno conto che le informazioni fornite sono un'allucinazione.

Secondo SalesforceNel rapporto sullo stato dei dati e dell'analisi, 9 analisti e leader IT su 10 (quasi l'87%) concordano sul fatto che i progressi nell'intelligenza artificiale hanno dato alla gestione dei dati una priorità più elevata. Tuttavia, lo stesso rapporto evidenzia l'incertezza degli intervistati sull'accuratezza dei dati e le preoccupazioni relative alla sicurezza dei dati nel contesto dell'IA.

Leggi anche: Come Taiwan, Cina e Stati Uniti combattono per il dominio tecnologico: la grande guerra dei chip

Il costo di verifica è uno svantaggio nascosto dell'IA

I sostenitori dell'intelligenza artificiale sostengono che il problema delle allucinazioni può essere affrontato tramite la verifica delle informazioni. In effetti, il fact-checking e la convalida degli output dei sistemi di intelligenza artificiale stanno diventando pratiche essenziali in ogni organizzazione che utilizza queste tecnologie. Il problema, tuttavia, è che la necessità di verifica riduce significativamente il valore di questi sistemi.

Immagina questa situazione: chiediamo a un assistente AI di scrivere un rapporto sul mercato dei veicoli elettrici. Il sistema genera un documento di 20 pagine pieno di statistiche, tendenze e previsioni. Il documento sembra professionale e contiene argomentazioni convincenti. Il problema è che non sappiamo quali parti delle informazioni sono accurate e quali sono state il risultato di allucinazioni dell'AI. Per determinarlo, dovremmo verificare ogni statistica, ogni affermazione, ogni fatto. Ciò significa, in effetti, che stiamo facendo il lavoro che il sistema AI avrebbe dovuto fare per noi.

Questo è il paradosso fondamentale dell'attuale rivoluzione dell'IA: i sistemi che avrebbero dovuto farci risparmiare tempo spesso richiedono ulteriore lavoro per verificare i loro risultati. Nel caso di utilizzo di software tradizionali, come Excel, possiamo semplicemente fidarci dei risultati dei calcoli e concentrarci sull'interpretazione dei dati.

Leggi anche: Tutto sugli standard e le specifiche USB

Il mondo matematicamente imperfetto dell'intelligenza artificiale

La mancanza di fiducia nei sistemi di intelligenza artificiale non è una questione di tecnofobia o di resistenza al cambiamento. È una risposta razionale a un cambiamento fondamentale nella relazione tra esseri umani e computer. Per decenni, abbiamo costruito relazioni basate sull'affidabilità deterministica delle macchine informatiche. Ora, stiamo entrando in un'era di modelli probabilistici che, per natura, non possono garantire lo stesso livello di affidabilità.

Forse il modo più accurato per descrivere questo è attraverso l'analogia della comunicazione umana. Il software tradizionale è come un'enciclopedia: può essere incompleta o contenere informazioni obsolete, ma ciò che è incluso può essere considerato provato. L'IA, d'altro canto, assomiglia a una conversazione con una persona che possiede una conoscenza impressionante ma imperfetta: a volte commette errori, occasionalmente si confonde e a volte distorce i fatti.

Questa analogia, nel contesto dei computer, significa una regressione fondamentale in termini di affidabilità. Ci siamo sempre aspettati più accuratezza dalle macchine che dagli esseri umani. Ora, paradossalmente, ci troviamo a dover verificare i risultati generati dall'IA con la stessa cautela che applicheremmo alle informazioni provenienti da un individuo sconosciuto.

Leggi anche: Che cos'è la DeepSeek e perché tutti ne parlano?

Alla ricerca dell'affidabilità matematica

Ciò significa che dovremmo abbandonare completamente l'intelligenza artificiale? Assolutamente no. I sistemi di intelligenza artificiale hanno un potenziale enorme in vari campi, dalla generazione di contenuti creativi all'analisi di vasti set di dati. Il problema sta nel fatto che dobbiamo imparare un nuovo approccio al lavoro con questi sistemi, che ne riconosca i limiti fondamentali.

Attualmente, è in corso un'intensa ricerca per ridurre le allucinazioni dell'IA. Le soluzioni proposte includono il miglioramento della qualità dei dati di addestramento (migliori sono i dati, minore è la probabilità di allucinazioni), lo sviluppo di metodi di addestramento più trasparenti (i modelli comprensibili e spiegabili hanno meno probabilità di generare informazioni false) e l'avanzamento dei meccanismi di fact-checking (sistemi che verificano automaticamente i contenuti generati rispetto a fonti autorevoli).

Leggi anche: Biomimetica: come la natura ispira gli ingegneri a innovare

Nuova etica della realtà digitale

L'attuale rivoluzione nell'intelligenza artificiale richiede non solo nuovi strumenti e metodologie, ma anche un nuovo quadro di etica digitale. Dobbiamo ripensare a cosa significhi la fiducia tra esseri umani e macchine, ai confini della responsabilità per gli errori indotti dall'IA e a come proteggerci dalla disinformazione in un mondo in cui il confine tra realtà e finzione sta diventando sempre più sfumato.

Secondo un Salesforce report esplora la fiducia nei dati nell'era dell'intelligenza artificiale, i rischi per la sicurezza e la mancanza di armonizzazione dei dati ne ostacolano l'affidabilità. Pertanto, le aziende che utilizzano dati basati sull'intelligenza artificiale per processi decisionali critici considerano le minacce alla sicurezza dei dati la loro preoccupazione principale.

Ciò è particolarmente importante nel contesto della cosiddetta intelligenza artificiale generativa, che comporta l'ulteriore rischio che i dati aziendali possano trapelare in modelli linguistici pubblici di grandi dimensioni.

Leggi anche: 10 esempi degli usi più strani dell'intelligenza artificiale

Invece di mille parole…

Non diffido dell'attuale rivoluzione dell'intelligenza artificiale perché non ne vedo il potenziale, ma perché ne comprendo i limiti fondamentali. Per decenni, abbiamo costruito la nostra civiltà digitale sulle fondamenta di calcoli affidabili, a partire dalle prime calcolatrici meccaniche, passando per il monumentale ENIAC, fino agli onnipresenti fogli di calcolo. Questa certezza matematica è stata la pietra angolare del progresso in innumerevoli campi della vita.

L'attuale ondata di intelligenza artificiale ci introduce in un mondo probabilistico, in cui la certezza del 98% è la nuova norma. Sebbene ciò possa essere sufficiente per molte applicazioni, sono richiesti standard molto più elevati in aree critiche come sanità, finanza e sicurezza.

La vera sfida, quindi, sta nello sfruttare il potenziale dell'intelligenza artificiale senza perdere la certezza matematica che è stata il fondamento della nostra fiducia nella tecnologia per decenni. Mentre i computer possono ora conversare, creare immagini e scrivere poesie, la loro funzione più cruciale rimane il calcolo impeccabile, la stessa funzione che svolgevano quando un tempo riempivano intere stanze ed erano gestiti da team di scienziati in camice da laboratorio. Perché in un mondo in cui distinguere i fatti dalla finzione diventa sempre più difficile, la certezza matematica è più preziosa che mai.

Leggi anche: 

• Come saranno i treni passeggeri del futuro
• Viaggi spaziali alla velocità della luce: quando diventeranno realtà?