Perché l'IA allucina? Uno sguardo dietro le quinte dei modelli linguistici

L'intelligenza artificiale oggi riesce a fare cose che fino a poco tempo fa sembravano pura fantascienza. Scrive testi, propone codice di programmazione e ci consiglia su molteplici compiti complessi. Ma più le sue risposte suonano fluide e convincenti, più facilmente dimentichiamo un grande rischio: l'IA può creare una risposta completamente inventata che però a prima vista appare assolutamente credibile.

Questo fenomeno è stato chiamato "allucinazione dell'IA". Non si tratta di un qualsivoglia errore software accidentale o di una funzione lasciata intenzionalmente attiva che gli sviluppatori hanno semplicemente dimenticato di disattivare. È un effetto naturale e profondamente radicato del modo in cui i grandi modelli linguistici odierni (LLM) sono concepiti e addestrati. Esploriamo come funzionano questi sistemi per capire perché "mentono" con tanta sicurezza.

Cosa sono le allucinazioni dell'IA?

Nella generative artificial intelligence, si parla di allucinazione quando il modello genera una risposta che appare perfetta e credibile dal punto di vista grammaticale e stilistico, ma che nel mondo reale non ha alcun fondamento.

I modelli possono avere allucinazioni in modi davvero sorprendenti. Possono inventare paragrafi inesistenti di leggi, commettere errori nei calcoli matematici o generare studi scientifici realisticamente suonanti inclusi nomi di autori e indirizzi web che, tuttavia, non sono mai esistiti. È curioso che accada anche con domande completamente banali, per esempio quando si desidera verificare la data di nascita di una persona famosa o cercare dati storici ufficiali sulla popolazione in un archivio.

Cosa accade all'interno del modello linguistico

Per capire da dove provengono questi errori, dobbiamo chiarire una cosa: i grandi chatbot come ChatGPT o Gemini non funzionano come motori di ricerca su internet e non sono enormi database di fatti. Non hanno conoscenze reali sul nostro mondo e non sanno cosa è vero e cosa è falso.

Un modello linguistico è essenzialmente una grande rete neurale, che è fondamentalmente un insieme complesso di "istinti addestrati". Questi istinti sono stati acquisiti analizzando miliardi di parole da internet, libri e discussioni. L'obiettivo di tutto questo addestramento straordinariamente costoso sia dal punto di vista finanziario che tecnologico non è insegnare alla macchina a comprendere il significato del testo, ma semplicemente a imitare perfettamente e fluentemente il linguaggio umano.

Come l'IA lavora con i token

Quando scrivi la tua domanda in un chatbot, la rete neurale non lavora direttamente con le tue parole. Il testo viene prima suddiviso in cosiddetti token. I token sono parole o parti di parole predefinite che corrispondono a numeri specifici. La rete matematica all'interno del computer riesce infatti a elaborare solo numeri.

Il modello prende questi numeri (la tua domanda insieme all'intero contesto precedente della conversazione) e li corre ai suoi strati. Tuttavia, il risultato non è che vada a cercare in un cassetto per la "risposta giusta". L'output è una pura previsione matematica: il modello calcola quale altro token abbia maggiore probabilità di seguire il testo già scritto.

Perché il modello predice invece di verificare

L'intero principio di funzionamento dell'intelligenza artificiale si basa sulla stima delle probabilità, non sulla verifica della veridicità. Il modello compone il testo parola dopo parola (token dopo token). Ogni parola appena generata viene immediatamente aggregata all'input e sulla base di questo nuovo contesto si calcola immediatamente la probabilità per la parola successiva.

Per evitare che gli output siano completamente monotoni e aridi, durante la generazione viene utilizzato un parametro nascosto chiamato "temperatura". Quando la temperatura è a zero, il modello sceglie sempre il token più prevedibile, il che porta a risposte banali e sempre uguali. Una temperatura più alta dà al modello la possibilità di utilizzare anche parole meno probabili. Sebbene così si sblocchi la creatività e la capacità di scrivere racconti interessanti, si aumenta drasticamente anche la probabilità che il modello ricorra a invenzioni totali.

Come si genera una risposta passo dopo passo

L'intero processo dal momento della domanda alla finale allucinazione appare in pratica così:

1. Analisi della domanda: La tua domanda viene convertita in numeri (token).
2. Calcolo delle probabilità: Il modello valuta il contesto e sceglie tra centinaia di possibili candidati le parole che statisticamente meglio si adattano al seguito.
3. Composizione della salsa: Se il modello si imbatte in un argomento in cui mancano dati solidi, non prova ad ammettere che non sa. Usa un linguaggio fluente e inizia a comporre un testo che suona del tutto logico, ma i dettagli li deduce semplicemente statisticamente.
4. Riciclaggio del contesto: Una volta che il modello genera un dettaglio errato (ad esempio un anno sbagliato o un nome inventato), questo dettaglio diventa parte integrante del contesto. Nei passaggi successivi, il modello costruisce sulla propria bugia e aggiunge ulteriori spiegazioni credibili.

Alcune domande portano più spesso alle allucinazioni

Durante l'addestramento (detto pre-addestramento), il modello vede solo testi corretti e fluidi. Ma nei dati ci sono diversi tipi di informazioni. Le regole ortografiche o la corretta chiusura delle parentesi si ripetono costantemente nei testi, quindi l'IA le apprende perfettamente.

Il problema si presenta con fatti specifici che appaiono di rado nei dati e non seguono alcun modello ripetibile. Un esempio tipico sono i numeri esatti, date, anni di nascita o eventi storici poco noti. Poiché questi fatti appaiono nei dati praticamente come casuali, il modello non riesce a dedurli in modo affidabile. Pertanto, se si chiede all'IA un dato numerico specifico o dettagli che una persona deve ricordarsi esattamente dall'archivio, il rischio di allucinazione sale a razzo.

Come i modelli di IA cercano di ridurre le allucinazioni?

Attualmente, gli sviluppatori utilizzano diverse strategie principali per cercare di domare la fantasia sfrenata dei modelli:

• Strumenti esterni e ricerca. Proprio come i modelli hanno ricevuto calcolatrici per eseguire calcoli matematici, oggi hanno la possibilità di cercare sul web prima di rispondere. Leggono le pagine pertinenti e poi le citano. Ciò riduce significativamente la possibilità che si inventino una risposta, anche se le allucinazioni possono ancora verificarsi anche con le citazioni.
• Modelli di ragionamento (Reasoning). I sistemi avanzati (ad esempio la serie o3 o o5 di OpenAI) conducono un monologo interno prima di generare la risposta. Prima pensano al procedimento, controllano le fonti e solo successivamente rilasciano il testo all'utente. Qui le allucinazioni sono notevolmente meno, ma se si presentano, sono tanto più sofisticate e difficili da svelare.
• Architettura RAG (Retrieval-Augmented Generation). Viene usata soprattutto nelle aziende. Il modello si disconnette dall'indovinare liberamente e si forza a lavorare esclusivamente con un database fornito di documenti interni. La probabilità di errore è ridotta al minimo.

Il problema principale però risiede nel modo in cui i modelli sono valutati nei test. La maggior parte delle classifiche misura il successo netto (precisione) su una scala da 1 (corretto) o 0 (errato). L'ammissione cauta "non so" finisce sempre con zero, mentre indovinare rischiando può talvolta far ottenere un punto al modello. Il sistema motiva così letteralmente l'intelligenza artificiale a indovinare con sicurezza piuttosto che ammettere incertezza. OpenAI promuove quindi nelle sue ricerche un adeguamento della metodologia di valutazione, che penalizzerebbe i modelli per l'invenzione di informazioni e al contrario li premierà per ammettere apertamente l'incertezza.

Come ottenere risposte più affidabili dall'IA

Finché i sistemi di valutazione non cambiano, dobbiamo come utenti approcciare criticamente i risultati dei chatbot. Ecco alcuni suggerimenti su come eliminare i rischi:

• Fornite i dati direttamente nel prompt. Se vuoi che l'IA analizzi un testo o una legge, inseriscilo direttamente nel tuo input e proibisci esplicitamente di aggiungere qualsiasi cosa che non sia presente nel testo. Il rischio di invenzioni scende al minimo.
• Cambia il tono della domanda. Non spingere il modello a chiedergli cose che non può dedurre logicamente (numeri statistici esatti, dettagli dalle biografie).
• Verifica tutto ciò che è importante. Soprattutto in aree critiche come diritto, medicina o finanza, tratta i risultati dell'IA solo come un abbozzo grezzo che devi controllare personalmente in fonti indipendenti e verificabili.

Domande frequenti

Perché l'IA a volte promette di inviarmi un'e-mail o di completare un compito più tardi, anche se non riesce a farlo?

Il modello non ha alcuna cognizione delle sue reali capacità tecniche né dell'attuale fuso orario. Si limita a completare il testo basandosi sulla probabilità statistica. Quando gli fornisci un compito, valuta come continuazione più naturale della frase la cortese conferma che sta già lavorando sulla questione, anche se in background nessun processo è in corso.

Il chatbot può inventare completamente un libro o un articolo scientifico che sembra reale?

Sì, capita molto spesso. L'IA ha appreso dai testi la struttura delle citazioni accademiche, quindi è in grado di generare titoli che suonano molto reali e accademici. Tuttavia, le informazioni in tale citazione possono essere del tutto inventate e l'unico modo per scoprirlo è tentare di rintracciare indipendentemente quell'opera.

Aiuta contro le allucinazioni chiedere la stessa cosa di nuovo in una nuova chat?

Sì, aprire una nuova chat è un aiuto molto efficace. In questo modo cancelli infatti l'intero contesto della conversazione precedente. Se l'IA ha commesso un errore nelle frasi precedenti, nell'originale chat continuerebbe ad appoggiarsi su di esso a causa della sua natura, mentre in una finestra pulita inizia il calcolo delle probabilità da zero.

Se attivo la ricerca su internet, ho la certezza che la risposta sarà senza errori?

Purtroppo non hai certezza. Anche se il ricercatore fornisce dati corretti al modello, l'IA compone comunque il testo stimando la parola successiva. I test mostrano che i chatbot con accesso al web possono capire male le informazioni, confondere le connessioni e generare un errore che inoltre corredano di link reali.

Ha senso usare l'intelligenza artificiale quando so che sbaglia in questo modo?

Assolutamente sì, è solo necessario cambiare le aspettative. Per il brainstorming, la scrittura di e-mail, l'elaborazione di concetti creativi o la ricerca di connessioni non tradizionali, questa libertà del modello è un enorme vantaggio. Devi però funzionare come editor, lasciando che l'IA scriva e verificando sempre i dettagli fattuali da te.