Negli ultimi anni sono emersi esempi concreti di risposte errate generate dalle intelligenze artificiali: memorie legali che citano precedenti inesistenti, articoli che riportano studi mai condotti, o suggerimenti di libri che non esistono. Questi incidenti non sono semplici sbavature di battitura, ma il prodotto di un fenomeno noto come allucinazioni nei sistemi di generazione testuale. Comprendere l’origine di questi errori è fondamentale per usare gli strumenti in modo responsabile e per evitare conseguenze potenzialmente gravi quando le risposte vengono utilizzate senza verifica.
È importante ricordare che i modelli come ChatGPT, Claude o Gemini non «sanno» nel senso umano del termine: elaborano testi basandosi su probabilità calcolate durante l’addestramento. Questo porta spesso a risposte convincenti ma non necessariamente corrette. In altre parole, l’utente che non verifica le informazioni rischia di diffondere contenuti inaccurati perché ha dato per scontato che il modello fosse una fonte autorevole.
Perché i modelli generativi possono inventare
Al centro del problema c’è il meccanismo noto come next token prediction, definito come il processo per cui il modello sceglie il pezzo di testo successivo basandosi sulle probabilità. Il sistema valuta quali token (parole, frammenti o segni di punteggiatura) sono statisticamente più probabili in un dato contesto e li concatena per costruire una risposta. Questo approccio favorisce la coerenza linguistica ma non garantisce la veridicità: ciò che appare plausibile e scorrevole non è automaticamente vero, e il modello può quindi produrre affermazioni inventate pur presentandole con tono sicuro.
La natura probabilistica delle risposte
Il funzionamento probabilistico impone una scelta continua tra alternative possibili: il modello non verifica fatti su basi esterne ma seleziona il token successivo che massimizza la probabilità di coerenza testuale.
Per fare un esempio semplice, completare «sto portando il cane a fare una…» è intuitivo perché il dato statistico è forte; su questioni complesse la probabilità si frammenta e la risposta può deviare. Alcuni ricercatori descrivono questi sistemi come pappagalli stocastici, perché replicano pattern linguistici senza una base di conoscenza verificata.
Quanto è frequente il fenomeno
Studi indipendenti hanno misurato tassi variabili di allucinazioni nei principali LLM. Ricerche di settore riportano percentuali che partono da intervalli bassi fino a casi molto più elevati: per esempio, alcune analisi indicano tassi medi intorno a pochi punti percentuali per versioni specifiche di certi modelli, mentre in scenari particolarmente complessi l’errore può arrivare a punte significativamente più alte. Molti esperti ritengono che, data la natura intrinseca della previsione statistica, sia improbabile eliminare completamente queste produzioni errate.
Esempi pratici e rischi associati
Le conseguenze possono essere banali o anche gravi: dalla raccomandazione di libri inesistenti fino a documenti legali che citano precedenti inventati o riferimenti accademici falsi. Questi casi mostrano che non è sufficiente valutare la correttezza solo osservando la fluidità del testo; serve un controllo delle fonti e una capacità critica dell’utente per distinguere tra plausibilità e verità sostanziale.
Strategie per ridurre le allucinazioni
Esistono tecniche utili per abbassare il rischio di informazioni scorrette. Il primo approccio è il RAG (ovvero retrieval augmented generation), che combina la generazione testuale con una ricerca di informazioni aggiornata: il modello interroga fonti esterne e integra i risultati nella risposta invece di fare affidamento esclusivamente sulle conoscenze apprese. Questo aumenta l’accuratezza ma non la garantisce totalmente, perché la qualità dipende dalle fonti recuperate.
Ruolo del feedback umano e buone pratiche
Un altro metodo è il RLHF (reinforcement learning from human feedback), in cui valutatori umani giudicano le risposte e guidano l’apprendimento verso esiti più affidabili. Inoltre, l’azione più semplice ma efficace resta la verifica da parte di utenti e professionisti: controllare citazioni, richiedere fonti verificabili, usare sistemi con RAG attivo e considerare le risposte come bozze da confermare. Trattare gli LLM come strumenti di supporto e non come oracoli riduce notevolmente il rischio di figuracce o danni pratici.
