Perché l'AI sbaglia (e a volte si inventa le cose)

Cos’è un’allucinazione

Chiedi all’AI la fonte di un dato e ti risponde con il titolo di un articolo, l’autore e l’anno. Lo cerchi, e quell’articolo non esiste. Oppure ti cita una legge con il numero sbagliato, o attribuisce una frase alla persona sbagliata.

Questi errori si chiamano allucinazioni: informazioni false presentate con lo stesso tono sicuro di quelle vere. Non è un difetto raro né un bug che sparirà domani. È una conseguenza diretta di come funzionano questi modelli.

Perché succede

Un modello linguistico, come spieghiamo nella guida su cos’è un modello linguistico, scrive scegliendo il pezzo di testo più plausibile dopo quello precedente. Plausibile, non vero. Quasi sempre le due cose coincidono. Quando non coincidono, il modello scrive comunque qualcosa che suona bene.

Le situazioni in cui succede più spesso:

• Non ha l’informazione. È un fatto troppo recente, troppo di nicchia o mai scritto da nessuna parte.
• La domanda contiene un errore. Se chiedi «perché la legge X ha abolito Y?» e la legge non l’ha fatto, il modello tende ad assecondarti.
• Servono dettagli precisi. Numeri, date, nomi e citazioni sono il punto debole: una cifra sbagliata è plausibile quanto quella giusta.

Gli errori più comuni

• Fonti, libri, articoli e sentenze inventati.
• Numeri e statistiche senza riscontro.
• Calcoli sbagliati, quando il modello li fa «a parole» invece che con un vero calcolo.
• Notizie e cambiamenti recenti che il modello non conosce.
• Dettagli su persone e piccole aziende, che online compaiono poco.

Come accorgersene

Alcuni segnali di allarme:

• Troppa precisione su cose difficili da sapere. Una percentuale con due decimali su un fenomeno vago è sospetta.
• Fonti che non riesci a trovare. Se una fonte non salta fuori con una ricerca veloce, probabilmente non esiste.
• Risposte diverse alla stessa domanda. Rifai la domanda in una nuova chat: se la risposta cambia, il modello sta tirando a indovinare.

Come ridurre gli errori

• Dai tu le informazioni. Carica il documento, incolla i dati, e chiedi di rispondere solo in base a quelli.
• Chiedi le citazioni. «Indica la frase esatta del documento da cui prendi ogni informazione.»
• Usa la ricerca web quando c’è: molti assistenti possono cercare online e mostrare i link.
• Autorizza il «non lo so». Scrivi esplicitamente che preferisci una risposta incompleta a una inventata.
• Spezza i compiti. Un problema lungo diviso in passaggi produce meno errori di una domanda unica.

La regola del semaforo

Un modo semplice per decidere quanto controllare:

• Verde: idee, bozze, titoli, riformulazioni. Se c’è un errore, lo vedi subito e non costa nulla.
• Giallo: riassunti dei tuoi documenti, analisi di dati. Controlla a campione i punti importanti.
• Rosso: numeri che userai per decidere, questioni legali, fiscali, mediche, informazioni da pubblicare. Verifica sempre su una fonte affidabile.

L’AI resta uno strumento potentissimo. Basta usarla come un collaboratore brillante ma un po’ troppo sicuro di sé: ascolti, e poi controlli.