Cos'è un'allucinazione di un'IA su una gara d'appalto?
Un'allucinazione di un'IA è un'affermazione falsa enunciata con sicurezza, come una cifra, un riferimento o una certificazione che l'azienda non possiede. Su una gara d'appalto, un'allucinazione è pericolosa perché la risposta sembra credibile: nulla nella sua forma segnala che è inventata. Un'allucinazione infilata in una risposta impegna l'azienda che firma, e si ritrova poi in altri dossier se è stata conservata senza verifica.
Il termine descrive un comportamento noto dei grandi modelli linguistici: producono il testo più probabile, non il più vero. La probabilità di una parola non è la prova di un fatto.
Perché un'IA generalista può allucinare su una gara d'appalto?
Un'IA generalista può allucinare su una gara d'appalto perché genera una risposta a partire da ciò che ha appreso in generale, senza ancoraggio garantito ai documenti della vostra azienda. Quando la domanda verte su un fatto preciso che il modello ignora, colma il vuoto con una formulazione plausibile piuttosto che ammettere l'assenza di informazione. Per questo un'IA generativa consumer, utile per una bozza, non basta a produrre una risposta a una gara d'appalto pronta per la firma.
L'origine del rischio dipende quindi da due cause: l'assenza di ancoraggio alle vostre prove, e l'assenza di verifica che distingue una risposta fondata da una risposta inventata.
Come riduce un software specializzato il rischio di allucinazione?
Un software specializzato riduce il rischio di allucinazione ancorando ogni risposta ai vostri documenti, poi sottoponendola a una verifica indipendente prima che venga convalidata. La risposta non parte più da un sapere generale, parte dalle vostre prove; e una seconda lettura cerca lo scostamento tra l'affermazione e la sua fonte.
| Da dove viene il rischio | Cosa lo riduce |
|---|---|
| Risposta generata senza ancoraggio | prima bozza ancorata ai vostri documenti |
| Fatto affermato senza prova | fonte citata per risposta, verificabile |
| Errore non rilevato | verifica da parte di un secondo team di IA |
| Fiducia impossibile da misurare | punteggio di affidabilità attribuito a ogni risposta |
Sulla piattaforma Optivalue.ai, che pubblica questo sito, l'architettura conta 5 livelli, tra cui 7 controlli anti-allucinazione, e attribuisce a ogni risposta un punteggio di affidabilità da 0 a 100, in modo che un revisore veda dove concentrare l'attenzione.
La concessione che chiarisce tutto
Per un uso interno senza impegno, come una bozza, una sintesi o una riformulazione, un'IA generica va bene e il rischio di allucinazione vi è un inconveniente minore che l'autore corregge. Il rischio cambia natura appena la risposta esce dall'azienda e impegna la propria firma: lì, l'ancoraggio, la verifica e la traccia smettono di essere opzionali. Il confine è la firma, non la potenza del modello.
Come individuare una risposta di IA che potrebbe essere falsa
- Cercate la fonte: una risposta che non indica da dove viene la propria affermazione va verificata prima di tutto.
- Controllate le cifre e i riferimenti: un numero, una norma o una data si riscontrano con un documento.
- Diffidate della certezza senza prova: una formulazione molto sicura non è una garanzia di veridicità.
- Verificate la freschezza: una risposta tratta da un vecchio dossier può essere vera ieri e falsa oggi.
- Mantenete la convalida umana: la persona che firma rilegge i punti che impegnano l'azienda.
Domande frequenti
Un'IA allucina sempre? Un'IA non allucina sistematicamente, ma il rischio esiste appena risponde su un fatto che ignora: l'ancoraggio ai vostri documenti e la verifica riducono questo rischio, la tracciabilità permette di rilevarlo.
Come sapere se una risposta di IA è fondata? Lo si sa risalendo alla fonte: una risposta fondata rimanda al documento che la giustifica, una risposta inventata non ha fonte da mostrare.
Un punteggio di affidabilità garantisce l'esattezza? Un punteggio di affidabilità da 0 a 100 indica dove concentrare la rilettura, non sostituisce la convalida umana sui punti sensibili.
Bisogna rinunciare all'IA a causa del rischio di allucinazione? Il rischio di allucinazione giustifica di scegliere un software che ancora, verifica e traccia le proprie risposte, piuttosto che rinunciare: è l'assenza di queste protezioni, non l'IA in sé, a esporre la firma.
Mettere alla prova il rischio di allucinazione su un vero dossier
Portate una vera gara d'appalto, un audit o un questionario di sicurezza. Vedrete la copertura dell'estrazione dei requisiti, le fonti citate alla pagina e l'analisi degli scostamenti sulla vostra risposta, non una dimostrazione preparata.
Fonti citate
- Comportamento documentato dei grandi modelli linguistici: generazione del testo più probabile, non del più vero (letteratura pubblica sui modelli generativi, 2026).
- Architettura di verifica (documentazione di marca dell'editore): cinque livelli, tra cui sette controlli anti-allucinazione, punteggio di affidabilità da 0 a 100.