Perché succede
Un modello linguistico non consulta un archivio di fatti: produce la continuazione più probabile di un testo. Quando la domanda riguarda qualcosa che non conosce, la continuazione più probabile è comunque una risposta ben formata — con numeri plausibili, nomi credibili e un tono sicuro. Non sta mentendo: sta facendo esattamente ciò per cui è costruito.
I quattro interventi che funzionano
| Intervento | Quanto riduce il rischio | Costo |
|---|---|---|
| Ancorare le risposte a documenti forniti | Molto | È il progetto stesso |
| Obbligare alla citazione della fonte | Molto | Nullo, va solo chiesto |
| Permettere e premiare «non lo so» | Molto | Nullo |
| Insieme di domande di controllo | Alto, nel tempo | Mezza giornata iniziale |
| Vietare i temi fuori perimetro | Alto | Nullo |
| Far verificare a una persona sopra soglia | Totale su quei casi | Il tempo della verifica |
| Cambiare modello | Poco | Variabile |
L'ultima riga è quella su cui si concentra la discussione e quella che incide meno. Un modello migliore inventa un po' meno, ma inventa: la differenza la fa l'architettura intorno.
Il permesso di non sapere
È l'intervento più sottovalutato e costa zero. Un assistente istruito a rispondere sempre risponderà sempre, anche quando non ha materiale. Uno a cui è stato detto esplicitamente che «non lo so, ti metto in contatto con una persona» è una risposta corretta e apprezzata, la userà.
- Va scritto nelle istruzioni in modo esplicito, non lasciato implicito.
- Va reso facile: un percorso verso una persona sempre disponibile.
- Va misurato: quante volte dice di non sapere, e su cosa. È l'elenco di cosa manca nei vostri contenuti.
- Non va penalizzato: un assistente che dice spesso di non sapere su temi fuori perimetro sta funzionando correttamente.
Dove mettere il limite
| Ambito | Cosa impostiamo |
|---|---|
| Prezzi negoziati e sconti | Non risponde: rimanda a una persona |
| Condizioni contrattuali | Cita il documento, non riformula |
| Tempi di consegna | Solo se legge un dato reale, mai stimati |
| Disponibilità | Solo dal sistema, mai dedotta |
| Riferimenti normativi | Cita la fonte e invita a verificare |
| Consigli medici, legali, fiscali | Non risponde, per nessun motivo |
Sono limiti che si impostano una volta e che valgono per sempre. Costano nulla e rimuovono la maggior parte dei casi in cui un errore diventerebbe un problema reale.