Allucinazione
Quando un chatbot dice una cosa falsa con la stessa sicurezza di una vera.
In parole semplici
Un chatbot è fatto per produrre risposte che suonano bene. Di solito sono anche giuste, ma a volte si inventa un dato, una citazione, il titolo di un libro che non esiste. E lo fa con lo stesso tono convinto di sempre.
Si chiama allucinazione. Non è una bugia: il chatbot non sa di sbagliare.
Un esempio
Chiedi le fonti di una notizia e il chatbot ti dà tre link ordinati e credibili. Li apri, e uno non esiste.
Come difendersi
- Per le cose importanti, come salute, soldi o leggi, controlla sempre su una fonte vera.
- Chiedi al chatbot da dove prende l'informazione, e apri davvero i link.
- Diffida dei numeri troppo precisi e delle citazioni tra virgolette.
Parole vicine
Intelligenza artificiale
Programmi che fanno cose che prima sapeva fare solo una persona: scrivere, riconoscere una foto, rispondere a una domanda.
Modello
Il «cervello» che sta dietro un chatbot: il programma che ha imparato da tantissimi testi e produce le risposte.
Prompt
Quello che scrivi al chatbot: la domanda o la richiesta. Più è chiaro, migliore è la risposta.