Contesto
Tutto quello che il chatbot ha davanti mentre ti risponde: i messaggi della chat, i file, le istruzioni.
In parole semplici
Quando scrivi a un chatbot, lui non ricorda solo l'ultimo messaggio: rilegge tutta la conversazione, più i file che hai caricato. Tutto questo è il contesto.
Il contesto ha un limite, la «finestra di contesto», che si misura in token. Quando una chat diventa lunghissima, le cose dette all'inizio possono venire riassunte o dimenticate.
Un esempio
Dopo cento messaggi sullo stesso progetto il chatbot comincia a confondersi o a ripetersi. Spesso basta aprire una chat nuova e incollare un riassunto delle cose importanti.
Da sapere
Più il contesto è lungo, più ogni messaggio «pesa». Anche per questo le chat lunghe fanno arrivare prima al limite di messaggi.
Parole vicine
Limite di messaggi
Quanti messaggi puoi mandare a un chatbot prima che ti dica di aspettare o di passare a un abbonamento.
Prompt
Quello che scrivi al chatbot: la domanda o la richiesta. Più è chiaro, migliore è la risposta.
Token
I pezzetti in cui un chatbot spezza il testo per leggerlo e scriverlo. Spesso sono pezzi di parola.