Ci sono due modi in cui un chatbot può sembrare ricordarsi di te. Uno è una finestra di contesto lunga, che dimentica nel momento in cui la finestra scorre. L'altro è scrivere le cose.
Questo le scrive e — la parte insolita — ti lascia leggere quello che ha scritto.
Perché i personaggi vanno alla deriva
Un modello non ha memoria tra un messaggio e l'altro. Tutto ciò che sembra ricordare gli è stato rispedito nel prompt. Quando una conversazione supera ciò che ci sta, qualcosa va tagliato o compresso, ed è lì che comincia la deriva: il personaggio smette di sapere il nome di tua sorella, poi contraddice ciò che ha detto la settimana scorsa, poi diventa in silenzio una persona diversa che usa le stesse parole.
La maggior parte dei prodotti gestisce la cosa riassumendo dietro le quinte. Funziona finché il riassunto non è sbagliato, e allora è sbagliato per sempre, perché tu non lo vedi mai e non puoi correggerlo.
Cosa viene davvero salvato
Fatti brevi, estratti dalla conversazione man mano che procede. Non una trascrizione, non un blob vettoriale — righe che puoi leggere.
Sono delimitati in tre modi contemporaneamente, ed è questa delimitazione a impedire che le storie si mescolino tra loro:
- Per personaggio — ciò che sa un personaggio, un altro non lo sa.
- Per argomento — thread separati con lo stesso personaggio mantengono memorie separate.
- Per persona — nulla di ciò che dici a un personaggio è mai visibile a chiunque altro parli con lo stesso personaggio.
Leggerla, correggerla, cancellarla
L'elenco della memoria è una schermata nelle impostazioni della chat. La apri e vedi i fatti, in ordine. Se uno è sbagliato, lo correggi. Se uno non avrebbe mai dovuto essere scritto, lo cancelli. Se non ne vuoi affatto, spegni la memoria per quella conversazione e non viene salvato più nulla.
Sembra poco e cambia completamente il modo in cui le cose vanno storte. Un fatto sbagliato in un riassunto nascosto avvelena ogni risposta successiva e puoi solo indovinare perché il personaggio è diventato strano. Un fatto sbagliato in un elenco è una riga che sistemi in cinque secondi.
La prima volta che un personaggio scrive qualcosa, ti viene detto una volta. Non a ogni messaggio — una volta, così sai che il meccanismo esiste e dove trovarlo.
Cosa non viene mai scritto
Un filtro passa su ogni fatto estratto ed elimina ciò che non dovrebbe stare in un archivio di memoria: indirizzi email, numeri di telefono, numeri di carte, numeri di documenti d'identità.
È un filtro, non una promessa su ciò che digiti. Rimuove gli schemi che riconosce. La cosa più sicura da fare con un numero di carta vero resta non mandarlo a un chatbot.
La memoria quando la scena si biforca
Puoi biforcare qualsiasi risposta e tenere entrambi i thread. Quando lo fai, il nuovo thread eredita la memoria che il genitore aveva in quel momento — così un ramo parte dallo stesso passato condiviso invece che dal nulla, e poi diverge per conto suo.
È questo il senso della biforcazione: due versioni della stessa relazione, non due estranei.
Dove viaggia la memoria
Se un personaggio diventa un bot Telegram a sé, la memoria lì funziona esattamente come nella chat principale — sempre per personaggio, per argomento, per persona. Chi parla con il tuo bot costruisce la propria memoria con quel personaggio, ed è soltanto sua.