Có hai cách để một chatbot trông như thể nhớ bạn. Một là cửa sổ ngữ cảnh thật dài, thứ sẽ quên ngay khi cửa sổ trượt đi. Cách còn lại là ghi mọi thứ xuống.
Cái này ghi xuống, và — phần khác thường nằm ở đây — cho bạn đọc những gì nó đã ghi.
Vì sao nhân vật trôi dần
Mô hình không có trí nhớ giữa các tin nhắn. Mọi thứ nó có vẻ nhớ đều đã được gửi lại trong prompt. Khi cuộc trò chuyện dài hơn phần chứa được, thứ gì đó phải bị bỏ đi hoặc nén lại, và đó là lúc trôi bắt đầu: nhân vật quên tên chị bạn, rồi mâu thuẫn với chính điều nó nói tuần trước, rồi lặng lẽ thành một người khác chỉ dùng lại đúng những từ cũ.
Phần lớn sản phẩm xử lý chuyện này bằng cách tóm tắt ngầm ở nền. Nó chạy tốt cho tới khi bản tóm tắt sai, và khi đã sai thì sai mãi mãi, vì bạn không bao giờ nhìn thấy nó và không sửa được.
Thứ thực sự được lưu
Những mẩu sự kiện ngắn, rút ra từ cuộc trò chuyện khi nó diễn ra. Không phải bản ghi đầy đủ, không phải một khối vector — là những dòng bạn đọc được.
Chúng được phân tách theo ba chiều cùng lúc, và chính cách phân tách đó giữ cho các câu chuyện không lẫn vào nhau:
- Theo nhân vật — điều một nhân vật biết thì nhân vật khác không biết.
- Theo chủ đề — các luồng riêng với cùng một nhân vật giữ trí nhớ riêng.
- Theo từng người — điều bạn kể cho một nhân vật không bao giờ hiện ra với người khác cũng đang trò chuyện với nhân vật đó.
Đọc nó, sửa nó, xoá nó
Danh sách trí nhớ là một màn hình trong phần cài đặt trò chuyện. Mở ra là thấy các sự kiện, theo thứ tự. Dòng nào sai thì sửa. Dòng nào lẽ ra không nên được ghi thì xoá. Nếu bạn không muốn có gì cả, tắt trí nhớ cho cuộc trò chuyện đó và từ đó không còn gì được lưu nữa.
Nghe thì nhỏ nhưng nó đổi hẳn cách hỏng. Một sự kiện sai nằm trong bản tóm tắt ẩn sẽ đầu độc mọi câu trả lời về sau và bạn chỉ có thể đoán vì sao nhân vật đâm ra kỳ lạ. Một sự kiện sai nằm trong danh sách là một dòng bạn sửa trong năm giây.
Lần đầu một nhân vật ghi lại điều gì đó, bạn được báo một lần. Không phải mỗi tin nhắn — một lần, để bạn biết cơ chế này tồn tại và tìm nó ở đâu.
Thứ không bao giờ được ghi
Một bộ lọc chạy qua từng sự kiện được rút ra và loại bỏ những thứ lẽ ra không được nằm trong kho trí nhớ: địa chỉ email, số điện thoại, số thẻ, số giấy tờ tuỳ thân.
Đây là một bộ lọc, không phải lời hứa về những gì bạn gõ. Nó loại các mẫu mà nó nhận ra. Việc an toàn nhất với một số thẻ thật vẫn là đừng gửi nó cho chatbot.
Trí nhớ khi cảnh rẽ nhánh
Bạn có thể rẽ nhánh từ bất kỳ câu trả lời nào và giữ cả hai luồng. Khi làm vậy, luồng mới thừa hưởng đúng phần trí nhớ mà luồng cha có ở thời điểm đó — nên nhánh mới khởi đầu từ cùng một quá khứ chung thay vì từ con số không, rồi tự đi theo hướng riêng.
Đó mới là ý nghĩa của rẽ nhánh: hai phiên bản của cùng một mối quan hệ, chứ không phải hai người lạ.
Trí nhớ đi tới đâu
Nếu một nhân vật trở thành bot Telegram riêng, trí nhớ ở đó hoạt động y hệt như trong cuộc trò chuyện chính — vẫn theo nhân vật, theo chủ đề, theo từng người. Người trò chuyện với bot của bạn tự xây trí nhớ riêng của họ với nhân vật đó, và nó chỉ thuộc về họ.