Kebanyakan kata ini datang dari makalah penelitian dan tidak pernah diterjemahkan. Mengenal enam di antaranya mengubah chat yang entah kenapa berulah menjadi masalah yang bisa kamu tunjuk letaknya.
Dua yang paling layak dipelajari lebih dulu adalah jendela konteks dan memori permanen, karena hampir semua keluhan yang dimulai dengan karakternya lupa berujung pada tertukarnya dua hal ini.
Karakternya sendiri
Persona — lapisan identitas karakter: nama, cara bicara, sikap, riwayat, kebiasaan kecil. Inilah yang diminta diperankan model di setiap balasan.
System prompt — blok instruksi tersembunyi yang diterima model sebelum menulis apa pun. Di sini isinya persona, aturan adegan yang sedang berlaku, dan potongan memori untuk pembaca yang satu ini.
Character card — bundel portabel berisi persona, pesan pembuka, model bawaan dan parameter sampling. Ada beberapa format standar komunitas, dan begitulah karakter berpindah antar platform.
Memori, dan hal yang sering dikira memori
Jendela konteks — jumlah teks maksimum yang bisa dipegang model untuk satu balasan. Jendela yang lebih besar merujuk lebih banyak percakapan terkini dan lebih mahal per panggilan. Ini batas, bukan lemari simpan: begitu percakapan melewatinya, bagian tertua jatuh keluar begitu saja.
Memori permanen — fakta yang disimpan karakter tentangmu lintas sesi. Mekanismenya sama sekali berbeda: dikurasi, bisa diedit, dan disisipkan ke konteks di setiap balasan. Di sini per karakter, per topik, per pembaca, dan sepenuhnya terlihat olehmu.
Inilah pembedaan yang menyelesaikan sebagian besar keluhan. Karakter yang lupa sesuatu dari sejam lalu adalah efek jendela konteks. Karakter yang lupa nama adikmu adalah masalah catatan memori — dan kalau faktanya tidak pernah ditulis, tidak ada model yang akan mengingatnya dengan benar.
Token — satuan terkecil yang dibaca dan ditulis model, kira-kira empat huruf teks Inggris. Jendela konteks diukur dalam token, dan itulah sebabnya batas yang terdengar raksasa terisi lebih cepat dari dugaan.
Mengarahkan percakapan
Cabang, atau fork — titik pemisahan. Bercabang dari sebuah balasan membuat jalur alternatif yang tumbuh berdampingan dengan yang asli, dan keduanya disimpan. Inilah yang membuat mencoba arah lain jadi gratis alih-alih merusak.
Regenerate — meminta versi lain dari balasan terakhir tanpa mengusik apa pun. Konteks sama, jawaban baru.
Tombol-tombolnya
Temperature — seberapa bisa ditebak balasannya. Makin rendah makin mantap, makin tinggi makin mengejutkan. Karakter yang terasa datar sering kali masalah temperature, bukan masalah model.
top_p, top_k, min_p — batasan atas kata kandidat berikutnya mana saja yang bahkan dipertimbangkan model. Berguna untuk menyetel nada: hati-hati, ekspresif, ringkas, bertele-tele.
Penalti pengulangan — menahan pemakaian ulang frasa yang sama. Ini obat untuk karakter yang melontarkan kalimat kesayangannya setiap empat balasan.
Pipa-pipa di belakang
Model router — infrastruktur yang memilih model untuk sebuah adegan dari sekumpulan pilihan dan berpindah diam-diam ketika salah satunya memburuk.
Failover dan circuit breaker — router memutus penyedia yang sedang memburuk sebelum dia sempat meracuni percakapan dengan timeout atau penolakan, lalu mengalihkan lalu lintas ke yang sehat. Saat ini bekerja kamu tidak pernah menyadarinya, dan memang itu tujuannya.
Di seputar tepiannya
Telegram Stars — satuan pembayaran mikro bawaan Telegram, dibeli di dalam Telegram dan dipakai untuk peningkatan. Pengisiannya sendiri tidak butuh kartu.
Tautan berbagi — URL berpelacak atribusi yang membuka chat dengan karakter seorang kreator. Stars yang dibelanjakan orang yang datang lewat tautan itu memberi kreatornya bagian.
Topik — utas forum tersendiri di Telegram, dipakai untuk memberi tiap karakter ruangannya sendiri dengan riwayat dan deretan pesan tersemat sendiri.
Verifikasi usia — langkah verifikasi di dalam bot sebelum roleplay dewasa bisa diaktifkan. Situs publiknya aman untuk umum; mode dewasa diaktifkan sendiri setelah verifikasi, dan batas kerasnya tetap berlaku.
RTL — penulisan dari kanan ke kiri, dipakai untuk bahasa Arab, Ibrani dan Persia. Elemen antarmuka dicerminkan, bukan dibiarkan sebagai teks rata kiri di dalam bahasa yang rata kanan.