คำเหล่านี้ส่วนใหญ่มาจากงานวิจัยและไม่เคยถูกแปลออกมา การรู้จักหกคำเปลี่ยนแชตที่ทำตัวประหลาดอย่างลึกลับให้กลายเป็นปัญหาที่คุณระบุตำแหน่งได้
สองคำที่ควรเรียนก่อนคือหน้าต่างบริบทและความทรงจำถาวร เพราะแทบทุกคำบ่นที่เริ่มด้วยตัวละครลืม ล้วนมาจากการสับสนระหว่างสองคำนี้
ตัวละครเอง
บุคลิก (persona) — ชั้นตัวตนของตัวละคร ทั้งชื่อ น้ำเสียง ท่าที ประวัติ และกิริยาเฉพาะตัว นี่คือสิ่งที่โมเดลถูกขอให้สวมในทุก ๆ คำตอบ
System prompt — บล็อกคำสั่งที่ซ่อนอยู่ซึ่งโมเดลได้รับก่อนจะสร้างอะไรก็ตาม ที่นี่มันบรรจุบุคลิก กติกาของฉากที่ใช้อยู่ และเศษความทรงจำสำหรับผู้อ่านคนนี้โดยเฉพาะ
การ์ดตัวละคร (character card) — กล่องพกพาที่รวมบุคลิก ข้อความเปิดฉาก โมเดลเริ่มต้น และพารามิเตอร์การสุ่ม รูปแบบมาตรฐานของชุมชนมีอยู่หลายแบบ และเป็นวิธีที่ตัวละครย้ายข้ามแพลตฟอร์ม
ความทรงจำ กับสิ่งที่คนเข้าใจผิดว่าเป็นความทรงจำ
หน้าต่างบริบท (context window) — ปริมาณข้อความสูงสุดที่โมเดลถือไว้ในใจได้สำหรับคำตอบหนึ่งครั้ง หน้าต่างที่ใหญ่กว่าอ้างอิงบทสนทนาล่าสุดได้มากกว่าและมีต้นทุนต่อการเรียกสูงกว่า มันคือขีดจำกัด ไม่ใช่คลังเก็บ เมื่อบทสนทนายาวเกินไป ส่วนที่เก่าที่สุดก็หลุดออกไปเฉย ๆ
ความทรงจำถาวร (persistent memory) — ข้อเท็จจริงที่ตัวละครเก็บไว้เกี่ยวกับคุณข้ามเซสชัน นี่คือกลไกคนละอย่างโดยสิ้นเชิง คือถูกคัดสรร แก้ไขได้ และถูกฉีดเข้าไปในบริบททุกคำตอบ ที่นี่มันแยกตามตัวละคร ตามหัวข้อ ตามผู้อ่าน และคุณมองเห็นได้ทั้งหมด
นี่คือความแตกต่างที่คลี่คลายคำบ่นได้เกือบทั้งหมด ตัวละครลืมสิ่งที่เกิดขึ้นเมื่อชั่วโมงก่อนคือผลของหน้าต่างบริบท ส่วนตัวละครลืมชื่อพี่สาวคุณคือปัญหาของบันทึกความทรงจำ — และถ้าข้อเท็จจริงนั้นไม่เคยถูกจดไว้ ไม่มีโมเดลไหนนึกออกได้ถูกต้อง
โทเคน (token) — หน่วยย่อยที่สุดที่โมเดลอ่านและเขียน ราวสี่ตัวอักษรของภาษาอังกฤษ หน้าต่างบริบทวัดเป็นโทเคน ซึ่งเป็นเหตุผลที่ขีดจำกัดที่ฟังดูมหาศาลกลับเต็มเร็วกว่าที่คาด
การกำกับบทสนทนา
แตกกิ่ง หรือ fork — จุดแยกทาง การแตกกิ่งจากคำตอบหนึ่งสร้างเธรดทางเลือกที่โตขึ้นเคียงข้างต้นฉบับ และเก็บไว้ทั้งคู่ นี่คือสิ่งที่ทำให้การลองทิศทางอื่นเป็นเรื่องฟรี ไม่ใช่การทำลาย
สร้างใหม่ (regenerate) — ขอคำตอบล่าสุดอีกเวอร์ชันโดยไม่ไปรบกวนอย่างอื่น บริบทเดิม คำตอบใหม่
ปุ่มปรับ
Temperature — คำตอบคาดเดาได้แค่ไหน ต่ำกว่าคือนิ่งกว่า สูงกว่าคือเซอร์ไพรส์กว่า ตัวละครที่รู้สึกจืดมักเป็นปัญหา temperature มากกว่าปัญหาโมเดล
top_p, top_k, min_p — ข้อจำกัดว่าโมเดลจะพิจารณาคำถัดไปผู้สมัครชุดไหนบ้างตั้งแต่ต้น มีประโยชน์ในการปรับโทน ทั้งระมัดระวัง สื่ออารมณ์ กระชับ หรือพรรณนา
Repetition penalty — ลดแรงจูงใจในการใช้วลีซ้ำ นี่คือทางแก้ของตัวละครที่พูดประโยคโปรดทุกคำตอบที่สี่
ระบบท่อ
ตัวจัดเส้นทางโมเดล (model router) — โครงสร้างพื้นฐานที่เลือกโมเดลให้ฉากหนึ่งจากกลุ่มที่มี และสลับไปตัวอื่นอย่างเงียบ ๆ เมื่อตัวหนึ่งคุณภาพตก
Failover และ circuit breaker — การที่ตัวจัดเส้นทางตัดผู้ให้บริการที่กำลังแย่ลงออก ก่อนที่มันจะวางยาบทสนทนาด้วยการหมดเวลาหรือการปฏิเสธ แล้วส่งทราฟฟิกไปยังตัวที่ยังดีอยู่แทน เมื่อสิ่งนี้ทำงาน คุณจะไม่มีวันสังเกตเห็น ซึ่งนั่นแหละคือจุดประสงค์
รอบ ๆ ขอบ
Telegram Stars — หน่วยชำระเงินย่อยในตัวของ Telegram ซื้อภายใน Telegram และใช้จ่ายกับการอัปเกรด ตัวการเติมเองไม่ต้องใช้บัตร
ลิงก์แบ่งปัน (share link) — URL ที่ติดตามที่มาได้ ซึ่งเปิดแชตกับตัวละครของผู้สร้าง Stars ที่ถูกใช้จ่ายโดยคนที่เข้ามาผ่านลิงก์นั้นทำให้ผู้สร้างได้ส่วนแบ่ง
หัวข้อ (topic) — เธรดฟอรัมเฉพาะใน Telegram ใช้ให้ตัวละครแต่ละตัวมีห้องของตัวเอง พร้อมประวัติและแถบปักหมุดของตัวเอง
การยืนยันอายุ (age gate) — ขั้นตอนยืนยันภายในบอทก่อนจะเปิดโรลเพลย์สำหรับผู้ใหญ่ได้ เว็บไซต์สาธารณะเป็นเนื้อหาปลอดภัย โหมดผู้ใหญ่เปิดใช้เองหลังผ่านการยืนยัน และขีดจำกัดเด็ดขาดยังคงอยู่ไม่ว่าอย่างไร
RTL — การเขียนจากขวาไปซ้าย ใช้กับภาษาอาหรับ ฮีบรู และเปอร์เซีย องค์ประกอบของอินเทอร์เฟซกลับด้าน ไม่ใช่แค่ข้อความชิดซ้ายในภาษาที่ชิดขวา