بیشتر این کلمهها از مقالههای پژوهشی آمدهاند و هرگز ترجمه نشدهاند. دانستن شش تای آنها یک چت را که بهطور مرموزی بد رفتار میکند به مسئلهای تبدیل میکند که میتوانید جایش را پیدا کنید.
دو تایی که ارزش دارد اول یاد بگیرید پنجره بافتار و حافظه دائمیاند، چون تقریباً هر شکایتی که با شخصیت فراموش کرد شروع میشود از قاطی شدن همین دو میآید.
خود شخصیت
پرسونا — لایه هویت شخصیت: نام، لحن، نگرش، گذشته، عادتهای کوچک. این همان چیزی است که از مدل خواسته میشود در تکتک پاسخها در پوستش برود.
پرامپت سیستمی — بلوک دستورهای پنهانی که مدل پیش از ساختن هر چیزی دریافت میکند. اینجا پرسونا، قاعدههای صحنه فعال و تکه حافظه مربوط به همین خواننده را در خود دارد.
کارت شخصیت — بستهای قابل حمل از پرسونا، پیام آغازین، مدل پیشفرض و پارامترهای نمونهبرداری. چند قالب رایج در جامعه کاربران وجود دارد و شخصیتها با همینها میان پلتفرمها جابهجا میشوند.
حافظه، و چیزی که با آن اشتباه میگیرند
پنجره بافتار — بیشترین مقدار متنی که مدل میتواند برای یک پاسخ در ذهن نگه دارد. پنجره بزرگتر بخش بیشتری از گفتوگوی اخیر را در دسترس دارد و هر فراخوانی گرانتر تمام میشود. این یک حد است نه یک انبار: وقتی گفتوگو از آن بگذرد، قدیمیترین بخش بهسادگی بیرون میافتد.
حافظه دائمی — واقعیتهایی که شخصیت از شما در طول جلسهها نگه میدارد. این سازوکاری کاملاً متفاوت است: گزیده، قابل ویرایش، و در هر پاسخ به بافتار تزریق میشود. اینجا به تفکیک هر شخصیت، هر موضوع و هر خواننده است و کاملاً برای شما پیداست.
همین تمایز بیشتر شکایتها را حل میکند. اینکه شخصیت چیزی از یک ساعت پیش را فراموش کند اثر پنجره بافتار است. اینکه نام خواهرتان را فراموش کند مشکل رکورد حافظه است، و اگر آن واقعیت هرگز نوشته نشده باشد هیچ مدلی درست به یادش نمیآورد.
توکن — واحد بنیادینی که مدل میخواند و مینویسد، تقریباً برابر چهار نویسه انگلیسی. پنجرههای بافتار با توکن اندازهگیری میشوند و برای همین حدی که عظیم به نظر میرسد زودتر از انتظار پر میشود.
هدایت گفتوگو
شاخه یا انشعاب — نقطه جدا شدن. انشعاب از یک پاسخ، مسیر جایگزینی میسازد که کنار مسیر اصلی رشد میکند و هر دو نگه داشته میشوند. همین است که امتحان کردن یک مسیر دیگر را رایگان میکند نه ویرانگر.
بازتولید — درخواست نسخه دیگری از آخرین پاسخ بدون دست زدن به چیز دیگر. همان بافتار، پاسخی تازه.
پیچها
دما — اینکه پاسخها چقدر قابل پیشبینی باشند. پایینتر باثباتتر، بالاتر غافلگیرکنندهتر. شخصیتی که بیروح به نظر میرسد اغلب مشکل دما دارد نه مشکل مدل.
top_p و top_k و min_p — محدودیتهایی روی اینکه مدل اصلاً چه کلمههای نامزدی را برای واژه بعدی در نظر بگیرد. برای تنظیم لحن مفیدند: محتاط، پرشور، کوتاه، پرگو.
جریمه تکرار — استفاده دوباره از عبارتها را کم میکند. درمان شخصیتی است که هر چهار پاسخ یکبار جمله محبوبش را میگوید.
زیرساخت
مسیریاب مدل — زیرساختی که برای هر صحنه از میان مجموعهای مدلی را انتخاب میکند و وقتی یکی افت کند بیسروصدا به دیگری میرود.
جایگزینی خودکار و قطعکننده مدار — مسیریاب پیش از آنکه یک ارائهدهنده رو به افت گفتوگو را با وقفه یا پاسخ رد آلوده کند، آن را قطع میکند و ترافیک را به یکی سالم میفرستد. وقتی این درست کار کند اصلاً متوجهش نمیشوید، و نکته هم همین است.
حاشیهها
Telegram Stars — واحد پرداخت خرد داخلی Telegram که همانجا خریده و صرف ارتقاها میشود. برای خود شارژ کارت لازم نیست.
لینک اشتراکگذاری — نشانیای با ردیابی ارجاع که چت با شخصیت یک سازنده را باز میکند. Stars ای که آمدگان از آن راه خرج میکنند برای سازنده سهم میآورد.
موضوع — یک رشته انجمن اختصاصی در Telegram که برای دادن اتاقی جدا به هر شخصیت با تاریخچه و نوار سنجاق خودش به کار میرود.
تأیید سن — گام احراز داخل بات پیش از آنکه نقشآفرینی بزرگسال فعال شود. سایت عمومی بدون محتوای جنسی است؛ حالت بزرگسال پس از این گام اختیاری است و مرزهای سخت در هر حال سر جایشان میمانند.
RTL — نوشتار راستبهچپ که برای عربی، عبری و فارسی به کار میرود. عناصر رابط آینه میشوند، نه اینکه متنی راستچین در چیدمانی چپچین باشند.