Бұл сөздердің көбі ғылыми мақалалардан келді де, адам тіліне ешқашан аударылмады. Солардың алтауын білу түсініксіз бұзылып тұрған чатты орнын анықтай алатын мәселеге айналдырады.
Ең әуелі үйренуге тұратын екеуі — контекст терезесі мен тұрақты жады, себебі «кейіпкер ұмытып қалды» деп басталатын шағымның бәрі дерлік осы екеуін шатастырудан шығады.
Кейіпкердің өзі
Persona — кейіпкердің тұлға қабаты: аты, үні, мінезі, өткені, әдеттері. Модельден әрбір жауап сайын дәл осыны сомдау сұралады.
Жүйелік промпт — модель бірдеңе жазбас бұрын алатын жасырын нұсқаулық блогы. Мұнда ол persona-ны, ағымдағы көріністің ережелерін және дәл осы оқырманға арналған жады үзіндісін сақтайды.
Кейіпкер картасы — persona, алғашқы хабарлама, әдепкі модель және сэмплинг параметрлерінен тұратын тасымалды жинақ. Қауымдастықта тараған бірнеше пішім бар, кейіпкерлер платформалар арасында солар арқылы жүреді.
Жады және оны шатастыратын нәрсе
Контекст терезесі — модельдің бір жауап үшін есінде ұстай алатын мәтінінің ең үлкен көлемі. Терезе үлкен болса, соңғы әңгіменің көбірек бөлігін көреді және әр сұрау қымбаттайды. Бұл — қойма емес, шек: әңгіме одан асып кеткенде ең ескі бөлігі жай ғана түсіп қалады.
Тұрақты жады — кейіпкердің сеанстар бойы сіз туралы сақтап отыратын деректері. Бұл мүлде басқа тетік: іріктелген, өңделетін және әр жауапта контекстке қосылатын. Мұнда ол әр кейіпкер, әр тақырып, әр оқырман бойынша жеке және сізге толық көрінеді.
Шағымдардың көбін шешетін айырмашылық осы. Кейіпкердің бір сағат бұрынғыны ұмытуы — контекст терезесінің әсері. Кейіпкердің әпкеңіздің атын ұмытуы — жады жазбасының мәселесі, ал ол дерек ешқашан жазылмаған болса, оны ешбір модель дұрыс еске түсірмейді.
Токен — модель оқитын және жазатын ең кіші бірлік, шамамен ағылшын мәтінінің төрт таңбасы. Контекст терезесі токенмен өлшенеді, сондықтан құлаққа орасан естілетін шек күткеннен тез толады.
Әңгімені бағыттау
Тармақ немесе fork — жол айырылатын нүкте. Жауаптан fork жасау түпнұсқамен қатар өсетін балама желі жасайды, әрі екеуі де сақталады. Басқа бағытты сынап көру бұзып алу емес, тегін болатыны сондықтан.
Regenerate — қалғанына тимей, соңғы жауаптың басқа нұсқасын сұрау. Сол контекст, жаңа жауап.
Тұтқалар
Температура — жауаптардың қаншалықты болжамды болатыны. Төмені тұрақтырақ, жоғарысы күтпегенірек. Жалықтырады деп ойлаған кейіпкер көбіне модельдің емес, температураның мәселесі.
top_p, top_k, min_p — модельдің келесі сөз ретінде қандай нұсқаларды қарастыратынына қойылатын шектеулер. Үнді баптауға ыңғайлы: сақ, әсерлі, ықшам, көпсөзді.
Repetition penalty — тіркестерді қайталауды тежейді. Әр төртінші жауапта сүйікті сөзін айтатын кейіпкердің емі осы.
Ішкі құбыр
Модель роутері — көрініске арналған модельді жалпы қордан таңдайтын және біреуі әлсіреген кезде үнсіз екіншісіне ауысатын инфрақұрылым.
Failover және сақтандырғыш — роутер әлсіреп бара жатқан провайдерді ол әңгімені кідірістермен немесе бас тартулармен уландырмай тұрып ажыратады да, трафикті сау провайдерге жібереді. Бұл дұрыс істегенде сіз оны байқамайсыз, мәні де сол.
Шеткі ұғымдар
Telegram Stars — Telegram-ның кірістірілген шағын төлем бірлігі, Telegram ішінде сатып алынады және жақсартуларға жұмсалады. Толтырудың өзіне карта керек емес.
Бөлісу сілтемесі — креатордың кейіпкерімен чатты ашатын, еңбекті есептейтін URL. Сол арқылы келгендер жұмсаған Stars-тың бір бөлігі креаторға тиеді.
Topic — Telegram-дағы бөлек форум тармағы, әр кейіпкерге өз тарихы мен өз бекітілген жолағы бар бөлме беру үшін қолданылады.
Жас тексеруі — ересектерге арналған рөлдік ойынды қосу алдындағы бот ішіндегі растау қадамы. Ашық сайт SFW; ересектер режимі тексеруден кейін өз еркімен қосылады, ал қатаң шектеулер қалай болғанда да сақталады.
RTL — оңнан солға жазу, араб, иврит және парсы тілдерінде қолданылады. Интерфейс элементтері оңға тураланған тілдегі солға тураланған мәтін болып қалмай, айнадағыдай аударылады.