Бул сөздөрдүн көбү илимий макалалардан келип, кадимки тилге которулбай калган. Алардын алтоосун билүү түшүнүксүз себептен бузулуп жаткандай көрүнгөн чатты дал ошол жерин таба ала турган көйгөйгө айлантат.
Биринчи үйрөнүүгө татыгандары — контекст терезеси жана туруктуу эстутум, анткени «каарман унутуп калды» деп башталган нааразычылыктын дээрлик баары ушул экөөнү чаташтыруудан чыгат.
Каармандын өзү
Персона (persona) — каармандын ким экендигинин катмары: аты, үнү, кармаган позициясы, тарыхы, адаттары. Ар бир жоопто моделден дал ушуну жашоо талап кылынат.
Системалык сурам (system prompt) — модель бир нерсе жаза электе ала турган жашыруун көрсөтмө блогу. Бул жерде ал персонаны, учурдагы сахнанын эрежелерин жана дал ушул окурман үчүн даярдалган эстутум үзүндүсүн камтыйт.
Каарман карточкасы (character card) — персонаны, биринчи билдирүүнү, демейки моделди жана тандалма жөндөөлөрдү камтыган көчмө топтом. Коомчулуктун бир нече стандарттуу форматы бар, каармандар платформадан платформага ошолор аркылуу көчөт.
Эстутум жана аны менен чаташтырылган нерсе
Контекст терезеси (context window) — моделдин бир жооп үчүн эсинде кармай ала турган текстинин эң чоң көлөмү. Кенен терезе жакынкы сүйлөшүүнүн көбүрөөк бөлүгүн көрөт жана ар бир чакырууга кымбатыраак турат. Бул сактагыч эмес, чек: сүйлөшүү андан ашканда эң эски бөлүгү жөн гана түшүп калат.
Туруктуу эстутум (persistent memory) — каармандын сиз жөнүндө сеанстан сеанска сактап калган фактылары. Бул таптакыр башка механизм: тандалып жазылат, оңдолот жана ар бир жоопто контекстке кошулат. Бул жерде ал ар бир каарман, ар бир тема, ар бир окурман боюнча өзүнчө сакталат жана сизге толугу менен көрүнөт.
Нааразычылыктын көбүн ушул айырма чечет. Каармандын бир саат мурункуну унутушу — контекст терезесинин таасири. Ал эми эжеңиздин атын унутушу — эстутум жазуусунун көйгөйү, ал эми факт таптакыр жазылбаган болсо, аны эч бир модель туура эстеп бере албайт.
Токен (token) — моделдин окуй турган жана жаза турган эң кичине бирдиги, англис тилинде болжол менен төрт белги. Контекст терезелери токен менен ченелет, ошондуктан аябай чоң угулган чек күтүлгөндөн тезирээк толот.
Сүйлөшүүнү багыттоо
Бутак (branch / fork) — ажыроо чекити. Жооптон бутактоо түпнускасы менен катар өсө турган альтернативдүү жипти түзөт, экөө тең сакталат. Башка багытты сынап көрүү бузуучу эмес, акысыз болуп калганынын себеби ушул.
Кайра түзүү (regenerate) — калганына тийбестен акыркы жооптун башка вариантын суроо. Ошол эле контекст, жаңы жооп.
Жөндөгүчтөр
Temperature — жооптордун канчалык болжолдуу экени. Төмөнү туруктуураак, жогорусу күтүлбөгөндөй. Жансыз сезилген каарман көбүнчө моделдин эмес, temperature көйгөйү.
top_p, top_k, min_p — моделдин кийинки сөз катары караган талапкерлерин чектеген жөндөөлөр. Обонду тууралоого пайдалуу: этияттуу, ачык, кыска, кенен.
Кайталоо айыбы (repetition penalty) — сөз айкаштарын кайра колдонууну азайтат. Ар төртүнчү жоопто сүйүктүү сабын кайталаган каармандын дабасы ушул.
Ички курулуш
Модель багыттоочу (model router) — сахнага моделди топтомдон тандап берген жана бирөө начарлаганда үнсүз башкасына которгон инфраструктура.
Которулуу жана ажыраткыч (failover / circuit breaker) — багыттоочунун начарлаган булакты сүйлөшүүнү кечигүү менен же баш тартуу менен уулантаардан мурун үзүп, трафикти дени сак моделге жиберүүсү. Бул иштеп турганда сиз аны эч качан байкабайсыз, максаты да ошол.
Четиндеги сөздөр
Telegram Stars — Telegramдын өз ичине курулган майда төлөм бирдиги; Telegramдын ичинде алынат жана жакшыртууларга сарпталат. Толуктоонун өзү үчүн карта керек эмес.
Бөлүшүү шилтемеси (share link) — жаратуучунун каарманы менен чатты ачкан жана ким алып келгенин эсептеген дарек. Ал аркылуу келгендердин сарптаган Stars суммасынан жаратуучуга бир бөлүгү тиет.
Тема (topic) — Telegramдагы өзүнчө форум жиби; ар бир каарманга өз тарыхы жана өз кадалган тилкеси бар бөлмө берүү үчүн колдонулат.
Жаш текшерүү (age gate) — чоңдорго арналган ролдук оюн күйгүзүлөөрдөн мурун боттун ичинде өтүлүүчү ырастоо кадамы. Ачык сайт SFW бойдон калат, чоңдор режими текшерүүдөн кийин каалоо боюнча ачылат, ал эми катуу чектер бардык учурда сакталат.
RTL — оңдон солго жазуу; араб, иврит жана фарсы тилдери үчүн. Мындай тилдерде интерфейс элементтеринин өзү күзгүдөй оодарылат, тексттин оңго түртүлүшү менен эле чектелбейт.