यांतले बहुतेक शब्द संशोधन-निबंधांतून आले आणि त्यांचे भाषांतर कधी झालेच नाही. यांतले सहा कळले, की गूढपणे बिघडणारा चॅट बोट ठेवून दाखवता येणारी अडचण बनतो.
आधी शिकण्यासारखे दोन म्हणजे संदर्भ-खिडकी आणि टिकाऊ स्मृती — कारण «पात्र विसरले» अशी सुरू होणारी जवळपास प्रत्येक तक्रार या दोहोंच्या गोंधळातून येते.
पात्र स्वतः
पर्सोना (स्वभाव) — पात्राच्या ओळखीचा थर: नाव, आवाज, वृत्ती, इतिहास, लकबी. प्रत्येक एका उत्तराला मॉडेलला हेच अंगात घ्यायला सांगितले जाते.
सिस्टम प्रॉम्प्ट — काहीही तयार करण्याआधी मॉडेलला मिळणारा लपलेला सूचना-गठ्ठा. इथे त्यात स्वभाव, चालू प्रसंगाचे नियम आणि नेमक्या याच वाचकासाठीचा स्मृतीचा तुकडा असतो.
पात्र-कार्ड — स्वभाव, पहिला संदेश, डीफॉल्ट मॉडेल आणि सॅम्पलिंगचे मापदंड यांचे वाहून नेता येणारे गाठोडे. समुदायात प्रमाण मानली जाणारी अनेक स्वरूपे आहेत, आणि पात्रे एका मंचावरून दुसऱ्यावर याच मार्गाने जातात.
स्मृती, आणि तिच्याशी गोंधळ होणारी गोष्ट
संदर्भ-खिडकी — एका उत्तरासाठी मॉडेल जास्तीत जास्त किती मजकूर मनात धरू शकते. मोठ्या खिडक्या अलीकडच्या संभाषणाचा जास्त भाग वापरतात आणि प्रत्येक विनंतीला जास्त खर्च करतात. ती साठवण नाही, मर्यादा आहे: संभाषण तिच्यापुढे गेले की सर्वात जुना भाग गळून पडतो.
टिकाऊ स्मृती — सत्रांच्या पलीकडेही पात्राने तुमच्याबद्दल जपलेली तथ्ये. ही पूर्णपणे वेगळी यंत्रणा आहे: निवडक, बदलता येणारी, आणि प्रत्येक उत्तराच्या वेळी संदर्भात मिसळली जाणारी. इथे ती प्रत्येक पात्रासाठी, प्रत्येक विषयासाठी, प्रत्येक वाचकासाठी वेगळी असते आणि तुम्हाला पूर्ण दिसते.
याच फरकाने बहुतेक तक्रारींचा निकाल लागतो. तासाभरापूर्वीचे काहीतरी पात्र विसरणे हा संदर्भ-खिडकीचा परिणाम आहे. तुमच्या बहिणीचे नाव विसरणे ही स्मृती-नोंदीची अडचण आहे — आणि ते तथ्य लिहूनच ठेवले नसेल, तर कोणतेही मॉडेल ते बरोबर आठवणार नाही.
टोकन — मॉडेल जे वाचते आणि लिहिते त्याचे अणुरूप एकक; इंग्रजीत साधारण चार अक्षरे, आणि देवनागरीत त्याहून कमी मजकूर एका टोकनमध्ये बसतो. संदर्भ-खिडक्या टोकनांत मोजल्या जातात, म्हणूनच प्रचंड वाटणारी मर्यादा अपेक्षेपेक्षा लवकर भरते.
संभाषण वळवणे
शाखा किंवा फाटा — वाट वेगळी होण्याचा बिंदू. एखाद्या उत्तरापासून शाखा काढली की मूळ धाग्याशेजारी वाढणारा पर्यायी धागा तयार होतो, आणि दोन्ही टिकून राहतात. यामुळेच वेगळी दिशा आजमावणे नाशक न राहता फुकट होते.
पुन्हा तयार करणे — बाकी कशालाही धक्का न लावता शेवटच्या उत्तराची दुसरी आवृत्ती मागणे. तोच संदर्भ, नवे उत्तर.
कळा
Temperature — उत्तरे किती अपेक्षित असतील ते. कमी म्हणजे स्थिर, जास्त म्हणजे अनपेक्षित. सपक वाटणारे पात्र ही बहुधा मॉडेलची नव्हे तर temperature ची अडचण असते.
top_p, top_k, min_p — पुढचा शब्द म्हणून मॉडेल कोणते उमेदवार विचारातही घेईल यावरची बंधने. सूर ठरवायला उपयोगी: जपून, अभिव्यक्तिशील, मोजके, विस्तृत.
पुनरावृत्ती-दंड — तीच वाक्ये पुन्हा वापरण्यापासून परावृत्त करतो. दर चौथ्या उत्तराला आपले आवडते वाक्य म्हणणाऱ्या पात्रावरचा हाच उतारा.
आतली यंत्रणा
मॉडेल राउटर — प्रसंगासाठी गटातून मॉडेल निवडणारी आणि एखादे मंदावले की गुपचूप दुसऱ्याकडे वळवणारी यंत्रणा.
फेलओव्हर आणि सर्किट ब्रेकर — मंदावलेला प्रोव्हायडर वेळेच्या मर्यादा किंवा नकार पाठवून संभाषण बिघडवण्याआधी राउटरने त्याला तोडणे आणि वाहतूक निरोगीकडे वळवणे. हे नीट चालत असेल तेव्हा तुमच्या लक्षातही येत नाही — तोच त्याचा उद्देश.
कडेकडेच्या गोष्टी
Telegram Stars — Telegram मध्येच अंगभूत असलेले छोट्या रकमांचे एकक, Telegram च्या आत विकत घेतले जाते आणि सुधारणांवर खर्च होते. ते भरण्यासाठी कार्डाची गरज नाही.
शेअर लिंक — श्रेय नोंदवणारी URL, जी निर्मात्याच्या पात्रासोबतचा चॅट उघडते. तिच्यावरून आलेल्या लोकांनी खर्च केलेल्या Stars मधून निर्मात्याला वाटा मिळतो.
विषय — Telegram मधला स्वतंत्र फोरम-धागा, जो प्रत्येक पात्राला स्वतःची खोली, स्वतःचा इतिहास आणि स्वतःची पिन-पट्टी देतो.
वयतपासणी — प्रौढ रोलप्ले चालू करण्याआधीची, बॉटच्या आतली पडताळणीची पायरी. सार्वजनिक साइट SFW आहे; प्रौढ मोड पडताळणीनंतर स्वेच्छेने चालू करायचा असतो, आणि ठाम मर्यादा कोणत्याही स्थितीत कायम राहतात.
RTL — उजवीकडून डावीकडे लिहिणे, जे अरबी, हिब्रू आणि फारसीसाठी वापरले जाते. तिथे इंटरफेसचे घटक आरशासारखे उलटतात; उजवीकडे ओढलेला डावीकडून लिहिलेला मजकूर एवढेच नाही.