ఈ పదాల్లో చాలావరకు పరిశోధన పత్రాల నుంచి వచ్చినవే, ఎప్పుడూ అనువాదం కాలేదు. వీటిలో ఆరు తెలిస్తే, కారణం తెలియకుండా తప్పుగా ప్రవర్తించే ఒక చాట్, చోటు కనిపెట్టగలిగే సమస్యగా మారిపోతుంది.
ముందుగా నేర్చుకోవాల్సినవి రెండు: కాంటెక్స్ట్ విండో, నిలిచే మెమరీ. «పాత్ర మరచిపోయింది» అని మొదలయ్యే దాదాపు అన్ని ఫిర్యాదులూ ఈ రెండింటినీ కలగలిపేయడం నుంచే పుడతాయి.
పాత్ర అంటే ఏమిటి
వ్యక్తిత్వం — పాత్ర గుర్తింపు పొర: పేరు, గొంతు, ధోరణి, గతం, అలవాట్లు. ప్రతి ఒక్క జవాబులోనూ మోడల్ను ధరించమని అడిగేది ఇదే.
సిస్టమ్ ప్రాంప్ట్ — ఏదైనా సృష్టించే ముందు మోడల్కు అందే దాచిన సూచనల కట్ట. ఇక్కడ అది వ్యక్తిత్వాన్నీ, ప్రస్తుత సన్నివేశ నియమాలనూ, ఈ నిర్దిష్ట పాఠకుడికి సంబంధించిన మెమరీ ముక్కనూ మోస్తుంది.
పాత్ర కార్డ్ — వ్యక్తిత్వం, ప్రారంభ సందేశం, డిఫాల్ట్ మోడల్, శాంప్లింగ్ పారామీటర్ల మోసుకెళ్లగలిగే మూట. సముదాయంలో స్థిరపడిన ఫార్మాట్లు అనేకం ఉన్నాయి; ప్లాట్ఫారమ్ల మధ్య పాత్రలు కదిలేది ఇలాగే.
మెమరీ, దాన్ని అనుకుని జనం పొరపడేది
కాంటెక్స్ట్ విండో — ఒకే ఒక్క జవాబు కోసం మోడల్ మనసులో పట్టుకోగలిగే గరిష్ఠ పాఠ్యం. పెద్ద విండోలు ఇటీవలి సంభాషణలో ఎక్కువ భాగాన్ని చూస్తాయి, ప్రతి కాల్కూ ఎక్కువ ఖర్చవుతాయి. ఇది ఒక హద్దు, నిల్వ కాదు: సంభాషణ దాన్ని దాటి పెరిగితే పాతది కిందికి జారిపోతుంది.
నిలిచే మెమరీ — సెషన్లు దాటి కూడా ఒక పాత్ర మీ గురించి ఉంచుకునే వాస్తవాలు. ఇది పూర్తిగా వేరే యంత్రాంగం: ఏరి కూర్చినది, మార్చుకోగలిగినది, ప్రతి జవాబులోనూ కాంటెక్స్ట్లోకి చేర్చబడేది. ఇక్కడ అది ప్రతి పాత్రకూ, ప్రతి అంశానికీ, మాట్లాడే ప్రతి మనిషికీ విడిగా — మీకు పూర్తిగా కనిపిస్తుంది.
చాలా ఫిర్యాదులను తీర్చేది ఈ తేడానే. గంట క్రితం మాట మరచిపోవడం కాంటెక్స్ట్ విండో ప్రభావం. మీ చెల్లెలి పేరు మరచిపోవడం మెమరీ నమోదు సమస్య — ఆ వాస్తవం అసలు రాయబడకపోతే, ఏ మోడల్ కూడా దాన్ని సరిగ్గా గుర్తు తెచ్చుకోదు.
టోకెన్ — మోడల్ చదివే, రాసే అతి చిన్న ప్రమాణం; ఇంగ్లిష్లో సుమారు నాలుగు అక్షరాలు. కాంటెక్స్ట్ విండోలను టోకెన్లలో కొలుస్తారు — అందుకే వినడానికి భారీగా అనిపించే హద్దు ఊహించిన దానికన్నా వేగంగా నిండిపోతుంది.
సంభాషణను నడిపించడం
శాఖ — విడిపోయే బిందువు. ఒక జవాబు నుంచి శాఖ తీస్తే, మూలంతో పాటే పెరిగే ప్రత్యామ్నాయ థ్రెడ్ ఒకటి పుడుతుంది, రెండూ నిలిచే ఉంటాయి. వేరే దిశను ప్రయత్నించడం నాశనకరం కాకుండా ఉచితం అవడానికి కారణం ఇదే.
మళ్లీ సృష్టించడం — మిగతా దేన్నీ కదపకుండా చివరి జవాబుకు ఇంకో వెర్షన్ అడగడం. అదే కాంటెక్స్ట్, కొత్త జవాబు.
మీటలు
టెంపరేచర్ — జవాబులు ఎంత ఊహించదగినవో అది నిర్ణయిస్తుంది. తక్కువైతే స్థిరం, ఎక్కువైతే ఆశ్చర్యం. చప్పగా అనిపించే పాత్ర తరచుగా మోడల్ సమస్య కాదు, టెంపరేచర్ సమస్య.
top_p, top_k, min_p — తర్వాతి పదానికి ఉన్న అభ్యర్థుల్లో మోడల్ అసలు ఏవి పరిశీలిస్తుందో నియంత్రించే హద్దులు. స్వరాన్ని సరిదిద్దడానికి పనికొస్తాయి: జాగ్రత్తైన, భావపూరిత, క్లుప్తమైన, విస్తారమైన.
పునరుక్తి పెనాల్టీ — అవే పదబంధాలను మళ్లీ వాడకుండా అడ్డుకుంటుంది. నాలుగో జవాబుకొకసారి తన ఇష్టమైన వాక్యాన్ని చెప్పే పాత్రకు పరిష్కారం ఇదే.
లోపలి గొట్టాలు
మోడల్ రూటర్ — ఒక సమూహం నుంచి సన్నివేశానికి మోడల్ను ఎంచుకుని, ఒకటి క్షీణిస్తే మౌనంగా ఇంకోదానికి మారే వ్యవస్థ.
ఫెయిలోవర్, సర్క్యూట్ బ్రేకర్ — టైమ్అవుట్లతోనో తిరస్కారాలతోనో ఒక సంభాషణను విషపూరితం చేసేలోపే క్షీణిస్తున్న సరఫరాదారుని రూటర్ తెంచేసి, ఆరోగ్యంగా ఉన్నదానికి ట్రాఫిక్ పంపడం. ఇది పని చేస్తున్నప్పుడు మీకు అసలు తెలియదు — ఉద్దేశం కూడా అదే.
అంచుల చుట్టూ
Telegram Stars — Telegram లోపలే కొనుక్కుని అప్గ్రేడ్లకు ఖర్చు చేసే దాని సొంత సూక్ష్మ చెల్లింపు ప్రమాణం. నింపుకోవడానికి కార్డ్ అవసరం లేదు.
షేర్ లింక్ — ఒక సృష్టికర్త పాత్రతో చాట్ను తెరిచే, రాకను లెక్కపెట్టే చిరునామా. దాని ద్వారా వచ్చినవాళ్లు ఖర్చు చేసే Starsలో కొంత భాగం సృష్టికర్తకు చేరుతుంది.
అంశం — Telegramలో ఒక ప్రత్యేక ఫోరమ్ థ్రెడ్. ప్రతి పాత్రకూ సొంత గది, సొంత చరిత్ర, సొంత పిన్ పట్టీ ఇవ్వడానికి వాడతారు.
వయసు ధృవీకరణ — పెద్దల రోల్ప్లేను ఆన్ చేసే ముందు బాట్ లోపల జరిగే తనిఖీ దశ. పబ్లిక్ సైట్ SFW; పెద్దల మోడ్ ధృవీకరణ తర్వాత మీరే ఎంచుకునేది, గట్టి హద్దులు ఏ పరిస్థితిలోనూ మారవు.
RTL — కుడి నుంచి ఎడమకు రాసే విధానం; అరబిక్, హీబ్రూ, పర్షియన్కు వాడతారు. ఇంటర్ఫేస్ మూలకాలు అద్దంలా తిరుగుతాయి, కుడి వైపు సర్దిన చోట ఎడమకు అంటుకున్న పాఠ్యంలా కాదు.