बहुतेक लोक «कोणते मॉडेल सर्वोत्तम» असे विचारतात आणि उत्तरादाखल एक नाव अपेक्षित असते. प्रामाणिक उत्तर असे की प्रश्नातच एक शब्द गळाला आहे: कशात सर्वोत्तम. सुंदर, संथ फुलणारी भाषा लिहिणारे मॉडेल चाळिसाव्या उत्तरापर्यंत कथेचा धागा सोडून देईल, आणि धागा घट्ट धरणारे मॉडेल कार्यक्षम अहवालासारखे लिहील.
एकदाच ठरवायची गरज नाही. पात्र, त्याचा स्वभाव आणि त्याला आठवणारे सगळे — हे शब्द तयार करणाऱ्या मॉडेलपासून वेगळे असते, म्हणून मॉडेल बदलणे ही बांधिलकी नसून प्रत्येक प्रसंगातली निवड आहे.
कोणता प्रकार कशात चांगला
पाच उपलब्ध आहेत, आणि ती एकाच गोष्टीची पाच मापे नसून खरोखर वेगवेगळी वाद्ये आहेत.
- Standard — प्रत्येक नवे पात्र यावरच चालते. वेगवान, स्थिर आणि बहुतेक प्रसंगांसाठी पुरेसे. ते निवडावेच लागत नाही; ते आधीच तिथे आहे.
- GLM — प्रसंग गुंतागुंतीचा झाला की एक पायरी वर. तर्क अधिक घट्ट, आणि लांब देवाणघेवाणीतही ते योजना धरून ठेवते.
- Claude Opus — सर्वात समृद्ध भाषा आणि सूचकता. संथ फुलणारे प्रसंग, तीक्ष्ण संयम, बोलण्यापेक्षा जास्त सुचवणारी पात्रे.
- Google Gemma — वेगवान, उबदार आणि खेळकर. हलक्याफुलक्या गप्पांसाठी आणि सहज देवाणघेवाणीसाठी चांगले.
- DeepSeek — लांब, वळणावळणाच्या गोष्टी धागा न सोडता एकत्र बांधून ठेवते.
आपण चुकीच्या मॉडेलवर आहोत हे कसे ओळखायचे
लक्षणे नेमकी आहेत, आणि ती एकदा कळली की अंदाज बांधणे थांबते.
उत्तरे सुंदर आहेत पण कथा गुपचूप थांबली आहे. तीन प्रसंगांपूर्वी कोणीतरी काहीतरी कबूल केले होते आणि तेव्हापासून त्याचा उल्लेखही नाही. ही तर्काची अडचण आहे — GLM किंवा DeepSeek कडे सरका.
सगळे सुसंगत आहे आणि काहीच भिडत नाही. पात्र जे म्हणायचे तेच, क्रमाने, कोणतीही सूचकता न ठेवता बोलते. ही भाषेची अडचण आहे, आणि तिच्यासाठीच Claude Opus आहे.
प्रसंग हलका असायला हवा तिथे तो ताठर आणि औपचारिक झाला आहे. इथे अधिक सक्षम मॉडेलपेक्षा उबदार आणि वेगवान मॉडेल जास्त बसते; हीच Gemma ची जागा.
पात्र खूप आधी ठरलेल्या गोष्टीच्या उलट बोलते. मॉडेलला दोष देण्याआधी स्मृती तपासा — ते तथ्य लिहूनच ठेवले नसेल, तर कोणतेही मॉडेल ते बरोबर शोधून काढणार नाही.
मॉडेल बदलल्याने काहीही पुसले जात नाही
मॉडेल हा पात्राचा भाग नाही. स्वभाव, स्मृती, प्रसंग आणि इतिहास जिथल्या तिथेच राहतात; फक्त पुढचे उत्तर तयार करणारी गोष्ट बदलते.
म्हणूनच मॉडेल बदलणे हा निर्णय न राहता एक साधन बनते. नेहमीचा साचा असा: प्रसंगाच्या इकडून-तिकडून बोलण्यासाठी वेगवान मॉडेल, आणि महत्त्वाच्या क्षणासाठी — कबुली, भांडण, शेवट — अधिक समृद्ध मॉडेलकडे उडी.
एक गोष्ट अपेक्षित ठेवा: आवाजाचा सूर किंचित बदलेल. एकच स्वभाव दिलेली दोन मॉडेल हुबेहूब सारखी वाटणार नाहीत, आणि परिच्छेदाच्या मध्येच सांधा दिसू शकतो. प्रसंगाच्या आत नव्हे, तर दोन प्रसंगांच्या मध्ये बदल केल्यास तो जवळपास पूर्ण लपतो.
सॅम्पलिंगचे महत्त्व लोकांना वाटते त्याहून जास्त
मॉडेलची निवड कमाल मर्यादा ठरवते; सॅम्पलिंगचे मापदंड त्या टप्प्यात तुम्ही नेमके कुठे उतरता ते ठरवतात. Temperature उत्तर किती अपेक्षित असेल ते ठरवते — कमी म्हणजे स्थिर, जास्त म्हणजे अनपेक्षित. बाकीचे (top_p, top_k, min_p, पुनरावृत्ती-दंड) मॉडेल कोणते शब्द विचारातही घेईल यावर बंधन घालतात.
सपक वाटणारे मॉडेल ही बहुधा मॉडेलची नव्हे तर temperature ची अडचण असते. दर चौथ्या उत्तराला आपले आवडते वाक्य पुन्हा म्हणणारे पात्र ही पुनरावृत्ती-दंडाची अडचण असते.
हे मापदंड प्रत्येक पात्रासाठी आणि प्रत्येक पॅकेजसाठी उघड असतात, आणि ते JSON मध्ये आयात-निर्यात होतात, म्हणून चालणारा संच प्रत्येक वेळी आठवणीतून उभा करण्याऐवजी साठवून हलवता येतो.
यादीत काय आहे, आणि काय नाही
पाच मॉडेल, आणि ती आकडा मोठा दिसावा म्हणून नव्हे तर खरोखर वेगळी जमीन व्यापतात म्हणून निवडली आहेत. चांगली मॉडेल येतील तशी यादी बदलत जाते — तो राउटिंगचा निर्णय आहे, विशिष्ट नावांबद्दलचे वचन नाही.
इथे क्रमवारी नाही, कारण क्रमवारी पूर्णपणे तुमच्यासमोरच्या प्रसंगावर अवलंबून असते. रोलप्लेसाठी अमुक एकच मॉडेल सर्वोत्तम आहे असे सांगणाऱ्या पानाने वेगळे मॉडेल मागणारा प्रसंग अजून खेळून पाहिलेला नाही.