Bu kelimelerin çoğu araştırma makalelerinden geldi ve hiç çevrilmedi. Altı tanesini bilmek, esrarengiz biçimde ters giden bir sohbeti, yerini tespit edebileceğiniz bir soruna dönüştürüyor.
İlk öğrenilmeye değer iki tanesi bağlam penceresi ve kalıcı hafıza; çünkü karakter unuttu diye başlayan şikâyetlerin neredeyse hepsi bu ikisini karıştırmaktan çıkıyor.
Karakterin kendisi
Kişilik — karakterin kimlik katmanı: isim, ses, tavır, geçmiş, alışkanlıklar. Modelden her tek yanıtta bürünmesi istenen şey bu.
Sistem istemi — modelin herhangi bir şey üretmeden önce aldığı, görünmeyen talimat bloğu. Burada kişiliği, etkin sahne kurallarını ve bu okura özel hafıza parçasını taşıyor.
Karakter kartı — kişiliği, açılış mesajını, varsayılan modeli ve örnekleme parametrelerini içeren taşınabilir bir paket. Topluluk standardı birkaç biçim var ve karakterler platformlar arasında bu şekilde geziyor.
Hafıza ve onunla karıştırılan şey
Bağlam penceresi — bir modelin tek bir yanıt için akılda tutabildiği azami metin miktarı. Daha büyük pencereler yakın konuşmanın daha fazlasına bakıyor ve çağrı başına daha pahalıya geliyor. Bu bir depo değil, bir sınır: konuşma pencereyi aştığında en eski kısım basitçe dışarı düşüyor.
Kalıcı hafıza — bir karakterin oturumlar boyunca sizinle ilgili tuttuğu gerçekler. Bu tamamen farklı bir mekanizma: derlenmiş, düzenlenebilir ve her yanıtta bağlamın içine yerleştiriliyor. Burada karakter, konu ve okur bazında tutuluyor ve tümüyle size görünür.
Şikâyetlerin çoğunu çözen ayrım bu. Bir saat önceki bir şeyi unutan karakter bir bağlam penceresi etkisi. Kız kardeşinizin adını unutan karakter bir hafıza kaydı sorunu — ve gerçek hiç yazılmadıysa, hiçbir model onu doğru hatırlamaz.
Token — modelin okuyup yazdığı en küçük birim; İngilizcede kabaca dört karakter. Bağlam pencereleri token olarak ölçülüyor; devasa görünen bir sınırın beklenenden hızlı dolmasının sebebi bu.
Bir sohbeti yönlendirmek
Dal ya da çatal — bir ayrılma noktası. Bir yanıttan çatallamak, orijinalin yanında büyüyen alternatif bir kol açıyor ve ikisi de saklanıyor. Farklı bir yönü denemeyi yıkıcı değil, bedava kılan şey bu.
Yeniden üretme — son yanıtın başka bir versiyonunu, başka hiçbir şeye dokunmadan istemek. Aynı bağlam, yeni cevap.
Ayar düğmeleri
Sıcaklık — yanıtların ne kadar öngörülebilir olduğu. Düşük daha istikrarlı, yüksek daha şaşırtıcı. Yavan gelen bir karakter çoğu zaman model sorunu değil, sıcaklık sorunu.
top_p, top_k, min_p — modelin bir sonraki kelime için hangi adayları hiç dikkate alacağına dair kısıtlar. Kaydı ayarlamak için kullanışlı: temkinli, coşkulu, kısa, uzun.
Tekrar cezası — aynı ifadeleri yeniden kullanmayı caydırıyor. Her dört yanıtta bir en sevdiği repliği söyleyen bir karakterin çözümü bu.
Arka taraftaki tesisat
Model yönlendirici — bir sahne için havuzdan model seçen ve biri bozulduğunda sessizce başkasına geçen altyapı.
Devreye alma ve devre kesici — yönlendiricinin, bozulmakta olan bir sağlayıcıyı zaman aşımları ya da retlerle sohbeti zehirlemeden önce kesmesi ve trafiği sağlıklı olana göndermesi. Bu çalıştığında hiç fark etmezsiniz; zaten amaç da o.
Kenarlardaki terimler
Telegram Stars — Telegram'ın yerleşik mikroödeme birimi; Telegram içinde alınıyor ve yükseltmelere harcanıyor. Yüklemenin kendisi için karta gerek yok.
Paylaşım bağlantısı — bir üreticinin karakteriyle sohbeti açan, atfı takip edilen bir adres. Oradan gelenlerin harcadığı Stars'tan üreticiye pay düşüyor.
Konu — Telegram'da ayrı bir forum başlığı; her karaktere kendi geçmişi ve sabitlenmiş şeridiyle kendi odasını vermek için kullanılıyor.
Yaş doğrulaması — yetişkin rol yapma açılmadan önceki bot içi doğrulama adımı. Herkese açık site SFW; yetişkin modu doğrulamadan sonra isteğe bağlı ve sert sınırlar her hâlükârda yerinde kalıyor.
RTL — sağdan sola yazı; Arapça, İbranice ve Farsça için. Arayüz öğeleri, sağa yaslanmış bir dilde sola yaslı metin olarak kalmak yerine aynalanıyor.