こうした言葉の多くは研究論文から来たまま、訳されずに残りました。六つ知っておくだけで、なぜか調子の悪いチャットが、場所を特定できる問題に変わります。
先に覚える価値があるのはコンテキストウィンドウと永続記憶の二つです。キャラクターが忘れた、で始まる苦情のほとんどは、この二つの取り違えに行き着きます。
キャラクターそのもの
ペルソナ(人格)— キャラクターの身元の層です。名前、話し方、態度、来歴、癖。モデルが一回ごとの返信で演じるよう求められるのがこれです。
システムプロンプト — モデルが何かを書き出す前に受け取る、表に出ない指示のかたまりです。ここには人格と、いま有効な場面の決まりと、その読み手ひとりぶんの記憶の断片が入ります。
キャラクターカード — 人格、最初のひとこと、既定のモデル、サンプリングのパラメータをまとめた持ち運び用の束です。コミュニティで標準になっている形式がいくつかあり、キャラクターはこれでサービス間を移動します。
記憶と、それと間違えられるもの
コンテキストウィンドウ — モデルが一回の返信のあいだ頭に入れておける文章の上限です。窓が大きいほど直近の会話を多く参照でき、一回あたりの費用も上がります。これは保管庫ではなく上限で、会話が超えると古いほうから外に落ちます。
永続記憶 — キャラクターがあなたについて、会話をまたいで持ち続ける事実です。仕組みがまったく違い、選ばれて、編集でき、毎回の返信で文脈に差し込まれます。ここではキャラクター別、トピック別、読み手別で、こちらから全部見えます。
ほとんどの苦情はこの区別で片づきます。一時間前のことを忘れるのはコンテキストウィンドウの効果です。あなたの妹の名前を忘れるのは記憶の記録の問題で、そもそも書き留められていない事実は、どのモデルでも正しくは思い出せません。
トークン — モデルが読み書きする最小の単位で、英語ならおよそ四文字ぶんです。コンテキストウィンドウはトークンで測られます。数字としては巨大に聞こえる上限が思ったより早く埋まるのは、そのためです。
会話の舵を取る
分岐(フォーク)— 話が分かれる地点です。ある返信から分岐すると、元の流れと並んで育つ別の流れができ、どちらも残ります。別の方向を試すことが、壊す行為ではなくただの選択になるのはこれのおかげです。
再生成 — 直前の返信の別案を、ほかに何も触らずに求めることです。文脈は同じ、答えだけ新しくなります。
つまみ
temperature — 返信がどれだけ予想どおりかを決めます。低いほど落ち着き、高いほど意外になります。平板に感じるキャラクターは、モデルの問題ではなくtemperatureの問題であることがよくあります。
top_p、top_k、min_p — モデルが次の語としてそもそも何を候補に入れるかを絞る制約です。調子の調整に効きます。慎重にも、表情豊かにも、短くも、饒舌にもできます。
繰り返しペナルティ — 同じ言い回しの使い回しを抑えます。四回に一度お気に入りの台詞を出すキャラクターへの対処はこれです。
裏側の配管
モデルルーター — 場面に使うモデルを候補の中から選び、調子を崩したものからは黙って切り替える仕組みです。
フェイルオーバーとサーキットブレーカー — 調子を崩しつつある提供元を、タイムアウトや拒否が会話に届く前に切り離し、健全なほうへ流すことです。うまく働いているとき、こちらは何も気づきません。それが狙いです。
周辺の言葉
Telegram Stars — Telegramに組み込まれた少額決済の単位で、Telegramの中で購入し、アップグレードに使います。足すこと自体にカードは要りません。
共有リンク — 制作者のキャラクターとのチャットを開く、紹介元が記録されるURLです。そこから来た人が使ったStarsの一部が制作者に入ります。
トピック — Telegramのフォーラムのスレッドです。キャラクターごとに、履歴とピン留めの帯を備えた自分の部屋を与えるために使います。
年齢確認 — 成人向けのロールプレイを有効にする前の、ボット内の確認手順です。公開サイトは全年齢向けで、成人向けは確認のあとに自分で有効にする形、それでも動かない上限は動きません。
RTL — 右から左に書く方式で、アラビア語、ヘブライ語、ペルシア語で使われます。画面の要素は、右寄せの言語の中で左揃えの文章のままにならず、左右が反転します。