이 말들 대부분은 논문에서 그대로 넘어와 옮겨지지 않은 채 남았어요. 여섯 개만 알아도, 이유 모르게 이상해지는 채팅이 위치를 짚을 수 있는 문제로 바뀌어요.
먼저 익힐 값어치가 있는 건 컨텍스트 창과 지속 기억, 이 둘이에요. 캐릭터가 잊어버렸다로 시작하는 불만은 거의 다 이 둘을 헷갈린 데서 나오거든요.
캐릭터 자체
페르소나 — 캐릭터의 정체성 층이에요. 이름, 말투, 태도, 내력, 버릇. 모델이 매 답장마다 연기하도록 요청받는 게 이거예요.
시스템 프롬프트 — 모델이 뭔가를 쓰기 전에 받는, 겉으로 보이지 않는 지시 덩어리예요. 여기에 페르소나와, 지금 적용되는 장면 규칙과, 이 독자 한 사람 몫의 기억 조각이 들어가요.
캐릭터 카드 — 페르소나, 첫 메시지, 기본 모델, 샘플링 값을 한데 묶은 이동용 꾸러미예요. 커뮤니티 표준 형식이 몇 가지 있고, 캐릭터는 이걸로 플랫폼 사이를 옮겨 다녀요.
기억, 그리고 사람들이 그것과 헷갈리는 것
컨텍스트 창 — 모델이 답장 한 번을 쓰는 동안 머리에 담아 둘 수 있는 글의 최대량이에요. 창이 클수록 최근 대화를 더 많이 참조하고, 한 번 부를 때 비용도 더 들어요. 저장고가 아니라 한계라서, 대화가 창을 넘으면 오래된 쪽부터 그냥 밖으로 떨어져요.
지속 기억 — 캐릭터가 나에 대해 대화를 넘겨서 계속 갖고 있는 사실이에요. 완전히 다른 구조로, 골라서 남기고, 고칠 수 있고, 매 답장마다 문맥에 끼워 넣어요. 여기서는 캐릭터별, 토픽별, 사람별이고 전부 내가 볼 수 있어요.
불만의 대부분은 이 구분으로 풀려요. 한 시간 전 일을 잊는 건 컨텍스트 창의 효과예요. 내 동생 이름을 잊는 건 기억 기록의 문제고, 애초에 적히지 않은 사실은 어떤 모델도 제대로 떠올리지 못해요.
토큰 — 모델이 읽고 쓰는 가장 작은 단위로, 영어로 대략 네 글자쯤이에요. 컨텍스트 창은 토큰으로 재요. 숫자로는 어마어마해 보이는 한계가 생각보다 빨리 차는 이유예요.
대화를 끌고 가기
분기, 또는 포크 — 갈라지는 지점이에요. 어떤 답장에서 갈라 두면 원래 줄기와 나란히 자라는 다른 줄기가 생기고, 둘 다 남아요. 다른 방향을 시도하는 게 파괴가 아니라 공짜가 되는 이유예요.
재생성 — 마지막 답장의 다른 판을, 다른 건 아무것도 건드리지 않고 다시 받는 거예요. 문맥은 그대로, 답만 새로 나와요.
손잡이들
temperature — 답장이 얼마나 예측 가능한지예요. 낮으면 차분하고, 높으면 더 뜻밖이에요. 밋밋하게 느껴지는 캐릭터는 모델 문제가 아니라 temperature 문제인 경우가 많아요.
top_p, top_k, min_p — 모델이 다음 낱말 후보로 애초에 무엇을 볼지 좁히는 제약이에요. 결을 맞출 때 쓸모 있어요. 조심스럽게, 표현을 살려, 짧게, 길게 다 됩니다.
반복 페널티 — 같은 표현을 다시 쓰는 걸 눌러 줘요. 네 번에 한 번씩 좋아하는 대사를 꺼내는 캐릭터의 해결책이 이거예요.
뒤쪽 배관
모델 라우터 — 장면에 쓸 모델을 후보 중에서 고르고, 하나가 나빠지면 조용히 다른 쪽으로 넘기는 기반 장치예요.
페일오버와 서킷 브레이커 — 상태가 나빠지는 제공처를, 타임아웃이나 거부가 대화에 닿기 전에 끊어 내고 멀쩡한 쪽으로 보내는 일이에요. 잘 돌아갈 때는 전혀 눈치채지 못하는데, 그게 목적이에요.
가장자리의 말들
Telegram Stars — Telegram에 내장된 소액 결제 단위예요. Telegram 안에서 사고, 업그레이드에 써요. 채우는 것 자체에는 카드가 필요 없어요.
공유 링크 — 창작자의 캐릭터와의 대화를 여는, 유입이 기록되는 주소예요. 그 링크로 들어온 사람이 쓴 Stars의 일부가 창작자에게 돌아가요.
토픽 — Telegram의 포럼 스레드예요. 캐릭터마다 각자의 기록과 고정 줄을 갖춘 자기 방을 주는 데 써요.
연령 확인 — 성인 롤플레이를 켜기 전에 거치는 봇 안의 확인 절차예요. 공개 사이트는 전 연령용이고, 성인 모드는 확인 뒤에 본인이 켜는 방식이며, 풀리지 않는 선은 그대로 남아요.
RTL — 오른쪽에서 왼쪽으로 쓰는 방식으로, 아랍어, 히브리어, 페르시아어에 써요. 화면 요소는 오른쪽 정렬 언어에 왼쪽 정렬 글로 남지 않고 좌우가 뒤집혀요.