대부분은 어떤 모델이 제일 좋냐고 물으면서 이름 하나를 기대해요. 솔직한 답은, 그 질문에 단어가 하나 빠져 있다는 거예요. 무엇에 제일 좋냐는 거요. 천천히 달아오르는 아름다운 문장을 쓰는 모델은 마흔 번째 답장쯤에서 줄거리의 실을 놓치고, 줄거리를 붙잡는 모델은 잘 쓴 보고서처럼 써요.
한 번에 정할 필요는 없어요. 캐릭터와 성격, 그리고 기억하는 모든 것은 말을 만들어 내는 모델과 따로 있어서, 바꾸는 건 약속이 아니라 장면마다 하는 선택이에요.
종류별로 잘하는 일
다섯 개가 준비돼 있고, 같은 것의 다섯 단계가 아니라 정말로 다른 악기예요.
- Standard — 새 캐릭터가 처음 올라가는 모델. 빠르고 안정적이라 대부분의 장면에 충분해요. 고를 필요도 없이 이미 거기 있어요.
- GLM — 장면이 복잡해질 때 한 단계 위. 논리가 더 조이고, 긴 대화 내내 계획을 놓치지 않아요.
- Claude Opus — 문장과 속뜻이 가장 짙어요. 천천히 달아오르는 장면, 날 선 절제, 말한 것보다 더 암시하는 캐릭터에 맞아요.
- Google Gemma — 빠르고 따뜻하고 장난스러워요. 가벼운 농담과 짧은 주고받기에 좋아요.
- DeepSeek — 길고 구불구불한 이야기를 실을 놓치지 않고 붙들어요.
지금 모델이 안 맞는다는 신호
증상은 꽤 구체적이라, 알고 나면 더 이상 짐작하지 않게 돼요.
답장은 예쁜데 줄거리가 조용히 멈춰 있어요. 세 장면 전에 누가 뭘 약속했는데 그 뒤로 아무도 꺼내지 않아요. 이건 추론 문제예요. GLM이나 DeepSeek 쪽으로 옮기세요.
다 앞뒤가 맞는데 아무것도 와닿지 않아요. 캐릭터가 하고 싶은 말을 순서대로, 속뜻 없이 그대로 말해요. 이건 문장 문제고, Claude Opus가 바로 그걸 위해 있어요.
가벼워야 할 장면이 뻣뻣하고 딱딱해졌어요. 더 유능한 모델보다 더 따뜻하고 빠른 모델이 맞아요. Gemma가 제 몫을 하는 자리예요.
캐릭터가 오래전에 정해진 것과 어긋나요. 모델을 탓하기 전에 기억부터 보세요. 적어 두지 않은 사실은 어떤 모델도 제대로 지어내지 못해요.
바꿔도 초기화되는 건 없어요
모델은 캐릭터의 일부가 아니에요. 성격도 기억도 장면도 대화 기록도 그대로 있고, 바뀌는 건 다음 답장을 만들어 내는 쪽뿐이에요.
그래서 바꾸는 게 결정이 아니라 도구로 쓸 만큼 가벼워요. 흔한 방식은 장면의 주고받기는 빠른 모델로 하다가, 중요한 순간에만 짙은 모델로 옮기는 거예요. 고백, 대치, 마무리 같은 데서요.
하나는 각오해 두세요. 목소리가 살짝 달라져요. 같은 성격을 줘도 두 모델이 똑같이 울리지는 않고, 문단 한가운데서는 이음매가 보일 수 있어요. 장면 안이 아니라 장면과 장면 사이에서 바꾸면 거의 다 가려져요.
샘플링은 생각보다 많이 좌우해요
모델 선택이 천장을 정하고, 샘플링 값이 그 범위 안 어디에 떨어질지를 정해요. temperature는 답장이 얼마나 예측 가능한지를 움직여요. 낮으면 차분하고 높으면 더 뜻밖이에요. 나머지 top_p, top_k, min_p, 반복 페널티는 모델이 애초에 어떤 후보 단어를 볼지를 좁혀요.
밋밋하게 느껴지는 모델은 모델 문제가 아니라 temperature 문제인 경우가 많아요. 네 번에 한 번씩 좋아하는 문구를 꺼내는 캐릭터는 반복 페널티 문제고요.
이 값들은 캐릭터별, 패키지별로 열려 있고 JSON으로 내보내고 불러올 수 있어서, 잘 맞은 조합은 매번 다시 만들지 않고 저장해 두고 옮길 수 있어요.
이 구성이 무엇이고 무엇이 아닌지
다섯 개는 숫자가 커 보이라고 고른 게 아니라, 정말 다른 땅을 덮으라고 고른 거예요. 더 나은 게 나오면 구성은 바뀌어요. 이건 어디로 보낼지에 대한 판단이지, 특정 이름에 대한 약속이 아니에요.
여기에 순위는 없어요. 순위는 눈앞의 장면에 따라 완전히 달라지니까요. 롤플레이엔 이 모델이 그냥 제일 좋다고 말하는 글은, 다른 모델이 필요한 장면을 아직 안 해 본 거예요.