// packages/core — 원형(raw) 채팅 템플릿. // // 왜 필요한가: 인라인 제안은 "사용자 글을 그대로 이어 쓰기" 다. 모델 차례 앞에 사용자가 쓰던 // 문장을 미리 넣어 두면(prefill) 모델은 그 글자 바로 뒤부터 쓴다 — 단어 중간("회의실"+"에서")과 // 띄어쓰기까지 정확히 이어진다. Ollama 의 채팅 API 는 이어 쓸 때 응답 앞 공백을 지우고 일부 // 렌더러는 차례를 닫아 버려(실측: "검토해 보시" → "부탁드립니다.") 이 용도로 쓸 수 없다. // 그래서 템플릿을 아는 모델 계열만 직접 그려 `raw` 로 보낸다. 모르는 계열은 null — 호출자는 // 기존(지시형) 경로를 쓴다. export type RawChatFamily = 'gemma4' | 'gemma' export interface RawChatInput { system: string user: string /** 모델 차례 앞에 미리 넣을 텍스트 (모델이 이어 쓴다) */ assistantPrefix: string } /** 모델 이름(Ollama 태그)으로 원형 템플릿 계열을 판별한다. */ export function detectRawChatFamily(model: string): RawChatFamily | null { const name = model.trim().toLowerCase().split('/').pop() ?? '' if (/^gemma-?4/u.test(name)) return 'gemma4' if (/^gemma-?[23]?(?:[:.-]|$)/u.test(name)) return 'gemma' return null } /** 사용자 텍스트에 섞인 차례 구분 토큰을 지운다 — 문맥 텍스트가 대화 구조를 바꾸지 못하게. */ function stripTurnMarkers(text: string): string { return text.replace(/<\|?\/?(?:turn|start_of_turn|end_of_turn|bos|eos)\|?>|<(?:turn|end_of_turn)\|>/gu, '') } /** 원형 프롬프트를 그린다. 템플릿을 모르는 모델이면 null. */ export function renderRawChatPrompt(model: string, input: RawChatInput): string | null { const family = detectRawChatFamily(model) if (!family) return null const system = stripTurnMarkers(input.system) const user = stripTurnMarkers(input.user) const prefix = stripTurnMarkers(input.assistantPrefix) if (family === 'gemma4') { return `<|turn>system\n${system}\n<|turn>user\n${user}\n<|turn>model\n${prefix}` } // gemma 2/3 에는 system 차례가 없다 — 첫 user 차례 앞에 붙인다(공식 템플릿과 같음). return `user\n${system}\n\n${user}\nmodel\n${prefix}` } /** 원형 요청의 정지 문자열 — 차례 종료 토큰이 텍스트로 새어 나와도 거기서 멈춘다. */ export function rawChatStopSequences(model: string): string[] { const family = detectRawChatFamily(model) if (family === 'gemma4') return ['', '<|turn>'] if (family === 'gemma') return ['', ''] return [] }