Transformers 聊天模板迁移：统一角色消息格式

模型与消息字段表

不要直接把旧提示词拼到新模型前面。先为当前模型和候选模型各建一行记录，明确应用实际传入的角色、内容、历史消息和生成起点。

资料包仅确认 Hugging Face Blog 收录过聊天模板相关主题；不同模型的具体角色规则和模板细节，应以该模型当前说明为准。

中间消息格式

在业务层只维护一种中间结构，例如每条记录只包含 role 与 content。模型特有的分隔符、结束标记和轮次格式交给适配层处理，不要散落在文章生成、改稿和摘要逻辑中。

1. 从旧调用中找出所有 system、user、assistant 文本及人工拼接的标记。
2. 删除正文中重复的角色前缀，例如把“用户：”这类展示文字与真实 role 分开。
3. 按时间顺序写入统一消息数组，并为每条消息保留任务编号。
4. 将模型专属格式集中到单独的模板适配模块。
5. 保存迁移前输入快照，便于后续逐条比对。

模板应用与生成

适配层的职责是接收统一消息数组，依据候选模型的聊天格式生成最终输入。不要同时使用模板生成的角色标记和手工拼接的角色标记，否则模型可能把标记当成正文继续复述。

messages = [
  {"role": "system", "content": "你是内容编辑，未知事实要标记。"},
  {"role": "user", "content": "把下列要点整理成三段说明。"}
]
final_input = 模板适配层(messages, 等待助手继续回答=true)

这里的字段名仅用于说明迁移思路。实际调用时，按所用模型、分词器与运行环境的当前接口核对。

固定样本对照

至少准备三类不会频繁变化的样本：短摘要、带约束的改写、资料不足时的回答。每次旧模型和候选模型都使用相同消息、相同资料和相同输出要求。

• 样本一：将四条产品要点整理为三段，不补充未提供的信息。
• 样本二：保留原意改写一段活动通知，并输出标题与正文。
• 样本三：资料缺少日期时，要求明确提示待确认，不能自行补全。

记录模型、模板版本、输入快照、原始输出、人工评分和是否可发布。若团队已有模型切换记录流程，可参考模型别名变更前的写作回归检查补充回退字段。

假设旧流程已把“助手：”写进 assistant 内容，同时新适配层又自动添加助手边界。生成结果若出现连续的“助手：助手：”，通常不是模型文风问题，而是输入承担了两次格式化职责。

1. 查看最终送入模型的完整文本，而不只看消息数组。
2. 确认角色标记来自模板还是业务正文。
3. 保留其中一种来源：优先让模板负责边界标记。
4. 重新运行同一固定样本，并将修正前后输出并排保存。

故障排查

迁移验收清单

• 候选模型、模板版本和回退模型已登记。
• system、user、assistant 的字段来源和顺序可追溯。
• 最终输入中没有重复角色标记或无关分隔符。
• 固定写作样本均已生成并保留原始输出。
• 正文没有把缺失资料写成确定事实。
• 标题、正文结构和格式符合当前发布要求。
• 已定义回退触发条件，例如角色边界错误、正文缺失或人工评分不达标。

全部通过后再逐步切换流量；任一关键样本失败时，保留旧适配层并根据记录定位问题。