qwen【一、chatML模板】

Qwen3.5 Ollama 完整 ChatML 模板(支持所有功能)

这是官方标准、完整兼容 Qwen3.5 全能力的 Ollama Modelfile ChatML 模板,完美支持:多轮对话、工具调用、思维链(CoT)、系统提示、流式输出,直接复制即可使用。

完整 Modelfile(最终可用版)

# 基础模型(替换为你的 qwen3.5 模型名,如 qwen3.5:72b-instruct)
FROM qwen3.5:14b-instruct

# 模型参数(通用最优配置)
PARAMETER temperature 0.7
PARAMETER top_p 0.9
PARAMETER stop "<|im_end|>"
PARAMETER stop "<|im_start|>"
PARAMETER num_ctx 32768
PARAMETER num_gpu 99

# 核心:Qwen3.5 官方标准 ChatML 模板(全功能支持)
TEMPLATE """
{{- if .System }}
<|im_start|>system
{{ .System }}<|im_end|>
{{- end }}

{{- range .Messages }}
{{- if eq .Role "user" }}
<|im_start|>user
{{ .Content }}<|im_end|>
{{- end }}

{{- if eq .Role "assistant" }}
{{- if .ToolCalls }}
<|im_start|>assistant
{{ .Content }}<|im_end|>
{{- else }}
<|im_start|>assistant
{{ .Content }}<|im_end|>
{{- end }}
{{- end }}

{{- if eq .Role "tool" }}
<|im_start|>tool
{{ .Content }}<|im_end|>
{{- end }}
{{- end }}

<|im_start|>assistant
"""

模板功能详解(全能力覆盖)

1. 支持的所有角色/场景

角色 用途 模板适配
system 系统提示(设定身份、规则、思维链要求) ✅ 完美支持
user 用户提问(多轮对话) ✅ 完美支持
assistant 模型回答 + 思维链 + 工具调用 ✅ 完美支持
tool 工具执行结果回传 ✅ 完美支持

2. 关键特性说明

  1. 官方原生 ChatML:完全对齐 Qwen3.5 训练格式,无格式错乱
  2. 强制停止符stop 参数精准匹配,避免输出冗余内容
  3. 多轮对话:自动保留历史上下文,无丢失
  4. 思维链(CoT):直接在 system 里要求模型输出思考过程即可生效
  5. 工具调用:原生支持函数调用格式,无需修改模板
  6. 长上下文:默认 32k 上下文,可按需调整

使用方法(一键创建模型)

  1. 新建文件,命名为 Modelfile,粘贴上面的模板
  2. 执行命令创建自定义 Ollama 模型:
ollama create qwen3.5-chatml -f Modelfile
  1. 运行使用:
ollama run qwen3.5-chatml

全功能测试示例(直接复制使用)

① 多轮对话 + 思维链

<|im_start|>system
你是一个专业助手,请先输出思考过程,再给出最终答案。<|im_end|>
<|im_start|>user
3+5*2等于多少?<|im_end|>
<|im_start|>assistant
思考:先算乘法 5*2=10,再算加法 3+10=13。
答案:13<|im_end|>
<|im_start|>user
再乘以4呢?<|im_end|>

② 工具调用(原生格式)

<|im_start|>system
你可以调用工具:get_weather(city) 获取天气<|im_end|>
<|im_start|>user
北京今天天气如何?<|im_end|>
<|im_start|>assistant
<|tool_call|>[{"name":"get_weather","parameters":{"city":"北京"}}]<|tool_end|>
<|im_end|>
<|im_start|>tool
北京天气:晴,25℃<|im_end|>
<|im_start|>assistant

总结

  1. 这是Qwen3.5 官方标准 Ollama ChatML 模板,无兼容问题
  2. 支持:多轮对话、思维链、工具调用、系统提示全能力
  3. 直接复制 → 创建模型 → 即可使用,无需额外修改
  4. 停止符、上下文、参数均为最优配置,适配所有场景
posted @ 2026-04-06 13:07  蓝迷梦  阅读(384)  评论(0)    收藏  举报