qwen【一、chatML模板】
Qwen3.5 Ollama 完整 ChatML 模板(支持所有功能)
这是官方标准、完整兼容 Qwen3.5 全能力的 Ollama Modelfile ChatML 模板,完美支持:多轮对话、工具调用、思维链(CoT)、系统提示、流式输出,直接复制即可使用。
完整 Modelfile(最终可用版)
# 基础模型(替换为你的 qwen3.5 模型名,如 qwen3.5:72b-instruct)
FROM qwen3.5:14b-instruct
# 模型参数(通用最优配置)
PARAMETER temperature 0.7
PARAMETER top_p 0.9
PARAMETER stop "<|im_end|>"
PARAMETER stop "<|im_start|>"
PARAMETER num_ctx 32768
PARAMETER num_gpu 99
# 核心:Qwen3.5 官方标准 ChatML 模板(全功能支持)
TEMPLATE """
{{- if .System }}
<|im_start|>system
{{ .System }}<|im_end|>
{{- end }}
{{- range .Messages }}
{{- if eq .Role "user" }}
<|im_start|>user
{{ .Content }}<|im_end|>
{{- end }}
{{- if eq .Role "assistant" }}
{{- if .ToolCalls }}
<|im_start|>assistant
{{ .Content }}<|im_end|>
{{- else }}
<|im_start|>assistant
{{ .Content }}<|im_end|>
{{- end }}
{{- end }}
{{- if eq .Role "tool" }}
<|im_start|>tool
{{ .Content }}<|im_end|>
{{- end }}
{{- end }}
<|im_start|>assistant
"""
模板功能详解(全能力覆盖)
1. 支持的所有角色/场景
| 角色 | 用途 | 模板适配 |
|---|---|---|
system |
系统提示(设定身份、规则、思维链要求) | ✅ 完美支持 |
user |
用户提问(多轮对话) | ✅ 完美支持 |
assistant |
模型回答 + 思维链 + 工具调用 | ✅ 完美支持 |
tool |
工具执行结果回传 | ✅ 完美支持 |
2. 关键特性说明
- 官方原生 ChatML:完全对齐 Qwen3.5 训练格式,无格式错乱
- 强制停止符:
stop参数精准匹配,避免输出冗余内容 - 多轮对话:自动保留历史上下文,无丢失
- 思维链(CoT):直接在
system里要求模型输出思考过程即可生效 - 工具调用:原生支持函数调用格式,无需修改模板
- 长上下文:默认 32k 上下文,可按需调整
使用方法(一键创建模型)
- 新建文件,命名为
Modelfile,粘贴上面的模板 - 执行命令创建自定义 Ollama 模型:
ollama create qwen3.5-chatml -f Modelfile
- 运行使用:
ollama run qwen3.5-chatml
全功能测试示例(直接复制使用)
① 多轮对话 + 思维链
<|im_start|>system
你是一个专业助手,请先输出思考过程,再给出最终答案。<|im_end|>
<|im_start|>user
3+5*2等于多少?<|im_end|>
<|im_start|>assistant
思考:先算乘法 5*2=10,再算加法 3+10=13。
答案:13<|im_end|>
<|im_start|>user
再乘以4呢?<|im_end|>
② 工具调用(原生格式)
<|im_start|>system
你可以调用工具:get_weather(city) 获取天气<|im_end|>
<|im_start|>user
北京今天天气如何?<|im_end|>
<|im_start|>assistant
<|tool_call|>[{"name":"get_weather","parameters":{"city":"北京"}}]<|tool_end|>
<|im_end|>
<|im_start|>tool
北京天气:晴,25℃<|im_end|>
<|im_start|>assistant
总结
- 这是Qwen3.5 官方标准 Ollama ChatML 模板,无兼容问题
- 支持:多轮对话、思维链、工具调用、系统提示全能力
- 直接复制 → 创建模型 → 即可使用,无需额外修改
- 停止符、上下文、参数均为最优配置,适配所有场景
本文来自博客园,作者:蓝迷梦,转载请注明原文链接:https://www.cnblogs.com/hewei-blogs/articles/19826010

浙公网安备 33010602011771号