[AI/LLM/VLM] 大模型的调用参数解读

0 序

• 平时在大量使用/调用大模型，有必要对这些模型参数总结一番。

1 LLM 模型参数

• 以 LLM 模型 DeepSeek-V4-Flash 为例:

图中当前配置总评

• Model: DeepSeek-V4-Flash
• Max Tokens:8192｜Temp:0.7｜Top-P:0.7｜Top-K:36｜Frequency Penalty:0｜Enable Thinking:开启｜Reasoning Effort:high
  这套参数：平衡型，偏向带推理能力的通用复杂对话、Agent任务。随机性适中，有较强逻辑推导能力。

Max Tokens（最大输出 Token 数）

• 含义：限制模型单次生成回答的最大token数量，包含推理思考内容+最终输出文本。达到上限就会截断输出。

1token ≈ 0.75个中文汉字

• 图中值：8192
• 推荐：
  • 简短问答：512 ~ 1024
  • 长文/代码/复杂推理：4096 / 8192
  • 注意：不能超过模型的上下文窗口上限。

Temperature（温度）

• 含义：控制生成随机性、创造力。本质缩放token概率分布。

• 越低：结果越确定、保守、重复少，适合事实问答、代码、数学。0基本每次输出一样。
• 越高：越天马行空，创意更强，但更容易幻觉。

• 图中值：0.7
• 推荐：
  • 事实/代码：0.1~0.4
  • 通用对话（平衡）：0.6~0.7（你当前的值就是通用对话常用值）
  • 创意写作：0.8~1.0

Top-P（核采样，Nucleus Sampling）

• 含义：从概率累加≥P的最小候选token集合里采样。动态筛选候选词，比Top-K更灵活。
• 例如：Top-P=0.7，模型只在累积概率前70%的token池里选词，自动丢弃低概率冷门词。
• 图中值：0.7
• 推荐：
  • 通用场景：0.7~0.9
  • 严谨事实任务：0.5~0.7
  • 创意写作：0.9~0.95

最佳实践：一般优先调Temperature，Top-P配套使用；很多API会建议二者不要同时大幅度改动。

Top-K

含义：固定只取概率最高的前K个token作为候选池，再从中采样。固定数量，不随上下文动态变化。

• 图中值：36
• 推荐：
  • 通用：30~50（你当前36属于合理区间）
  • 严谨任务：10~20
  • 创意：50~100

注意：现代LLM很多时候只用Top-P，把Top-K设为很大值来关闭；同时开启 Top-P + Top-K 会双重过滤候选词。

Frequency Penalty（频率惩罚）：抑制重复的程度

• 含义：对已经生成过的token施加惩罚，token出现次数越多，后续再次选中它的概率越低，用来抑制重复、循环话术。

范围 -2.0 ~ 2.0

• 0.0：不做惩罚（你当前配置）

• 0：减少重复

• <0：鼓励重复
• 推荐：
  • 普通对话：0.0
  • 长文本容易重复：0.1~0.3
  • 不建议超过0.5，容易破坏语句连贯性。

Enable Thinking（开启思考模式）

DeepSeek V4系列专属开关。

• 含义：开启后模型会输出内部推理思考过程（think推理块），再给出最终答案；关闭则直接输出结论，不输出中间思考步骤。
• 适合：复杂逻辑、多步骤数学、Agent工具调用、规划任务。
• 代价：消耗更多token，响应速度变慢。
• 推荐：简单问答关闭；推理/Agent场景开启。

Reasoning Effort（推理强度）

DeepSeek V4思考模式下的参数，仅在Enable Thinking开启时生效。

• 可选：low / medium / high / max

• low：轻量思考，速度快，推理步骤简略
• high：深度推理，投入更多算力做推导（你当前选择）
• max：最强推理，穷尽推导，适合高难度数学、复杂Agent规划，耗时最长
  图中配置：high，适合中等偏复杂逻辑任务。

深度辨析：Top-P & Top-K：原理 + 通俗比喻

• 大模型每输出一个字（token），都会先算出所有候选下一个token的概率，比如：猫:40%，狗:30%，鸟:15%，鱼:10%，虫:5%。

Top-K / Top-P 就是过滤候选Token清单的两种不同规则，过滤完，模型才从剩下的Token里随机选一个输出。

Top-K

原理层面

• 固定选取概率排名最高的前 K 个 token作为候选集合，剩下全部直接丢弃，再在这个固定大小的集合内采样。

例子：K=3
候选概率：猫40%、狗30%、鸟15%、鱼10%、虫5%
只保留前3名：猫、狗、鸟；鱼、虫直接删掉，不参与选词。

• 缺点：候选数量永远固定K个，不看【概率差距】
• 极端场景A：前3个概率的差距极大（90%+8%+1%），K=3，依然保留3个；
• 极端场景B：前3个概率的差距极小（35%+30%+25%），K=3，同样保留3个。
• 不管候选词靠谱不靠谱，永远只取前K个。

通俗理解

• 好比考试排名：只取全班前K名学生参加抽奖，剩下的直接没有抽奖资格。
• 不管第K名分数是90分还是20分，只要排进前K就可以参与。

Top-P（核采样 Nucleus Sampling）

原理层面

• 动态选出概率累加总和 ≥ P 的最小候选集合。不是固定数量，候选词数量会随概率分布自动变化。

例子：P=0.7
候选概率：猫40% + 狗30% = 70%，刚好达到0.7。
候选集合只保留【猫、狗】，鸟、鱼、虫全部丢弃。

• 如果概率分布变了（相对集中）：猫60%，狗20%，鸟10%，鱼10%，P=0.7

累加：猫60%+狗20%=80%≥0.7 → 候选集合依然是【猫、狗】

• 如果概率很分散（相对分散）：猫25%，狗20%，鸟20%，鱼15%，虫10%，P=0.7

累加：25+20+20+15=80% ≥0.7 → 候选集合变成4个词：【猫、狗、鸟、鱼】。

• 特点：看【概率权重】，不看名次。【概率集中】，候选词就少；概率分散，候选词自动变多。

通俗理解

• 抽奖规则改成：从第一名开始依次把分数加起来，加到总分占比达到P，就停止。只有这些人能抽奖。
• 如果第一名分数很高，那只需要1-2个人就凑够P；如果大家分数都差不多，就要拉更多人进来凑够P。

不是固定人数，是按“总权重”选人。

两者核心差异（重点）

	Top-K	Top-P
筛选依据	固定名次（前K个）	累积概率权重（总和达到P）
候选池大小	固定不变	动态自动变化
问题	遇到概率很平的场景，会强行加入很多低质量候选词；概率很集中时也保留K个	不会强行拉入低概率垃圾候选，现代LLM更推荐优先使用Top-P

同时开启 Top-K + Top-P（截图的情况: Top-K=36，Top-P=0.7）

相当于双重过滤：

1. 第一步：先用Top-K，最多只保留前36个概率最高token；
2. 第二步：在这36个里面，再用Top-P做二次筛选，继续剔除低概率词。

最佳实践：关闭 Top-K，开启 Top-P

行业经验：
很多大模型最佳实践：只开Top-P，把Top-K设成一个极大值（比如1024），相当于【关闭Top-K过滤】。
同时开两个，会叠加约束，随机性会被压缩。

搭配 Temperature 的关系（避免混淆）

• Temperature 是缩放所有候选词概率分布，相当于拉高/拉平所有候选词的概率差距：

• Temp↓：拉大差距，第一名概率碾压其他人，模型更保守
• Temp↑：抹平差距，各个候选词概率接近，模型更放飞

• Temp 是改概率分布；Top-P/Top-K 是在【改完的概率分布】上做【裁剪过滤】。

顺序：计算原始概率 → Temperature缩放概率 → Top-K/Top-P裁剪候选池 → 采样输出下一个token

完整例子

原始概率：猫40%，狗30%，鸟15%，鱼10%，虫5%
Temp不变；Top-P=0.7，Top-K=3。

1. Top-K：只保留前3名：猫、狗、鸟
2. 在这3个里累加概率：40+30=70%，达到P=0.7 → 最终候选池只有【猫】、【狗】。鸟被剔除。

模型从【猫、狗】里随机选一个输出。

总结：场景快速推荐表

场景	Temperature	Top-P	Top-K	Frequency Penalty	Enable Thinking	Reasoning Effort
代码/数学计算，要求准确	0.2	0.6	20	0	开启	high
日常问答、知识检索	0.6	0.8	40	0	关闭	-
文案创作、头脑风暴	0.9	0.9	60	0.2	关闭	-
Agent多步工具调用	0.6	0.7	36	0	开启	high/max

Y 推荐文献

X 参考文献