2025年8月6日
解码策略
摘要： Decoding decoding指的是模型在生成文本时，模型会根据前面的内容预测下一个最可能出现的 token，直到满足终止条件（比如达到最大长度或遇到结束符 ） 解码策略决定了模型如何从多个候选toke 中做出选择，不同策略在不同情况下带来的效果是不尽相同的。假设模型已经生成了前n-1个toke 阅读全文
posted @ 2025-08-06 00:01 Luna-Evelyn 阅读(15) 评论(0) 推荐(0)