Model I/O

Format:像下单前把需求写清楚,例如要不要辣、几人份、送到哪里。你写得越清楚,模型越不容易答偏。
Predict:像把订单交给餐厅处理。你可以换不同餐厅(不同模型),但你希望下单方式尽量统一。
Parse:像外卖到了之后先分装、贴标签。原始回答可能很长,但系统往往需要结构化的数据才能继续处理。

模型: qwen-plus、deepseek-chat、glm-4
模型提供商: 阿里百炼、DeepSeek、OpenAI、智谱
langchain模型对象: 代码里创建的ChatDeepSeek(...) 或 init_chat_model(...)实例返回的对象

LangChain 常见模型分类
    LLM    	纯文本字符串	文本字符串	更偏传统“文本补全”接口,无天然多角色结构	单轮生成、摘要、改写、补全
    Chat Model	字符串或消息列表	AIMessage	更贴近对话,支持多角色消息与更丰富元数据	智能助手、客服、多轮对话、Agent
    Embeddings	文本或文本列表	向量	把文本转成语义向量,不负责生成文本	RAG、检索、相似度计算、聚类
  

常用模型参数:

  

参数名 作用 解释
model 模型名称  
model_provider 模型提供商  
api_key 密钥  
base_url 接口地址  
temperature 随机性/创造性控制 越低越稳定,越高越发散
max_tokens 最大生成长度 回答最多生成多少 token,也影响费用
timeout 超时时间 请求最长等多久
max_retries 失败重试次数 临时异常时自动重试几次
stop 停止词 生成到某些位置时强制停止

image

  • temperature 管“风格和发散度”
  • max_tokens 管“长度和成本”

在真实项目里,这两个参数经常是最先调的。

参数怎么调更贴近实际项目:

  • 客服问答 / 规则回答 / 翻译temperature 往往设低一些,例如 00.3
  • 知识问答 / 通用助手:可设在 0.20.7
  • 文案、创意写作、头脑风暴:可适当更高,例如 0.81.2

max_tokens 的使用也一样:

  • 如果只是简短问答,可以限制小一点,避免无意义长回答
  • 如果是总结、分析、长文输出,可以适当放大
posted @ 2026-04-28 17:36  幻影之舞  阅读(20)  评论(0)    收藏  举报