Model I/O
Format:像下单前把需求写清楚,例如要不要辣、几人份、送到哪里。你写得越清楚,模型越不容易答偏。
Predict:像把订单交给餐厅处理。你可以换不同餐厅(不同模型),但你希望下单方式尽量统一。
Parse:像外卖到了之后先分装、贴标签。原始回答可能很长,但系统往往需要结构化的数据才能继续处理。
模型: qwen-plus、deepseek-chat、glm-4
模型提供商: 阿里百炼、DeepSeek、OpenAI、智谱
langchain模型对象: 代码里创建的ChatDeepSeek(...) 或 init_chat_model(...)实例返回的对象
LangChain 常见模型分类
LLM 纯文本字符串 文本字符串 更偏传统“文本补全”接口,无天然多角色结构 单轮生成、摘要、改写、补全
Chat Model 字符串或消息列表 AIMessage 更贴近对话,支持多角色消息与更丰富元数据 智能助手、客服、多轮对话、Agent
Embeddings 文本或文本列表 向量 把文本转成语义向量,不负责生成文本 RAG、检索、相似度计算、聚类
常用模型参数:
| 参数名 | 作用 | 解释 |
| model | 模型名称 | |
| model_provider | 模型提供商 | |
| api_key | 密钥 | |
| base_url | 接口地址 | |
| temperature | 随机性/创造性控制 | 越低越稳定,越高越发散 |
| max_tokens | 最大生成长度 | 回答最多生成多少 token,也影响费用 |
| timeout | 超时时间 | 请求最长等多久 |
| max_retries | 失败重试次数 | 临时异常时自动重试几次 |
| stop | 停止词 | 生成到某些位置时强制停止 |

temperature管“风格和发散度”max_tokens管“长度和成本”
在真实项目里,这两个参数经常是最先调的。
参数怎么调更贴近实际项目:
- 客服问答 / 规则回答 / 翻译:
temperature往往设低一些,例如0~0.3 - 知识问答 / 通用助手:可设在
0.2~0.7 - 文案、创意写作、头脑风暴:可适当更高,例如
0.8~1.2
max_tokens 的使用也一样:
- 如果只是简短问答,可以限制小一点,避免无意义长回答
- 如果是总结、分析、长文输出,可以适当放大

浙公网安备 33010602011771号