rolandhe

摘要： 开启思考模式时，模型在判断要调用工具时，可能并不会返回文本内容，而是直接返回tool_call调用，但其思考过程是有的。 在agent声景下，以及多轮会话场景里，如果后面轮次模型不知道前面调用工具时是如何做的决定，那么后续的步骤会受影响。 为了保持完整的推理逻辑，deepseek文档里指明在开启推理 阅读全文

摘要： 使用 Agent tool, 并搭配一个自定义 sub agent async def main(): async for message in query( prompt="帮我将这句中文翻译成英文：\"无尽的冬夜\"", options=ClaudeAgentOptions( permissio 阅读全文

摘要： 经过测试来验证一些参数的用法。 我在project/.claude/skills/ 目录下放置了两个skill 如何使用skill 想用skill，必须在tools列表中包含Skill，或者省略tools，这时将默认包含所有工具。 skills参数又可单独控制哪些具体的skill的 front ma 阅读全文

摘要： 以下现象为亲测发现的问题： claude-opus-4-7 / claude-opus-4-8: 在Agent SDK运行过程中，如果有mcp tool 通过 tool_search方式延迟加载function schema，则在下轮API call时，uage中可以看出前缀缓存完全重写，会决大部分 阅读全文

摘要： Claude的较新模型在开启缓存的情况下，默认都会将thinking内容写入缓存。 而Claude旧版本模型，以及haiku模型则默认会将thinking内容移除context window，所以也就不进缓存。 不过当assistant消息是 包含 thinking block 和 tool_use 阅读全文

摘要： 思考模式 多轮会话中的思考内容 Claude的haiku模型输出的thinking内容不会做为下一轮的输入tokens。并且，启用与不启用思考功能时，对于相同的问题占用的input tokens不一样，估计是API会针对启用思考模式的请求默认增加一些固定提示词。 将思考内容做为会话历史传给haiku 阅读全文

摘要： Apple Silicon Mac 本地部署 OCR 模型实战笔记 适用环境:macOS + Apple Silicon(M1/M2/M3/M4) 覆盖模型:PaddleOCR-VL、GLM-OCR、DeepSeek-OCR 最后更新:基于本地实测验证 目录 0. 基础概念速查 1. PaddleO 阅读全文

摘要： 先建立一个分类框架 推理工具可以按两个维度来区分: 维度 1:抽象层次(从低到高) 推理引擎(Inference Engine):直接执行模型 forward pass,管显存、KV cache、算子调度 推理服务器(Inference Server):包装引擎 + 提供 HTTP API、批处理、 阅读全文

摘要： 百度智能文档解析，含大模型版 阅读全文

摘要： hermes agent：最新的比较热门的Agent框架，号称Agent会随着你的使用而成长。 应该是实现了长期记忆及自动生成skill。 LangChain: 有点过时了，总更新。 LangGraph: 与langchain同源，但能实现智能体编排，目前算是比较值得学习的。 LlamaIndex： 阅读全文