随笔分类 - 大模型开发
摘要：目录背景和价值一、功能定位对比Docling和JAVA集成一、REST API 封装二、命令行调用三、Jython 嵌入式集成四、混合架构（Python 微服务 + 消息队列）总结与建议参考资料 背景和价值 一、功能定位对比 维度 Doc Maker Docling 核心功能 将AI生成内容快速转换
阅读全文
摘要：目录背景和价值应用层。一、应用层：业务交互与展示2. 示例代码（Spring Boot）3. 需补充的职责模型服务层二、模型服务层：模型能力调度与执行1. 你的理解（部分正确）2. 示例代码（Python伪代码）3. 需补充的职责三、边界混淆点与修正建议1. 误区：将Agent代码完全归属于模型服务
阅读全文
摘要：https://www.bilibili.com/video/BV1AnQNYxEsy/?spm_id_from=333.337.search-card.all.click&vd_source=066be1065eb1d83f6900716157e5396b 哪些能力适合集成在MCP Server
阅读全文
摘要：目录辅助搜索和个性化推荐参考资料 辅助搜索和个性化推荐 知识图谱可以帮忙搜索和个性化推荐更准确。 在电商场景，构建 参考资料
阅读全文
摘要：目录背景SFT 监督训练 -一般微调步骤一 ：准备样本数据微调大模型效果测试如何提升精度RL 强化学习 -PPU ：近似优化参考资料 背景 为什么要微调：领域内大模型训练。大模型预训练的知识不够，幻觉 为什么不能直接用RAG，因为用户问题可能就问错了。 影响大模型微调的效果：样本的量（覆盖的场景全面
阅读全文
摘要：目录背景1. 订单聚类与顺路度计算2. 实时路径规划3. 骑手画像与压力平衡4. 经济模型与激励机制5. 系统架构与工程实现GeoHash 或 DBSCAN 的订单聚类 工程架构1. GeoHash：仅需离散点坐标，无需完整地图GeoHash ES支持2. DBSCAN：依赖点数据密度，无需地图拓
阅读全文
摘要：目录背景和价值 背景和价值 bert 训练1万起，但是样本只有1000+ 使用bert+ P-tuning小样本算法， 进行多标签分类 P-tuning 是一种针对预训练语言模型（如BERT、GPT）的参数高效微调方法，专门用于小样本学习（Few-shot Learning）场景。它通过引入可学习
阅读全文
摘要：[TOC] 差评打标 bert 1万起，但是样本只有1000+ 使用 P-tuning小样本算法， 进行多标签分类 bert基座+P-tuning 使用模型预训练、损失函数优化、阈值搜索等技术手段提升模型效果 多标签使用 正负样本，损失函数 -- shoujianming 多标签 现在做法： 使用大
阅读全文
摘要：目录背景和价值比如，我是卖ERP的，关注行业分类，客户规模。 相同行业，想通规模，需要的ERP产品是一样。 1000人的餐饮，跟5人餐饮公司，需要的ERP产品不要。如果都是餐饮行业，相同规模的餐饮公司，需要的产品是类似的。参考资料 背景和价值 产品推荐。 A用户画像和B用户画像相近，A买了什么场景，
阅读全文
摘要：目录背景为什么需要点击归因？常见的点击归因模型点击归因的挑战为什么点击归因重要？点击归因 vs. 曝光归因参考资料 背景 用户可能点击了多个广告后购买，广告主需要知道哪个渠道最有效。 点击归因（Click Attribution） 是数字营销和广告分析中的一个核心概念，指在用户完成转化（如购买、注册
阅读全文
摘要：目录背景和价值知识图谱意图识别召回如何做意图识别？ 比如我有几十个agent，如何根据用户的输入路由到指定agent基于小模型的方案（省钱）大模型：微调。（贵，输入的token不受限）问题和解决参考资料 背景和价值 知识图谱 1 schema设计。本体设计，关系属性设计 2 数据标注。使用模型做半自
阅读全文
摘要：目录背景和价值自动化训练微调：参考资料 背景和价值 自动化训练 ！！！自动化训练。 模型停止点 什么是好模型？。 泛化性改进。 多步没有改善，就毙掉。F1得分 必过集。100%过， 微调： 比如打扫，传统大模型无法识别这个指令。 1 蒸馏 采样，给很多query。 让标注人员标注response 合
阅读全文
摘要：目录背景参考资料 背景 MCP 存储和业务服务的调用都经过MCP Server 流程 AGENT网关 --> AI Agent -- Agent 网关： 路由到哪个Agent MCP网关 ： 路由到哪个MCP Server 参考资料
阅读全文
摘要：目录1先建项目目录。2 进入项目目录3 创建虚拟环境4 激活虚拟环境 原则：在项目目录下面创建虚拟环境是一个好的实践。 以下是uv的例子，其他虚拟环境conda等类似 1先建项目目录。 uv init mcp-lesson 2 进入项目目录 cd mcp-lesson 3 创建虚拟环境 uv ven
阅读全文
摘要：目录背景和价值MCP C/S架构MCP Server通讯机制流程服务端实现初始化 MCP 服务器实现外部函数注册到MCP客户端事项客户端端实现连接到服务端工具调用获取所有的调用对象获取所有的调用对象，把每个工具信息存到 列表调用大模型（附上提示词和 工具信息列表）如果大模型返回结果需要调用外部函数，
阅读全文
摘要：目录nulllanggraph react多agent实现。 父图，子图参考资料 13 LangGraph进阶之State核心-MessageGraph实践 更复杂一点的，如果我们还想手动更新图形状态中的消息（例如人机交互），使用operator.add能做到的功能极限是：发送到图表的手动状态更新将
阅读全文
摘要：目录状态类型 dict vs TypedDictbuilder = StateGraph( xx ) 是 LangGraph 中初始化状态图的代码，其核心作用是 定义一个动态状态（State）的结构。以下是详细解析：1. 如state_schema 为 dict 的含义2. 对比 TypedDict
阅读全文
摘要：目录背景和价值LangGraph 数据结构业务概念边：State： 状态，通过state在智能体内传递消息Node（节点）End： 流程结束开发流程1 定义图的模式2 构建节点3 构建边4 编译参考代码参考资料 背景和价值 langchain的不足： langchain 特点，构造有向无环图。 当流
阅读全文
摘要：目录示例代码原生实现基于langchain抽象API的实现 react 开发跟普通agent区别 1 prompt不一样， react的提示词 template = '''Answer the following questions as best you can. You have access
阅读全文
浙公网安备 33010602011771号