fitchliu

摘要： 最近整理了一个面向数据分析的 Data Agent 项目。它的目标不是让大模型直接“猜一条 SQL”，而是把自然语言查询转换成一条可解释、可校验、可执行的流程。项目使用 FastAPI 提供接口，使用 LangGraph 编排 Agent 节点，并结合 Qdrant、Elasticsearch 和 阅读全文

摘要： 【架构层面】Dense、MoE 与预测/生成模型：一篇速览 1. Dense：稠密模型（全激活） 定义 每个 token 输入时，全部参数都参与计算。 也就是：总参数量 = 每次推理激活参数量。 类比：公司来了任何任务，全体员工全部上岗干活，不管简单还是复杂。 代表 Qwen2-27B Qwen2- 阅读全文

摘要： 把 LLM 接到生产链路里，先解决上下文污染 用最少的工程动作，把自动化脚本从“能跑”收敛到“可信” 很多团队都有一类脚本：它们不是核心业务代码，但又承担了发布、巡检、同步、清理这类真实职责。问题通常不在于“能不能跑起来”，而在于一旦脚本进入日常使用，大家会迅速发现另一个更尖锐的问题：它到底可不可信 阅读全文

摘要： # 从提示词工程到上下文工程：构建稳定 LLM 应用的实践笔记 这两年做大模型应用，一个很明显的感受是：很多团队在早期都把注意力放在“提示词怎么写”，但真正把系统做起来之后，决定效果上限的往往不是某一句 prompt，而是整条上下文链路是不是稳定、干净、可控。 如果把 LLM 看成一个很强但也很“情 阅读全文

摘要： 为什么单靠 Prompt 很难救场 很多 Demo 在本地跑得不错，到了线上就开始出现各种问题： 同一个问题今天答得很好，明天答得发散 多轮对话之后开始遗忘约束 工具调用顺序不稳定，偶尔跳步 用户一旦提供冗长上下文，输出质量明显下降 这些问题表面上看像是“模型不稳定”，但本质上经常是上下文组织方式不 阅读全文

摘要： 把发布流程当成产品来维护：一次 DevOps 值班后的复盘 这两年我越来越认同一件事：DevOps 不是“把 CI/CD 配上就完了”，而是把交付链路本身当成产品来维护。很多团队线上故障并不是代码逻辑错得多离谱，而是发布流程靠人脑补、靠群消息提醒、靠某个同学“记得点一下”。这种流程平时看起来能跑，一 阅读全文

摘要： 先别急着上微服务，先把异步边界设计清楚 这两年做系统改造，我越来越少听到“我们要不要拆成微服务”，反而更常问一句：这条业务链路里，哪些步骤必须同步完成，哪些步骤应该异步化？很多系统的问题，表面上看像是架构不够先进，实际上是同步边界画错了。 最典型的例子是订单系统。用户点击“提交订单”之后，常见动作包 阅读全文

摘要： 从提示词工程到上下文工程：构建稳定 LLM 应用的实践笔记 这两年做大模型应用，一个很明显的感受是：很多团队在早期都把注意力放在“提示词怎么写”，但真正把系统做起来之后，决定效果上限的往往不是某一句 prompt，而是整条上下文链路是不是稳定、干净、可控。 如果把 LLM 看成一个很强但也很“情境依 阅读全文

摘要： 慢 SQL 不是加索引就完了：一次分页查询优化的拆解 这两年我见过不少线上慢查询，第一反应都是“补个索引试试”。这个动作不能说错，但很多时候它只解决了表象。真正拖垮接口延迟的，往往是查询写法、分页方式和回表成本叠在一起。 最近碰到一个典型场景：订单列表页按创建时间倒序分页，数据量大概 3000 万。 阅读全文

摘要： 把发布流水线当产品来维护：一次 DevOps 值班后的三个改动 前阵子值班时，我碰到一个很典型的问题：应用本身没挂，CPU、内存、Pod 副本数都正常，但版本就是发不出去。最后排查下来，不是 Kubernetes 有问题，也不是镜像仓库抽风，而是流水线里几个“平时看不见、出事就卡死”的细节叠在了一起 阅读全文