养肥胖虎

摘要： 多Agent开发笔记:为什么4个Codex加1个Claude会把9700X跑满 好家伙, vscode里开了四个codex拓展 + 一个 claude把我cpu吃满了,不是哥们,我9700X啊 按理说,8 核 16 线程的桌面 CPU,日常开发应该不算弱. 但我同时开了: 4 个 Codex 1 个 阅读全文

摘要： 完整学习LLM(六):上下文窗口是什么,为什么模型会忘东西 好家伙, 上一篇我们聊了 Embedding. 当时说到一个很关键的点: Embedding 负责把文本变成向量. RAG 负责根据语义找到相关资料. 大模型负责基于资料组织答案. 但这里马上就会遇到一个新问题: 资料找到了以后,到底怎么交 阅读全文

摘要： 完整学习LLM(五):Embedding是什么,为什么文本能变成向量 好家伙, 先贴一篇好文章 https://developers.openai.com/api/docs/guides/embeddings (openai团队写的,值得信赖) 上一篇我们聊了 Token. 当时说到一句话: 文字进 阅读全文

摘要： 完整学习LLM(三):为什么大模型是在预测下一个Token 好家伙, 上一篇我们聊了一个最基础的问题: 大模型到底是什么? 当时我给了一个比较朴素的理解: 普通程序按规则执行. 大模型按上下文生成. 但这里还有一个问题没有展开: 大模型到底是怎么生成的? 它为什么能从一个问题开始,慢慢写出一整段回答 阅读全文

摘要： 完整学习LLM(四):Token是什么 好家伙, 上一篇我们聊了: 为什么大模型是在预测下一个 token. 当时一直在说 token. 但其实还有一个问题没有拆: Token 到底是什么? 这个词在大模型里出现得太频繁了. 比如: 上下文窗口是多少 token 输入 token 怎么计费 输出 t 阅读全文

摘要： 完整学习LLM(二):大模型到底是什么 好家伙, 上一篇算是把这个系列开了个头. 我当时给自己定了一个目标: 不要只停留在会调 API. 要把大模型从原理到落地这条路慢慢走一遍. 那今天就从最基础的问题开始: 大模型到底是什么? 这个问题看起来简单. 但真要说清楚,其实不容易. 因为它很容易被讲得特 阅读全文

摘要： 完整学习LLM(一):为什么我要系统学习大模型 好家伙, 最近这几天一直在写 RAG. 从"让大模型先查资料再回答",写到"微调和 RAG 的区别",又写到"为什么攻击力大于 50 这种问题不能只靠 RAG". 写着写着我发现一个问题: 我对大模型的理解有点像拼图. 这里懂一点 RAG,那里懂一点微 阅读全文

摘要： 为什么攻击力大于50这种问题不该只靠RAG? 好家伙, 前面已经写了两篇 RAG 相关的文章. 一篇讲 RAG 是什么: 让大模型先查资料,再回答问题. 一篇讲微调和 RAG 的区别: 微调解决怎么答. RAG解决根据什么资料答. 今天继续补一个很重要的问题: RAG 到底有没有边界? 这个问题很实 阅读全文

摘要： 微调和RAG学习笔记:同一个问题它们分别怎么处理 好家伙, 今天我们来聊一个很容易混在一起的问题: 模型微调 和 RAG 到底有什么区别? 这两个东西看起来都能让大模型回答得更贴近业务. 但它们解决的问题其实不一样. 我之前很容易把它们都理解成: 让模型懂我的项目 但这样理解太粗了. 更准确一点应该 阅读全文

摘要： RAG学习笔记:让大模型先查资料再回答问题 好家伙, 这次我们来聊 RAG. RAG 这个词最近出现得很多,但如果只是记住它的英文全称,其实没什么用. 我更关心的是: 它到底解决什么问题? 为什么一个普通大模型问答不够用? 文档是怎么变成知识库的? 用户提问时系统背后到底发生了什么? 所以这篇文章不 阅读全文