摘要: 分词器是所有 LLM 系统的第一层,却常年被当作黑盒:文本怎么变成 token、词表怎么构建、"为什么模型数不清 strawberry 里有几个 r"——答案都在分词器里。这篇文章从字节编码出发完整实现 BPE(Byte-Pair Encoding),解释它为什么是当前所有主流模型的选择,以及它造成 阅读全文
posted @ 2026-11-19 21:16 汤姆百宝箱 阅读(4) 评论(0) 推荐(0)
摘要: Agent 框架的代码往往藏在厚厚的抽象层里,但一个能干活的 Agent 循环核心不过三百行:模型决定调用什么工具、系统执行并把结果喂回、循环直到任务完成。这篇文章从零实现这个循环——包括工具注册、ReAct 式推理、真正的错误恢复与循环失控防护——每一处设计决策都给出失败案例作为依据。 一、最小循 阅读全文
posted @ 2026-11-17 23:40 汤姆百宝箱 阅读(4) 评论(0) 推荐(0)
摘要: 把 fp16 权重压到 4 比特甚至 3 比特而不明显损失质量,是推理侧最直接的显存杠杆。量化不是简单"降低精度":不同格式、不同粒度、是否感知激活,得到的结果天差地别。这篇文章沿着复杂度阶梯完整实现——从两行的 absmax 量化到需要校准数据的 GPTQ——每一级都给出代码与误差来源分析。 一、 阅读全文
posted @ 2026-11-15 16:10 汤姆百宝箱 阅读(9) 评论(0) 推荐(0)
摘要: 法考历年真题及答案解析合集pdf版(2002-2025年) 本文系统梳理了2002—2025年法考真题及答案解析,强调真题是备考核心。法考分客观题与主观题两阶段,考查八大部门法,需掌握“先理解后背诵”复习顺序。建议按刑法、民法、刑诉、民诉、行政法、商经知、理论法、三国法的节奏备考,注重真题三遍刷法、法条检索与打字训练。警惕盲目求全、只听不练、战线过长等误区,坚持“一千小时定律”,科学规划方能高效通关。 阅读全文
posted @ 2026-11-14 16:05 汤姆百宝箱 阅读(22) 评论(0) 推荐(0)
摘要: 自回归解码是逐 token 串行的:一次前向出一个词,GPU 的并行能力完全用不上。投机解码是当前部署侧最优雅的加速方案——它不改动目标模型的任何权重、保证输出分布与目标模型完全一致,却能把解码速度提高两到三倍。这篇文章把它的正确性证明、实现细节与失败模式一次讲清。 一、核心机制:草稿+验收 设目标 阅读全文
posted @ 2026-11-13 14:34 汤姆百宝箱 阅读(8) 评论(0) 推荐(0)
摘要: 推理服务器的性能上限不取决于模型,取决于调度器——同样的模型,换一个调度策略,吞吐可以差三倍。传统深度学习服务的静态批处理在 LLM 场景下完全失灵:请求的输出长度不可预知,短请求被长请求拖着浪费算力。这篇文章实现 LLM 时代的标准答案——连续批处理(continuous batching),并管 阅读全文
posted @ 2026-11-12 23:12 汤姆百宝箱 阅读(11) 评论(0) 推荐(0)
摘要: 前八篇拆的都是模型本身:怎么训练、怎么服务、怎么算得更久。Agent 把模型从"回答问题的系统"变成"软件系统里的一个组件",可靠性问题随之换了一个量纲——单次采样错 0.1% 无伤大雅,而一千步循环里的 0.999 连乘只剩 37%。Agent 工程的全部主题,就是把这个串联可靠性数学重新抬回可用 阅读全文
posted @ 2026-11-10 21:38 汤姆百宝箱 阅读(14) 评论(0) 推荐(0)
摘要: pip 排错,把新手环境地狱归结为一句话:多仓库归属不明——包属于哪个 Python、哪个版本、哪台机器,全靠运行时猜。给的解法是纪律性的:python -m pip 锁归属、pip freeze 记版本、显式写 Python 路径。纪律能缓解病,但病根还在——只要依赖关系的“真相”依然散落在“各自 阅读全文
posted @ 2026-11-09 22:30 汤姆百宝箱 阅读(17) 评论(0) 推荐(0)
摘要: 每个第一次独立管服务器的人,迟早会撞上这两个灵异现象。 现象一:线上一个 Java 进程卡死了,界面无响应、CPU 零占用。你熟练地 kill -9 <pid>——一秒后 ps aux | grep java,进程还在,纹丝不动。再 kill -9,还在。你开始怀疑命令失效了,怀疑权限,甚至怀疑服务 阅读全文
posted @ 2026-11-08 15:33 汤姆百宝箱 阅读(17) 评论(0) 推荐(0)
摘要: 2026医学教材资料合集pdf电子版完整齐全 本文整理了一份涵盖临床、中医、护理、药学等多专业的医学生资料合集,包含本科期末复习资料、第九版临床教材(23本可复制书签)、研究生“红色生死恋”教材68本及配套PPT课件。文章强调资料使用需结合自身专业与学习阶段,以“蓝皮教材打基础、红皮教材备研考、规培教材练实战”为路径,倡导精准定位、主线唯一、避免囤积,真正实现从“收藏”到“阅读”的转化,提醒医学生:真正的成长在于读透一本好书,而非拥有全部资料。 阅读全文
posted @ 2026-11-07 22:19 汤姆百宝箱 阅读(26) 评论(0) 推荐(0)
摘要: 每个写过处理中文数据的 Python 脚本的人,迟早会撞上这两个灵异现象中的一个。 现象一:你在 Windows 上开发、测试、跑通,提交到 Git。同事在 Mac 上 clone 下来一跑,直接炸: UnicodeDecodeError: 'utf-8' codec can't decode by 阅读全文
posted @ 2026-11-06 16:31 汤姆百宝箱 阅读(28) 评论(0) 推荐(0)
摘要: 参数量和每 Token 计算量,这两个在 Dense 模型里永远绑定的量,在混合专家(MoE)里被拆开了:DeepSeek-V3 有 671B 参数,但每个 Token 只激活其中 37B。这组数字描述的交换是:用 18 倍的显存,买走同等激活量的 Dense 模型质量。2024 年之后前沿模型的公 阅读全文
posted @ 2026-11-05 10:12 汤姆百宝箱 阅读(20) 评论(0) 推荐(0)
摘要: 每个学完面向对象的人,几乎都会经历同一条路径:某天刷到“大厂面试必考设计模式”,下单那本封面画着 23 种模式结构图的经典书,两周啃完,合上书的那一刻热血沸腾——觉得自己掌握了“高级编程”的密码。 然后第一次实战来了。需求是给用户加积分,我大笔一挥: from abc import ABC, abs 阅读全文
posted @ 2026-11-04 17:01 汤姆百宝箱 阅读(14) 评论(0) 推荐(0)
摘要: 第一次设计 API 的新手,交出来的东西几乎总是这个样子: POST /api/getUserList POST /api/createUser POST /api/deleteUser?id=123 POST /api/updateUserInfo 全部 POST、URL 里全是动词、响应永远 2 阅读全文
posted @ 2026-11-03 16:04 汤姆百宝箱 阅读(9) 评论(0) 推荐(0)
摘要: 训练完成的那一刻,成本才刚开始发生。推理是把训练投资变现的环节,也是工程优化的主战场:同等能力的单 Token 价格在两三年里下降了两个数量级,而支撑这个数字的不是模型变小,而是服务侧工程的一整套组合拳——调度、显存管理、量化、投机解码。把这些技术拆开看,它们全部服从同一条第一性原理:解码阶段瓶颈在 阅读全文
posted @ 2026-11-02 08:49 汤姆百宝箱 阅读(19) 评论(0) 推荐(0)
摘要: 每个用 Pandas 处理数据的人,都会在某个深夜遭遇这个时刻: import pandas as pd import numpy as np df = pd.DataFrame({ 'name': ['张三', '李四', '王五', '赵六'], 'score': [85, np.nan, 92 阅读全文
posted @ 2026-10-30 14:50 汤姆百宝箱 阅读(17) 评论(0) 推荐(0)
摘要: 去年接了个活:给一个读书会搭个博客,需求朴素——作者登录发文、访客浏览评论。我用最快的路径起步:app.py 一个文件塞下路由、models.py 塞下数据库、templates/ 放模板,五分钟跑通了 hello world,得意地提交了第一版。 第二周需求长出来了:要加评论、要加标签、要加用户中 阅读全文
posted @ 2026-10-28 13:53 汤姆百宝箱 阅读(14) 评论(0) 推荐(0)
摘要: 每个第一次用 VS Code 写 Python 的人,都会遭遇这个翻车现场:装好了 VS Code、装好了 Python 扩展、终端里 pip install requests 跑得干干净净,代码也能正常运行。但回到编辑器一看——import requests 下面拖着一条长长的波浪线,悬停显示 I 阅读全文
posted @ 2026-10-27 15:45 汤姆百宝箱 阅读(33) 评论(0) 推荐(0)
摘要: 抓包的时候看到那三行——SYN → SYN, ACK → ACK,很多人第一反应是“能通就行,为什么非得三次”。我刚学网络那会儿也这么想,直到有次线上服务出现大量 CLOSE_WAIT 连接堆积,才逼着自己把这个问题从头推了一遍。今天把“为什么是三次”讲透,顺便把面试会追问的延伸点一起收拾了。 先说 阅读全文
posted @ 2026-10-26 13:50 汤姆百宝箱 阅读(17) 评论(0) 推荐(0)
摘要: 去年接了个看起来很简单的活:财务部每月要从五个部门收集 Excel 报表,人工汇总成一份总表——复制粘贴 + 手工核对,每月耗掉整整一天。需求方问能不能用 Python 自动化,我评估了一下:读五个文件、按部门汇总、写一个总表,pandas 半小时的事。 第一版代码当天跑通,我满意地交付了。三天后财 阅读全文
posted @ 2026-10-25 13:36 汤姆百宝箱 阅读(21) 评论(0) 推荐(0)
摘要: 《人情世故指南》完整原版:年轻人的社会第一课,为人处世的底层逻辑~How To Get Along 《人情世故指南:HowToGetAlong》是一份开源免费、持续更新的实用手册,专为不懂社交规则的大学生与职场新人设计。它将待人接物、送礼往来、饭局礼仪、职场分寸等难题拆解为77条可操作建议,强调“真诚得体”而非圆滑世故。每条建议均包含判断要点、话术模板与代价分析,帮助读者在拒绝、求助、金钱往来等场景中清醒选择,既不委屈自己,也不伤害关系。核心理念:人情练达不是讨好,而是懂得分寸——知道每句话的分量,也愿为说出它付账。建议收藏,遇事翻查,从“不敢说”到“敢说且说得清”。 阅读全文
posted @ 2026-10-24 23:04 汤姆百宝箱 阅读(98) 评论(0) 推荐(0)
摘要: 每个学正则的新手都会经历这个堪称灵异的时刻:在 Regex101 上调了半小时,绿色的匹配高亮闪闪发光,完美。把 pattern 复制进 Python,跑一下——要么 re.error: incomplete escape,要么匹配结果和测试工具里完全不同,要么最诡异的:返回的列表里不是字符串,是一 阅读全文
posted @ 2026-10-23 22:29 汤姆百宝箱 阅读(16) 评论(0) 推荐(0)
摘要: 每个程序员的第一次部署翻车都长一个样: 本地跑得好好的 Flask 应用,传到服务器上,启动三秒后崩了。排查半天,发现服务器是 Python 3.11 而你是 3.13,requirements.txt 里那个依赖的编译版本对不上;修好了,又发现服务器没装 libpq,PostgreSQL 驱动连编 阅读全文
posted @ 2026-10-22 23:02 汤姆百宝箱 阅读(36) 评论(0) 推荐(0)
摘要: 《高性价比人生指南》完整原版:普通人用最少的资源,过好这一生的底层逻辑~How To Live Better 《高性价比人生指南》是一份基于实证、拒绝焦虑的生存手册,倡导以“人生时薪”为视角,重新计算时间、金钱与精力的成本与收益。它不承诺逆袭,只教人算清账:省下的钱若耗掉时间便亏;买体验比买物品更值;睡眠是最高杠杆的健康投资;关系贵在情绪价值而非表面热络;学习重在改变行为而非自我安慰。核心理念:用低成本、高回报的微小行动,换取长期的选择权——不是成为谁,而是掌控自己人生的主动权。 阅读全文
posted @ 2026-10-21 23:40 汤姆百宝箱 阅读(182) 评论(0) 推荐(0)
摘要: 每个第一次做慢查询优化的后端新手,都会撞上同一堵墙: ALTER TABLE orders ADD INDEX idx_status (status); -- 半天后,运维告警:这条 SQL 拖垮了数据库 SELECT * FROM orders WHERE DATE(create_time) = 阅读全文
posted @ 2026-10-20 23:56 汤姆百宝箱 阅读(15) 评论(0) 推荐(0)
摘要: asyncio 是我技术栈里学得最反复的一个东西——不是难在语法,而是难在每学一遍都发现上一遍的理解是错的。 第一次学,我以为 async 的意思是“并行”,于是给一个纯计算函数加上 async def,纳闷为什么速度没有任何变化。第二次学,我写出了 await 加 time.sleep() 的代码 阅读全文
posted @ 2026-10-19 21:37 汤姆百宝箱 阅读(34) 评论(0) 推荐(0)
摘要: 这个坑我是被项目逼着学会的。 有一次产品要求给所有接口加耗时统计,我打开函数,开头写一行 start_time = time.time(),return 前再写一行 print。改到第三个函数时我开始怀疑人生——同样的代码复制粘贴几十遍,以后改格式还得逐个文件翻。于是搜索"Python 不修改函数添 阅读全文
posted @ 2026-10-18 23:11 汤姆百宝箱 阅读(15) 评论(0) 推荐(0)
摘要: 每个 Python 新手都经历过这个堪称玄学的时刻: $ pip install pandas Successfully installed pandas-2.2.3 $ python -c "import pandas" ModuleNotFoundError: No module named ' 阅读全文
posted @ 2026-10-15 13:31 汤姆百宝箱 阅读(169) 评论(1) 推荐(2)
摘要: 2026医学教材资料合集pdf电子版完整齐全 🩺 今天给大家整理了一份超全医学生资料合集:从本科期末复习资料、参考书籍,到临床医学第九版教材23本(可复制全书签)及配套PPT课件,再到“红色生死恋”研究生教材68本;专业覆盖超广,临床(五年制/八年制)、中医、护理、药学、口腔、麻醉、影像、康复、眼视光、法医、预防、规培、器官系统整合教材应有尽 阅读全文
posted @ 2026-10-14 16:34 汤姆百宝箱 阅读(37) 评论(0) 推荐(0)
摘要: 每个写爬虫的新手都会经历同一个瞬间:教程抄完了,回车按下去了,期待中的电影榜单没出现,屏幕上冷冰冰地打印出一个 <Response [418]>。 不是网络断了,不是代码抄错了。418 是豆瓣在明确告诉你:我看出来你不是浏览器,你是个脚本,我不接待。 这个状态码本身就是个圈内梗——它出自一个愚人节 阅读全文
posted @ 2026-10-14 00:12 汤姆百宝箱 阅读(37) 评论(0) 推荐(0)
摘要: 新手第一次按下 F12 打开浏览器的 Network 面板时,通常会愣住:我只是打开了一个网页,为什么下面冒出七十八条请求,红的黄的绿的挤成一排? 答案是:你“打开一个网页”这件事,本质上是向世界各地的服务器寄了几十封快递。 主文档是一封,每张图片是一封,每个 CSS、JS 文件各是一封,统计脚本又 阅读全文
posted @ 2026-10-11 22:13 汤姆百宝箱 阅读(32) 评论(0) 推荐(0)
摘要: 每个程序员的第一次 Git 噩梦都惊人地相似:git push 被拒绝,提示 non-fast-forward,你上网一搜,有人让你 git pull,有人让你 git push --force;你选了后者,然后覆盖掉了同事一整天的工作。又或者:rebase 跑到一半,满屏红字,你吓得按下 Ctrl 阅读全文
posted @ 2026-10-11 00:04 汤姆百宝箱 阅读(16) 评论(0) 推荐(0)
摘要: 高性价比人生的本质,不是省钱,而是用最少的资源撬动最大的人生质量。 当你真正理解了这句话,你会发现“性价比”这三个字不仅不俗气,反而是对抗消费主义时代最清醒的武器。它关乎的不是怎么花小钱,而是怎么把你不可再生的金钱、时间、注意力和情绪,投到真正能产生复利的地方去。 我们这一代人,正生活在一个历史上最 阅读全文
posted @ 2026-10-10 00:05 汤姆百宝箱 阅读(97) 评论(0) 推荐(0)
摘要: 同一颗芯片,云端跑得飞起的模型搬到手机上却慢成蜗牛——2026 年端侧推理工程的核心命题只有一个:在内存墙与算力墙的双重挤压下,让每个字节和每个周期都物尽其用。 算力早已不是瓶颈,真正的敌人是带宽、是显存容量、是功耗预算。这篇文章拆解四个关键战场——量化、MoE 稀疏性、KV Cache、异构硬件— 阅读全文
posted @ 2026-10-08 15:43 汤姆百宝箱 阅读(55) 评论(0) 推荐(0)
摘要: 2026 年 7 月,Anthropic 做了一件让开发者社区哗然的事:他们将 Claude Code 的系统提示词砍掉了超过 80%,跑完内部编码评测后,没有检测到任何可测量的性能损失。两个月后,OpenAI 工程师在 GPT-6 Astra 发布当天的第一句话不是介绍新模型,而是"回去清理你的 阅读全文
posted @ 2026-10-07 23:24 汤姆百宝箱 阅读(90) 评论(0) 推荐(0)
摘要: 《高性价比人生指南》开源完整版(How To Live Better) 《高性价比人生指南》是一份开源免费、持续更新的实用生活手册,涵盖健康、理财、法律、心理等33个主题,共649条可落地建议。它以权威文献为依据,强调用最小投入规避风险、提升长期幸福感,倡导“少输即赢”的务实理念。不贩卖焦虑,不强求完美,只提供“备选清单”,帮助普通人守住寿命、时间、金钱与自由,理性决策,稳步前行。 阅读全文
posted @ 2026-10-07 13:24 汤姆百宝箱 阅读(13729) 评论(1) 推荐(0)