blcblc - 博客园

2026年1月20日

该文被密码保护。阅读全文

posted @ 2026-01-20 18:02 blcblc 阅读(0) 评论(0) 推荐(0)

评测benchmarks，MMLU，big-bench，c-eval，gsm8k，human-eval

该文被密码保护。阅读全文

posted @ 2026-01-20 18:01 blcblc 阅读(0) 评论(0) 推荐(0)

摘要： AdamW 是对经典 Adam 的改进版本，通过解耦权重衰减（Weight Decay）与L2正则化，避免了原Adam中权重衰减受自适应学习率影响而失效的问题。这一特性在 Transformer、BERT 等NLP模型以及部分CV任务中表现尤为突出。核心原理：传统Adam将L2正则化项直接加到梯阅读全文

posted @ 2026-01-20 17:00 blcblc 阅读(35) 评论(0) 推荐(0)

无偏样本方差的证明，要多看看常复习

该文被密码保护。阅读全文

posted @ 2026-01-20 16:53 blcblc 阅读(1) 评论(0) 推荐(0)

softmax求导

摘要： https://mingchao.wang/CPxjCCZa/ Softmax 函数求导阅读全文

posted @ 2026-01-20 16:17 blcblc 阅读(6) 评论(0) 推荐(0)

GELU函数

摘要： https://www.paozippq.com/learn/ailab/llm/architecture/3/ GELU激活函数 https://blog.csdn.net/u013172930/article/details/153544283 GELU 激活函数详细介绍阅读全文

posted @ 2026-01-20 15:59 blcblc 阅读(6) 评论(0) 推荐(0)

这几天重点后训练/推理/图像吧，查漏补缺

该文被密码保护。阅读全文

posted @ 2026-01-20 15:28 blcblc 阅读(0) 评论(0) 推荐(0)

2026年1月19日

zz旋转位置编码，讲的非常好，这个系列都看完

该文被密码保护。阅读全文

posted @ 2026-01-19 17:28 blcblc 阅读(0) 评论(0) 推荐(0)

zz讲的还行，AI智能体三大思考框架深度剖析（CoT、ReAct 和 Plan-and-Execute）

摘要： https://zhuanlan.zhihu.com/p/1940072884048466961 AI智能体三大思考框架深度剖析（CoT、ReAct 和 Plan-and-Execute）还有这一篇，堆砌出来的，很一般 https://zhuanlan.zhihu.com/p/675509396 阅读全文

posted @ 2026-01-19 17:02 blcblc 阅读(3) 评论(0) 推荐(0)

zz大模型工具调用(function call)原理及实现，一般

摘要： https://zhuanlan.zhihu.com/p/663770472 大模型工具调用(function call)原理及实现阅读全文

posted @ 2026-01-19 14:36 blcblc 阅读(45) 评论(0) 推荐(0)

笨鸟居士的博客

公告