我的随笔

从梯度下降维度来理解PPO强化学习——估计ds也是这样的

bonelee 2025-11-18 15:20 阅读:14 评论:0 推荐:0

如何理解强化学习提高大模型的泛化能力？——SFT是学生死记老师给的标准答案。强化学习是学生参加开放问答竞赛，每次回答都有老师评分，学生根据评分不断调整思考方式和答案风格，从而能应对各种刁钻新题

bonelee 2025-11-18 14:47 阅读:9 评论:0 推荐:0

GPT1：语言理解 + 分类任务（fine-tuning） GPT2：语言生成 GPT2没有微调了，都是预训练

bonelee 2025-11-18 12:03 阅读:6 评论:0 推荐:0

gpt1用于文本分类

bonelee 2025-11-18 11:50 阅读:2 评论:0 推荐:0

大模型智能的核心是压缩吗？

bonelee 2025-11-12 16:33 阅读:17 评论:0 推荐:0

Lora微调的底层原理——核心是替换linear层，详细可以看《从0构建大模型》

bonelee 2025-11-11 15:37 阅读:91 评论:0 推荐:0

layernorm和batchnorm的区别——一个是行归一化一个是列归一化，一个是对输出激活归一化，一个主要是对输入归一化

bonelee 2025-11-10 20:26 阅读:193 评论:0 推荐:0

为什么rnn的hidden state不如注意力机制好用？翻译这个例子实在是太好了

bonelee 2025-11-10 16:46 阅读:6 评论:0 推荐:0

tiktoken 为什么可以处理没有见过的token？底层机制是字典树+贪心合并算法

bonelee 2025-11-10 15:55 阅读:32 评论:0 推荐:0

MOE中 switch transformer

bonelee 2025-11-05 21:32 阅读:15 评论:0 推荐:0