我的随笔

深度学习常用的Attention操作（MHA/Casual Attention）以及内存优化管理(Flash Attention/Page Attention)

Big-Yellow-J 2025-03-02 15:07 阅读:1224 评论:0 推荐:0

常见的各类LLM基座模型（GPT、DeepSeek、Qwen等）模型解析以及对比

Big-Yellow-J 2025-03-02 15:07 阅读:3957 评论:0 推荐:2

深度学习基础理论————混合专家模型（MoE）/KV-cache

Big-Yellow-J 2025-01-29 22:14 阅读:1421 评论:0 推荐:0

深度学习基础理论————CV中常用Backbone(Resnet/Unet/Vit系列/多模态系列等)以及代码

Big-Yellow-J 2025-01-24 17:44 阅读:1598 评论:0 推荐:2

机器学习基础原理————可解释性Shap Value原理及代码

Big-Yellow-J 2025-01-18 11:47 阅读:2574 评论:0 推荐:0

机器学习基础原理————贝叶斯优化原理及代码实现

Big-Yellow-J 2025-01-18 11:46 阅读:2880 评论:0 推荐:0

机器学习基础原理————可解释性LIME原理

Big-Yellow-J 2025-01-18 11:37 阅读:745 评论:0 推荐:0

深度学习基础理论————DeepSpeed

Big-Yellow-J 2025-01-13 20:08 阅读:1516 评论:0 推荐:0

深度学习基础理论————训练加速（单/半/混合精度训练）/显存优化（gradient-checkpoint）

Big-Yellow-J 2025-01-03 19:33 阅读:1370 评论:0 推荐:0

深度学习基础理论————分布式训练（模型并行/数据并行/流水线并行/张量并行）

Big-Yellow-J 2025-01-01 16:58 阅读:4236 评论:0 推荐:0

levels of contents