04 2025 档案

DeepSeek模型MOE结构代码详解
摘要：其实在DeepSeek-R1爆火之前，DeepSeek V2在我们行业就已经妇孺皆知了，它独特的MOE结构值得研究一下。这篇文章是基于 ZOMI酱 的2个视频写的，这2个视频讲的很好，建议大家都学习一下：《MOE终于迎来可视化解读！傻瓜都能看懂MoE核心原理！》和《使用昇腾NPU手撕MoE单机版代码 阅读全文
posted @ 2025-04-21 12:27 AI布道Mr-Jin 阅读(239) 评论(0) 推荐(0)
MindIE LLM场景快速上手实验
摘要：MindIE是昇腾自研推理框架，本实验手册可指导小白用户快速掌握MindIE在LLM（large language model）场景的基本功能，包括：大模型推理功能测试、大模型性能测试、大模型精度测试、服务化推理部署、benchmark测试等。 1 实验准备 1.1 软硬件环境 本实验使用的设备是8 阅读全文
posted @ 2025-04-07 17:11 AI布道Mr-Jin 阅读(304) 评论(0) 推荐(0)