摘要：
机器学习数学基础专题【左扬精讲】—— 稀疏特征与稠密特征：特征空间的两个世界 本文涉及的核心模块/API： nn.Embedding ← 稀疏 ID → 稠密向量（核心转换层） nn.Linear ← 全连接层（DNN 基础组件） nn.ReLU ← 激活函数（引入非线性） nn.Sequentia 阅读全文
posted @ 2026-07-13 19:58
左扬
阅读(40)
评论(0)
推荐(0)
摘要：
机器学习数学基础专题【左扬精讲】—— 大模型推理与部署：从 PyTorch 到 ONNX / TensorRT / vLLM 训练只是大模型落地的第一步。 训练好的模型要真正服务于用户，必须经过推理优化与部署：用 ONNX 跨平台导出，用 TensorRT 做 GPU 极致加速，用 vLLM 处理高 阅读全文
posted @ 2026-07-13 19:44
左扬
阅读(39)
评论(0)
推荐(0)
摘要：
机器学习数学基础专题【左扬精讲】—— 混合精度与分布式训练：从单机单卡到 DDP、FSDP、DeepSpeed 当模型参数量突破数十亿乃至数千亿时，单卡显存和单机算力成为瓶颈。混合精度训练（AMP）用半精度浮点减少显存占用、加速计算；分布式训练把计算和参数分散到多卡多机上，实现横向扩展。 本文从底层 阅读全文
posted @ 2026-07-13 19:36
左扬
阅读(24)
评论(0)
推荐(0)
摘要：
机器学习数学基础专题【左扬精讲】—— 学习率调度器全解：Warmup、Cosine、Linear、Polynomial、ReduceLROnPlateau 学习率是优化器的核心超参，但 "固定学习率" 几乎从来不是最优选择。学习率调度器（Learning Rate Scheduler）根据训练步数、 阅读全文
posted @ 2026-07-13 19:34
左扬
阅读(49)
评论(0)
推荐(0)
摘要：
机器学习数学基础专题【左扬精讲】—— 大模型的优化器详解：从 SGD 到 AdamW，从动量到自适应学习率 优化器（Optimizer）是训练循环中唯一负责 "修改模型参数" 的组件。 前向传播产生预测，损失函数衡量错误，反向传播计算梯度——但真正把梯度转化为参数更新的，是优化器。 本文从最基础的 阅读全文
posted @ 2026-07-13 19:19
左扬
阅读(118)
评论(0)
推荐(0)
摘要：
机器学习数学基础专题【左扬精讲】—— 大模型的训练循环：Epoch、Batch、Iteration 的三层骨架 在深度学习里，训练循环（Training Loop）不是一个黑盒按钮，而是一套被严格拆解的流水线：Epoch 控制遍历节奏，Batch Loop 控制梯度更新频率，Iteration 才是 阅读全文
posted @ 2026-07-13 18:46
左扬
阅读(33)
评论(0)
推荐(0)
浙公网安备 33010602011771号