上一页 1 2 3 4 5 6 ··· 79 下一页
2026年8月3日
InfiniBand 专题【左扬精讲】—— InfiniBand 架构简介：从五层模型到子网管理
摘要： InfiniBand 专题【左扬精讲】—— InfiniBand 架构简介：从五层模型到子网管理 InfiniBand（通常简称 IB）在高性能计算（HPC）、AI 训练集群、分布式存储等场景里被广泛使用，它和我们熟知的以太网在协议设计思路、转发模型、管理方式上都有非常明显的差异。 本篇以 NVID 阅读全文
posted @ 2026-08-03 23:38 左扬 阅读(27) 评论(0) 推荐(0)
PyTorch 2.x 深度学习专题【左扬精讲】—— 大规模分布式训练核心要素：从并行策略到通信原语的理论详解
摘要： PyTorch 2.x 深度学习专题【左扬精讲】—— 大规模分布式训练核心要点：从并行策略到通信原语的理论知识 分布式训练 数据并行 模型并行 流水线并行 张量并行 通信原语 All-Reduce NCCL 学习重点提示 本文涵盖分布式训练的核心知识，内容深度依次递进。建议读者根据自身背景选择性深入 阅读全文
posted @ 2026-08-03 14:11 左扬 阅读(20) 评论(0) 推荐(0)
2026年8月2日
PyTorch 2.x 深度学习专题【左扬精讲】—— 计算大模型的参数量：从 Embedding 到 LM Head，以 GPT-3 175B 为例
摘要： PyTorch 2.x 深度学习专题【左扬精讲】—— 计算大模型的参数量：从 Embedding 到 LM Head，以 GPT-3 175B 为例 大模型火了好几年，但 "这个模型有多少参数"这个问题，真正能从头推一遍的人少之又少。 本篇来补上这块硬功夫——把 GPT-3 175B 的参数量从 E 阅读全文
posted @ 2026-08-02 19:45 左扬 阅读(28) 评论(0) 推荐(0)
PyTorch 2.x 深度学习专题【左扬精讲】—— Attention 的两个补丁：Positional Encoding 与 Masked Self-Attention，从 Encoder 跨到 Decoder
摘要： PyTorch 2.x 深度学习专题【左扬精讲】—— Attention 的两个补丁：Positional Encoding 与 Masked Self-Attention，从 Encoder 跨到 Decoder 上一篇把 Self-Attention 的四步公式 Softmax(Q K^T / 阅读全文
posted @ 2026-08-02 17:58 左扬 阅读(15) 评论(0) 推荐(0)
2026年8月1日
PyTorch 2.x 深度学习专题【左扬精讲】—— 注意力机制到底在做什么，Q/K/V 怎么来的？一文读懂 Attention 注意力机制
摘要： PyTorch 2.x 深度学习专题【左扬精讲】—— 注意力机制到底在做什么，Q/K/V 怎么来的？一文读懂 Attention 注意力机制 本文是 PyTorch 2.x 深度学习专题【左扬精讲】 系列：把 Transformer 里的 Self-Attention 一次性讲透——Scaled D 阅读全文
posted @ 2026-08-01 15:59 左扬 阅读(22) 评论(0) 推荐(0)
2026年7月29日
Golang OpenTelemetry 源码专题【左扬精讲】—— 千万级生产项目中的 OpenTelemetry Collector：从一条真实数据路径说起
摘要： Golang OpenTelemetry 源码专题【左扬精讲】—— 千万级生产项目中的 OpenTelemetry Collector：从一条真实数据路径说起 本文是一篇开篇总览，但不做 "从零搭建 APM" 的工程规划，而是从一个真实生产项目视角出发：当业务每天产生千万级乃至更高量级的 Span、 阅读全文
posted @ 2026-07-29 23:40 左扬 阅读(9) 评论(0) 推荐(0)
2026年7月28日
PyTorch 2.x 深度学习专题【左扬精讲】—— 词嵌入详解：从独热编码到上下文相关表示
摘要： PyTorch 2.x 深度学习专题【左扬精讲】—— 词嵌入详解：从独热编码到上下文相关表示 在自然语言处理（NLP）领域，如何让机器 "理解" 人类语言是一个核心问题。 词嵌入（Word Embedding）作为将离散符号映射为连续稠密向量的关键技术，是现代 NLP 深度学习模型的基石。 本文将系 阅读全文
posted @ 2026-07-28 15:12 左扬 阅读(19) 评论(0) 推荐(0)
2026年7月26日
PyTorch 2.x 深度学习专题【左扬精讲】—— 位置编码：为什么 Transformer 需要知道词的顺序？
摘要： PyTorch 2.x 深度学习专题【左扬精讲】—— 位置编码：为什么 Transformer 需要知道词的顺序？ 在前几篇文章中，我们讲了 Attention、多头注意力、残差连接。细心的小伙伴可能注意到了一个问题：Attention 的计算和位置无关。 什么意思呢？Attention 本质上是一 阅读全文
posted @ 2026-07-26 18:38 左扬 阅读(20) 评论(0) 推荐(0)
PyTorch 2.x 深度学习专题【左扬精讲】—— 残差连接：让信息直接"跳过"层传播
摘要： PyTorch 2.x 深度学习专题【左扬精讲】—— 残差连接：让信息直接"跳过"层传播 在之前的文章中，我们讲了 Self-Attention 和多头注意力。它们是 Transformer 的核心组件，能让序列中任意两个位置直接对话。但还有一个问题：如果把很多层 Attention 堆在一起，会发 阅读全文
posted @ 2026-07-26 18:27 左扬 阅读(24) 评论(0) 推荐(0)
PyTorch 2.x 深度学习专题【左扬精讲】—— 多头注意力机制：为什么一个头不够用？
摘要： PyTorch 2.x 深度学习专题【左扬精讲】—— 多头注意力机制：为什么一个头不够用？ 上一篇文章我们讲了 Self-Attention（自注意力机制），它能让序列中任意两个位置直接"对话"，不受距离限制。这已经很厉害了，但还有一个问题：如果只用单一注意力头，模型只能学习到一种类型的相关性。 举 阅读全文
posted @ 2026-07-26 16:25 左扬 阅读(19) 评论(0) 推荐(0)
上一页 1 2 3 4 5 6 ··· 79 下一页