摘要: AI Infra 大厂专题【左扬精讲】—— 大模型训练的时代背景与挑战 阅读前必读:本文数据使用与免责说明 本文涉及的行业数据(如 GPT-3 训练成本、DeepSeek 模型规模、国内芯片算力差距等)来源于 公开报告、行业分享、课程材料 等多渠道整理,仅用于说明大模型训练的时代背景与趋势脉络。 数 阅读全文
posted @ 2026-08-16 12:30 左扬 阅读(17) 评论(0) 推荐(0)
摘要: AI Infra 大厂专题【左扬精讲】—— 2026 大厂 AI Infra 用户画像分析:从岗位分层、能力门槛到薪资天花板 阅读前必读:本文数据使用与免责说明 数据来源:本文薪资、岗位画像、面试考点等数据综合自 2026 年公开招聘 JD、行业调研、面经汇总,具体数字为中位数参考,不构成权威依据, 阅读全文
posted @ 2026-08-14 23:54 左扬 阅读(50) 评论(0) 推荐(0)
摘要: eBPF 源码专题【左扬精讲】—— eBPF 概述:是什么、如何运行与发展历史 本文讨论 eBPF(extended Berkeley Packet Filter)的基本概念、发展脉络、应用场景和运行流程。 eBPFBPFLinuxXDP可观测性网络安全 一、eBPF 是什么 eBPF 是 Linu 阅读全文
posted @ 2026-08-11 22:02 左扬 阅读(10) 评论(0) 推荐(0)
摘要: PyTorch 2.x 深度学习专题【左扬精讲】—— 张量并行:列并行与行并行的前向/反向传播、MHA 子层切分与通信开销最小化 本篇深入剖析大模型训练中最重要的层内并行技术—— 张量并行(Tensor Parallelism, TP)。 当模型的单层参数(Transformer 单一层内部全部可学 阅读全文
posted @ 2026-08-08 17:59 左扬 阅读(21) 评论(0) 推荐(0)
摘要: PyTorch 2.x 深度学习专题【左扬精讲】—— PyTorch vs TensorFlow:面试复盘 前几天面试,面试官问了一道经典问题:"PyTorch 和 TensorFlow 有什么区别?为什么 PyTorch 在学术界更流行?" 当时我虽然能答上来一些,但不够系统全面。回来之后花了点时 阅读全文
posted @ 2026-08-07 17:16 左扬 阅读(13) 评论(0) 推荐(0)
摘要: PyTorch 2.x 深度学习专题【左扬精讲】—— 讲讲模型太大:超深、超宽与大数据量的显存挑战 本专题内容导航 训练深度学习模型时,"显存不够"是每个算法工程师都会遇到的典型问题。运行代码后屏幕弹出 CUDA out of memory 报错。 NVIDIA A100 单卡提供 80GB HBM 阅读全文
posted @ 2026-08-06 17:46 左扬 阅读(10) 评论(0) 推荐(0)
摘要: InfiniBand 专题【左扬精讲】—— InfiniBand 上层:协议、传输与管理层 在上一单元中,我们深入探讨了InfiniBand网络层的传输机制与流量控制原理。 作为高性能互连网络的基石,InfiniBand不仅仅是一套物理和传输规范,更构建了完整的五层协议栈。本单元我们将视线从 "怎么 阅读全文
posted @ 2026-08-04 19:23 左扬 阅读(19) 评论(0) 推荐(0)
摘要: InfiniBand 专题【左扬精讲】—— InfiniBand 网络层:GID 与子网路由 InfiniBand(简称 IB)网络层是 IB 架构中承上启下的关键层次,它使得跨子网通信成为可能。与传统以太网依赖 IP 地址进行三层路由类似,IB 网络层使用 GID(Global Identifie 阅读全文
posted @ 2026-08-04 18:33 左扬 阅读(16) 评论(0) 推荐(0)
摘要: InfiniBand技术专题【左扬精讲】—— 链路层详解:从数据包到流量控制 InfiniBand(简称 IB)是一种为 HPC 和 AI 训练集群设计的高速互连网络,相比传统以太网,它能提供 微秒级甚至亚微秒级 的端到端延迟。 本篇深入探讨 InfiniBand 链路层的核心知识,包括数据包管理、 阅读全文
posted @ 2026-08-04 17:32 左扬 阅读(15) 评论(0) 推荐(0)
摘要: InfiniBand 专题【左扬精讲】—— InfiniBand 物理层:五层架构与数据包结构入门 InfiniBand(简称 IB)是一种为 HPC 和 AI 训练集群设计的高速互连网络,相比传统以太网,它能提供 微秒级甚至亚微秒级 的端到端延迟。 本篇是 InfiniBand 架构的入门奠基篇, 阅读全文
posted @ 2026-08-04 16:05 左扬 阅读(14) 评论(0) 推荐(0)