摘要: 广义来说并行分为俩种,提高单元效率是时域并行,一般是通过提高 utilization,而增加单元数量则是空域并行。现代处理器中往往各种并行机制混合存在,本文旨对不同的并行机制分析归类。大部分并行机制都是针对俩个问题:1)解耦单元之间的依赖关系提高并行度 [1],以及2)访存问题,后续并行机制大都可以 阅读全文
posted @ 2024-08-23 19:52 DevilXXL 阅读(69) 评论(0) 推荐(0)
摘要: ETH Computer Architecture Fall 2023 [1]课程笔记 从 parallelism 到 heterogeneity Admal's Law 和 Polloack's Rule 支撑 parallelism。理想 N 核对单核加速比遵守 \(s = \frac{1}{p 阅读全文
posted @ 2024-08-09 22:42 DevilXXL 阅读(165) 评论(0) 推荐(0)
摘要: “数学的关键是作图呐!”—— 知名数学教师,孙庆宏 Bayesian Inference Overview of IC Design 从 PPA 出发想办法把各项指标关系用一张图表示,很多地方还不是展现得很好,比如 Arch 的部分都用 utilization 概括了,用 FLOPS 表示 perf 阅读全文
posted @ 2024-08-07 15:01 DevilXXL 阅读(45) 评论(0) 推荐(0)
摘要: ZigZag 在 PE array-memory hierarchy level 上对 nested-loop based 算子数据部署设计策略进行详细分析。文章作者来自鲁汶 MICAS [1]实验室。 软硬件建模 软件上只涉及 MAC-based 的网络算子(Linear、Convolutiona 阅读全文
posted @ 2024-08-04 18:18 DevilXXL 阅读(226) 评论(0) 推荐(0)
摘要: 互联网络泛泛谈 互联网络是一种图结构,节点之间通过边连接。比如一般总线计算机架构中 CPU、Memory、Timer 等模块看作节点, 通过总线相连。 每个节点在网络中的身份是不对等的,有 master 和 slave 之分,或者按 TLM 中的模型 initiator 和 target。Initi 阅读全文
posted @ 2024-07-29 23:22 DevilXXL 阅读(173) 评论(0) 推荐(0)
摘要: ❗️此坑还没填完,等到后面用到 triton 再补充 既生 CUDA, 何生 triton CUDA 编程昂贵上手门槛促使 triton 的诞生[1]。 语法福利 相比 CUDA C++ like 的设计风格,triton 使用 python。语法回避 C++ 模板编程和指针;环境集成比起 Pyto 阅读全文
posted @ 2024-07-26 16:52 DevilXXL 阅读(967) 评论(0) 推荐(0)
摘要: 在数字电路中也有冲突冒险的概念,也表示对公共资源的冲突,此文的冒险则侧重于流水线并行中的冒险概念。 现代 ISA 并非描述依赖的语言 数据相关即 Producer-Consumer 关系,后一个指令的输入依赖前一个指令的输入,根据因果性二者的执行必须串行。这种指令间的因果依赖关系要靠图结构来表示,每 阅读全文
posted @ 2024-07-21 00:39 DevilXXL 阅读(259) 评论(0) 推荐(0)
摘要: Introduction ITRS [1]每次预测未来 15 年半导体的发展,2024 年恰好是 Dark Silicon 文章写作年份 ITRS 预测最后一年[2]。15 年回首,重温 《Dark silicon and the end of multicore scaling》[3] 这篇伟大文 阅读全文
posted @ 2024-07-12 18:36 DevilXXL 阅读(448) 评论(0) 推荐(0)
摘要: 朋友们好,距离上篇总结又过去了半年,这句话非常重量,代表我cos科研人员已经一年!奉上一年总结,自勉之! Outline 修正先前的科研生活模型[1],带 * 号在先前的博客中有涉及。 A. 知识输入 读什么文章* (带着目的做调研) 怎么快速判断文章好不好* (数据是普适价值) B. 产出 如何选 阅读全文
posted @ 2024-06-27 17:39 DevilXXL 阅读(175) 评论(0) 推荐(0)
摘要: ❗️此坑还没填完 人造游戏尚难以用模型以概之,何况真实世界? 经济增长即是总产出增长 Cobb-Douglas 生产函数: \[Y = A K^{\alpha} L^{\beta} \]产出 \(Y\) (total production)和什么相关? 可累加投入(规模) 劳力投入(Labor) \ 阅读全文
posted @ 2024-05-26 21:43 DevilXXL 阅读(463) 评论(0) 推荐(0)