LSU在NVGPU中的分布

GPU 中的层级结构：GPU → GPC → TPC -> SM → SMSP
GA100 芯片中共有 8 个 GPC，在 A100 中屏蔽了一个，共 7 个 GPC，每个 GPC 内部 8 个 TPC；GH100 芯片中也是 8 个 GPC，但是每个 GPC 内部有 9 个 TPC。
每个 TPC 内部如图有 2 个 SM，但可能存在某些 SM 单独被屏蔽的情况，因此 A100 中有 108 个 SM，H100‑SXM5 是 132，而 H100‑PCIe 仅有 114 个。
H100 新特性 Thread Block Cluster（TBC），要求参与 cluster 的 block 必须跑在同一个 GPC 内部，跨 GPC 不支持 TBC。

每个 SM 内部会划分出 4 个 SMSP 子分区，每个子分区有 8 个 LSU，共 32 个 LSU，不同分区的 LSU 不共享。