高速互联常用概念

• 各种类型芯片

  • CPU：中央处理器，通用处理器，串行计算，英特尔、华为海思、高通
  • GPU: 图形处理器，并行计算，如矩阵运算、图形渲染等，擅长训练，英伟达，国内有寒武纪、沐曦、摩尔线程
  • NPU: 神经网络处理器，擅长推理，华为昇腾、寒武纪
  • TPU: 张量处理器，Google开发的专用AI加速器

• Scale-Up
  算力集群内部，算力芯片之间的高速互联技术

• Scale-Out
  算力集群内部之间的高速互联技术

• NVLINK和NVSWITCH
  英伟达为Scale-Up而设计
  NVLINK主要替换带宽受限的PCIe，用于点对点的通信，所以支持的算力卡有限，因为要求集群里的每张卡都需要与其他所有卡点对点连接；
  NVSWITCH，提升可互联的算力卡，每张卡都通过NVLINK连接到NVSWITCH，由其连接所有算力卡
  

• 有源/无源光铜概念

  • DAC: Direct Attach Cable，直连电缆、直连铜缆
  • AOC: Active Optical Cable，有源光缆
  • AEC: Active Electrical Cable，有源电缆
  • ACC: Active Copper Cable，有源铜缆

• 光互联

  • LPO: Linear Pluggable Optics， 传统可插拔光模块
    
    芯片到光口的PCB插损很大，DSP需要对损失的信号进行补偿，最新的光互连技术皆在于减小损耗、去除DSP。有些LPO也没有DSP。
  • NPO: Near-Packaged Optics，近封装光模块
    将光引擎与xPU芯片（如GPU、NPU或交换ASIC）并排放置在相同的高性能PCB或有机基板上，并通过极短的高速电气走线进行连接。
  • CPO: Co-Packaged Optics，共封装光模块
    从NPO发展而来的高度集成的光电子互连技术。其核心理念是将光引擎直接集成到同一封装内的开关ASIC或xPU中。

• CPC
  Co-Packaged Copper，共封装铜互联，与CPO类似。CPC适合Scale-Up，CPO适合Scal-Out。