算力集群

应用层：训练框架(Megatron/DeepSpeed) + 推理框架(vLLM/TensorRT-LLM)

调度层：Slurm / K8s+Volcano/Kueue

运行时层：容器(Docker/Containerd) + CUDA/NCCL

网络层：IB/RoCE + 拓扑设计 ← 集群核心难点

存储层：并行文件系统 + 对象存储

硬件层：计算节点 + 网络设备 + 供电散热