导语
国内首个实现100%全国产化的10万卡AI超算集群正式投入商用。从算力芯片、服务器硬件、网络设备、调度系统到散热方案,全部采用国产技术方案。这不仅是算力规模的突破,更是中国AI算力基础设施自主可控的里程碑。本文从技术角度深度拆解集群的四大核心系统。
一、整体架构:四层分布式算力池
10万卡超集群采用分层解耦的分布式架构设计,自上而下分为四层:
1. 算力层
集群核心,搭载10万张国产AI加速芯片,统一池化管理。算力池支持动态切分,可根据任务需求分配不同规模的算力资源,支持千卡级、万卡级大模型训练任务,也支持大量小推理任务并发运行。
2. 服务器层
采用国产高密度AI服务器,单节点搭载多张算力芯片,支持液冷散热。所有服务器通过高速互联网络连接,形成统一的算力资源池。节点支持热插拔、在线扩容,集群规模可平滑扩展。
3. 网络层
采用自研全栈国产高速互联网络,从网卡到交换机全部国产化。构建无阻塞胖树拓扑,节点间通信延迟控制在微秒级,满足大规模分布式训练的All-Reduce通信需求。
4. 平台层
一体化智能算力平台,向上提供统一的算力调度、任务管理、监控运维、安全管控能力。用户通过平台提交训练、推理任务,无需关心底层硬件细节。
二、网络拓扑:无阻塞胖树架构
大规模AI集群最容易卡脖子的不是算力,而是网络。10万卡规模下,如果网络设计不合理,大量算力会浪费在等待数据上。
本集群采用Clos胖树拓扑结构,这是超大规模数据中心的主流网络架构:
-
接入层:每台服务器接入TOR交换机;
-
汇聚层:多台TOR接入汇聚交换机;
-
核心层:汇聚交换机接入核心骨干交换机。
该架构的核心优势是无阻塞:任意两个节点之间都有足够的带宽路径,不会因为局部流量过大导致整体拥塞。配合自研拥塞控制算法,大规模分布式训练的通信效率达到业界顶尖水平。
同时网络具备高可用特性:任意链路、任意交换机故障,流量自动切换到备用路径,不影响业务运行。
三、智能调度系统:算力的智能大脑
10万卡算力如果调度不好,利用率会非常低。集群搭载自研智能算力调度系统,是整个集群的大脑。
核心调度能力
-
算力池化调度:将物理算力抽象为逻辑资源池,任务按需申请、用完释放,大幅提升算力利用率;
-
智能装箱算法:自动匹配任务需求与节点资源,尽量将任务紧凑排布,减少资源碎片;
-
故障自愈调度:实时监控节点健康状态,节点故障时自动迁移任务,训练任务不中断;
-
优先级调度:支持多级任务优先级,保障重点科研、政企任务的算力供给;
-
弹性伸缩调度:支持训练任务动态扩卡缩卡,适配不同阶段的算力需求。
通过精细化调度,集群整体算力利用率达到行业领先水平,远高于传统人工分配模式。
四、全浸没式液冷散热方案
10万卡算力的功耗是惊人的,传统风冷方案根本无法承载。集群采用单相全浸没式液冷散热方案,这也是当前高密度算力集群的最优解。
液冷方案原理
-
所有服务器整机浸没在绝缘冷却液中;
-
芯片发热直接传导到冷却液中;
-
冷却液通过外部循环换热,将热量带出机房;
-
全程无风扇、无空气参与换热。
核心优势
-
散热效率极高:PUE值降至1.05左右,远低于风冷数据中心的1.4-1.6,大幅节能;
-
部署密度更高:单机柜功率密度数倍于风冷,节省大量机房空间;
-
设备寿命更长:恒温无振动环境,硬件故障率显著降低;
-
噪音极低:没有大量风扇,机房运行噪音大幅下降。
五、产业价值与意义
-
自主可控:全栈国产化彻底摆脱海外算力依赖,保障国家AI基础设施安全;
-
支撑大模型:为国产万亿参数大模型训练提供充足算力底座,加速国产大模型技术迭代;
-
普惠算力:向科研机构、中小企业、创业团队提供普惠算力,降低AI创新门槛;
-
产业示范:验证了全国产算力集群的可行性,为后续更大规模算力建设提供技术范本。
结语
10万卡不是一个简单的数字。它背后是芯片、服务器、网络、调度、散热等一整套工业体系的综合实力体现。全国产超算集群的投用,标志着中国不仅能用好AI,也能造好AI的基础设施。算力底座的自主可控,才是AI产业长远发展的根本保障。
浙公网安备 33010602011771号