导语

国内首个实现100%全国产化的10万卡AI超算集群正式投入商用。从算力芯片、服务器硬件、网络设备、调度系统到散热方案,全部采用国产技术方案。这不仅是算力规模的突破,更是中国AI算力基础设施自主可控的里程碑。本文从技术角度深度拆解集群的四大核心系统。

一、整体架构:四层分布式算力池

10万卡超集群采用分层解耦的分布式架构设计,自上而下分为四层:

1. 算力层
集群核心,搭载10万张国产AI加速芯片,统一池化管理。算力池支持动态切分,可根据任务需求分配不同规模的算力资源,支持千卡级、万卡级大模型训练任务,也支持大量小推理任务并发运行。

2. 服务器层
采用国产高密度AI服务器,单节点搭载多张算力芯片,支持液冷散热。所有服务器通过高速互联网络连接,形成统一的算力资源池。节点支持热插拔、在线扩容,集群规模可平滑扩展。

3. 网络层
采用自研全栈国产高速互联网络,从网卡到交换机全部国产化。构建无阻塞胖树拓扑,节点间通信延迟控制在微秒级,满足大规模分布式训练的All-Reduce通信需求。

4. 平台层
一体化智能算力平台,向上提供统一的算力调度、任务管理、监控运维、安全管控能力。用户通过平台提交训练、推理任务,无需关心底层硬件细节。

二、网络拓扑:无阻塞胖树架构

大规模AI集群最容易卡脖子的不是算力,而是网络。10万卡规模下,如果网络设计不合理,大量算力会浪费在等待数据上。

本集群采用Clos胖树拓扑结构,这是超大规模数据中心的主流网络架构:

  • 接入层:每台服务器接入TOR交换机;

  • 汇聚层:多台TOR接入汇聚交换机;

  • 核心层:汇聚交换机接入核心骨干交换机。

该架构的核心优势是无阻塞:任意两个节点之间都有足够的带宽路径,不会因为局部流量过大导致整体拥塞。配合自研拥塞控制算法,大规模分布式训练的通信效率达到业界顶尖水平。

同时网络具备高可用特性:任意链路、任意交换机故障,流量自动切换到备用路径,不影响业务运行。

三、智能调度系统:算力的智能大脑

10万卡算力如果调度不好,利用率会非常低。集群搭载自研智能算力调度系统,是整个集群的大脑。

核心调度能力

  1. 算力池化调度:将物理算力抽象为逻辑资源池,任务按需申请、用完释放,大幅提升算力利用率;

  2. 智能装箱算法:自动匹配任务需求与节点资源,尽量将任务紧凑排布,减少资源碎片;

  3. 故障自愈调度:实时监控节点健康状态,节点故障时自动迁移任务,训练任务不中断;

  4. 优先级调度:支持多级任务优先级,保障重点科研、政企任务的算力供给;

  5. 弹性伸缩调度:支持训练任务动态扩卡缩卡,适配不同阶段的算力需求。

通过精细化调度,集群整体算力利用率达到行业领先水平,远高于传统人工分配模式。

四、全浸没式液冷散热方案

10万卡算力的功耗是惊人的,传统风冷方案根本无法承载。集群采用单相全浸没式液冷散热方案,这也是当前高密度算力集群的最优解。

液冷方案原理

  • 所有服务器整机浸没在绝缘冷却液中;

  • 芯片发热直接传导到冷却液中;

  • 冷却液通过外部循环换热,将热量带出机房;

  • 全程无风扇、无空气参与换热。

核心优势

  1. 散热效率极高:PUE值降至1.05左右,远低于风冷数据中心的1.4-1.6,大幅节能;

  2. 部署密度更高:单机柜功率密度数倍于风冷,节省大量机房空间;

  3. 设备寿命更长:恒温无振动环境,硬件故障率显著降低;

  4. 噪音极低:没有大量风扇,机房运行噪音大幅下降。

五、产业价值与意义

  1. 自主可控:全栈国产化彻底摆脱海外算力依赖,保障国家AI基础设施安全;

  2. 支撑大模型:为国产万亿参数大模型训练提供充足算力底座,加速国产大模型技术迭代;

  3. 普惠算力:向科研机构、中小企业、创业团队提供普惠算力,降低AI创新门槛;

  4. 产业示范:验证了全国产算力集群的可行性,为后续更大规模算力建设提供技术范本。

结语

10万卡不是一个简单的数字。它背后是芯片、服务器、网络、调度、散热等一整套工业体系的综合实力体现。全国产超算集群的投用,标志着中国不仅能用好AI,也能造好AI的基础设施。算力底座的自主可控,才是AI产业长远发展的根本保障。