百度智能云昆仑芯三代集群再升级，三万卡算力矩阵即将点亮！

百度智能云点亮昆仑芯三代万卡集群，引领AI算力新纪元

近日，百度智能云传来振奋人心的消息，成功点亮了国内首个自研万卡集群——昆仑芯三代万卡集群。这一里程碑式的成就不仅标志着百度在人工智能算力领域取得了重大突破，更为整个行业带来了全新的发展动力。

据悉，该万卡集群的建成为百度提供了强大的算力支持，进一步推动了模型降本的趋势。在过去的一年里，随着大模型应用需求的不断增长，算力紧张成为了制约行业发展的关键因素之一。百度通过自研芯片和大规模集群的建设，不仅成功解决了自身的算力供应问题，更为整个行业提供了宝贵的经验和方向。

从算力的角度来看，昆仑芯三代万卡集群的超大规模并行计算能力实现了训练效率的显著提升。这一集群能够将千亿参数模型的训练周期大幅降低，从而满足AI原生应用快速迭代的需求。同时，它还能够支持更大规模的模型和复杂任务，以及多模态数据的处理，为Sora类应用的开发提供了坚实的支撑。

除了强大的计算能力外，昆仑芯三代万卡集群还具备出色的多任务并发能力。通过动态资源切分，单集群可以同时训练多个轻量化模型，有效提高了资源利用率。同时，通过通信优化与容错机制，该集群减少了算力浪费，实现了训练成本的指数级下降。

随着国产大模型的兴起，昆仑芯三代万卡集群逐渐从“单任务算力消耗”向“集群效能最大化”过渡。通过模型优化、有效训练率提升以及动态资源分配等手段，该集群实现了智能调度任务，将训练、微调、推理任务混合部署，从而提升了集群的综合利用率，降低了单位算力成本。

在万卡集群的建设过程中，百度百舸AI异构计算平台4.0（简称“百舸平台”）发挥了至关重要的作用。该平台突破了硬件扩展性瓶颈，解决了卡间互联的拓扑限制和通信带宽问题。同时，针对万卡规模常规方案功耗高的问题，百舸平台采用了创新性散热方案，有效解决了能效与散热问题。

在模型训练方面，百舸平台完善了分布式训练优化，采用高效并行化任务切分策略，显著提升了主流开源模型的训练效率。百舸平台还提供了容错与稳定性机制，保障了万卡集群的有效性。针对机间通信带宽需求，百舸平台建设了超大规模HPN高性能网络，优化了拓扑结构，降低了通信瓶颈。

百舸4.0构建了十万卡级别的超大规模HPN高性能网络，实现了跨地域通信的高效与稳定。通过优化的拓扑结构、多路径负载均衡策略及通信策略，百舸平台实现了几十公里的跨地域通信。同时，通过先进的拥塞控制算法和集合通信算法策略，百舸平台实现了完全无阻塞的通信效率，并通过超高精度网络监控保障了网络的稳定性。

在多芯混训方面，百舸平台展现了强大的资源整合能力。它能够统一管理不同地点、不同规模的异构算力，构建起多芯资源池。当业务提交工作负载时，百舸平台可自动进行芯片选型，选择性价比最高的芯片来运行任务，从而最大化地利用集群的剩余资源。这一能力使得万卡多芯混合训练效能高达95%，为行业树立了新的标杆。

在集群稳定性方面，百舸平台同样表现出色。它提供了全面的故障诊断手段，能够快速自动侦测到导致训练任务异常的节点故障。同时，百度自研的BCCL（百度集合通信库）能够快速定位故障并提供自动化的容错能力，将故障恢复时间从小时级降低到分钟级，显著提高了集群的可靠性和可用性。