
开云体育(中国)官方网站华为推出了昇腾超节点工夫-开云官网kaiyun皇马赞助商 (中国)官方网站 登录入口
新闻资讯
华为在2025年的鲲鹏昇腾设立者大会上,崇敬揭晓了其最新的工夫立异——昇腾超节点工夫。这一工夫不仅杀青了业界前所未有的384卡高速总线互联领域,更为AI大模子的将来发展拓荒了新旅途。 面前,AI大模子的发展正处于参数领域与启动后果轮流进步的要道阶段。一方面,Scaling Law抓续推进模子智商的界限拓展;另一方面,诸如DeepSeek等立异架构与工夫,正加速模子在百行万企的落地诈骗措施。在此布景下,MoE模子结构逐步成为主流,但其复杂的羼杂并行政策给野心带来了高大挑战,单次通讯量高达GB级别
详情
华为在2025年的鲲鹏昇腾设立者大会上,崇敬揭晓了其最新的工夫立异——昇腾超节点工夫。这一工夫不仅杀青了业界前所未有的384卡高速总线互联领域,更为AI大模子的将来发展拓荒了新旅途。
面前,AI大模子的发展正处于参数领域与启动后果轮流进步的要道阶段。一方面,Scaling Law抓续推进模子智商的界限拓展;另一方面,诸如DeepSeek等立异架构与工夫,正加速模子在百行万企的落地诈骗措施。在此布景下,MoE模子结构逐步成为主流,但其复杂的羼杂并行政策给野心带来了高大挑战,单次通讯量高达GB级别且难以通过工夫技能掩饰。
跟着模子并行领域的日益扩大,传统作事器跨机带宽的死心愈发突显,成为制约教训后果的要道成分。传统作事器主要依赖以太网罗杀青跨机互联,通讯带宽有限。实施标明,当散布式政策的羼杂并行域非凡8卡时,跨机通讯带宽便成为领略的性能瓶颈,导致举座性能显耀下滑。
为了突破这一瓶颈,华为推出了昇腾超节点工夫。该工夫突破了传统的以CPU为中心的冯诺依曼架构,立异性地冷落了平等野心架构。通过高速总线互联工夫,华为到手将总线从作事器里面膨胀至整机柜乃至跨机柜,杀青了通讯性能的要紧飞跃。在超节点范围内,高速总线互联替代了传统的以太网,通讯带宽进步了15倍,单跳通讯时延从2微秒裁汰至200纳秒,降幅达10倍。这一变革使得集群内的各节点简略像一台野心计通常协同责任,从而灵验突破了系统性能的死心。
据悉,这次推出的昇腾384超节点由12个野心柜和4个总线柜构成,是面前业界领域最大的超节点。依托华为在ICT领域的深厚积聚与不凡工夫实力,该超节点通过最好负载平衡组网决议,可进一步膨胀为包含数万卡的Atlas 900 SuperCluster超节点集群,为将来更大领域模子的演进提供了坚实支抓。
性能测试数据浮现,在昇腾超节点集群上启动LLaMA 3等千亿级粘稠模子时,性能比较传统集群进步了2.5倍以上。而在通讯需求更高的Qwen、DeepSeek等多模态、MoE模子上开云体育(中国)官方网站,性能进步更是达到了3倍以上,相较于业界其他集群,性能跳跃1.2倍,彰显了华为昇腾超节点在AI野心领域的最初地位。