2025-04-28 18:56:09 来源:互联网
华为助力中国电信打造的智算昇腾超节点成为粤港澳大湾区内最快部署、最先投产、最先进的智算集群,满足高性能高可靠的大模型训练需求和高吞吐低时延的大模型推理需求,为大湾区人工智能产业高质量发展注入了新动能,开启赋能政务、制造、教育医疗等行业智能化。这不仅是技术的突破,更是对区域和国家数字经济发展的有力推动。
陶景文介绍,大模型参数量级跨越式增长,顶尖AI公司日均tokens消耗突破12万亿量级,多模态融合交互,层出不穷的AI新应用都对算力效率提出了更高要求。中国电信率先推出全球首个智算昇腾超节点商用集群,该超节点采用昇腾AI基础软硬件,结合高速总线互联,具备大规模、高性能、高可用等特性。超节点架构成功突破算力瓶颈,使用TB级全互联带宽、内存统一编址及统一通信协议等前沿技术,实现训练效率提升2.7倍。其还运用大规模专家并行推理集群解决方案,通过多专家负载均衡和极致通信优化,实现高吞吐和低时延,大幅提升推理效率,能够充分满足未来千亿至万亿级 MOE 大模型的训练与推理需求。
华为将继续加大力度,支撑中国电信基于昇腾超节点优化、迭代自研星辰大模型,升级大模型能力,为用户提供更优质的服务;同时,基于昇腾超节点对外赋能,促进 AI 赋能政务办公和服务升级,加速AI在实体经济中落地。助力中国电信进一步巩固在国内人工智能领域的产业引领地位,强化算力布局先发优势,持续推进智算服务升级。
陶景文最后总结:"展望未来,华为将秉持开放、合作、共赢理念,与中国电信及广大合作伙伴,持续加大AI研发投入,深化在基础设施建设、产业生态培育、行业创新应用等方面的合作,把粤港澳大湾区昇腾超节点智算集群打造成国内领先、国际一流的智算平台,为大湾区数字经济发展提供算力支撑。”
免责声明:本网站(http://www.ciotimes.com/)内容主要来自原创、合作媒体供稿和第三方投稿,凡在本网站出现的信息,均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏,概不负任何法律责任。
本网站刊载的所有内容(包括但不仅限文字、图片、LOGO、音频、视频、软件、程序等)版权归原作者所有。任何单位或个人认为本网站中的内容可能涉嫌侵犯其知识产权或存在不实内容时,请及时通知本站,予以删除。