华为推出全新架构昇腾 AI 合计集群,反对于超万亿参数大模子磨炼
时间:2025-02-25 20:29:00 出处:热点阅读(143)
IT之家 9 月 20 日新闻,华为合计在今日举行的推出华为全毗邻大会 2023 时期,华为常务董事、全新ICT 根基配置装备部署营业规画委员会主任、架构集群企业 BG 总裁汪涛正式宣告全新架构的昇腾昇腾 AI 合计集群 ——Atlas 900 SuperCluster ,可反对于超万亿参数的反对大模子磨炼。

据介绍 ,于超新集群接管了全新的参数华为河汉 AI 智算交流机 CloudEngine XH16800 ,借助其高密的大模 800GE 端口能耐,两层交流收集即可实现 2250 节点(等效于 18000 张卡)超大规模无收敛集群组网。磨炼
新集群同时运用了立异的华为合计超节点架构,大大提升了大模子磨炼能耐。推出此外,全新发挥华为在合计、架构集群收集 、昇腾存储、能源等规模的综合优势 ,从器件级 、节点级、集群级以及营业级周全提升零星坚贞性,将大模子磨炼晃动性从天级提升到月级。
此外,华为宣告了更凋谢、更易用的 CANN 7.0 异构合计架构 ,不光周全兼容业界的 AI 框架、减速库以及主流大模子,还深度凋谢底层能耐 ,让 AI 框架以及减速库可能更直接地调用以及规画合计资源 ,使能开拓者自界说高功能算子 ,让大模子具备差距化的相助力 。

华为还降级了 Ascend C 编程语言 ,以更高效的编程方式 ,简化算子实现逻辑 ,大幅延迟融会算子的开拓周期