当前位置:首页 > 探索 > 华为推出全新架构昇腾 AI 合计集群,反对于超万亿参数大模子磨炼

华为推出全新架构昇腾 AI 合计集群,反对于超万亿参数大模子磨炼

2024-11-05 11:31:17 [知识] 来源:是你的运峰呀网

IT之家 9 月 20 日新闻,华为合计在今日举行的推出华为全毗邻大会 2023 时期 ,华为常务董事  、全新ICT 根基配置装备部署营业规画委员会主任、架构集群企业 BG 总裁汪涛正式宣告全新架构的昇腾昇腾 AI 合计集群 ——Atlas 900 SuperCluster ,可反对于超万亿参数的反对大模子磨炼。

据介绍 ,于超新集群接管了全新的参数华为河汉 AI 智算交流机 CloudEngine XH16800 ,借助其高密的大模 800GE 端口能耐 ,两层交流收集即可实现 2250 节点(等效于 18000 张卡)超大规模无收敛集群组网。磨炼

新集群同时运用了立异的华为合计超节点架构 ,大大提升了大模子磨炼能耐 。推出此外,全新发挥华为在合计、架构集群收集、昇腾存储、能源等规模的综合优势 ,从器件级 、节点级  、集群级以及营业级周全提升零星坚贞性 ,将大模子磨炼晃动性从天级提升到月级 。

此外,华为宣告了更凋谢、更易用的 CANN 7.0 异构合计架构 ,不光周全兼容业界的 AI 框架、减速库以及主流大模子,还深度凋谢底层能耐,让 AI 框架以及减速库可能更直接地调用以及规画合计资源,使能开拓者自界说高功能算子 ,让大模子具备差距化的相助力。

华为还降级了 Ascend C 编程语言 ,以更高效的编程方式  ,简化算子实现逻辑,大幅延迟融会算子的开拓周期 ,为 AI 模子与运用的快捷开拓赋能。

面向全天下企业以及开拓者 ,华为云官网今日正式上线昇腾 AI 云效率“百模千态”专区 ,专区收录了业界主流开源大模子,并周全基于昇腾 AI 云效率妨碍适配以及优化;提供运用开拓的工具链,开拓工具已经全副实现为了云化 ,免去啰嗦的配置装备部署流程 ,实现一键接入,即开即用。

IT之家查问患上悉,妨碍往年 7 月 ,昇腾 AI 集群已经反对于天下 25 个都市的家养智能合计中间建树  ,其中 7 个都市公共算力平台落选首批国家“新一代家养智能公共算力凋谢立异平台”。

同时,昇腾 AI 已经睁开 30 多家硬件过错 、1200 多家 ISV,散漫推出了 2500 多个行业 AI 处置妄想 ,规模效率于经营商、互联网 、金融等行业。

广告申明 :文内含有的对于外跳转链接(搜罗不限于超链接、二维码、口令等方式),用于传递更多信息,节约甄选光阴 ,服从仅供参考  ,IT之家所有文章均搜罗本申明。

(责任编辑:综合)

相关内容
推荐文章