C114通信网  |  通信人家园

资讯
2024/1/27 20:42

中国电信中部智算中心在武汉投运,支持部署万亿参数大模型

IT之家  泽泷(实习)

中国电信中部智算中心在武汉东湖新技术开发区(光谷)举行正式投入运营。中国电信专家介绍,该智算中心的算力、安全、环保及扩展性均达到一流水平,目前在中部地区属于最高等级

IT之家注意到,中国电信中部智算中心建设先进自主液冷智算集群,首次采用基于国产 AI 基础软硬件平台的方案架构,实现算、存、网、电、热整体设计。通过独特的嵌入式液冷单元,盲插总线架构,实现液冷到芯片,液冷到服务器,液冷到机柜,全场景 PUE≤1.15,在达到业内一流绿色节能环保水平的同时,可支持部署万亿参数大模型

中国电信在全国构建了多点智算中心,提供 5000PFLOPS 的智算算力,中部智算中心依托天翼云骁一体化算力平台,提供高性能、高显存、高兼容性的主流大模型训练、训推一体算力和国产自研架构的液冷高性能算力,可满足多场景算力需求。

中部智算中心可提供千卡规模的训练推理能力,并支持主流框架及芯片,基于训练推理的混合调度能力,资源利用率可以提升 20%。基于高性能的基础设施和一系列的优化技术,在千卡模型下并行计算效率可以达到 80%

给作者点赞
0 VS 0
写得不太好

  免责声明:本文仅代表作者个人观点,与C114通信网无关。其原创性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。

热门文章
    最新视频
    为您推荐

      C114简介 | 联系我们 | 网站地图 | 手机版

      Copyright©1999-2024 c114 All Rights Reserved | 沪ICP备12002291号

      C114 通信网 版权所有 举报电话:021-54451141