Cloud&AI
`
2024/7/9 11:01
无问芯穹Infini-AI云平台宣布支持千卡混训,具备万卡扩展能力
0
0

7月9日上午消息,近日,无问芯穹联合创始人兼CEO夏立雪发布了无问芯穹大规模模型异构分布式混合训练系统,该系统千卡异构混合训练集群算力利用率最高达97.6%。同时,无问芯穹Infini-AI云平台宣布已集成大模型异构千卡混训能力,可进行单任务千卡规模异构芯片混合训练,具备万卡扩展性,支持包括AMD华为昇腾、天数智芯、沐曦、摩尔线程、NVIDIA六种异构芯片在内的大模型混合训练。

据介绍,7月起,通过试训申请的用户,已可在Infini-AI上一键发起700亿参数规模的大模型训练。今年三月,无问芯穹Infini-AI大模型开发与服务云平台宣布首次公测,智谱AI、月之暗面、生数科技等大模型公司客户在Infini-AI上稳定使用异构算力,还有20余家AI Native应用创业公司在Infini-AI上持续调用各种预置模型API,使用无问芯穹提供的工具链开发业务模型。

“上次我们证明了10多种异构芯片在Infini-AI上可被用于大模型推理,这次我们则是证明了异构算力在Infini-AI上可以被用来做大模型训练。”夏立雪表示,“这项技术工程化的初衷,是希望能够通过整合更多异构算力,继续推高大模型技术能力的上限,同时通过打通异构芯片生态,持续降低大模型应用落地成本。”

免责声明:本文仅代表作者个人观点,与C114通信网无关。其原创性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。

给作者点赞
0 VS 0
写得不太好

C114简介     联系我们     网站地图

Copyright©1999-2025 c114 All Rights Reserved 沪ICP备12002291号-4

C114通信网版权所有 举报电话:021-54451141 用户注销