C114通信网  |  通信人家园

资讯
2023/9/21 11:12

华为云昇腾AI云服务正式上线:一键接入澎湃算力,让大模型走向普惠

C114通信网  舒允文

C114讯 9月21日午间消息(舒允文)华为全联接大会2023上,华为常务董事、华为云CEO张平安宣布昇腾AI云服务已正式上线,企业一键接入即可获取澎湃的AI算力,让千行万业实现大模型普惠。同时昇腾AI云服务“百模千态”专区亦已正式上线,支撑企业和开发者更加快速地创建自己的大模型应用,在大模型时代快人一步。

 

全智能时代,AI算力的需求急剧增长。但AI服务器的功率密度远超通用服务器,单机柜功耗是过去的6-8倍,且需要专用的液冷系统散热;同时,大模型训练需要百卡、千卡甚至万卡支撑,服务器之间的互联、时延、可靠性、运维极为复杂,自建AI数据中心面临诸多挑战。

为了更好地支撑“百模千态”,华为云在贵安、乌兰察布、芜湖部署三大AI算力中心,为企业提供澎湃AI算力。企业只需一键接入,即可随取随用AI云服务,不用再费时费力自建或改造传统数据中心。值得一提的是,针对数据隐私担忧,华为云昇腾AI云服务采用数据传输加密、数据存储加密、数据安全清除、数据访问控制、数据水印防泄露等多重技术,保障云上训练的数据全生命周期安全。

同时,华为云昇腾AI云服务“百模千态”专区也已经上线。除了支持盘古大模型,还将适配业界主流的上百个开源大模型,如LLAMA、GLM等。企业既可以基于盘古L0层和L1层能力,建设自己的大模型应用,也可以基于业界开源的大模型技术,打造自己的专属大模型。

此外,华为云昇腾AI云服务还提供高效长稳的大模型训练环境和完备的工具链,实现千卡训练连续30天不中断,任务恢复时长小于30分钟;并可通过30多个可视化调优和部署工具,帮助企业更高效进行数据处理、模型微调、Prompt工程等,完成一个千亿参数行业模型的端到端开发,可从过去的5个月缩短到现在的1个月,整体速度提升5倍。

给作者点赞
0 VS 0
写得不太好

版权说明:C114刊载的内容,凡注明来源为“C114通信网”或“C114原创”皆属C114版权所有,未经允许禁止转载、摘编,违者必究。对于经过授权可以转载我方内容的单位,也必须保持转载文章、图像、音视频的完整性,并完整标注作者信息和本站来源。编译类文章仅出于传递更多信息之目的,不代表证实其描述或赞同其观点;翻译质量问题请指正

热门文章
    最新视频
    为您推荐

      C114简介 | 联系我们 | 网站地图 | 手机版

      Copyright©1999-2024 c114 All Rights Reserved | 沪ICP备12002291号

      C114 通信网 版权所有 举报电话:021-54451141