C114通信网  |  通信人家园

资讯
2024/4/10 08:58

英特尔推出Gaudi 3加速器:部分性能超越H100 将于Q2面向OEM 厂商出货

C114通信网  

C114讯 4月10日消息 在企业级AI基础设施市场上,英伟达毫无疑问占据了先发优势,但英特尔在奋起直追。

北京时间4月9日晚间,英特尔Vision大会召开。英特尔重磅发布了英特尔至强6处理器的全新品牌,推出英特尔Gaudi 3加速器,以高性能、开放性和灵活性助力企业推进生成式AI创新,并发布了涵盖全新开放、可扩展系统,下一代产品和一系列战略合作的全栈解决方案,以加速生成式AI落地。

其中,英特尔Gaudi 3加速器将会是英特尔对抗英伟达的利器。英特尔CEO基辛格也对此寄予厚望。企业希望将生成式AI从试验阶段扩展到应用阶段。因此,他们需要基于诸如英特尔Gaudi 3 AI加速器这样的高性能、经济实用、节能的处理器所打造的可快速部署的解决方案。并且,Gaudi 3还能满足复杂性、成本效益、碎片化、数据可靠性和合规性等需求。

英特尔表示,英特尔Gaudi 3 AI加速器将为AI系统提供动力,该AI系统可通过以太网的通用标准连接多达数万个加速器。与上一代产品相比,英特尔Gaudi 3将带来4倍的BF16 AI计算能力提升,以及1.5倍的内存带宽提升。该加速器将为寻求大规模部署生成式AI的企业带来AI训练和推理方面的重大飞跃。

英特尔Gaudi 3预计可大幅缩短70亿和130亿参数Llama2模型,以及1750亿参数GPT-3模型的训练时间。此外,在Llama 7B、70B和Falcon 180B大型语言模型(LLM)的推理吞吐量和能效方面也展现了出色性能。英特尔Gaudi 3加速器提供开放的、基于社区的软件和行业标准以太网网络,允许企业灵活地从单个节点扩展到拥有数千个节点的集群、超级集群和超大集群,支持大规模的推理、微调和训练。

对于Gaudi 3 芯片,英特尔在此前的新闻通气会上称该产品的能效是英伟达芯片的两倍多,运行 AI 模型的速度是英伟达 H100 GPU芯片的1.5倍。

Gaudi系列是英特尔在2022年5月面向人工智能应用场景专门推出的芯片品牌,用以对标英伟达的人工智能计算芯片。英特尔Gaudi 3将于2024年第二季度面向OEM厂商出货,包括戴尔惠普和超微电脑在内的公司将使用该芯片。

给作者点赞
0 VS 0
写得不太好

版权说明:C114刊载的内容,凡注明来源为“C114通信网”或“C114原创”皆属C114版权所有,未经允许禁止转载、摘编,违者必究。对于经过授权可以转载我方内容的单位,也必须保持转载文章、图像、音视频的完整性,并完整标注作者信息和本站来源。编译类文章仅出于传递更多信息之目的,不代表证实其描述或赞同其观点;翻译质量问题请指正

热门文章
    最新视频
    为您推荐

      C114简介 | 联系我们 | 网站地图 | 手机版

      Copyright©1999-2024 c114 All Rights Reserved | 沪ICP备12002291号

      C114 通信网 版权所有 举报电话:021-54451141