4月10日消息 在企业级AI基础设施市场上,英伟达毫无疑问占据了先发优势,但英特尔在奋起直追。
北京时间4月9日晚间,英特尔Vision大会召开。英特尔重磅发布了英特尔至强6处理器的全新品牌,推出英特尔Gaudi 3加速器,以高性能、开放性和灵活性助力企业推进生成式AI创新,并发布了涵盖全新开放、可扩展系统,下一代产品和一系列战略合作的全栈解决方案,以加速生成式AI落地。
其中,英特尔Gaudi 3加速器将会是英特尔对抗英伟达的利器。英特尔CEO基辛格也对此寄予厚望。企业希望将生成式AI从试验阶段扩展到应用阶段。因此,他们需要基于诸如英特尔Gaudi 3 AI加速器这样的高性能、经济实用、节能的处理器所打造的可快速部署的解决方案。并且,Gaudi 3还能满足复杂性、成本效益、碎片化、数据可靠性和合规性等需求。
英特尔表示,英特尔Gaudi 3 AI加速器将为AI系统提供动力,该AI系统可通过以太网的通用标准连接多达数万个加速器。与上一代产品相比,英特尔Gaudi 3将带来4倍的BF16 AI计算能力提升,以及1.5倍的内存带宽提升。该加速器将为寻求大规模部署生成式AI的企业带来AI训练和推理方面的重大飞跃。
英特尔Gaudi 3预计可大幅缩短70亿和130亿参数Llama2模型,以及1750亿参数GPT-3模型的训练时间。此外,在Llama 7B、70B和Falcon 180B大型语言模型(LLM)的推理吞吐量和能效方面也展现了出色性能。英特尔Gaudi 3加速器提供开放的、基于社区的软件和行业标准以太网网络,允许企业灵活地从单个节点扩展到拥有数千个节点的集群、超级集群和超大集群,支持大规模的推理、微调和训练。
对于Gaudi 3 芯片,英特尔在此前的新闻通气会上称该产品的能效是英伟达芯片的两倍多,运行 AI 模型的速度是英伟达 H100 GPU芯片的1.5倍。
Gaudi系列是英特尔在2022年5月面向人工智能应用场景专门推出的芯片品牌,用以对标英伟达的人工智能计算芯片。英特尔Gaudi 3将于2024年第二季度面向OEM厂商出货,包括戴尔、惠普和超微电脑在内的公司将使用该芯片。
- 蜜度索骥:以跨模态检索技术助力“企宣”向上生长
- 爱立信倪子铭:先发市场5G部署基本成型 5G-A演进动能依然强劲
- 加速迈向万兆时代:聚焦5G-A商业成功正当时
- 智赋“中国方案”,酿造“世界味道” ——中企通信助力华润啤酒数字化转型之路行稳致远
- 年度营收将超400亿:超聚变瞄准“城企数智”新机遇
- 专访亨鑫科技宋海燕:“绿色”和“智慧”指引,推动通信行业可持续发展
- 中国移动云化语音网络新通话新建设备集采:4家中标,华为呈最大赢家
- “连接+算力”构筑数智底座:探访中兴通讯2024年PT展之旅
- 中国工程院院士沈昌祥:“六不原则”打造安全可信的算力网络新业态
- 中国移动5G消息系统三期工程设备第一批集采:中兴、华为两家分食
- 上海万兆光网基础设施全国领先 10G PON以上端口占比近99%
免责声明:本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿,凡在本网站出现的信息,均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏,概不负任何法律责任。任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时,应及时向本网站提出书面权利通知或不实情况说明,并提供身份证明、权属证明及详细侵权或不实情况证明。本网站在收到上述法律文件后,将会依法尽快联系相关文章源头核实,沟通删除相关内容或断开相关链接。