微软发布两款定制AI芯片,对标英伟达和英特尔相关产品

·人工智能11月16日 微软日前在西雅图举办的Ignite大会上发布了两款AI芯片。第一款是Maia 100 AI芯片,可以与英伟达备受追捧的AI GPU进行竞争;第二款是Cobalt 100 Arm芯片,用于一般计算任务,将与英特尔处理器进行竞争。

image001.png

微软副总裁Rani Borkar在接受媒体采访时表示,运行在Cobalt芯片上的虚拟机实例将于2024年通过微软的Azure云平台实现商业化运营,但她没有提供发布Maia 100的时间表。

如今,资金充裕的科技公司开始为客户提供更多的云计算选择,这些用户使用云计算基础设施来运行应用。多年来,阿里巴巴、亚马逊和谷歌一直在这样做。据估计,截至10月底,微软拥有约1440亿美元现金,在2022年占据了全球云市场21.5%的份额,仅次于亚马逊。

谷歌在2016年发布了其用于AI的TPU。而AWS在2018年发布了基于Graviton Arm的芯片和Inferentia AI芯片,并在2020年宣布了用于训练模型的Trainium芯片。

当GPU短缺时,云计算提供商提供的定制AI芯片可能有助于满足需求。但与英伟达或AMD不同,微软及其云计算供应商并不打算让用户购买包含其芯片的服务器。

Borkar解释说,微软根据客户反馈制造了用于AI计算的芯片。微软正在测试Maia 100如何满足其必应搜索引擎的AI聊天机器人(现在称为Copilot,而不是Bing Chat)、GitHub Copilot编码助手和GPT-3.5-Turbo的需求,后者是微软支持的OpenAI的一个大型语言模型。

GPT-3.5-Turbo模型适用于OpenAI的ChatGPT助手,该助手在去年推出后不久就广受欢迎。OpenAI随后迅速采取行动,在软件中添加类似的聊天功能,因此增加了对GPU的需求。

今年9月,英伟达CFO Colette Kress在纽约举行的Evercore会议上表示:“我们一直在与不同的供应商进行全面合作,以帮助改善我们的供应状况,并支持许多客户和以及满足他们的需求。”

OpenAI之前在Azure中使用Nvidia GPU训练模型。

除了设计Maia芯片外,微软还设计了一款名为Sidekicks的定制液冷硬件,可以安装在Maia服务器旁边的机架上。微软一位发言人表示,客户可以在机架上安装Sidekick,而无需对机房进行改造。

如果根据亚马逊的经验,微软对Cobalt处理器的采用速度可能会快于Maia AI芯片。微软正在Cobalt上测试Teams应用程序和Azure SQL数据库服务。微软表示,到目前为止,它们的性能比Azure现有的Arm芯片(由初创公司Ampere开发)高出40%。

在过去的一年,随着价格和利率的上升,许多企业都在寻求提高云计算支出效率的方法, AWS的客户Graviton就是其中之一。AWS副总裁Dave Brown表示,AWS排名前100位的客户现在都在使用基于Arm的芯片,这种芯片的性价比可以提高40%。

不过,从GPU转移到AWS Trainium AI芯片可能比从Intel Xeons转移到Gravitons更复杂。每个AI模型都有自己的问题。Brown表示,由于Arm在移动设备中的普及,许多人都在努力让各种工具在Arm上工作,而在AI的芯片上,情况就不太一样了。但他表示,随着时间的推移,很多企业会看到,Trainium的性价比与GPU相比也会有类似的提升。

微软副总裁Rani Borkar说:“我们已经与生态系统中的许多合作伙伴分享了这些规范,这将使我们所有的Azure客户受益。”但她并没有详细说明Maia与英伟达H100等替代产品的性能。

(免责声明:本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿,凡在本网站出现的信息,均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏,概不负任何法律责任。
任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时,应及时向本网站提出书面权利通知或不实情况说明,并提供身份证明、权属证明及详细侵权或不实情况证明。本网站在收到上述法律文件后,将会依法尽快联系相关文章源头核实,沟通删除相关内容或断开相关链接。 )

赞助商
2023-11-16
微软发布两款定制AI芯片,对标英伟达和英特尔相关产品
微软日前在西雅图举办的Ignite大会上发布了两款AI芯片。第一款是Maia 100 AI芯片,可以与英伟达备受追捧的AI GPU进行竞争;第二款是Cobalt 100 Arm芯片,用于一般计算任务,将与英特尔处理器进行竞争。

长按扫码 阅读全文

Baidu
map