Hot Chips 2024见闻:不出所料,AI占主导地位

北京时间9月5日消息(水易)近日,光通信市场研究机构LightCounting对在“Hot Chips 2024”期间的话题进行了总结。据了解,Hot Chips技术会议聚焦于半导体和微处理器的设计与创新,是全球芯片行业颇具影响力的会议。

LightCounting表示,今年的Hot Chips会议正值生成式人工智能炒作周期的顶峰。OpenAI的Trevor Cai在他的主题演讲中提出了人工智能计算的牛市案例。

然而,在这个以技术发布著称的大会上,来自商业芯片供应商的演讲却令人失望。尽管演讲阵容强大,但鲜有新的细节出现。

英伟达公司关于Blackwell架构的演讲主要是重复之前披露的信息。不过,其中一张幻灯片上的GB200 NVL36机架的照片却让人觉得“一图胜千言”。

许多客户更喜欢NVL 36,而不是高功耗的NVL 72,后者需要每个机架高达120kW的功率。两者的主要区别在于,NVL 36机架中间显示的NVLink交换机托盘具有前面板框架,而NVL 72中使用的“不可扩展”NVLink交换机托盘仅具有用于NVLink spine/backplane的背板连接器。

虽然英伟达省略了布线细节,但外部NVLink线缆可能包括无源(DAC)和有源铜缆(ACC/AEC)以及可插拔光模块。NVL 36为布线创造了一个新的细分市场,尽管短期内主要是铜缆。

英特尔早在今年4月就发布了Gaudi 3 AI加速器,但其性能仍值得重申。新芯片使用 48x112G SerDes集成了24x200G以太网端口。与微软的Maia一样,Gaudi 3 芯片可直接连接以实现向上扩展,也可通过交换机连接以实现集群扩展。集成网卡支持用于低延迟RDMA数据传输的RoCE协议。

在另一场演讲中,英特尔再次讨论了4Tbps光计算互联(OCI)芯片组。演讲者强调了激光器集成的价值,并强调了迄今为止出货量已超过3千万的激光器所具有的0.1FIT可靠性。

博通公司介绍了其用于带有光学附加功能的人工智能计算ASIC的共封装光学(CPO)技术,主要涉及其Bailly CPO交换机,还有一些关于CPO在XPU中的新细节和概念。

博通公司还介绍了“oceanfront”的封装概念,它不同于beachfront,主要是将光学引擎连接到CoWoS 封装基板上,可为CPO连接提供比硅插层更多的线性空间。此外,也介绍了在未来的光学引擎中使用双向(bidi)信号的想法,将光纤的用量减半。

也许今年商业芯片供应商退居数据中心运营商之后是合适的。毕竟,正是后者推动了对人工智能基础设施的大规模投资。人工智能架构的多样性应该对供应链有利,在英伟达定制的全栈解决方案之外开辟机会。


企业会员

免责声明:本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿,凡在本网站出现的信息,均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏,概不负任何法律责任。任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时,应及时向本网站提出书面权利通知或不实情况说明,并提供身份证明、权属证明及详细侵权或不实情况证明。本网站在收到上述法律文件后,将会依法尽快联系相关文章源头核实,沟通删除相关内容或断开相关链接。

2024-09-05
Hot Chips 2024见闻:不出所料,AI占主导地位
Hot Chips 2024见闻:不出所料,AI占主导地位,C114讯 北京时间9月5日消息(水易)近日,光通信市场研究机构LightCounting对在“Ho

长按扫码 阅读全文

Baidu
map