英伟达今年预计卖出55万块H100 GPU：平均售价3万美元，利润高达9倍

·芯片8月25日 GPU市场需求旺盛，导致英伟达 H100 GPU供不应求。根据《金融时报》最近的报道，英伟达预计其最新的H100 GPU今年在全球的销量达到55万块。

对GPU的需求显然来自生成式AI的开发热潮，但高性能计算市场也在尽力抢购。目前尚不清楚这个数字是否包括中国专用的A800和H800 GPU。

另据行业KOL透露，英伟达制造一块H100 GPU的成本为3320美元，而平均零售价约为3万美元，利润高达9倍。

英伟达GPU大部分流向美国公司，中东也在抢购

报道指出，虽然大部分GPU流向美国科技公司，但沙特阿拉伯已经购买了3000多块，阿联酋也购买了数千块。

阿联酋已经在阿布扎比马斯达尔城的国有技术创新研究所开发了自己的开源大型语言模型，这个名为Falcon模型使用了384块A100 GPU。

沙特阿卜杜拉国王科技大学正在建造自己的基于GPU的超级计算机Shaheen III，它采用了700个Grace Hopper芯片，结合了Grace CPU和H100 Tensor Core GPU。这些GPU被用来创建一个LLM。

H100 GPU是英伟达的旗舰产品，具有14592个CUDA内核、80GB HBM3容量、5120位内存总线，平均售价高达3万美元。黄仁勋曾声称，这是公司第一款为生成式AI设计的芯片。

据报道，2023年上半年与2022年全年相比，生成式AI初创企业的投资增长了5倍以上。自从2022年第三季度以来，生成式AI基础设施类别的投资增长已经超过70%。

3320美元成本卖30000，英伟达GPU利润惊人

Nvidia H100 GPU的成本取决于其封装方式以及用户购买的数量。目前(2023年8月)H100 PCIe GPU的零售价约为3万美元(交货时间也可能有所不同)。

粗略估计，到2023年，全球GPU市场支出将达到165亿美元，其中很大一部分资金将流向英伟达。

据《巴伦周刊》资深作家Tae Kim在最近发布的一篇社交媒体帖子中估计，英伟达制造一块H100 GPU的成本为3320美元，而根据其零售价格，这意味获得将近9倍的利润。

有媒体报道，英伟达的合作伙伴台积电的产能，已几乎无法满足GPU的市场需求。GPU需要采用更复杂的CoWoS制造工艺(台积电的一种“2.5D”封装技术，其中多个有源硅芯片，通常是GPU和HBM堆栈，集成在无源硅中间层上) 。使用CoWoS增加了一个复杂的多步骤、高精度的工艺过程，减慢了GPU的生产速度。

英伟达DGX系统副总裁兼总经理Charlie Boyle证实了这一点。Boyle表示，生产的延迟并不是由于台积电的需求计算错误或晶圆产量问题，而是受到芯片封装CoWoS技术的限制。

此外由于可用性降低、大量采购和价格上涨，GPU的供不应求已经开始影响HPC（高性能计算）市场的发展。

生成海报

免责声明：本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿，凡在本网站出现的信息，均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性，但不保证有关资料的准确性及可靠性，读者在使用前请进一步核实，并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏，概不负任何法律责任。任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时，应及时向本网站提出书面权利通知或不实情况说明，并提供身份证明、权属证明及详细侵权或不实情况证明。本网站在收到上述法律文件后，将会依法尽快联系相关文章源头核实，沟通删除相关内容或断开相关链接。