8月9日消息,NVIDIA宣布推出搭载全新 NVIDIA® L40S GPU 的 NVIDIA OVX™ 服务器。这款功能强大的通用数据中心处理器将通过 NVIDIA Omniverse™ 平台,加速计算密集型的复杂应用,包括 AI 训练与推理、3D 设计与可视化、视频处理以及工业数字化等。
这款全新 GPU 将加速生成式 AI 的计算工作负载。生成式 AI 为各行各业的工作流和服务都带来了变革,如文本、图像和视频生成、聊天机器人、游戏开发、产品设计以及医疗等。
NVIDIA 专业可视化副总裁 Bob Pette 表示:“生成式 AI 为各行各业都带来了变革,企业也更需要为数据中心寻求大规模计算资源。配备 NVIDIA L40S GPU 的 OVX 系统能够加速 AI、图形和视频处理工作负载,满足不断增加的复杂且多样的应用对性能的严苛要求。”
强大的 AI 和图形性能
NVIDIA OVX 系统的每台服务器最多支持 8 块 NVIDIA L40S GPU,每块 GPU 的显存为 48GB。基于 NVIDIA Ada Lovelace GPU 架构的 L40S 搭载第四代 Tensor Core 和 FP8 Transformer Engine,可提供超过 1.45 PFLOP 的张量处理能力。对于拥有数十亿个参数和多种数据模式(如文本和视频)的复杂 AI 工作负载,与 NVIDIA A100 Tensor Core GPU 相比,L40S 能够将生成式 AI 的推理性能和训练性能分别提高 1.2 倍和 1.7 倍。
为了支持实时渲染、产品设计、3D 内容创建等高保真专业可视化工作流,NVIDIA L40S GPU 搭载 142 颗第三代 RT Core,可提供 212 TFLOP 的光线追踪性能,使专业创作者能够创建沉浸式的视觉体验和逼真的内容。
针对计算要求严苛的工作流,如工程和科学模拟等,NVIDIA L40S 搭载 18,176 颗 CUDA® Core,可提供近 5 倍于 NVIDIA A100 GPU 的单精度浮点计算(FP32)性能,以加快复杂计算和数据密集型分析的速度。
早期采用情况
专注于大规模 GPU 加速工作负载领域的CoreWeave 是首批提供 L40S 实例的云服务提供商之一。
CoreWeave 首席技术官 Brian Venturo 表示:“随着生成式 AI 的爆发式增长,我们各行各业的客户都在寻求性能强大的计算产品和规模上的扩展,以应对从交互式视频到 AI 设计和自动化等各类工作负载的复杂性。NVIDIA L40S GPU 将进一步扩大我们丰富的 NVIDIA 解决方案阵容,使 CoreWeave 成为首家提供这些新资源的专业云服务提供商,为下一批生成式 AI 应用提供快速、高效、经济的加速计算。”
提升 AI 性能的软件
部署 L40S GPU 的企业将受益于 NVIDIA AI Enterprise 软件。该软件今日发布了重大更新,能够为 100 多个框架、预训练模型、工具套件和软件提供生产就绪型企业级支持和安全,其中包括用于模拟的 NVIDIA Modulus、用于数据科学的 NVIDIA RAPIDS™ 和用于生产型 AI 的 NVIDIA Triton™ 推理服务器。
Omniverse的功能日益丰富
NVIDIA 还发布了对 Omniverse 平台的重大更新,新推出的各种功能和平台升级将助力开发者借助生成式AI的强大功能,加速并推进 OpenUSD 工作流程和工业数字化应用。支持Omniverse Cloud 的下一代 NVIDIA OVX 系统将配备 L40S GPU,为大幅加速生成式 AI 流程和 Omniverse 工作负载提供所需的 AI 和图形性能。
供应情况
NVIDIA L40S 将于今年秋季上市。包括华硕、戴尔科技、技嘉、慧与、联想、QCT、超微在内的全球系统构建商近期将提供搭载 NVIDIA L40S GPU 的 OVX 系统。该服务器将帮助全球专业人士推进 AI 的发展。并为各行各业的用户带来智能聊天机器人、搜索和摘要工具等生成式AI应用。请与这些系统构建商联系,了解具体的供应地区、系统配置详情和供货情况。
- 蜜度索骥:以跨模态检索技术助力“企宣”向上生长
- 加码电站硬科技,阳光新能源重磅发布电站“魔方”技术平台
- 年轻人第一台纯电GT 比亚迪海豹06GT上市:13.68万元起
- AI代码生成工具哪家好用?
- TechWeb微晚报:iPhone 17迎内存升级12GB成标配,特斯拉FSD入华尚未获批
- 华为脑机接口芯片新专利曝光:开启大脑与设备直接通信的新纪元
- 独立游戏市场强劲增长:《黑神话:悟空》成收入冠军,引领行业新趋势
- 诺基亚全球瘦身计划继续:中国区裁员近2000人,电信市场低迷下的战略调整
- 中国移动咪咕有望斩获英超新媒体独家版权,新合同总价高达12亿人民币
- 混合式AI、液冷服务器、AI智能体,联想发布一系列产品、技术及服务
- 报告显示补贴对汽车消费提振效果明显 置换更新已成主流需求
免责声明:本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿,凡在本网站出现的信息,均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏,概不负任何法律责任。任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时,应及时向本网站提出书面权利通知或不实情况说明,并提供身份证明、权属证明及详细侵权或不实情况证明。本网站在收到上述法律文件后,将会依法尽快联系相关文章源头核实,沟通删除相关内容或断开相关链接。