步入2024年以来,从各品牌手机竞相接入大模型,到大众汽车全部车型搭载ChatGPT,再到京东工业上线采购大模型、万兴科技运用大模型创作短视频等,大模型正加速融入各个领域。
大模型的广泛落地,在为企业数字化带来革新和颠覆的同时,也给算力行业带来难题。
日前,在ABB电气创新周绿色数据中心论坛上,一众专家围绕“生成式AI为代表的算力需求带来的挑战和机遇”进行了深入探讨。
会上,网宿科技子公司绿色云图运营总监徐明微表示,大模型的训练、推理、交互都需要海量AI算力的支撑。随着AI算力需求爆发,带来服务器功耗增长,行业必须要应用新的技术来高效带走热量,液冷技术将成为最佳解决办法。
当前,AI算力已经成为我国算力发展的主要方向。IDC预测,到2026年中国智算规模将达到1271.4 EFLOPS,未来五年复合增长率达52.3%。与此同时,结合应用发展趋势,未来80%的场景都将基于人工智能,所占据的算力资源将主要由智算中心承载。
徐明微指出,智算意味着更高密度的算力基础设施建设,单机柜功率密度在40kW以上。而传统数据中心单机柜密度通常在8-10kW,且机房宽度不超过15米,面对智算新趋势,传统机房不仅在空间布局上受到限制,在散热方面更面临严峻挑战。
在能耗结构上,众所周知的是,IT和空调制冷设备是数据中心的主要能耗来源,两者占到数据中心总能耗的85%。传统的数据中心以风冷技术为主流散热方式,而由于空气换热系数低、散热能力不足且受环境影响,风冷散热已无法满足高密度数据中心的散热需求。
对此,徐明微认为,智算中心必须导向液冷技术。液冷技术具有低能耗、高散热、节约空间、不受环境限制等特性,相较风冷系统PUE值在1.3-1.4左右,液冷系统可以降低PUE值到1.05-1.1,更能适配高密度、高算力的智算场景。
据悉,网宿科技子公司绿色云图是国内液冷领域的先行者,自2015年起便已投入对液冷技术的研究,目前累计已取得发明专利超过百项,多款液冷产品入选工信部权威节能目录。在应用方面,依托丰富的商用经验和领先的技术能力,绿色云图在高算力场景率先取得规模应用,不断落地标杆案例,比如绿色云图为武汉大学打造了液冷超算边缘数据中心,有效支撑其大规模数据处理和高性能计算需求。
“我们相信,随着未来高算力场景的不断涌现以及社会对节能要求越来越高,数据中心会更多地部署液冷技术。我们将持续深耕液冷,用更绿色的数据中心满足生成式AI为代表的算力需求。”徐明微表示。
- 蜜度索骥:以跨模态检索技术助力“企宣”向上生长
- TechWeb微晚报:iPhone 16全系降价引发网友吐槽,库克到北京遛弯
- 10月销量有望破4万!零跑汽车宣布面向全国邀请经销商加盟
- 王海称董宇辉带货有机土豆涉嫌虚假宣传,与辉同行客服回应
- 苹果CEO库克现身北京:在胡同溜达 跟团队一起逛有机农场
- 消息称字节跳动考虑在泰国新建数据中心
- 发售仅一个月 iPhone 16全系降价:最高便宜1600元
- 腾讯会议免费时长将缩短至40分钟 2人会议不限时
- 腾讯副总裁曾宇提出退休申请 曾负责PCG和IEG技术线
- 黑胶会员也逃不过广告?网易云音乐客服回应:不会完全消除
- TechWeb微晚报:苹果AI落后行业巨头超2年,美团辟谣骑手带患儿送外卖
免责声明:本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿,凡在本网站出现的信息,均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏,概不负任何法律责任。任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时,应及时向本网站提出书面权利通知或不实情况说明,并提供身份证明、权属证明及详细侵权或不实情况证明。本网站在收到上述法律文件后,将会依法尽快联系相关文章源头核实,沟通删除相关内容或断开相关链接。