摘要:正确认识和理解算力,除了数字,还要关注精度和实际场景。
今天,数字技术开始深入生产生活的每一环节。
然而要推动数字产业的高水平发展,首先要确保拥有处理巨量数据的能力。随着数据被列入生产要素,算力已成为重要的生产力。根据IDC发布的《2020全球计算力指数评估报告》,一国的算力指数每提高1个百分点,数字经济和GDP将分别增长3.3‰和1.8‰。
数字经济对算力的需求日益增大,加之新基建的东风,作为算力基础设施的数据中心、超算中心、智能计算中心也迈入加速发展阶段。工信部数据显示,截至2020年底,我国在用的数据中心机架超过400万架,年均增速超30%。
算力"突飞猛进"的同时,市场认知却严重滞后。大多数人仍然对算力相关的概念比较陌生——算力如何衡量?不同算力等级间有何区别?算力与应用场景如何匹配?
1.看算力水平,精度比数字重要
超级计算机被誉为"国之重器",代表国家算力的最高水准,也是一国科技实力的重要体现。理解超级计算机的峰值算力,首先需要知道算力的计量单位FLOPS(Floating-point operations per second)。
FLOPS表示每秒浮点的运算次数。具体使用时,FLOPS前面还会有一个字母常量,例如TFLOPS、PFLOPS。这个字母T、P代表次数,T代表每秒一万亿次,P代表每秒一千万亿次。
除了运算次数,衡量算力水平时还要看算力精度。例如,1000FLOPS的AI计算中心所提供的的算力,与1000FLOPS超级计算机提供的算力,虽然数值相同,但由于精度不同,实际算力水平也是天壤之别。
根据参与运算数据精度的不同,可把算力分为双精度算力(64位,FP64)、单精度算力(32位,FP32)、半精度算力(16位,FP16)及整型算力(INT8、INT4)。数字位数越高,意味着精度越高,能够支持的运算复杂程度就越高,适配的应用场景也就越广。
超级计算机常被用于需要大量运算的工作,譬如天气预报、运算化学、分子模型、天体物理模拟等,是为高精尖科学领域提供极致算力的服务。由于这类科学领域的计算对数据精度要求高,因此通常的超算系统以双精度数值计算为主。
近年来,AI在国内获得快速发展,为匹配AI训练与推理的特殊需求,AI超算系统应运而生。不同于传统超算,AI超算系统大多用于语音、图片或视频的处理,浮点计算下的低精度计算甚至整型计算即可满足相应需求。
要确定不同精度算力的性能,需通过各自领域内的专用测试程序来测试。例如,用于测试超级计算机性能的Linpack测试专注于双精度算力;用于智能计算机性能的Resnet-50则专注于半精度算力。
如果将参与运算的数据比作货物,那么双精度算力就可以看作重型卡车,低精度算力可以看作是小型货车。重型卡车也可以承担小型货车的任务,但功耗过高,会造成浪费。而小型货车由于自身性能限制,无法承担重型卡车的任务。
同样,超级计算机的双精度算力即可以看作是重型卡车,是一种"通用算力",可以承担各种计算任务;而单精度、低精度算力作为小型货车,则是一种"专用算力",是专门为AI的训练和推理设计,无法承担超级计算机的计算任务。
"超级计算机设计的目标是为做更复杂的计算,所以即使只是做简单的计算,它的功耗还是很高。"中国科学院计算技术研究所研究员张云泉此前曾对媒体表示,AI计算擅长于推理或训练,但多数不具备高精度数值计算能力,这也限制其在 AI 计算之外的应用场景使用。
2.寻找"有效算力"
随着数字化与千行百业的 结合,每个行业、每个企业都面临着选择算力的问题。需要注意的是,仅关注理论层面的最高算力并无太大意义,落到实际应用场景里,还需要综合考虑用户应用、成本、算力兼容性等多方面因素,寻找效率更高且经济适用的有效算力。
在选择芯片与算力时,首先需明确应用场景和优先任务。在早期规划阶段,地方政府即需要重视区域内的优势产业、明确数据中心的应用目标。智算中心融合了AI技术与专用算力,在图像分类、自然语言处理、循环翻译等场景下较有优势;超算中心则作为尖端科技领域的强大战力,服务于行星模拟、分子药物设计、基因分析等需要高精度数据处理的领域,应用领域更为广阔。
在追求最佳算力时,成本也是关注重点。一方面,算力基础设施的建设成本极高,在前期规划时,需要关注市场逻辑,重视经济可行性。粤港澳大湾区曾出现过同一地区的两个智能计算中心,同精度算力单价相差近4倍的情况。为避免出现"高价高数值,低能低性价比"的情况,引入算力中心时应重考察算力单价,关注算力的实际效益。
此外,加强算力基础设施的顶层设计和总体规划,倡导开放、多元、兼容的新型算力基础设施,能使基础设施的利用率大幅提升。底层基础设施搭建开放性架构,不仅能够提供多种算力、提升基础设施的易用度和适用度,还能够支撑更加丰富的应用场景,同时赋能社会治理和产业应用。
(免责声明:本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿,凡在本网站出现的信息,均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏,概不负任何法律责任。
任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时,应及时向本网站提出书面权利通知或不实情况说明,并提供身份证明、权属证明及详细侵权或不实情况证明。本网站在收到上述法律文件后,将会依法尽快联系相关文章源头核实,沟通删除相关内容或断开相关链接。 )