英特尔张宇：提供面向边缘人工智能解决方案 助力企业数字化转型

9月5日消息（赵婷婷）9月3日，在2023中国国际服务贸易交易会（简称“服贸会”）期间举办的“中国智能产业论坛”上，英特尔中国区网络与边缘事业部首席技术官、英特尔高级首席 AI 工程师张宇围绕边缘人工智能发展趋势，及英特尔硬件软件的产品如何赋能合作伙伴，快速构建面向智能边缘的应用服务，发表主题演讲。

张宇指出，近期，人工智能新技术、新产品、新应用和新生态层出不穷，通用人工智能、大模型等等让人工智能芯片的技术升级再次成为业内热点。人工智能技术在各个行业得到迅速普及和应用，例如交通、医疗、零售、工业等等。随着行业以及连接、智能应用、数据隐私保护等方面诉求增加，推动了边缘计算尤其是边缘智能事业的发展。

边缘AutoML阶段：边缘人工智能发展的一个最终的形态

张宇指出，人工智能尤其是边缘人工智能的发展应该分为三个阶段：边缘推理阶段、边缘训练阶段和边缘的自主机器学习阶段。

当下人工智能在边缘的应用大多数还是停留在边缘的推理阶段，行业还是需要利用数据中心极大的算力或者大量数据训练一个模型，把训练的结果推送到前端进行推理操作，这是目前绝大多数边缘人工智能使用的模式。这种模式是现实，但是同时也有局限性，最大的局限性是对模型的更新频率有限。

以自动驾驶为例，它所代表的是边缘人工智能发展的下一个趋势——边缘训练。边缘训练实现人工智能的训练要面临一系列的特定挑战。如资源有限、缺乏专业知识、边缘训练碎片化、难以在运行时保护数据和模型并在多样化硬件平台上部署等。

在当下的人工智能里头，不管在边缘应用还是在数据中心的应用，人在人工智能里仍然扮演一个非常重要的角色。

张宇认为，今后人工智能发展应该进入边缘AutoML阶段，它是边缘人工智能发展的一个最终的形态。这个阶段网络模型应该感知人的意图，选取适宜的样本集训练这个模型，将训练结果推送到训练阶段进行相应操作。甚至根据训练的结果不断更新、不断重新训练网络模型，进行不断迭代，达到最佳的理想结果。

同时，他也指出，现在的大模型和AIGC，也只是说在往AutoML方向上前进的一小步。在大模型里头也有很大的局限性，目前像ChatGPT等等这样的一些应用，它都工作在开放的状态，而不是闭环的状态。而真正到AutoML的状态应该有一个人工智能的闭环。

“如果把攀登高峰比喻人工智能不同阶段，实现边缘推理只是意味着我们站到山脚，到我们能实现边缘训练只是站到半山腰，真正站到山顶是真正实现AutoML的时刻，这个还有很长的路要走。”张宇指出。

提供面向边缘人工智能完整硬件和软件解决方案 赋能合作伙伴

张宇指出，解决在边缘人工智能快速发展过程中面临的多种挑战，还需要产业界的通力合作。英特尔作为一家数据公司，给业界所提供的是面向边缘人工智能、网络、数据中心的完整硬件和软件解决方案。尤其在人工智能方面，英特尔提供了从计算、通讯到存储等一系列的产品，供开发人员进行选择。

计算方面，英特尔提供包括CPU、GPU及各种人工智能芯片等多种产品的组合，满足用户对人工智能算力不同的要求。针对人工智能大模型的训练和推理，英特尔在今年推出第二代Gaudi处理器，它不仅能提供大量的算力，还能提供通讯、存储能力。张宇指出，英特尔的Gaudi2是全球唯二能提供针对大模型训练极佳性能的产品，而且在今年英特尔公司把Gaudi的产品已经引入到国内，已经在国内上市。

构建端到端的人工智能系统，离不开跟通讯相关的产品。英特尔提供像可编程的以太网交换芯片等等数据中心的产品以及网络产品，帮助构建软件定义的网络。

硬件方面，英特尔通过增强通用处理器的同时，还提供专用的人工智能加速芯片，满足用户对边缘人工智能算力的要求。2023年发布的第四代至强可扩展处理器，包含了一系列面向人工智能的技术创新，如高级矩阵扩展技术AMX技术、AMX技术、SGX技术。

其中，SGX技术能在运行时态为关键的数据和程序提供一个有别于其他应用的安全可执行的区域，能提供一个更小的安全边界、安全颗粒，使得人工智能应用可以部署在比如像金融、医疗等等这些对于安全有比较强诉求的应用行业里。

专用方面，英特尔提供独立显卡产品，包含了面向矩阵加速、矢量加速等等一些加速专业引擎，使得在面向科技计算和人工智能推理计算的时候能有更好的性能。

除了硬件以外英特尔还提供了很多软的工具，例如Geti平台，能提供自动化的标注手段以及采取主动学习的技术，帮助开发人员选取最有效的训练样本，从而缩小训练周期，减少训练时间，提高训练效果。

软件方面，英特尔还提供OpenVINO套件，能帮助开发人员快速进行部署。OpenVINO包含两个关键组件，一个是模型开发器，一个是推理引擎。帮助开发人员把开发好的网络模型部署在不同的平台去进行训练，极大地降低软件开发成本。

张宇介绍，在新的OpenVINO版本即2023.0的版本里，增加了对AIGC新的技术的加持，OpenVINO可以把文生图这样一些比较常用的大模型通过网络压缩以后，部署在通用CPU以及一些独立显卡，或者英特尔所带的显卡之上，进行边缘推理操作，在一些平台上已经得到非常好的验证。

除了提供这样一些硬件和软件的底层技术支撑，英特尔在行业方面也做了大量的工作，比如在智能制造领域和合作伙伴利用机器视觉合作，例如激光焊接等等一些技术，利用低时延的技术，把实时性和智能化结合起来，提供给合作伙伴全面的解决方案。

生成海报

免责声明：本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿，凡在本网站出现的信息，均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性，但不保证有关资料的准确性及可靠性，读者在使用前请进一步核实，并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏，概不负任何法律责任。任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时，应及时向本网站提出书面权利通知或不实情况说明，并提供身份证明、权属证明及详细侵权或不实情况证明。本网站在收到上述法律文件后，将会依法尽快联系相关文章源头核实，沟通删除相关内容或断开相关链接。