““维科杯”·OFweek 2020(第五届)人工智能行业年度评选”活动由高科技行业门户OFweek维科网主办,OFweek人工智能网承办,活动旨在表彰人工智能领域具有突出贡献的优秀产品、技术及企业,鼓励更多企业投入技术创新;同时为行业输送更多创新产品、前沿技术,一同畅享人工智能的未来。
2020人工智能行业年度评选“OFweek (5th.) AI Awards 2020”将于2020年9月21日-10月10日进入网络投票阶段,颁奖典礼将于10月28日在深圳举办。
目前,活动正处于火热的报名评审阶段,业内企业积极响应。开发智能已正式参评“‘维科杯’·OFweek2020(第五届)人工智能行业技术创新奖”
OPEN AI LAB(开放智能)于2016年成立,公司专注边缘智能计算及应用,致力于推动芯片级算力、算法、产品工程化、行业应用等完整产业链的 协作,加速人工智能产业化部署和场景的边界拓展,赋能场景化细分行业快速实现+AI。为AIoT产业上下游合作伙伴提供端、边、云一体化人工智能基础软硬件开发平台及应用级解决方案。
参赛产品/项目名称:开放的边缘AI推理框架Tengine
2017年Tengine发布
开发背景:由于AIoT技术在行业的普及对低成本、实时性低功耗、高可靠性的需求,以及隐私安全等问题的浮现,AI计算正从云端下移到边缘节点中,如智慧交通、自动驾驶、智能家居和城市大脑等领域,数以亿万计的边缘节点和终端设备需要实现本地智能化,称之为边缘AI计算。
边缘计算的需求对硬件成本、功耗、兼容和易用性提出了较大的挑战,硬件上面临着芯片种类复杂、算力利用率低,软件开发环境复杂、兼容性差等关键问题。如何能简单快速地实现AI算法模型从云端向下迁移到边缘节点部署,充分发挥边缘节点上的芯片算力与硬件性能,已成为AI在行业落地和规模部署经济性的关键所在。
OPEN AI LAB的边缘AI推理框架Tengine为了解决AIoT应用落地问题。
技术扼要说明
从架构上看,Tengine自上而下主要可分为模型兼容层、基础工具链、模块化架构层、操作系统层、异构计算层五大框架层级,具有跨算法框架兼容、跨芯片适配、算力异构调度加速、轻量无依赖、一致性开发移植部署工具链几大核心能力,共同助力AI生产力的有效提升。
其技术创新的亮点在哪里
1. 高性能
使用多种性能优化技术,对神经网络模型的端侧推理提供加速,包括模型图的优化,基于NEON的算子的性能优化等。
2. 轻量级
Tengine 的开发,除了标准库(如 C++标准库或 C 标准库)以外不依赖于任何第三方库。不仅降低了软件的依赖性,也最大程度上降低了内存的占用。同时针对内存敏感的平台,还提供功能简化的版本,支持自有格式的模式文件,不包含调度/优化/调试等功能。
3. 易部署
对于不同平台提供统一的API,底层库根据硬件自动使用不同的优化策略,无需客户关注底层硬件。
4. 高安全
提供多种加密技术,对客户模型进行加密。不仅能良好的保护知识产权,适合商用部署。
参评述说/理由:
Tengine是OPEN AI LAB开放的自主知识产权的边缘AI推理框架,重点关注嵌入式设备上的边缘AI计算推理,为海量AIoT应用和设备提供高性能AI推理的技术支持。Tengine于2017年在GitHub开源,一方面可以通过异构计算技术同时调用CPU、GPU、DSP、NPU 等不同计算单元来完成AI网络计算,另一方面,它和TensorFlow、Caffe、MXNet 等训练框架相互配合,并且支持Pytorch、PaddlePaddle 等业内主流框架,并且是国际上为数不多的通过ONNX官方认证的战略合作伙伴之一。技术层面上,其通过如图优化、对arm 架构处理器系列的硬件后端性能 优化、低精度推理、异构计算调度等技术打造端测最高效的AI计算框架,广泛受到开源社区开发者欢迎,在今年4月CSDN发布的《中国 AI 应用开发者报告》上,被评为“开发者最喜爱的本土 AI 框架工具”。
作为拥有完全自主知识产权的开源AI推理框架,Tengine与众多芯片厂商建立了 合作关系,致力于打造AIoT底层生态圈,为AIoT应用开发打通在各类硬件平台部署算法的工作流,加速面向场景的AI算法在嵌入式终端/边缘上快速迁移,大大推动了AIoT领域技术的发展,也加快了AIoT领域产业化的步伐。
本届“‘维科杯’·OFweek 2020(第五届)人工智能行业年度评选”活动将于9月21日进入网络投票阶段,欢迎各位踊跃投票!
(免责声明:本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿,凡在本网站出现的信息,均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏,概不负任何法律责任。
任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时,应及时向本网站提出书面权利通知或不实情况说明,并提供身份证明、权属证明及详细侵权或不实情况证明。本网站在收到上述法律文件后,将会依法尽快联系相关文章源头核实,沟通删除相关内容或断开相关链接。 )