联发科联合百度发起飞桨和文心大模型硬件生态共创计划

8月16日消息,8月16日,联发科正式宣布与百度联合发起飞桨和文心大模型硬件生态共创计划,双方将共同推进联发科硬件平台与飞桨和文心大模型的适配。目前双方正在合作优化文心大模型在终端设备上的执行效果,将实现大模型在终端和云端的协同工作,为用户带来突破性的生成式AI应用体验。

作为推动AI进一步发展的先进技术,与单纯在云端部署生成式AI应用和服务相比,终端侧部署生成式AI在节约服务器成本、保护用户信息安全、提升实时性和实现个性化用户体验等方面具备明显优势。双方的合作将支持基于联发科芯片的智能手机、汽车、智能家居、物联网等终端设备上运行文心大模型,赋能终端设备提供更安全、可靠和差异化的使用体验。

联发科与百度合作已久,双方合作完成了Paddle Lite 轻量化推理引擎基于联发科 NeuroPilot 人工智能通用软件平台的适配。

NeuroPilot是联发科为开发者提供的基于本地端侧的AI运算解决方案,它为内建CPU、GPU 和 APU(独立AI 处理器)等异构运算单元的MediaTek SoC平台提供完整且强大的软件解决方案。NeuroPilot支持开发者在现有和未来的联发科硬件平台以及包括智能手机、汽车、智能家居、物联网等产品线实现“一次编写,全场景通用”,帮助开发者在MediaTek平台上高效开发和部署基于神经网络模型的AI应用程序。

AI开发者可以使用主流的TensorFlow、Pytorch、TF Lite、Caffe、Caffe2以及其他自定义的第三方通用AI框架来构建神经网络模型,并接入到NeuroPilot系统,充分发挥联发科AI系统的强劲算力,显著提高模型运行在设备上的效率,并降低功耗和内存消耗。

生成式人工智能浪潮下,大模型正成为新一轮科技革命和产业变革的重要驱动力量。联发科将持续携手百度飞桨和文心大模型,加速终端侧生成式AI的部署,共同打造软硬一体的人工智能大模型平台,让科技惠及大众,为千行百业赋能。


企业会员

免责声明:本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿,凡在本网站出现的信息,均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏,概不负任何法律责任。任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时,应及时向本网站提出书面权利通知或不实情况说明,并提供身份证明、权属证明及详细侵权或不实情况证明。本网站在收到上述法律文件后,将会依法尽快联系相关文章源头核实,沟通删除相关内容或断开相关链接。

2023-08-16
联发科联合百度发起飞桨和文心大模型硬件生态共创计划
为用户带来突破性的生成式AI应用体验。

长按扫码 阅读全文

Baidu
map