回首2023年科技产业最大的惊喜是生成式AI，在该技术的帮助下，人们可以用真正的自然语言与计算机进行交流。这一以前只能出现在科幻电影里的场景，仅在一年时间里，就走入人们日常生活。近日，高通技术公司公共关系副总裁Clare Conley撰文表示，生成式AI在几乎每个行业都是无可争议的变革性技术，2024年人们将继续感受到它带来的影响。高通正在积极地开发部署领先的边缘AI、高性能低功耗计算、以及5G等连接技术，为更多用户随时随地提供AI能力。
不过目前生成式AI的发展，尤其是广泛地普及应用，还有成本、隐私、时延等许多困难需要克服。将生成式AI从云端向终端侧转移，成为加速生成式AI普及的重要路线。在Clare Conley的文章中，高通技术公司高级副总裁兼技术、规划和边缘解决方案业务总经理马德嘉(Durga Malladi)表示：“随着生成式AI日益融入人们的生活，5G智能手机、PC、汽车甚至物联网设备等个人终端，将成为多模态生成式AI模型的中枢。”
此前不管是文本生成式AI ChatGPT，或者图片生成式AI Midjourney，主要通过云端向用户提供生成服务。这些云端生成式AI服务极度依赖GPU，而支持AI云端运算的GPU一直奇货可居，GPU的供应能力，成为制约生成式AI普及扩展的最大的阻力。而随着终端侧设备的AI计算能力的不断提升，发展终端侧生成式AI，能帮助AI产业突破眼前的这一困境。在5G手机、PC、智能汽车等终端侧运行生成式AI，能拓宽消费者和企业获取强大生成式AI能力的途径。马德嘉表示：“生成式AI从云端转向个人终端的转变，能为消费者和企业提供更关注隐私和更个性化的全新AI体验，并能为开发者降低云成本。随着终端侧运行多模态生成式AI大模型的能力不断提升，从云端向混合AI或终端侧AI的转变势不可挡。”
终端侧AI的性能，在2023年获得飞速的发展。以高通的移动平台为例，在2023年10月底举行的骁龙峰会中，高通发布第三代骁龙85G移动平台，该平台将智能手机的AI能力提升到全新水平，可在0.6秒内生成一张图片，可以运行超过100亿参数规模的生成式AI模型。由于该平台优异的表现，在人民网主办的第二十届人民匠心奖评选活动中，获评人民匠心技术奖。在PC方面，高通发布全新一代AI PC平台骁龙XElite，可提供惊人的75TOPS算力，以及在笔记本电脑上运行超130亿参数的生成式AI大模型。随着5G智能手机、PC等终端侧AI性能的高速提升，2024年，生成式AI也将带领智能终端走向全新的篇章。
（免责声明：本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿，凡在本网站出现的信息，均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性，但不保证有关资料的准确性及可靠性，读者在使用前请进一步核实，并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏，概不负任何法律责任。
任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时，应及时向本网站提出书面权利通知或不实情况说明，并提供身份证明、权属证明及详细侵权或不实情况证明。本网站在收到上述法律文件后，将会依法尽快联系相关文章源头核实，沟通删除相关内容或断开相关链接。 ）
