浩鲸科技钟健松:大模型落地远不止最后“一公里”

6月26日消息(焦焦)ChatGPT横空出世,掀起了AI行业的发展热潮。大模型从崭露头角到现在的如日中天,全行业已然在AI的新时代中全速前进,大模型成为驱动创新的焦点之一。在AI带来生产力革新与商业模式升级浪潮下,作为向科技公司转型的领军央企,运营商在AI领域不断加码布局,为通信产业迈入大模型时代积极领路,构建数智生产力也被被赋予前所未有的重要使命。

在2024年MWC上海展上,作为运营商的重要合作伙伴,浩鲸科技围绕“智能时代,构建数智生产力”为主题,分享在大模型的驱动下,如何赋能运营商业务和运营管理快速实现 智能化,并展示在加速智能化进程中的技术突破和创新应用,为运营商构建从智能基础设施、大模型平台、到创新数智应用落地的全方位支持,携手运营商共筑智能化未来宏图,加速数智跃升。

运营商数字化建设成果仍存挑战,亟待解决

在智能化浪潮下,运营商在推进自身转型的同时积极发力产业数字化建设,据C114观察,目前运营商数字化转型取得显著成效。在为用户提供更快速、更稳定的通信网络连接的同时,推出更丰富的数字化服务和增值服务,并通过数据驱动的运营,更加精准地满足最终用户的个性化需求,提高数据资产的管理利用效率。

浩鲸科技中国CTO钟健松在接受C114专访时指出,运营商的数字化建设走过三十年,已取得卓越成效,成为推动国家数字经济建设的领头羊。但以发展的视角审视当前的数字化建设成果,依旧存在一些挑战,亟待智能化手段去解决。

1、生产要素已被大量累积,但价值发挥有限

钟健松认为,经过数十年的的数字化发展与积累,运营商沉淀了海量的数据,包括资源、网络、服务、客户、渠道等立体多维数据资产,堪称为“宝藏数据矿场”。基于这些数据,运营商内部构建了诸多报表系统、数据分析系统,但对数据的提取和分析仍存在诸多动态变化,导致当前各下属公司依然要配备大量取数人员,以响应每月不同维度的看数要求。

此外,随着中台的建设,运营商的重点已从功能建设逐渐转向能力构建,能力不断累积和丰富,并逐步沉淀为企业的能力资产。尽管能力资产在助力数字化应用建设过程中发挥了一定价值,但由于能力的可视化、非完全的集约、从能力到应用的转化难度等问题,制约了能力资产的价值发挥。

钟健松表示,相比数据资产和能力资产,企业的知识资产受重视程度不够,少量的知识库仅存储了某些关于产品营销方面的内容,而更需要传承的例如网络运维、故障处理、施工操作、方案配置等方面的知识,要么作为规则被整合到系统中,缺乏迭代更新;要么沉淀在少数专家的头脑中,难以复制和传承。

2、生产效率尽管在不断提高,但仍有很大提升空间

当前,流程驱动已成为数字化系统的一个典型特征,但流程驱动有其受限之处。首先,流程为异步处理,非实时,可能会因为环节之间的来回回退导致处理时间拉长,而企业的生产运营则有大量需要实时解决问题的场景,比如涉及到多方参与的网络疑难故障诊断分析,基于流程驱动的派单式的解决方式就不太适用。

其次,在新技术的推动下,自动化、智能化的述求在企业运营中越来越强烈,虽然通过规则、AI算法、RPA等的引入能够解决不少问题,但目前采取“散点注智”的开发模式,派生出多种类型的规则引擎、推荐引擎、调度引擎等多个系统,开发周期长、应用面狭窄,管理分散,从而导致需求难以即时响应,自智成熟度等级难以产生质的飞跃。

3、数字化系统林立,使用者陷入系统和功能的海洋

尽管在ITSP的规划下,运营商数字化系统纵向集约横向整合,系统数量已做了大幅收敛,但当前系统规模依然庞大,不同岗位人员需要面对诸多系统以及功能模块,在庞杂的系统中寻找对应的功能,费时费力,以至于大量已开发出的功能模块因不被认知而使用率极低。

与此同时,为了应对复杂场景,数字化系统往往配备繁琐的使用界面,使用者需要在各种弹出的窗口、页签中切换,使用门槛高,工作负荷大。

大模型助推运营商向理想蓝图平滑演进

据C114了解,强大的通用智能能力,催生AI创新应用多点开花。国内外均积极、迅速地推进大模型训练,千亿参数模型层出不穷,大模型驱动的场景也在逐步落地,但大模型的价值发挥并不是想象中的一蹴而就。大模型应用在落地过程需要多方参与,且对算力、平台、算法的要求较高,因此尽管大模型的训练量不断扩大,在不同行业不同领域也多有应用,但应用的发展水平与速度参差不齐,部分领域尚且很难将模型价值发挥实效,推动行业大模型“真正落地”的机遇与挑战并存。

钟健松认为,整体而言,大模型依然处于成熟过程中,技术演进日新月异,还需要克服其在行业实际应用中的各类技术缺陷,比如幻觉、算力成本高、知识实时更新差等问题。如若贸然利用大模型重构IT系统来替换现有IT,会因为反复折腾消耗巨大的人力物力,带来的价值效果可能也不尽如人意。面对以上难点,需要选择一条稳步、平滑演进的路线,通过先引入大模型增强现有数字化系统架构和能力,再逐步升级替代到理想蓝图。

在这条演进路线上,一方面需要从系统工程的角度来提升通用人工智能的准确性、适应性、创造性和效率,另一方面需要结合运营商数字化场景及当期架构模式,构建出增强演进的架构体系。总体看来,整个增强体系可分为2+3+N+1来分层演进。

“2”通过2个核心平台的引入,增强企业IT整体架构

MAAS平台,将大模型能力更丝滑地嵌入到企业数字化系统中。未来的头部企业,很有可能采用1+N的大模型构建方式,即在一个主力大模型的基础上,还会根据不同场景需要,应用N个各有擅长以及尺寸不同的其它模型。MAAS平台将对接各类不同的大模型,以更安全和更高性价比的方式向上统一提供模型服务。同时为解决大模型生成幻觉问题和知识滞后性问题,引入RAG,将非参数化预料库和参数模型结合,解决纯参数化大模型的局限。并对原始RAG架构优化,通过增加意图识别、问题改写、查询扩展、结构化和非结构化数据动态路由、多路召回、降噪去重等工程化手段大幅提升实际场景下的知识服务能力。

mmRTC平台,在原有页面集成、流程集成、数据集成、企业集成架构的基础上,搭建多模态的实时通信交互平台,实现人-人、人-智能体、人-智能体-人、多智能体等多种方式的即时协同,充分发挥智能体在感知、规划、记忆、执行等方面的能力,面对复杂场景,改变传统异步派单的模式,在人脑和智脑的多维加持下,实现实时分析、精准诊断、即时处理,推进效率的大幅提升。该平台与运营商的网络故障诊断、装维疑难问题处理、复杂方案营销等场景非常适配。

3通过3个工厂的建设,提升数字化生产效率

知识工厂:在知识工厂中训练两类知识,一类是经营领域的专业知识,包括前端营销涉及的产品、渠道、客户等以及后端运维涉及的的网络、故障分析等;另一类是数字化领域的专业知识,包括IT系统数据模型、功能页面、集成关系等。知识工厂提供高效工具帮助企业通过多种形式建立专属知识库,解决知识分散、信息损失等问题,实现知识可运营、可迭代优化,基于知识标签,最终实现一问多答,更好的满足跨地域、多产品、多客户类型的丰富的经营形态。

智能体工厂:未来Agent as a Service 或许将逐步取代目前IT架构的微服务模式。在智能体工厂中,将整合目前已形成的海量插件,以低代码的方式,通过工作流的可视化开发形态,将模型、知识库、提示词、插件工具进行链式整合,构建出面向不同领域、解决不同场景问题的智能体。

数字应用工厂:更高效更低门槛构建数字化应用是IT工作者的追求。可以预见,以大模型来驱动,识别需求意图,搭载低代码组装式开发,数字应用生产效率将倍增。应用开发的同时数字资产不断丰富,又进一步提升数字应用的开发效率。运营商推进政企市场,智能数字工厂将为其如虎添翼。

“N”通过N个场景的智慧化,推进全面智能的落地

将大模型的理解、生成、逻辑、记忆四大能力结合运营商的场景,浩鲸科技已实现如下诸多大类智慧化应用,全面大幅提升数字化智能水平。

生成类场景:包括营销方案、礼包策划、营销海报等应用;

诊断类场景:包括家宽综调助手、资费争议诊断等应用;其中家宽综调助手面向装维和综调人员,提供自然语言顺畅交互、问题智能精准诊断以及即时处理等智能化支撑;

助理类场景:包括CRM营业助手、资源助手等应用;

分析类场景:推出chatBI分析助手,提供海量报表一问直达、智能按需问数、随心 探索数据等智能能力

稽核类场景:包括资费稽核、合同稽核等应用;

问答类场景:基于统一框架快速高效搭建各类场景的问答机器人,基于浩鲸特有技术既保障答案的精准度,又保证完整度,同时还支持一问多答的跨地域跨产品的特有场景应用。

代码类场景:通过代码大模型帮助软件工程师编码时实现代码理解、自动补全,提升软件开发人员的编码效率和代码质量。

“1”通过1个“无系统”的打造,实现崭新的交互形态

“无系统”一方面将企业数字化系统的数据、功能界面、使用操作、业务知识等训练给大模型,另一方面构建统一入口,在该入口以自然语言的方式调用功能模块、完成功能模块的操作(包括跨系统的链式操作)、查看权限内的数据(包括跨系统的整合数据)等。

对于使用者而言,不再需要关注端到端的流程穿越具体在哪个系统和菜单定位,只需要表达自己的意图,通过统一入口,由智能助手实现一步直达。此入口可挂载在现有任一数字化系统上,即时呼出,随地调用。

运营商深入大模型应用腹地,浩鲸科技将做大模型价值释放者

从整个电信行业来看,2023年以来,三大运营商相继推出自己的基础大模型、行业大模型和大模型应用工具,如今运营商更是深入大模型应用腹地,不断落子。

据C114了解,中国移动推出APP的AI智能助理“灵犀”, 嵌入到最新升级的中国移动APP V10版本中,从用户使用需求出发,依托大模型的内容生成能力改善用户体验。而中国电信,前不久一口气发布了12个垂类行业大模型,加强在各个领域的 应用。中国联通也发布了元景“1+1+M”大模型体系,更在5月进一步发布中国联通元景大模型MaaS平台,为企业行业向MaaS服务。

总体来看,三大运营商对大模型,无论是反应速度、研发 ,还是覆盖广度,都格外突出。对运营商而言,大模型提供了一个契机,让运营商不仅仅作为通信网络的基础设施提供商,还可以整合自身在全国一体化算力网络、云资源等技术方面和政企市场、消费者市场等客户方面的多种优势,更 地参与到产业智能化升级与数字化转型中,重构自身在数字化业务中的竞争优势。

正如采访的最后,钟健松表示,大模型企业落地远不止“一公里”, 涉及端到端全程各环节配套,包括算力资源、大模型切换、私域知识高效导入、智能体构建、copilot与现有系统融合,以及每个层面特有的推进方法。在智能时代,未来的IT系统将有着新的架构、运营模式、研发范式以及交互形态,而作为运营商的重要且长期合作伙伴,浩鲸科技不做大模型的生产者,但会基于自身对行业的 理解,以及通过体系化的工程手段,致力做大模型真实价值释放者和使能者,助力运营商全面推进AI+战略落地,加速AI融入百业,加速数智新增长。


企业会员

免责声明:本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿,凡在本网站出现的信息,均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏,概不负任何法律责任。任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时,应及时向本网站提出书面权利通知或不实情况说明,并提供身份证明、权属证明及详细侵权或不实情况证明。本网站在收到上述法律文件后,将会依法尽快联系相关文章源头核实,沟通删除相关内容或断开相关链接。

2024-06-26
浩鲸科技钟健松:大模型落地远不止最后“一公里”
浩鲸科技钟健松:大模型落地远不止最后“一公里”,C114讯 6月26日消息(焦焦)ChatGPT横空出世,掀起了AI行业的发展热潮。大模型从崭露头角

长按扫码 阅读全文

Baidu
map