艾媒咨询数据显示,2020年复工期间,中国有超过1800万家企业采用了线上远程办公模式,共计超过3亿用户使用远程办公应用。同时,还有约2亿的学生采用线上网课的方式进行远程教学。而无论是远程办公、视频会议还是线上教育系统,都离不开底层技术实时音视频的支持。
实时音视频技术包括实时语音、实时视频和连麦互动,此前“直播”可能是大家最熟悉的实时音视频应用场景。受疫情影响,音视频技术带来的其他行业和场景的远程无接触服务,获得了高速增长。
“X+音视频”aPaaS全行业接入,即构日均通话时长突破20亿
针对疫情期间爆发的多行业远程服务需求,音视频云服务商即构科技快速上线了TalkLine视频会议、小艺帮线上艺考两大SaaS平台以及多个远程aPaaS方案,通过即下即用和快速开发的优势,将音视频技术的应用范围从直播社交泛娱乐,迅速延伸到教育、办公会议、艺考、政务、医疗、金融等多个行业,覆盖政务民生各个领域。
合作的线上远程服务应用呈爆发式增长,即构科技作为底层技术服务商,平台数据也不断攀升。据了解,2020年初,即构平台整体流量增长近4倍,日均音视频互动时长增长至20亿分钟。
即构科技的合作客户,覆盖了泛娱乐和在线教育行业的大量头部平台,比如映客、喜马拉雅、酷狗、荔枝、好未来、作业帮、一起作业网、掌门一对一等,而这两个行业,恰好是2020年初流量增长最大的行业之二。不少平台的使用量是以倍数增长的,某个国内TOP级在线教育平台,更是实现了百倍的用量增长。
流量暴涨为平台带来了大量用户,但同时对平台稳定性会有更大压力,可能会导致平台崩溃,服务不可用。在 “家里蹲”的日子里,大家经历了多个APP的宕机。那么,日均20亿分钟互动,高达数千万的并发,即构科技是如何在流量暴增的情况下保障稳定服务的?
千万高并发架构+后台服务机制,保障平稳服务
要扛住千万级的高并发,首先要有一个支持千万级并发的底层架构。即构的核心创始团队来自腾讯,团队成员多数参与了QQ产品实现用户量从百万级到上亿级的跨越式发展,因此对于平台底层架构的高并发设计具有先瞻性预见。通过以往海量用户运营的经验积累和近二十年的音视频技术沉淀,在5年前即构创立之初进行底层架构设计时,对并发数的要求就达到了千万级别。
随后的几年里,即构科技通过不断打磨技术,不断优化服务器的单点负载能力、集群系统的智能调度算法和多云多网融合的虚拟网建设,已实现弹性伸缩,让用户无损无感知的无缝平滑扩缩容。在2019年中,即构后台统计到的日均音视频互动时长就已突破6亿分钟。
有了千万级并发的基础架构,要实现在一波又一波流量高峰来临后依然平滑稳定服务,还离不开预警、限流、紧急扩容等后台服务机制的保障。
即构科技后台媒体服务组负责人Jack,向我们介绍了即构一系列后台服务机制是如何运行的:
首先,针对每一位企业客户,即构会提供流量实时监测预警服务。后台服务的技术人员会监控目前的容量水位,当该客户的服务器负载超过一定阀值时会自动触发预警,提醒相关人员进行扩容;
其次,当遇到短时突发性暴涨,即构后台服务会通过限流机制来保障客户服务的可用性。即构的限流机制,是以不影响已有用户体验为基础的。以前段时间即构所服务的某教育平台为例,在客户也未预期的情况下,客户平台用量突然暴涨了几倍,触发了即构的限流机制。限流开启后,该平台上已开课上课的老师学生,服务不受影响;而后来涌入的用户,即构会通过降低推拉流码率、分辨率的方式,牺牲部分用户体验以保障服务可用。随后,即构立即启动紧急扩容机制,10分钟后,扩容完成,后进入的老师学生码率分辨率恢复。
第三,即构的紧急扩容机制,可实现10分钟内完成数百台服务器的扩容。这些服务器资源,可支持一个在线教育平台新增10W级别的老师开课,或者接近100万级别的学生听课。
当架构和后台服务机制都ready的情况下,即构还提供一对一技术支持,帮助客户提前规避和及时解决流量上涨可能带来的问题。
服务前置+一对一支持,即构让所有用户获得最佳体验
“技术支持是一项非常细致的工作,平台使用量暴涨时,对技术支持的工作提出了不小的挑战,我们都是24小时待命,全程支持客户上量、扩容。”这是即构技术支持负责人Tina的原话。
与大家印象中技术支持“遇到问题才解决问题”不同的是,即构倡导以客户成功为导向,映射到技术支持工作中,即构会进行服务前置,即帮助客户提前规避可能的风险。
2月初,教育部发出“停课不停学”的倡议。预料到随后在线教育平台使用量可能将快速攀升,即构技术支持人员对每一家教育平台进行了回访。询问客户对自身平台使用量的一个预估,判断用户目前的服务器资源是否足够支撑。并细致到具体的应用场景,是大班课、一对一小班、一对多小班或是AI课堂、跨国教育等,针对每个平台制定一对一服务方案。
方案制定后,技术支持人员会立即与后台服务人员对接,确认服务器资源,提前部署。即构会在客户提供的预估量之上,提供一定量的冗余资源来保障客户稳定性。
从客户上量到最高使用峰值再到用量回落的整个过程,即构技术人员需全程支持。而不同的行业,使用峰值时段并不同。比如,在线教育平台,使用量从上午开始攀升,到下午或者晚上才达到高峰;而跨国教育或出海平台,使用高峰在后半夜之后;而即构服务的某Top级金融平台,通过即构SDK实现了3万销售人员的远程企业内训,其使用量在早上7点就开始上涨,整个上午时段的用量最大。这意味着,技术支持人员需要24小时无休全天轮值。
除了针对客户使用量上涨所做的保障工作,技术支持还需对客户的常规问题进行排查,以保障客户使用的最佳体验。“我们经常帮助客户排查问题到凌晨1-2点,但这些努力都是有回报的,我们最开心的是一天结束后,客户在对接群里说的一句:今天平台运行良好,感谢大家的支持,辛苦了”Tina分享道。
单日互动时长突破20亿分钟的背后,是无数客户对即构技术和服务的肯定。即构也遇到过棘手的难题。线上用户增速最快的那段时间,全网服务器资源紧张。一方面是用户急需扩容保障服务,一方面是供应商资源的短缺。即构科技拿完了已有供应商所有可提供的资源后,陆续向其他的云商采购。
“我们本来就是支持多云商的架构,不同厂商的物理机、云主机我们都做了兼容和支持,因此服务器资源不受单一供应商限制,可以在短时间内调用更多的资源,所以服务器资源紧张的问题并没有困扰我们太久”,即构后台媒体服务组负责人Jack说到。
即构强调利他共生的价值观,最大程度的支持客户成功,与客户共同成长。坚持 “将技术做极致,不浪费客户的每一分钱”的原则,通过持续不断优化服务器负载能力,从根源上优化客户的云服务成本。
同时,针对不同时期不同客户,即构会推出不同的让利举措,在疫情期间用户对远程办公协同有大量需求,即构自研的视频会议平台TalkLine,针对每个新注册用户赠送5000分钟使用时长,目前已累计赠送了约10亿分钟。
(免责声明:本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿,凡在本网站出现的信息,均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏,概不负任何法律责任。
任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时,应及时向本网站提出书面权利通知或不实情况说明,并提供身份证明、权属证明及详细侵权或不实情况证明。本网站在收到上述法律文件后,将会依法尽快联系相关文章源头核实,沟通删除相关内容或断开相关链接。 )