艾媒咨詢數(shù)據(jù)顯示，2020年復(fù)工期間，中國(guó)有超過(guò)1800萬(wàn)家企業(yè)采用了線上遠(yuǎn)程辦公模式，共計(jì)超過(guò)3億用戶使用遠(yuǎn)程辦公應(yīng)用。同時(shí)，還有約2億的學(xué)生采用線上網(wǎng)課的方式進(jìn)行遠(yuǎn)程教學(xué)。而無(wú)論是遠(yuǎn)程辦公、視頻會(huì)議還是線上教育系統(tǒng)，都離不開(kāi)底層技術(shù)實(shí)時(shí)音視頻的支持。
實(shí)時(shí)音視頻技術(shù)包括實(shí)時(shí)語(yǔ)音、實(shí)時(shí)視頻和連麥互動(dòng)，此前“直播”可能是大家最熟悉的實(shí)時(shí)音視頻應(yīng)用場(chǎng)景。受疫情影響，音視頻技術(shù)帶來(lái)的其他行業(yè)和場(chǎng)景的遠(yuǎn)程無(wú)接觸服務(wù)，獲得了高速增長(zhǎng)。
“X+音視頻”aPaaS全行業(yè)接入，即構(gòu)日均通話時(shí)長(zhǎng)突破20億
針對(duì)疫情期間爆發(fā)的多行業(yè)遠(yuǎn)程服務(wù)需求，音視頻云服務(wù)商即構(gòu)科技快速上線了TalkLine視頻會(huì)議、小藝幫線上藝考兩大SaaS平臺(tái)以及多個(gè)遠(yuǎn)程aPaaS方案，通過(guò)即下即用和快速開(kāi)發(fā)的優(yōu)勢(shì)，將音視頻技術(shù)的應(yīng)用范圍從直播社交泛娛樂(lè)，迅速延伸到教育、辦公會(huì)議、藝考、政務(wù)、醫(yī)療、金融等多個(gè)行業(yè)，覆蓋政務(wù)民生各個(gè)領(lǐng)域。
合作的線上遠(yuǎn)程服務(wù)應(yīng)用呈爆發(fā)式增長(zhǎng)，即構(gòu)科技作為底層技術(shù)服務(wù)商，平臺(tái)數(shù)據(jù)也不斷攀升。據(jù)了解，2020年初，即構(gòu)平臺(tái)整體流量增長(zhǎng)近4倍，日均音視頻互動(dòng)時(shí)長(zhǎng)增長(zhǎng)至20億分鐘。
即構(gòu)科技的合作客戶，覆蓋了泛娛樂(lè)和在線教育行業(yè)的大量頭部平臺(tái)，比如映客、喜馬拉雅、酷狗、荔枝、好未來(lái)、作業(yè)幫、一起作業(yè)網(wǎng)、掌門一對(duì)一等，而這兩個(gè)行業(yè)，恰好是2020年初流量增長(zhǎng)最大的行業(yè)之二。不少平臺(tái)的使用量是以倍數(shù)增長(zhǎng)的，某個(gè)國(guó)內(nèi)TOP級(jí)在線教育平臺(tái)，更是實(shí)現(xiàn)了百倍的用量增長(zhǎng)。
流量暴漲為平臺(tái)帶來(lái)了大量用戶，但同時(shí)對(duì)平臺(tái)穩(wěn)定性會(huì)有更大壓力，可能會(huì)導(dǎo)致平臺(tái)崩潰，服務(wù)不可用。在 “家里蹲”的日子里，大家經(jīng)歷了多個(gè)APP的宕機(jī)。那么，日均20億分鐘互動(dòng)，高達(dá)數(shù)千萬(wàn)的并發(fā)，即構(gòu)科技是如何在流量暴增的情況下保障穩(wěn)定服務(wù)的?
千萬(wàn)高并發(fā)架構(gòu)+后臺(tái)服務(wù)機(jī)制，保障平穩(wěn)服務(wù)
要扛住千萬(wàn)級(jí)的高并發(fā)，首先要有一個(gè)支持千萬(wàn)級(jí)并發(fā)的底層架構(gòu)。即構(gòu)的核心創(chuàng)始團(tuán)隊(duì)來(lái)自騰訊，團(tuán)隊(duì)成員多數(shù)參與了QQ產(chǎn)品實(shí)現(xiàn)用戶量從百萬(wàn)級(jí)到上億級(jí)的跨越式發(fā)展，因此對(duì)于平臺(tái)底層架構(gòu)的高并發(fā)設(shè)計(jì)具有先瞻性預(yù)見(jiàn)。通過(guò)以往海量用戶運(yùn)營(yíng)的經(jīng)驗(yàn)積累和近二十年的音視頻技術(shù)沉淀，在5年前即構(gòu)創(chuàng)立之初進(jìn)行底層架構(gòu)設(shè)計(jì)時(shí)，對(duì)并發(fā)數(shù)的要求就達(dá)到了千萬(wàn)級(jí)別。
隨后的幾年里，即構(gòu)科技通過(guò)不斷打磨技術(shù)，不斷優(yōu)化服務(wù)器的單點(diǎn)負(fù)載能力、集群系統(tǒng)的智能調(diào)度算法和多云多網(wǎng)融合的虛擬網(wǎng)建設(shè)，已實(shí)現(xiàn)彈性伸縮，讓用戶無(wú)損無(wú)感知的無(wú)縫平滑擴(kuò)縮容。在2019年中，即構(gòu)后臺(tái)統(tǒng)計(jì)到的日均音視頻互動(dòng)時(shí)長(zhǎng)就已突破6億分鐘。
有了千萬(wàn)級(jí)并發(fā)的基礎(chǔ)架構(gòu)，要實(shí)現(xiàn)在一波又一波流量高峰來(lái)臨后依然平滑穩(wěn)定服務(wù)，還離不開(kāi)預(yù)警、限流、緊急擴(kuò)容等后臺(tái)服務(wù)機(jī)制的保障。
即構(gòu)科技后臺(tái)媒體服務(wù)組負(fù)責(zé)人Jack，向我們介紹了即構(gòu)一系列后臺(tái)服務(wù)機(jī)制是如何運(yùn)行的：
首先，針對(duì)每一位企業(yè)客戶，即構(gòu)會(huì)提供流量實(shí)時(shí)監(jiān)測(cè)預(yù)警服務(wù)。后臺(tái)服務(wù)的技術(shù)人員會(huì)監(jiān)控目前的容量水位，當(dāng)該客戶的服務(wù)器負(fù)載超過(guò)一定閥值時(shí)會(huì)自動(dòng)觸發(fā)預(yù)警，提醒相關(guān)人員進(jìn)行擴(kuò)容;
其次，當(dāng)遇到短時(shí)突發(fā)性暴漲，即構(gòu)后臺(tái)服務(wù)會(huì)通過(guò)限流機(jī)制來(lái)保障客戶服務(wù)的可用性。即構(gòu)的限流機(jī)制，是以不影響已有用戶體驗(yàn)為基礎(chǔ)的。以前段時(shí)間即構(gòu)所服務(wù)的某教育平臺(tái)為例，在客戶也未預(yù)期的情況下，客戶平臺(tái)用量突然暴漲了幾倍，觸發(fā)了即構(gòu)的限流機(jī)制。限流開(kāi)啟后，該平臺(tái)上已開(kāi)課上課的老師學(xué)生，服務(wù)不受影響;而后來(lái)涌入的用戶，即構(gòu)會(huì)通過(guò)降低推拉流碼率、分辨率的方式，犧牲部分用戶體驗(yàn)以保障服務(wù)可用。隨后，即構(gòu)立即啟動(dòng)緊急擴(kuò)容機(jī)制，10分鐘后，擴(kuò)容完成，后進(jìn)入的老師學(xué)生碼率分辨率恢復(fù)。
第三，即構(gòu)的緊急擴(kuò)容機(jī)制，可實(shí)現(xiàn)10分鐘內(nèi)完成數(shù)百臺(tái)服務(wù)器的擴(kuò)容。這些服務(wù)器資源，可支持一個(gè)在線教育平臺(tái)新增10W級(jí)別的老師開(kāi)課，或者接近100萬(wàn)級(jí)別的學(xué)生聽(tīng)課。
當(dāng)架構(gòu)和后臺(tái)服務(wù)機(jī)制都ready的情況下，即構(gòu)還提供一對(duì)一技術(shù)支持，幫助客戶提前規(guī)避和及時(shí)解決流量上漲可能帶來(lái)的問(wèn)題。
服務(wù)前置+一對(duì)一支持，即構(gòu)讓所有用戶獲得最佳體驗(yàn)
“技術(shù)支持是一項(xiàng)非常細(xì)致的工作，平臺(tái)使用量暴漲時(shí)，對(duì)技術(shù)支持的工作提出了不小的挑戰(zhàn)，我們都是24小時(shí)待命，全程支持客戶上量、擴(kuò)容。”這是即構(gòu)技術(shù)支持負(fù)責(zé)人Tina的原話。
與大家印象中技術(shù)支持“遇到問(wèn)題才解決問(wèn)題”不同的是，即構(gòu)倡導(dǎo)以客戶成功為導(dǎo)向，映射到技術(shù)支持工作中，即構(gòu)會(huì)進(jìn)行服務(wù)前置，即幫助客戶提前規(guī)避可能的風(fēng)險(xiǎn)。
2月初，教育部發(fā)出“停課不停學(xué)”的倡議。預(yù)料到隨后在線教育平臺(tái)使用量可能將快速攀升，即構(gòu)技術(shù)支持人員對(duì)每一家教育平臺(tái)進(jìn)行了回訪。詢問(wèn)客戶對(duì)自身平臺(tái)使用量的一個(gè)預(yù)估，判斷用戶目前的服務(wù)器資源是否足夠支撐。并細(xì)致到具體的應(yīng)用場(chǎng)景，是大班課、一對(duì)一小班、一對(duì)多小班或是AI課堂、跨國(guó)教育等，針對(duì)每個(gè)平臺(tái)制定一對(duì)一服務(wù)方案。
方案制定后，技術(shù)支持人員會(huì)立即與后臺(tái)服務(wù)人員對(duì)接，確認(rèn)服務(wù)器資源，提前部署。即構(gòu)會(huì)在客戶提供的預(yù)估量之上，提供一定量的冗余資源來(lái)保障客戶穩(wěn)定性。
從客戶上量到最高使用峰值再到用量回落的整個(gè)過(guò)程，即構(gòu)技術(shù)人員需全程支持。而不同的行業(yè)，使用峰值時(shí)段并不同。比如，在線教育平臺(tái)，使用量從上午開(kāi)始攀升，到下午或者晚上才達(dá)到高峰;而跨國(guó)教育或出海平臺(tái)，使用高峰在后半夜之后;而即構(gòu)服務(wù)的某Top級(jí)金融平臺(tái)，通過(guò)即構(gòu)SDK實(shí)現(xiàn)了3萬(wàn)銷售人員的遠(yuǎn)程企業(yè)內(nèi)訓(xùn)，其使用量在早上7點(diǎn)就開(kāi)始上漲，整個(gè)上午時(shí)段的用量最大。這意味著，技術(shù)支持人員需要24小時(shí)無(wú)休全天輪值。
除了針對(duì)客戶使用量上漲所做的保障工作，技術(shù)支持還需對(duì)客戶的常規(guī)問(wèn)題進(jìn)行排查，以保障客戶使用的最佳體驗(yàn)。“我們經(jīng)常幫助客戶排查問(wèn)題到凌晨1-2點(diǎn)，但這些努力都是有回報(bào)的，我們最開(kāi)心的是一天結(jié)束后，客戶在對(duì)接群里說(shuō)的一句：今天平臺(tái)運(yùn)行良好，感謝大家的支持，辛苦了”Tina分享道。
單日互動(dòng)時(shí)長(zhǎng)突破20億分鐘的背后，是無(wú)數(shù)客戶對(duì)即構(gòu)技術(shù)和服務(wù)的肯定。即構(gòu)也遇到過(guò)棘手的難題。線上用戶增速最快的那段時(shí)間，全網(wǎng)服務(wù)器資源緊張。一方面是用戶急需擴(kuò)容保障服務(wù)，一方面是供應(yīng)商資源的短缺。即構(gòu)科技拿完了已有供應(yīng)商所有可提供的資源后，陸續(xù)向其他的云商采購(gòu)。
“我們本來(lái)就是支持多云商的架構(gòu)，不同廠商的物理機(jī)、云主機(jī)我們都做了兼容和支持，因此服務(wù)器資源不受單一供應(yīng)商限制，可以在短時(shí)間內(nèi)調(diào)用更多的資源，所以服務(wù)器資源緊張的問(wèn)題并沒(méi)有困擾我們太久”，即構(gòu)后臺(tái)媒體服務(wù)組負(fù)責(zé)人Jack說(shuō)到。
即構(gòu)強(qiáng)調(diào)利他共生的價(jià)值觀，最大程度的支持客戶成功，與客戶共同成長(zhǎng)。堅(jiān)持 “將技術(shù)做極致，不浪費(fèi)客戶的每一分錢”的原則，通過(guò)持續(xù)不斷優(yōu)化服務(wù)器負(fù)載能力，從根源上優(yōu)化客戶的云服務(wù)成本。
同時(shí)，針對(duì)不同時(shí)期不同客戶，即構(gòu)會(huì)推出不同的讓利舉措，在疫情期間用戶對(duì)遠(yuǎn)程辦公協(xié)同有大量需求，即構(gòu)自研的視頻會(huì)議平臺(tái)TalkLine，針對(duì)每個(gè)新注冊(cè)用戶贈(zèng)送5000分鐘使用時(shí)長(zhǎng)，目前已累計(jì)贈(zèng)送了約10億分鐘。
（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。
任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說(shuō)明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。 ）
