2017年4月12-13日,2017亞太CDN峰會在北京隆重召開,在13日上午的視頻云論壇上,百度系統(tǒng)副總監(jiān)劉寧作了題為《云智時代的CDN平臺》主題報告。
百度系統(tǒng)副總監(jiān)劉寧
用戶需求趨向對CDN提出新的需求
用戶需求趨向的改變帶給了整個CDN行業(yè)發(fā)展的動力,體現(xiàn)在通信社交、消費需求、個性化以及kill time等已經(jīng)變成了用戶的需求,同時還包括泛信息、泛娛樂。這些用戶需求的典型特點是富媒體化,對于視頻點播、視頻直播包括短視頻行業(yè)對這些方面有了更多的需求,也給CDN行業(yè)提出了很多的要求。
越來越多的用戶無論是內部用戶還是外部用戶,在用戶體驗方面都提出了非常高的要求,不光是可用性、質量還有更低的成本、技術上更快更好的研發(fā)和對接,用戶還對云廠商人工智能、大數(shù)據(jù)的能力提出了相應的要求。
ABC+CDN:云+智+數(shù)+CDN合力為企業(yè)發(fā)展賦能
百度云的CDN平臺實際上在推出產(chǎn)品之前也在百度內部打磨了七年多的時間,百度云內部從各個層面上有非常多的經(jīng)驗和技術積累,比如說網(wǎng)絡層,在多級CDN的覆蓋、多線的源站、BGP的源站及非常多的小運營商peer等等;在軟件層面比如流量的調度、GSLB、4 7層負載均衡以及熱點的負載均衡、緩存系統(tǒng)的優(yōu)化、AI、黃反識別、視頻標簽等都有非常豐富的經(jīng)驗。通過監(jiān)控平臺可以實時發(fā)現(xiàn)百度云上出現(xiàn)了什么問題,及時做調度。百度云的配置管理方便用戶快速做配置變更,在基礎服務層面包括文件上傳、內容刷新、推流、轉碼以及數(shù)據(jù)的分析;同時在解決方案上,百度云給用戶提供了相對比較全面的解決方案,比如存儲的分發(fā)、大文件的分發(fā)、小文件分發(fā)、視頻的解決方案等等。
百度的CDN平臺以及百度云通過借助百度的AI和BIG DATA可以給用戶提供更高的價值。
精細打磨CDN產(chǎn)品能力,提供高品質CDN服務
高品質的CDN平臺通常要滿足三點要素:首先是可用性,再者要求更高的性能,并且要求更好的用戶體驗。百度的CDN平臺在內部一直承載著搜索業(yè)務、圖片業(yè)務以及網(wǎng)盤類型的業(yè)務,即能滿足搜索類型業(yè)務極其嚴格的可以性和質量要求,也能滿足網(wǎng)盤對存儲容量和承載能力的嚴格要求。
在穩(wěn)定性方面,百度在做CDN節(jié)點選擇的時候會做非常嚴格的節(jié)點準入。實際上在運營商不同層級的節(jié)點上CDN質量差別非常大,而且即便是一個層級上的節(jié)點,還是有很大差別。百度還建立了全國質量感知網(wǎng)絡,通過建設全國監(jiān)控網(wǎng),通過不同的維度監(jiān)控業(yè)務問題,比如服務端、客戶端、第三方監(jiān)測等等。每天通過千億級PV在服務器后端發(fā)現(xiàn)問題,也可以通過百度做業(yè)務打點進行錯誤檢測。通過這樣的方式可以比較實時發(fā)現(xiàn)問題在哪兒然后做及時的調度切換。
CDN是一個重度依賴硬盤和SSD的服務,對硬盤健康性的把握直接影響CDN的服務質量和可用性。一個CDN節(jié)點,當服務器越少的時候,一塊硬盤出現(xiàn)質量問題如果沒有及時發(fā)現(xiàn),所導致影響就越大,很可能造成一個節(jié)點百分之零點幾的可用性影響,這對一個超過4個9可用性的cdn平臺是不可接受的。百度云劉寧總監(jiān)介紹道:百度采用監(jiān)控故障扇區(qū)、磁頭馬達等硬件錯誤、設備報錯、設備文件不可訪問、進程D狀態(tài)、盤符缺失、SmartFail等數(shù)據(jù),運用GBDT(Gradient Boosting Decision Tree)、SVM等算法 + 神經(jīng)網(wǎng)絡構建故障預測模型,不僅可以做到故障不漏發(fā)現(xiàn),還可提前48小時預測故障,準確率>90%,一旦預測到磁盤故障將要發(fā)生,會提前遷移盤上的熱點數(shù)據(jù),同時提前剔除故障磁盤,并自動報修。
在性能方面,一方面從網(wǎng)絡以及節(jié)點的布局設計上考慮,在運營商骨干節(jié)點上建立了大量的超級節(jié)點,單個節(jié)點存儲超級結點可以達到3個P的存儲,有助于緩存持久化。同時單個節(jié)點帶寬達到160G或者更高的級別的時候就可以應對云時代業(yè)務中很多突發(fā)、攻擊,應對較為復雜的情況。這樣的結構超級節(jié)點加上更廣泛覆蓋的邊緣節(jié)點,可以提升命中率。另外還在自研的負載均衡、DNS、自研交換機上做了大量的優(yōu)化工作,百度在負載均衡上基于DBDK開發(fā)了40G單機能力的負載均衡,它可以幫助百度很容易設計建設一些超級節(jié)點。
在速度優(yōu)化方面,百度云做了非常多調優(yōu)。一方面是通過節(jié)點的覆蓋,通過精準的CDN角度302調度,同時在算法上做了大量工作。尤其在協(xié)議棧的優(yōu)化上,在去年一年就線上迭代了近100個版本,使得協(xié)議棧的擁塞算法的性能大幅超過標準cubic以及google BBR在internet上的表現(xiàn)。
百度云的獨特優(yōu)勢在于以下幾點:1、質量感知:百度用戶基數(shù)大、使用密集、質量數(shù)據(jù)實時、細膩,基于訪問質量的自動實時調度。2、大數(shù)據(jù):服務器故障大數(shù)據(jù),硬盤故障預測并自動踢出,杜絕帶病運行。3、骨干節(jié)點:運營商骨干節(jié)點數(shù)100+,邊緣節(jié)點200+,三級節(jié)點緩存,4、BGP接入:BGP接入超過30家運營商。5、節(jié)點測試:嚴格的節(jié)點準入測試。
百度云在做各方面技術的打磨、產(chǎn)品的打磨的時候,更多是希望給用戶提供更好的產(chǎn)品和解決方案以及更好的性能。
百度云的解決方案
1、安全解決方案
演講中,劉寧跟大家分享了幾個百度的解決方案。整個中國的互聯(lián)網(wǎng)劫持非常嚴重,通常業(yè)務可以達到1%以上的劫持率,所以搜索業(yè)務前幾年就開始做全站的切換,百度在很早就開始做全站的HTTPS的切換。在這個過程中,一方面SRE團隊做了SSL接入層面優(yōu)化,另一方面百度也開發(fā)了SSL offload異步集群,通過硬件加速的集群降低性能開銷,最終達到了理想的效果。百度能夠提供證書托管服務業(yè)、Keyless的https服務,同時也提供客戶httpDNS服務解決在DNS請求方面的劫持。
2、存儲分發(fā)方案
百度在提供CDN分發(fā)的同時也提供了很完整的存儲分發(fā)解決方案。百度的存儲分發(fā)解決方案是基于網(wǎng)盤近些年產(chǎn)品的積累和技術的打磨,百度網(wǎng)盤實際上是為解決過億用戶千PB的存儲問題。百度云的存儲方案給用戶提供數(shù)據(jù)的上傳、備份、存儲和處理的工作,用戶可以簡單的開啟其數(shù)據(jù)分發(fā)同時進行智能數(shù)據(jù)分級,大規(guī)模降低用戶存儲的成本。
3、P2P加速解決方案
P2P加速解決方案能夠節(jié)約30%帶寬費用,降低企業(yè)成本。體驗:用戶體驗好,卡頓比小于5%,首畫面時間小于1s;SDK:支持多平臺的SDK,資源占用少,豐富的控制接口;分享率:全天分享率大于35%,熱門文件的分享率達到80%以上;成本:降低30%以上。
4、視頻解決方案
百度的視頻云解決方案既提供基礎視頻云服務,也提供基于百度深度學習算法、百度大腦AI的能力,同時提供百度大數(shù)據(jù)支撐也幫助客戶建設視頻索引系統(tǒng)、視頻搜索系統(tǒng)。百度的視頻基礎云是基于百度自研的視頻點播VOD及視頻直播系統(tǒng)研發(fā)的,百度在視頻點播、直播上做了大量優(yōu)化工作,從推流、拖流到源站,整個鏈路上沒有采用開源的方案,而是采取百度自己的私有協(xié)議做了大量的優(yōu)化工作。百度視頻直播云在1-3毫秒延時的情況下可以提供3%以內的卡頓率。百度的視頻點播云一方面為客戶提供視頻播放、視頻分發(fā)網(wǎng)絡、轉碼以及存儲,另一方面直播平臺也給用戶提供單向的LSS直播以及雙向的互動直播,還可以做直播錄制。
百度的視頻基礎云背靠百度AI和大數(shù)據(jù),致力于給用戶提供精準的內容理解。百度在內容審核方面可以給用戶提供非常高準召率的色恐的審核,包括人物的審核,政治敏感度人物的審核,版權審核、播控審核、智能縮略圖、字幕的生成等等。,利用視頻AI提供的視頻結構化標簽,結合百度視頻大數(shù)據(jù)的能力可以幫助用戶快速構建起視頻推薦系統(tǒng)以及視頻內容的索引系統(tǒng)。如果用戶沒有很好的用戶畫像,百度大數(shù)據(jù)也會為其提供用戶畫像的冷啟動,從而快速構建他的視頻推薦系統(tǒng),建設用戶視頻模型及視頻特征模型。
關于在內容生產(chǎn)方面百度可以幫用戶做什么,劉寧答道一方面是用戶的生產(chǎn)輔助,比如長精彩片段的提取、字幕的輔助生成,百度視頻結構化標簽的準召率非常高,通常的結構化標注范圍比較少、標簽的維度也比較少,但是用百度的AI則可以做到非常豐富的標簽。
在視頻流量方面,百度竭力幫助用戶解決兩個關鍵的問題:一個人找視頻的場景,另一個是視頻找人的場景。人找視頻場景通常是廣電側的場景,可以結合視頻的輸出和百度搜索幫助用戶快速構建起站內搜索能力;視頻的推薦主要側重于UGC的場景,在視頻內容模型和用戶行為上幫助用戶快速構建起站內更為精準的推薦。
用戶還可以結合百度的百家號和百度視頻提供更好的內容的曝光。在營銷方面可以幫助UP主以及內容生產(chǎn)方快速建立起來粉絲和輿情管理、用戶畫像。比如一個UP主肯定非常想關注到他所有的粉絲是什么樣的年齡群體、年齡段,什么樣的職業(yè)背景、什么樣的家庭背景,更喜歡什么方面的內容,這樣才有助于指導UP主生產(chǎn)內容。在視頻流量變現(xiàn)方面,一方面百度云可以幫助用戶快速搭建廣告平臺,另一方面也可以通過視頻DSP、聯(lián)盟視頻廣告快速幫助用戶實現(xiàn)變現(xiàn)。
最后劉寧建議大家更多關注ai.baidu.com、cloud.baidu.com,網(wǎng)站發(fā)布有很多關于智能視頻和百度云CDN產(chǎn)品動態(tài)的信息。
責任編輯:王剛