欧美色图 亚洲|野外口爆视频国产|久久精品视频观看|97精品人人抽插

網(wǎng)易云安全:短視頻、直播內(nèi)容安全運(yùn)營的實(shí)戰(zhàn)策略

2017-06-16 09:11:36 來源:donews 熱度:
如今,直播+電商的模式不僅給互聯(lián)網(wǎng)產(chǎn)品運(yùn)營帶來了新思路,也讓直播之火燃燒得更加旺盛。但與之同時,直播產(chǎn)品本身也產(chǎn)生的一系列問題,甚至極大地?fù)p害了用戶體驗(yàn),比如直播中的色情、廣告、謠言等。
 
在最近的網(wǎng)易運(yùn)營開放日上,來自網(wǎng)易云安全(易盾)的產(chǎn)品總監(jiān)饒曉艷做了有關(guān)于短視頻、直播內(nèi)容安全運(yùn)營實(shí)戰(zhàn)分享。在她看來,互聯(lián)網(wǎng)從業(yè)人員在產(chǎn)品日常運(yùn)營中,除了要做到引導(dǎo)核心用戶貢獻(xiàn)優(yōu)質(zhì)的內(nèi)容,同時也要做到處理掉那些低質(zhì)量甚至是垃圾的內(nèi)容,整個處理的過程其實(shí)是在跟黑灰產(chǎn)團(tuán)伙做持久攻防斗爭。
 
互聯(lián)網(wǎng)內(nèi)容建設(shè)現(xiàn)狀堪憂,黑產(chǎn)也會“追熱點(diǎn)”
 
 
據(jù)饒曉艷介紹,制造淫穢色情、詐騙信息、垃圾廣告等有害信息的團(tuán)伙有一個很明顯的特征:追熱點(diǎn)。哪里有人氣、哪里有流量他們就在哪里扎推,不分晝夜,尤其會選擇夜間這一防守相對薄弱的時間段來發(fā)布垃圾惡意信息。
 
更為可怕的是,內(nèi)容制造商團(tuán)伙基本上是通過網(wǎng)上協(xié)作的形式進(jìn)行不良信息發(fā)布,他們有的是需求方,有的是接單方,而在接單方中又會細(xì)分為自動發(fā)帖機(jī)提供方、批量賬號提供方、垃圾內(nèi)容制造方。
 
以上“高效”的有害信息生產(chǎn)方式,足以讓互聯(lián)網(wǎng)產(chǎn)品的用戶體驗(yàn)大打折扣。據(jù)中國互聯(lián)網(wǎng)違法和不良信息舉報中心數(shù)據(jù)顯示,平均每月全國各地網(wǎng)信辦受理網(wǎng)民舉報304.6萬件;淫穢色情、詐騙信息、垃圾廣告等有害信息源源不斷。其中,淫穢色情類有害信息仍較為突出,舉報達(dá)121.5萬件,占比67.2%;網(wǎng)絡(luò)社交工具的使用過程中碰到的侵權(quán)現(xiàn)象,廣告信息多占比最高70.8% 。
 
面對政策法規(guī)、用戶體驗(yàn),直播內(nèi)容安全危機(jī)重重
 
饒曉艷認(rèn)為,包括直播在內(nèi)的所有互聯(lián)網(wǎng)UGC產(chǎn)品的內(nèi)容運(yùn)營風(fēng)險主要來自于兩方面:一是政策法規(guī),目前很多國家法規(guī)里面已經(jīng)明確了對互聯(lián)網(wǎng)產(chǎn)品中相關(guān)內(nèi)容的要求——彈幕必須是要做到先審后發(fā);直播間必須有水印標(biāo)識;直播內(nèi)容必須要有二十四小時的審核監(jiān)管;表演者必須實(shí)名注冊等。
 
二是涉及到用戶體驗(yàn),“現(xiàn)在大家實(shí)際看到的云音樂評論是特別有故事性,或者經(jīng)常特別耐看,其實(shí)我們每天從云音樂的原創(chuàng)歌單或者評論區(qū)刪掉的內(nèi)容也非常多”,饒曉艷說,“不同的粉絲群經(jīng)常也會出現(xiàn)掐架或者撕逼的狀態(tài),分分鐘人身攻擊到比較嚴(yán)重的程度,這些情況都需要過濾和處理”。
 
 
從直播類產(chǎn)品痛點(diǎn)案例來看,目前直播類碰到的內(nèi)容監(jiān)管有四個比較明顯的難點(diǎn):首先是彈幕聊天室的實(shí)時審核;然后是色情審核,現(xiàn)在仍然有秀場類的主播通過衣服脫下去再馬上穿上的秒錄行為打“擦邊球”,如果監(jiān)管不及時,很難抓到;再次是用戶突發(fā)通過平臺直播一個群體事件或者不良事件,平臺需要擔(dān)責(zé);最后則是成本和技術(shù)方面的持續(xù)積累和投入負(fù)擔(dān)過重。
 
網(wǎng)易云安全(易盾)如何在實(shí)戰(zhàn)中解決內(nèi)容安全問題?
 
面對專業(yè)黑產(chǎn)、政策法規(guī)規(guī)范、用戶體驗(yàn)差等風(fēng)險,饒曉艷解釋說,網(wǎng)易云安全(易盾)在給內(nèi)部產(chǎn)品或者外部產(chǎn)品提供內(nèi)容安全服務(wù)時,首先會從文本、圖片、視頻和語音等方面入手,來一次全面的檢測;在為做直播類產(chǎn)品提供服務(wù)時,網(wǎng)易云安全(易盾)還會從彈幕實(shí)時過濾、用戶頭像/昵稱過濾、聊天區(qū)文本/圖片過濾、直播間電視墻監(jiān)控等方面來做內(nèi)容安全解決方案。
 
 
“現(xiàn)在法規(guī)要求實(shí)名認(rèn)證,我們的聯(lián)動行為式驗(yàn)證碼和聯(lián)動身份認(rèn)證都是在發(fā)垃圾之前提高相應(yīng)的門檻,然后擋掉一部分的垃圾用戶”,饒曉艷說,“直播中掛機(jī)或者黑屏的行為,我們也會去做檢測”。
 
據(jù)介紹,在外部客戶口碑中,網(wǎng)易云安全(易盾)得到了全聚星、一起秀等負(fù)責(zé)人的高度評價。一起秀CTO黃景素就曾表示:“隨著一起秀產(chǎn)品的不斷發(fā)展,用戶量急劇上升,彈幕區(qū)留言區(qū)的參與活躍度都非常高,運(yùn)營審核人員已不堪重負(fù),網(wǎng)易易盾幫助我們解決了燃眉之急,切實(shí)幫助我們有效過濾了不良信息,減少了運(yùn)營風(fēng)險”。
 
饒曉燕總結(jié)說,做內(nèi)容安全必須注意以下重要環(huán)節(jié)——注冊、登錄、帳號各個環(huán)節(jié)做預(yù)先的處理;做一些相應(yīng)地法律法規(guī)學(xué)習(xí);重點(diǎn)關(guān)注的產(chǎn)品熱門板塊等。網(wǎng)易云安全(易盾)團(tuán)隊(duì)在內(nèi)部做了將近二十年的內(nèi)容安全工作,內(nèi)容的審核方式也正在從人工到人工智能的演進(jìn),在未來,網(wǎng)易云安全(易盾)希望能為廣大政企客戶、開發(fā)者們提供更為完善高效的內(nèi)容安全解決方案。
 

責(zé)任編輯:王良地

相關(guān)推薦

失落的魔獸世界

《魔獸世界》再起風(fēng)波。從九城到網(wǎng)易,剛剛恢復(fù)運(yùn)營的《魔獸世界》又讓玩家捏一把汗,前景難料。10月29日,新聞出版總署發(fā)出通知,終止網(wǎng)易《魔獸世界》(以下簡稱《魔獸》)審批,退回關(guān)于引進(jìn)出版《魔獸》的申請。通知非常嚴(yán)厲地要求網(wǎng)易立即停止違規(guī)行為,停止收費(fèi)和新賬號注冊,并向公司所在地的上海市新聞出版局遞交書面檢查報告。通知中還稱,將視情況依法對其作出正式的行政處罰,包括停止其互聯(lián)網(wǎng)接入服務(wù)。然而,就在11月3日下午的文化部查處第七批違法游戲產(chǎn)品及經(jīng)營活動新聞通氣會上,文化部文化市場司司長李雄表示:文化部認(rèn)為,新聞出版總署的通知屬于越權(quán)行為。對于與新聞出版總署

第一財經(jīng)周刊:網(wǎng)易難“遠(yuǎn)征”

新聞出版總署宣布停止《魔獸世界—燃燒的遠(yuǎn)征》審批,這可能將對這款游戲甚至網(wǎng)易的未來產(chǎn)生重大影響。要想挑戰(zhàn)新版本《魔獸世界》中最華麗的BOSS—戰(zhàn)斗場景遠(yuǎn)在外太空、每周只存在一個小時的“阿加隆”,中國的玩家們恐怕還需要等待很長一段時間,也可能永遠(yuǎn)沒有機(jī)會了。國家新聞出版總署11月2日下午在其網(wǎng)站上宣布停止《魔獸世界—燃燒的遠(yuǎn)征》的審批,網(wǎng)易關(guān)于引進(jìn)出版《魔獸世界》的申請也被退回。這則正式的通知說,網(wǎng)易于9月19日開始的收費(fèi)運(yùn)營,違反了關(guān)于網(wǎng)絡(luò)游戲“前置審批權(quán)”的規(guī)定;自接手運(yùn)營《魔獸世界》以來,網(wǎng)易并沒有獲得相關(guān)的“版號”。自今年4月發(fā)生運(yùn)營權(quán)易手以來,這款廣受歡迎的游戲在中國市場的前途一直云遮

網(wǎng)易已收到版署終止魔獸世界審批通知

有消息人士披露,在近日答復(fù)上海新聞出版局的問詢時,網(wǎng)易方面承認(rèn)已經(jīng)收到了版署終止審批的通知。根據(jù)慣例,網(wǎng)易應(yīng)當(dāng)在收到通知之后作出回應(yīng)。11月2日,新聞出版總署發(fā)出通知,終止《魔獸世界》(燃燒的遠(yuǎn)征)審批,退回關(guān)于引進(jìn)出版《魔獸世界》的申請。通知要求,網(wǎng)之易公司立即停止違規(guī)行為,糾正錯誤,停止收費(fèi)和新賬號注冊。新聞出版總署將視情依法對其作出相應(yīng)的行政處罰,包括停止其互聯(lián)網(wǎng)接入服務(wù)。11月4日,網(wǎng)易發(fā)言人李佳表示,網(wǎng)易運(yùn)營魔獸世界已獲得中國文化部批準(zhǔn),當(dāng)時,李佳也表示網(wǎng)易尚未收到版署的正式通知。業(yè)內(nèi)人士稱,從版署發(fā)出到網(wǎng)易接到通知確實(shí)需要一定的時間,但在版署發(fā)出新聞公告一周后,根據(jù)常理,網(wǎng)易現(xiàn)在應(yīng)

樂視網(wǎng)牽手土豆網(wǎng)后再聯(lián)姻網(wǎng)易共建視頻網(wǎng)站

作為唯一一家A股上市的視頻網(wǎng)站樂視網(wǎng),其一上市就吸引了眾人的目光和關(guān)注。在上市后一直動作頻頻,高調(diào)爭奪版權(quán)、進(jìn)行股權(quán)激勵,券商分析師也接連出具研報推薦,看好其成長性。在與土豆網(wǎng)、央視國際合作后,今日公司又宣布將聯(lián)姻國內(nèi)知名互聯(lián)網(wǎng)公司網(wǎng)易,共同打造視頻服務(wù)平臺,進(jìn)行優(yōu)勢互補(bǔ)。樂視網(wǎng)今日公告的這份重大合同顯示,公司與網(wǎng)易簽訂合作協(xié)議,雙方共同打造域名為“http:/163.letv.com”的視頻服務(wù)項(xiàng)目,樂視網(wǎng)負(fù)責(zé)為該平臺提供CDN分發(fā)、視頻相關(guān)信息、視頻內(nèi)容及視頻播放技術(shù)支持,網(wǎng)易在合作平臺上優(yōu)先選用樂視網(wǎng)提供的獨(dú)家視頻內(nèi)容并在優(yōu)勢位置推薦。同時,網(wǎng)易負(fù)責(zé)合作平臺、合作項(xiàng)目播放頁面所有視頻廣告