今日頭條有只內(nèi)容看門狗叫“靈犬”,240萬人曾用它來反低俗

2月20日,今日頭條方面宣布了“靈犬”全面升級(jí)的消息。除了反色情低俗,新版“靈犬”還加入了反暴力謾罵和反標(biāo)題黨能力。

至此,“靈犬”的檢測(cè)服務(wù),已覆蓋了主要的低俗低質(zhì)內(nèi)容類型。

據(jù)刺猬公社(ID:ciweigongshe)了解,這是上線近一年后,“靈犬”迎來的首個(gè)重大更新版本。數(shù)據(jù)顯示,截至目前,“靈犬”使用人次已經(jīng)突破240萬。這也是國(guó)內(nèi)首款反低俗信息小程序。

檢測(cè)內(nèi)容健康程度

這款小程序脫胎于今日頭條反低俗算法模型,用于鑒定低俗信息。用戶將文字或者文章鏈接放置到搜索框內(nèi),即可查詢?cè)摋l信息的健康程度。

據(jù)了解,“靈犬”這類技術(shù)模型,不僅可以為普通網(wǎng)民所用,用以凈化網(wǎng)絡(luò)空間,同時(shí)也有助于平臺(tái)內(nèi)容創(chuàng)作者的內(nèi)容改進(jìn)。

不同于一般平臺(tái)對(duì)低俗低質(zhì)內(nèi)容通常采取人工投訴、事后刪除的辦法,“靈犬”作為技術(shù)手段,能夠有效幫助平臺(tái)將內(nèi)容質(zhì)量檢測(cè)的機(jī)制前置,幫助創(chuàng)作者自查內(nèi)容是否觸發(fā)色情低俗、暴力謾罵和標(biāo)題黨等因素。

不過,在文字檢測(cè)上,“靈犬”團(tuán)隊(duì)規(guī)定,用戶輸入的字?jǐn)?shù)必須超過10個(gè)字才能進(jìn)行檢測(cè)。

對(duì)此,“靈犬”團(tuán)隊(duì)給出了解釋:用戶給的上下文、語境等信息越充分,機(jī)器判斷的準(zhǔn)確度就會(huì)越高。

在2018年3月份,刺猬公社曾參與過“靈犬”的內(nèi)測(cè),在“靈犬”上檢測(cè)了“你餓不餓我下面給你吃”幾個(gè)字,數(shù)據(jù)顯示,該內(nèi)容健康指數(shù)為51%,不及格。

2019年2月20日,刺猬公社再次檢測(cè),該內(nèi)容的健康概率指數(shù)為19%,命中反色情低俗模型,“不應(yīng)獲得算法推薦”。

這是什么意思呢?

“靈犬”就像一個(gè)內(nèi)容審核系統(tǒng),這個(gè)系統(tǒng)集納了被評(píng)定為色情低俗內(nèi)容的所有關(guān)鍵詞,一旦“你餓不餓我下面給你吃”觸碰到關(guān)鍵詞,該內(nèi)容將會(huì)被提取、分詞和語義識(shí)別,然后根據(jù)設(shè)定的規(guī)則,輸出對(duì)應(yīng)的分?jǐn)?shù)、評(píng)級(jí)和結(jié)論。

中國(guó)傳媒大學(xué)網(wǎng)絡(luò)法與知識(shí)產(chǎn)權(quán)研究中心主任王四新教授說,在網(wǎng)絡(luò)上如果色情低俗內(nèi)容不被過濾,很容易被當(dāng)做“產(chǎn)業(yè)”進(jìn)行開發(fā),有商業(yè)資本助推,有利可圖,在某些國(guó)家允許,但在我國(guó)不允許,《刑法》對(duì)涉及制作、復(fù)制、出版、販賣、傳播淫穢物品有明確罪項(xiàng)規(guī)定。

他還介紹說,在我國(guó),傳播淫穢色情內(nèi)容,被依法處置的情況很多。此外,還有虛假宣傳、謠言……的傳播者也會(huì)被進(jìn)行處罰。

但處理低俗信息依舊有難度,“靈犬”團(tuán)隊(duì)曾稱,不同于色情信息,處理低俗信息的一個(gè)難點(diǎn)在于,人們對(duì)于低俗的判斷標(biāo)準(zhǔn)具有一定的主觀性;色情信息很直接,低俗信息偏隱晦,對(duì)于像“靈犬”這種機(jī)器就更難了。

今日頭條的做法是,把低俗的標(biāo)準(zhǔn)分為兩個(gè)層次:幾乎所有人看來都會(huì)一致同意的標(biāo)準(zhǔn)底線,和因人而異的主觀判斷。有些檢測(cè)標(biāo)題,因人而異,仁者見仁智者見智。

不過,今日頭條方面也稱,“靈犬”新版本發(fā)布的背后,伴隨著“靈犬”打擊低俗低質(zhì)能力的提升。反色情低俗、反暴力謾罵模型,整體識(shí)別準(zhǔn)確率約為85%,反標(biāo)題黨模型識(shí)別準(zhǔn)確率約為90%。這些技術(shù)模型每天仍在持續(xù)優(yōu)化迭代。

國(guó)內(nèi)外都在治理低俗低質(zhì)內(nèi)容

近年來,互聯(lián)網(wǎng)新聞信息、互聯(lián)網(wǎng)音頻、網(wǎng)絡(luò)直播等互聯(lián)網(wǎng)文化內(nèi)容領(lǐng)域,都成了監(jiān)管部門的重點(diǎn)關(guān)注目標(biāo),監(jiān)管部門也出臺(tái)了不少的監(jiān)管政策,以規(guī)范行業(yè)行為。

去年10月,“傅首爾”“紫竹張先生”“有束光”“萬能福利吧”“野史秘聞”“深夜視頻”“唐納德說”等9800多個(gè)自媒體賬號(hào)被全網(wǎng)處置。這源于國(guó)家網(wǎng)信辦會(huì)同有關(guān)部門,針對(duì)自媒體賬號(hào)存在的一系列亂象問題,開展的集中清理整治專項(xiàng)行動(dòng)。

在這次網(wǎng)信辦的通報(bào)中,主要在以下5個(gè)方面出了問題,這5大問題也足以值得自媒體人深度警惕:

1、有的傳播政治有害信息,惡意篡改黨史國(guó)史、詆毀英雄人物、抹黑國(guó)家形象;

2、有的制造謠言,傳播虛假信息,充當(dāng)“標(biāo)題黨”,以謠獲利、以假吸睛,擾亂正常社會(huì)秩序;

3、有的肆意傳播低俗色情信息,違背公序良俗,挑戰(zhàn)道德底線,損害廣大青少年健康成長(zhǎng);

4、有的利用手中掌握大量自媒體賬號(hào)惡意營(yíng)銷,大搞“黑公關(guān)”,敲詐勒索,侵害正常企業(yè)或個(gè)人合法權(quán)益,挑戰(zhàn)法律底線;

5、有的肆意抄襲侵權(quán),大肆洗稿圈粉,構(gòu)建虛假流量,破壞正常的傳播秩序。

在此基礎(chǔ)上,國(guó)家網(wǎng)信辦又依法約談了騰訊微信、新浪微博等自媒體平臺(tái),對(duì)其主體責(zé)任缺失,疏于管理,放任野蠻生長(zhǎng),造成種種亂象,提出嚴(yán)重警告。騰訊微信、新浪微博相關(guān)負(fù)責(zé)人表示將認(rèn)真接受群眾和輿論監(jiān)督,自查自糾,積極整改,嚴(yán)格管理。

隨后,微博發(fā)布公告,表示將認(rèn)真接受群眾和輿論監(jiān)督,自查自糾,積極整改,嚴(yán)格管理。微信平臺(tái)則發(fā)文回應(yīng)稱,將加強(qiáng)對(duì)政治有害信息、色情低俗、謠言、標(biāo)題黨、抄襲侵權(quán)等違規(guī)內(nèi)容的打擊和清理,為用戶提供一個(gè)更健康的閱讀空間。

國(guó)家網(wǎng)信辦有關(guān)負(fù)責(zé)人指出,自媒體絕不是法外之地。近年來,國(guó)家網(wǎng)信辦依據(jù)《網(wǎng)絡(luò)安全法》相繼出臺(tái)《互聯(lián)網(wǎng)新聞信息服務(wù)管理規(guī)定》《互聯(lián)網(wǎng)用戶公眾賬號(hào)信息服務(wù)管理規(guī)定》等法規(guī)性文件,對(duì)具有媒體屬性和可對(duì)公眾發(fā)布信息的賬號(hào)及平臺(tái)作了明確規(guī)定。從趨勢(shì)上看,自媒體管理已經(jīng)納入法治化、規(guī)范化、制度化軌道。

而今日頭條在去年7月和10月,通過自查、用戶舉報(bào)等方式,處罰了近萬個(gè)違規(guī)賬號(hào)。

今日頭條發(fā)布公告稱,因侵犯版權(quán)而受到平臺(tái)處罰的頭條號(hào)賬號(hào),主要包括搬運(yùn)、篡改和歪曲等行為:一是未經(jīng)許可轉(zhuǎn)載、摘編整合或歪曲篡改新聞作品;二是通過“洗稿”方式抄襲剽竊、篡改刪減原創(chuàng)作品;三是未經(jīng)授權(quán)復(fù)制、表演、通過網(wǎng)絡(luò)傳播他人影視、音樂、攝影、文字等作品,或以合理使用為名對(duì)他人作品刪減改編。

由此可見,治理低俗低質(zhì)內(nèi)容不僅僅是一個(gè)平臺(tái)的事情,而是整個(gè)行業(yè)的事情。放眼世界,F(xiàn)acebook也因?yàn)榈退椎唾|(zhì)內(nèi)容而頭疼,去年10月份,F(xiàn)acebook直接對(duì)發(fā)布低俗低質(zhì)的賬號(hào)動(dòng)刀,一下子刪除了該平臺(tái)上559個(gè)頁面和251個(gè)違反垃圾消息規(guī)則的帳號(hào)。這些網(wǎng)頁和帳號(hào)使用假帳號(hào)來獲取點(diǎn)贊和共享,并引誘用戶點(diǎn)擊欺騙性網(wǎng)站鏈接,后者大多涉及政治內(nèi)容。

Twitter也對(duì)該同類型內(nèi)容進(jìn)行技術(shù)提示,Twitter在消息中的鏈接中添加“可能敏感”標(biāo)簽。據(jù)美國(guó)科技博客Gizmodo報(bào)道,Twitter的媒體政策顯示,該公司將“移除有可能被認(rèn)為是敏感的內(nèi)容,例如裸露、暴力。”

據(jù)新浪科技報(bào)道稱,業(yè)內(nèi)人士認(rèn)為,Twitter早就應(yīng)該推出這項(xiàng)功能,幫助家長(zhǎng)控制兒童所看到的內(nèi)容,以免他們點(diǎn)擊不適當(dāng)?shù)逆溄印?/p>

據(jù)王四新介紹,國(guó)外社交媒體對(duì)低俗低質(zhì)內(nèi)容的整治也在不斷加強(qiáng),即便西方國(guó)家有制度安排等原因在言論面前做支撐,但近十年來,仇恨、種族、暴力等問題越來越突出,相關(guān)言論也在社交媒體上散播,他們需要對(duì)其進(jìn)行治理。

“這種方法在未來肯定會(huì)大行其道”

2018年11月,今日頭條CEO陳林在生機(jī)大會(huì)上表示,在鼓勵(lì)優(yōu)質(zhì)內(nèi)容、打擊低質(zhì)內(nèi)容已經(jīng)成為全球內(nèi)容平臺(tái)的共同議題時(shí),今日頭條將開放技術(shù)模型,和行業(yè)一起提高平臺(tái)生態(tài)標(biāo)準(zhǔn)。開放給社會(huì)公眾,也是希望能通過開放平臺(tái)技術(shù),促進(jìn)全行業(yè)發(fā)展。“靈犬”此次全面升級(jí),無疑驗(yàn)證了這一點(diǎn)。

據(jù)了解,目前,今日頭條在平臺(tái)內(nèi)容治理方面,除了配備“靈犬”,還有其他反色情、反標(biāo)題黨、反虛假信息、反低質(zhì)內(nèi)容等數(shù)百個(gè)技術(shù)模型。與此同時(shí),今日頭條投入了上萬人專業(yè)審核編輯團(tuán)隊(duì),致力于結(jié)合人工、技術(shù)手段,保障平臺(tái)內(nèi)容健康。

面對(duì)低俗低質(zhì)內(nèi)容,整個(gè)社會(huì)都在出謀劃策。2018年10月31日,《經(jīng)濟(jì)日?qǐng)?bào)》發(fā)表新聞評(píng)論建議,要靠技術(shù)來提升低俗內(nèi)容的識(shí)別效率?;ヂ?lián)網(wǎng)企業(yè)要善用包括大數(shù)據(jù)、人工智能等新技術(shù),與時(shí)俱進(jìn)地更新內(nèi)容判定標(biāo)準(zhǔn),細(xì)化審核標(biāo)準(zhǔn),并升級(jí)群發(fā)檢測(cè)算法。只有依靠技術(shù)不斷完善“游戲規(guī)則”,才能讓違規(guī)內(nèi)容難以“鉆空子”,同時(shí)更充分地在版權(quán)上保護(hù)原創(chuàng)內(nèi)容,也能防范低俗賬號(hào)以微博、微信等平臺(tái)為跳板,將用戶導(dǎo)向外部空間再提供違規(guī)內(nèi)容。

這個(gè)建議正在被像今日頭條這樣的互聯(lián)萬公司實(shí)踐。財(cái)經(jīng)國(guó)家周刊編委、新媒體資深從業(yè)者王新一評(píng)價(jià)說,今日頭條的slogan是“信息創(chuàng)造價(jià)值”,而靈犬則是通過檢測(cè)出有害的信息來創(chuàng)造價(jià)值。內(nèi)容平臺(tái)需要兩手抓,一方面促進(jìn)平臺(tái)產(chǎn)生更多優(yōu)質(zhì)信息,一方面盡量減少低俗低質(zhì)內(nèi)容的出現(xiàn)。

“企業(yè)主動(dòng)利用這種技術(shù)手段來做好內(nèi)容審核工作是一個(gè)不錯(cuò)的方法。”王四新說,其他互聯(lián)網(wǎng)公司也在利用大數(shù)據(jù)技術(shù)做安全審查工作,比如滴滴用技術(shù)防御乘客可能遇到的乘車危險(xiǎn)。

而知乎在這方面也有實(shí)踐。據(jù)36氪報(bào)道,在2016年,知乎上線了機(jī)器人瓦力。瓦力的任務(wù),是識(shí)別并處理那些不友善、辱罵、陰陽怪氣、答非所問、色情內(nèi)容以及知乎不鼓勵(lì)的用戶爆照。

這種趨勢(shì)在近兩年逐漸明顯了起來,越來越多的企業(yè)主動(dòng)或被動(dòng)去探討更靈活、更及時(shí)、更有效的技術(shù)模型,人工成本會(huì)降低。王四新預(yù)測(cè),“這種方法在未來肯定會(huì)大行其道”。

對(duì)行業(yè)和社會(huì)來說,是好事。

極客網(wǎng)企業(yè)會(huì)員

免責(zé)聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請(qǐng)進(jìn)一步核實(shí),并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏,概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí),應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明,并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后,將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí),溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。

2019-02-25
今日頭條有只內(nèi)容看門狗叫“靈犬”,240萬人曾用它來反低俗
2月20日,今日頭條方面宣布了“靈犬”全面升級(jí)的消息。

長(zhǎng)按掃碼 閱讀全文