今日頭條有只內(nèi)容看門狗叫“靈犬”，240萬人曾用它來反低俗

2月20日，今日頭條方面宣布了“靈犬”全面升級(jí)的消息。除了反色情低俗，新版“靈犬”還加入了反暴力謾罵和反標(biāo)題黨能力。

至此，“靈犬”的檢測(cè)服務(wù)，已覆蓋了主要的低俗低質(zhì)內(nèi)容類型。

據(jù)刺猬公社(ID:ciweigongshe)了解，這是上線近一年后，“靈犬”迎來的首個(gè)重大更新版本。數(shù)據(jù)顯示，截至目前，“靈犬”使用人次已經(jīng)突破240萬。這也是國(guó)內(nèi)首款反低俗信息小程序。

檢測(cè)內(nèi)容健康程度

這款小程序脫胎于今日頭條反低俗算法模型，用于鑒定低俗信息。用戶將文字或者文章鏈接放置到搜索框內(nèi)，即可查詢?cè)摋l信息的健康程度。

據(jù)了解，“靈犬”這類技術(shù)模型，不僅可以為普通網(wǎng)民所用，用以凈化網(wǎng)絡(luò)空間，同時(shí)也有助于平臺(tái)內(nèi)容創(chuàng)作者的內(nèi)容改進(jìn)。

不同于一般平臺(tái)對(duì)低俗低質(zhì)內(nèi)容通常采取人工投訴、事后刪除的辦法，“靈犬”作為技術(shù)手段，能夠有效幫助平臺(tái)將內(nèi)容質(zhì)量檢測(cè)的機(jī)制前置，幫助創(chuàng)作者自查內(nèi)容是否觸發(fā)色情低俗、暴力謾罵和標(biāo)題黨等因素。

不過，在文字檢測(cè)上，“靈犬”團(tuán)隊(duì)規(guī)定，用戶輸入的字?jǐn)?shù)必須超過10個(gè)字才能進(jìn)行檢測(cè)。

對(duì)此，“靈犬”團(tuán)隊(duì)給出了解釋：用戶給的上下文、語境等信息越充分，機(jī)器判斷的準(zhǔn)確度就會(huì)越高。

在2018年3月份，刺猬公社曾參與過“靈犬”的內(nèi)測(cè)，在“靈犬”上檢測(cè)了“你餓不餓我下面給你吃”幾個(gè)字，數(shù)據(jù)顯示，該內(nèi)容健康指數(shù)為51%，不及格。

2019年2月20日，刺猬公社再次檢測(cè)，該內(nèi)容的健康概率指數(shù)為19%，命中反色情低俗模型，“不應(yīng)獲得算法推薦”。

這是什么意思呢?

“靈犬”就像一個(gè)內(nèi)容審核系統(tǒng)，這個(gè)系統(tǒng)集納了被評(píng)定為色情低俗內(nèi)容的所有關(guān)鍵詞，一旦“你餓不餓我下面給你吃”觸碰到關(guān)鍵詞，該內(nèi)容將會(huì)被提取、分詞和語義識(shí)別，然后根據(jù)設(shè)定的規(guī)則，輸出對(duì)應(yīng)的分?jǐn)?shù)、評(píng)級(jí)和結(jié)論。

中國(guó)傳媒大學(xué)網(wǎng)絡(luò)法與知識(shí)產(chǎn)權(quán)研究中心主任王四新教授說，在網(wǎng)絡(luò)上如果色情低俗內(nèi)容不被過濾，很容易被當(dāng)做“產(chǎn)業(yè)”進(jìn)行開發(fā)，有商業(yè)資本助推，有利可圖，在某些國(guó)家允許，但在我國(guó)不允許，《刑法》對(duì)涉及制作、復(fù)制、出版、販賣、傳播淫穢物品有明確罪項(xiàng)規(guī)定。

他還介紹說，在我國(guó)，傳播淫穢色情內(nèi)容，被依法處置的情況很多。此外，還有虛假宣傳、謠言……的傳播者也會(huì)被進(jìn)行處罰。

但處理低俗信息依舊有難度，“靈犬”團(tuán)隊(duì)曾稱，不同于色情信息，處理低俗信息的一個(gè)難點(diǎn)在于，人們對(duì)于低俗的判斷標(biāo)準(zhǔn)具有一定的主觀性;色情信息很直接，低俗信息偏隱晦，對(duì)于像“靈犬”這種機(jī)器就更難了。

今日頭條的做法是，把低俗的標(biāo)準(zhǔn)分為兩個(gè)層次：幾乎所有人看來都會(huì)一致同意的標(biāo)準(zhǔn)底線，和因人而異的主觀判斷。有些檢測(cè)標(biāo)題，因人而異，仁者見仁智者見智。

不過，今日頭條方面也稱，“靈犬”新版本發(fā)布的背后，伴隨著“靈犬”打擊低俗低質(zhì)能力的提升。反色情低俗、反暴力謾罵模型，整體識(shí)別準(zhǔn)確率約為85%，反標(biāo)題黨模型識(shí)別準(zhǔn)確率約為90%。這些技術(shù)模型每天仍在持續(xù)優(yōu)化迭代。

國(guó)內(nèi)外都在治理低俗低質(zhì)內(nèi)容

近年來，互聯(lián)網(wǎng)新聞信息、互聯(lián)網(wǎng)音頻、網(wǎng)絡(luò)直播等互聯(lián)網(wǎng)文化內(nèi)容領(lǐng)域，都成了監(jiān)管部門的重點(diǎn)關(guān)注目標(biāo)，監(jiān)管部門也出臺(tái)了不少的監(jiān)管政策，以規(guī)范行業(yè)行為。

去年10月，“傅首爾”“紫竹張先生”“有束光”“萬能福利吧”“野史秘聞”“深夜視頻”“唐納德說”等9800多個(gè)自媒體賬號(hào)被全網(wǎng)處置。這源于國(guó)家網(wǎng)信辦會(huì)同有關(guān)部門，針對(duì)自媒體賬號(hào)存在的一系列亂象問題，開展的集中清理整治專項(xiàng)行動(dòng)。

在這次網(wǎng)信辦的通報(bào)中，主要在以下5個(gè)方面出了問題，這5大問題也足以值得自媒體人深度警惕：

1、有的傳播政治有害信息，惡意篡改黨史國(guó)史、詆毀英雄人物、抹黑國(guó)家形象;

2、有的制造謠言，傳播虛假信息，充當(dāng)“標(biāo)題黨”，以謠獲利、以假吸睛，擾亂正常社會(huì)秩序;

3、有的肆意傳播低俗色情信息，違背公序良俗，挑戰(zhàn)道德底線，損害廣大青少年健康成長(zhǎng);

4、有的利用手中掌握大量自媒體賬號(hào)惡意營(yíng)銷，大搞“黑公關(guān)”，敲詐勒索，侵害正常企業(yè)或個(gè)人合法權(quán)益，挑戰(zhàn)法律底線;

5、有的肆意抄襲侵權(quán)，大肆洗稿圈粉，構(gòu)建虛假流量，破壞正常的傳播秩序。

在此基礎(chǔ)上，國(guó)家網(wǎng)信辦又依法約談了騰訊微信、新浪微博等自媒體平臺(tái)，對(duì)其主體責(zé)任缺失，疏于管理，放任野蠻生長(zhǎng)，造成種種亂象，提出嚴(yán)重警告。騰訊微信、新浪微博相關(guān)負(fù)責(zé)人表示將認(rèn)真接受群眾和輿論監(jiān)督，自查自糾，積極整改，嚴(yán)格管理。

隨后，微博發(fā)布公告，表示將認(rèn)真接受群眾和輿論監(jiān)督，自查自糾，積極整改，嚴(yán)格管理。微信平臺(tái)則發(fā)文回應(yīng)稱，將加強(qiáng)對(duì)政治有害信息、色情低俗、謠言、標(biāo)題黨、抄襲侵權(quán)等違規(guī)內(nèi)容的打擊和清理，為用戶提供一個(gè)更健康的閱讀空間。

國(guó)家網(wǎng)信辦有關(guān)負(fù)責(zé)人指出，自媒體絕不是法外之地。近年來，國(guó)家網(wǎng)信辦依據(jù)《網(wǎng)絡(luò)安全法》相繼出臺(tái)《互聯(lián)網(wǎng)新聞信息服務(wù)管理規(guī)定》《互聯(lián)網(wǎng)用戶公眾賬號(hào)信息服務(wù)管理規(guī)定》等法規(guī)性文件，對(duì)具有媒體屬性和可對(duì)公眾發(fā)布信息的賬號(hào)及平臺(tái)作了明確規(guī)定。從趨勢(shì)上看，自媒體管理已經(jīng)納入法治化、規(guī)范化、制度化軌道。

而今日頭條在去年7月和10月，通過自查、用戶舉報(bào)等方式，處罰了近萬個(gè)違規(guī)賬號(hào)。

今日頭條發(fā)布公告稱，因侵犯版權(quán)而受到平臺(tái)處罰的頭條號(hào)賬號(hào)，主要包括搬運(yùn)、篡改和歪曲等行為：一是未經(jīng)許可轉(zhuǎn)載、摘編整合或歪曲篡改新聞作品;二是通過“洗稿”方式抄襲剽竊、篡改刪減原創(chuàng)作品;三是未經(jīng)授權(quán)復(fù)制、表演、通過網(wǎng)絡(luò)傳播他人影視、音樂、攝影、文字等作品，或以合理使用為名對(duì)他人作品刪減改編。

由此可見，治理低俗低質(zhì)內(nèi)容不僅僅是一個(gè)平臺(tái)的事情，而是整個(gè)行業(yè)的事情。放眼世界，F(xiàn)acebook也因?yàn)榈退椎唾|(zhì)內(nèi)容而頭疼，去年10月份，F(xiàn)acebook直接對(duì)發(fā)布低俗低質(zhì)的賬號(hào)動(dòng)刀，一下子刪除了該平臺(tái)上559個(gè)頁面和251個(gè)違反垃圾消息規(guī)則的帳號(hào)。這些網(wǎng)頁和帳號(hào)使用假帳號(hào)來獲取點(diǎn)贊和共享，并引誘用戶點(diǎn)擊欺騙性網(wǎng)站鏈接，后者大多涉及政治內(nèi)容。

Twitter也對(duì)該同類型內(nèi)容進(jìn)行技術(shù)提示，Twitter在消息中的鏈接中添加“可能敏感”標(biāo)簽。據(jù)美國(guó)科技博客Gizmodo報(bào)道，Twitter的媒體政策顯示，該公司將“移除有可能被認(rèn)為是敏感的內(nèi)容，例如裸露、暴力。”

據(jù)新浪科技報(bào)道稱，業(yè)內(nèi)人士認(rèn)為，Twitter早就應(yīng)該推出這項(xiàng)功能，幫助家長(zhǎng)控制兒童所看到的內(nèi)容，以免他們點(diǎn)擊不適當(dāng)?shù)逆溄印?/p>

據(jù)王四新介紹，國(guó)外社交媒體對(duì)低俗低質(zhì)內(nèi)容的整治也在不斷加強(qiáng)，即便西方國(guó)家有制度安排等原因在言論面前做支撐，但近十年來，仇恨、種族、暴力等問題越來越突出，相關(guān)言論也在社交媒體上散播，他們需要對(duì)其進(jìn)行治理。

“這種方法在未來肯定會(huì)大行其道”

2018年11月，今日頭條CEO陳林在生機(jī)大會(huì)上表示，在鼓勵(lì)優(yōu)質(zhì)內(nèi)容、打擊低質(zhì)內(nèi)容已經(jīng)成為全球內(nèi)容平臺(tái)的共同議題時(shí)，今日頭條將開放技術(shù)模型，和行業(yè)一起提高平臺(tái)生態(tài)標(biāo)準(zhǔn)。開放給社會(huì)公眾，也是希望能通過開放平臺(tái)技術(shù)，促進(jìn)全行業(yè)發(fā)展。“靈犬”此次全面升級(jí)，無疑驗(yàn)證了這一點(diǎn)。

據(jù)了解，目前，今日頭條在平臺(tái)內(nèi)容治理方面，除了配備“靈犬”，還有其他反色情、反標(biāo)題黨、反虛假信息、反低質(zhì)內(nèi)容等數(shù)百個(gè)技術(shù)模型。與此同時(shí)，今日頭條投入了上萬人專業(yè)審核編輯團(tuán)隊(duì)，致力于結(jié)合人工、技術(shù)手段，保障平臺(tái)內(nèi)容健康。

面對(duì)低俗低質(zhì)內(nèi)容，整個(gè)社會(huì)都在出謀劃策。2018年10月31日，《經(jīng)濟(jì)日?qǐng)?bào)》發(fā)表新聞評(píng)論建議，要靠技術(shù)來提升低俗內(nèi)容的識(shí)別效率?；ヂ?lián)網(wǎng)企業(yè)要善用包括大數(shù)據(jù)、人工智能等新技術(shù)，與時(shí)俱進(jìn)地更新內(nèi)容判定標(biāo)準(zhǔn)，細(xì)化審核標(biāo)準(zhǔn)，并升級(jí)群發(fā)檢測(cè)算法。只有依靠技術(shù)不斷完善“游戲規(guī)則”，才能讓違規(guī)內(nèi)容難以“鉆空子”，同時(shí)更充分地在版權(quán)上保護(hù)原創(chuàng)內(nèi)容，也能防范低俗賬號(hào)以微博、微信等平臺(tái)為跳板，將用戶導(dǎo)向外部空間再提供違規(guī)內(nèi)容。

這個(gè)建議正在被像今日頭條這樣的互聯(lián)萬公司實(shí)踐。財(cái)經(jīng)國(guó)家周刊編委、新媒體資深從業(yè)者王新一評(píng)價(jià)說，今日頭條的slogan是“信息創(chuàng)造價(jià)值”，而靈犬則是通過檢測(cè)出有害的信息來創(chuàng)造價(jià)值。內(nèi)容平臺(tái)需要兩手抓，一方面促進(jìn)平臺(tái)產(chǎn)生更多優(yōu)質(zhì)信息，一方面盡量減少低俗低質(zhì)內(nèi)容的出現(xiàn)。

“企業(yè)主動(dòng)利用這種技術(shù)手段來做好內(nèi)容審核工作是一個(gè)不錯(cuò)的方法。”王四新說，其他互聯(lián)網(wǎng)公司也在利用大數(shù)據(jù)技術(shù)做安全審查工作，比如滴滴用技術(shù)防御乘客可能遇到的乘車危險(xiǎn)。

而知乎在這方面也有實(shí)踐。據(jù)36氪報(bào)道，在2016年，知乎上線了機(jī)器人瓦力。瓦力的任務(wù)，是識(shí)別并處理那些不友善、辱罵、陰陽怪氣、答非所問、色情內(nèi)容以及知乎不鼓勵(lì)的用戶爆照。

這種趨勢(shì)在近兩年逐漸明顯了起來，越來越多的企業(yè)主動(dòng)或被動(dòng)去探討更靈活、更及時(shí)、更有效的技術(shù)模型，人工成本會(huì)降低。王四新預(yù)測(cè)，“這種方法在未來肯定會(huì)大行其道”。

對(duì)行業(yè)和社會(huì)來說，是好事。

生成海報(bào)

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。