5月24日,騰訊QQ發(fā)布2024第一季度QQ平臺生態(tài)治理公告。公告顯示,第一季度平臺累計打擊違規(guī)賬號411萬個,并重點整治涉網(wǎng)絡(luò)賭博、詐騙、未成年人負(fù)面影響的有害內(nèi)容。
為給用戶打造清朗健康的網(wǎng)絡(luò)環(huán)境、安全可靠的使用體驗,25年來QQ持續(xù)通過技術(shù)手段、產(chǎn)品手段、運營手段的多維度升級,不斷鞏固平臺安全防御機制。2023年,基于QQNT重構(gòu),安全團隊協(xié)同騰訊多個安全實驗室全面加強各項核心安全能力,并持續(xù)加大對網(wǎng)絡(luò)黑灰產(chǎn)和不良信息的整治力度,進一步保障用戶權(quán)益,維護平臺生態(tài)秩序。
AI技術(shù)加持,更精準(zhǔn)實現(xiàn)黑灰產(chǎn)打擊治理
互聯(lián)網(wǎng)產(chǎn)品所面臨的主要挑戰(zhàn)之一是網(wǎng)絡(luò)黑灰產(chǎn)的持續(xù)作惡。大數(shù)據(jù)、人工智能、區(qū)塊鏈等新技術(shù)、新業(yè)態(tài)的發(fā)展,也使得網(wǎng)絡(luò)黑產(chǎn)非法牟利的技術(shù)和手段不斷變形升級。
為了有效對抗黑灰產(chǎn),在充分保障用戶隱私的情況下,QQ安全團隊利用安全大數(shù)據(jù)、社交圖計算、安全多模態(tài)大模型等手段構(gòu)建了一套全方位的安全技術(shù)防御體系,實現(xiàn)上游嚴(yán)格管控黑灰產(chǎn)賬號資源、中游及時準(zhǔn)確識別各類風(fēng)險、下游精準(zhǔn)打擊處置違規(guī)內(nèi)容。
違規(guī)內(nèi)容示例
據(jù)QQ安全團隊介紹,以違規(guī)內(nèi)容識別打擊為例,借助大模型對通識和社交知識的學(xué)習(xí)積累和應(yīng)用能力,QQ平臺能夠準(zhǔn)確鑒別各類色情低俗內(nèi)容。而針對“AI換臉”新型詐騙,QQ也已經(jīng)儲備了異常環(huán)境檢測、風(fēng)險賬號識別和異常操作分析等多重技術(shù)手段,一但出現(xiàn)此類風(fēng)險可以對疑似被詐用戶下發(fā)提醒或直接攔截阻斷,保障用戶隱私和財產(chǎn)安全。
同時,QQ也根據(jù)不同用戶特點,在“加好友、加群、溝通、分享屏幕”等業(yè)務(wù)場景部署多重安全防護措施,通過安全彈框、狀態(tài)欄消息、公眾號推送等多種形式的安全提醒每天觸達(dá)約30余萬名用戶,及時有效提醒廣大用戶警惕網(wǎng)絡(luò)風(fēng)險。
風(fēng)險流量下降超過90%,QQ協(xié)議掛治理成效顯著
不久前,#小時候被盜的QQ終于有救了#一度登上話題熱搜,起因是有一網(wǎng)友分享了自己成功找回QQ的經(jīng)驗。作為國內(nèi)最早的即時通訊工具,QQ賬號是許多用戶的互聯(lián)網(wǎng)鑰匙,被廣泛應(yīng)用于各個互聯(lián)網(wǎng)產(chǎn)品中,這也無形中放大了QQ賬號密碼泄露的風(fēng)險,增加了QQ賬號安全工作的復(fù)雜性。
針對黑產(chǎn)作惡全鏈路的多個核心節(jié)點,QQ安全團隊基于QQNT全新的系統(tǒng)架構(gòu),全面加強各項核心安全能力,實時響應(yīng)并自動化攔截突發(fā)異常,精準(zhǔn)打擊黑流量,在用戶零感知情況下精細(xì)化處置各類風(fēng)險,守護用戶數(shù)據(jù)資產(chǎn)安全。
據(jù)QQ安全團隊介紹,目前已經(jīng)對“黑產(chǎn)自動化作惡工具、作惡號源批量生產(chǎn)、黑號解封復(fù)活操作、惡意流量曝光占位”等實現(xiàn)有效的持續(xù)性封堵攔截,特別是在QQ協(xié)議掛的治理上基本達(dá)成“團滅”的打擊效果。隨著新版QQ安全加固的落地,其針對所有端的協(xié)議都完成了自動化管理覆蓋,平臺整體風(fēng)險流量相比2022年初下降超90%。
此外,在“賬號登錄、賬號異常風(fēng)險提醒、賬號找回”等涉及用戶體驗層面,QQ也在持續(xù)優(yōu)化流程,保障用戶安全便捷操作。
賬號安全功能界面
青少年模式下實現(xiàn)內(nèi)容分層,QQ未成年保護進一步升級
飛速發(fā)展的互聯(lián)網(wǎng)一方面拓展了未成年人學(xué)習(xí)、生活的空間,同時也引發(fā)了全社會對未成年人網(wǎng)絡(luò)保護問題的關(guān)注。早在2020年,QQ就率先上線了適合網(wǎng)課場景使用的“學(xué)習(xí)模式”,并在同年9月將“學(xué)習(xí)模式”全面升級為“青少年模式”。截至目前,QQ在“游戲娛樂”、“消費充值”、“廣告推送”、“短視頻內(nèi)容”等方面進行80余次的持續(xù)優(yōu)化,全方位保護未成年人網(wǎng)絡(luò)安全。近期,QQ青少年模式新增了內(nèi)容分級能力,幫助未成年人在不同年齡段觸達(dá)更適合的知識內(nèi)容。
為給青少年用戶提供快捷、有效、有用的舉報能力,QQ特別增設(shè)了未成年人專屬快速舉報通道,并細(xì)化有害標(biāo)簽,一方面指引用戶順利完成舉報,另一方面也確保平臺能以最快的速度核查處理涉未成年相關(guān)的舉報內(nèi)容。同時,平臺舉報流程中還會為用戶提供快速報案指引,根據(jù)用戶地理位置為其提供最近的派出所信息及報警熱線。
未成年專屬舉報通道及報案指引
想要保護未成年用戶不受不良網(wǎng)絡(luò)信息的侵害,除了對平臺的技術(shù)產(chǎn)品和巡查處置能力提出要求,還需要進一步培養(yǎng)未成年用戶的風(fēng)險識別意識與抵制能力。基于此,QQ充分考慮其興趣和成長需求,設(shè)置未成年人守護專區(qū),聯(lián)合內(nèi)外創(chuàng)新打造多形式的網(wǎng)絡(luò)安全教育、人文科技知識科普內(nèi)容和活動,并提供線上線下的專業(yè)幫助,為未成年人身心健康成長保駕護航。
線上線下安全教育
平臺安全是一項長期工作,QQ也將持續(xù)強化平臺責(zé)任擔(dān)當(dāng),提升平臺安全防護能力,持續(xù)治理違規(guī)行為和不良內(nèi)容,營造良好的社區(qū)氛圍、保障用戶利益、提升用戶體驗。QQ安全團隊也呼吁廣大用戶如發(fā)現(xiàn)異常行為第一時間向平臺舉報,共同維護良好的網(wǎng)絡(luò)秩序。
（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負(fù)任何法律責(zé)任。
任何單位或個人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 ）
