提起數(shù)月前破獲的那起案件,山東省泰安市公安局公共信息網(wǎng)絡(luò)偵查大隊教導(dǎo)員楊玉慧記憶猶新——它跟一般的涉黃案太不一樣了。

涉黃平臺叫“月光寶盒”,是一個聚合類色情直播平臺。其開發(fā)者自稱“中國黃播我第一”。它不光自己做色情直播,還聚合其他平臺的直播流。

“7月,我們接到線索通報,9月,我們成功偵破此案,抓獲犯罪嫌疑人54人。根據(jù)我們掌握的信息,該平臺有會員300多萬人,涉案金額1100余萬元。”楊玉慧說,這已經(jīng)不是小作坊式作案了。54名嫌疑人中,有平臺運營,有廣告代理,有直播女,還有直播家族……

“月光寶盒案”是全國“掃黃打非”辦公室公布的重點案件之一。從這一案件上也能看出,網(wǎng)絡(luò)涉黃黑色產(chǎn)業(yè)鏈,已經(jīng)呈現(xiàn)出了新特點。

在20日召開的第三屆互聯(lián)網(wǎng)安全責(zé)任論壇上,騰訊公司安全管理部高級總監(jiān)毛晟斌直言,網(wǎng)絡(luò)直播已經(jīng)成為色情重災(zāi)區(qū),信息的跨平臺傳播帶來新挑戰(zhàn),而涉黃視頻往往形成爆發(fā)性傳播,帶來的負面影響巨大。

那么,技術(shù)能做些什么?

以前,騰訊公司對圖片的判定,分為“正常”“性感”和“色情”三檔,但這種判定標準模糊,容易有“漏網(wǎng)之魚”。于是,騰訊用深度學(xué)習(xí)的方法訓(xùn)練機器,機器客觀描述圖片中究竟出現(xiàn)了哪些部位,最后交由人工決策。

道高一尺,魔高一丈,你這邊加固了防線,他那邊又變換出了新手段。有的圖片故意將一個小的色情主體放置于一個龐雜背景下;有的給色情圖片加上噪點,還有的給關(guān)鍵部位打上馬賽克,試圖干擾機器判斷。

“智能化是網(wǎng)絡(luò)黑色產(chǎn)業(yè)鏈的發(fā)展趨勢。”騰訊公司信息安全部總監(jiān)鞠奇告訴科技日報記者。騰訊推出的反網(wǎng)絡(luò)黑產(chǎn)公益平臺“守護者計劃”今年協(xié)助浙江警方打掉了國內(nèi)的一個打碼平臺。“黑產(chǎn)分子為了批量識別驗證碼,引入了人工智能技術(shù),這極大提升了單位時間內(nèi)識別破解驗證碼的數(shù)量。”

另外,網(wǎng)絡(luò)黑產(chǎn)也呈現(xiàn)出公司化、平臺化和跨國化特征。鞠奇透露,從他們協(xié)助查獲的案件來看,有的公司專門做詐騙,有的專門制作和傳播木馬病毒,“你一查,全部是正規(guī)公司”。而且,黑色產(chǎn)業(yè)鏈的分工也日趨完善,每一個環(huán)節(jié)都可能有相應(yīng)平臺。隨著國內(nèi)加大對網(wǎng)絡(luò)犯罪的打擊力度,一些黑產(chǎn)團伙也去往國外,繼續(xù)做著針對國內(nèi)的網(wǎng)絡(luò)犯罪,增加了公安部門打擊治理的難度。

“其實,除了公安部門和互聯(lián)網(wǎng)平臺,網(wǎng)民也是打擊網(wǎng)絡(luò)黑色產(chǎn)業(yè)鏈的重要力量。”中國互聯(lián)網(wǎng)協(xié)會12321舉報中心主任郝智超強調(diào),網(wǎng)友舉報也能夠提供大量機器可能無法識別出的線索。12321受理的是網(wǎng)絡(luò)不良與垃圾信息舉報,郝智超說,每一次對詐騙電話的標注,都可能少一個電信詐騙的受害者。“但注意,數(shù)據(jù)應(yīng)該共享。有的企業(yè)把網(wǎng)友向平臺舉報的信息捂在自己手里,把它當(dāng)成自己的資源,這是認識不到位。”

今年截止到現(xiàn)在,“守護者計劃”總共配合公安機關(guān)進行線下打擊案件153起,抓獲涉案人員超過3600人,涉案金額超過30億元,涉及公民個人信息泄漏超過100億條。“打擊網(wǎng)絡(luò)黑產(chǎn),不是某一家企業(yè)或者某一個部門能夠獨立做到的,我們需要構(gòu)建互聯(lián)網(wǎng)安全新生態(tài)。”毛晟斌說。