不為人知的戰鬥:網際網路平臺的黑灰產狙擊戰

原創 韓小黃 AI藍媒匯

作者|韓小黃

來源|AI藍媒匯（lanmeih001）

網際網路的發展為生活提供了越來越大的便利，但伴隨著技術的更迭，信息安全問題始終蛇隨棍上，風險與機遇相伴相生。

在用戶看不到的地方，各大平臺早就於暗處展開了一場不為人知的黑灰產狙擊戰。

詐騙，從電信到網際網路

如果說移動網際網路發展的A面，是信息改變生活、信息創造價值。那麼伴隨著技術帶來的美好生活改變，外界也不得不注意到隱藏在暗處不為人知的B面——嚴峻的信息安全問題。

「你好，在嗎？」

「您的社保卡涉嫌洗黑錢……」

「我們提供五到十萬的小額貸款，利息特別低……」

電信時代，因隱私洩露導致的詐騙案件就不勝枚舉，到了移動網際網路時代，手段隨著平臺形式的變化，也愈發變本加厲。

今年10月，哈爾濱市公安局剛剛破獲了一起跨省「微商詐騙」案件，嫌疑人以朋友圈販賣名表為由前後非法所得近百萬元。而類似的相關案件比比皆是，今年9月，陝西仙居警方破獲了一起「面膜微商」詐騙團夥，犯罪團夥以科技公司的概念包裝自己，在社交平臺招收代理商，但其營造出來的所謂買家和賣家均為同一人。警方披露，僅4個月內，全國就有1000多人因此中招，被騙金額從199元到數萬元不等。

刷單、代理這些因社交平臺、電商平臺而興起的詐騙現象已經十分嚴峻。

AI藍媒匯發現，在黑貓投訴上搜索「微商」，與其相關的投訴消息達到11446條，與「刷單」相關的投訴結果達到9289條。

另一個公開數據是，目前流行於大學生群體的電信詐騙種類中，兼職刷單佔比高達33%，冒充好友佔比22%，網絡購物佔比14%，冒充客服佔比10%，充值返現佔比7%，遊戲交易佔比7%，網絡貸款佔比3%，其他佔比4%。

網絡黑產無所不在，一方面警示用戶不要輕信「天上掉餡餅」，另一方面也倒逼整個行業的集體思考，除了依靠政府監管，平臺自身究竟能為防範網絡安全、保護用戶信息安全做些什麼？

平臺率先承擔自治責任

值得慶幸的是，行業第一時間看到了問題的嚴重性。面對普遍存在的問題，大部分頭部平臺也意識到需要率先承擔自治責任。

以電商巨頭淘寶為例，其在去年推行針對網店的稽查系統時，注意到在平臺內部存在的一整條「炒信」黑色產業鏈，利用店主急於提高店鋪信譽的需求進行勒索、詐騙等現象。通過自查發現問題後，淘寶就利用自身平臺技術對網站進行清查，並聯合警方、工商部門共同打擊違法犯罪行為。

包括對當下流行的刷單問題，淘寶也始終通過完善大數據模型，對刷單行為進行實時監控，儘可能從根源上防治刷單行為的擴大和猖獗。

另一個走在監管前面的平臺就是抖音。

眾所周知，抖音在日前因「假靳東事件」在行業內引發了不小的輿論風波，業內也圍繞短視頻平臺誕生的新型詐騙手段進行了廣泛的討論。在這期間，抖音作為涉事平臺也率先針對該事件進行了相關自查自治。

AI藍媒匯注意到，事件爆發之後，抖音在其主站頁面緊急上線了用戶搜索提示，在結果頁的明顯位置提醒用戶注意區分異常帳號，最大程度做到警示作用。

另一方面，據抖音在平臺治理開放日上公開數據顯示，事件爆發後，抖音安全中心針對假靳東相關帳號進行了及時速清，2天內清查了5000+疑似靳東仿冒帳號，完成下架話題143個，召回並處理了問題存量視頻195w。

據AI藍媒匯了解，實際上抖音早在今年4月份就開啟了「仿冒名人」的打擊專項，只不過在項目的前兩個階段，抖音針對的是「侵犯明星肖像名譽權」的侵權帳號，以及「以快速漲粉和直播帶貨變現為目的的電商黑產」。

在半年時間裡，抖音針對「仿冒名人」問題上線了數十條風控策略模型打擊冒充名人帳號，前後召回了超過30萬的問題帳號。

截至目前，抖音安全中心已經封禁了黑產作弊帳號7萬餘個、重置仿冒資料用戶3萬餘個、處理問題視頻超過400萬條。

分層治理：以防為先

可以看出，此次因為「假靳東事件」觸發的緊急治理措施只是肉眼可見的冰山一角，大量由平臺主導的自治工作往往是隱藏在海平面下碩大的冰山主體。

對於行業裡很多公司的安全團隊來說，做的很多事情，都是隱藏在公開事件背後，甚至是發生在公開事件之前的。安全工作的目的就是保障不發生意外事件，一旦發生了說明工作是存在問題的，而不發生工作，意味著所有的工作都是不為人知的。

黑灰產狙擊工作就是典型的安全工作，但打擊黑灰產，即便是不被看到，也都是希望跑在違法違規行為與內容之前。

以「冒充名人」詐騙的事情為例，在上個月雙11活動期間，就出現了類似的「假冒客服詐騙」行為，主要表現就是在明星直播間「假冒客服」，溝通用戶實施退款詐騙。抖音安全中心在日常巡查中看到了此類詐騙的苗頭之後，迅速上線了相關打擊的策略模型，打擊相關帳號，從源頭攔截此類詐騙行為。

從治理邏輯上來看，抖音安全中心是以「防」為先，利用技術對抗攔截，將大量工作安置於後臺，儘可能做到不被前臺感知，因為一旦感知，就代表有用戶可能受傷害。

而這種以「防」為先，在後臺的工作，往往不為人知。

今年4月，抖音安全中心成立了「冒充名人打擊專項」，梳理了平臺上仿冒名人的問題現狀，整理出900多位容易被仿冒的明星名單，聯動公司明星垂類相關負責人進行實時維護與信息聯動，保證明星帳號輸出內容的真實性。

與此同時建立針對冒充名人行為的打擊標準、搭建專項審核隊列、訓練仿冒名人模型、制定問題帳號和視頻召回策略，針對用戶資料仿冒、視頻仿冒等行為進行梯度打壓。

也就是說，在「假靳東事件」爆發之前，「冒充名人專項」活動就已經為特殊輿情事件完成了大量的奠基工作。今年6月到事件爆發之前，平臺就已經召回進審13041個樣本，審出封禁1689個樣本，人工批量封禁3w+，已累計封禁 34948個帳號，其中包含6031個仿冒靳東帳號和5056個仿冒馬雲。

而這些，恰恰是在偶發性事件爆發之前，被隱藏在後臺的不為人知的真實數據，偶發性事件爆發之後，這些數據是有意義還是無意義？

對於平臺來說，黑灰產等各種違法違規行為的治理，都是需要一整套完善的治理體系，最底層是技術能力，中層是產品能力，上層直接面對用戶的是運營能力。

從建立模型主動攔截、到接收用戶反饋進行審核、到常規與突發巡查相結合，再到完善產品功能作出警示提醒，抖音安全中心針對平臺內外的網絡黑產打擊層層遞進、全面覆蓋，儘可能地將安全問題思考得全面和深入。

但即便是這樣，業內也不得不誠然，平臺的治理工作依舊任重而道遠。正如移動網際網路發展至今仍然存在電信詐騙一樣，網絡信息黑產問題已經形成了較長且深入的產業鏈，在巨大利益誘惑的面前技術手段更新迭代，且有著明顯的跨平臺犯罪特徵。

那麼理所當然，針對某一平臺爆發的網絡詐騙事件，就不該局限於該平臺一己之力完成治理，更多地是需要產業鏈上涉及的各個關鍵平臺聯合起來，共同針對網絡黑產予以打擊防範。

彼時，這場隱秘的角落裡展開的「戰鬥」才有可能從單打獨鬥的「巷戰」升級為高效精準的「狙擊戰」。

原標題：《不為人知的戰鬥：網際網路平臺的黑灰產狙擊戰》

閱讀原文