文|顯微故事 常寧寧
編輯|卓然
風控，不就是一群封號的人嗎？
很長一段時間，網際網路企業的「安全人」都被外界冠以這樣的誤解。
他們最大的成績，就是平臺上沒有犯罪、沒有黑產、無大事發生。他們的努力，也和黑產一樣不被陽光所照射。
但沒有人知道的是，國內的網際網路黑產已是千億規模的市場。虛假點擊、羊毛黨、「假靳東」、「寵粉詐騙」、同城招嫖，各種欺詐黑產層出不窮。
用戶的信息無時不刻不被黑產竊取，一旦被盯上，等待他們的是精心布下的陷阱。
然而，同黑產對抗沒有捷徑可走，完全是一場人力和財力的比拼。
幸運的是，在這場戰爭中，有一支不計較財力、發誓要暗中保護大家的隊伍。
就像是《冰與火》之歌裡面的守夜人，永遠眺望著森林幽暗的深處。這支守夜人隊伍，則24小時盯著網際網路黑產的深淵。
以下是關於這些守夜人的真實故事：
「這個帳號不太對勁」，2020年3月，一凡收到了審核員發來的一條特殊視頻。
視頻內容的主人公是兩個小學生模樣的男孩在互相輕吻、擁抱。「這看起來一點都不像這個年紀的孩子會做的事情」，一凡的直覺告訴自己。
她翻看了發布視頻的帳號，發現該帳號的歷史視頻裡還有大量類似的內容：男主角永遠是這兩個男孩，除了輕吻、擁抱，還會彼此撫摸。
更奇怪的是，有些視頻裡還出現了一個成年男性，看起來似乎正在指揮這兩個男孩的動作。
這顯然是一條違禁信息，涉嫌兒童性侵。按一凡以往的經驗，這種內容的直接處理方式就是下架視頻、封帳號，確保平臺上的內容正向、健康即可。
「但這樣就足夠了嗎？」一凡猶豫了起來。
如果只是封鎖帳號，那兩個男孩真的遇到了危險，誰來幫忙他們？那個成年男性明顯存在問題，封鎖帳號並不會阻止他繼續傷害孩子。
這是一次和潛在犯罪分子搶時間的賽跑。當時是夜裡11點，一凡決定直接請示上級，如果對方沒看到信息，她就打電話過去說明情況。
幸運的是，領導馬上回復「拉群，同步線下打擊組同學報警。」。
「報警」對應著最高風險等級——意味著高危內容背後可能有犯罪行為，通常需要極強的證據，經過法務和各方面研究判斷後，才能下達「報警"的指令。
但面對一些比較極端的案例，抖音安全中心會直接評估是否需要立即報警。
「線上封幾個號沒用，得讓這種渣滓現實中接受懲罰才行」，一凡的領導嶽文峰當機立斷地回復。
幾乎是同一時間，審核組的同事，經過篩查帳號的歷史視頻，根據視頻中的一些建築、廣告牌等場景信息，了解到了視頻拍攝者的所在地——嫌疑人住在四川的某個縣城裡。
知道視頻拍攝者所在地區的信息後，一凡線下打擊組的同事就立刻動身從北京出發了——這也是少有的沒有拿到研判結果就出發的情況。
拿不到研判結果，意味著證據不充分、或存在法律漏洞不予立案，很可能全員白跑一趟。此外，受疫情影響，國內北京到事發地沒有直飛航班，轉機也讓線下打擊組的人增加了滯留和隔離風險。
但他們沒有遲疑過，每個人心裡都清楚，每耽擱一分鐘，視頻裡的兩個小男孩就會遭受多一些傷害。
在線下打擊組提供的線索和幫助下，該案件於3月27日偵破，當地警方發布通告稱嫌疑人被抓獲，兩個小男孩被安全解救。
此時，距離一凡發現那條視頻僅剛過去一周。
後續調查結果顯示，這兩個男孩都是四川當地的留守兒童，父母長期在外打工。
疫情期間，學校封禁，由於家中沒有WIFI無法上網課，兩個男孩前往犯罪嫌疑人家中使用網絡，被哄騙拍攝視頻並威脅不能告訴家長，嫌疑人還將視頻在多個社交軟體、其他短視頻平臺及網盤渠道發布兜售。
在警察實施抓捕的時候，嫌疑人還計劃對兩個未成年男童進行猥褻。
據《2019年性侵兒童案例統計及兒童防性侵教育調查報告》顯示，2019年共發生301起兒童性侵案件，熟人作案超七成，其中師生關係佔比最高。
性侵兒童案往往發生在非常隱蔽的情況下，除了當事人的陳述證言，很難有其他證據佐證。另外，還有受害人保存證據不及時導致證據遺失、當前低齡兒童證據採信難等問題。
抖音安全中心的及時介入，配合協助警方獲取了重要線索和證據、鎖定了犯罪嫌疑人，才保證了兩個孩子才沒有遭受更大的傷害。
得知兩個孩子被成功解救以後，一凡焦灼的心才終於放下了。
在此之前，一凡一直定義自己所在的團隊，是一支最怕被領導cue到、也「不想做出成績」的團隊。
她所在的抖音安全中心，是抖音創辦之初就設立的部門。儘管目前團隊擁有數千名成員，但每個成員都過得很「憋屈」。
「平臺沒事發生，才說明你的工作到位了」，一凡說，但平臺沒事發生，外界也感知不到團隊做了哪些工作。
這個年輕的團隊被稱為「抖音的安全護衛隊」，目前團隊平均年齡僅25歲。僅到今年12月初，該團隊就處理了超過730萬個違規帳號、1380多萬違規視頻。
在這裡，忙碌是常態。他們每天要為平臺上6億用戶保駕護航，要關注平臺上每天所產生的數百億次行為，這其中，要關注和處理無數風險性內容、違禁內容、以及黑產行為。整個團隊的下班打車記錄裡，時常出現夜裡11點至凌晨2點的情況。
一凡是在今年年初剛加入團隊，上司嶽文峰在她入職的頭一天就給了個「下馬威」。
「抖音有4億用戶（一凡加入時），全國500萬黑產從業者對這4億用戶虎視眈眈，我們的責任就是和500萬黑產人做對抗，保護用戶的生命財產安全」。
從沒有過「安全」經驗的一凡心裡有些發虛。但想到這即將面臨的挑戰，她充滿了興奮，「這是誰都想嘗試的抖音啊！」
但一凡沒想到，等待她的第一個任務，是當一名「嫖客」。
當時抖音正從4億用戶邁向6億用戶飛速增長。流量暴增的同時，背後多帶來的黑產行為也成比例增長。
儘管抖音一直針對違規帳號進行打擊、不斷升級風控策略模型，但「道高一尺，魔高一丈」，狡猾的黑產人也通過各種方式逃避機器和算法的追捕——為此抖音不得不採用「無間道」的方式，通過異常帳號上留下聯繫方式，假扮「嫖客」，打入黑產內部。
初接這個任務時，一凡有些為難，她壓根看不懂黑話——最開始她盯著後臺發現的「茶葉」、「邀請喝茶」的帳號們百思不得其解。
圖 |涉黃行業的「黑話」
「茶葉招誰惹誰了？」在看到「上新」和一些美女視頻時，一凡才發現事有蹊蹺。
通過一段時間的臥底，一凡才知道「茶葉」相關的一整套引流術語是風月行業的黑話：「上新」則是指有新人加入了、「歡迎喝茶」則是表明營業了。
光知道黑話還不夠，一凡必須找到證據證明帳號涉黃才能封號。同時，她必須研究和定義新犯罪行為的特徵，輔助機器學會自動識別。
然而，大部分犯罪行為會跨平臺進行：通過抖音上引流、去別的平臺交流、再到第三方平臺實現付款交易，每個平臺的數據無法打通、很難跨平臺取證。
一開始，一凡「放不開」。
「我還是個未婚女性，哪兒知道怎麼做『嫖客』？」，一凡說，常常是她一開口，對方就知道不是正經『嫖客』，聊著聊著就不見了。
很長一段時間裡，挫敗感包裹著一凡。那段時間，她常常全天苦於如何『更像』一個嫖客，每天都在質疑自己是誰、從哪兒來、為什麼要幹這個。
和一凡有著類似困惑的，還有反欺詐項目的負責人王宸。他是個95後，也是因為「讀書時就玩抖音、喜歡抖音濾鏡」而加入抖音。
但加入抖音後，他才發現這份工作並不如想像的有趣。「我無時無刻不在開始懷疑人生」，王宸說。
王宸每天的工作都要審核大量帳號、總結欺詐帳號相關的特點供給機器學習。「每天要看成千上百個帳號、發現各種細小的特徵來判斷黑產」，王宸說。
這種忙碌是永無止境的，在做重點專項打擊項目的時候，加班到12點以後都是常事。
尤其是今年疫情爆發，抖音的用戶也迎來飛躍增長。「從今年4月以後，團隊裡的人幾乎就沒有個人生活」，王宸說，同城招嫖、「假靳東」、雙十一電商詐騙等各個事件層出不窮。
最忙的時候，一凡和王宸要加班到凌晨3點、甚至直接在公司過夜。
但下班時，內心的焦慮感依然沒有減輕，唯恐自己的休息、「沒有做到極致」，而讓平臺上的黑產多肆虐一天、讓無辜的孩子多受一份傷害。
但也是在這樣無數次的自我懷疑、痛苦掙扎後，一凡和王宸感覺自己突破了，得到了一種全新的體驗。
通過和同事、警方的學習和總結，一凡摸索出來了和涉黃人員交流的話術。她開始直接詢問對方「多少錢、在哪裡、安不安全」。
問完這三句話之後，對方會發來「菜單」（價格表），取證環節才算完成，緊接著再截圖舉報到對應平臺，一個任務圓滿結束。
「後來組裡都開玩笑說我是『女流氓』了」，一凡說。
通過一凡她們堅持跨平臺取證、舉報，加上團隊的努力，已經有其他網際網路平臺和抖音建立了合作。抖音提供取證完畢後的被舉報帳號，對方再通過這個帳號查詢IP，可以將相關的IP帳號全部封掉。
王宸則收到了一封感謝信，對方說自己因為抖音安全中心反欺詐小組的工作讓自己免於被騙。
王宸這才體會到這份工作的意義：審核是第一道關卡，看起來普通，但在審核基礎上，如何去用自己的力量幫助行業高效運轉，這才是更重要的事情。
在今年雙十一抖音成交額達到187億時，王宸更覺得自己在做一件有意義的事情。
通過他所在的團隊努力，今年雙十一他們總共阻止了幾十萬風險帳號、幾千萬次的惡意攻擊，在這背後，是無數羊毛黨和數以億計的止損額。
「我們為用戶創造更好的網絡環境，幫助他們獲得成功，這種成就感，不是隨便能得到的。」
被誤解、自我懷疑……一凡和王宸的痛苦，嶽文峰也一直看在眼裡。
作為他們的直屬上司，嶽文峰也有相似的疑惑。
他入職抖音時，抖音在7個月內用戶新增兩億、安全中心的成員也成倍增長。但外界對團隊一直存在誤解，大部分認為安全團隊最大的作用就是「封號」。
如果團隊做得好，其達到的效果是外界根本不知道有該團隊的存在，但這樣又如何讓團隊實現自我價值感？
這在他看來是極其荒謬的，「安全部門的工作不是簡單封號就可以解決的。背後的問問往往比大家想的更複雜。」
但這種誤會卻曾一度引發內部產生巨大矛盾。
5月末，嶽文峰被緊急拉進一個群裡。一個自稱家長的用戶稱兒子在看抖音時出現了早熟行為，要求封掉相應帳號。對方表示，該帳號有大量涉黃裸露內容。
但團隊研判後發現該帳號是衝浪領域的垂直號，「裸露畫面」是穿泳衣的衝浪愛好者，並沒有達到封帳號標準。
但家長不依不饒，聲稱如果不封帳號，就要找媒體曝光。
抖音安全中心內部一下分成兩派：一方主張封號，免得家長去曝光；一方主張不封號，因為原帳號沒有任何問題，誰也說服不了誰。
在旁人看來，這無非就是一個簡單的封號手續，但是在嶽文峰看來是關乎底線的問題——不能因為一次不符合標準的舉報而誤殺。
嶽文峰堅持「不封」。但這個舉動一度讓主張封號的團隊成員不理解，甚至在雙月會後收集問題時，有人提問質疑他：到底能不能帶好團隊。
沒過幾天，此前被舉報的衝浪愛好者帳號突然發布了一條高危敏感的內容，符合封號條件。
雖然如此，嶽文峰卻覺得有哪裡不對，一個衝浪領域的垂直號，突然發布一條明顯違規的內容，有違常理。嶽文峰還是選擇「不封」，僅下架相關內容。
同時，他讓安全技術團隊的同事查詢帳號是否存在異常，結果發現，這個帳號在發布違規視頻時候的登錄 IP 地址與以往不同，卻和「舉報家長」IP位址高度類似。
「會不會是舉報人黑了帳號」，嶽文峰暗自猜想。但怕冤枉好人，團隊迅速以「遭受攻擊"為名迅速報警。
警方出動調查後回復，一切正如嶽文峰所預判的那樣：舉報人因舉報不成而盜取帳號、發布高危內容誘導抖音封號。
但嶽文峰沒有想到的是，舉報家長根本就沒有兒子，該帳號在抖音的視頻搶了舉報人在三亞的衝浪生意，舉報人希望通過封對方的號來挽回生意損失。
這也進一步證明了嶽文峰的設想，風控絕不僅是封號而已。一旦簡單粗暴地對待覆雜問題，對抖音百害而無一利。
比如僅在與「騙」相關的案件上，就分為欺騙、詐騙、哄騙等等類型的案件。其中，「欺騙」就分為騙錢的「寵粉案」和騙互動數據（類似「假靳東案」）兩種。
前者涉嫌違法犯罪，後者違規，處理方式完全不同，並不是僅靠封號能解決。
「封號是最簡單的，最偷懶的做法」，嶽文峰說。
另一方面，早期幹預也可以降低風險。比如，為了防止青少年沉迷抖音、受到超過其年齡的內容影響，抖音也推出了青少年模式，對視頻內容、使用時長進行了針對性設計。
「黑產是不可能被消滅的，我們能做的就是不斷提高犯罪的成本，當犯罪成本高了，自然數量就下降了。」
從早期幹預，到合理預判，到線下打擊，通過嶽文峰等人不計成本地建造這座「看不見」的圍牆，抖音才得以保留健康、安全的內容生態。
在參與解救四川兩個被猥褻男孩之前，一凡一度認為自己的工作「沒有實感」。
作為全線上化的風險防範團隊，對於風險、犯罪內容的審核和處理也大多是線上化進行，即便是成員自身都很難評估自己對企業、社會所作出的價值。
「但真的看到兩個留守兒童因為我們的參與而獲救，那一刻我覺得自己值了，這份工作非常實在」。
一凡說，「這個效果比我們在線上封幾個帳號有效 1 萬倍」，必須採取手段從精神、肉體上對其進行雙重打擊。
在此之後，她再也沒有懷疑過自己加入抖音的目的和未來，「我每天敲的那些代碼是能夠實際上幫助到有需要的人的」。
曾做過10年「安全人」的嶽文峰表示，抖音是他見過的、為數不多的在安全領域「不設上限」的公司，「在創辦抖音之初就建立安全團隊、為安全擴建進千人員工……」
「長夜將至，我從今開始守望，至死方休。我將不娶妻、不封地、不生子。我將不戴寶冠，不爭榮寵。我將盡忠職守，生死於斯。我是黑暗中的利劍，長城上的守衛。我是抵禦寒冷的烈焰，破曉時分的光線，喚醒眠者的號角，守護王國的堅盾。我將生命與榮耀獻給守夜人，今夜如此，夜夜皆然。」
這段來自《冰與火之歌》的守夜人誓言，也完美詮釋了這些守護著網絡暗處的「抖音守夜人」。
在城中的老百姓幸福生活時，總要有人站在城牆上，眺望黑暗，及時扼殺逼近的危險。
讓人慶幸的是，留下來的「守夜人」裡，幾乎沒有選擇離開的。