本文授權轉載自公眾號：科技狐（id：kejihutv）
「每天你都會看到有人砍人，或者射殺親友……」
黃賭毒必然要處理，色情也是大頭。比如說一個不到10歲的女孩子拍了一個很普通的跳舞視頻，她收到幾十條性騷擾的私信消息，有些本身就是戀童癖……」
以上這些，只是網絡內容審核員對自己工作內容敘述中的一部分。當然，這些本是審核要做的事情，在國慶期間依舊會有一波接一波的輪班制度。
機器審核，只能大概的輔助人工審核
開篇的內容源於微博這條新聞，宣告著鑑黃師職業的發生與終結...
臉書的內容審核員因為在工作的時候看了太多兒童性侵和恐怖主義的圖片，而產生了心理創傷。最後獲得了 Facebook 5200 萬美元的賠款。
也許有朋友不太理解內容審核員到底是做什麼的，他們為什麼會受到心理創傷。
那我們做一個稍微通俗易懂的類比，或許你聽說過鑑黃師嗎？
其實從某種程度上來說，之前網上熱議的鑑黃師，應該也算是內容審核員工作審核內容中的一個部分吧。
大家在第一次聽說過 「 鑑黃師 」 這個職業的時候，是不是以為他們上班就是坐在那裡拿著高薪，正大光明的搞黃色？
但事實好像總是……跟我們想像中不太一樣？
其實搜索鑑黃師這個關鍵字你就會發現很多新聞都有報導，幾乎所有幹這個的人都表示精神上承受的壓力非常大。
而內容審查員所涉及到的內容，比鑑黃師更可怕。
但說真的，就算是這樣，我們每天在網上看到過的信息，基本上都是已經經過內容審核員過濾的了。
假如沒有這個職業，那我們的網際網路環境或許會變成充斥著色情、暴力、血腥內容的世界。
畢竟你根本不知道還有多少讓人不適的東西，在你看到之前就被審核員們擋在了網際網路世界的大門外。
所以大家能想像，被稱為 「 網絡清道夫 」 、一整天的工作都在直面色情、血腥、恐怖主義畫面內容的審核員都承受了些什麼嗎？
可以說，「 內容審核 」 在全球範圍內都不再是一個陌生的概念了。可以說，幾乎每一個網際網路公司，都需要內容審核員的存在。
去年四月的時候，因為播出低俗節目被約談的快手緊急招聘了 3000 名內容審核員。除此之外，字節跳動、騰訊等每年也都在擴招大量的內容審核員。
而國外也不例外，之前就有報導稱，Youtube 在 2017 年的時候就僱傭了 10000 名內容審核員，並下架了 15 萬有關兒童猥褻的視頻。
Facebook 的外包網絡審查員也一度達到了 7500 名，用於審核那些帶有仇恨歧視的言論。
而隨著審核員的需求越來越多，關於內容審核員患上心理創傷的報導也越來越多。
2018 年的時候，就有一部關於第三世界網絡內容審核員的紀錄片《 網絡審核員（ The Cleanser）》上映。
而今年，又有臉書的前審核員因為心理創傷而將公司告上法庭。這個問題，開始逐漸出現在大眾視野，並得到重視。
內容審核員們之所以更容易患上應激性創傷等心理問題，工作內容的負能量爆棚其實是主要原因。
其實根據不同平臺和不同公司的要求，審核員們的工作內容其實也不太一樣。拿臉書為例，臉書的內容審查員主要是按工作內容分類。
「 鑑黃 」 組瀏覽裸體、色情內容；「 反恐 」 組觀看斬首、電擊虐待、汽車爆炸等視頻；「 自殘 」 組甚至偶爾還得盯著自殺視頻直播。
有的審查員表示，自己觀看暴力視頻的次數多到，自己僅僅只是看一眼屍體身上的切口就可以判斷是小刀割的還是大刀砍的。
不僅如此，根據他們的保密協定，內容審查員是不被允許和其他人討論工作內容的。這就意味著，哪怕自己已經有了嚴重的心理問題，他們也不被允許分享，這使得他們的孤獨感與心理創傷劇增。
除了必須在工作中面對大量負能量以外，工作本身帶來的壓力也是一個很重要的原因。
在招聘網站輸入 「 內容審核 」 這幾個字，就能看見新浪、頭條、抖音、360 等平臺的招聘信息跳出來。
以新浪的內容審核崗為例，4-8k 不等的工資，工作內容就是準確迅速處理各類違法信息，看著是不是還挺不錯的。
但我們一般都知道，寫在招聘啟事裡的信息呢，實際上福利一般沒那麼多，但是工作壓力和要求是只會更高不會更低的。
既然這裡工作壓力較大都給你標出來了，再加上夜班和周末值班……
因為網際網路這一行業的特殊性，基本上是 24 小時都需要有內容審核員來進行審核的。
而這類內容審核崗基本上是輪班制。
比如 360 的內容審核崗就是 12 小時輪值，做一休一。工作內容的要求呢大概是一天兩萬條，包括評論、頭像、文章等內容。
其實這種壓力扛一扛，也能扛過去。但你要知道啊，內容審核員在進行審核的時候，並不是像我們想像中的一樣，覺得哪條和自己三觀不符就把哪條刪了。
每個平臺呢，都是有自己的一套審核標準的。據說臉書就有一個 1400 多頁的手冊，用來當審核規則的標準。
但你想，每天要審核的信息數量非常大，而審核規則是難以清晰地界定出所有的情況的。
而臉書的審核員們，卻被要求審核的準確率達到百分之九十八。當連續幾個月審核准確率不達標的時候，就會被辭退。
這從某種程度上來說，工作壓力大也給內容審核員們帶來了很大的精神壓力。
圖片信息來源：環球網
有人說，用機器 AI 代替人工來進行審核應該是可以的吧？
確實，機器的確可以識別出一部分色情、暴力、血腥的內容，從而幫審核員們減輕一定的負擔。
但機器和算法並不能解決所有情況。不同的語境下有著不同的理解方式。
你看看，在那死板的算法下，本來多正常的一張圖，也被搞得有些臉紅心跳奇奇怪怪。
更可況，有時候你會在娛樂節目裡發現色情內容，美食圖片裡看見血腥肉體。這些夾帶私貨的做法，往往很容易逃過機器 AI 的審查。而這個時候，就還是少不了內容審查員的存在。
谷歌的研究團隊曾經做過一項實驗，在這項實驗中對所有的視頻進行灰度顯示的處理。
76 位審查員參與了這項實驗，結果顯示灰度顯示模式確實能讓審核員的情緒得到好轉。
在不久的未來就可以通過技術幹預的手段，緩解審查員們的心理壓力。
這個職業幾乎每天都在直面人性中最陰暗的那一面，他們承受著巨大的心理壓力。崩潰、哭泣、麻木，甚至連自殺的都有。有的人幹了沒多久辭職了，有的人是為了養家餬口才選擇頂著壓力做這個職業，還有的人覺得這是一份可以淨化網際網路環境的值得驕傲的工作。
但無論如何，是這些內容審查員幫我們過濾掉了那些人性中最黑暗的東西。我們之所以還能愉快的在網上衝浪，確實是多虧了他們的。
也希望在未來，內容審查員的心理健康，能得到網際網路公司和大眾更多的理解和重視吧。
資料來源：
全媒體 | 內容審核員成高危職業，網際網路的黑暗面究竟有多可怕？
36 氪 | 在網際網路行業做審核員，他見了太多人性的黑暗面
紀錄片 | 《網絡審查員 （The Cleanser) 》
P = 老皮 TALK = 聊天
PTALK = 放鬆一起聊聊天
從上周就跟大家在倒計時，
終於迎來了雙節八天樂的開始
不過，對於國慶節我發現了一件事，
對於大家來說，其實都能看到類似的
來揭曉答案，那就是：國慶結婚
雖然結婚人比人多，車比車多
不過國慶這些天永遠都是好的日子
沾沾喜氣不說，雖然麻煩但也能接受
對了，10月1號我還有個發現：
你肯定見到過認識過很多帶有國慶姓名的人
比如蔡國慶、張國慶，雖然今天是2號了
但也祝福生日....