千龍網北京6月25日訊 現實生活中的社交，有著人們通常會自覺遵守的文明規範，但在網絡上，很多人常常忘記社交禮儀的重要性，不再講究語言的分寸，不認同別人的發言時，就用「腦迴路真奇特」、「你是村裡來的沒見過高樓大廈吧」這樣陰陽怪氣的語言攻擊對方。
這些話不違反法律，但當因為文化背景、生活經歷的不同導致的看法不同，通過破壞性的方式表達時，損害了網絡社區文明秩序，降低公共討論的質量和體驗。如今，網際網路企業也已經行動了起來，比如知乎就通過AI技術嘗試處理陰陽怪氣的言論，以創新思路引導文明新風。
「瓦力」，是一種價值觀
根據知乎內容質量團隊技術負責人劉兆來的介紹，「瓦力」是負責知乎社區治理的算法機器人之一，可以實時識別和處理不友善、答非所問和垃圾廣告導流信息。這一次，「瓦力」挑戰的是困擾世界情感分析領域的前沿問題：「陰陽怪氣」內容識別。
所謂陰陽怪氣，是用戶以反諷的方式攻擊他人，影響正常的討論秩序。比如現實社會裡大家正認真討論問題，突然出現一個人諷刺大家多管閒事，氣氛馬上就會尷尬甚至緊張起來。「陰陽怪氣」言論的判定非常依賴個人感受，每個人的情緒閾值不同，且同樣的語料在不同討論語境下也會引發不同情緒，這更為算法識別帶來了極大挑戰。知乎在過去 7 年中所累積的「舉報」等帶有用戶篩查性質的行為語料和豐富的社區管理經驗，使得知乎得以邁出關鍵一步：用社區最大公約數作為判定尺度。
「我們基於對於用戶切實體驗的累積觀察，與算法團隊一起，從情感傾向性、親密關係、文本特徵三方面入手，訓練出能夠識別陰陽怪氣的算法模型。目前『瓦力』對陰陽怪氣評論文本的識別準確率，已非常接近社區最大公約數，比很多人工判斷都更準。」知乎運營總監孫達雲表示。知乎近期會讓用戶自由選擇是否開啟「瓦力」智能過濾，真正讓陰陽怪氣識別技術進入產品化嘗試。
網際網路創造了公共討論的空間，但隨之也帶來了大量網絡暴力，甚至釀成如「北京90後女孩與父母兩次自殺」等人間悲劇。更可怕的是，網絡暴力沒有倖存者，建立良好的網絡討論環境，也是保護每個網民切身利益的舉措。知乎「瓦力」從識別不友善晉級到識別陰陽怪氣，這一升級，對中文乃至世界網際網路的討論環境，將起到一定的促進作用。
在人類無法兼顧的海量信息中，讓 AI 算法變得更聰明，嘗試識別人類語言背後的情感意義值得稱讚。更為重要的，是「瓦力」傳達了知乎的積極導向和價值觀。客觀上看，算法是「中立」的工具，不同的目標和應用可以發揮完全不同的價值，知乎的選擇，是用算法打造一個友善的、大家能好好說話的網絡空間。
文明，是奮鬥出來的
產生於上世紀80年代的「進化心理學」認為。人類心理也符合達爾文的進化論，一切本能行為都是為了保證自身的生存、繁衍。然而我們縱觀人類發展史，卻會發現每一次進步都是建立人類在對本性的反抗、修正之上，正是反省自身行為、克制原始衝動的能力，讓人得以脫離叢林生活的野蠻。
有歷史記載的幾千年來，人類早已脫離了險惡的叢林環境。即便我們的心理仍然留著先祖烙印，但在經歷數次工業革命，線上還構建起龐大的數字世界時，我們已經擁有了建設新生態的能力，而不是任由原始基因慣性發展。
網際網路發展到目前階段，也需要將上網禮儀這一議題提上日程。在對公共話題的討論中，尊重他人、友善對待不同觀點，應該是網絡世界的一個基本交規。
網際網路行業正成為國人精神生活的重要場所，同樣也承載社會價值重任。在追求財富的過程中，網際網路企業也應更多考慮平臺內容的價值觀內核，以正能量取代負能量，以積極引導取代消極放縱。知乎「瓦力」，給我們帶來的不只是對AI科技的讚嘆，也是啟迪未來的開始和表率。
(責編：陳鍵、賴悅)