【科技向善大咖說·第四期】
邱澤奇
北京大學教授，北京大學中國社會與發展研究中心主任，長期關注技術變革對社會的影響，圍繞技術與組織、技術與發展、技術與社會等問題進行了深入的調查研究，尤其是對過去二十年裡，網際網路給中國社會帶來的變化有著深刻洞察。
在與研究院的對話中，他從技術與社會的視角，圍繞「科技向善」在不同發展階段的實現形式，對數字時代的向善邏輯、影響因素、未來趨勢進行了深刻解讀。以下是訪談內容精選：
騰訊研究院：網際網路發展20年，給人們的生活和工作帶來很大改變，但也帶來了很多挑戰。現在包括騰訊在內的網際網路公司也都提出了科技向善的願景，你怎麼看這一趨勢？
邱澤奇：在回答這個問題之前，有兩個問題需要解決。第一，為什麼在這個時候提出科技向善？因為科技向善的問題歷來存在。或者說，科技向善為什麼現在是重要的？第二，科技過去向善了嗎？現在向惡了嗎？
科技向善歷來是社會的期待。從辯證的角度來看，科技的影響必然分為正反兩方面，既可以用來行善也有可能拿來作惡。在歷史上，科技向善通常是通過政府管制和企業自我約束來實現的。政府管制的典型例子是槍枝。槍枝看起來只是一個工具，但槍枝的致命性讓政府管制變得非常重要。
從槍枝的例子來看，之前的科技是通過產品呈現善和惡的，這樣的方式在工業化時代最為明顯。理論上，政府代表的是公眾的利益、道德和價值觀。由政府的規制來約束產品向善或向惡。比如說，中國對槍枝實施的是強管制政策，美國對槍枝也有管制，卻是弱管制政策。人們很難說槍枝本身是善還是惡，但不同的管制理念和政策，依據的是對產品如何向善、向惡不同的判斷。當然，人類社會也有一些共同的判斷，比如說毒品，世界各國都對毒品實施強管制。
通過這兩個例子，我們可以獲得一個清晰的邏輯：工業化時代的科技常常被用於企業製造產品，以產品為載體，呈現出科技的向善或者向惡。對產品向善或向惡的約束，則主要通過政府制定各種規制來實現，向善的產品會獲得鼓勵，向惡的產品會受到管制。在這個邏輯裡，政府承擔了對科技產品善惡進行判斷和規制的主導性職責。
騰訊研究院：在數字時代，這個邏輯會有什麼不同？
邱澤奇：可以從產品的形態來看今天的產品和工業化時代的產品有什麼不同。過去的產品更多是工具性產品，中國人講「器為所用」，就是講它的形態和功用。今天的產品既有工具性產品，也有交互性、互動性產品，參與式產品。雖然產品在嚴格的意義上依然是工具，可是產品的形態變了，用法也變了。過去，產品與使用者的關係是純粹的工具。今天的產品，是用戶體驗產品、與產品交互，這樣的產品形態逐漸成為主流形態。
在新的產品與用戶關係結構中，同一個產品，不同用戶使用的反饋會有非常大的差異。有的人玩一個小時手機覺得很合適，有的人玩一個小時覺得非常影響生活和工作。在數字時代，人們對科技產品的善惡判斷上，個體的差異影響非常大，包括年齡、受教育程度、個人興趣愛好等因素，都會對產品善惡的判斷產生非常大的影響。從政府規制而言，顯然不能一禁了之，簡單地禁止一個產品解決不了任何作惡的問題。
從工業時代到數字時代，企業與社會的關係在變化。網際網路誕生之前的產品，企業通過產品來面對社會；如今，我們依然以產品的形式在面對社會，界面、交互方式卻發生了本質的變化。過去企業開發一個產品，經過權威部門審核批准之後可能就算完成了，剩下的是批量複製。在數字時代，諸多產品都是動態產品，需要根據交互數據對產品不斷進行優化迭代，通過產品升級、算法升級以滿足用戶需求。與網際網路之前的產品比較，兩者的差異是本質性的。
騰訊研究院：這種形態的差別，對科技是否向善的判斷有什麼影響？
邱澤奇：我認為，約束企業向善的參與者角色和數量變了。過去，可以不需要用戶參與產品的生產和迭代。用戶主要通過政府實現其對產品向善的訴求；政府要求企業的產品向善。今天你會發現，實現企業的產品向善不是單次約束，需要產品在不斷迭代中實現，這是第一。第二，這一波技術革命對社會經濟的改變，對人的影響呈現出非常大的差異性。只有每一個用戶直接參與到產品的生產與迭代中，才能對產品的善惡進行歸責。因此，在過往的經歷中，有哪些經驗需要借鑑，有哪些教訓需要吸取，還缺乏一個明確的參照。但有一點卻沒變的是，網際網路科技與未來的人工智慧最終還是要服務人，以人為核心、服務人類的核心目標。
也即科技產品必須以人為中心。問題是，不同科技的產品，以人為中心的實現路徑不一樣，過去是政府承擔規制責任，企業承擔的產品責任。今天我們會發現，政府依然承擔著規制責任，企業除了承擔產品責任，還承擔著規制責任，企業本身增加了規制、管理的義務。把用戶納入產品的開發、生產與服務之中，是企業獲得規制和管理合法性的重要源泉。這一點要特別強調，這個時候科技的善與惡不簡單是企業的問題，也不簡單是規制的問題，而是政府、企業和用戶三者之間共同參與、建立規則的問題，這是核心所在。
騰訊研究院：這裡講的企業是包括所有企業嗎？
邱澤奇：不僅是大企業，很多創業企業也一樣，開放，讓用戶參與，已經成為非常重要的企業生產運用服務過程。一個產品，不管它在技術上有多先進，在技術上有多前沿，它的核心，還是要為大多數人謀利，為大多數人謀快樂。當然，一些新科技或產品在研發初期可能會遇到一些問題，需要一個發展過程。因此，對新事物，不宜簡單、盲目地否定。
科技向善，從宏觀層面看，首先要為大多數人帶來便利、帶來紅利。社交產品、電商產品、娛樂產品，物聯網產品等等，在解決人與人的連接、人與物的連接和物與物的連接方面發揮了關鍵作用。至少在初始階段，為用提供便利是最大的善。當然，科技向善也可以表現為具體的社會行動，像網際網路公益對慈善的推動，通過技術方式大大降低了人們參與的門檻，不僅是改變了具體項目，還推動了公益生態的改變，讓公益更接地氣。還有，像「為村」這樣的產品，專註解決社區的連接，幫助上萬個村莊更好地融入到網際網路世界，這些都是科技向善。
騰訊研究院：如果用幾個關鍵詞來界定科技向善，你會選哪些詞？
邱澤奇：第一個我會選擇改進，促進效率和效益的提升，改進人類運用資源的方式，尤其是提高資源利用的效率。第二是普惠，讓大多數人從中受益；第三個是包容，容納不同的內容、不同的群體，不同的訴求；第四個是誠信。重複一下，第一是效率問題，第二是社會覆蓋性問題，第三是兼容性問題；第四是社會整合性問題。我認為，應該從這四個方面來界定。
向善有大善、小善，任何科技都有正反兩面的影響。最大限度地降低科技負面影響的方式是制度安排問題，可選擇科技朝哪個方向走，卻是道德問題。
騰訊研究院：這個選擇由誰來決定？
邱澤奇：社會大眾共同決定。善惡在規制領域通常被劃歸道德領域。過去解決道德問題，無非是兩種方式，一是建立社會道德，一是把部分道德約束納入法律範疇。對當下和以後的科技領域，除了加強法治，社會道德建設更加重要。除了產品研發和迭代太快，法律難免存在滯後的考慮外；還因為社會有機會直接參與產品的研發與迭代的過程，本質上就是用戶篩選、社會篩選的過程。對於從動機上就不向善的科技，社會會有一個選擇的過程。隨著這個過程的發展，期待的是社會對技術產生有限的免疫力。當然，在科技向善的發展中，總會出現這樣那樣的問題，用中國的經驗來講，發展中的問題要在發展中解決。
騰訊研究院：在踐行科技向善方面，你對科技公司有哪些期待？
邱澤奇：我認為，科技公司的責任比原來更大了。工業時代，政府和行業制定技術標準，企業只管執行技術標準，只要保證產品符合技術標準就合格了。產品產生的社會問題，由政府或社會解決。現在，科技公司面對場景不一樣了，簡言之，面對的責任、難題更多了。其中，有些科技產品的影響很難馬上界定，產生影響的關聯因素也很難釐清和量化。在這種條件下，科技公司還不得不直接面對產品引發的社會後果，這就是不同。過去，這些社會後果是由政府出面解決的，現在政府也不知道該怎麼解決，為了推動產品研發和迭代，公司不得不面對。面對這些新的挑戰，科技公司應該更多地與社會交互，更多地從社會獲取和吸收智慧，理解社會對一個具體產品善的界定和期待。
騰訊研究院：當科技公司直面這些新的社會問題，提出解決方案的時候，它的邊界在哪裡？會不會影響用戶的選擇自主權。
邱澤奇：這其實是一個平衡問題，包括在不同市場可能要採取不同的措施，比如中國的應用環境和歐洲的差異就很大，一些產品在歐洲應用可能不會帶來什麼不好的影響，在中國市場可能就會產生不好的反饋。這跟兩個市場的用戶習慣、文化傳統有很大的關係。即使是在同一個市場，不同用戶群體之間也會差異很大。
尤其是當一個新的科技產品出來，用戶並不知道產品負面後果是什麼的時候。在這種場景下，科技公司要儘可能告訴用戶潛在的負面影響。科技公司的告知就是一種向善。事實上，對新的科技產品，它的正面和後負面後果，用戶其實是不熟悉的，科技公司向善的做法，是要告訴用戶，產品的正負面後果會是什麼樣子。鼓勵用戶向正面後果發展，避免負面後果，這是科技公司應該承擔的責任。科技公司對產品後果充分告知不僅不會剝奪用戶的選擇自主權，反而會賦予用戶更大的選擇自主權。
我們可以看一下公交車刷卡的例子。北京公交車剛剛開始推廣刷卡的時候，每個車站都有人教你怎麼上車，上車之後也有人教你怎麼刷卡。多少年過去了，直到現在，車內廣播都會反覆告知如何正確地刷卡。與此同時，技術和規則也在不斷迭代，過去只能刷公交卡，現在，多種途徑都可以刷；過去是上車刷一次就完了，現在，變成了分段式計價，上車要刷卡，下車也要刷卡。為了讓乘客熟悉，車內廣播不斷地提醒你下車也要刷卡，否則就要被扣全程票款。
騰訊研究院：科技公司也需要去推廣和普及一些規則或者數字時代的素養？
邱澤奇：對，你講得很準確。我們舉個特別簡單的例子，在家裡，當看見小孩拿著菜刀，大人會怎麼辦？肯定會制止。當一些新的科技出現的時候，它潛在的負面影響可能就小孩手裡拿著菜刀，所有用戶就是拿著菜刀的小孩，不知道手裡拿的東西會有什麼危害。這個時候，就需要科技公司、社會、用戶共同去面對可能出現的潛在風險。起碼要告知，既要讓用戶更好的使用科技產品，也要讓用戶明白可能的負面影響；然後是引導；第三是預防；第四是提供針對負面後果的解決方案。
騰訊研究院：隨著這些規則和意識的普及，對科技產品應用而言，當下遇到的挑戰，在3-5年之後可能已經不再是問題？
邱澤奇：我始終認為，一些現在的問題是一個轉折期的問題。轉折期有幾個特徵，第一是社會對產品不熟悉，對產品的特徵不熟悉。第二是對產品的社會後果缺乏預見；第三是在遇到問題之後，缺乏科學、理性的解決方案。
隨著科技產品的普及，社會各方了解的深入，這些問題都會迎刃而解。不過，有一個問題需要提醒，如今，科技產品的迭代速度遠遠快於工業時代的產品迭代，它就意味著用戶始終會面對新的科技產品，這是最大的挑戰。我們前面講到的告知、引導、預防和解決，不是針對一個產品而言的，而是說，面對不同的科技產品，對問題的解決要有一套機制和策略。希望科技產品有一天也能像藥品一樣，不僅能列出自己的功效，還能標明它的副作用，有一個詳細的告知。
騰訊研究院：當科技產品的快速變化成為一種常態，科技向善需要建立一套面對快速變化的機制？
邱澤奇：是的。過去的產品更新比較慢，一把鐮刀用了2000年，形態也沒什麼變化。可是今天，一部手機最多用兩年。其實，工業時代的很多問題也是逐步發現的，像前些年爆出來的食品安全問題，「蘇丹紅」、「三聚氰胺」，都是在出現問題之後不斷完善規制標準和監管機制，逐漸形成一套機制的。
未來的產品更新一定是越來越快。在數字時代，我們怎麼去應對科技產品迭代加速的挑戰，政府有規制的責任，社會有選擇的責任，科技公司則有技術的責任。我認為，未來科技產品在研發的時候，還可以更多地讓專家的參與。比如在產品研發階段，可以更多地與多學科專家合作，讓專家更多地了解產品特徵，並對一些問題進行前瞻性研究。
這樣做的優勢是，當最新科技產品推向市場的時候，不僅有來自企業的技術告知和引導，還有來自專家的社會評估。也就是說，在前面提到的告知、引導、預防、解決四個環節之外，還可以引入外部專家參與，作為第三方來承擔科技行業與社會、政府之間的溝通橋梁。
比如社會學家介入，可以通過非幹預實驗找出產品的社會特徵。從用戶的年齡、性別、職業結構入手了解哪些人在使用產品，並從其使用行為中發現規律性。只有運用科學方法找到了產品的社會特徵，才能寫出真正有效的「產品說明書」，而並僅僅只是一份技術說明書。
騰訊研究院：這種研究和當前一些科技產品快速發展、迭代的節奏會不會相矛盾？
邱澤奇：對有些產品的研究，需要的樣本量並不大，也許幾千個樣本的行為數據就足夠了；對另外一些大類產品的研究，比如社交產品、電商產品、遊戲產品、短視頻產品等，每一類產品都有相同或相似的社會特徵，什麼人在用？有什麼影響？應該如何用？當把大類社會特徵研究清楚之後，就可以提供預防式的建議和策略，而不是像現在一樣，等出現問題才去推出應急措施。
當針對大類產品的研究形成積澱，在新產品出來時，就可以寫指導書，給預測性建議。就像現在的藥品一樣，很清楚地說明，適用於哪些人，哪些人禁用。像某些感冒藥、抗生素等，產品說明裡就會講得很清楚，孕婦禁用。如果你是孕婦，就不能用這個感冒藥了。以後的科技新產品也可以加一些告知，建議哪一類怎麼用，讓用戶自己去判斷和選擇。
騰訊研究院：目前這方面的研究好像還不是太多？
邱澤奇：的確不多。我認為主要有兩方面的原因，第一是科技企業沒有對外開放；第二是學界對這些領域的研究還不太重視，不認為這是他們的責任。不過，無論是理論創新還是實際解決社會問題，這樣的研究都非常值得去做。很多新問題其實是理論創新的源泉。
騰訊研究院：對科技公司而言，這些措施會和追求商業回報的目標相衝突嗎？
邱澤奇：我認為，跟商業目標沒有衝突。舉個例子就比較容易理解了。同樣一個產品，你可以只告訴大家怎麼用，同時你也可以除了告訴大家怎麼用，還告訴大家怎麼用更好。現在，第一步我們已經做得很好了，告訴大家怎麼用。結果是，有的人用好了，有的人用壞了，這出現了負面影響問題。
大家喜歡用，說明產品很有吸引力。在這個基礎上，如果能讓用戶更好地使用，等於是為優質的產品提供了優質的服務。這是一個正反饋，而不是一個衝突。我始終不認為，一家科技企業告訴大家怎麼把自家的產品用好會讓它降低利潤，我覺得不會這樣子。
騰訊研究院：科技向善會帶來逆向選擇嗎？或者說會出現劣幣驅逐良幣嗎？
邱澤奇：即使有逆向淘汰，也始終只是一個階段，不會是永久的。為什麼是階段性的？因為在逆向淘汰階段存在著一些沒有被滿足的需求，也可以理解為用戶內部的差異性導致的需求本身的多樣性沒有被滿足。這裡，提出了一個更重要問題，如何讓產品都具有科技向善的價值，讓向善成為行業的一個基本準則。
騰訊研究院：在推進科技向善方面，怎麼看學界、企業、政府的互動。
邱澤奇：對於新出現的科技或應用，政府也需要有比較深入的了解，也需要對它的影響有比較全面的評估。要達成這樣的目標，學界其實可以發揮很好的溝通和橋梁作用。雖然企業有自己的商業視角，學界卻可以更客觀地從社會視角去給出答案。對政府監管而言，過去採用產品標準來避免出現負面後果，促進產品向善。如今，很多創新科技產品很難用已有的標準去衡量，不僅國內沒有類似可供借鑑的經驗，有的在國際上也沒有參照。這就需要在監管方式上進行創新，三方共同探索數字時代的新規制。
科技向善不僅是科技公司的責任，也不僅是大公司的責任，而是所有公司、政府和社會共同的責任。
（以上內容為【科技向善 · 大咖說】精簡版，完整版本請期待《科技向善白皮書》）