當我們推開與AI「共生」的大門，好奇心是否需要被克制？

「在這普通的一天，我用普通的釘釘，很普通地和同事視頻連線；打開普通的軟體，普通地購買生鮮；普通的AI在普通地檢測誰在發燒……」如果把紅遍全網的B站名曲《普通Disco》改編成2020版，或許就是這樣。

這種的日子放在十年前還很新鮮，現在確實只是「普通的一天」。

科技已經進入到我們生活的方方面面，正如支付寶首席AI科學家漆遠在好奇心圓桌派上說的那樣，人工智慧正在變成數字經濟生活的基礎設施之一，智能化服務對社會的助力真實可見，更多變化在未來的五到十年時間裡會大規模地發生。

AI該是什麼樣子？在頂尖AI科學家漆遠和雨果獎知名科幻家郝景芳眼中，AI更像是一個在努力成長卻不夠成熟的孩子，它前進的步伐，取決於「原生家庭」指引的方向，也有無數的人在為AI的向陽而生而奮鬥著。

昨天，各大直播網站發布了一場名為「好奇心科技」的圓桌對談。當一位科學家，一位科幻家，和一位B站人文類UP主，為人類與AI的將來聚到一起，他們在談些什麼？

AI，「嚴重偏科」的小孩

人們提起AI，會想到科幻電影裡冰冷的機器人，會想到藏在手機裡的Siri，也會想到在抗疫過程中的一系列AI應用。它進化飛快，時時帶給人驚喜，有時也帶去意外。

那在中國一流的科幻作家眼中，現在的AI是怎樣的？

《北京摺疊》拿下雨果獎之後，郝景芳出版了以人與AI為主題的《人之彼岸》，把目光更多地投向AI的發展。她在圓桌現場強調，目前的AI在某一方面異常優秀，在其他方面卻不如小孩子，是一個「偏門的天才」。

正如她在《我們離超級人工智慧到來還有多遠》一文中提到的那樣：

從某種程度上來說，人工智慧目前就像電影《雨人》中那類自閉的孩子，一眼就數得清地上的牙籤，能心算極大數字的乘法，背得下來全世界的地圖，卻答不出有關自己的問題。它只懂研究每秒300盤的棋路，卻不知道「我正在下棋」這件事。

深耕人工智慧領域數十年的漆遠有著類似的感受，他認為，現階段的AI更像是「一個嚴重偏科的孩子」。

支付寶首席AI科學家 達摩院金融智能負責人 漆遠

這種偏科首先表現在了跨領域、跨專業的學習上，它在某一知識領域會非常精通，但跳出這個領域就可能會有些傻。學圍棋和學英語，人可以同時學會，但一個已經學會下棋的神經網絡再去學英語，可能就丟失了原來的技能。

因此，多任務學習技術成為現在人工智慧的方向之一，漆遠解釋稱，這就像是學過圍棋之後去學五子棋，二者背後有很多可以相互借鑑的地方，這種類似的任務就可以讓AI通過算法把不同任務間共通的和不同的自動學習出來，提升完成每個任務的能力。

郝景芳的另一個身份是童行學院的創始人，兒童教育經驗豐富的她笑稱這種「把相近學科之間共通的思維能力拎出來教給AI」的做法，像是人工智慧界的「通識教育」。

AI的「偏科」，更體現在了「重數據學習、輕推理能力」上。

在郝景芳看來，AI通過大數據學會了如何找相關性，學會數學層面上的推理，但恰恰就不擅長與人類社會有關的推理。

假設現在有一個人被扇耳光了，在場其他人都會猜事發的原因，可能經常猜得八九不離，但AI未必猜得出來。因為像扇耳光的動作含義、雙方可能的關係，都屬於生活中積累下來的經驗，AI很難在這種生活情境中對日常的因果關係做出準確判斷。

漆遠也有同感。在他看來人工智慧如今最突出的表現之一，其實是用海量數據「堆出來」的強大記憶力，達到某種程度上的「見多識廣、學識淵博」。它能在「見過」一萬張貓臉圖片之後，順利識別出新的貓臉，就是記憶力的體現；但在邏輯推理能力上有所欠缺。

「就像那種被高考機器慣出來的孩子，學習了大量知識點之後，做題很快，但缺乏常識和基礎的情商。」漆遠說。

人與AI的「共生未來」

電影《Her》的「女主角」被設定成AI，她在男主角身上習得了更多知識，進化迅速，最後離他而去。

AI誕生以來，這樣的焦慮被呈現在各種科幻作品裡。本場圓桌的主持人，UP主「閃光少女斯斯」也由此拋出了一個「靈魂拷問」：

如果AI的發展速度超過人類了，它會拋棄我們嗎？

「（人與AI）應該是互惠共生的一種關係。」在郝景芳看來，這類似於動物與植物的關係，各自吐出二氧化碳和氧氣，實現碳循環；雙方在交互中可能會有一些小型衝突，但不會發生人類智能和人工智慧的整體性衝突。

她接著開出了「新腦洞」：隨著腦機接口等技術的發展，人類將會看到自己的數字大腦不斷地與AI發生數據交換；比起AI實體化「衝入」現實世界，虛擬人格與AI在虛擬世界中頻繁交互，共生於數字世界，這是未來的50-100年間必然會發生的一件事情。

左：第74屆科幻雨果獎得主 童行學院創始人 郝景芳 右：女性人物紀實節目《閃光少女》創始人 斯斯

漆遠給出了更確定的答案：「這種（人工智慧）俯視人類的感覺，在可見的未來裡，我認為不會發生——人和機器會在一起，定義一個共同的未來。」

當我們必將進入人與AI共生的時代，AI會從那個「偏科」的孩子長成什麼模樣？

在這兩位科學家和科幻家看來，人工智慧正在成為數位化生活的基礎設施，挖掘數據背後的規律，產生價值，通過不同場景服務於，對社會的智能化改造也會在不遠的將來裡大規模地發生，很多技術也在處在研發進行時。

郝景芳這樣描繪她心目中的未來人工智慧服務：像是每天早上你走進辦公樓，大門識別到你了，通知三樓的咖啡機，等你到了三樓就有一杯咖啡可喝，也準備好了一系列服務，並不見得一定要有一個兩條腿的機器人在門口迎接你。

漆遠對AI成長趨勢的研判就更「技術宅」一些，他首先提到AI會從純數據驅動，變成數據和知識推理的「雙輪驅動」。

正如前文提到的那樣，AI的邏輯推斷「短板」會被補上，能力更加平衡，人類的知識經驗沉澱為大量規則，將與算法一起讓AI變得更有「常識」和「情商」，會成為接下來的主要發展方向之一。

其次，是從隱私保護出發，試圖在確保數據安全的同時產生數據價值。

用人的身體打個比方，DNA是一個人最隱私的數據，這甚至比長相（人臉數據）更隱私。如果要解決很多重大疾病，繞不開理解和研究DNA——但矛盾也同時出現：如何在保護隱私的情況下，能夠產生和分析這種基因和RNA的數據，來開發更好的藥品和疫苗？

如何平衡隱私保護和數據使用，人工智慧學術界和工業界其實已經獲得了一些技術成果，隱私保護機器學習、共享智能、聯邦學習、安全多方計算等都與這一議題緊密相關。

支付寶AI就將共享智能技術，率先落地在業務敏感度頗高的金融風控場景。中和農信藉此大幅度提高了風控性能，把原來傳統的線下模式轉為線上自動過審，大規模提升了風控能力，8個月累計放款31.9億，授信成功人數44萬。

這類技術的思路，就是在保證各方隱私的情況下，將他們的數據價值提取出來，打破數據孤島，產生數據融合的大價值。

它的運行原理可以用羊吃草來類比：機器學習模型是羊，數據是草。過去某種做法是，羊不動，草被購買到中心；更安全的做法是讓草不動，讓羊動，也就是說模型去不同的草場去訪問，草不出草場，也沒有人知道羊吃了哪些草，羊仍然能夠順利長大。

第三大發展方向，是AI需要更「皮實」，必須成長為經得起攻擊的博弈智能體。

2020年是黑天鵝的一年，在數字經濟進一步推進的同時，黑產猖獗，造假升級，deepfake和內容風險……抵禦不同方向的風險，是AI大有作為的方向。在漆遠看來，不確定性正是這些風險爆發的關鍵之一，也是如今機器學習面臨的挑戰，

正如孩童長大成人，進入社會，要變得不再脆弱，任何一項技術在真正走向使用時也必須更可靠、更廣泛適用、更經得起打擊。而貝葉斯機器學習就是將不確定性和小概率事件的研究，和推理能力、理解能力結合到一起，實現對AI對抗攻防能力的提升。

漆遠所在的支付寶安全實驗室，開發了把博弈論和深度學習結合的智能攻防算法——這是世界上首次把深度學習引入博弈論，他們也藉此在德州撲克小實驗達成世界領先的水平。

同時，紅藍攻防這種「左右手互搏」的形式也納入了支付寶安全實驗室的日常AI演練，讓系統在對抗和錯誤中學習成長，做到在對手「魔高一尺」的時候，讓自己的AI「道高一丈」。

這些正在發生的技術變革，又對「人機共生時代」意味著什麼？

「AI就像是我們的朋友一樣，在幫助我們做判斷和輔助，成為了一個智能夥伴。」郝景芳提到，AI幫助大眾加固最基礎的「安全工事」，人機共生的前景會更開闊明亮。

剎車在哪兒？

對談的最後，漆遠與郝景芳談起了本場圓桌的名字：好奇心。

在他們眼中，好奇心是探索世界的初心，好奇心是探索過程中瘋狂運轉的大腦和釋放的多巴胺，它推著原始人向前進化，推著孩子去思考和學習，人類對自身和對所有外部世界的好奇都在推動所有領域的科學探索。

但只有好奇心，讓AI這些先進技術只會「向前衝」，可以嗎？

「沒有敬畏之心做底線，其實就沒有未來。」漆遠談到，一個科研者應有的價值取向，就是好奇心、敬畏心和普惠。

就像汽車有引擎，也會有剎車，路上會有紅綠燈，如果AI像引擎一樣在推動社會的發展，就必須有這些安全系統，否則就有失控的可能。

另一方面，AI本身又能夠提升安全技術，可以使安全「剎車」更智能——AI和安全，其實是相輔相成的關係。若沒有安全性和穩定性的保護機制，再迅猛先進的科技也不過是空中樓閣。

讓AI變得更有「常識」和「情商」，變得更尊重數據隱私，變得更平衡、更穩定、更抗打擊，其實也都是為了安全這同一個目標。

當假新聞層出不窮，當眼見為實不再有意義，技術能給人多少安全感，研發者的價值取向顯得尤為重要。

郝景芳感慨道，技術本身並沒有善惡之分，但技術能放大人性的惡，也能放大人性的善——就像一把菜刀，成為廚房好物還是成為殺人兇器，選擇權在人類手中。

人的成長有欲望的驅使，而人工智慧只有人類給它設置的「目標函數」。把「幫助更多人、服務更多、永遠不傷害更多人」都寫在目標函數裡，其實才是真正的共生。

漆遠認為給人工智慧設定好的目標函數至關重要，長遠而言，要把對人的善意和公正寫進去—而人工智慧的公平性研究也日益重要。這給目標函數就相當於一個公司的使命和願景，是他們馬不停蹄想要前往的目的地。

對漆遠和他所在的支付寶而言，這個目的地就寫著「普惠」二字。好奇心帶來探索，敬畏心帶來克制，兩方的平衡讓技術像自行車一樣平穩地向普惠駛去——科技發展至今，其實也沿著這條清晰可見的脈絡在行進。

他在圓桌中分享的一個案例，令我們印象深刻。

一位農民在自己50歲那年，迎來了生命中的第二個「大件」物品——一臺三輪車，第一件是家裡的19 寸老式電視機。

這輛價值一萬七千元的三輪車，花去了他信用貸款3萬元中的一大半，但他靠三輪車跑運輸，不僅把錢按時還上了，還改善了自己和80歲母親的生活。

這也只是中國絕大多數農戶的一個縮影。由於缺乏信用數據積累，沒有銀行流水、資產證明、抵押物等，他們被傳統的金融服務拒之門外，而支付寶一直在藉助科技的力量服務這些人群和小微企業們，踐行普惠金融的目標。

科技的善惡，其實並不由那些複雜的數據和計算，而是取決於它是否放大了人的善念，是否讓普羅大眾享受到了科技進步的價值，是否有科技力量落到實處，化作普惠這一盞燈，照亮他們的生活。

雷鋒網雷鋒網雷鋒網