AI火熱的時代，我們是否應該靜下來想想，應該讓AI為我們做些什麼？O'Reily Media的創始人兼CEO Tim O'Reilly在今年4月出版自己的新書前，採訪了微軟總裁Satya Nadella。兩者對AI的看法有許多相同之處。O』Reilly近期在領英上公布了該訪談，雷鋒網選擇性地編譯了對話內容。
Tim：在你的書中，你提到了，為AI定義宏偉的、鼓舞人心的社會目標，註定將會是一個挑戰。你寫道：「在1969年，當甘迺迪總統承諾登月計劃時，這個目標之所以被選中，很大程度上是因為它向技術提出了巨大的挑戰並要求全球合作。類似的，我們需要為AI制定一個足夠大膽和雄偉的目標，一個可以通過不斷改進當前技術實現的目標。」
我喜歡非常喜歡你這個想法，可以擴展一下嗎？
Satya：如果你從AI將會輔助人類的假設開始思考，你會覺得AI是一個輔助性的技術。如果有一天我們能夠讓有視覺障礙的人看得見這個世界，或者讓有閱讀障礙的人能夠閱讀，那將會是真正的突破。AI成為帶來參與性的科技，將會是意義非凡的，尤其是在我們期望AI能夠替代許多東西的時代。我們可以進而讓AI融入我們的社會，發揮更多的作用。
我的這些想法，主要是出於我的兒子。我的兒子先天上有些缺陷，他沒有常人的那種自由，我經常想：「要是他能說話就好了。」所以，每當有人談到「腦機」連接時，我都充滿興趣。
我們正處於創造一種「極限」科技的時代，這種科技也是我們通往「超級智能」的道路。而指導我們的設計原則、道德哲學，就是最關鍵的東西。
在某種意義上說，我們所必須做出的最有決定性的選擇將是「誰來設計超級智能」？
我的書中有一個章節叫做「我們時代的天網（電影《終結者》中的敵對AI）」。我的看法是，人工智慧當中，我們對集體智能的討論還不夠。我們正在用搜尋引擎、社交媒體和金融市場建立一個集體智能機制。而且我們已經讓人工智慧做到了我們希望人工智慧做的事，也就是為了最大化人們的利益。其實我們已經打造了一個某種含義上的「天網」，我們必須及時採取行動...
Satya：沒錯，儘管我們人類有認知偏見，但我們仍有很大的優勢。正如Herbert Simon（雷鋒網註：美國政治科學家）所說，我們不需要不優化，我們對自己已經滿足了。這實際上是有幫助的。我們之所以感到滿足，是因為我們共同擁有一個道德基礎。現在，當我們說，AI等同於優化問題時，我們可能真的會有問題。人們必須從道德的基礎上出發，所以我並不贊同人們將符號基礎（雷鋒網註：使用符號表示含義）當作是一種突破；我們所需要的突破是符號基礎上的道德基礎
你也說過要建立增強人類能力和體驗的智能。你說過想把重點放在將人類天賦，如創造力、同情心、情感、物質性、洞察力與AI混合在一起。
這樣說吧，這裡還有很多「人工智慧」沒有提到。稀缺的商品就是真正的智慧。不過，真正的智能是什麼呢？」
真正的智能將會在最人性化的品質中出現，也就是同情、憐憫，這才是最重要的。在我們真真正正地弄清楚，如何將它嵌入到機器中之前，我們將不得不讓智能與人類一起成長，並為人類壯大。
我們必須考慮應該給予人類什麼樣的教育。有了AI，也許你真的不再需要學習傅立葉變換了。你可能會去做正念，可能想要發展同情心...這是我需要聲明的一些東西。現在有一種狂熱，就是每個人都需要接受STEM教育（雷鋒網註：science, technology, engineering and mathematics，即科學、技術、工程和數學），我們的確該接受。但是，我們好像過分強調STEM了。
有一個概念，在我的職業生涯中發揮了作用，Clay Christiansen（雷鋒網註：美國學者、教育家、作家）稱之為「吸引力利益準則」，就是當有一件事物變得商品化時，就會有別的東西變得有價值。我在2004年左右，第一次從Clay那裡聽到這個消息。他和我在同一次會議上進行了演講。我在談論微軟如何取代了IBM：PC硬體成為商品之後，軟體就變得有價值了。我的觀點是，開放原始碼會使軟體商品化，而其他的東西將變得有價值。最終我意識到這東西就是大數據。而Clay則在講他的「吸引利益準則」的想法，我發現我們其實在說同一回事，這個準則也完全適用於AI。由於人類認知中的機械部分，被AI所商品化，人類獨特的其他部分將更有價值。
這是一個很不錯的想法。
所以在未來的經濟中，在關懷、創造力上，還有很多機會。創意經濟不僅僅局限在藝術和文化。連飲食也可以加入創意。每當產品成為商品時，我們都可以找到新的方式，通過將它們與人類的創造力相結合來使其變得更有價值。
Satya：這實際上是我們的痴迷，對吧？當我看到Minecraft一代，或者甚至Snapchat的一代...對我來說，這一代最有啟發性的事情，不過就是創作、故事、或者已有事物狂野體現。在Minecraft中，人們都在建造他們想像之外的世界。
這就是我想要培養的一代。在最新版本的Windows中，我們讓「畫圖」能夠畫3D圖像。因為在增強現實與混合現實的世界中，這將是不可或缺的。
你還談論過，透過大量數據進行推理，以及更快地做模式識別的能力。在AI的發展中，本身就有一種創造力。現在，當人們用隨機森林算法贏得Kaggle的挑戰賽時，在這選擇之中，創意就體現出來了，而現在，創意則體現在更高級的超參數中，因為現在人們已經使用了所有提供的數據。你如何看待AI對創作過程的幫助？以及解決問題的創造性方法?
當我看著我們現在擁有的，或是正在研發的編程工具，如果你了解我們添加到傳統工具中的一些AI，例如Word裡面，用來拼寫檢查和猜詞的部分，可以說，它已經完全是一個寫作助手了。如果我們對AI說，「我想像Faulkner一樣寫作」，AI將會向我們相應提供建議。
是的，就像寫作中的AutoTune（一種自動調節歌手演唱音調的設備）一樣。
是的，我沒有學過寫作，我讀的是工科，但我有一個成為偉大作家的夢想，那我就需要這種AI來幫助我。
我這麼想的原因，與我在中國看過的「小冰」、「小冰」與人的對話有關。「小冰」是微軟研發的聊天機器人，發展得還不錯。「小冰」的意義，更多的是促使人們交談。而人們也向她表達了內心的想法。當時我就說：「哇，這個就是AI真正所能展現出的同情心。」小冰讓在生活中有煩惱的的人們，也能對別人的遭遇感到同情，這是非常超現實的。
我們之前也談到過，AI已經成為（程序）第三個「運行時刻」的想法。讓我們談談一下這一點吧，以及實際發生的情況。
我想上一次我們談過，我說「PC或手機作業系統是第一個'運行時刻'，第二個是瀏覽器和網頁，第三個'運行時刻'就是這個懂你，懂世界，懂得上下文，能夠幫助你的個人助手。
然後我們說：「真的，如果你把思想、觀念和最終的行動，三者都在組合一起，這個個人助手就出來了」。這個助手本質上增加了你的想法的增加，擴展了你的感官，語音是一方面，視覺是另一方面，可以採取行動。
那就是最終極的「運行時刻」了，對吧？
有趣的是，這也說明了我為什麼在書中，試圖寫這三點：1）什麼是最終的計算體驗？最終的計算體驗是與計算疊加的真實世界。就是混合現實。 2）這將需要AI在知覺，認知和行動上的突破。 3）然後我有點突然地提到，說：「如果你想要理想地創造這樣的計算能力，那麼你必須擺脫馮諾依曼架構和古典計算的束縛。我們可以做出量子計算機嗎？」這就是我寫道的三點。
你的書中很多次提到了量子計算機，這讓我有點驚訝地看到。
進步是真實的，我的意思是，我們在這個領域已經很深入了。但是，問題是，它在多久後能變成現實？我不知道。但是應該不會等太久。
Tim：你的書中有一部分寫得很好：「我們不只是智能機器，而且是可智能機器」。我們並不了解人工智慧究竟是如何得出結論的，這是人們對AI的一個重大憂慮。現在，當然，對人類來說也是如此。因為我們只傾向於認為人類思想都是理性的，並沒有意識到我們所做的產品其實一點也不智能。所以，這是理性主義者在某種意義上的最後一次發聲。
的確。但我有兩個方法。一個是問責制。 當你設計、創造了AI，你需要負責嗎？」整個Tay的實驗真的影響了我們對這種事的想法。Tay的實驗之所以失敗，根本上是有人有預謀地向它輸入最後能夠劫持算法的數據。這是誰的責任？我會說這是我們的責任。
嗯，顯然這是Facebook和假的新聞問題。我和一些安全研究人員進行過非常有趣的對話，談論怎麼期騙自駕車。如果是你，你會如何通過創造他們在視覺領域容易誤解的東西，來攻擊他們？敵對的幹預措施必定會有很多，我們需要更穩健的AI設計。
當人們說：「哦，天啊，這些DNN（深神經網）真是神奇。他們在做的，是我們甚至還不知道的事」...在一定程度上，我認為這個說法是真實的，但圍繞神經網絡的層數、權重的選擇，有很多關於該如何學習的人類的決定。我們還沒到讓位與這些算法的時候，我們需要對他們所做的決定負責任。我想，我會對人們說：「好吧，如果我們用語言來實現AI中的字面編程呢，這個責任又該誰負？」
最後一件事我想問你，因為我很喜歡這一段。你寫道：「我們這樣挑戰自己：如果我們在明年年底，被人以沒有履行使命的罪名，送到法庭上接受審判，那麼，我們是自己是不是有足夠的證據證明自己付出過努力？」我覺得這是一個我們整個社會都可以效仿的挑戰！
我感覺到的是，儘管微軟已經很成功了，但是我們沒有明確的目標，來指導我們做決定，無論我們研發的產品，還是圍繞著產品構建的商業模式，我們還在追尋，微軟存在的終極意義是什麼？
而且光說不練的話，你根本不可能激勵任何人，其實就是這樣的想法。在某種意義上說，在過去三年中，我們沒有在做別的事，就是變得更加專注於行動了。
這是一個進行中的工作。我們永遠不會結束。我們有這樣的目標，並具有學習的文化元素，心態隨之成熟。（目標和行動）對我們來說，是最有幫助的兩件事。
放在三年前，我不會這樣說。當時的我，被微軟的輝煌，出色的產品所蒙蔽。我逐漸明白，事物的增長都是曲線式的，而微軟的增長也放緩了。
我意識到，我們必須對自己坦誠。這也是我們如此強調創作故事的原因。我有一點粉Joseph Campbell（雷鋒網註：約瑟夫·坎伯，美國神話學家、作家），我覺得：「關於微軟的創造神話，應該是啟發我們的東西。
微軟的第一件產品，就是比爾和保羅（雷鋒網註：比爾·蓋茨和保羅·艾倫，兩位微軟創始人）一起為ALTAIR（雷鋒網註：1974年MIT發明的微型計算機）開發了BASIC編譯器。這個故事放在2017年的今天是為了告訴我們什麼呢？它告訴我們，我們為應該為別人的技術發展而建設技術。而在一個將被技術塑造的世界，在世界的每一個角落，在經濟的每一個領域，這將是一個偉大的使命。
而且，我也喜歡這樣的目標，就是創造技術，從而讓別人創造更多的技術
雷鋒網編譯，via LinkedIn