來源：創事記
歡迎關注「創事記」的微信訂閱號：sinachuangshiji
文/機器之心
來源：機器之心（ID：almosthuman2014）
2020 年伴隨著很多前所未有的事，在坎坷的一年過去之後，我們將迎來怎樣的新時代？
在今年的最後一天，吳恩達邀請了沈向洋、李飛飛等人工智慧的頂級學者，讓大牛們對 2021 年的 AI 技術發展進行了一次展望。在人才不斷流向業界、常規架構算力進入瓶頸期的今天，作為一名從業者應該看到什麼？他們是這樣說的……
新的一年近在咫尺，吳恩達分享了自己對人工智慧在接下來一年中發展的三個願望：
縮短概念證明與生產之間的差距。儘管搭建好的模型很重要，但很多人現在也意識到，從數據管理到部署到跟蹤，要想付諸實踐，還需要做更多的工作。2021 年，我希望我們能更好地理解機器學習項目的完整周期，構建支持相關工作的 MLOps 工具，以及系統地搭建、生產、維護 AI 模型。
增強 AI 社區的共享價值觀。在過去的十年中，Deeplearning.ai 在全球範圍內的成員已經從幾千人增長到了數百萬，我們成功的一部分原因源於對任何想加入我們的人張開雙臂。與此同時，這也會帶來一些誤解。因此，建立一套共同的價值觀比以往任何時候都更為重要。
確保我們的工作結果公平公正。人工智慧領域的偏見和公平問題已經引起了廣泛討論，在這些領域仍有許多困難和重要的工作要做，我們絕不能鬆懈。同時，人工智慧對貧富差距的貢獻受到的關注也較少。許多高科技企業似乎都對應了「贏家通吃」的那一套原則，這個世界是否正在成為財富集中於少數公司的樣子？我們如何確保公平分配？
我對 2021 年人工智慧及各位在其中扮演的角色感到非常樂觀，期待我們共同解決這些具有挑戰性的問題！
此外，來自 AI 社區的多名著名學者、企業家也分享了他們對於 2021 年的展望。
喬治亞理工學院 Ayanna Howard：訓練有道德的 AI
喬治亞理工學院交互式計算主任Ayanna Howard
作為 AI 工程師，我們擁有設計和搭建基於技術的解決方案的工具。但許多 AI 開發者不認為解決潛在的負面影響也是自己的責任，因此我們也看到醫療服務、教育機會等方面的不平等現象。
在新的一年，我希望 AI 社區可以就如何構建有道德的 AI 達成廣泛共識。
我們需要在基於其部署的背景來考慮我們的工作，並對可能造成的潛在危害負責，就像負責識別和修復代碼中的錯誤一樣。
這聽起來像一場巨變，但它可能很快發生。就像新冠大流行期間，很多公司都實施了以前他們認為不可能的在家辦公制度。技術的一個特徵是，當頭部玩家改變時，其他人就會跟隨，以免失去競爭優勢。只需要幾個領導者設定了新的方向，整個領域也會隨之變化。
史丹福大學教授李飛飛：激活 AI 生態系統，扭轉頂級人才流向業界的趨勢
美國國家工程院院士、史丹福大學教授、人工智慧著名學者李飛飛
我希望 2021 年，美國政府能夠堅定承諾支持 AI 創新。
美國之所以在科技領域一直處於領先地位，是因為其創新生態系統充分利用了來自學界、政府和產業界的貢獻。但是，人工智慧的出現使之向業界傾斜，這很大程度上是因為用於 AI 研發的三種最重要資源——算力、數據和人才，集中到了少數公司。例如，根據 AI21 Labs 論文《THE COST OF TRAINING NLP MODELS》中的數據，為了訓練大規模語言模型 GPT-3，OpenAI 聯合微軟可能花費了價值 500 萬至 1000 萬美元的資源。沒有一所美國大學可以進行這種規模的計算。
大數據對推動人工智慧的發展同樣至關重要。但如今，最豐富的資料庫卻掌握在大型公司的手中。缺乏足夠的算力和數據阻礙了學界研究者的科研，並加速了頂級 AI 人才從學界流向私有企業。
2020 年，美國政府為大學院校提供了一些新的支持，但這遠遠不夠。在我與哲學家 John Etchemendy 共同負責的斯坦福以人為本人工智慧研究院（HAI），我們提出了一項國家研究雲（National Research Cloud）計劃。該計劃將在未來十年每年投入 10 億至 100 億資金，為學界、政府和業界的合作注入新的活力。這項計劃將為學界研究者提供前沿研究所需的算力和數據，反過來也將吸引和留住新的教職人員和學生，有可能扭轉學界研究者流向業界的局面。
National Research Cloud 的進展令人鼓舞，包括美國國家科學基金會和美國國立衛生研究院在內的多個機構也發出了有關人工智慧項目的呼籲，為相關提案提供支持。
AI 是一種工具，而且是一種功能強大的工具。但每個工具都是一把雙刃劍，其使用方式不可避免地反映出設計者、開發者和實施者的價值觀。確保 AI 安全、公平、保護個人隱私並造福全人類，仍然存在著許多挑戰。而激活 AI 研究生態系統是解決這些問題的重要部分。
Matthew Mattina：希望 TinyML 等微型 ML 技術和小型設備發揮更大作用
Arm 機器學習研究實驗室的傑出工程師和高級總監 Matthew Mattina
以標準 2 號鉛筆的筆尖為例，想像一下在筆尖區域每秒執行萬億次以上的乘法運算。這項任務可以使用現在的 7nm 半導體技術來完成。在小型、低成本的電池供電設備上結合這種強大的計算能力和深度神經網絡將有助於解決從 Covid-19 到阿爾茨海默病的種種挑戰。
AlphaGo、Alexa、GPT-3 和 AlphaFold 等傑出系統背後的神經網絡需要這種計算能力才能充分發揮魔力。這些系統通常運行在數據中心伺服器、GPU 和大規模電源上，但很快它們將可以在耗電量比節日燈串上單個 LED 燈泡還要少的設備上運行。
一種叫作 TinyML 的機器學習技術正將這些大型的、側重數學的神經網絡應用在傳感器、可穿戴設備和手機上。神經網絡嚴重依賴乘法，而新興硬體使用低精度數字（8 位或更少）來執行乘法運算。與通常的 32 位單精度浮點乘法器相比，晶片設計者可以在更小的面積和功率範圍內構建更多的乘法器。研究表明，在很多現實案例中，在神經網絡中使用低精度數字幾乎不會對準確率產生影響。這種方法可以在最需要的地方提供超高效的神經網絡推斷。
舉例而言，在應對 Covid-19 大流行的過程中，檢測和確認感染者成為主要障礙。最近的研究表明，基於數千個「強制咳嗽」音頻片段訓練的神經網絡集合或許能夠檢測出咳嗽者是否感染 Covid-19，即使他 / 她並沒有出現症狀。該案例中使用的神經網絡具有非常高的計算成本，需要每秒數萬億次的乘法運算。而 TinyML 可以運行此類咳嗽分析神經網絡。
對於即將來臨的 2021 年，我希望由小型設備上運行的大規模神經網絡賦能的複雜醫療應用可以開創一個新的個性化醫療時代，從而改善數十億人的生活。
沈向洋博士：期待 AI 幫助人類進行藝術創作
美國工程院外籍院士、小冰公司董事長、清華大學雙聘教授沈向洋
2021 年，我希望 AI 社區創造更多工具，幫助人類解放創造力。AI 將幫助全球各地的人們以其獨特的方式溝通、表達情緒。
我們已經創造出擅長邏輯任務的機器，它們能執行大規模計算，且速度遠超人類。這一成就在近期月球探測任務中得到了極大體現。在日常生活中，我們使用 Microsoft Word 和 Excel 等工具來提升生產效率。但是，在另一些任務中人類仍佔絕對優勢，尤其是藝術領域。
人類左腦負責邏輯，右腦負責創造性和想像力，二者相互補充。創造性的右腦為許多日常互動點燃火花，我們使用語言來彼此交流，表達抽象的概念和情緒。我們同樣用藝術的手法表達自己，創造出音樂、畫作、舞蹈和設計。
AI 領域的近期進展，尤其是生成對抗網絡和語言模型（如 GPT-3）等深度學習技術，使得從頭開始合成逼真圖像和合理文本成為可能。小冰聊天機器人已經在作詩、繪畫和音樂方面展現出了類似人類的性能。例如小冰幫助微信用戶寫詩，一周內作詩數量超過中國歷史上所有的詩作！
繪畫、音樂、詩或舞蹈等藝術領域的頂尖人士必須經過多年的訓練。有句話說，要想成為某個領域的專家，需要經過一萬小時的錘鍊。類似小冰的工具可以大幅降低時間投入，使每個人都能獲得更複雜、更有創造力和想像力的表達方式。
我期望，2021 年能看到更多 AI 創造工具，幫助人們表達自己的藝術想法和靈感。AI 已經證明它能夠幫助提升生產效率，那麼現在讓我們期待 AI 幫助人類解放創造力吧。
OpenAI 聯合創始人 Ilya Sutskever：期待語言和視覺的融合
OpenAI聯合創始人、首席科學家Ilya Sutskever
過去一年，通用模型首次產生了經濟價值。GPT-3 的出世表明大型語言模型具備令人驚嘆的語言能力，並且能夠執行大量有用的任務。我期望接下來誕生的模型能夠更強，2021 年的最佳模型或將讓 2020 年的最佳模型相形遜色，同時也將解鎖今天難以想像的許多應用。
2021 年，語言模型將開始了解視覺世界。文本本身可以表達關於世界的大量信息，但它並不完備，因為我們也生活在視覺世界中。下一代 AI 模型將能夠編輯文本輸入並生成圖像，我們也希望它們能夠藉由其見過的圖像而更好地理解文本。
聯合處理文本和圖像的能力將使模型變得更聰明。人類接觸的不僅是閱讀到的內容，還有看到和聽到的內容。如果模型可以處理類似的數據，那麼它們就能以類似人類的方式學習概念。這個靈感尚未得到證實，我希望 2021 年能夠看到這方面的進展。
模型更加聰明的同時，我們也要保證其安全性。GPT-3 能夠處理多項任務，但它並不像我們認為的那樣可靠。我們希望給模型一項任務後，模型能夠返回無需更改或確認的輸出。在 OpenAI，我們提出了一種新方法：基於人類反饋的強化學習。該方法允許人類裁判利用強化信號用我們想要的方式指導模型的行為，這樣我們就可以強化期望的行為，抑制不想要的行為。
GPT-3 等系統被動地吸收信息。它們吸收數據並內化其相關性，當訓練數據集包含我們不希望模型模仿的行為樣本時，這是個大問題。而使用基於人類反饋的強化學習後，我們可以讓語言模型展示出多種行為，人類裁判就這一行為是否符合期望給出反饋。我們發現 GPT-3 語言模型能夠快速從這些反饋中學習，這樣我們就可以利用相對少的人類交互快速精確地調整模型行為。
讓語言模型處理文本和圖像這兩種數據模態，並通過與人類的交互進行訓練後，我們看到了一條路徑，使模型變得更強大、更值得信任，因而對更多人具備更大用途。這條路徑將在 2021 年提供更多令人振奮的發展前景。
原文連結：https://blog.deeplearning.ai/blog/the-batch-new-year-wishes-from-fei-fei-li-harry-shum-ayanna-howard-ilya-sutskever-matthew-mattina