Jerome Pesenti 在全球最具影響力和爭議的公司之一 Facebook 領導人工智慧技術的發展。作為 Facebook 人工智慧副總裁，他管理著數百名科學家和工程師，他們的工作指導了公司的發展方向，以及對更廣闊的世界產生影響。
人工智慧對 Facebook 來說至關重要。學習抓住我們注意力的算法有助於使該平臺及其姊妹產品 Instagram 和 WhatsApp 更具粘性和上癮性。而且，儘管有一些著名的失敗的人工智慧產品（比如個人助理 M），Facebook 仍在繼續使用人工智慧構建新的功能和產品，從 Instagram 過濾器到增強現實應用。
Mark Zuckerberg 承諾，將部署人工智慧，通過控制仇恨言論、虛假新聞和網絡欺凌，幫助解決一些公司最棘手的問題。但目前為止，這一努力收效甚微。最近，Facebook 被迫考慮如何識別人工智慧驅動的虛假視頻，這種視頻不僅可以令人信服地傳播錯誤信息，還可以引發新形式的騷擾。
Pesenti 於 2018 年 1 月加入 Facebook，繼承了該領域大牌人物 Yann Lecun 創建的一個研究實驗室。在此之前，他曾在 IBM 的 Watson AI 平臺和 Benevolent AI 工作，該公司正在將這項技術應用於醫學領域。
日前，Pesenti 在其紐約辦事處附近會見了《連線》的資深作家 Will Knight，下文是經過編輯的訪談對話。
Will Knight：人工智慧被認為是解決虛假新聞和網絡濫用的方法之一，但這可能誇大了它的威力。你們在這方面取得了什麼進展？
Jerome Pesenti：在 Facebook 的規模下進行自動調節甚至是人和計算機的協同工作，是一個極具挑戰性的問題。但是我們已經取得了很大的進步。
早期，我們在視覺理解和圖像處理方面取得了進展。在過去的幾年裡，我們已經能夠將相關技術應用於識別裸體、暴力的圖像和視頻，以及理解圖像和視頻中發生的事情。
最近我們在語言領域也有了很大的進步，我們能夠通過人們使用的語言更精確地理解互動。我們可以分別出哪些是仇恨言論，哪些言論只是一個笑話。這決不是一個已經完全解決的問題，但已經取得了明顯的進展。
Will Knight：deepfake 呢？
Jerome Pesenti：我們非常認真地對待這個問題。實際上，我們四處尋找並製作了新的 deepfake 視頻，這樣人們就可以測試 deepfake 檢測技術。這是一個非常重要的挑戰，我們正在努力未雨綢繆。目前這項工作在這個平臺上使用得並不是很理想，但我們知道它可以變得非常強大。我們已經與業界和社會接觸，努力領先。
Will Knight：讓我們更普遍地談談人工智慧。一些公司，比如 DeepMind 和 OpenAI，聲稱他們的目標是開發「人工通用智能，AGI」，Facebook 也在做這件事嗎？
Jerome Pesenti：作為一個實驗室，我們的目標是讓技術匹配人類的智力。雖然還有很長的路要走，但我們認為這是一個偉大的目標。我認為實驗室裡的很多人，包括 Yann，都認為「AGI」這個概念並不是很有趣，也不是很有意義。
一方面，有人認為 AGI 是人類智能。但我認為這有點不真誠，因為人類的智力本身就不是一個統一的問題。另一方面，有些人對 AGI 的想法很奇怪，他們認為，AGI 是一種可以靠自己不斷進化的智力。但是這並沒有真正的模型，即便是人類都不能讓自己變得更聰明。我認為人們對 AGI 的追捧有點像是對某種議程的追捧。
Will Knight：Facebook 的人工智慧實驗室是由 LeCun 建立的，LeCun 是深度學習的先驅之一，他最近因在該領域的工作而獲得了圖靈獎。你怎麼看那些批評該領域注重深度學習，認為它不會給我們帶來真正的智慧的人？
Jerome Pesenti：說實話，深度學習和當前的人工智慧有很多局限性。我們離人類智力非常遙遠，我同意某些觀點：它可以傳播人類的偏見，不容易解釋，它沒有常識，更多的是在模式匹配而不是強大的語義理解的層面上。但我們在解決其中一些問題上取得了進展，而且這一領域的進展仍然相當快。你可以把深度學習應用到數學上，也可以用它來理解蛋白質，你可以用它做很多事情。
Will Knight：一些人工智慧專家也談到了「復現性危機」，或者說是重新創建突破性研究的困難。你認為這是個大問題嗎？
Jerome Pesenti：這正是 Facebook AI 非常熱衷的事情。當人們做一些不可複製的事情時，就會遇到很多挑戰。如果你不能復現它，那就會產生大量的投資損失。
我們相信復現性給這個領域帶來了很多價值。它不僅可以幫助人們驗證結果，還可以讓更多的人了解正在發生的事情，並以此為基礎進行構建。人工智慧的美妙之處在於，它最終是由計算機運行的系統。因此，作為科學的一個分支，它是一個首要的候選者，是可複製的。我們相信未來的人工智慧將是默認可以複製的東西。我們試圖開源我們在人工智慧中編寫的大部分代碼，這樣其他人就可以在上面構建自己的東西。
Will Knight：OpenAI 最近指出，高級人工智慧所需的計算能力每 3 個半月就翻一番。你擔心這個嗎？
Jerome Pesenti：這是個很好的問題。當你擴展深度學習時，它往往表現得更好，能夠以更好的方式解決更廣泛的任務。所以，縮放是有優勢的。但顯然，這種進步速度是不可持續的。如果你看看最前沿的科學實驗，它們每年的成本都會增加數 10 倍。現在，一個實驗的花銷可能是 7 位數，但不會達到 9 位數或 10 位數，不可能，沒人能負擔得起。
這意味著在某個時候，在很多我們目前已經涉及的領域，我們會撞到牆。並不是每個領域都達到了可擴展性的極限，但在大多數地方，我們已經到了一個需要從優化、成本效益等方面考慮的地步，而且我們還需要看看如何從現有的計算中獲得最大的收益。這就是我們將要面對的情況。
Will Knight：你從 IBM 和 Watson 的人工智慧商業化中學到了什麼？你在 Facebook 會試圖複製哪些東西，又會試圖避免什麼錯誤？
Jerome Pesenti：在 Watson 的時光非常有趣， IBM 稱這是一個商業市場，實際上有應用程式。我覺得那真的很了不起，但有點太誇張了。我認為這對 IBM 的服務來說不是很好。
當你有一個像 Facebook 這樣的地方時，人工智慧在組織內的使用率是非常驚人的。目前，Facebook 內部使用人工智慧的開發者數量每年都翻一番以上。所以，我們認為它是有用的，但不要誇大它。我不需要誇大其詞來證明我的團隊的存在。
Will Knight：Facebook 有時很難將人工智慧研究成果轉化為商業上的成功，你認為如何更有效地將理論研究與工程實踐聯繫起來？
Jerome Pesenti：當你開始談論技術轉換時，這意味著你已經輸掉了這場戰鬥。你不能只選擇一些研究，而要求其他人嘗試將其投入生產。你不能把它扔過籬笆。最好的方法是讓人們和更接近產品的人一起做基礎研究，確保一系列項目隨著時間的推移而成熟，並將人們聚集到一起，而不是讓科學家站在一邊獨自研究，這確實是一個組織上的挑戰。
Will Knight：那麼，近期 Facebook 會推出哪些新的人工智慧產品呢？
Jerome Pesenti：如今，人工智慧在 Facebook 中的核心用途是讓平臺對用戶來說更安全，並確保我們向用戶展示的內容對他們有價值。但我們正在做的一些最令人興奮的事情是試圖創造只有擁有人工智慧才可能有的新體驗。增強現實和虛擬實境都只能存在於人工智慧中。我們最近看到，你可以用手與虛擬實境互動，這需要對耳機周圍的東西有一個非常微妙的了解。它只使用一個相機解析整個場景，這樣你就可以用你的手作為控制器。我也相信讓人們更有創造力的潛力是巨大的。你可以在 TikTok 這樣的競品中看到這一點。許多人通過與媒體自然互動而不是成為專家、視頻編輯或藝術家來創作視頻和內容。
Will Knight：deepfake 背後的技術可能會達到這樣的創造性目的嗎？
Jerome Pesenti：當然。我們需要看到積極和消極兩個方面。人工智慧讓人們更有創造力的潛力還很大。但正如我們在過去幾年中所了解到的，我們需要負責任地使用這項技術，需要在意外發生之前意識到這一點。
Will Knight：你對人工智慧出口管制有什麼看法？這項技術能被限制嗎？會對這一領域有所傷害嗎？
Jerome Pesenti：我個人的意見是，這似乎是非常不切實際的。不過，除此之外，它還可能對研究進展產生負面影響，迫使研究工作的可重複性降低。我相信開放性和協作性對於推動人工智慧的發展是很重要的，限制基礎研究成果的出版或開源可能會減緩該領域的進展。
也就是說，無論是否實施了此類控制，作為負責任的研究人員，我們應該繼續考慮潛在誤用的風險，以及如何幫助減輕這些風險，同時仍然確保我們推進的人工智慧儘可能開放和可複製。
via：https://www.wired.com/story/facebooks-ai-says-field-hit-wall/
雷鋒網雷鋒網雷鋒網