吳恩達寄語:6大主題回顧AI圈兒的2020

2021-01-13 騰訊網

來源:新智元

本文約3100字,建議閱讀6分鐘

看看AI如何改變、影響過去這一年的。2021,Keep Learning!

[ 導讀 ]吳恩達端著咖啡杯,為您"回顧"了人工智慧的2020,AI大戰疫情、無處不在的GAN、語言模型不斷壯大……我們整理了The Batch上,我們在2020年看到的一些AI主題和故事,看看AI如何改變、影響過去這一年的?即使2020有太多遺憾,2021,Keep Learning!

Andrew says,"無論以什麼樣的眼光去回顧2020,它都可以載入史冊。一種新的、傳染性極強的病毒暫停了生活的車輪,社會的裂痕威脅著我們共同的利益。

機器學習工程師們,作為線上生活的藝術家,他們設計了新冠病毒的診斷和治療工具,建立了識別仇恨言論和虛假信息的模型……

但他們展示了程式設計師們更輕鬆詼諧的一面:可以把睡衣換成西裝的在家辦公工具、妙趣多多的語言模型,以及人工智慧輔助藝術和表演的有趣實驗。

請與我們一起回顧過去一年的艱辛與輝煌。"

讓疫情散退吧!

突然起來的疫情,打得人們措手不及!

但不得不承認,有了人工智慧的存在,我們加快了尋找冠狀病毒疫苗的腳步,並在某些方面對疫情進行了降維打擊。

世界各地的機器學習研究人員爭相利用這項技術對抗冠狀病毒。在許多失敗的案例中,他們在檢測、接種和其他領域取得了重要的成功。

全球傳染病監測的數字健康公司分析了重大事件的新聞報導,在全球健康監測員提早幾天發現了大流行,並向其客戶發出了預警。

在巴黎和坎城的公交車站,公共汽車和市場中使用計算機視覺評估了掩蓋法規的遵守情況。政府培訓了一個模型,以識別衛星圖像中的赤貧地區,指導將救濟金分配給最需要的人。

中國許多機構之間的合作開發了一種可在CT掃描中檢測Covid-19的模型,其準確度超過90%。該模型已在七個國家/地區部署,到目前為止,該代碼已下載了300萬次。

美國生物技術公司,使用機器學習來優化mRNA序列以轉化為可以測試的分子。

但是,人工智慧不是靈丹妙藥,但這種新型、毒性強、傳染性強的冠狀病毒株的出現,是對人工智慧抗擊傳染病能力的一次令人振奮的測試。

GAN,讓"像素世界"沒有盡頭

當有生產力的對抗性網絡滲透到文化、社會和科學領域時,它們悄悄地將網際網路轉變成了一個無底洞,裡面全是你能想到的合成圖像……

它出現在主流娛樂、商業、政治活動中,甚至是一部紀錄片中,用來保護屏幕上的證人。

受2019年的《這個人不存在》(This Person Does Not Exist)這款產生逼真箇人肖像的網絡應用的啟發,有幽默感的工程師實現了生成對抗網絡(GANs),模擬現實世界的細節。這裡列舉了一些受歡迎的:

根據谷歌Earth的圖像,這個不存在的城市產生了大大小小的定居點的鳥瞰圖。

這匹不存在的馬力,產生各種各樣的姿勢,品種,和情況。當然,它偶爾會吐出一團可怕的亂麻,但這就是樂趣的一半。

像許多"GANs披薩"一樣,雖然這個披薩的奶酪缺乏粘稠的光澤,它的醬汁很少有活力,它的麵包皮看起來不夠烤熟。但是,正如諺語所說,即使是糟糕的披薩也仍然是披薩。

普林斯頓大學的本科學生Alice Xue在她的畢業論文中,開發了一款名為SAPGAN(Sketch-And-Paint GAN)的AI模型,該模型可以生成傳統的中國山水畫,為此她也獲得了普林斯頓2020優秀畢業論文獎。

但一些觀察人士擔心,人工智慧製造的假貨可能會破壞信任。但這項技術仍至關重要。

說到這裡,GAN 之父——Ian Goodfellow,在本科和博士早期階段曾經多次向吳恩達尋求建議。

別讓膚色和種族失了語:為少數派發聲

研究人員發現,由於數據集編譯、標記和使用的方式,流行的數據集會向訓練過的模型傳遞對社會邊緣群體的偏見。

圖像收集是焦點——包括計算機視覺基礎數據集ImageNet。

ImageNet創始人李飛飛和他的同事們梳理了古老的數據集,刪除了從WordNet(一個可以追溯到20世紀80年代的詞彙資料庫)繼承來的種族主義、性別歧視和其他有辱人格的標籤。

一項研究發現,即使是在未經標記的ImageNet數據上訓練的模型,也能從數據集有限的人類多樣性中產生偏差。

麻省理工學院計算機科學與人工智慧實驗室在外部研究人員發現該數據集充斥著貶損的標籤後,撤回了該微型圖像數據集。

說到這裡,不得不回顧一下2020年AI圈兒裡那場著名的"罵戰":PULSE算法。

該算法由杜克大學推出,可以將模糊的照片秒變清晰,效果出奇的好。這項研究在CVPR 2020上發表。

效果大概是這樣的:

這本來是一項挺不錯的技術,但是一次試驗卻引發了爭議。

用於訓練StyleGAN的數據集FlickrFaces-HQ (FFHQ)顯然也缺乏足夠的多樣性。當基於StyleGAN的模型PULSE提高低解析度照片的解析度時,這個問題就出現了。PULSE將歐巴馬的像素化圖像調高為白人肖像。

種族歧視的強烈反對者卻認定Yann LeCun有"嚴重的種族歧視"。

Yann LeCun立馬對於PULSE算法的不完備性進行了解釋:

簡而言之,這種偏差是由於數據集導致的。PULSE所用的數據集大多都是白人,因此還原這張照片的時候出現了膚色誤差。

斯坦福AI Lab成員、Google AI科學家Timnit Gebru都明確表示:對LeCun表示"失望"。

Timnit Gebru指責Yann LeCun把問題歸結於數據集而迴避了"種族歧視"的問題。

在罵戰持續了兩周之後,Yann LeCun以"退出推特"的行為親手為這場科研界的政治風波畫上了句點。

這是一個無法迴避的問題,但為了消除種族偏見,我們的"戰鬥"才剛剛開始。

NO FAKE!抵禦虛假信息的算法

疫情、大選,都激起了一場自動虛假信息風暴,一些大型人工智慧公司陷入了這一旋風。

2020年6月,《華爾街日報》 報導說,一些Facebook高管使用了壓制性工具來監管極端內容。該公司後來推翻了選舉期間進行的算法更改,從而增加了知名的新來源。人們對Facebook的努力感到三心二意的看法促使一些員工辭職。

YouTube針對虛假信息進行的算法調整已成功減少了宣傳虛假信息的內容創作者的訪問量。但是,它們也增加了對經常傳播相同可疑信息的大型實體的訪問量。

用戶AI照亮醫療

2020年受到疫情的影響,人工智慧在醫學領域的障礙開始減少,為深度學習在醫療設備和治療中的廣泛臨床應用創造了條件。

DeepMind 的 AlphaFold 模型在數小時內就確定了一個蛋白質的三維形狀,因為有望高效開發出新的藥物而成為了焦點。

與此同時,醫療機構也採取了新的做法,將這些AI技術帶入主流的醫療實踐中嘗試。機構的這種變化促進了醫學人工智慧的發展,並且預示著它將要被越來越多的人所接受。

例如,美國最大的醫療保險公司Medicaid and Medicare就會對使用某種機器學習設備的醫生進行一定的補償:Viz.ai的VizLVO就可以在病人中風的時候,及時的提醒醫生。同時,FDA還批准了幾種新的基於人工智慧的治療方法和設備,

不過,目前很多應用都需要醫院重新組織工作流程,這在一定程度上減慢了普及速度。一旦他們通過了 FDA 和醫療保險,臨床醫生就有了更大的動力去做出必要的改變來充分利用AI。

NLP大進化,作家解脫了嗎?

隨著用於NLP的神經網絡變得越來越大,越來越多產,結果也越來越有趣。

語言模型(LM)現在已經發展到了巨大的規模,並且還在繼續變大。

OpenAI 的1750億參數的文本生成器 GPT-3比它的前身 GPT-2寫得更加連貫,以至於有騙子用它來創建博客或者和歷史人物對話。

語言模型也促進了一些商業工具的發展,例如幫助蘋果公司的autocorrect來區別不同語言之間的差異, 使得亞馬遜的 Alexa可以注意到談話的變化。

在語言模型中,越大越好這句話並沒有錯,但並不僅限於此。

iGPT預示著模型可以同時訓練圖像和文字。至少 OpenAI 正在研究的這些模型,可能比2020年的巨型語言模型更聰明、更奇特。

以上,就是吳恩達發布在the Batch上的2020總結文,最後:附上吳恩達開篇的一段話,這位人工智慧專家對我們進行了鼓勵。

在過去的十年裡,每年的12月22日,我都會飛到新加坡或香港,和母親一起慶祝她的生日。2020年,我們第一次通過 Zoom 實現了這一點。儘管距離遙遠,但我感到溫暖,因為我的家人可以從美國、新加坡、香港和紐西蘭聚集在一起,唱一首同步性很差的"祝你生日快樂"。

我希望我也可以與你們每一個人在一個極速電話祝願你們節日快樂和一個更快樂的新年!

在假期裡,我經常想想我生命中重要的人的名單,回憶他們為我或其他人做了什麼,並默默地感謝他們。這讓我感覺與他們更加緊密相連。也許你會發現,在我們許多人都會有的社會距離假期裡,思考這個問題也是很有價值的: 誰是你生命中最重要的人,你有什麼理由去感激他們?

無論是面對面的還是在線的,我希望你能找到方法在這個假期裡培養你最重要的人際關係。

Keep learning!

Andrew Ng

參考連結:

https://blog.deeplearning.ai/blog/the-batch-biggest-ai-stories-of-2020-covid-triage-fun-with-gans-disinfo-whack-a-mole-gpt-superstar-imagenet-recall-fda-approvals

編輯:於騰凱

校對:汪雨晴

相關焦點

  • 吳恩達等 AI 大佬發表新年寄語
    時至元旦佳節,我選擇提前兩天送上我的新年寄語,祝您新年快樂,萬事如意。 ——吳恩達 作者 | 八寶粥 責編 | 阿哲 出品 | CSDN(ID:CSDNnews) 吳恩達:我沒說過。
  • 你(也)是吳恩達的學生麼?
    安妮 郭一璞 發自 凹非寺量子位 出品 | 公眾號 QbitAI吳恩達可能是世界上教學生最多的老師。近日,美國教育媒體EdSurge一篇報導中指出,吳恩達(Andrew Ng)的斯坦福機器學習課自開課以來,6年多後的今天仍是學習平臺Coursera上最受歡迎課程,已經有170萬名學生註冊學習Andrew的這門課!
  • 吳恩達離職百度後要去Drive ai?其妻子否認這種猜測
    【TechWeb報導】3月28日消息,百度首席科學家吳恩達宣布離職百度後,對於其下一站的去向引起了眾多的猜測。吳恩達妻子Carol Riley擔任總裁的創業公司Drive ai呼聲最高,但是來自騰訊科技的消息,Reiley對這一猜測明確表示不屬實。
  • 『明星創業者』吳恩達被曝明年啟動IPO,Coursera 2020...
    2020年新冠大流行的爆發和持續蔓延,讓成千上萬的人開始轉向在線教育。作為在線教育行業的頭部企業,Coursera從3月中旬到5月中旬,僅兩個月時間新增新用戶數突破了1000萬,是2019年新增速度的7倍。與此同時,另外兩家知名教育平臺edX和Udacity,其新增速度也呈倍數增長。
  • 吳恩達站臺的Drive.ai宣布結束在德州自動駕駛服務 業務低迷且成本...
    吳恩達站臺的Drive.ai宣布結束在德州自動駕駛服務 業務低迷且成本高昂  Emma Chou • 2019-03-27 11:26:25 來源:前瞻網 E1003G0
  • 吳恩達離開百度因早有二心?是誰「挖」走了首席科學家?
    內部權力鬥爭激烈,不善於鬥爭的吳總可能比較窩火,資源大把的有,可是已經不受自己控制。百度員工向智東西透露,「百度原有的四大研究院已經合併,由林元慶一個人負責」。 3)初衷相悖。經歷了百度貼吧、魏則西、李明「貪汙」等事件後,百度早已不是原來那個百度。元氣大傷也好,流年不利也罷,總之百度暴露出太多的窟窿和問題需要處理。對於吳恩達這樣清高才子而言,初衷早已相悖。 4)外部召喚。
  • 吳恩達deeplearning.ai五項課程完整筆記了解一下?
    自吳恩達發布 deeplearning.ai 課程以來,很多學習者陸續完成了所有專項課程並精心製作了課程筆記,在此過程中機器之心也一直在為讀者推薦優質的筆記。上個月,deep learning.ai 第五課發布,該系列課程最終結課。Mahmoud Badry 在 GitHub 上開源了五項課程的完整筆記,介紹了包括序列模型在內的詳細知識點。
  • 吳恩達將迎來首個IPO!Coursera預計明年上市,估值50億美元
    【新智元導讀】有消息人士透露,吳恩達的網際網路教育公司Coursera正考慮於2021年啟動IPO,估值可能達到50億美元左右。吳恩達曾創建谷歌的深度學習團隊,有著「谷歌大腦之父」的稱號。這一年Coursera經歷了什麼?是疫情帶給了線上教育絕地反擊的機會嗎?
  • 10位AI大牛暢想2020:李開復看好醫療教育 LeCun強調自監督學習
    吳恩達DeepLearning.ai旗下的THE BATCH刊物,分享了包括Yann LeCun、李開復、周志華、還有他們的老闆吳恩達在內的10位AI大佬的新年寄語,以及對AI在2020年能有什麼突破的「新年願望」。
  • 吳恩達創立的在線教育公司或考慮明年上市,估值50億美元
    Coursera聯合創始人、人工智慧學者吳恩達(Andrew Ng)Coursera由兩位來自史丹福大學計算機科學系的教授吳恩達和Daphne Koller共同創立於2012年。該平臺在線提供來自全球高校和企業的課程,首批合作院校有普林斯頓大學、史丹福大學、密西根大學和賓夕法尼亞大學。目前,共有200多所大學和其他教育工作者與Coursera合作提供在線課程。
  • 吳恩達老師,被曝靠「教書」實現首個IPO上市,估值50億美元
    根據Technavio發布的報告,2020年,全球在線教育市場規模將比2019年增長17.59%,達到1531.8億美元。未來5年,在線教育行業年複合增長率會超過18%,2024年將達到2474.6億美元。如此良好的發展勢頭,讓美國主要的幾個在線教育公司業績都快速增長。
  • 離開百度三年,吳恩達靠「賣課」收穫一個IPO,估值50億美元
    Coursera由吳恩達(Andrew Ng)和與同事史丹福大學教授 Daphne Koller 一起創辦,雖未全職參與該公司運營,但這並不妨礙吳恩達的課程成為Coursera 上最受歡迎的課程。美國教育媒體EdSurge一篇報導中指出,吳恩達的斯坦福機器學習課自開課以來,6年多後的今天仍是學習平臺Coursera上最受歡迎課程,獲得超百萬人註冊學習。
  • AI四大神之吳恩達:離開谷歌和百度,我要做的事太多了
    圖源:搜狐新聞2020年的今天,沒有聽過「人工智慧」這一概念的人應該不多了。以谷歌、百度為首的科技巨頭在這一方向投入巨大,如今,人工智慧已然滲透在我們生活的方方面面了。在他的構想中,這種「單一算法」應該是一面像神經一樣的大網,每個小單元都按照自己的方式傳輸、反饋、糾錯,最終互相訓練出真正的思考。直到2010年,他受邀加入谷歌開發團隊XLab團隊並擔任顧問身份,這時他才有機會去嘗試這個「大網」的建設。眾所周知,XLab團隊先後為谷歌開發了兩個知名項目——無人駕駛汽車和谷歌眼鏡。
  • 吳恩達機器學習入門2018高清視頻公開,還有習題解答和課程拓展
    斯坦福吳恩達的CS229稱第二,恐怕沒人敢稱第一。最近,吳恩達在斯坦福的最新CS229 2018課程,已經完成YouTube上傳——高清哦。沒有高糊勸退,還附送課題討論總結、課後習題和解答參考等珍貴資源,簡直讓你找不到不學的理由!「傳說級」的經典機器學習入門課程吳恩達老師的CS229從2008年開設,已經走過了12年。
  • 機器學習新聞綜述:2019年AI領域不得不看的6篇文章
    美國眾議院就深度偽造(Deepfake)的風險舉行聽證會文章連結:https://lionbridge.ai/articles/deepfakes-a-threat-to-individuals-and-national-security/深度偽造(Deepfake)是2019年最大的機器學習主題之一。
  • 吳恩達Coursera受他啟發!74歲父親自述學習路,8年學完146門課程
    大數據文摘出品作者:牛婉楊、魏子敏吳恩達這個名字你一定不陌生,他是當今人工智慧和機器學習領域國際最權威的學者之一。作為史丹福大學計算機科學系和電子工程系的副教授,以及在線教育平臺Coursera的聯合創始人,他的學生遍布世界各地。
  • 2020寄語新春|王宏傑
    回顧2019,物業管理行業在變革中迎來了新一輪的飛速發展,資本上市、併購整合、扶貧攻堅、標準建設等關鍵詞共同勾勒出了這一年行業的發展軌跡。物業服務的多元化、專業化、標準化也正彰顯出更多的價值。展望2020,中國物業管理協會將這一年定義為行業的「能力建設年」,希望所有行業同仁在2020年只爭朝夕,不負韶華,逐夢前行,讓人民的生活變得更加美好!值此2020年新春佳節之際,中國物業管理協會、中物研協攜手物業服務企業及行業奮鬥者,帶來了最誠摯的問候和最美好的祝願。
  • 融合、凝聚、創新 ——「圈兒院」2019級博士班的故事
    在百年未有之大變局下,中國急需增進對世界的了解和研究,而區域與國別研究恰恰是實現這一目的的學術工具。人們對這個新生的建制單位給予了厚望,希望它能夠承載北大的學科積累,肩負起國家的戰略需要。2019級新生迎新會區域與國別研究院的學生們平時喜歡稱自己為「圈兒院」人,因為把「區研」倆字念快些,再加上點兒化音,就得到了類似「圈兒」的可愛稱謂。
  • 吳恩達、李飛飛、沈向洋:2021年的人工智慧會是這個樣子
    來源:創事記歡迎關注「創事記」的微信訂閱號:sinachuangshiji 文/機器之心來源:機器之心(ID:almosthuman2014)2020 年伴隨著很多前所未有的事,在坎坷的一年過去之後,我們將迎來怎樣的新時代?
  • 2020立春說說大全祝福寄語,2020年立春的簡短祝福語
    2020立春說說大全祝福寄語,2020年立春的簡短祝福語時間:2020-02-04 08:30   來源:今日頭條   責任編輯:毛青青 川北在線核心提示:原標題:2020立春說說大全祝福寄語,2020年立春的簡短祝福語 春風吹,大地新,山清水秀楊柳青。蜂蝶舞,燕子翔,香花野菜滿山崗。