...院論文入選《麻省理工科技評論》「The Best of the Physics ar...

2021-01-11 網易新聞

優必選研究院再次獲得國際學術界認可,論文《Evolutionary Generative Adversarial Networks》入選《麻省理工科技評論》(MIT Technology Review)「The Best of the Physics arXiv」。該論文由優必選雪梨大學人工智慧中心的王超嶽(學生)在徐暢博士、姚新教授(南方科技大學)和陶大程教授(雪梨大學教授、優必選雪梨大學人工智慧中心主任、優必選人工智慧首席科學家)的聯合指導下完成。

《麻省理工科技評論》網站發布的優必選雪梨大學人工智慧中心論文

《Evolutionary Generative Adversarial Networks》

《麻省理工科技評論》於1899年在美國麻省理工學院創刊,是世界上歷史最悠久,也是影響力最大的技術商業類雜誌。內容覆蓋廣泛,涉及網際網路、通訊、計算機技術、能源、新材料、生物醫學和商務科技幾大領域。其重點關注新興科技及其對商業和社會的巨大影響,為超過300萬科技領域的專業人士及商業領袖提供前瞻性的資訊和獨到深入的行業趨勢研究分析。已經或正在走出實驗室,走向市場和即將商業化的技術,顛覆現有格局,創造全新市場,深刻影響人類社會的技術都是這本雜誌關注的重點內容。

在陶大程教授的領導下,優必選雪梨大學人工智慧研究中心主要研究關注人工智慧的基礎技術:Perceiving、Learning、Reasoning以及Behaving,目前在計算機視覺領域,包括物體檢測、場景解析、從單張彩色圖像中恢復深度信息、目標跟蹤、人體姿態估計、人臉識別、看圖說話與看圖回答問題、模仿學習、多視角學習、深度模型壓縮等多個方向上均取得很好的進展。

2018年,優必選雪梨大學AI研究中心在國際頂級AI學術會議上屢獲佳績,有4篇論文入選CVPR2018,5篇論文入選AAAI 2018,5篇論文入選IJCAI 2018並獲得傑出論文獎、,2篇論文入選KDD 2018,8篇論文入選ECCV 2018,此外,還在ECCV 2018第一屆圖像對話比賽(Visual Dialogue 2018)中榮膺冠軍,一舉擊敗中科大、南洋理工、微軟、以色列理工、UIUC以及首爾大學等近十支由國際知名高校和科技巨頭組成的參賽團隊。

這些研究成果,對於未來的機器人技術以及產品落地都會有很多的促進:讓機器人能夠更加準確地感知、理解環境,為終端用戶帶來更好的體驗,同時也能加速推動人工智慧與人形機器人領域前沿技術的商業化落地,助力優必選實現讓機器人走進千家萬戶的夢想。

附:論文《Evolutionary Generative Adversarial Networks》(《Evolutionary GAN: 基於演化算法的GAN模型》)的內容介紹

1. 簡介

生成對抗網絡(GAN)在近些年中取得了快速的發展和廣泛的關注,並被應用於一系列現實世界的任務中,例如圖像生成,圖像編輯,視頻預測等等。具體來說,現有的GAN算法大多是在生成器G和判別器D之間執行一個two-player adversarial game。 在對抗過程中,生成器G致力於不斷地『騙過』判別器D,並最終生成服從真實分布的樣本。雖然對抗學習在許多問題上都取得了不錯的表現,但很多現有的GAN模型也都面臨訓練難的問題,例如梯度消失和模式崩潰(mode collapse)。在本文中,受到自然演化過程的啟發,作者們提出了Evolutionary GAN (E-GAN),一個基於演化算法的GAN框架,以提升GAN訓練的穩定性並期望得到更好的生成效果。

2. Evolutionary GAN

與以往的1vs1的對抗算法不同,E-GAN設計了一個判別器D與生成器『種群』(population)之間的對抗框架。具體來說,作者假設生成器G不再以個體的形式存在,而是以『種群』(population)的形態與判別器D進行對抗。從演化的角度,判別器D可以被視為演化過程中不斷變化的環境,根據優勝劣汰的原則,生成器『種群』中表現不好的個體(individual)被不斷淘汰,只有表現優異的individual才會被保留以進一步的適應環境 (i.e., 與判別器D進行對抗)。這樣,每次更新產生的生成器G都將是當下所有策略中最優的選項,從而我們不必再去小心翼翼的維持訓練過程中D和G的平衡,避免了梯度消失,模式崩潰等一系列訓練不穩定的問題。具體的訓練方法入框架圖所示:

在每一次對抗過程中,生成器的演化過程由三個步驟組成,分別是變異(Variation),評估(Evaluation)和選擇(Selection)。

2.1. 變異(Variation)

在對抗過程中,為了可以持續更新並得到合適的生成器G,首先需要對現有的生成器『種群』進行變異操作,並產生新的後代(offspring)。通過觀察和對比現有的GAN training loss,作者發現不同的loss function具有不同的優勢和劣勢,因而採用他們作為不同的變異操作 (mutations)將可以得到不同的offspring。具體在試驗中,三種變異操作被採納,分別是 Minimax mutation,

Heuristic mutation,

和Least-squares mutation:

通過觀察這三種變異的損失函數曲線,並輔助以理論分析,作者表示這三種mutations具有互補的優勢,可以用於產生不同的特性的offspring。

2.2. 評估(Evaluation)

2.3. 選擇(Selection)

在衡量過所有offspring的生成性能後,作者們根據優勝劣汰的原則擇優選取更新過後的生成器G進行新一輪的訓練。綜上所說,整個演化訓練過程總結在下表中:

3. 實驗

E-GAN在混合高斯分布,cifar10,LSUN bedroom,SVNH等多個數據集上進行了實驗。先後驗證了E-GAN網絡的生成多樣性,生成質量,訓練效率,結構魯棒性和生成連續性的各項性能。結合定性的生成樣本感官和定量的Inception score, FID, E-GAN均表現出了優於已有two-player GAN模型的性能。部分實驗結果如下所示:


(免責聲明:以上內容為本網站轉自其它媒體,轉載目的在於傳遞更多信息,不代表本網觀點,亦不代表本站贊同其觀點和對其真實性負責,也不構成任何其他建議,請讀者僅作參考,注意可能的風險,並請自行承擔全部責任。)

相關焦點

  • 上海交大醫學院分子醫學研究院韓達研究員入選《麻省理工科技評論...
    2020年12月10日,全球青年科技領袖峰會揭曉了中國最權威青年人才榜單—《麻省理工科技評論》「35歲以下科技創新35人」(TR35)評選結果,上海交通大學醫學院分子醫學研究院和仁濟醫院的PI韓達研究員獲得「遠見者Visionaries」稱號。
  • 雅禮中學校友入選《麻省理工科技評論》2019中國科技創新35人榜單
    2019 年 12 月 14 日,EmTech China 全球新興科技峰會揭曉第三屆「35 歲以下科技創新 35 人」中國榜單,湖南省雅禮中學校友陳丹琦作為「先鋒者」入選其中。《麻省理工科技評論》(《MIT Technology Review》)是由麻省理工學院出版的雜誌。它於1899年作為「技術評論」雜誌而成立,隨後,《麻省理工科技評論》開始商業化,開始面向大眾銷售,其針對人群包括:高級管理人員、研究人員、金融家和政策制定者,以及麻省理工學院的校友。
  • 5位浙大人入選!《麻省理工科技評論》年度中國科技青年英雄榜發布
    2019-01-22 19:47 | 起航號「浙江大學」近日,第二屆《麻省理工科技評論》中國區「35 歲以下科技創新35 人」頒獎典禮在北京舉行,並發布了2018年度獲獎名單。其中,5位浙大人入選,分別榮獲發明家(Inventors)、先鋒者(Pioneers)、遠見者(Visionaries)稱號。
  • 因深度學習成就,香港大學羅平入選《麻省理工科技評論》亞太區「35...
    雷鋒網(公眾號:雷鋒網) AI 科技評論按: 12 月 3 日,《麻省理工科技評論》(MIT Technology Review)在新加坡公布了 2020 年「35 歲以下創新者」(Innovators Under 35,簡稱 TR35)亞太區榜單。
  • 《麻省理工科技評論》年度中國科技青年英雄榜發布!三位浙大人入選!
    1999年始,每一年《麻省理工科技評論》都會選出一批35歲以下最具有創新性與影響力的科學家、科研工作者、科技創業者,他們是:發明家(Inventors)創業家(Entrepreneurs)遠見者(Visionaries)人文關懷者(Humanitarians)先鋒者(Pioneers)這就是許多人知道的
  • 《麻省理工科技評論》年度中國科技青年英雄榜...
    【MBA中國網訊】近日,第三屆《麻省理工科技評論》「35歲以下科技創新35人」中國榜單于EmTech China全球新興科技峰會揭曉。其中,3位浙大人入選,分別榮獲「先鋒者(Pioneers)」和「發明家(Inventors)」稱號。
  • 生物界欠果蠅一個諾貝爾獎 | 《麻省理工科技評論》最新APP科技英語學習專題
    >為什麼要成為《麻省理工科技評論》APP全年付費會員?《麻省理工科技評論》是擁有118年歷史的全球著名技術商業類期刊,近日發布了中英文版APP1.0版本,其中包括《麻省理工科技評論》英文原版雜誌上的全部內容以及更多精選文章,全面整合多方數據源、產業信息、實驗室情報,通過綜合報導和分析拓展讀者的知識縱深。
  • NCT獲得IEEE計算機協會和麻省理工科技評論權威認證
    近日,NCT 全國青少年編程能力等級測試與 IEEE 計算機協會(IEEE Computer Society)和美國麻省理工科技評論(MIT Technology Review)兩家國際權威學術及媒體機構正式達成合作,
  • 從985博士到交大教授,他2次破格晉升,如今登上麻省理工重量級榜單!
    2020-12-15 10:13:05 來源: 壇友進樂 舉報   12月10日,《麻省理工科技評論
  • 本碩博連讀,34歲登上麻省理工重量級榜單,他研發"超薄皮膚"轟動國際!
    近日,全球青年科技領袖峰會暨《麻省理工科技評論》中國"35歲以下科技創新35人"頒獎典禮在"名士之鄉"紹興啟幕。峰會上,重磅發布了第四屆《麻省理工科技評論》"35歲以下科技創新35人"中國區榜單。
  • 猿輔導在線教育被麻省理工「點名」,原因是什麼
    猿輔導入選50家聰明公司據悉,在11月19日舉辦的EmTech China2020全球新興科技峰會上,《麻省理工科技評論》發布了年度「50家聰明公司」(50 Smartest Companies,TR50),很榮幸猿輔導在線教育代表行業入選。一同上榜的還有騰訊、華為、美團、特斯拉、英偉達等國內外巨頭公司。
  • 麻省理工科技評論:想理解中文,人工智慧還得繼續努力
    不過,麻省理工科技評論網站7月25日發表了一篇文章,認為識別中文這件事情,不只是對於歪果仁來說有點難度,對於人工智慧也不是非常容易。人工智慧想要高效識別中文的話,還得再努把力。 麻省理工科技在評論中,列舉了來自阿里、百度等中國企業在國內目前具有較強代表性的聲音識別類人工智慧。 實際上,美國類似產品的火爆,已經引起了中國科技投資者的興趣。
  • AI領域僅5人入選!西安交大沈超教授入選重磅榜單!
    近日,《麻省理工科技評論》2020年中國區「35歲以下科技創新35人」榜單出爐。其中,AI領域相關人物共5人入選,西安交大沈超教授入選。西安交大沈超教授獲獎理由:沈超教授致力於智能系統的行為感知和可信計算,實現在對抗環境下智能系統的安全可靠和可信計算。
  • 來看看崔屹團隊走出來的麻省理工科技青年英雄榜!
    2017年至今,《麻省理工科技評論》「35歲以下科技創新35人」(Innovators Under 35)榜單每年都會引起社會關注,至此已成功舉辦三屆。2020年12月10-11日,新一輪的中國區榜單在浙江紹興發布,評選了35位近年來中國最具創新力的青年科學家。
  • 權威發布:《麻省理工科技評論》2019年「全球十大突破性技術」
    自 2001 年起,《麻省理工科技評論》每年都會評選出當年的「十大突破性技術」,這份在全球科技領域舉足輕重的榜單曾精準預測了腦機接口、智能手錶、癌症基因療法、深度學習等諸多熱門技術的崛起。當然,與其說是「預測」,不如說是《麻省理工科技評論》站在全球科技最前沿,目睹了科技創新的百年變遷後的一種沉澱,是對科研邁向產業的可行性分析,是對技術商業化及影響力的研判。
  • 16位北京青年上榜《麻省理工科技評論》中國科技青年英雄榜
    千龍網北京2月11日訊 據中關村管委會網站消息,近日,《麻省理工科技評論》推出2017年「全球35位35歲以下科技創新青年」榜單中國區評選結果,北京共有16位傑出青年上榜,中關村傑出青年企業家佔6人。
  • 《麻省理工科技評論》50家聰明公司榜單!後疫情時代,聚焦中國
    在 2020 年 11 月 19 日舉辦的 EmTech China 2020 全球新興科技峰會上,《麻省理工科技評論》再次發布了年度 「50 家聰明公司」(50 Smartest Companies,TR50)榜單,於不確定性中預判科技產業最新走向。本屆峰會由蘇州市相城區人民政府與《麻省理工科技評論》聯合主辦。
  • 韓國的麻省理工——KAIST韓國科學技術院
    1、很多人認為韓國留學最好的大學是國立首爾大學,首爾大學和科學技術院的最大區別在於,前者是綜合性大學,後者是理工類大學。韓國人稱KAIST為韓國的麻省理工,是韓國學術界的老大。 2、KAIST直屬於科技部,所以不在韓國教育部管轄之內。在韓國,這樣的大學屈指可數。
  • 四川80後女神教授:曾拿下麻省理工重量級大獎,西部唯一!
    近日,由中國系統工程學會創設的第五屆"系統科學與系統工程科學技術獎"公布獲獎名單,全國共評選出1位終身成就獎、1位貢獻獎、3位青年科技獎及4位優秀博士學位論文。電子科技大學基礎與前沿院呂琳媛教授獲得青年科技獎。
  • 王思泓校友上榜《麻省理工技術評論》2020年世界傑出青年創新家
    清華新聞網6月19日電 6月17日,美國麻省理工學院主辦的《麻省理工技術評論》雜誌(MIT Technology Review)公布了2020年度TR35(35 Innovators Under 35)榜單,即35名35歲以下「世界傑出青年創新家」名單。