點擊上方「CVer」,選擇加"星標"或「置頂」
重磅乾貨,第一時間送達
編輯:Amusi
https://www.zhihu.com/question/327139341
本文僅作為學術分享,如果侵權,會刪文處理
2019年CVPR有哪些糟糕的論文?包括但不限於論文本身的寫作,創新點,提供的源碼,希望各位的真知灼見能給後來者啟發。
知乎高質量回答作者:匿名用戶
https://www.zhihu.com/question/327139341/answer/731891615
這麼多吐槽的,我就不說誰的論文不好了,我想說說我認為什麼樣的工作好。其實今天AI科研界和網紅界差不多,被大多數人認為所謂好的AI工作者和網紅一樣,都長得差不多,不都是寫著模式差不多的論文,灌了差不多的多少頂會麼。後面還有一堆新畢業的博士,在努力爭取長成網紅臉。在這個領域,你要長的不是網紅臉,你只能被當作異類處理。
這年月大家都在拿論文數量,引用,影響因子說事,特別是國內的老師學生,太看重這些了。我個人覺得這完全背離了科研工作的本意。這和武術變得主要要比誰一個跟頭落地能紋絲不動,花樣滑冰要比誰四周跳跳的多一樣,忘記了武術的本質是要充分利用人體結構來合理髮力,花樣滑冰的核心是追求音樂動作合一的表現力一樣,都走上了歧途。
這個世界做科研的,工作模式大致兩類,一個是到處挖坑的,一個是一輩子挖一個坑的。這兩種工作模式都可以,問題是挖坑一定要挖好東西,不能總挖垃圾。
我可以舉一例我看到的挖坑挖的好的人, S. Lloyd,此人是量子信息領域的到處挖坑的大牛,每個方向只挖一鏟子,挖完就走。他的主要貢獻:(1)證明了Feynman關於用量子計算模擬量子系統的一個想法,(2)最早做量子計算硬體的,(3)提出了從量子計算構建時空結構的一種方法,(4)提出了一個時間旅行的模型並用於分析黑洞信息問題,(5)提出了Shor, Grove之後的第三個實用化量子算法,主要用於量子機器學習,(6)提出量子雷達的概念,(7)考察了計算和物理規律的關係。這些只是我看到的他的一部分工作,這已經證明此人的牛叉之處了。問題是,他在每個方向都基本只寫一篇論文,最多也不會超過3篇,然後有點老子留下五千言後言盡於此的氣概,轉身而去,重新挖坑,留下一堆身後的人在他挖過的地方繼續挖,但是都很少能挖到他的高度。最近有一段時間沒看到他的消息了,不知道這位又在憋著挖什麼呢。
所以他的論文並不多,也就平均一年一篇吧(真正他寫的,掛名的不算,不過我也沒看到他有多少掛名的論文,有他名字的論文都是明顯能看到他的思想貢獻的),但是每一篇都是一個新思想新方向。我覺得這才是好的工作應該有的樣子。按照這個標準,大家可以對比一下,哪些工作可以叫垃圾。
順便提一句,如果可能,建議去看看S. Lloyd關於從量子計算構建時空的論文,對於理解深度網絡是大有益處的。可能說了也是白說,年輕的調參俠不相信除了他們誰還懂AI。
另外,如果聽報告的時候,介紹裡說此人寫了幾百篇論文,我建議大家轉身就走,因為此人不會有什麼深刻的思想傳達給你。
真心的建議大家進入科研領域後都仔細想想,是要一輩子做垃圾研究發一堆垃圾論文呢,還是沉下心來找好問題做好問題。對於一個科研人員來說,一輩子有一篇真正重要的論文就足夠了,甚至有可能在他死之前,論文的重要性都沒有被發現,這就是科研這份工作的規律。追求短期反饋絕對是違背科研規律的,對於個人評判工作好壞,是誤導,對於國家評判科研,是惡政。
楊振寧先生說,和小說一樣,科研和論文也有風格。一個領域應該有不同風格的工作和論文,風格多樣性是一個領域活力的體現。Schwinger的繁瑣嚴謹是一種風格,Feynman的靈動純粹也是一種風格,Dirac的透徹深邃還是一種風格,Einstein的宏大鳥瞰又是一類風格,這個世界的科研絕不只有一種風格一個模式,他們都是好工作。我個人的感覺,AI這個領域的論文風格過於單一了,除了一些偏理論的工作外,絕大多數與應用有關的工作風格嚴重雷同,思想嚴重雷同,這種論文真是讀起來面目可憎味同嚼蠟。我覺得這絕對不是好事情,這說明這個領域的思想過於單一。特別是小孩子們,一進入這個領域就被這個領域已有的固定思維帶著跑了,他們沒有時間去左顧右盼,去想想是否有其他可能性,他們只有沿著前人的路飛速的跑,否則他們就不能在這條路上跑得過別人,但我真的覺得,這個情況對於無論個人還是領域,都不是好事。
最後一點,AI作為新興領域,出現一個我認為是很不好的現象,就是大量本科生進入領域發表論文並且成為風氣。從我的角度看,本科生的工作做到我的標準之下所謂好的工作的,是非常非常罕見的(如果不是一個都沒有),我覺得時間這件事真的是不能隨便超越,人的認知水平一定和時間有關,本科生進入AI只是作為科研訓練,真的不能指望有什麼好工作出現,一個本科生做了半年一年就出好工作?對不起,我不信。我真心不希望AI這個領域鬧到和材料生化一樣成為灌水園地。
讓我們大家都保留一點科研工作的初心,爭取去做好的工作,學會辨別和欣賞好的工作,特別是年輕人,要培養好的科研品味,不要一上手就把味蕾弄壞了。我在知乎看到太多博士生朋友的味蕾已經完全壞了,根本不知道好的思想為何物,很不幸。
思想才是科研的核心,一個真正閃光的思想比一堆代碼和數據實驗都有價值,代碼和實驗是為思想服務的,絕不能替代思想。千萬別說talk is cheap了,愛因斯坦這輩子都在think and talk, 他的talk實在是他思想的精華。
卞子守函谷,終南紫氣多,借言屈子問,天機且如何。
算力方暴虎,AI正馮河,掛書青牛角,天工莫可奪。
作者:王峰
https://www.zhihu.com/question/327139341/answer/712075929
看到CVPR論文列表放出來了,忍不住看了一下人臉loss的幾篇論文。
ArcFace就不用說了,誰用誰知道,業界良心+業界標杆。唯一值得吐槽的是:怎麼才發表出來?
AdaptiveFace很有意思,想了一下確實能起到動態設置margin的作用,值得一試。
AdaCos和P2SGrad這兩篇之前放到arxiv了,我已經在人臉識別群裡吐槽過了,槽點太多,改天再寫。
重點說一下這三篇新放出來的文章吧:
http://openaccess.thecvf.com/content_CVPR_2019/papers/Zhao_RegularFace_Deep_Face_Recognition_via_Exclusive_Regularization_CVPR_2019_paper.pdf
故事要從去年Weiyang Liu發的一篇NIPS文章說起:
http://wyliu.com/papers/LiuNIPS18_MHE.pdf
這篇文章講的是加個regularization來優化所有類中心的分布,讓各類中心儘量遠離。這是個很正確的想法,畢竟我們做人臉識別就是要類間更遠、類內更近嘛。
但是這個方法實在太麻煩了,很有Weiyang Liu的風格(我始終無法忘記手推Large Margin Softmax梯度的痛苦),所以還有改進的餘地。
但我改進的時候就發現,在sphereface上漲點明顯的regularization在AM Softmax上並不明顯,而且人家已經發了論文,小修小補還沒跨越式的進步實在沒啥意思,於是也就沒寫論文。
今天就看到了這三篇號稱進步巨大的文章了2333。。
總結一下,設 ,這個 就是個相似度度量,無所謂是cosine還是euclidean都行,那麼這三篇分別做了:
。。。。。。還真的各有不同呢。
其實這個方法我們幾個做人臉識別的小夥伴都試過了,這裡直接貼一下ArcFace的結果(Inter方法跟上邊說的幾個差不多),真的、真的不work!
不過還是要表揚一下第二篇論文,裡面還提出了一個Noise Resistance Softmax loss,這個損失的形式很複雜,但思想值得一看,應該能改進出一個更簡單的形式。
此外,第一第二篇連Weiyang Liu的那篇NIPS都沒引用,真當大家不知道你們的idea是從哪來的麼?
吐槽完畢,接著搬磚。
作者:匿名用戶
https://www.zhihu.com/question/327139341/answer/704989707
都是要吃飯的嘛,可能文不對題。。。超分就是每年在這麼刷榜,灌水
講一下圖像復原領域,超分,去噪,去模糊
上圖引用自:A Deep Journey into Super-resolution: A Survey
arXiv:https://arxiv.org/abs/1904.07523
作者:匿名用戶
https://www.zhihu.com/question/327139341/answer/714597074
這是cvpr19年的一篇文章
這是iccv17年的一篇文章
p3d是你發明的?
這也能中cvpr?
審稿人沒看過別的領域的文章?
作者:Hua Lin
https://www.zhihu.com/question/327139341/answer/712412721
媽媽問:寶寶,爸爸他天天玩遊戲是不是廢物?
寶寶:是!
媽媽:那我們不跟他學好不好?
寶寶:媽媽,我也想當廢物。
老師問:這群人天天灌水是不是廢物?
我:是!
老師:那我們好好搞研究,做出點成果?
我:老師,我也想當廢物。
作者:匿名用戶
https://www.zhihu.com/question/327139341/answer/706650813
其實都是由於Dead lock。
/*會議惡性循環*/
投稿量爆炸—>Reviewer不夠—>審稿人水平參差不齊 —> 錄取Paper水平參差不齊—>讀者看到水paper感覺這也能中—>模仿水paper生產科研—>投稿量爆炸
/*領域惡性循環*/
做實驗性能非常好—>強行尬解釋—>其實都是猜想,真正work的可能是trick—>產生糟糕的玄學paper—>讀者糟糕的閱讀體驗—>讀者模仿科研—>讀者做實驗使得性能非常好—>.
CVer學術交流群
掃碼添加CVer助手,可申請加入CVer-目標檢測交流群、圖像分割、目標跟蹤、人臉檢測&識別、OCR、超解析度、SLAM、醫療影像、Re-ID、GAN、NAS、深度估計、自動駕駛和剪枝&壓縮等群。一定要備註:研究方向+地點+學校/公司+暱稱(如目標檢測+上海+上交+卡卡)
▲長按加群
▲長按關注我們
麻煩給我一個在看!