允中 發自 凹非寺量子位 出品 | 公眾號 QbitAI
今天是一篇充滿「被拒」情感色彩的推送。三組故事，都和AI有關。
這是第一組。
一篇論文，一篇「不同尋常」的論文，不久前發布在arXiv上。
通常論文們都會在Comments一項，注釋出論文的光輝履歷。譬如被哪個頂會Accepted了，或者至少正被某頂級期刊Review中。
但這一篇，不一樣（BGM請腦補）。
還沒來得及細看標題，我們就被Comments裡大喇喇寫著的一句話，吸引了眼球：「Rejected from ICLR 2018」……
蛤？被ICLR拒了？還這麼高調？
再抬眼一眼，兩位作者之一，正是已經升任Facebook首席AI科學家的Yann LeCun。他還有另一重身份：ICLR大會的創始人，以及現任的大會主席。
看到這裡，量子位不禁有些感慨（想笑）。
LeCun參與的論文，（又）被LeCun創辦的大會拒絕了。
要知道，ICLR 2018大會共收到論文，總共收到了900多篇論文。其中只有508篇論文徹底被拒。
這個入圍比例，在AI的頂會裡面，算是感人了。差不多快比NIPS高出一倍。所以，一篇論文想被ICLR拒掉，相對哈、相對還是比較難的事情。
但LeCun還是做到了。
而且吧，還是兩篇……真的，這次共有三篇LeCun參與的論文投了ICLR，但是有兩篇被華麗麗的拒掉了，還有一篇，只中了Workshop Papers。
三篇論文的OpenReview的評分：5.67、3.50、5.70。
在自己的「地盤」遇上這種事兒，就LeCun這暴脾氣，你猜他在Twitter和Facebook會怎麼懟回去？哼哼，他一句話也沒有說~
因為，他可能已經習慣了。
LeCun應該不會忘記，去年的ICLR 2017大會，他也有論文也被華麗麗的拒掉了……而且入圍了所謂慘遭ICLR 2017拒絕的十大好論文。好在他不孤單，另一位主席Yoshua Bengio也入圍了「十大慘拒」排行榜。
再看今年，Bengio有9篇被拒掉了。
說到這裡，想起LeCun在NYU的同事，更是Yoshua Bengio的弟子Kyunghyun Cho，。ICLR 2018結果發布後，他在Twitter上感慨，有篇他以為能中Poster的論文，最後被拒了。
結尾，他發了一個「lol…」
拒稿是門手藝，笑對需要勇氣。
但其實，被拒稿這種事，對搞神經網絡的學者來說，算得了什麼。
不信來看第二組故事。
每個年初，都是回憶的季節。
特別是回憶起申請學校被拒的往昔。
鬥酒搞出GANs的Ian Goodfellow，年紀輕輕已經聞名天下。但他也有自己的挫折時光，前不久他回首申請學校的往事時說：
「我從來沒從MIT收到回信。我被CMU拒掉。雖然最後被多倫多大學錄取，但是沒能和我期望的導師一起工作。我獲得過國家科學基金會的表彰，但一分錢也沒撥給我。」
之所以談起這些，都是因為加州大學伯克利分校的助理教授Moritz Hardt，這也是一位頗具知名度的人工智慧學者。去年Ali Rahimi在NIPS掀起「鍊金術」風波時還曾提到他。
「每年這個時候我都會提醒自己：一個成功學術生涯的典型開端，就是從被一堆優秀的研究生院拒絕開始的。」就是Hardt這句話，引發了Goodfellow的感慨。
發出感慨的還有更多人。比方Nicolas Le Roux說，他16歲被高中拒掉、18歲被巴黎綜合理工大學拒掉、21歲被多倫多大學拒掉、26歲被伯克利拒掉、28歲被谷歌拒掉……現在他是谷歌大腦的機器學習研究員，Goodfellow的同事。
總之，申學校被拒引發不少人的共鳴。
這讓現在倫敦搞機器學習的研究員Ferenc Huszár都有點「懷疑人生」，他說：是不是因為我沒被拒過，所以沒有學術生涯……（當然他是開玩笑的）
但失敗是成功之母這種論調，是不是一種倖存者偏差？
對於這種質疑，Goodfellow說也有可能。但他強調：「不要因為暫時的失敗灰心喪氣。」他說可以失望但不要洩氣。
Goodfellow說他自己不會因為被拒絕而質疑自己是不是不夠好，反而會一直想「接下來幹什麼才是最佳選擇？」
對當時求學中的Goodfellow來說，最大的問題就是缺少獎學金，他一直不斷申請更多，直到三年後拿到谷歌的獎學金。
有人打趣說，也許Goodfellow去了MIT就會搞GOFAI（有效的老式人工智慧），而不是搞出GANs了。
還有人說雖然Goodfellow當年被MIT拒掉，但好在後來MIT Technology Review補償給他一個「35下35」的獎勵。
好吧。申請學校被拒，畢竟只是一時。
第三組故事是關於被拒絕後更長久的堅守。
也許這些你都曾有所耳聞。
整個人工智慧行業，儘管只有幾十年的發展，但其間已經經歷過幾起幾落。然後逐步從「寒冬」中慢慢的復甦。
1980年代LeCun在巴黎讀大學時，計算機就是瞎子，無法識別圖片中的內容，也無法判斷攝像頭前方出現了什麼。但就在那個時候，LeCun偶然涉足了探索人工智慧領域的一種方法：「智能神經網絡」。
這並不是一條新路，而且並不受待見。但在攻讀博士學位時，LeCun頂著一片質疑聲專注於研究神經網絡。「我只是不相信他們所說的。」他說。
1990年代中期，LeCun加入貝爾實驗室研究人工智慧，但AT&T的內部矛盾導致了他的團隊分裂。他們成功的讓ATM學會了讀取支票，但「在取得真正成功的那一天，整個項目被解散。這令人非常沮喪。」
2000年代初期，LeCun的處境愈發邊緣化。一些學術機構甚至不允許LeCun在它們舉辦的會議上發表論文。計算機視覺的圈子將其拒之門外。
其他人日子也不好過。
在蒙特婁大學任教的Yoshua Bengio發現，他很難找到願意與自己共事的研究生。「我需要強迫學生從事這方面的研究，他們害怕在博士畢業後找不到工作。」
同一時期，Hinton實驗室的學生回憶說：當時還是AI的「冬天」，搞人工智慧研究既沒什麼就業前景，也沒什麼資金支持，更別提工業界的青睞。
Hinton出生於一個學術背景顯赫的世家。在他長大成人的過程中，母親給過他兩種選擇：「做學者，或是做失敗者。」Hinton說，自己一輩子都在壓抑、沮喪中掙扎。
但他投入研究的神經網絡，真真是經歷過漫長而幽暗的歲月。除了面對學術上的不認可，他的兩任妻子先後罹患了癌症。而他自己也深受背痛困擾。
Bengio評價Hinton時說「他有時可以穿過黑暗看清事物。但他的個人生活非常不容易。他也有他的黑暗時代」。
不過最終，他們都算是等到了春天。
關於第三組故事更多的細節，可以看看量子位之前發布的《LeCun列傳》和《Hinton：人類就是機器，絕妙的機器》。Hinton那篇發布後，總覺得有首歌很適合。
就在這裡補一下吧。
—完—