茫茫滄海尋一粟——想必這是許多學者在使用arXiv網站搜索論文時的痛苦心聲。
不過現在arXiv給大家帶來了一個好消息：他們將 170萬篇arXiv論文集成為一個格式機器可讀的資料庫，並將該資料庫託管到了Kaggle上供用戶免費使用。資料庫包括論文標題、作者、類別、摘要、全文pdf等論文相關信息。
arXiv 論文資料庫Kaggle地址：https://www.kaggle.com/Cornell-University/arxiv
1
arXiv：從一個論文存儲庫轉變為一個知識共享平臺
近30年來，arXiv網站為公眾和研究人員提供了獲取學術論文的可靠途徑。論文類型多樣，從物理學到計算機科學、再到介於兩者之間的各類學術內容，涵蓋數學、統計學、電氣工程、定量生物學和經濟學等熱門學科。無論是鑽研單一領域的學生、尋求跨學科研究的教授還是服務公共事業的社會研究者，都能在arXiv上搜集到有利的信息。
然而，arXiv網站所收錄的論文數量十分龐大，為用戶的閱讀帶來明顯的壓力。另一方面，arXiv 本身也由於過分依賴 LaTex 而出現一系列缺陷，包括：1）使用 LaTeX 進行排版的方式局限於單個社區，其界面、語言、使用方式對不會編程或者只用過 WYSIWYG 編輯器的人來說比較陌生；2）網站上的論文一直以pdf格式交換、閱讀，但大多數pdf文檔不支持在線編輯，以致許多論文無論在網頁上閱讀、討論與共享；3）論文所承載的信息可發現率低；4）arXiv的論文與數據獨立存在，論文數據無法共享。雷鋒網
其中第三點缺陷所造成的不利影響，正如arXiv 科技總監Steinn Sigurdsson所指出的，由於數據集的龐大，讀者很可能會忽略一些重要的發現、關聯知識、創新工具或視角。這些被忽略的信息也許能幫助研究人員產生一些關於原有研究主題與跨學科領域的新的見解，有更多新發現與創造力。雷鋒網
而 Kaggle 作為數據科學家和機器學習工程師搜集數據集、閱讀公開筆記和進行競賽的平臺，可以讓研究人員利用該平臺上豐富的數據探索工具，輕鬆地與他人共享相關論文文本和輸出。雷鋒網
arXiv的執行董事 Presani 指出，將arXiv 論文資料庫託管到Kaggle上供用戶自由訪問，將放大這些論文本身的價值，因為這不僅僅給讀者提供了一個通過閱讀論文學習的平臺，更是讓論文本身承載的數據和信息以機器可讀的方式在研究者之間共享、傳播和交流。
他進一步表示，arXiv 要想從一個論文存儲庫轉變為一個知識共享平臺，就要求他們不斷創新展示知識與解釋知識的方式。而Kaggle的用戶可以幫助突破創新的局限性，為科研界相互協作提出一種新途徑。
2
arXiv 發布 Kaggle 論文資料庫的初衷
arXiv 方面表示，此舉的初衷是希望能推動新用例的產生，幫助研究人員探索更多結合面向應用的多模態特徵的機器學習技術，包括趨勢分析法、論文推薦引擎、類別預測、同被引網絡、知識圖譜構建和語義搜索接口等。
Google 的COVID-19 Research Explorer就是這樣一個基於特定語料庫進行語義搜索的用例。這個工具可幫助研究人員精讀擁有190,000+篇關於COVID-19的研究論文的資料庫——COVID-19數據集。基於此類數據集的接口使用了先進的自然語言理解（NLU）技術來了解用戶查詢的目的。這個數據集能為複雜的科學問題提供更多相關數據和證據，大大提高了研究效率。
而他們發布這個機器可讀的arXiv數據集，就是希望其能推動該領域的研究者開發出能夠處理此類新的語料庫的相似的自然語言理解工具。