人工智慧(AI)同行評審的時代來了

2021-02-23 運動醫學與健康科學英文版

作者:Douglas Heaven丨譯者:王心雨丨校譯:陳銘

目前,出現了一系列自動化的工具幫助進行同行評審,但是主動權仍然掌握在人類手中。大部分的研究者都有充分的理由抱怨同行評審,因為這是一個耗時間且容易出錯的工作。並且只有 20% 的科學家承擔大部分的評審工作,工作量分配嚴重不均。如今,人工智慧的出現有望改善同行評審這一過程,提高文章質量並節省評審時間。有一部分學術出版商已經在嘗試使用 AI 來幫助他們完成一些事情,例如選擇評審學者、統計和核查數據準確率、總結文章的新發現。今年 6 月,總部位於阿姆斯特丹的出版業巨頭愛思唯爾旗下的同行評審管理系統 Aries Systems 採用了一款名為 StatReviewer 的軟體,用於檢查來稿中的統計數據和方法是否真實可信。與此同時,廣受歡迎的同行評審平臺 ScholarOne 正在與丹麥奧爾胡斯的 UNSILO 開展合作。UNSILO 使用自然語言處理和機器學習等技術對來稿進行分析,並自動提取關鍵概念來總結文章的核心內容。但無論機器起了什麼作用,最終的決定權仍然掌握在編輯手中。英國出版顧問大衛·沃洛克(David Worlock)在 10 月份的德國法蘭克福書展上看到了 UNSILO 的展臺,他感嘆道:「它不會代替編輯的決策,但它能讓這個過程簡單了許多。」

決  策

UNSILO 對來稿文章進行語義分析處理,提取文本中機器識別出來的主要語句。UNSILO 的銷售總監尼爾·克裡斯滕森(Neil Christensen)表示,這一方法得到的結果比作者自己提交的關鍵詞能更好地概述文章內容。他還補充說:「我們在他們的文章中找到了他們真正想表達的意思,而不是僅僅看他們在提交前五分鐘裡想出來的內容。」此外,UNSILO 還會識別出最有可能代表作者觀點和發現的關鍵詞語,從而讓編輯對作者的研究成果有粗略的了解。UNSILO 還能夠高亮出文章中與其他論文相似的觀點,用於檢測學術不端行為,或者將其與學界其他相關研究聯繫在一起。Christensen 認為:「這一工具並不是在做決定,而是在告訴你,這裡有一些內容和之前發表過的文章相比有些突出,而決定權在你手中。」 UNSILO 從 PubMed Central 這一龐大但有限的學術資料庫中採集信息。UNSILO 可以將新的來稿與資料庫中 170 萬篇已發表的生物醫學領域的研究論文進行全文比較。UNSILO 還與位於賓夕法尼亞州費城的 Clarivate Analytics 旗下的 ScholarOne 合作,訪問更多的數據,包括 Clarivate 的 Web of Science 資料庫。Giuliano Maciocci 在英國劍橋《eLife》雜誌上帶領一個新團隊,她認為 UNSILO 是一個有趣的解決方案,能夠解決同行評議中一些令人頭疼的問題,但是 eLife 不會考慮採用它。「在我們這樣一個非常重視專家管理的期刊上,這個工具可能用途不大。」Wizdom.ai 的董事 Worlock 注意到,市面上出現了很多類似的工具。Wizdom.ai 是一家由 Taylor & Francis 出版公司控股的新公司,該公司正在開發一款能夠挖掘論文數據並提取不同學科和概念間關聯的軟體。他認為,正在研發的這個工具不僅能夠在同行評審中起到作用,對於撰寫撥款申請和文獻綜述等都有幫助。

從檢測學術不端到檢測 p 值

包括 ScholarOne 在內的很多平臺已經能夠自動進行學術不端評測,並且包括 Penelope.ai 在內的很多服務能夠檢查參考文獻和來稿的結構是否符合期刊的發稿要求。有一些工具還可以用研究質量進行標記。由荷蘭蒂爾堡大學的研發團隊開發的工具 Statcheck 能夠評估作者所報告的數據的一致性,聚焦於 p 值的大小。《心理科學》這一期刊把所有來稿都用這一工具檢測一遍,其他出版商更傾向於在同行評審中使用這個工具。荷蘭蒂爾堡團隊在分析《心理學報》期刊上的文章的時候,他們發現大約有 50% 的論文至少有一項數據統計不夠準確。在八分之一的論文中,有些錯誤甚至已經嚴重到足以影響已發表結果的統計意義。她說:「這令人擔憂。」但是她也表示並不奇怪這些評審學者會忽略這些錯誤。「沒有人有時間去核對所有的數字,你只會關注論文本身。」目前,Statcheck 僅限於分析使用美國心理協會報告格式進行數據統計的論文。與之相反,StatReviewer 的開發者——北卡羅來納州威客森林大學醫學院的蒂莫西·侯勒(Timothy Houle)和威斯康辛州新興科技公司 NEX7 的執行長查德威克·德沃斯(Chadwick DeVoss)聲明他們的工具能夠評估來自多個科學領域的標準格式展示風格的統計數據。為了做到這一點,這一工具可以檢查論文中的樣本大小和基線數據等信息是否正確。DeVoss 表示:StatReviewer 還能夠識別欺詐行為的標記,例如他們是否在玩弄數據規則或是偽造數據?如果風險要高於期刊接受的範圍,他們還可以調查細節。

對算法進行測試

DeVoss 說 StatReviewer 正在接受幾十家出版商的測試,2017 年,倫敦開放出版商 BioMed Central 進行了實驗,但是沒有得出確定的結論。因為這個工具沒能分析足夠的稿件,但也提供了一些洞見。施普林格《自然》的公開研究傳播總監艾米·伯克維特(Amy Bourke-Waite)說,StatReviewer 抓住了人類評審員忽略的東西,善於發現不符合標準要求的論文。Bourke-Waite 還說:參加測試的作者們表示很開心,因為如果沒有 StatReviewer 進行報告,他們就會成為評審員撰寫評審報告。

自動化的限制

即使實驗結果成功,但 DeVoss 預計只有少數期刊會願意付費掃描他們的來稿。所以他和他的同事們將目標轉向作者,希望他們在投稿前會使用這一工具檢查自己的文章。一般來說,在同行評審中,人工智慧存在著潛在的缺陷。一個擔憂是,使用以前發表的論文培訓的機器學習工具可能會強化同行評審中存在的偏見。Worlock 說:「如果你在過去被採納的文章的基礎上建立決策系統,不可避免會有內在的偏見。」 DeVoss 說:「如果一個算法在評估一篇論文後只提供一個總分,正如 StatReviewer 所做的那樣,編輯們可能會被這個結果影響,拒絕一些邊緣文章,只是依靠那個分數來決定是否採納一篇論文。」紐西蘭的同行評審跟蹤新興公司 Publons 的聯合創始人安德魯·普雷斯頓(Andrew Preston)表示,目前的算法還不夠智能,無法讓編輯僅憑藉提取的信息採納或者拒稿。「這些工具可以確保稿件達到標準,但是它們不可能取代評審員在評審方面所做的工作。」 一部分學者也表示同意:「算法需要一定的時間去完善,但是自動化處理一些工作是有意義的,因為同行評審中的很多事情都是有固定標準的。」

(來源:科學網 - 數字科學交流)

作者應如何回復專家的評審意見

全球同行評議現狀報告中文版來襲

Editorial Manager投稿系統使用方法

Reviewer Credits,下一個Publons?

相關焦點

  • 同行評審的相關介紹
    本文易智編譯將帶大家一起了解下同行評審,具體介紹了什麼是同行評審,同行評審的形式以及過程。一、什麼是同行評審同行評審(Peer review,是一種審查程序,即一位作者的學術著作或計劃讓同一領域的其他專家學者來加以評審)。出版社主要以同行評審的方法來篩選稿件錄取與否,在提供科研基金的單位,也是以同行評審的方式來決定研究獎助金是否授予。
  • 本科畢業生成為NIPS 2018論文同行評審
    在 NIPS 2018 大會論文接收即將結束之時,一名本科剛剛畢業的學生成為大會論文同行評審的消息引起了人們的熱烈討論。神經信息處理系統大會(Neural Information Processing Systems,NIPS)是人工智慧和機器學習領域最重要的盛會。每年,來自計算機科學領域的各路專家和業界人士都會共聚一堂,共同討論和分享有關人工智慧的前沿想法。而作為大會學術內容最重要的部分,會議論文是眾人關注的焦點。
  • 同行雙盲評審任重道遠
    原標題:同行雙盲評審任重道遠   該調查結果是在日前舉行的第八屆國際同行評審大會上發布的。值得關注的是,即便NPG宣布將在旗下所有期刊推行雙盲(論文作者和審稿人均匿名)評審論文機制,但要推行到位似乎也很難。《科學》雜誌對此現象進行了關注。   雙盲為「避免偏見」而生   大多數論文是單盲評審,即審稿人知道作者是誰,作者不知道審稿人是誰。
  • 人們熟知的人工智慧AI到底是什麼東西?
    通用型人工智慧是ai領域研究的主要目標之一,其主要包括:計算機視覺、計算機語言理解和知識表示幾個子領域,它所規定和指導的ai手段正是符號邏輯和語義邏輯等基礎邏輯。由於其基礎邏輯更加容易被人們理解,所以通用人工智慧的發展可以解決實際應用中計算機視覺等方面的具體問題,也可以解決知識表示等方面的問題。2017年國內機器人技術創新成果獎3月底頒獎典禮上,華為雲通用人工智慧產mace11也獲得了該獎項。此次獲獎的成果顯示,華為雲通用人工智慧產mace11是ai創新應用載體,基於雲端,具有極強的多領域適用性和普惠性。
  • 《當人工智慧考上名校》:認識人工智慧,擁抱AI時代
    01 人工智慧不等於人工智慧技術,人工智慧時代尚未開始現在大家都在鼓吹一個觀念:人工智慧的時代就要來了。於是,大家經常都處於一種焦慮中,覺得自己可能很快、馬上就會被替代。面對這樣的困境,新井紀子教授告訴我們:人工智慧時代尚未問世,現在的我們,將人工智慧等同於人工智慧技術,例如人臉識別技術、語音識別技術、圖像處理技術等。因為真正的人工智指的是,那種都能超脫於人的智能,或者是人差不多水平的智能。
  • 同行評審制度的發展歷史和科學家的思考
    今天,同行評審這個過程或者制度已成為科學生活的基本制度。那麼,這種思想是如何變得如此根深蒂固的呢?這還要從同行評審制度起源和發展來認識。同樣的,許多英語世界中著名的雜誌也很依重編輯的判斷來選擇內容。這樣的期刊往往會計算在編輯職員中該國一些最受人尊敬的科學家的數目。例如,馬克思?普朗克(Max Planck)是一份受人尊敬的物理學雜誌《物理學報》(Annalen der Physik)編輯委員會的長期成員。一些物理學家質疑普朗克真會聽取來自外界的意見的來處理《物理學報》的稿件。
  • 關於同行評審和Publons,你知道多少?
    同行評審(Peer review,是一種審查程序,即一位作者的學術著作或計劃讓同一領域的其他專家學者來加以評審)。出版社主要以同行評審的方法來篩選稿件錄取與否,再而科研基金提供的單位,也是以同行評審的方式來決定研究獎助金是否授予。
  • 扒一扒審稿人的現狀和出版後同行評審
    幾項主要差別如下:驗證:在發表前的同行評審,會有2到3位與作者同領域的同行來評審研究,他們能找出研究可信度存在的細節問題的機會不大,而發表後的同行評審是有全科研界來評審研究。交流:傳統的同行評審是由期刊編輯、同行審稿人和作者三方進行意見交換,發表後同行評審則是有整個同行專家一同參與,在這種情況下,專家的意見需要具有一定的吸引力才能引起注意與討論,而發表前的同行評審則是不論凝聚力如何,直接依賴評審判決。
  • IEEE突然宣布解除對華為編輯和同行評審活動的限制!
    雷鋒網(公眾號:雷鋒網) AI科技評論按:北京時間今天早晨,IEEE 官方突發聲明宣布解除對編輯和同行評審活動的限制隨後,中國各大學術學會紛紛發表聲明對該事做出回應:5 月 30 日,中國計算機學會(CCF)發布《 CCF 關於 IEEE 通信學會不當行為的聲明》,宣布暫時中止與 IEEE 旗下通信學會(Communications Society,ComSoc)的交流與合作;6 月 2 日,中國電子學會、中國通信學會、中國人工智慧學會、中國電機工程學會、中國機械工程學會、中國電工技術學會中國儀器儀表學會
  • 【重磅】深度學習頂會ICLR2018評審結果出爐,一文快速了解評審分析簡報和評分最高的十篇論文
    ICLR 採用Open Review 評審制度。Open Review 則非常不同,根據規定,所有提交的論文都會公開姓名等信息,並且接受所有同行的評價及提問(open peer review),任何學者都可或匿名或實名地評價論文。而在公開評審結束後,論文作者也能夠對論文進行調整和修改。這幾天ICLR 2018的審稿結果陸續出來了,讓我們來看一下。
  • 人工智慧發展趨勢大起底,你對人工智慧有什麼看法呢?
    大部分人對人工智慧的印象,多半還停留在科幻電影裡。從視覺上來說,並不是有圖像識別就能夠用來對付你。但其實,ai已經不在乎目前的人工智慧技術,現在很多軟體公司都把人工智慧稱為「深度學習」、「機器學習」或者「計算機視覺」等,他們已經開始商業化應用了。
  • 同行評審的演變和編輯的角色:來自Nature Communications主編的...
    作者:Elisa De Ranieri 原文連結:http://www.springersource.com/the-evolution-of-peer-review-and-the-role-of-editors-thoughts-from-nature-communications-editor-in-chief/
  • 人工智慧「AI」時代,走到哪一步了?這是搶票入口的時代
    如果現在已經站在了人工智慧時代的入口,那麼接下來面臨的就是一場環境和範式變化下的重新洗牌。其間,行業知識圖譜建設是人工智慧應用領域的戰略制高點搶票入口時代科技浪潮風起雲湧,中國網際網路用戶已經接近9億人,網際網路的人口紅利基本結束了。從網際網路時代邁向人工智慧時代是當下最熱門的話題。
  • A16Z合伙人:AI在APP中的應用,標誌著人工智慧進入一個新時代
    基於人工智慧的消費者應用程式正在向世界各地傳播,這標誌著人工智慧進入了一個新時代。而這種基於人工智慧的消費者應用程式起源於中國。 TikTok(抖音的海外版)是一款簡短的移動視頻應用。 這一款產品真正做到了利用人工智慧技術來重塑產品,還做到了匿名性。釋放出了巨大的成本節約和可行性信號。人工智慧不再是不是一種功能、技術,而是一種產品……這種應用的現象將在全世界傳播。
  • 在Springer Nature接受同行評審是一種什麼樣的體驗?
    同行評審是一項必要、有時很耗時的工作,並且對研究過程至關重要。作為審稿人,需要花時間遠離自己的科研、日常工作和個人生活,以便對同行撰寫的論文提供反饋。所以,Springer Nature 的同行評審體驗如何?
  • SCI論文評審,如何做好同行評議
    接受國際期刊的審稿任務,是同行的認定和信任當然是很光榮的任務,而實際上內心十分忐忑。首先,要尊重作者的汗水與努力,多數學者的學術生涯都經歷過數不勝數的拒稿、大修、小修,內心悽涼只有同行理解;而,另外一方面要確保公開發表學術論文的價值,這也是每個學者責無旁貸的使命。
  • AI教育從幼兒園開始:MIT推出全球K12人工智慧學習資源網站
    機器之心報導參與:杜偉、澤南、蛋醬「人工智慧要從幼兒園抓起」,在這一網站上,MIT 提供了一系列學習單元組合、動手活動和教師指導,用以提高學生的 AI 素養。人工智慧正改變和顛覆著許多行業,面向青少年群體的人工智慧教育也越來越受到重視。
  • 2019年全球頂級同行評審人員有你嗎?
    Clarivate(科睿唯安)於2019年9月17日宣布了 全球同行評審獎(Global Peer Review Awards)的獲獎者。該獎項由Publons頒發,表彰全球研究人員的同行評審的質量和數量。
  • 四川大數據與人工智慧專業職稱申報評審條件出爐!快來看看
    為進一步深化我省職稱制度改革,加強大數據與人工智慧專業技術人才隊伍建設,近日,四川省大數據中心、四川省人力資源和社會保障廳印發《四川省大數據與人工智慧專業職稱申報評審基本條件(試行)》。從事大數據與人工智慧專業工作的小夥伴快來看看吧~