深度研究:敏感性、特異性、精確率、召回率

2021-02-20 機器學習算法與Python實戰

1引言

在數據科學中,查看精確率和召回率來評估構建的模型是很常見的。而在醫學領域,通常要觀察特異性和敏感性來評估醫學測試。這些概念非常相似,但又有所不同。當這兩個世界相遇時,即當一個醫學測試是一個機器學習模型時,這種差異可能會在醫學界和從事數據科學研究的人員之間造成許多誤解。

2定義

來,讓我們看看如下這些定義:

精確率 — 在所有預測為陽性的樣本中,有多少是真的陽性?

召回率 — 在所有陽性樣本中,有多少是預測為陽性的?

特異性 — 在所有沒有患病的人當中,有多少人得到陰性結果?

敏感性 — 在所有患病的人中,有多少人得到陽性結果?

如果我們把一個陽性的例子定義為患者,我們可以看到召回率和敏感性是一樣的,但精確率和特異性是不同的。精確率也被稱為 PPV(陽性預測值)。從現在起,我們將把敏感性稱為召回率。

這些定義非常簡單,然而,當我試圖理解它們的組合對我的算法意味著什麼時,我發現自己很困惑。精確率、召回率、敏感性的每一個組合都是可能的嗎? 在什麼情況下,是不對的?

如果這有幫助,當陽性標籤被定義為陰性,陰性標籤為陽性時,你可以將特異性稱為對同一問題的召回率。

為了更好地理解,我創建了 8 個不同的分類問題和分類器。每個分類器嘗試將 10 個樣本以最大化或最小化每個度量的方式分類到陽性和陰性籃子中。

3例子1低精確率,高召回率,高特異性如果分類器預測為陰性,你可以相信它,樣本是陰性的。但是要注意,如果樣本是陰性的,你不能確定它是否會預測為陰性(特異性 = 78%)。

如果分類器預測為陽性,則不能相信它(精確率 = 33%)。但是,如果示例是陽性,則可以信任分類器(召回率 = 100%)。

2高精確率,高召回率,低特異性把所有例子都預測為陽性顯然不是個好主意。然而,由於總體不平衡,以及精確率相對高,召回率為 100%,因為所有的陽性樣本都被預測為陽性。但特異性為 0%,因為沒有陰性樣本被預測為陰性。3高精確率,低召回率,高特異性這是一個有用的分類器 — 如果它預測一個例子是陽性的,你可以相信它 — 它是陽性的。然而,如果預測它是陰性的,則不能相信它,它仍然是有機率是陽性的。4低精確率,低召回率,高特異性這個分類器真的很糟糕 — 它幾乎把所有的例子都預測為陰性。當預測是陽性時,也是錯的。實際上,使用與這個分類器預測相反的數據的方法更好。5高精確率,低召回率,低特異性6低精確率,高召回率,低特異性這個分類器可能沒用 — 它預測一切都是陽性的。因此,它可以完美地檢測所有陽性的例子,當然(高召回率),但你不能從使用中得到任何信息。7高精確率,高召回率,高特異性這是聖杯 — 分類器檢測所有陽性的例子為陽性,以及所有陰性的例子為陰性。因此,所有測量值都是 100%,完美。8低精確率,低召回率,低特異性這看起來是一個糟糕的分類器,所有陽性的例子都被預測為陰性,所有陰性的例子都被預測為陽性。所有的測量值是 0。然而,你可以簡單地做與預測相反的事情,然後發現是完美的。4小結

總之,所有的度量(精確率、召回率和特異性)都為我們提供了關於分類模型不同表現的重要信息。把它們都好好理解一遍是非常重要的。例如,如果不考慮特異性,你可以創建一個有高精確率和召回率的模型,不過它只是簡單地預測一切為真,沒有實際價值(如上面示例 2 所示)。

被數據包圍的人們 — 不要忘記特異性哦!特別是當你需要和醫學領域打交道時。

最後,來個小問題,比如核酸檢測中的假陰性、假陽性是什麼情況?

原文連結https://medium.com/@alon.lek/should-i-look-at-precision-recall-or-specificity-sensitivity-3946158aace1

相關焦點

  • 一個小口訣讓你再也不會忘記:精確率(precision), 召回率(recall)
    在最開始學習這個召回率(recall)的時候,就在想為什麼這個評價標準會叫「召回「呢?這個和一般的「精度」,「準度」,「誤差」……名稱相出甚遠啊。當時百思不其解,後來自己給出了一個演義解釋,雖然可能荒唐但對理解很有幫助。召回率演義:召回率就是召回已發售汽車的比率。經常聽說某某汽車大廠由於某型號產品安全隱患,需要召回一部分汽車。
  • 產品被下架、召回,公司被立案調查!
    昨天,上海市食藥監局宣布,因經銷的特殊醫學用途嬰兒配方食品的乳蛋白深度水解配方中硒的檢出值低於產品包裝標籤的明示值,上海雀巢產品服務有限公司已被浦東新區市場監督管理局立案調查。瀋陽市瀋河區米米氏孕嬰用品店、瀋陽市瀋河區新新家妮母嬰用品店銷售的,標稱由上海雀巢產品服務有限公司(原產國:荷蘭)經銷的「藹兒舒」乳蛋白深度水解配方(特殊醫學),硒檢出值分別比產品包裝標籤明示值(0.7微克/
  • 【注意】Costco自家品牌豆奶及常見午餐肉品牌被召回!
    這款豆奶飲料名稱為Organic Fortified Soy Beverage Original,946毫升/盒;問題食品中還有一款Hereford牌的午餐肉,召回原因是產品中發現了碎骨頭。加拿大衛生部最新發布的食品安全通告中,召回一款Costco自家品牌Kirkland Signature出品的有機豆奶飲料。
  • 2015JUA臨床指南:間質性膀胱炎和過度敏感性膀胱(更新版)發布
    來源:《國際泌尿外科雜誌》 作者:日本泌尿外科協會(JUA,Japanese Urological Association)由日本泌尿外科協會所制訂的間質性膀胱炎和敏感性膀胱的臨床指南間質性膀胱炎的定義:患者出現敏感性膀胱之症狀(如膀胱區域不適、壓迫感或疼痛,並常伴隨有尿頻和夜尿)以及膀胱的病理改變。不過,之前應排除能引起上述症狀的其他病變。對於那些有敏感性膀胱症狀的患者,但不存在膀胱的病理改變,或其他能說明這些症狀的原因者則為敏感性膀胱。
  • 深度報告|【胡佛研究所】:美國學術研究事業中的風險再思考
    除期刊以外,胡佛研究所出版社也幫研究員跟其他胡佛研究所贊助的學者出版書籍與研究報告。深度報告|【美國智庫】:美國多數人民支持積極參與全球事務深度報告|【理解中國】:如何從長時段民意中發現中國韌性?深度報告|【偵察威懾】:無人偵察機在大國競爭中的關鍵作用深度報告|【中國最高檢】:未成年人犯罪數量連降多年後回升深度報告|【美國外交關係協會】:世界秩序的終結與美國外交深度報告|
  • 除溼機再陷召回門 涉外產品問題頻出敲警鐘
    步格力除溼機於2013年被召回225萬臺後塵,國產除溼機品牌在意圖搶灘海外市場中二陷「召回門」,創下中國企業在北美地區規模最大召回事件的新紀錄。除溼機召回事件也非國內企業獨有,6年前,在LG電子中國出口至海外的便攜除溼機中,有98000臺因為同樣的原因被召回,卻並沒有在行業層面引起廣泛的關注。
  • 雞塊、餅乾、水果統統召回,誤食可能致命!
    這些食品都是受到或疑似受到沙門氏菌汙染而召回的,據了解,沙門氏菌是美國食物中毒致死的主要原因。由沙門氏菌引起的中毒症狀有:噁心、嘔吐、腹痛、頭痛、畏寒、腹瀉等,還伴有乏力、肌肉酸痛、視覺模糊、中等程度發熱、躁動不安及嗜睡,平均致死率4.1%。
  • 20次電器召回涉及263萬件,乾衣機起火是主要問題
    針對外界關注的宜家(中國)投資有限公司在北美市場召回馬爾姆等系列抽屜櫃但不在中國市場召回的情況,質檢總局兩次約談宜家公司相關負責人,明確指出如果產品存在危及人身財產安全的不合理危險,應依法實施召回,要求宜家公司認真對待消費者的訴求和監管部門的要求,儘快採取召回的方式解決存在的問題。
  • 柳葉刀子刊:我國學者開發檢測口腔癌深度算法,通過手機APP檢測,準確率98%
    在口腔腫瘤專科醫生處就診的口腔癌患者中,60%已為中晚期,而發現及時並經過正規治療的早期口腔癌患者的治癒率能達到84%。因此「早發現,早治療」是提升口腔癌治癒率的關鍵。早期發生在口腔內的黏膜紅斑,白斑,潰瘍和糜爛等,往往因為「無痛不癢」使得患者乃至非專科醫生放鬆警惕,而這些異常徵象在口腔腫瘤專家眼裡卻釋放著「癌症」的危險信號。
  • 加拿大正在緊急召回illy咖啡豆 有爆炸危險
    illy的250克深度焙燒和中度焙燒咖啡豆被包裝在沒有空氣閥的有缺陷的罐子裡。  加拿大食品檢驗局稱,目前還沒有消費者受傷報告。
  • 【召回】星巴克企業管理(中國)有限公司召回不鏽鋼吸管
    日前,星巴克企業管理(中國)有限公司向國家質檢總局備案了召回計劃,將自2016年8月3日起,召回2013年9月至2016
  • 正在緊急召回中!
    10月9日,根據加拿大加拿大食品檢驗局(CFIA)發布,這款來自Hilly Acres Farm農場生產的雞蛋,由於有沙門氏菌被緊急召回了圖源:CBC雖然這次召回的主要地區是Newfoundland 和 Labrador, Nova Scotia,但也不保證它會通過各種供貨途徑分布到別省,比如各大分銷商,
  • AS:來自一對雙胞胎的啟示 SETD8C302R突變導致p53p21功能缺陷和WEE1抑制劑敏感性
    因此,深入發掘腫瘤相關罕見變異並研究針對性的治療策略是目前本領域面臨的挑戰。近日,浙江大學醫學院附屬第二醫院李雯、應頌敏、沈華浩教授團隊聯合北京應急總醫院王洪武教授在線發表研究論文「SETD8C302R Mutation Revealed from Myofibroblastoma-Discordant Monozygotic Twins Leads top53/p21 Deficit and WEE1