測量結果的有效數字(位數)介紹

2021-01-11 電子變壓器

今天,我們跟大家分享一下電子變壓器測量結果的有效數字(位數),都是自己的理解與分析,有什麼不對的地方還請見諒。

一、近似數

由於電子變壓器測量誤差的存在,所有的測量數據均為近似數,所得到的最終測量結果僅是該真值的近似估計值,自然也是近似數,誤差和測量不確定度更是一個近似數。因此,對測量數據的處理,從某種意義上說便是近似數的運算。

在測量結果和數據運算中,確定用幾位數字來表示測量和數據運算的結果,是一個十分重要的問題。如果認為,不論電子變壓器測量結果的準確度如何,在一個數據中,小數點後面的位數越多,這個數據越準;或者在數據運算中,保留的位數越多,準確度越高,這種認識是非常片面的。

一個近似數的近似程度都有一定的限度,在記錄測量結果的數據位數或進行數據運算取值多少位時,均應以測量所能達到的準確度或計算依據的數據為依據。因此,合理地進行近似數的修約和運算,是測量不確定度評定中的重要環節。

二、近似數的修約

修約間隔是確定修約保留位數的一種方式。修約間隔的量值一經確定,修約值即為該量值的整數倍。修約間隔的量值指定為10m(m可為負整數、零、正整數)形式。當m為負整數時,表明將數值修約到m位小數,如m=-1相當於將數值修約到一位小數;當m=0時相當於將數值修約到個位;當m為正整數時,表明將數值修約到10m數位,如m=2相當於將數值修約到百位。

近似數的基本修約規則

近似數的修約原則如下:

(1)若捨去部分的數值大於保留末位的1/2,則末位加1。

(2)若捨去部分的數值小於保留末位的1/2,則末位不變。

(3)若捨去部分的數值恰等於保留末位的1/2。

1)若末位是偶數,則末位不變;

2)若末位是奇數,則末位加1。

例如,將下列一組近似數,按截取規則保留兩位小數。

待修約的數 修約後的近似數

3.130

3.131

3.132

3.13

3.133 3.13

3.134

3.134 95→

3.135

3.136

3.137

3.138 3.14

3.139

3.145 0

3.145 001→

修約必須一次完成,不能連續修約。

若數字捨入恰巧發生在合格與否的邊界數字上時,則要用(+)或(一)分別補充表明它們的數值大小。如1.29→1.3(一),1.32→1.3(+),

對測量誤差或不確定度的捨入,最好一律採用增大的方式,即只進不舍。

三、電子變壓器有效數字

電子變壓器有效數字是指經過修約後所得的近似數從左邊第一個不是零的數字起到末位上的所有數字。一個近似數有n個有效數字,稱這個近似數為n位有效數字。

例如,近似數1.4142、3.1415、1.7328和110.00均為五位有效數字;而0.00386、386和3.86均為三位有效數字。

在判斷有效數字時,對於零這個數字有三點說明:

(1)它可能是有效數字,也可能不是有效數字,這取決於它處在近似數中的位置。當零處在第一個有效數字之前時,則零不算有效數字。例如,近似數0.00386前面的三個「0』,均不是有效數字。當零處在第一個有效數字之後,則均為有效數字。例如,近似數110.00和200.030中的所有「0」均為有效數字

(2)小數點以後的零反映了近似數的誤差,不能隨意取捨。例如,近似數100,100.0和100.00。這三個近似數在數值上是相等的,但是它們的誤差是各不相同的,由捨入誤差原理知,這三個近似數的誤差絕對值分別不超過0.5、0.05和0.005。

(3)在第一個有效數字之前的零則與誤差無關。例如,近似數0.0036的誤差絕對值不超過0.000 05,而近似數0.36×10-2的誤差絕對值也不超過0.005×10-2=0.00005。因此,0036和0.36×10-2這兩種表示方法是等價的。它們均是兩位有效數字,且有相同的捨入誤差。

若近似數的右邊帶有若干零的數字,通常把這個近似數寫成a×10m形式。利用這種寫法,

可從a中含有幾個有效數字來確定近似數的有效位數,如2.400×103表示四位有效位數;

2.40x103和2.4×10,分別表示三位和兩位有效位數。確定有效數字的方法見表1-1。

在測量結果中,最末一位有效數字取到哪一位,是由測量準確度來決定的,即最末一位有效數字應與測量準確度是同一量級的。例如用千分尺測量時,其測量準確度只能達到0.01mm,若測出長度l=20.531mm,顯然小數後第二位數字已不可靠,而第三位數字更不可靠,此時應只保留小數點後第二位數字,即寫成l=20.53mm,為四位有效位數。由此可知,電子變壓器的測量結果應保留的位數原則是:其最末一位數是不可靠的,而倒數第二位數字應是可靠的。測量誤差一般取1~2位有效數字,因此上述用千分尺測量結果可表示為l=(20.53士0.01)mm。

確定有效數字的方法 表1-1

為正確給出測量結果,對測量結果的有效位數要進行修約,其修約方法規定如下:

(1)由指示數據(xi)修約成有效數字,需要考慮誤差限值(△x)。因為△x影響指示數字的確定性,不變化的數字才是確定的有效數字。

(2)有效數字的末位數和系統誤差限值(△x)同屬一個數量級。例如△x=0.2時,末位有效位數是小數點後的一位,△x=10時,末位有效位數是在十位數的位置。

(3)和誤差限值(△x)相對的同級指示數值小於誤差限值時,這時的誤差限值影響指示數字的前一位,如表1-1中序號3和5的情況。為了保持兩者有相同數量級,在實際中不計這種影響,序號3和5的有效位數不定為2,仍定為3(2+1)。

四、電子變壓器近似數的運算

1.加減運算

例如,求近似數0.1082與1648.0的和。

由捨入誤差知,近似數0.1082的誤差絕對值不超過0.00005,即小數第四位數字「2」有半個單位的誤差;而近似數1648.0的誤差絕對值不超過0.05,即處於小數第一位數字「0」有半個單位的誤差。當它們相加時的算式如下,在算式中數字下有短橫線的數字是近似數字位

0.1082

+1648. 0

1648. 1082

由上式可見,加數1648.0的小數第一位數字「0」有誤差,所以近似數的和1648.1082的

小數第一位數字「1」也有誤差。因此,要求小數第二位以後數字的準確性便無意義了。為

此,只需將加數0.1082截取到小數第二位為0.10便已滿足要求,簡化了計算,加法計算結果

是1648.1。

由此,對近似數的加減運算可歸納為:幾個(不超過10個)近似數相加或相減時,小數

位數較多的近似數,只需比小數位數最少的那個數多保留1位。在計算結果裡,應保留的小數

位數與原來小數位數最少的那個近似數相同。

2.乘除運算

例如,求1.3642×0.0026的積。

近似數1.3642有5位有效數字,而0.0026有2位有效數字。它們均在小數第四位上有半

個單位的誤差。當它們相乘時,即有下列豎式,算式中數字下有短橫線的數字是近似數字位:

1.364 2

X 0.002 6

81852

2728 4

0.003 54692

從上式可見,積的第二位有效數字以後的各位數均含有誤差。因此,積只需保留到第二位

有效數字,即取積的有效位數同乘數中有效位數較少的那個相同。乘數1.3642無需保留5位

有效數字,只需比0.0026多1位,即保留3位有效數字即可。其乘式為

1. 3 6

×0.002 6

816

27 2

0.003 536

因此,正確的算式應為

1.3642×0.0026≈1.36×0.0026

=0.003536

≈0.003 5

由此,對近似數的乘除運算歸納為:在幾個近似數相乘或相除時,有效數字較多的近似數,只需比有效數字最少的那個多保留1位,其餘均捨去。計算結果應保留的有效數字的位數,與原來近似數裡有效數字最少的那個相同。

3.乘方和開方運算

乘方的實質是乘法,此時兩個乘數相等,因此它們的誤差相同,無需捨去多餘位數。例

如,1.522的豎式為

1.5 2

1.5 2

304

76 0

15 2

2.3 104

可見,乘方結果的有效位數應保留與原近似數的有效位數相同,即

1.522=2.3104≈2.31

開方時,只一個近似數參與,因此不存在捨去多餘位數的問題。另外,開方與乘方有下述

關係:設根號a=b,則a=b2。因此,b2和a有相同的有效位數,而由乘方的原理知,b2和a的有效位數相同,所以a和其開方根b有相同的有效位數。

綜上所述,對於近似數的乘方和開方運算可歸納為:在近似數乘方或者開方時,計算結果

應保留的有效數字與原來近似數的有效數字的位數相同。

[例1-2]求5.38、6.30、6.46和7.52這4個近似數的平均值。(見圖1-2)

圖1-2

在上例中,除數4是正整數,不含誤差。因此,它的有效數字應根據算式的需要而定。在此例中,整數4可表示為4.000,即認為它具有4位有效數字,且平均值的有效數字比原近似數多1位。這種做法的原理是數的平均值能提高準確性。

運用計算器、計算機等計算工具進行數據處理,能提高運算的速度,減少出現錯誤的可能性,此時可適當地多保留有效數字或小數位數。但測量誤差和測量不確定度一般只保留1~2位有效數字,其餘按規則捨入。

相關焦點

  • 有效數字的位數如何確定?
    有效數字的位數如何確定?量值一般由一個數字乘以測量單位來表示特定量的大小。
  • 「高中物理」什麼是有效數字和有效數字位數?
    (計算結果保留一位有效數字)該題要求計算結果保留一位有效數字,如果計算結果不是保留一位有效數字,就算錯。在圖1中,根據米尺的刻度可以讀出點A的位置xA。從圖中看出,使用分度值為1mm的刻度尺,並且估讀到毫米數的下一位,得到xA=13.3mm或xA=0.0133m。其中的末位數3是估讀的、不可靠的,xA的真實值在13mm和14mm之間。
  • 實驗室有效位數的保留在環境監測中的應用
    a.一個分析結果的有效數字的位數,主要取決於原始數據的正確記錄和數值的正確計算。在記錄測量值時,要同時考慮到計量器具的精密度和準確度,以及測量儀器本身的讀數誤差。對檢定合格的計量器具,有效位數可以記錄到最小分度值,最多保留一位不確定數字(估計值)。
  • 有效數字的加減乘除與自然數運算規則
    在前面文章中,根據儀器的準確度介紹了有效數字的意義,和記錄原則。而在容量分析計算中,有效數字的保留更為重要。下面僅就加減和乘除法的運算規則加以討論。因此最後結果有效數字的保留應以此數為準即保留有效數字的位數到小數點後第二位。所以左面的寫法是正確的,而右面的寫法是不正確的。2.乘除法乘除法運算中,保留有效數字的位數,以位數最少的數為準,即以相對誤差最大的數為準。
  • 不確定度系列3:測量不確定度在測量結果中的表達
    測量結果應包含測量不確定度,比如校準結果示值誤差需要報告示值誤差的不確定度,檢測結果臨界值的合格判定需要給出不確定度,而不確定度如何表達呢?01—有效位數測量不確定度本來就是一個不確定的量,如果給出太多的位數或者小數位是沒有意義的。不確定度的取位主要考慮修約誤差限在不確定度中的佔比。
  • ADC知識點理解:信噪失真比與有效位數(ENOB)
    編碼是將量化的結果(即整數倍值)用二進位數碼來表示。這個過程則實現了模數轉換。 解析度與動態範圍 N, DR ADC解析度為用於表示模擬輸入信號的位數。
  • 淺談藥學類專業分析化學中的有效數字
    關鍵詞 有效數字 位數 修約 計算 藥物分析化學中應用引言 在分析檢驗工作中,不僅要準確地進行測量,還應正確地對實驗數據進行記錄和計算。在定量分析中,用數據表述測定結果時,除了要反映出分析結果的大小之外,還體現了平行測定中數值的準確程度。通常藥物分析化學實驗中一般用有效數字來表示測量值的可信程度和誤差的大小。本文通過分析化學中有效數字的相關問題進行探討。
  • 累積法中有效位數的確定
    今天終於找到了,要搜「有效位數修約」(模模糊糊覺得大學實驗其實學過)我檢索到了,《中華人民共和國國家標準數值修約規則 GB/T8170》規則中是這樣寫的:「許多數值相乘除時,所得積或商的相對誤差比較任何一個數值的相對誤差大,因此相乘除時因以諸數 值中相對誤差最大(即有效位數最少)的數值為準,確定其他數值在運算中保留的位數和決定計算結果的有效位數
  • 環境監測中如何進行數值修約及有效數字的取捨
    然而在現實當中,很多單位忽略了這個問題,使得同一個監測項目報出的結果,有效數字及小數點後的位數不一致。特別是第三方檢測機構的爆發式的發展,忽略質量管理使得報出數據更加混亂。測量只能不斷接近真實值,但是不可能得到真實值。測量值和真實值的差就是誤差。所謂數值修約,是指通過省略原數值的最後若干位數字,調整所保留的末尾數字,使最後所得的值最接近原數值的過程。
  • Excel怎麼設置有效位數
    1、本文以Excel2019軟體進行演示說明,讓大家能夠清楚明白地了解Excel怎麼設置有效位數,讓大家都會進行此項操作;用該軟體打開Excel文檔,如下圖所示,現在我們演示如何將單元格中的數據保留1位有效數字,在顯示時為1位有效數字,但實際上在運算時還是原來的數據,所以可以保證數據的準確性
  • 高中物理實驗誤差和有效數字問題學習和例解分析
    高中物理實驗誤差和有效數字問題學習和例解分析今天,學習有途網小編為大家整理了高中物理實驗誤差和有效數字問題學習的相關內容,希望對大家有幫助。2.要求認識誤差問題在實驗中的重要性,了解誤差的概念,知道系統誤差和偶然誤差;知道用多次測量求平均值的方法減少偶然誤差;能在某些實驗中分析誤差的主要來源;不要求計算誤差.3.要求知道有效數字的概念,會用有效數字表達直接測量的結果.間接測量的有效數字運算不做要求.1.帶有一位不可靠數字的近似數字叫做有效數字.
  • 校準曲線的斜率、截距保留幾位有效數字?
    2、相關係數r保留的有效數字校準曲線相關係數隻舍不入,保留到小數點後第一個非9數字。如果小數點後多於4個9,最多保留4位。3、校準曲線斜率的有效位數校準曲線斜率的有效位數,應與自變量的有效數字位數相等。
  • 使用數字示波器進行多域測量
    儘管基帶數位訊號、射頻信號和模擬信號是相互關聯和依存的,但是基於傳統的調試方法,人們常常無法描述或捕捉它們之間的關係。採用微控制器實現的RF信號反饋控制、低速串行總線、嚴格的時序關係,以及RF和數位訊號之間電磁幹擾等都是原型設計階段令人頭痛的問題。   通常可以使用數字示波器分析這些信號所產生的問題,但是大多數開發人員卻試圖尋找其它的儀器。
  • 4個要點教你學會檢測結果的質量控制!
    正確記錄測量觀察值 在實際工作中很多檢驗人員由於概念模糊不清楚怎樣準確無誤的記錄測量觀察值,從而影響最終的檢驗結果準確性,正確記錄測量觀察值要掌握的原則就是:首先,要正確理解有效數字的概念,它是指測量中實際能測得的數字,包括全部準確值和一位可疑值。
  • 數字示波器死區時間和波形捕獲率影響測量結果
    最終結果隨後通過示波器的顯示屏呈現給用戶。從圖1和圖2中可以看到RS RTO系列示波器和傳統數字示波器的在信號處理過程上的區別,它使用了專門獨立開發的ASIC晶片RTC和FPGA來實現波形樣本的後處理,如通道校準、樣本抽取、數字濾波、math、直方圖測量、模板測試以及FFT、自動測量、協議解碼等等,大大降低了主處理器的工作負荷,同時在RTO晶片中用數字觸發取代了模擬觸發電路,消除了模擬觸發電路帶來的觸發抖動,傳統的中高端示波器為了減小這部分抖動
  • 計量和測量設備以及測量誤差
    §2 數據處理一、 有效數字和有效位數在測量和數值計算中,確定該用幾位數字來代表測量式計算結果是一件很重要的事情。在測量時由於儀器和感官的限制,測量只能到一定的程度,這個準確度一方面取決於所用儀器刻度的精度;另一方面也與所用的測量方法有關。因此,在計算結果中,無論寫多少位數,也決不可能把準確度有多少提高。
  • ROUND(四捨五入)計算指定位數四捨五入某個數字
    ROUND計算指定位數四捨五入某個數字大家好,這節課我們來學習一下Round函數。ROUND,這個函數對於要計算錢的工作崗位尤其重要,人資計算稅金,財務計算工資,經常都會碰到小數點後幾位的數字,一般的做法就是直接在格式裡修改為保留2位小數。但是這個做法會有一個很大的隱患。Round函數可以計算按指定位數進行四捨五入的數值。
  • 廣東事業單位行測數量關係:有效數字法
    在事業單位考試中有一類問題是大家比較關注的,就是如何有一個快捷的方式可以解決讓人頭疼的計算問題,今天就帶著大家一起來了解一個新的計算方式,有效數字法。   在學有效數字法之前,首先要知道有效數字的含義:對於一個數,從左邊第一個不是0的數字起,到精確的位數止,所有的數字都叫做這個數的有效數字。例如0.00305有3位有效數字,0.003050有4位有效數字。
  • 簡述數字示波器死區時間和波形捕獲率影響測量結果
    數字示波器要改善帶寬只需要提高前端的A/D轉換器的性能,對示波管和掃描電路沒有特殊要求。加上數字示波管能充分利用記憶、存儲和處理,以及多種觸發和預前觸發能力。廿世紀八十年代數字示波器異軍突起,成果纍纍,大有全面取代模擬示波器之勢,模擬示波器逐漸從前臺退到後臺。