計量單位誤差理論培訓(xùn)教材(編輯修改稿)
2025-07-15 20:19 本頁面
【文章內(nèi)容簡介】 效數(shù)字的位數(shù)稱為有效位數(shù)。π=3．14159……截取到百分位，可得到近似數(shù)3．14， ，3．14 的(末)為0．1， 0．5(末)=0．50．01=0．005。近似數(shù)3．14是3位有效數(shù)字。1．1．2．2如何確定有效位數(shù) 0．03203位10．004位12．4505位350005位350102 3位35103 2位1．1．3 記錄數(shù)值有效位數(shù)選擇保留最后一位是可疑數(shù)字。就是以最小分度值為準(zhǔn)，再加一位。1．1．4 檢驗結(jié)果的有效位數(shù)確定 “試驗結(jié)果應(yīng)與技術(shù)要求的量值的有效位數(shù)一致”。1．1．5計算過程中有效位數(shù)確定A．加、減運(yùn)算 當(dāng)幾個數(shù)參與加、減運(yùn)算，以各數(shù)中(末)最大的數(shù)為準(zhǔn)，其余的數(shù)均比它多保留一位，多余位數(shù)應(yīng)舍去。計算結(jié)果的(末)，應(yīng)與參與運(yùn)算的數(shù)中(末)最大的那個數(shù)相同。若計算結(jié)果尚需參與下一步運(yùn)算，則可多保留一位。 例如：18．3Ω+1．4546Ω+0．876Ω→ 18．3Ω十1．45Ω+0．88Ω=20．63≈20．6Ω計算結(jié)果為20．6Ω。若尚需參與下一步運(yùn)算，則取20．63Ω。B．乘、除(或乘方、開方)運(yùn)算 在進(jìn)行數(shù)的乘除運(yùn)算時，以有效數(shù)字位數(shù)最少的那個數(shù)為準(zhǔn)，其余的數(shù)的有效數(shù)字均比它多保留一位。運(yùn)算結(jié)果(積或商)的有效數(shù)字位數(shù)，應(yīng)與參與運(yùn)算的數(shù)中有效數(shù)字位數(shù)最少的那個數(shù)相同。若計算結(jié)果尚需參與下一步運(yùn)算，則有效數(shù)字可多取一位。 例如：1．1 0．3268 0．10300 → 1．1 0．327 0．103 =0．0370 ≈ 0．037 計算結(jié)果為0．037m3。若需參與下一步運(yùn)算，則取0．0370 。C．常數(shù)：無限有效。1．2數(shù)據(jù)修約(GB8170)1．2．1數(shù)據(jù)修約的基本概念對某一擬修約數(shù)，根據(jù)保留數(shù)位的要求，將其多余位數(shù)的數(shù)字進(jìn)行取舍，按照一定的規(guī)則，選取一個其值為修約間隔整數(shù)倍的數(shù)(稱為修約數(shù))來代替擬修約數(shù)，這一過程稱為數(shù)據(jù)修約，也稱為數(shù)的化整或數(shù)的湊整。為了簡化計算，準(zhǔn)確表達(dá)測量結(jié)果，必須對有關(guān)數(shù)據(jù)進(jìn)行修約。修約間隔又稱為修約區(qū)間或化整間隔，它是確定修約保留位數(shù)的一種方式。修約間隔一般以k10n(k=1，2，5；，n為正、負(fù)整數(shù))的形式表示。人們經(jīng)常將同一k值的修約間隔，簡稱為“k”間隔。 修約間隔一經(jīng)確定，修約數(shù)只能是修約間隔的整數(shù)倍。例如：，修約數(shù)應(yīng)在0．1的整數(shù)倍的數(shù)中選取；若修約間隔為210n，修約數(shù)的末位只能是0，2，4，6，8等數(shù)字；若修約間隔為510n則修約數(shù)的末位數(shù)字必然不是“0”，就是“5”。 當(dāng)對某一擬修約數(shù)進(jìn)行修約時，需確定修約數(shù)位，其表達(dá)形式有以下幾種： ①指明具體的修約間隔； ②將擬修約數(shù)修約至某數(shù)位的0．1或0．2或0．5個單位； ③指明按“k”間隔將擬修約數(shù)修約為幾位有效數(shù)字，或者修約至某數(shù)位，有時“1” 間隔可不必指明，但“2”間隔或“5”間隔必須指明。1．2．2數(shù)據(jù)修約規(guī)則我國的國家標(biāo)準(zhǔn)GB8170—87《數(shù)值修約規(guī)則》，對“1”、“2”、“5”間隔的修約方法分別作了規(guī)定，但使用時比較繁瑣，對“2”和“5”間隔的修約還需進(jìn)行計算。下面介紹一種適用于所有修約間隔的修約方法，只需直觀判斷，簡便易行：①如果為修約間隔整數(shù)倍的一系列數(shù)中，只有一個數(shù)最接近擬修約數(shù)，則該數(shù)就是修約數(shù)。例1：將1．150001按0．1修約間隔進(jìn)行修約。1．1 為修約間隔0．1的11倍1．2 為修約間隔0．1的12倍)，1．2最接近擬修約數(shù)，因此1．2就是修約數(shù)。例2： 將1．015修約至十分位的0．2個單位。1．00 為 0．02的50倍1．02 為 0．02的51倍1．02最接近擬修約數(shù)，因此1．02就是修約數(shù)。例3：將1．2505按“5”間隔修約至十分位。1．0 1．5 只有1．5最接近擬修約數(shù)1．2505②如果為修約間隔整數(shù)倍的一系列數(shù)中，有連續(xù)的兩個數(shù)同等地接近擬修約數(shù)，則這兩個數(shù)中，只有為修約間隔偶數(shù)倍的那個數(shù)才是修約數(shù)。例4： 將1150按100修約間隔修約。 1．11031．2103同等地接近1150，因為1．1103是修約間隔100的奇數(shù)倍(11倍)，只有1．2103是修約間隔100的偶數(shù)倍(12倍)，因而1．2103是修約數(shù)。例5：將1．500按0．2修約間隔修約。1．41．6同等地接近擬修約數(shù)1．500，因為1．4是修約間隔0．2的奇數(shù)倍(7倍)，所以不是修約數(shù)，而只有1．6是修約間隔0．2的偶數(shù)倍(8倍)，因而才是修約數(shù)。例6：將1．025按“5”間隔修約到3位有效數(shù)字，1．001．051．05是修約間隔0．05的奇數(shù)倍(21倍)，而1．00是修約間隔0．05的偶數(shù)倍 (20倍)。③在進(jìn)行修 約時還應(yīng)注意：不要多次連續(xù)修約(例如：12．251→12．25→12．2)，因為多次連續(xù)修約會產(chǎn) 生累積不確定度。④在有些特別規(guī)定的情況(如考慮安全需要等)下，最好只按一個方向(如只進(jìn))修約。1．3極限數(shù)值的表示方法和判定方法(GB125089)產(chǎn)品標(biāo)準(zhǔn)編寫時對規(guī)定的指標(biāo)、參數(shù)要規(guī)定極限數(shù)值。檢測結(jié)果如何按標(biāo)準(zhǔn)規(guī)定的指標(biāo)、參數(shù)要規(guī)定極限數(shù)值判定。在判定檢測數(shù)據(jù)是否符合標(biāo)準(zhǔn)要求時，應(yīng)將檢驗所得的測定值與標(biāo)準(zhǔn)規(guī)定的極限數(shù)值作比較，比較的方法有兩種：修約
環(huán)評公示相關(guān)推薦
鄂ICP備17016276號-1