gb數(shù)值修約ppt課件-資料下載頁(yè)
2025-05-05 12:14本頁(yè)面
【正文】 四、數(shù)值運(yùn)算規(guī)則 ? 在一個(gè)具體的測(cè)量過(guò)程中，一般都要經(jīng)過(guò) 多個(gè) 測(cè)量的環(huán)節(jié)，而每個(gè)測(cè)量的環(huán)節(jié)都有具體的測(cè)量數(shù)據(jù)，如砂子表觀密度測(cè)定時(shí)稱量比重瓶與水、試樣的總質(zhì)量，傾出試樣后稱量瓶與水的質(zhì)量；滴定試驗(yàn)時(shí)滴定前滴定管的初始讀數(shù)與滴定至終點(diǎn)時(shí)，溶液體積的讀數(shù)等。 這些測(cè)量所得的數(shù)據(jù)，在參與測(cè)量結(jié)果計(jì)算的過(guò)程中，若要修約應(yīng)怎么修約 ， 計(jì)算得到的結(jié)果怎么修約就是運(yùn)算法則所要解決的問(wèn)題。 6. 方差和標(biāo)準(zhǔn)偏差 ? ? 幾個(gè)數(shù)相加減的結(jié)果，經(jīng)修約后保留有效數(shù)字的位數(shù)，取決于絕對(duì)誤差最大的數(shù)值，計(jì)算結(jié)果應(yīng)以絕對(duì)誤差最大（即小數(shù)點(diǎn)后位數(shù)最少）的數(shù)據(jù)為基準(zhǔn)，來(lái)決定計(jì)算結(jié)果數(shù)據(jù)的位數(shù)。 ? 在實(shí)際運(yùn)算過(guò)程中，各數(shù)值保留的位數(shù)比各數(shù)值中小數(shù)點(diǎn)后位數(shù)最少者多保留一位小數(shù)，而計(jì)算結(jié)果有效數(shù)字的位數(shù)應(yīng)與效數(shù)最少的一數(shù)相同。 ? 例如 +=? ? 按上述規(guī)測(cè)計(jì)算如下： ? +≈+= ? 最后計(jì)算結(jié)果保留一位小數(shù)，為 。 ? ?幾個(gè)數(shù)據(jù)的乘除運(yùn)算以相對(duì)誤差最大（即有效數(shù)字位數(shù)最少 ）的數(shù)值為基準(zhǔn)來(lái)決定結(jié)果數(shù)據(jù)的位數(shù)。 ?在實(shí)際運(yùn)算中，先將各數(shù)值修約至比有效數(shù)字位數(shù)最少者多保留一位有效數(shù)字運(yùn)算，計(jì)算結(jié)果的有效數(shù)字的位數(shù)與有效數(shù)字位數(shù)最少的數(shù)值相同。 （與小數(shù)點(diǎn)位置無(wú)關(guān)） ?例如， ≈ = 三個(gè)參與運(yùn)算的數(shù)值的有效數(shù)字位數(shù)分別為六位、三位、六位，所以最終計(jì)算結(jié)果用三位有效數(shù)字表示，為 415或 102。 ? ?乘方或開(kāi)方時(shí)，原數(shù)值有幾位有效數(shù)字，計(jì)算結(jié)果就可以保留幾位有效數(shù)字。若計(jì)算結(jié)果還要參與運(yùn)算，則乘方或開(kāi)方所得結(jié)果可比原數(shù)值多保留一位有效數(shù)字。 ?例如： =，運(yùn)算結(jié)果保留三位有效數(shù)字，為 。 ? ，運(yùn)算結(jié)果保留三位有效數(shù)字為 。若原結(jié)果還要參與進(jìn)一步運(yùn)算，則先保留為 。 . ..5 0 5 9 9 2 ?? ? 在數(shù)值對(duì)數(shù)計(jì)算時(shí)，所取對(duì)數(shù)的小數(shù)點(diǎn)后的位數(shù)（不包括首數(shù)）應(yīng)與真數(shù)的有效數(shù)字位數(shù)相同。換言之，對(duì)數(shù)有效數(shù)字的位數(shù)，只計(jì)小數(shù)點(diǎn)以后的數(shù)字的位數(shù)，而不計(jì)對(duì)數(shù)的整數(shù)部分。 ? 例如： log（ ） = log（ 102） = … 。 ? 最后結(jié)果應(yīng)為 ，結(jié)果的有效數(shù)字位數(shù)是五位（小數(shù)后位數(shù)）而不是六位（整數(shù)位數(shù)加小數(shù)位數(shù)），因整數(shù)部分只說(shuō)明該數(shù)的 10的方次。 ? 計(jì)算幾個(gè)數(shù)值的平均值時(shí)，先將計(jì)算結(jié)果修約至比要求的位數(shù)多一位，再按數(shù)值修約規(guī)則處理。 ? 例如： 修約后平均值計(jì)算結(jié)果為 。 ? 方差和標(biāo)準(zhǔn)偏差在運(yùn)算過(guò)程中對(duì)中間結(jié)果不做修約，只將最后結(jié)果修約至要求的位數(shù)。 ??????x?注意 ： ? ① 在所有計(jì)算式中，常數(shù)（ π、 e等）以及非檢測(cè)所得的計(jì)算因子（倍數(shù)或分?jǐn)?shù)，如 等）的有效數(shù)字位數(shù)，可視為無(wú)限，需要幾位就取幾位。 ? ② 使用計(jì)算器（或電腦）進(jìn)行計(jì)算時(shí)，一般不對(duì)中間每一步驟的計(jì)算結(jié)果進(jìn)行修約，僅對(duì)最后的結(jié)果進(jìn)行修約，使其符合事先所確定的位數(shù)。 32
教學(xué)課件相關(guān)推薦
鄂ICP備17016276號(hào)-1