《數(shù)值計(jì)算的誤差》ppt課件(文件)
【正文】 。 第一章 緒論例 設(shè)有三個(gè)近似數(shù)它們都有三位有效數(shù)字。兩個(gè)二進(jìn)制數(shù)作算術(shù)運(yùn)算時(shí)，對計(jì)算結(jié)果也要作類似 的舍入處理，使得尾數(shù)為 位，從而也有舍入誤差。 這里整數(shù) m稱為 階碼 ，用二進(jìn)制表示為 或1 , S是階的位數(shù)。 S和 t與具體的機(jī)器有關(guān)。因此有必要對計(jì)算機(jī)數(shù)的浮點(diǎn)表示方法和舍入誤差有一個(gè)初步的了解。 計(jì)算機(jī)中數(shù)的表示和舍入誤差 任意一個(gè)非零實(shí)數(shù)用（ ）表示，是規(guī)格化的十進(jìn)制科學(xué)記數(shù)方法。Ax 第一章 緒論其中 可以得到函數(shù)值的一個(gè)近似誤差界： 對 n元函數(shù) ，自變量 的近似值分別為 ，則有特別地，對 有同樣，可以得到 第一章 緒論解 這里 并且有 于是有誤差界相對誤差界 例 設(shè)有長為 ,寬為 的某場地。則 至少具 位有效數(shù)字。下面，我們給出相對誤差界與有效數(shù)字的關(guān)系。如果則稱 為 的具有 位 有效數(shù)
教學(xué)課件相關(guān)推薦
鄂ICP備17016276號-1