數(shù)值計算的誤差ppt課件(參考版)
2025-05-03 18:23本頁面
【正文】 。 S和 t與具體的機器有關(guān)。 這里整數(shù) m稱為 階碼 ，用二進制表示為 或1 , S是階的位數(shù)。因此有必要對計算機數(shù)的浮點表示方法和舍入誤差有一個初步的了解。兩個二進制數(shù)作算術(shù)運算時，對計算結(jié)果也要作類似 的舍入處理，使得尾數(shù)為 位，從而也有舍入誤差。 計算機中數(shù)的表示和舍入誤差 任意一個非零實數(shù)用（ ）表示，是規(guī)格化的十進制科學記數(shù)方法。 第一章 緒論例 設(shè)有三個近似數(shù)它們都有三位有效數(shù)字。Ax 第一章 緒論其中 可以得到函數(shù)值的一個近似誤差界： 對 n元函數(shù) ，自變量 的近似值分別為 ，則有特別地，對 有同樣，可以得到 第一章 緒論解 這里 并且有 于是有誤差界相對誤差界 例 設(shè)有長為 ,寬為 的某場地。 第一章 緒論 例 已知近似數(shù) 的相對誤差界為 %，問 至少有幾位有效數(shù)字？ 函數(shù)求
教學課件相關(guān)推薦
鄂ICP備17016276號-1