數(shù)值計算的誤差ppt課件-資料下載頁
2025-04-30 18:23本頁面
【正文】 數(shù)它們都有三位有效數(shù)字。試計算 的誤差界，并問 的計算結果能有幾位有效數(shù)字？ 解 于是有誤差界 相對誤差界因為 所以 能有兩位有效數(shù)字。 計算機中數(shù)的表示和舍入誤差 任意一個非零實數(shù)用（ ）表示，是規(guī)格化的十進制科學記數(shù)方法。在計算機中通常采用二進制的數(shù)系（或其變形的十六進制等），并且表示成與十進制類似的規(guī)格化形式，即浮點形式 第一章 緒論 十進制輸入計算機時轉(zhuǎn)換成二進制，并對 位后面的數(shù)做舍入處理，使得尾數(shù)為 位，因此一般都有舍入誤差。兩個二進制數(shù)作算術運算時，對計算結果也要作類似 的舍入處理，使得尾數(shù)為 位，從而也有舍入誤差?！ ?在實現(xiàn)計算時，計算的最后結果與計算的精確解之間的誤差，從根本上說是由機器的舍入誤差造成的，包括輸入數(shù)據(jù)和算術運算的舍入誤差。因此有必要對計算機數(shù)的浮點表示方法和舍入誤差有一個初步的了解。有時為了分析某一個計算方法可能出現(xiàn)的誤差現(xiàn)象，為了適應人們的習慣，我們會采用十進制實數(shù)系統(tǒng)進行誤差分析。 這里整數(shù) m稱為 階碼 ，用二進制表示為 或1 , S是階的位數(shù)。小數(shù) 稱為 尾數(shù) ，其中 或 t是尾數(shù)部位的位數(shù)。 S和 t與具體的機器有關。由于計算機的字長總是有限位的，所以計算機所能表示的數(shù)系是一個特殊的離散集合，此集合的數(shù)稱為 機器數(shù)
教學課件相關推薦
鄂ICP備17016276號-1