數(shù)值分析全套課件(編輯修改稿)
2024-09-01 19:12 本頁面
【文章內(nèi)容簡介】 107 ?光速 : +008 浮點數(shù)表示 : 109 尾數(shù)部 階碼部 8/16 其中 ,正負(fù)號占 2個位 ,尾數(shù)占 52個位 ,階碼占10個位 .對應(yīng)十進(jìn)制數(shù)字長 15,階碼 308 mnbbbx 121 ??? ??尾數(shù)部 階碼部 二進(jìn)制數(shù) 2m ( – 4≤ m ≤ 3 )分布實驗 ?二進(jìn)制浮點數(shù)表示 (IEEE754雙精度 ) 9/16 0 1 2 3 4 5 6 7 有效數(shù)字概念 : 取 ? 的有限位數(shù)如下 (? ≈) 取 x1 = 3， 誤差限不超過 。 取 x2 = ,誤差限不超過 。 若近似值 x 的絕對誤差限是某一位上的半個 單位，該位到 x 的第一位非零數(shù)字一共有 n 位，則稱近似值 x 有 n 位有效數(shù)字 . 取 x3 = ,誤差限不超過 。 10/16 mnaaax 100 21 ??? ?.nmxxxe ?? ???? 1021)(nr axe??? 1051)(一個有 n 位有效數(shù)字的數(shù) 絕對誤差限滿足 ： 相對誤差限滿足 ： 11/16 例 1 已知 的十進(jìn)制浮點數(shù)第一位是 5，要使近似值的相對誤差限小于 %， 問浮點數(shù)的有效數(shù)字的位數(shù)至少應(yīng)該為多少 ？ 解 : a1=5,利用不等式 nnr axe?? ??? 101051|)(|所以 ,浮點數(shù)的有效數(shù)字位數(shù)至
語文相關(guān)推薦
鄂ICP備17016276號-1