數(shù)值分析全套課件-wenkub
2022-09-02 19:12:00 本頁面
【正文】 ?一臺微機(jī)價(jià)格 :￥ , 浮點(diǎn)數(shù)表示 : 104 ?地球半徑 : 6378137m, (+006) 浮點(diǎn)數(shù)表示 : 107 ?光速 : +008 浮點(diǎn)數(shù)表示 : 109 尾數(shù)部 階碼部 8/16 其中 ,正負(fù)號占 2個(gè)位 ,尾數(shù)占 52個(gè)位 ,階碼占10個(gè)位 .對應(yīng)十進(jìn)制數(shù)字長 15,階碼 308 mnbbbx 121 ??? ??尾數(shù)部 階碼部 二進(jìn)制數(shù) 2m ( – 4≤ m ≤ 3 )分布實(shí)驗(yàn) ?二進(jìn)制浮點(diǎn)數(shù)表示 (IEEE754雙精度 ) 9/16 0 1 2 3 4 5 6 7 有效數(shù)字概念 : 取 ? 的有限位數(shù)如下 (? ≈) 取 x1 = 3， 誤差限不超過 ?？茖W(xué)計(jì)算的背景 關(guān)于計(jì)算誤差討論 浮點(diǎn)數(shù)與有效數(shù)字 算術(shù)運(yùn)算的誤差估計(jì) 《 數(shù)值分析 》 1 ? ? ? ? von Neumann and Goldstine：“ 高階矩陣的數(shù)值求逆 ” (1947年 ) ?數(shù)值分析 ——研究用計(jì)算機(jī)求解 ?1958年 , 前蘇聯(lián)載人飛船 ?1969年 , 美國 Apollo 登月 ?1994年 , 美國 GPS運(yùn)行 2/16 數(shù)學(xué)問題的數(shù)值計(jì)算方法及其理論 方程組求解、方程求根、數(shù)據(jù)插值、 數(shù)據(jù)擬合、數(shù)值積分、微分方程求解 von Neumann 引例 : 圓內(nèi)接正多邊形邊長計(jì)算 Pi方法 (amp。
語文相關(guān)推薦
鄂ICP備17016276號-1