信息論講義-第一章(更新版)
【正文】 討論 :隨機現(xiàn)象與信息 在一定條件下可能出現(xiàn)也可能不出現(xiàn) 的現(xiàn)象 稱為隨機現(xiàn)象 . 實例 1 “在相同條件下擲一枚均勻的硬幣 ,觀 察正反兩面出現(xiàn)的情況” . 2. 隨機現(xiàn)象 “函數(shù)在間斷點處不存在導(dǎo)數(shù)” 等 . 結(jié)果有可能 出現(xiàn)正面 也可能 出現(xiàn)反面 . 確定性現(xiàn)象的特征 條件完全決定結(jié)果 討論 :隨機現(xiàn)象與信息 結(jié)果有可能為 : “1”, “2”, “3”, “4”, “5” 或 “ 6”. 實例 3 “拋擲一枚骰子 ,觀 察出現(xiàn)的點數(shù)” . 實例 2 “用同一門炮向同 一目標發(fā)射同一種炮彈多 發(fā) , 觀察彈落點的情況” . 結(jié)果 : “彈落點會各不相同 ” . 討論 :隨機現(xiàn)象與信息 實例 4 “從一批含有正品和次品的產(chǎn)品中任意抽取一個產(chǎn)品” . 其結(jié)果可能為 : 正品 、 次品 . 實例 5 “過馬路交叉口時 , 可能遇上各種顏色的交通 指揮燈” . 討論 :隨機現(xiàn)象與信息 實例 6 “出生的嬰兒可 能是 男 ,也可能是 女 ” . 實例 7 “明天的天氣可 能是 晴 , 也可能是 多云 或 雨 ”等都為隨機現(xiàn)象 . 隨機現(xiàn)象的特征 概率論就是研究隨機現(xiàn)象規(guī)律性的一 門數(shù)學(xué)學(xué)科 . 條件不能完全決定結(jié)果 討論 :隨機現(xiàn)象與信息 2. 隨機現(xiàn)象在一次觀察中出現(xiàn)什么結(jié)果具有 偶然性 , 但在大量試驗或觀察中 , 這種結(jié)果的出現(xiàn)具有一定的統(tǒng)計 規(guī)律性 , 概率論就是研究隨機現(xiàn)象這種本質(zhì)規(guī)律的一門數(shù)學(xué)學(xué)科 . 隨機現(xiàn)象是通過隨機試驗來研究的 . 問題 什么是隨機試驗 ? 如何來研究隨機現(xiàn)象 ? 說明 1. 隨機現(xiàn)象揭示了條件和結(jié)果之間的非確定性聯(lián)系 , 其數(shù)量關(guān)系無法用函數(shù)加以描述 . 1. 可以在相同的條件下重復(fù)地進行 。 信息不是物質(zhì) ，信息是事物的表征，是對 物質(zhì)存在狀態(tài)和運動形式 的一般描述。 信息概念十分廣泛，由于信息科學(xué)比起其他學(xué)科（如物理學(xué)、化學(xué)、數(shù)學(xué)）還很年輕，人類對信息的認識還很不夠。 主要應(yīng)用于通信領(lǐng)域，主要內(nèi)容 ① 信源編碼理論與方法 ② 信道編碼理論與方法 ③ 信號檢測、估計理論與方法 ④ 保密學(xué) ⑤ 通信網(wǎng) 廣義信息論（信息科學(xué)） 70年代以后，隨著 VLSI和計算機技術(shù)的廣泛應(yīng)用，信息存儲和處理能力不斷提高，建立了更具一般性的廣義信息論 ? 信息科學(xué) 主要內(nèi)容： ① 經(jīng)典信息論和工程信息論 ② 模式識別 ③ 計算機翻譯 ④ 神經(jīng)網(wǎng)絡(luò) ⑤ 心理學(xué)與遺傳學(xué) ⑥ 語言學(xué)與語義學(xué) 信息的概念 信息 是信息論中最基本、最重要的概念，是一個既復(fù)雜又抽象的概念。 例如 : 某人收到一條消息 ① 包含許多原來不知道的 新 內(nèi)容 ?信息量 大 ② 包含許多原來已知道的 舊 內(nèi)容 ?信息量 小 廣義 的信息概念 物質(zhì)、能量和信息是構(gòu)成客觀世界三大要素，信息是 物質(zhì)和能量 在 空間和時間 中分布的 不均勻程度 。通常消息是有語義的，即它按某種關(guān)系與某些物質(zhì)概念的實體聯(lián)系著。 消息 ： 比較具體 ，但 不是 物理量；具有不同形式，例如 語言、文字、符號、圖像 等能夠被人感知；可以 傳輸 并被通信雙方 理解 ；同一消息含有 不同信息 ；同一信息可用 不同消息載荷
教學(xué)課件相關(guān)推薦
鄂ICP備17016276號-1