【正文】 形式來載荷。 ? 信息是可以存貯的。 信息論的研究內(nèi)容 ? 研究內(nèi)容： 基于通信系統(tǒng)模型，研究信息傳輸和處理的共同規(guī)律。 提出了公開密鑰密碼體制。 香農(nóng)（狹義）信息論的研究內(nèi)容 ? 研究內(nèi)容： 基于通信系統(tǒng)模型，研究信息傳輸和處理的共同規(guī)律。 信道編碼 成為信息論重要分支。 信道譯碼器 ：利用信道編碼時所提供的多余度，檢查或糾正數(shù)字序列中的錯誤。 ? 信息的度量通過對不確定性的度量來進(jìn)行。 該定義未考慮收信者的主觀特征和主觀意義。 ? 缺陷： 把信息與物質(zhì)及能量混為一談。 ? 舉例： 哈特萊信息定義。 信息的概念 信息的定義 ? 信息定義舉例： 從本質(zhì)層次上定義： 信息是事物相互作用的表現(xiàn)形式。 信息是通信傳輸?shù)膬?nèi)容。 ??nii12哈特萊信息定義 ? 哈特萊信息定義的局限性： 他所定義的信息不涉及內(nèi)容和價值，只考慮選擇的方式； 沒有考慮到信源的統(tǒng)計性質(zhì)； 把信息理解為選擇的方式，就必須有一個選擇的主體作為限制條件。 信息量與不確定性消除的程度有關(guān)。 信號攜帶信息，但不是信息本身。 信息論研究的對象、目的和內(nèi)容 ? 通信系統(tǒng)框圖 （發(fā)送者） 信道 信宿 信源 干擾或噪聲 消息 （接收者） 信息論的研究對象 ? 通信系統(tǒng)模型 編碼器 信道 譯碼器 信宿 噪聲源 信源 通信系統(tǒng)模型組成 ? 信源 ： 產(chǎn)生消息和消息序列的來源。 1924年， Nyquist提出信息傳輸理論； 1928年， Hartley提出信息量關(guān)系 1946年，柯切尼柯夫提出信號檢測理論； ? 1948年， Shannon提出信息論， “ 通信中的數(shù)學(xué)理論 ” ， 標(biāo)志著信息論學(xué)科誕生 。 ? 維納信息論 ：對量子檢測和估計理論、非參數(shù)檢測和估計理論以及非線性檢測與估計理論的研究。 ? 信息 ：是事物運(yùn)動狀態(tài)或存在形式的不確定性的描述。 信息論的發(fā)展過程 ? 五十年代：信息論在學(xué)術(shù)界引起了巨大反響。 信源編碼器 ：將信源的輸出進(jìn)行適當(dāng)?shù)淖儞Q，以提高信息傳輸?shù)挠行浴? 同一信號也可表示不同的信息。 香農(nóng)信息定義 ? 香農(nóng)信息定義的優(yōu)點： 它是一個科學(xué)的定義，有明確的數(shù)學(xué)模型和定量計算。 維納信息定義 ? 1948年，維納在 《 控制論 —— 動物和機(jī)器中通信與控制問題 》 中給出了對信息的描述。 信息是使概率分布發(fā)生變動的東西。 Without materials, there is nothing. Without energy, nothing happens. Without information, nothing makes sense . 沒有 物質(zhì) 的世界是 虛無 的世界； 沒有 能源 的世界是 死寂 的世界； 沒有 信息 的世界是 混亂 的世界。 信息是系統(tǒng)組織程度的度量。 接收信息和使用信息的過程，就是我們適應(yīng)外界環(huán)境的偶然性的過程，也是我們在這個環(huán)境中有效地生活的過程。但在實際中的某些事物運(yùn)動狀態(tài)很難找到合適的模型。 ? 是事物運(yùn)動狀態(tài)或存在形式的 不確定性 的 描述。 通信系統(tǒng)模型組成 ? 噪聲源 ：對傳輸信道或存儲媒介構(gòu)成干擾或噪聲的來源的總稱。