【正文】 12 qppp ??P10 ???)()1()(])1([ 2121 PPPP HHH ???? ?????? 信源的數學模型及分類 離散、連續(xù)信源 平穩(wěn)、非平穩(wěn)信源 有記憶、無記憶信源 ? 自信息量 定義、特點、計算公式 ? 信息熵 定義、計算及性質 例題 小結 。39。 例題 甲地天氣預報提供的平均信息量（信息熵） （比特） 乙地天氣預報提供的平均信息量（信息熵） （比特） 甲地極端情況 1的信息熵 （比特） 甲地極端情況 2的信息熵 （比特） 同樣乙地的兩極端情況的信息熵分別為 與 o g81l o g81l o g41l o g21)(l o g)()( 8181412141????????? ??iii aPaPXH o g81l o g87)(l o g)()( 818741?????? ??iii aPaPYH01log1)( ???XH241lo g414)( ????XH0)( ?YH 1)( ?YH信息熵的基本性質 概率矢量： 熵函數： 基本性質 對稱性、確定性、非負性、擴展性、 可加性、強可加性、遞增性、極值性、上凸性 )(),(l o g)(l o g)()( 2111PHpppHppaPaPXH qiqiiiqii ?????? ?????),())(,),(),(( 2121 qq pppaPaPaP ?? ??P1) 信息熵的對稱性