信源的相關(guān)性和剩余度-展示頁
2025-05-24 05:55本頁面
【正文】 熵才達(dá)到最大。 由于信源符號間的依賴關(guān)系使信源的熵減小。這時，可用信源的平均自信息量 H1=H(X)來近似。那么，進(jìn)一步可以假設(shè)它是 m階馬爾可夫信源，用 m階馬爾可夫信源的平均信息熵 H(m+1)來近似。第 9講 離散信源的剩余度及其應(yīng)用 剩余度 應(yīng)用 冗余度 (剩余度 ) 實際的離散信源可能是非平穩(wěn)的，對于非平穩(wěn)信源來說，其 H∞ 不一定存在，但可以假定它是平穩(wěn)的，用平穩(wěn)信源的 H∞來近似。 然而，對于一般平穩(wěn)的離散信源，求 H∞值也是極其困難的。 再進(jìn)一步簡化信源，即可假設(shè)信源是無記憶信源，而信源符號有一定的概率分布。 最后，可以假定是等概分布的無記憶離散信源，用最大熵 H0=logM來近似。它們的前后依賴關(guān)系越長，信源的熵越小。 也就是說， 信源符號之間依賴關(guān)系越強(qiáng)，平均每個符號提供的信息量就越小。為此，我們引進(jìn) 信源的冗余度（也叫剩余度或多余度）來 衡量信源的相關(guān)性程度 。但實際上我們對它的概率
研究報告相關(guān)推薦
鄂ICP備17016276號-1