信息論期末總結(jié)-資料下載頁(yè)
2025-06-24 05:23本頁(yè)面
【正文】 中，對(duì)前N個(gè)隨機(jī)變量的聯(lián)合熵求平均稱(chēng)為平均符號(hào)熵如果當(dāng) 時(shí)上式極限存在，則 被稱(chēng)為熵率，或極限熵，記為 l 離散平穩(wěn)無(wú)記憶信源的N次擴(kuò)展信源的熵等于離散單符號(hào)信源熵的N倍： 對(duì)于馬氏鏈 符號(hào)間相關(guān)性越大，熵越小。l 熵的相對(duì)率l 信道的數(shù)學(xué)模型為{X, P(Y|X),Y}二元對(duì)稱(chēng)信道輸入符號(hào)集A={0,1}, 輸出符號(hào)集B={0,1}，r＝s＝2．傳遞概率： 二元?jiǎng)h除信道輸入符號(hào)集A={0,1}，符號(hào)輸出集B={0,?,1}，r=2, s=3 l 平均互信息：例3：求二元?jiǎng)h除信道的 已知信道容量例4 以二元對(duì)稱(chēng)信道。信源的概率空間為信道矩陣為 求信道容量？一個(gè)輸入對(duì)應(yīng)多個(gè)輸出一個(gè)輸出對(duì)應(yīng)多個(gè)輸入輸入、輸出之間有確定的一一對(duì)應(yīng)關(guān)系。 定義1 ： 若信道矩陣P中每行都是第一行的排列，則稱(chēng)此信道是行對(duì)稱(chēng)信道。定義2：若信道矩陣中每行都是第一行的排列，并且每列都是第一列的排列， 則稱(chēng)之為對(duì)稱(chēng)信道。 定義3：雖然不是對(duì)稱(chēng)信道，但是信道矩陣可以按列分為一些對(duì)稱(chēng)的子陣，則稱(chēng)之為準(zhǔn)對(duì)稱(chēng)信道。定義4： 若r=s，且對(duì)于每一個(gè)輸入符號(hào)，正確傳輸概率都相等，且錯(cuò)誤傳輸概率 p 均勻地分配到 r1 個(gè)符號(hào)，則稱(chēng)此信道為強(qiáng)對(duì)稱(chēng)信道或均勻信道。
公司管理相關(guān)推薦
鄂ICP備17016276號(hào)-1