信息論總結(jié)與復(fù)習(xí)ppt課件-閱讀頁(yè)
2025-05-21 02:45本頁(yè)面
【正文】 碼效率。也就是（ 3）的結(jié)果。 第三部分、信道編碼 信道編碼理論 (2)在上面最佳信源分布下，按最大似然譯碼準(zhǔn)則確定其譯碼規(guī)則，并計(jì)算錯(cuò)誤概率。信道容量為： C=logSH(p1, p2, p3)=log3 = = bit/符號(hào) （ 2）譯碼規(guī)則 : F(b1)=a1 。 F(b3)=a3 。 ? 左半邊是 k k單位信息位方陣 Ik ? 右半邊是 k r的監(jiān)督位矩陣 Q 第三部分、信道編碼 線性分組碼 糾錯(cuò)和譯碼 H一致校驗(yàn)矩陣 ? 左半邊是 r k矩陣 P ? 右半邊是 r r單位方陣 Ir； ? P與生成矩陣中的 Q互為轉(zhuǎn)置關(guān)系： P=QT 監(jiān)督方程也可表示為： C 第三部分、信道編碼 線性分組碼 N 維錯(cuò)誤格式矢量 E 發(fā)送碼字為 C，接收碼字為 R ， 三者的關(guān)系是： E = C ?R； R = C ? E； C =R ? E； 伴隨子向量 S = RHT = (C ? E) HT ? EHT； ? 若 R = C， E為全零向量，則 S=0； ? 反之，若 R ≠ C ，則 E≠0，導(dǎo)致 S≠0；因此由伴隨子向量 S是否為零就能檢查出接收碼 R是否有誤。 ? R錯(cuò)兩位以上：查表法， 查 RC對(duì)照來(lái)譯碼。 漢明碼：糾 1位錯(cuò)的完備碼， 2r =1+n 第三部分、信道編碼 線性分組碼 第四部分、限失真信源編碼 第四部分、限失真信源編碼 失真度 平方失真： 絕對(duì)失真： 相對(duì)失真： 漢明失真： 失真度的定義 平均符號(hào)失真度： 第四部分、限失真信源編碼 ：率失真函數(shù) 率失真函數(shù) 保真度準(zhǔn)則： 預(yù)先指定一個(gè)允許失真的上限值 D，叫做 保真度 ，要求： 失真度矩陣 D： 由 單符號(hào)失真度排列成， “行”為發(fā)送符號(hào)，“列”為接收符號(hào)。 R(D)的定義域： R(D)的計(jì)算： R(Dmin) = R(0)= H(U) R (D max) = 0 （ 1）一般情況，按定義： （ 2）特殊情況，漢明失真： R(D)=min{I (U 。 解： 由漢明失真的率失真函數(shù)公式： R(D)=H(X)H(D)Dlog(r1) H(X)== 當(dāng) D= ， H(D)== 最小傳信率： R()==； 所以 D max = min [ , , ]= 計(jì)算 Dmax： ↓ ↓ ↓ ? ? ? 各列相加 第四部分、限失真信源編碼 ：率失真函數(shù) 第四部分、限失真信源編碼 ：香農(nóng)三定理 香農(nóng)三個(gè)定理： 三個(gè)定理各有自己管轄的范圍，各指出信息率的一個(gè)理論極限： 第一定理 負(fù)責(zé)無(wú)失真信源編碼； 用信息含量更濃的代碼序列代替原先有冗余的信源序列。 第二定理 負(fù)責(zé)信道編碼； 信道編碼通過(guò)添加冗余來(lái)檢錯(cuò)糾錯(cuò)，結(jié)果差錯(cuò)減少而傳信率降低。 第三定理 負(fù)責(zé)限失真信源編碼； 通過(guò)削減次要信息使傳信率降低。 第五部分、典型題目 計(jì)算題： 1． 一階馬爾可夫信源的狀態(tài)圖如右，信源 X的符號(hào)集為{0,1,2}，圖中 。 解 ： (1) 一階馬爾可夫信源 ， 狀態(tài)為單個(gè)符號(hào) ， 信源符號(hào)集為 X={0,1,2}，E1=0,E2=1,E3=2,穩(wěn)態(tài)概率滿(mǎn)足 ： Q(0)=p Q(0)＋ (1p) Q(1) Q(1)=p Q(2)＋ (1p)Q(1) 且 ， Q(0)+Q(1)＋ Q(2)＝ 1 解方程： Q(0)＝ 1/3； Q(1)＝ 1/3； Q(2)＝ 1/3； (2) (3) 實(shí)際信源熵為 H∞。三種狀態(tài)下發(fā)出符號(hào)的自信息均為 0，平均值也一定為 0。 a、 b兩個(gè)符號(hào) ， 概率分別為 ， 試用 三次擴(kuò)展信源 進(jìn)
教學(xué)課件相關(guān)推薦
鄂ICP備17016276號(hào)-1