香農(nóng)三大定理(參考版)
2024-08-16 17:28本頁面
【正文】 ({m in)( )|( VUIDRDij PuvP ??香農(nóng)第三定理（ 保真度準則下的信源編碼定理 ） R ≥ R(D) 。 )()(0 XHDR ??2） R(D)在實際工程中可以作為衡量各種壓縮編碼方法性能 優(yōu)劣的一種標尺。({m in)( )|( VUIDRDij PuvP ??0 P(v|u) I(U。 香農(nóng)第二定理（ 有噪信道編碼定理 ） AWGN 1)Turbo碼： 1/2碼率， BPSK， 65536隨機交織， 18次迭代， Pe=105, Eb/N0 = 2)非規(guī)則 LDPC碼： N = 107, 1/2碼率， Pe=105, Eb/N0 = 香農(nóng)進一步證明： R=C時，任意小的差錯概率也是可以達 到的。 定理僅指出編碼的存在性，未給出編碼的具體方法。 表述二 ： 若在信息傳輸率 R不大于信道容量 C（即 R≤ C），則存在一種編碼，當碼長 n足夠大時，它可以使信道輸出端的錯誤概率任意小，而信息傳輸率無限接近 C；如果 RC，則不可能找到一種編碼，使輸出端錯誤概率任意小。 香農(nóng)第一定理（ 可變長無失真信源編碼定理 ） 信息論與編碼基礎 香農(nóng)三大定理 簡介 總結： 信源編碼器模型 性能指標 香農(nóng)第一定理（ 無失真信源編碼定理 ） 平均碼長、信息傳輸率、編碼效率 0 1 2 3 4 5 6 7 0 1 2 3 4 5 6 7 Yt Yt+1 a(t)={101001011000001100111011} b = {001242425124366675013666} 信息論與編碼基礎 香農(nóng)三大定理 簡介 一、香農(nóng)第一定理 二、香農(nóng)第二定理 三、香農(nóng)第三定理 有效性 可靠性 矛盾 X 信息論與編碼基礎 香農(nóng)三大定理 簡介 錯誤概率 誤碼率 誤字率 1p p p 1p a1=0 p(a1) = ω a2=1 p(a2) = 1ω b1=0 b2=1 p = PE = P(a1)P(b2|a1)+P(a2)P(b1|a2) = ωp + (1ω)p = 錯誤概率與那些因素相關？ 信息論與編碼基礎 香農(nóng)三大定理 簡介 常用判決準則 a、 MAP準則（ Maximum a Posteriori） )|()|( * RCPRCP ??對于所有的 C?*CC ??)()|()()()|()( **RPCRPCPRPCRPCP ???信息論與編碼基礎 香農(nóng)三大定理 簡介 b、 ML準則（ Maximum Likelihood） 若輸入符號等概時 rCP1)( ?)|()|( * CRPCRP ??)()()|()|(**CPCPCRPCRP ?????似然比 常用判決準則 a、 MAP準則（ Maximum a Posteriori） 信息論與編碼基礎 香農(nóng)三大定理 簡介 例 1 重復編碼 BSC的三次 擴展信道 1 000? ?2 111? ?1000 ??2022 ??3010 ??4011 ??5100 ??6101 ??7110 ??8111 ??(n,1) 3 1 2 43 3 10 p C pp p?? ? ? ? ? ?信息論與編碼基礎 香農(nóng)三大定理 簡介 3 1 2 43 3 10 p C pp p??
化學相關推薦
鄂ICP備17016276號-1