信息論與糾錯編碼有躁信道編碼教學課件ppt(文件)
【正文】 613121P解：由于輸入符號不是等概率分布，所以對于最小錯誤概率準則必須根據(jù)聯(lián)合概率的大小來選擇。 解 只知轉(zhuǎn)移概率， 無法找出最佳譯碼規(guī)則 ，只能采用 最大似然譯碼 規(guī)則。 71 0 1 ( 1)( , , , , , ) ,i i i i j i n i jV V V V V V F???矢量空間中矢量的關系 對于域 F上的若干矢量 線性組合 ： 線性相關 ： 其中任一矢量可表示為其它矢量的線性組合 線性無關 或 線性獨立 ：一組矢量中的任意一個都不可能用其它矢量的線性組合來代替 . 72 12, , , ikV V V V及1 1 2 2 , ( )k i i iV a V a V a V a F? ? ? ?1 1 2 2 0 , ( )i i ia V a V a V a F? ? ? ? 且 不 全 為 零矢量空間與基底 一組線性無關的矢量 ，其線性組合的 集合 就構(gòu)成了一個 矢量空間 V，這組矢量就是這個矢量空間的 基底 。 76 碼空間 77 消息 k長 (n , k) 碼字 n長 qk 種 分組編碼器 qn種 k維 k重矢量 n維 n重矢量 通常 qn qk，分組編碼的任務是要在 n維 n重矢量空間的 qn種可能組合中選擇其中的 qk個構(gòu)成一個 碼空間 ，其元素就是許用碼的 碼集 。 78 隨機編碼 編碼的分析設計途徑： ，即將代數(shù)、幾何、數(shù)論等理論運用到編解碼，如分組碼，卷積碼。 當 F?0 即 (NK)??時，能否讓平均差錯概率 ？ Gallager在 1965年推導了 的上邊界，并證明這個上邊界是按指數(shù)規(guī)律收斂的。 86 糾錯編碼的基本思路 R不變 ，信道容量大者其可靠性函數(shù) E(R)也大； C不變 ，碼率減小時其可靠性函數(shù) E(R)增大 。 85 E(R) ? C R 0 R0 45? E(R)和 R的關系曲線 信道編碼定理 正定理 ：只要傳信率 R小于信道容量 C，總存在一種信道碼（及解碼器），可以以所要求的任意小的差錯概率實現(xiàn)可靠的通信。 ? 用這種方法不能得知最優(yōu)碼是如何具體編出來的，卻能得知最優(yōu)碼可以好到什么程度，并進而推導出有擾離散信道的編碼定理，對指導編碼技術具有特別重要的理論價值。 確定由 k維 k重信息空間到 ｋ 維 n重碼空間的映射方法。 73 12, , , nV V V二元域 GF(2)上三重矢量空間 以（ 100）為基底可張成 一維三重 子空間 V1，含 21 =2 個元素，即 以 (010)(001)為基底可張成 二維三重 子空間 V2，含 22 =4個元素，即 以 (100)(010)(001)為基底可張成 三維三重 空間V,含 23 =8個元素， V1和 V2都是 V的子空間。但可以證明， 當信道輸入等概時，最大似然譯碼規(guī)則也是最佳的 。要想進一步減小錯誤概率，必須優(yōu)選信道編碼方法。 ?存在定理 ，它沒有給出一個具體可構(gòu)造的編碼方法，但有助于指導各種通信系統(tǒng)的設計，有助于評價各種系統(tǒng)及編碼的效率。當信息傳輸率 R≤C時，只要碼長足夠長，總可以在輸入符號集中 找到 M 個碼字組成的一組碼 和相應的譯碼準則 ，使信道輸出端的平均錯誤譯碼概率達到 任意小 。但并沒有給出編碼的具體方法。 ? ????Mjjeje pp1)( yy??? ??? ???MjkMiMjji pp11 1)()( yxyx ?? ? ??yx yyxxy )()( kpp? ??kpxx yxy )(? ?? ?????Mjkj11)( yxy ??? ? ? ? ? ? M j k j 1 ) ( 1 y x y ? ? （ 52）信道輸出 y而信道譯碼器估錯的概率，對 其兩邊求關于 y的統(tǒng)計平均值 ? ? ? ? ? ???? ????????? ??kikikkep yxyxyxxy ??? 1kk xx ??兩次求和 （ 54） 【 例 】 計算 [例 ]的平均錯誤概率，若信源等概分布，對其譯碼，并求平均錯誤概率。 53 [例 ]： BSC信道的最大似然譯碼可以簡化為最小漢明距離譯碼。 在實際應用中，一般按 最大信道轉(zhuǎn)移概率 來確定估值 ， 即在收到矢量 y后，在所有的 xm (m =1, 2, …, M) 中 ,選一個轉(zhuǎn) 移概率 p(y︱ xm)最大的 xm值 ，作為對 y的估值 = xk 。 01111000??????Ep??Ep 兩種常用譯碼規(guī)則 1． 最大后驗概率譯碼準則 在信源編碼完成之后 ， 發(fā)送碼矢 xk ， 其發(fā)送概率為 q(xk) ，通過信道轉(zhuǎn)移概率為 p(y︱ xk)的信道傳輸 ， 接收到矢量 y，信道譯碼器輸出 ： ,?kx? ?k?x信源 信道編碼器 信道 信道譯碼器 信宿 干擾 {xk} {y} 圖 5－ 5 通信過程框圖 信道譯碼器根據(jù)事先約定的譯碼規(guī)則，對接收矢量 y的估值 ? ?k?x信源 信道編碼器 信道 信道譯碼器 信宿 干擾 {xk} {y} 圖 5－ 5 通信過程框圖 當估值 ≠ xk 時 ， 就產(chǎn)生了誤碼 ， 用 ?（ x︱ y） 表示后驗概率 ，則收到 y估錯的概率為 （ 52） ?kx通信總希望 錯誤概率最小 ，由式 (52)可看出錯誤概率 pe (xk ) （或者 pe (Y ) ） 最小等同于后驗概率 ?（ xk︱ y） 最大 最大后驗概率譯碼準則 。 ?X譯碼器的任務 : 受損的信息序列中盡可能正確地恢復出原信息。 ? 信息反饋 (IRQ)： ? 收端把收到的數(shù)據(jù) ,原封不動地通過反饋信道送回到發(fā)端 ,發(fā)端比較發(fā)的數(shù)據(jù)與反饋來的數(shù)據(jù) ,從而發(fā)現(xiàn)錯誤 ,并且把錯誤的消息再次傳送 ,直到發(fā)端沒有發(fā)現(xiàn)錯誤為止。 2 5 3 NAK 6 TW 1 1 發(fā)送端 接收端 2 3 4 發(fā)現(xiàn)錯誤 2 5 3 NAK 6 TW 發(fā)送
教學課件相關推薦
鄂ICP備17016276號-1