【正文】 提出的與信道傳輸有關(guān)的問(wèn)題： ? 如何能使信息傳輸后發(fā)生的錯(cuò)誤最少？ ?錯(cuò)誤概率與那些因素有關(guān)？ ?有無(wú)辦法控制？ ?能控制到什么程度？ ? 無(wú)誤傳輸可達(dá)的最大信息率是多少？ 信道編碼概述 ? 舉例說(shuō)明：設(shè)有一個(gè)二元數(shù)字序列 000110101100…… ? （ 1）每?jī)晌环殖梢唤M，共有 22＝ 4種可能的碼組（或碼字）： 00、0 11。不可能發(fā)現(xiàn)錯(cuò)誤，也不可能糾正。 ? （ 2）對(duì)原碼字稍加以改造：加上一位數(shù)字，四個(gè)碼字變成 00?001 01?010 10?100 11?111。可以發(fā)現(xiàn)奇數(shù)個(gè)錯(cuò)誤，但無(wú)法糾正。 ? （ 3）對(duì)原碼字繼續(xù)改造： 00?00110 01?01101 10?10011 11?11000。當(dāng)收到碼字 00111時(shí)，采用最大似然法則，將 00111糾正成為 00110。 ? 結(jié)論：碼組（字）間差別越大，碼的檢測(cè)和糾錯(cuò)能力越強(qiáng)。 ? 對(duì)于第一種情況，碼組間最少相差一個(gè)碼元，則一旦有錯(cuò)誤，就會(huì)變成另一個(gè)許用碼字，因而不能發(fā)現(xiàn)錯(cuò)誤； ? 對(duì)于第二種情況，碼組間最少相差二位碼元，錯(cuò)一位就會(huì)變成禁用碼字，因而能發(fā)現(xiàn)錯(cuò)誤，即具有檢錯(cuò)能力； ? 對(duì)于第三種情況，碼組間最少相差三位碼元，錯(cuò)一位就變成禁用碼字，但仍與某許用碼字相似，利用最大似然法則可以糾錯(cuò)，即具有糾一位錯(cuò)誤的能力。 錯(cuò)誤概率與譯碼規(guī)則、編碼方法 ?錯(cuò)誤概率與譯碼規(guī)則 ?錯(cuò)誤概率 PE與什么有關(guān) ?信道的統(tǒng)計(jì)特性 ?譯碼規(guī)則 ?譯碼規(guī)則的選擇依據(jù) ?最大后驗(yàn)概率準(zhǔn)則－－理想 ?最大似然準(zhǔn)則－－實(shí)用 錯(cuò)誤概率與譯碼規(guī)則 例： 010 39。1 39。1/31/32/3/12121:d039。 0?139。 1?正 確 概 率 錯(cuò) 誤 概 率( 0 / 0 39。) 1 / 3p ?(1 / 1 39。) 1 / 3p ?(1 / 0 39。) 2 / 3p ?( 0 / 1 39。) 2 / 3p ?2:d039。 1?139。 0?(1 / 0 39。) 2 / 3p ?( 0 / 1 39。) 2 / 3p ?( 0 / 0 39。) 1 / 3p ?(1 / 1 39。) 1 / 3p ?錯(cuò)誤概率與譯碼準(zhǔn)則、編碼方法 ? 問(wèn)題： ? 在輸入和信道特性給定的條件下，差錯(cuò)概率將取決于接收矢量空間按什么樣的劃分準(zhǔn)則進(jìn)行劃分 ? 劃分接收矢量空間的準(zhǔn)則－－譯碼器的譯碼準(zhǔn)則 信道譯碼 An ?1 ?2 ?4 ?3 w4 w3 w1 w2 x x x ? An 是接收空間 ? w1, w2,… 是發(fā)送的碼字 ? 圍繞每個(gè)碼字有一個(gè)譯碼域 ?i ? 如果接收的碼字在 ?i中 ，就認(rèn)為發(fā)送的是碼字 wi 發(fā)生錯(cuò)誤 ? 一般 , An中 存在一些不屬于任何 ?i的區(qū)域 ? 有時(shí)接收碼字會(huì)被映射到錯(cuò)誤的?i ，進(jìn)而被譯成錯(cuò)誤的 wi 正確譯碼 不知如何譯碼 譯碼錯(cuò)誤 錯(cuò)誤概率與譯碼規(guī)則 ? 譯碼規(guī)則：設(shè)信道輸入為 X={x1,x2,…, xn}，輸出為 Y={y1,y2,…, ym}，則 Y到 X的單值映射為 d:d(yj)=xi(i=1,2,…, n； j=1,2,…, m)，則 d為一 個(gè)譯碼規(guī)則。 ? 錯(cuò)誤概率：若譯碼規(guī)則為 d(yj)=xi ? 條件錯(cuò)誤概率： p(e/yj) (收到的是 yj，而發(fā)出的不是 xi) ? 條件正確概率： 1－ p(e/yj) ? 平均錯(cuò)誤概率： PE=∑p(yj)p(e/yj) ? 最佳譯碼規(guī)則：使平均錯(cuò)誤概率 PE最小的譯碼規(guī)則 錯(cuò)誤概率與譯碼規(guī)則 欲使最小 PE=∑p(yj)p(e/yj)，只需正確概率最大，選擇 **( ) , ( / ) ( / ) ( 1 )j j i jd y x p x y p x y i?? 對(duì) 所 有—— 最大后驗(yàn)概率準(zhǔn)則 由（ 1）式，有 **( ) ( / ) ( ) ( / )( ) ( )j i j ijjp x p y x p x p y xp y p y?**( ) ( / ) ( ) ( / )j i j ip x p y x p x p y x??若輸入等概： *( / ) ( / )j j ip y x p y x? —— 最大似然準(zhǔn)則 特點(diǎn)： 優(yōu)點(diǎn)：理想 缺點(diǎn)： 后驗(yàn)概率不易得到 后驗(yàn)概率依賴于輸入分布 錯(cuò)誤概率與譯碼規(guī)則 例： P?????????? ? 111() 244px ??? ????（ 1）最小錯(cuò)誤概率準(zhǔn)則： 0 .2 5 0 .1 5 0 .1( ) ( / ) 0 .0 5 0 .0 7 5 0 .1 2 50 .0 7 5 0 .0 7 5 0 .1i j ip x p y x?????? ?????11yx? 21yx? 32yx?0 . 2 5 0 . 1 5 0 . 1 2 5 0 . 5 2 5CP ? ? ? ? ?（ 2）最大似然準(zhǔn)則： 11yx? 23yx? 32yx? P ?0 . 2 5 0 . 0 7 5 0 . 1 2 5 0 . 4 5CP ? ? ? ? ?（ 3）若輸入等概： 1 1 3(0 . 5 0 . 3 0 . 5 )3 3 0CP ? ? ? ? 171 0 . 5 6 730ECPP? ? ? ? 錯(cuò)誤概率與編碼方法 ? 錯(cuò)誤概率與編碼 ? 如何在信息傳輸率一定的前提下使 PE?0 ? 實(shí)際經(jīng)驗(yàn)：重復(fù)發(fā)送可以使 PE減小 ? 重復(fù)次數(shù) N很大時(shí)，可以使 PE ?0 ? 但：信息傳輸率降低 ? 信道編碼定理： R一定時(shí)，可以找到一種編碼方法使 PE相當(dāng)?shù)? ? 引入概念：碼字距離 錯(cuò)誤概率與編碼方法 例： 1:編 碼 1 0x — —010 39。1 39。 ? ?12121x2x2 1x — —:d譯 碼 039。 0?139。 1?2110 . 0 1 0 . 0 1 0 . 0 1 1 022EP?? ? ? ? ? ?2:編 碼 1 000x — —2 111x — —0 0 0 0 0 1 0 1 0 0 1 11 0 0 1 0 1 1 1 0 1 1 1： 收 到120 0 0 0 0 1 0 1 0 1 0 0 0 1 1 1 0 1 1 1 0 1 1 1xx??： 擇 多 譯 碼3 2 3 2 3 2 411( 3 ) ( 3 ) 3 3 1 022EP p p p p p p p p p?? ? ? ? ? ? ? ?編 碼 的 信 息 傳 輸 率 ： 比 特 碼 符 號(hào)1 R = l o g 2 / 1 = l o g 2 = 1 /編 碼 的 信 息 傳 輸 率 ： 比 特 碼 符 號(hào)12 R = l o g 2 /3 = /3信道編碼定理 ? 信道編碼定理引出 ? 問(wèn)題： 在有噪信道中，使平均誤碼率 Pe盡可能小的情況下，可達(dá)到的信息傳輸率是多少？ ? 答案： 信道容量 C 信道編碼定理 若一離散平穩(wěn)無(wú)記憶信道，其容量為 C，輸入序列長(zhǎng)度為 L，只要待傳送的信息率 RC,總能找到一種編碼。當(dāng) L足夠長(zhǎng)時(shí)，譯碼差錯(cuò)概率 ??ep? 為任意正數(shù)。反之，當(dāng) RC,任何編碼的 eP必大于 0， 當(dāng) L 1?ep??信道編碼定理 ? 香農(nóng)只是證明了碼的存在性，未給出構(gòu)造方法 ? 隨機(jī)編碼所得的碼集很大，通過(guò)搜索得到好碼的方法實(shí)際上很難實(shí)現(xiàn)；而且即使找到，碼字也是毫無(wú)結(jié)構(gòu)的，只能采用查表譯碼方法，當(dāng) N很大時(shí)，碼表的存儲(chǔ)量也很難接受 信道編碼定理 ? 理論性能極限－－存在性 ? 香農(nóng)信道編碼定理 ? 作用：理論極限、漸進(jìn)性能 ? 工程實(shí)現(xiàn)上的界限－－構(gòu)造性 ? 最小距離界限 ? 作用：構(gòu)造新碼、估計(jì)新碼性能時(shí)，說(shuō)明新碼與最好性能的碼接近的程度 ? 香農(nóng)理論極限： RC； 存在編譯碼方法使 Pe?0 給定 Pe；存在編譯碼方法使 R?C ? ?RCneP ??? 2 3 2 1 0 1 2 3 4 5 6 7 8 9 10 11 12106105104103102101誤碼率pb信噪比 Eb/ N0( dB )shanno限僅內(nèi)碼（4，1，15） 未編碼 僅內(nèi)碼（2，1，7）碼級(jí)連級(jí)連－ 0 1 . 5 9bEN dB? ? ?