【正文】 性獨立 ：一組矢量中的任意一個都不可能用其它矢量的線性組合來代替 . 72 12, , , ikV V V V及1 1 2 2 , ( )k i i iV a V a V a V a F? ? ? ?1 1 2 2 0 , ( )i i ia V a V a V a F? ? ? ? 且 不 全 為 零矢量空間與基底 一組線性無關的矢量 ，其線性組合的 集合 就構成了一個 矢量空間 V，這組矢量就是這個矢量空間的 基底 。 n維矢量空間應包含 n個基底 基底不是唯一的 ，例：線性無關的兩個矢量（ 1,0）和（ 0,1）以及（ 1,0）和（ 0,1）可張成同一個兩維空間 。 73 12, , , nV V V二元域 GF(2)上三重矢量空間 以（ 100）為基底可張成 一維三重 子空間 V1，含 21 =2 個元素，即 以 (010)(001)為基底可張成 二維三重 子空間 V2，含 22 =4個元素，即 以 (100)(010)(001)為基底可張成 三維三重 空間V,含 23 =8個元素， V1和 V2都是 V的子空間。 74 1 { ( 000) , ( 100) }?V2 { ( 000), ( 001 ) , ( 010), ( 011 ) }?V概念 重數(shù) ? 構成矢量的有序元素的個數(shù) 維數(shù) ? 構成矢量空間的基底的個數(shù) 75 矢量空間 每個矢量空間或子空間中必然包含零矢量 兩個 矢量正交 ： V1?V2＝ 0 兩個 矢量空間正交 ：某矢量空間中的任意元素與另一矢量空間中的任意元素正交 正交的兩個子空間 V V2互為 對偶空間 (Dual Space)，其中一個空間是另一個空間的 零空間 （ null space，也稱零化空間）。 76 碼空間 77 消息 k長 (n , k) 碼字 n長 qk 種 分組編碼器 qn種 k維 k重矢量 n維 n重矢量 通常 qn qk，分組編碼的任務是要在 n維 n重矢量空間的 qn種可能組合中選擇其中的 qk個構成一個 碼空間 ，其元素就是許用碼的 碼集 。 分組編碼的任務 選擇一個 ｋ 維 n重子空間作為碼空間。 確定由 k維 k重信息空間到 ｋ 維 n重碼空間的映射方法。 碼空間的不同 選擇方法，以及信息組與碼組的不同映射算法，就構成了不同的分組碼。 78 隨機編碼 編碼的分析設計途徑： ，即將代數(shù)、幾何、數(shù)論等理論運用到編解碼，如分組碼，卷積碼。 的性能作出統(tǒng)計分析，求出差錯概率的上下限邊界，其中最優(yōu)碼所能達到的差錯概率上界稱作 隨機碼界 。 ? 用這種方法不能得知最優(yōu)碼是如何具體編出來的，卻能得知最優(yōu)碼可以好到什么程度，并進而推導出有擾離散信道的編碼定理，對指導編碼技術具有特別重要的理論價值。 79 隨機編碼 對于一個 (N,K)分組編碼器 ? 對 K個 q進制組成的消息組 m=(m0,m1,…,m k1)編碼； ? 生成 N個 q進制符號組成的碼字 c=(c0,c1,…c N1)； 在 (N,K)分組編碼器中隨機選定的碼集有 qNM種 ? 一個消息組的編碼有 qN種選擇（ N個碼元， q進制） ? qK個消息組共有 種選擇 ? 令 M= qK， 可得上式 80 KqNq )(隨機編碼 在 (N,K)分組編碼器中隨機選定的碼集有 qNM個 第 m個碼集 (記作 {c}m )被隨機選中的概率是 設與這種選擇相對應的條件差錯概率是 Pe({c}m) 全部碼集的平均差錯概率是 ()( { } ) NMmPq??c81 11({ } ) ({ } ) ({ } )N M N MqqNMe e m m e mmmP P P q P???????c c c隨機編碼 必定存在某些碼集 某些碼集 若 ， 就必然存在一批碼集 即差錯概率趨于零的好碼一定存在； 11({ } ) ({ } ) ({ } )N M N MqqNMe e m m e mmmP P P q P???????c c c82 ( { } )e m ePP?c( { } )e m ePP?c0eP ? ( { } ) 0emP ?c隨機編碼 碼集點數(shù) M=qK占 N維矢量空間總點數(shù) qN的比例是 F =qK / qN = q(NK) 當 K和 N的差值拉大即冗余的空間點數(shù)增加時，平均而言碼字的分布將變得稀疏，碼字之間的平均距離將變大，平均差錯概率將變小。 當 F?0 即 (NK)??時，能否讓平均差錯概率 ？ Gallager在 1965年推導了 的上邊界，并證明這個上邊界是按指數(shù)規(guī)律收斂的。 0eP ?83 eP信道編碼定理 E(R)為 可靠性函數(shù) ，也叫誤差指數(shù)； 碼率 ： R =( lbM) / N ? M是可能的信息組合數(shù)， M=qK ? N是每碼字的碼元數(shù)， ? R表示每碼元攜帶的信息量，單位是比特每符號（ bit / symbol） 84 ()N E RePe??信道編碼定理 R在 [0,R0]區(qū)間時：E(R)~R曲線是斜率為 1（ 45?）的直線， E(R)反比于 R； 而當 R=C（ 信道容量 ）時：E(R)=0，即可靠性為零。 85 E(R) ? C R 0 R0 45? E(R)和 R的關系曲線 信道編碼定理 正定理 ：只要傳信率 R小于信道容量 C，總存在一種信道碼（及解碼器），可以以所要求的任意小的差錯概率實現(xiàn)可靠的通信。 逆定理 ：信道容量 C是可靠通信系統(tǒng)傳信率 R的上邊界，如果 R C，就不可能有任何一種編碼能使差錯概率任意小。 86 糾錯編碼的基本思路 R不變 ，信道容量大者其可靠性函數(shù) E(R)也大； C不變 ，碼率減小時其可靠性函數(shù) E(R)增大 。 ()N E RePe??87 E(R) R 0 R1 R2 C1 C2 增大 E(R)的途徑 ? 信道編碼定理 糾錯編碼的基本思路 增大信道容量 C ? 擴展帶寬：開發(fā)新的寬帶媒體 ? 加大功率：提高發(fā)送功率、提高天線增益 ? 降低噪聲：采用低噪聲器件 減小碼率 R （ R =( lbM) / N ） ? Q、 N不變而減小 K ? Q、 K不變而增大 N ? N、 K不變而減小 Q 增大碼長 N 88