【導讀】原始電信號；基帶信號?③便于用現代數字信號處理技術對數字信息進行處理、變換、存儲。（便于將來自不同。若a=10，信息量的單位稱為哈特萊。在工程應用中，習慣把一個二進制碼元稱作1比特。當M=4時，即4進制波形，I=2比特，當M=8時，即8進制波形，I=3比特。設：一個離散信源是由M個符號組成的集合，其中每個符號xi(i=1,2,3,…,xM所包含的信息量分別為。1/4，1/8，且每個符號的出現都是獨立的。以上兩種結果略有差別的原因在于，它們平均處理方法不同。結果可能存在誤差。這種誤差將隨著消息序列中符號數的增加而減小。用熵的概念計算更為方便。輸的“速度”問題。秒，簡記為b/s，或bps。傳輸總比特數錯誤比特數?

　　

【正文】 4 和 a6 構成偶數監(jiān)督關系： 3 6 4 3 0S a a a a? ? ? ? ? 在發(fā)送端編碼時，信息位 a a a4 和 a3 的值決定于輸入信號，因此它們是隨機的。監(jiān)督位 a a1 和 a0 應根據信息位的取值按監(jiān)督關系來確定，即監(jiān)督位應使上 3 式中 S S2 和 S3 的值為 0（表示編成的碼組中應無錯碼）： 6 5 4 26 5 3 16 4 3 0000a a a aa a a aa a a a? ? ? ???? ? ? ???? ? ? ?? 上式經過移項運算，解出監(jiān)督位 2 6 5 41 6 5 30 6 4 3a a a aa a a aa a a a? ? ???? ? ???? ? ?? 給定信息位后，可以直接按上式算出監(jiān)督位， 結果見 右 表： ? 接收端收到每個碼組后，先計算出 S S2 和 S3，再查表判斷錯碼情況。 例如，若接收碼組為 0000011，按上述公式計算可得： S1 = 0， S2 = 1， S3 = 1。由于 S1 S2 S3 等于 011，故查表可知在 a3 位有 1 錯碼。 ? 按照上述方法構造的碼稱為漢明碼。表中所列的 (7, 4)漢明碼的最小碼距 d0 = 3。因此，這種碼能夠糾正 1 個錯碼或檢測 2 個錯碼。由于碼率 k/n = (n r) /n =1 – r/n，故當 n 很大和 r 很小時 ，碼率接近 1?？梢?，漢明碼是一種高效碼。 ? 線性分組碼的一般原理 ? 線性分組碼的構造 ? H 矩陣 上面 (7, 4)漢明碼的例子有 6 5 4 26 5 3 16 4 3 0000a a a aa a a aa a a a? ? ? ???? ? ? ???? ? ? ?? 現在將上面它改寫為 6 5 4 3 2 1 06 5 4 3 2 1 06 5 4 3 2 1 01 1 1 0 1 0 0 01 1 0 1 0 1 0 01 0 1 1 0 0 1 0a a a a a a aa a a a a a aa a a a a a a? ? ? ? ? ? ? ? ? ? ? ? ? ? ??? ? ? ? ? ? ? ? ? ? ? ? ? ? ??? ? ? ? ? ? ? ? ? ? ? ? ? ? ? 上式中已經將 “?”簡寫成 “+”。 上式可以表示成如下矩陣形式： 65432101 1 1 0 1 0 0 01 1 0 1 0 1 0 0 21 0 1 1 0 0 1 0aaaaaaa????????? ? ? ???? ? ? ????? ? ? ???? ? ? ?? ? ? ?????????（ 模 ） 上式還可以簡記為 H ? AT = 0T 或 A ? HT = 0 H ? AT = 0T 或 A ? HT = 0 式中111010011010101011001?????????H A = [a6 a5 a4 a3 a2 a1 a0] 0 = [000] 右上標“ T”表示將矩陣轉置。例如， HT 是 H 的轉置，即 HT 的第一行為 H 的第一列， HT 的第二行為 H 的第二列等等。 將 H 稱為監(jiān)督矩陣。 只要監(jiān)督矩陣 H 給定，編碼時監(jiān)督位和信息位的關系就完全確定了。 ? H 矩陣的性質： 1) H 的行數就是監(jiān)督關系式的數目，它等于監(jiān)督位的數目 r。 H 的每行中 “ 1”的位置表示相應碼元之間存在的監(jiān)督關系。例如， H的第一行 1110100表示監(jiān)督位 a2 是由 a6 a5 a4 之和決定的。 H 矩陣可以分成兩部分，例如 ? ?1 1 1 0 1 0 01 1 0 1 0 1 01 0 1 1 0 0 1r????????H P I 式中， P 為 r ? k 階矩陣， Ir 為 r ? r 階單位方陣。我們將具有 [P Ir]形式的H 矩陣稱為 典型陣 。 2) 由代數理論可知， H 矩陣的各行應該是線性無關的，否則將得不到 r個線性無關的監(jiān)督關系式，從而也得不到 r 個獨立的監(jiān)督位。若一矩陣能寫成典型陣形式 [P Ir]，則其各行一定是線性無關的。因為容易驗證 [Ir]的各行是線性無關的，故 [P Ir]的各行也是線性無關的。 ? G 矩陣：上面漢明碼例子中的 監(jiān)督位公式為 2 6 5 41 6 5 30 6 4 3a a a aa a a aa a a a? ? ???? ? ???? ? ?? 也可以改寫成矩陣形式：6251403111011011011aaaaaaa???? ?????? ??????? ?????? ?????????? 或者寫成 ? ? ? ? ? ?2 1 0 6 5 4 3 6 5 4 3111110101011a a a a a a a a a a a??????????????Q 式中， Q 為一個 k ? r 階矩陣，它為 P 的轉置，即 Q = PT 上式表示，在信息位給定后，用信息位的行矩陣乘矩陣 Q 就產生出監(jiān)督位。 我們將 Q 的左邊加上 1 個 k ? k 階單位方陣，就構成 1 個矩陣 G ? ?10 00 11 101 00 11 000 10 10 100 01 01 1k??????????GQI G 稱為 生成矩陣 ，因為由它可以產生整個碼組 ，即有 或者 因此，如果找到了碼的生成矩陣 G，則編碼的方法就完全確定了。具有 [IkQ]形式的生成矩陣稱為 典型生成矩陣 。由典型生成矩陣得出的碼組 A 中，信息位的位置不變，監(jiān)督位附加于其后。這種形式的碼稱為 系統(tǒng)碼。 ? G 矩陣的性質： 1) G 矩陣的各行是線性無關的。因為由上式可以看出，任一碼組 A都是 G 的各行的線性組合。 G 共有 k 行，若它們線性無關，則可以組合出 2k種不同的碼組 A，它恰是有 k 位信息位的全部碼組。若 G 的各行有線性相關的，則不可能由 G 生成 2k種不同的碼組了。 2) 實際上， G 的各行本身就是一個碼組 。因此，如果已有 k 個線性無關的碼組，則可以用其作為生成矩陣 G，并由它生成其余碼組。 ? 錯碼矩陣和錯誤圖樣 ? 一般說來， A 為一個 n 列的行矩陣。此矩陣的 n 個元素就是碼組中的n 個碼元，所以發(fā)送的碼組就是 A。此碼組在傳輸中可能由于干擾引入差錯，故接收碼組一般說來與 A 不一定相同。 ? 若設接收碼組為一 n 列的行矩陣 B，即 ? ?1 2 1 0nnb b b b???B 則發(fā)送碼組和接收碼組之差為 B – A = E (模 2) 它就是傳輸中產生的 錯碼 行 矩陣 ? ?1 2 1 0nne e e e???E 式中 0,1, iii iibae ba??? ? ?? 當當 因此，若 ei = 0，表示該接收碼元無錯；若 ei = 1，則表示該接收碼元有錯。 B – A = E 可以改寫成 B = A + E 例如，若發(fā)送碼組 A = [1000111]，錯碼矩陣 E = [0000100]，則接收碼組 B = [1000011]。 錯碼矩陣有時也稱為 錯誤圖樣。 ? 校正子 S 當接收碼組有錯時， E ? 0，將 B 當作 A 代入公式 (A ? H T = 0)后，該式不一定成立。在錯碼較多，已超過這 種編碼的檢錯能力時， B 變?yōu)榱硪辉S用碼組，則該式仍能成立。這樣的錯碼是不可檢測的。在未超過檢錯能力時，上式不成立，即其右端不等于 0。假設這時該式的右端為 S，即 B ? H T = S 將 B = A + E 代入上式，可得 S = (A + E) H T = A ? H T + E ? H T 由于 A ? HT = 0，所以 S = E ? H T 式中 S 稱為校正子。它能用來指示錯碼的位置。 S 和錯碼 E 之間有確定的線性變換關系。若 S 和 E 之間一一對應，則 S 將能代表錯碼的位置。 ? 線性分組碼 的性質 ? 封閉性： 是指一種線性碼中的任意兩個碼組之和仍為這種碼中的一個碼組。 這就是說，若 A1 和 A2 是一種線性碼中的兩個許用碼組，則 (A1+A2)仍為其中的一個碼組。這一性質的證明很簡單。若 A1 和 A2 是兩個 碼組，則有 A1 ? HT = 0, A2 ? HT = 0 將上兩式相加，得出 A1 ? HT + A2 ? HT = (A1 + A2) HT = 0 所以 (A1 + A2)也是一個碼組。 由于線性碼具有封閉性，所以兩個碼組 (A1 和 A2)之間的距離（即對應位不同的數目）必定是另一個碼組 (A1 + A2)的重量（即“ 1”的數目）。因此，碼的最小距離就是碼的最小重量（除全“ 0”碼組外）。 （ 必會 ）已知：生成矩陣0 0 0 1 0 1 10 0 1 0 1 1 00 1 0 1 1 0 01 0 1 1 0 0 0G????? ????， H，寫出信息位和監(jiān)督位之間的關系。 ? ?0011011 ，利用校正子譯碼。 解： G 化為典型陣， ? ?1 0 0 0 1 0 10 1 0 0 1 1 10 0 1 0 1 1 00 0 0 1 0 1 1kG I Q?????? ????， 由 TPQ? ，則得 監(jiān)督矩陣 ? ? 1 1 1 0 1 0 00 1 1 1 0 1 01 1 0 1 0 0 1rH P I?????????， 又 0TTHA? ，則6501 1 1 0 1 0 00 1 1 1 0 1 0 01 1 0 1 0 0 1aaa?????????????????????，可得信息位和監(jiān)督位之間的關系： 6 5 4 2 2 6 5 45 4 3 1 1 5 4 36 5 3 0 0 6 5 3000a a a a a a a aa a a a a a a aa a a a a a a a? ? ? ? ? ? ?????? ? ? ? ? ? ? ???? ? ? ? ? ? ??? ? ? ? ?1 0 11111 1 0001 101 1 1100 1 11 0 00 1 00 0 1TS BH??????????? ? ?????????????，經過查表可得 5a 出錯，即 糾錯后碼組 為： ? ?0001011 ，即 譯碼結果接收到的 信息碼為 0001。