信息論與編碼理論習(xí)題答案-文庫(kù)吧
2025-06-08 18:17 本頁(yè)面
【正文】 [] = = 當(dāng)=，即X給定條件下，Y與Z相互獨(dú)立時(shí)等號(hào)成立 (a) 上式(c)左右兩邊加上，可得++于是+ 令概率空間，令Y是連續(xù)隨機(jī)變量。已知條件概率密度為 ，求： (a)Y的概率密度 (b) (c) 若對(duì)Y做如下硬判決 求，并對(duì)結(jié)果進(jìn)行解釋。 解：(a) 由已知，可得= = =+ = (b) == bit = = =2 bit == bit (c) 由可得到V的分布律V101p1/41/21/4 再由可知V101p(V|x=1)1/21/20p(V|x=1)01/21/2 bit =1 bit == bit 令和是同一事件集U上的兩個(gè)概率分布，相應(yīng)的熵分別為和。 (a)對(duì)于，證明=+是概率分布 (b)是相應(yīng)于分布的熵，試證明+ 證明：(a) 由于和是同一事件集U上的兩個(gè)概率分布，于是0，0 =1，=1 又，則=+0 =+=1 因此，是概率分布。 (b) = = （引理2） =+ 第三章 信源編碼——離散信源無失真編碼 試證明長(zhǎng)為的元等長(zhǎng)碼至多有個(gè)碼字。證：①在元碼樹上，第一點(diǎn)節(jié)點(diǎn)有個(gè)，第二級(jí)有，每個(gè)節(jié)點(diǎn)對(duì)應(yīng)一個(gè)碼字，若最長(zhǎng)碼有，則函數(shù)有==，此時(shí)，所有碼字對(duì)應(yīng)碼樹中的所有節(jié)點(diǎn)。②碼長(zhǎng)為1的個(gè)；碼長(zhǎng)為2的個(gè)，…，碼長(zhǎng)為的個(gè)∴總共=個(gè) 設(shè)有一離散無記憶信源。若對(duì)其輸出的長(zhǎng)為100的事件序列中含有兩個(gè)或者少于兩個(gè)的序列提供不同的碼字。 (a) 在等長(zhǎng)編碼下，求二元碼的最短碼長(zhǎng)。 (b) 求錯(cuò)誤概率（誤組率）。解: (a)不含的序列 1個(gè)長(zhǎng)為100的序列中含有1個(gè)的序列 =100個(gè) 長(zhǎng)為100的序列中含有2個(gè)的序列 =4950個(gè) ∴所需提供碼的總數(shù)M=1+100+4950=5051于是采用二元等長(zhǎng)編碼 =，故取=13(b)當(dāng)長(zhǎng)度為100的序列中含有兩個(gè)或更多的時(shí)出現(xiàn)錯(cuò)誤，因此錯(cuò)誤概率為== 設(shè)有一離散無記憶信源，U=，其熵為。考察其長(zhǎng)為的輸出序列，當(dāng)時(shí)滿足下式(a)在=，=(b)在=，=下求(c)令是序列的集合，其中 試求L=時(shí)情況(a)(b)下，T中元素個(gè)數(shù)的上下限。解：=== bit ==== =則根據(jù)契比雪夫大數(shù)定理(a) ===1884(b) ==(c) 由條件可知為典型序列，若設(shè)元素個(gè)數(shù)為，則根據(jù)定理其中，可知 (i) ， 下邊界： 上邊界：= 故 (ii) ，
職業(yè)教育相關(guān)推薦
鄂ICP備17016276號(hào)-1