信息論與編碼理論習題答案-文庫吧
2025-06-08 18:17 本頁面
【正文】 [] = = 當=，即X給定條件下，Y與Z相互獨立時等號成立 (a) 上式(c)左右兩邊加上，可得++于是+ 令概率空間，令Y是連續(xù)隨機變量。已知條件概率密度為 ，求： (a)Y的概率密度 (b) (c) 若對Y做如下硬判決 求，并對結(jié)果進行解釋。 解：(a) 由已知，可得= = =+ = (b) == bit = = =2 bit == bit (c) 由可得到V的分布律V101p1/41/21/4 再由可知V101p(V|x=1)1/21/20p(V|x=1)01/21/2 bit =1 bit == bit 令和是同一事件集U上的兩個概率分布，相應的熵分別為和。 (a)對于，證明=+是概率分布 (b)是相應于分布的熵，試證明+ 證明：(a) 由于和是同一事件集U上的兩個概率分布，于是0，0 =1，=1 又，則=+0 =+=1 因此，是概率分布。 (b) = = （引理2） =+ 第三章 信源編碼——離散信源無失真編碼 試證明長為的元等長碼至多有個碼字。證：①在元碼樹上，第一點節(jié)點有個，第二級有，每個節(jié)點對應一個碼字，若最長碼有，則函數(shù)有==，此時，所有碼字對應碼樹中的所有節(jié)點。②碼長為1的個；碼長為2的個，…，碼長為的個∴總共=個 設有一離散無記憶信源。若對其輸出的長為100的事件序列中含有兩個或者少于兩個的序列提供不同的碼字。 (a) 在等長編碼下，求二元碼的最短碼長。 (b) 求錯誤概率（誤組率）。解: (a)不含的序列 1個長為100的序列中含有1個的序列 =100個 長為100的序列中含有2個的序列 =4950個 ∴所需提供碼的總數(shù)M=1+100+4950=5051于是采用二元等長編碼 =，故取=13(b)當長度為100的序列中含有兩個或更多的時出現(xiàn)錯誤，因此錯誤概率為== 設有一離散無記憶信源，U=，其熵為。考察其長為的輸出序列，當時滿足下式(a)在=，=(b)在=，=下求(c)令是序列的集合，其中 試求L=時情況(a)(b)下，T中元素個數(shù)的上下限。解：=== bit ==== =則根據(jù)契比雪夫大數(shù)定理(a) ===1884(b) ==(c) 由條件可知為典型序列，若設元素個數(shù)為，則根據(jù)定理其中，可知 (i) ， 下邊界： 上邊界：= 故 (ii) ，
職業(yè)教育相關推薦
鄂ICP備17016276號-1