第二章曹雪虹習(xí)題答案[1]-資料下載頁
2025-06-25 02:56本頁面
【正文】 P(0),P(1),P(2)（2）求此信源的熵（3）近似認為此信源為無記憶時，符號的概率分布為平穩(wěn)分布。求近似信源的熵H(X)并與進行比較解:根據(jù)香農(nóng)線圖,列出轉(zhuǎn)移概率距陣令狀態(tài)0,1,2平穩(wěn)后的概率分布分別為W1,W2,W3 得到 計算得到由齊次遍歷可得符號 由最大熵定理可知存在極大值或者也可以通過下面的方法得出存在極大值: 又所以當p=2/3時0p2/3時2/3p1時所以當p=2/3時存在極大值,且符號所以233 (1)解方程組: 得p(0)=p(1)=p(2)= (2) (3) 當p=0或p=1時 信源熵為0 練習(xí)題：有一離散無記憶信源，其輸出為，相應(yīng)的概率為，設(shè)計兩個獨立的實驗去觀察它，其結(jié)果分別為，已知條件概率:P(y1|x)01012101/2111/2P(y2|x)01012110001(1) 求和，并判斷哪一個實驗好些(2) 求，并計算做Y1和Y2兩個實驗比做Y1和Y2中的一個實驗可多得多少關(guān)于X的信息(3) 求和，并解釋它們的含義解:(1)由題意可知 Y1X0101/40101/421/41/4 Y2X0101/4011/40201/2P(y1=0)=p(y1=1)=1/2 p(y2=1)=p(y2=1)=1/2=符號所以第二個實驗比第一個實驗好P(y1y2x)0001101101/40001001/40201/401/4（2）因為Y1和Y2 相互獨立，所以P(y1y2|x)000110110100010010201/201/2y1y200011011p1/41/41/41/4bit/符號=由此可見，做兩個實驗比單獨做Y1可多得1bit的關(guān)于X的信息量。（3）==表示在已做Y2的情況下，再做Y1而多得到的關(guān)于X的信息量同理可得==1bit/符號表示在已做Y1的情況下，再做Y2而多得到的關(guān)于X的信息量
環(huán)評公示相關(guān)推薦
鄂ICP備17016276號-1