信息論期末總結(jié)-文庫吧資料
2025-06-30 05:23本頁面
【正文】 聯(lián)合熵表示對于二維隨機(jī)變量的平均不確定性。 1)計算H(X)。不同的消息，它們所含有的信息量也就不同。此消息在二進(jìn)制對稱信道上傳輸，信道傳輸特性為l 求互信息量 和 。任何兩個事件之間的互信息不可能大于其中任一事件的自信息l 例6：居住某地區(qū)的女孩中有25%是大學(xué)生，在女大學(xué)生中有75%。當(dāng)后驗概率小于先驗概率時，互信息為負(fù)。yj)=logp(xi|yj)–logp(xi)=I (xi) – I(xi|yj)v 觀察者站在輸入端 I(yj。 事件 出現(xiàn)以后信宿獲得的關(guān)于事件 的信息量。l l 互信息有兩方面的含義：216。l 先驗概率：信源發(fā)出消息 的概率 。 (3)由兩個相對獨立的事件所提供的信息量，應(yīng)等于它們分別提供的信息量之和： I(xi yj)=I(xi )+I(yj) l 自信息可以從兩個方面來理解：自信息是事件發(fā)生前，事件發(fā)生的不確定性。l 公理性條件：(1) 如果p(x1) p
公司管理相關(guān)推薦
鄂ICP備17016276號-1