信息論期末總結(jié)-wenkub
2023-07-09 05:23:47 本頁面
【正文】 器：去除信源消息中的冗余度，提高傳輸?shù)挠行詌 信道編碼器：將信源編碼后的符號加上冗余符號，提高傳輸?shù)目煽啃?。l 信息與概率的關(guān)系：l 事件發(fā)生的概率越大，該事件包含的信息量越小；l 如果一個(gè)事件發(fā)生的概率為1，那么它包含的信息量為0；l 兩個(gè)相互獨(dú)立事件所提供的信息量應(yīng)等于它們各自提供的信息量之和。l 消息中包含信息，消息是信息的載體。l 某個(gè)消息的不確定性（含有的信息量）可以表示為：l 信源的平均不確定性：l 信源發(fā)出的消息的統(tǒng)計(jì)特性216。l 調(diào)制器：功能：將信道編碼后的符號變成適合信道傳輸?shù)男盘柲康模?提高傳輸效率l 信道的統(tǒng)計(jì)特性無噪聲信道、有噪聲信道離散信道、連續(xù)信道、波形信道有記憶信道和無記憶信道恒參信道（平穩(wěn)信道）和隨參信道（非平穩(wěn)信道）單用戶信道和多用戶信道l 信道傳輸信息的最高速率：信道容量l 譯碼器的功能：從接收到的信號中恢復(fù)消息。l 公理性條件：(1) 如果p(x1) p(x2)，則I(x1) I(x2)， I(xi )是 p(xi) 的單調(diào)遞減函數(shù)；(2) 如果p(xi)=0，則I(xi ) → ∞ 。l 先驗(yàn)概率：信源發(fā)出消息 的概率 。 事件 出現(xiàn)以后信宿獲得的關(guān)于事件 的信息量。當(dāng)后驗(yàn)概率小于先驗(yàn)概率時(shí)，互信息為負(fù)。此消息在二進(jìn)制對稱信道上傳輸，信道傳輸特性為l 求互信息量 和 。 1)計(jì)算H(X)。例6： 已知 聯(lián)合概率分布如下，求：H(XY)，H(X), H(Y)
公司管理相關(guān)推薦
鄂ICP備17016276號-1