信息論實驗報告(已修改)
2025-07-06 04:59 本頁面
【正文】 物理與電子電氣工程學(xué)院淮陰師范學(xué)院（信息論與編碼實驗報告） 姓名：董寶坤 學(xué)號：171313199 專業(yè)：電子信息工程 班級：1305 指導(dǎo)老師：宋毅實驗一、 繪制二進制熵函數(shù)曲線一、實驗?zāi)康?．掌握二進制符號熵的計算；2．掌握MATLAB的應(yīng)用；3．掌握Matlab繪圖函數(shù)；4．掌握、理解熵函數(shù)表達式及其性質(zhì)二、實驗條件計算機一臺，MATLAB仿真軟件。三、實驗內(nèi)容（1）MATLAB的應(yīng)用（請參閱相關(guān)書籍）（2）打開MATLAB，在命令窗口中輸入eidt，彈出編輯窗口，如圖1：圖1 MATLAB的編輯窗口 （3）輸入源程序：clear。x=::y=x.*log2(x)(1x).*log2(1x)。plot(x,y)。grid on（4）；（5）單擊Debug菜單下的Run，或直接按F5執(zhí)行；（6）執(zhí)行后的結(jié)果圖2：四、實驗結(jié)果及分析x=::y=x.*log2(x)(1x).*log2(1x)。plot(x,y)。title(39。236。216。186。175。202。253。H(p)39。)。Xlabel(39。p39。)。ylabel(39。H(p)39。)。grid on分析：⑴.意義：信源熵為信源的平均不確定度性，而概率的大小決定了信息量的大小。由圖上可知概率為1時，信息量最小，不確定性最低；概率等于時熵最大。⑵.可以看出，即p=1或者p=0，則該信源不提供任何信息；反之當(dāng)二元信源符號0和1以等概率發(fā)生的時候，信源熵達到極大值，等于1bit信息量。⑶.x=::y=x.*log2(x)(1x).*log2(1x)。plot(x,y)。title(39。236。216。186。175。202。253。H(p)39。)。Xlabel(39。p39。)。ylabel(39。H(p)39。)。grid on分析： （1）熵函數(shù)是一個嚴(yán)格上凸函數(shù) （2）熵的極大值，二進符號的熵在p(x1)=p(x2)= （3）調(diào)調(diào)整p(x1)的取值步長，重畫該曲線。，步長變大的時候，可以看出是一段一段的連接的，當(dāng)步長較大的時候，非常明顯。如果開始點是0的時候，則從步長的長度開始計算。實驗二、一般信道容量計算一、實驗?zāi)康?．熟悉工作環(huán)境及Matlab軟件2．理解平均互信息量表達式及其性質(zhì)3．理解信道容量的含義二、實驗條件計算機一臺，MATLAB仿真軟件。三、實驗原理(I(X。Y))是統(tǒng)計平均意義下的先驗不確定性與后驗不確定性之差，是互信息量的統(tǒng)計平均:離散信道的數(shù)學(xué)模型一般如圖1所示。圖中輸入和輸出信號用隨機矢量表示，輸入信號為X= (X1, X2,…, XN)，輸出信號為Y= (Y1, Y2,…, YN)；每個隨機變量Xi和Yi又分別取值于符號集A={a1, a2, …, ar}和B={b1, b2, …, bs}，其中r不一定等于s；條件概率P(y|x) 描述了輸入信號和輸出信號之間的統(tǒng)計依賴關(guān)系，反映了信道的統(tǒng)計特性。YX信道 圖1離散信道模型二元對稱信道這是很重要的一種特殊信道（簡記為BSC）。它的輸入符號X取值于{0,1}，輸出符號Y取值于{0,1}，r=s=2， a1=b1=0，a2=b2=1，傳遞概率為, , 其中，表示信道輸入符號為0而接收到的符號為1的概率，表示信道輸入符號為1而接受到的符號為0的概率，它們都是單個符號傳輸發(fā)生錯誤的概率，通常用p表示。而和是無錯誤傳輸?shù)母怕?，通常用表示。X 1p Y 二元對稱信道用矩陣來表示，即得二元對稱信道的傳遞矩陣為依此類推，一般離散單符號信道的傳遞概率可用以下形式的矩陣來表示，即b1 b2 … bs并滿足式 （）。為了表述簡便，記，信道的傳遞矩陣表示為而且滿足 平均互信息平均互信息表示接收到輸出符號后平均每個符號獲得的關(guān)于輸入變量X的信息量，也表示輸入與輸出兩個隨機變量之間的統(tǒng)計約束程度。 其中X是輸入隨機變量，Y是輸出隨機變量。平均互信息是互信息（即接收到輸出符號y后輸入符號x獲得的信息量）的統(tǒng)計平均值，所以永遠不會取負(fù)值。最差情況是平均互信息為零，也就是在信道輸出端接收到輸出符號Y后不獲得任何關(guān)于輸入符號X的信息量。對于每一個確定信道，都有一個信源分布，使得信
法律信息相關(guān)推薦
鄂ICP備17016276號-1