第章信息的統(tǒng)計(jì)度量題與答案

1、12.1同時(shí)擲出一對(duì)質(zhì)地均勻的骰子，也就是各面朝上發(fā)生的概率均為16，試求：(1)“3和5同時(shí)出現(xiàn)”這事件的自信息量；(2)“兩個(gè)1同時(shí)出現(xiàn)”這事件的自信息量；(3)“兩個(gè)點(diǎn)數(shù)中至少有一個(gè)是1”這事件的自信息量。解：(1)bitxpxIxpiii17.4181log)(log)(18161616161)(??????????(2)bitxpxIxpiii17.5361log)(log)(3616161)(????????(3)bitxp

2、xIxpiii71.13611log)(log)(3611116161)(?????????2.4居住某地區(qū)的女孩中有25%是大學(xué)生，在女大學(xué)生中有75%是身高1.6m以上的，而女孩中身高1.6m以上的占總數(shù)的一半。假如我們得知“身高1.6m以上的某女孩是大學(xué)生”的消息，問獲得多少信息量？解：設(shè)隨機(jī)變量X代表女孩子學(xué)歷Xx1（是大學(xué)生）x2（不是大學(xué)生）P(X)0.250.75設(shè)隨機(jī)變量Y代表女孩子身高Yy1（身高160cm）y2（身高

3、160cm）P(Y)0.50.5已知：在女大學(xué)生中有75%是身高160厘米以上的即：bitxyp75.0)(11?求：身高160厘米以上的某女孩是大學(xué)生的信息量即：bitypxypxpyxpyxI415.15.075.025.0log)()()(log)(log)(11111111????????2.5一副充分洗亂了的牌（含52張牌），試問：(1)任一特定排列所給出的信息量是多少？(2)若從中抽取13張牌，所給出的點(diǎn)數(shù)都不相同時(shí)得到多少

4、信息量？解：(1)52張牌共有52！種排列方式，假設(shè)每種排列方式出現(xiàn)是等概率的則所給出的信息量是：32.10一個(gè)消息由符號(hào)0，1，2，3組成，已知，，，。試83)0(?p41)1(?p41)2(?p1(3)8p?求由60個(gè)符號(hào)構(gòu)成的消息的平均信息量。解：bitXHbitxpxpXHiii36.114906.160)(60906.1)125.0log125.025.0log25.025.0log25.0753.0log753.0()(lo

5、g)()(????????????2.13已知信源發(fā)出和兩種消息，且。此消息在二進(jìn)制對(duì)稱信道上傳1a2a5.0)()(21??apap輸，信道傳輸特性為???????)()(1)()(12212211abpabpabpabp求互信息量和。)(11baI)(22baI解：??????????????????????????????1)1(2121)1(21)()()()()(121)1(21)1(21)()()()()(222222111

6、111iiiiiiabpapabpapbapabpapabpapbapbitapbapbaIbitapbapbaI)1log(121)1(log)()(log)()1log(121)1(log)()(log)(2222211111????????????????2.15黑白傳真機(jī)的消息元只有黑色和白色兩種，即X=黑，白，一般氣象圖上，黑色的出現(xiàn)概率P(黑)=0.3，白色的出現(xiàn)概率P(白)=0.7。假設(shè)黑白消息視為前后無關(guān)，求信息熵H(X