设信源产生符号aj这个事件的概率是Pj ，则对每个信源输出的平均信息量（熵）如何定义？

第1题：

第2题：

如果符号集中任一符号出现的概率为1，则其他符号出现的概率必然为零，信源的平均信息量（熵）则为（）

第3题：

设信源X包含4个不同离散消息，当且仅当X中各个消息出现的概率为（）时，信源熵达到最大值，为（），此时各个消息的自信息量为（）。

第4题：

离散无记忆序列信源中平均每个符号的符号熵等于单个符号信源的符号熵。

第5题：

某离散无记忆信源X，其符号个数为n，则当信源符号呈（）分布情况下，信源熵取最大值（）。

第6题：

某信源由4个不同符号组成，每个符号出现的概率相同，信源每秒发出100个符号，则该信源的平均信息速率为（）。

• A、400b/s
• B、100b/s
• C、300b/s
• D、200b/s

第7题：

离散无记忆信源所产生的符号序列的熵等于各符号熵之和。

第8题：

第9题：

第10题：

第11题：

第12题：

第13题：

第14题：

对于限平均功率的一维连续信源，当概率密度（）时，信源熵有最大值。

第15题：

自信息量表征信源中各个符号的不确定度，信源符号的概率越大，其自信息量越（）

第16题：

某一信源，不管它是否输出符号，只要这些符号具有某些概率特性，就有信息量。

第17题：

平均互信息量I（X；Y）与信源熵和条件熵之间的关系是（）。

第18题：

无失真编码定理确定的是（）。

• A、每个信源符号的最小平均码字长度
• B、每个信源符号的最大平均码字长度
• C、各个信源符号的码字长之和的最小值
• D、各个信源符号的码字长之和的最大值

第19题：

第20题：

第21题：

第22题：

第23题：

第24题：