第8题:
问答题
信息论的基本原理是什么?
正确答案:
信息论是C.E.Shannon为解决信息传递(通信)过程问题而建立的理论,也称为统计信息理论。一个传递信息的系统是由发送方(信源)接收方(信宿)以及连接两者的通道(信道)三者构成。
信息论把通信过程看作是在随机干扰的环境中传递信息的过程。在这种模型中,信息源和干扰都被理解为某种随机过程或随机序列,因此在通信之前,信宿不可能知道信源究竟会发出什么样的信息,也不知道信源处于什么样的状态。这种状态称为信宿对信源状态具有不确定性,即先验不确定性。
通信之后,信宿收到信源的信息后,先验不确定性得以减少或消除。但是由于信道中噪声的干扰,信宿收到的信息可能不完全,此时信宿仍然具有一定的不确定性,即后验不确定性。
显然,如果先验不确定性等于后验不确定性,则信宿未收到任何信息;若后验不确定性为零,则信宿收到了所有的信息。可见,信息是用来消除不确定性的度量。
解析:
暂无解析