填空题 （）是香农信息论最基本最重要的概念

填空题 （）是信息度量最常用的方法

填空题 信息的（）是建立信息论的基础。

填空题 人们研究信息论的目的是为了（）、（）、（）地交换和利用各种各样的信息。

填空题 按照信息的地位，可以把信息分成（）和（）。

填空题 按照信息的性质，可以把信息分成（）、（）和（）。

填空题 1948年，美国数学家（）发表了题为“通信的数学理论”的长篇论文，从而创立了信息论。

填空题 在认识论层次上研究信息的时候，必须同时考虑到（）、（）和（）三个方面的因素。

问答题 解释无失真变长信源编码定理。

问答题 写出香农公式，并说明其物理意义。当信道带宽为5000Hz，信噪比为30dB时求信道容量。

问答题 对于一个一般的通信系统，试给出其系统模型框图，并结合此图，解释数据处理定理。

问答题 解释信息传输率、信道容量、最佳输入分布的概念，说明平均互信息与信源的概率分布、信道的传递概率间分别是什么关系？

问答题 简述最大离散熵定理。对于一个有m个符号的离散信源，其最大熵是多少？

问答题 什么是平均自信息量与平均互信息，比较一下这两个概念的异同？