填空题 1948年，美国数学家（）发表了题为“通信的数学理论”的长篇论文，从而创立了信息论。

填空题 在认识论层次上研究信息的时候，必须同时考虑到（）、（）和（）三个方面的因素。

问答题 解释无失真变长信源编码定理。

问答题 写出香农公式，并说明其物理意义。当信道带宽为5000Hz，信噪比为30dB时求信道容量。

问答题 对于一个一般的通信系统，试给出其系统模型框图，并结合此图，解释数据处理定理。

问答题 解释信息传输率、信道容量、最佳输入分布的概念，说明平均互信息与信源的概率分布、信道的传递概率间分别是什么关系？

问答题 简述最大离散熵定理。对于一个有m个符号的离散信源，其最大熵是多少？

问答题 什么是平均自信息量与平均互信息，比较一下这两个概念的异同？