信息论作业 P02014277 刘浩天

1.我们日常生活中对信源的发送和接收有哪些应用？举例说明其工作原理与信息论的关系。

使用电话、广播、遥感等各种通信设备。这些通信设备的主要目的是传输信息，信息传输，最终被宿主接收，信息理论应用程序无处不在，如点对点无线电话，发送端需要发送机，将模拟信号调制到射频，然后通过天线使用大功率发射机，然后在无线信道中传输。加密和解密装置可以添加到系统中，形成无线保密通信系统。信源编码和信道编码技术也可用于通信系统，该系统干扰大，信道容量有限。

例如，写作过程也是编码信源的一种方式。用不同的语言写作是不同的编码方式，然后邮政专车运输是编码信道。小偷，即窃听者，可以在此过程中窃取传输的信息。收到信件后，阅读过程是解码。整个系列中的所有原理都与信息论密切相关，信息论是基于信源的发送和接受。

2.简述LZ如果输入信源符号序列，则编码原理并举例说明[根据书中例5-10的条件U=(abbabaabbabab）]对应的输出代码是什么？

编码原理：设置信源符号集A={a1,a2,…,ak}共K个符号，输人信源符号序列为U=(u1 ,u2,..，un),编码将序列分为不同的段落。分解是迭代进行的，在第一步，编码器从si-短语后的第一个符号开始向后搜索以前从未出现过的最短短语si,将短语si加人字典第一段。由于si这是字典中最短的新短语，所以si去除最后一个符号x后获得的前缀必须出现在字典中。假设前缀是在第j(

LZ编码步骤：

首先，将信源输出序列分为不同的代码段，并尽可能采用最短的代码段，每个代码段都是不同的。然后将第一步划分的代码段作为字典内容，代码段的序列号作为字典索引。最后，编码。新的代码段是前面的代码段与新的信源输出之间的拼接。

例5-10:信源符号集 A={a,b}，输人信源符号序列U= (abbabaabbabab)。分段输人序列，单符号a和b分别赋予段号1和2，码字为(0，a)和(0,b)。ba段号3，对应的码字为(2)a)。baa段号4，对应的码字为(3，a)。bb为段号5，对应的码字为(2)b)。ab段号6，对应的码字为(1，b)。abb为段号7，对应码字为(6，b)。最后由于要编程二进制码，因此对信源符号的编码可以采用logK二进制数表示，可用于每个段码[logi ]二进制数表示将相应的十进制数转换为相应长度的二进制数。最终输出的二进制码流为000110011001100

3.在通信系统中，除了常见的高斯白噪声外，还些噪声会影响我们的无线传输？

(1)白噪声:通信系统中经常遇到的噪声之一是白噪声。白噪声是指其功率谱密度函数是整个频域的常数，即服从均匀分布。换句话说，此信号在各个频段上的功率是一样的，由于白光是由各种频率（颜色）的单色光混合而成，因而此信号的这种具有平坦功率谱的性质被称作是“白色的”，此信号也因此被称作白噪声。相比之下，没有这种性质的其他噪声信号称为有色噪声。

(2)高斯噪声:高斯噪声是指其概率密度函数服从高斯分布(即正态分布)的一种噪声。常见的高斯噪声包括起伏噪声、宇宙噪声、热噪声和散粒噪声。除了常用的抑制噪声的方法外，高斯噪声的抑制方法通常是数学统计。

(3)窄带高斯噪声:当高斯噪声通过时ωc窄带高斯噪声可在中心角频率窄带系统中形成。窄带系统是指系统的频带宽度△f远小于中心频率fc该系统符合大多数信道的实际情况。窄带高斯噪声的特点是频谱局限于 ±ωc在狭窄的频率范围内，其包络和相位正在慢慢随机变化。如果用示波器观察其波形，则频率近似 fc，包络和相位随机变化的正弦波。

(4)余弦信号加窄带高斯噪声:余弦信号和窄带高斯噪声的随机包络服从广义瑞利分布(也称莱斯分布)。如果信号幅度大A→0时，其随机包络服从瑞利分布。余弦信号加窄带高斯噪声的随机相位分布与斯噪声的随机相位分布与信道中的信噪比有关，接近均匀分布。

(5)热噪声:热噪声又称电阻热噪声。其功率谱均匀分布的频率范围约为10THz，它通常被认为是典型的白噪声。我们知道，在一定的温度下，任何物体都在不断地骚动，骚动的物体通过力和电磁与周围环境交换能量。根据统计力学能量等配定律，在温度T下，运动自由度的平均能量值等于1/2KT，K是玻耳兹曼常数，K=1.38×10-23J/K;T是热力学温度。热骚动也以电的形式出现在电路中。发现电路中的电流或电路两点之间的电位差在一定温度下不断起伏。因为热是物质的不规则运动。在高灵敏度的情况下，电路中的起伏很早就被发现。当电路中存在的信号振幅小到与随机热骚动引起的电压波动相同的数量级时，这种热波动显然是干扰信号。人们发现，物理量的起伏，包括起伏方差，以及起伏过程的速度（即起伏过程的自相关时间）与电路的各种参数有关。

（6）宇宙噪声：是指天体辐射波对接收机形成的噪声。整个空间分布不均匀，最强的来自银河系中部，其强度与季节、频率等因素有关。实测表明，在20MHz~30MHz其强度与频率的三次方成正比。因此，当频率低于300时MHz有必要考虑它的影响。实践证明，宇宙噪声也服从高斯的分布。在一般信号的工作频率范围内，功率谱密度相对平坦，平均值为零。