¶致谢
感谢 daycun 同学在通信相关课程上对本人不遗余力的教导
¶参考教材
- 张会生,通信原理 . 北京:高等教育出版社,2011
- 樊昌信、曹丽娜,通信原理(第七版). 北京:国防工业出版社,2017.
¶第一章 绪论
考察重点: 待定
信息量与平均信息量的计算
码元传输速率与信息传输速率的计算与互换
¶通信的基本概念
广义的 通信:是指由一地向另一地进行消息的有效传递。
通信的再定义:利用电子等技术手段,借助电信号(含光信号)实现从一地向另一地进行消息的有效传递称为通信。
通信系统:实现信息传递所需的一切 技术设备 和 传输媒质 的总和称为通信系统。
通信系统的一般模型:
信源(信息源、发终端):把待传输的消息转换成原始电信号。
发送设备:产生适合于在信道中传输的信号,即将信源和信道 匹配。如:调制。
信道:信号传输的通道。将来自发送设备的信号传送到接收端的物理媒质,分为 有线信道 和 无线信道 两大类。
噪声源:信道中的所有噪声以及分散在通信系统中其它各处噪声的集合。
接收设备:从受到减损(干扰)的接收信号中正确恢复出原始电信号。
信宿(受信者、收终端 ):将复原的原始电信号还原成相应的消息。
按照信道中传输的是模拟信号还是数字信号,将通信系统分为 模拟通信系统 与 数字通信系统。
通信方式:
按消息传送的方向与时间分可分为单工通信、半双工通信及全双工通信三种。
按数字信号排序分可分为串序传输和并序传输。串行传输是将数字信号码元序列以串行方式一个码元接一个码元地在一条信道上传输,并行传输是将代表信息的数字信号码元序列以成组的方式在两条或两条以上的并行信道上同时传输。
¶信息的概念
经典Shannon信息定义:信息是不确定性的消除。
信息可被理解为消息中包含的有意义的内容,消息中所含信息量仅与消息内容的不确定性有关,由概率论可知,事件的不确定程度,可用事件出现的概率来描述——信息量与消息出现概率关系。
- 消息 $x$ 中所含信息量 $I$ 是消息出现概率 $P(x)$ 的函数,即
- 消息出现的概率越小,它所含信息量越大,反之信息量越小。特别是
- 若干个互相独立事件构成的消息$(x1,x2,\cdots)$所含信息量等于各独立事件$x1$,$x2$,$\cdots$ 信息量的和,即
于是定义消息 $x$ 所含的信息量为
$$I = \log_{a}\dfrac{1}{P(x)} = -\log_{a}P(x)$$信息量 $I$ 的单位取决于对数底数 $a$ 的取值
通常广泛使用的单位为比特,即有
$$I = \log_{2}\dfrac{1}{P(x)} = -\log_{2}P(x)$$二进制离散信源,数字 $0$ 或 $1$ 以相等的概率出现时,每个符号的信息量相等,为 $1\text{bit}$。独立等概情况下 $M$ 进制的每一符号包含的信息量,是二进制每一符号包含信息量的 $K$ 倍。($K$ 是每一个 $M$ 进制符号用二进制符号表示时所需的符号数目,即 $M=2^K$)。
当各个符号出现的概率不相等时,计算消息的信息量常用到 平均信息量 的概念。
多进制时,设各符号出现的概率为
$$ \begin{bmatrix} x_1, & x_2, & \cdots, & x_n \\ P(x_1), & P(x_2), & \cdots, & P(x_n) \end{bmatrix} ~~~~\text{and}~~~~ \sum^{n}_{i=1}P(x_i) = 1 $$则每个符号所含信息的统计平均值(平均信息量)
$$ \begin{array}{lcl} \bar {I} & = &P(x_1)[-\log_{2} P(x_1)] + P(x_2)[-\log_{2} P(x_2)] + \cdots + P(x_n)[-\log_{2} P(x_n)] \\ & = & -\sum\limits^{n}_{i=1}P(x_i)\log_{2}P(x_i) ~~~~ (\text{bit}/符号) \end{array} $$又称 $\bar{I}$ 为 信息源的熵。
显然,当信源中每个符号独立等概率出现时,有
$$\bar{I} = \log_{2} M = \log_{2} 2^K = K ~~~~ (\text{bit}/符号)$$可以证明,此时信息源的熵为最大值。
关于连续消息的信息量可以用 概率密度函数 来描述。可以证明,连续消息的平均信息量 为
$$H(x) = -\int^{\infty}_{-\infty} f(x) \log_{a} f(x) \mathrm{d}x$$¶通信系统的性能指标
有效性指标用传输速率来衡量,通常有两种表示方法,分别为码元传输速率 $R_B$ 与信息传输速率 $R_b$,码元传输速率 $R_b$ 是指单位时间(每秒)内传输码元的数目,单位为 $\text{Baud(B)}$,信息传输速率 $R_b$ 是指单位时间(每秒)内传送的信息量,单位为 $\text{bit/s(b/s or bps)}$。
$R_b$ 与 $R_B$ 的互换公式为
$$R_{bM} = R_{BM} \cdot \log_{2}M$$其中,$M$ 为信号进制数,所以二进制时,有 $R_{b2} = R_{B2} \cdot \log_{2}2 = R_{B2}$
可靠性的指标是利用信号在传输过程中出错的概率即差错率来描述的,即差错占总体的比例,通常也有两种表示方法,分别为码元差错率(误码率)$P_e$ 与信息差错率(误信率)$P_b$,二进制时,有 $P_b=P_e$,在非二进制时,注意两者的不同。
¶第二章 随机信号与噪声分析
考察重点: 待定
求随机过程的数字特征
勿忘积化和差公式
判断随机过程是否平稳 …
¶随机过程
通信是在噪声背景下信号通过通信系统的过程,分析与研究通信系统,总是离不开对信号和噪声的分析。尽管随机信号和随机噪声是不可预测的、随机的,但它们具有一定的统计规律。从统计学的观点看,均可表示为 随机过程。
¶基本概念
随机过程是一类随时间作随机变化的过程,它不能用确切的时间函数描述。随机过程 $X(t)$ 对应不同随机试验结果的 随机函数(时间过程)的集合 $\{ x_1(t), x_2(t), \dots, x_n(t) \}$,是 随机变量 概念的延伸,即 $X(t)$ 在任一时刻 $t_1$ 上的取值 $X(t_1)$ 不是确定的,是一个随机变量。
¶分布函数
- 一维分布函数
- 一维概率密度函数(偏导存在)
- $n$ 维分布函数
- $n$ 维概率密度函数(偏导存在)
¶统计独立
对于任何 $n$ 个随机变量 $X(t_1)$,$X(t_2)$,$\dots$,$X(t_n)$,如果下式成立
$$f_n(x_1, x_2, \cdots, x_n; t_1, t_2, \cdots, t_n) = f_1(x_1, t_1)f_1(x_2, t_2) \dots f_1(x_n, t_n)$$则称这些变量是 统计独立 的,否则就是不独立的或相关的。
¶数字特征
¶随机过程的数学期望
随机过程 $X(t)$ 在任意给定时刻 $t_1$ 的取值 $X(t_1)$ 是一个随机变量,其 数学期望(均值) 为
$$E[X(t_1)] = \int^{\infty}_{-\infty} x_1 f_1(x_1, t_1) \mathrm{d}x$$其中 $f_1 (x_1, t_1)$ 为 $X(t_1)$ 的概率密度函数。
由于 $t_1$ 是任取的,所以可以把 $t_1$ 直接写为 $t$,$x_1$改为 $x$,这样便可得到随机过程在任意给定时刻 $t$ 的数学期望
$X (t)$ 的数学期望是时间的确定函数,常记作 $a(t)$,它表示随机过程的 $n$ 个样本函数曲线的摆动中心,故又常被称为统计平均或均值。
¶方差
随机过程的 方差 定义为
$$D[X(t)] = E\{ [ X(t) - a(t) ]^2 \} \longrightarrow \sigma^2(t)$$这里也把任意时刻 $t_1$ 直接写成了 $t$。由方差的定义式可推导得到
$$D[X(t)] = E[X^2(t)] - a^2(t) = \int^{\infty}_{-\infty} x^2 f_1(x, t)\mathrm{d}x - [a(t)]^2$$可知方差等于均方值与均值平方之差,它表示随机过程在时刻 $t$ 相对于均值 $a ( t )$ 的偏离程度。
¶相关函数与协方差
设 $X(t_1)$ 和 $X(t_2)$ 分别是在 $t_1$ 和 $t_2$ 时刻观测得到的随机变量。
随机过程的(自)相关函数(同一随机过程的相关程度),定义为
$$R(t_1, t_2) = E[X(t_1)X(t_2)] = \int^{\infty}_{-\infty}\int^{\infty}_{-\infty} x_1x_2f_2(x_1, x_2; t_1, t_2)\mathrm{d}x_1\mathrm{d}x_2 = R(t, \tau)$$其中 $f_2(x_1, x_2; t_1, t_2)$ 为 $X(t)$ 的二维概率密度函数;
令 $t = t_1$,$\tau = t_2 - t_1$,则 $R(t_1, t_2)$ 可表示为 $R(t, \tau)$;
可以看出 $R(t_1, t_2)$ 是两个变量 $t_1$ 和 $t_2$ 的确定函数。
随机过程的 协方差函数 定义为
$$B(t_1, t_2) = E{[X(t_1) - a(t_1)][X(t_2) - a(t_2)]} \\= \int^{\infty}_{-\infty}\int^{\infty}_{-\infty} [x_1 - a(t_1)][x_2 - a(t_2)]f_2(x_1, x_2; t_1, t_2)\mathrm{d}x_1\mathrm{d}x_2$$显然,相关函数和协方差函数之间有如下关系
$$B(t_1, t_2) = R(t_1, t_2) - a(t_1)a(t_2)$$引申到两个随机过程,有
- 互相关函数
- 互协方差函数
¶平稳随机过程
若一个随机过程 $X(t)$,它的任意 $n$ 维分布或概率密度函数与时间起点无关,即对于任意的正整数 $n$ 和所有实数 $\Delta$,有
$$f_n(x_1, x_2, \cdots, x_n; t_1, t_2, \cdots, t_n) \\= f_n(x_1, x_2, \cdots, x_n; t_1 + \Delta, t_2 + \Delta, \cdots, t_n + \Delta)$$则称X(t)是 平稳随机过程。
¶性质
平稳随机过程的统计特性不随时间的推移而改变。
- 一维概率密度函数与时间 $t$ 无关
- 二维概率密度函数只与时间间隔 $\tau = t_2 – t_1$ 有关
¶数字特征
(1)均值与 $t$ 无关,为常数 $a$
$$E[X(t)] = \int^{\infty}_{-\infty} x_1 f_1(x_1) \mathrm{d}x = a$$(2)自相关函数只与时间间隔 $\tau$ 有关
$$R(t_1, t_2) = E[X(t_1)X(t_1 + \tau)] = \int^{\infty}_{-\infty}\int^{\infty}_{-\infty} x_1x_2f_2(x_1, x_2; \tau)\mathrm{d}x_1\mathrm{d}x_2 = R(\tau)$$把同时满足(1)和(2)的随机过程定义为 广义平稳随机过程。
¶平稳随机过程的各态历经性
各态历经性 的含义:随机过程中的任何一次实现都经历了随机过程的所有可能状态,其任一样本都蕴含着平稳随机过程的全部统计信息。
具有各态历经性的过程,其数字特征(均为统计平均)完全可由随机过程中的任一实现的时间平均值来代替。
¶各态历经性条件
设:$x_i(t)$ 是平稳过程 $X(t)$ 的任意一次实现(样本),则其 时间均值 和 时间相关函数 分别定义为
$$\overline{a} = \overline {x(t)} = \lim_{T \to \infty}\dfrac{1}{T}\int^{T/2}_{-T/2}x(t)\mathrm{d}t$$ $$\overline{R(\tau)} = \overline{x(t)x(t + \tau)} = \lim_{T \to \infty}\dfrac{1}{T}\int^{T/2}_{-T/2}x(t)x(t+\tau)\mathrm{d}t$$如果平稳过程使下式成立
$$ \begin{cases} & a = \overline{a} \\ & R(\tau) = \overline{R(\tau)} \end{cases} $$则称该平稳过程具有各态历经性。
¶平稳过程的自相关函数
平稳过程自相关函数的定义
$$R(\tau) = R(t_1, t_2) = E[X(t_1)X(t_2)]$$平稳过程自相关函数的性质
- $R(\tau) = R(-\tau) ~~~~~~~~~~~~~~~~~~~~$ —— $\tau$ 的偶函数
- $|R(\tau)| \le R(0) ~~~~~~~~~~~~~~~~~~~~$ —— $R(\tau)$ 的上界,$R(\tau)$ 在 $\tau = 0$ 有最大值
- $R(0) = E[X^2(t)] ~~~~~~~~~~~~~~~~$ —— $X(t)$ 的平均功率
- $R(\infty) = E^2[X(t)] = a^2 ~~~~$ —— $X(t)$ 的直流功率
- $R(0) - R(\infty) = \sigma^2 ~~~~~~~~~~~~$ —— $X(t)$ 的交流功率
通常,通信信道中噪声的均值 $a=0$,由此得到噪声的平均功率 $R(0) = \sigma^2$。
¶平稳随机过程的功率谱密度
设:$X(t)$ 平稳,$R(\tau)$ 绝对可积 $\int^{\infty}_{-\infty}|R(\tau)|\mathrm{d}\tau < \infty$
则
$$P_X(\omega) = \int^{\infty}_{-\infty} R(\tau)e^{-j\omega\tau}\mathrm{d}\tau$$ $$R(\tau) = \dfrac{1}{2\pi}\int^{\infty}_{-\infty} P_X(\omega)e^{j\omega\tau} \mathrm{d}\omega$$简记为
$$R(\tau) \Leftrightarrow P_X(\omega) \tag{维纳-辛钦关系}$$即平稳随机过程的自相关函数与其功率谱密度之间互为傅里叶关系。维纳-辛钦关系 在平稳随机过程的理论和应用中是一个非常重要的工具,它是联系频域和时域两种分析方法的基本关系式。
推论
- 对功率谱密度进行积分,可得平稳过程的平均功率,从频域的角度给出了过程平均功率的计算方法
- 各态历经过程的任一实现的功率谱密度等于过程的功率谱密度,即任一实现的谱特性都能很好地表现整个过程的谱特性
¶高斯随机过程
若随机过程 $X(t)$ 的任意 $n$ 维分布($n=1,2,…$)均服从正态分布,则称它为正态过程或高斯过程。
$n = 1$ 时,其一维正态概率密度函数为
$$f_1(x_1, t_1) = \dfrac{1}{\sqrt{2\pi} \sigma_1} \exp\Big[ -\dfrac{(x_1 - a_1)^2}{2\sigma_1^2} \Big]$$此即为高斯过程 $X(t)$ 在时刻 $t_1$ 取值所得随机变量 $X(t_1)$ 的一维概率密度函数,$a_1$,$\sigma_1^2$ 分别为 $X(t_1)$ 的均值和方差
¶性质
- 高斯过程若广义平稳,则必狭义平稳。
- 高斯过程中的随机变量 $X(t_1), X(t_2), X(t_3), \dots$ 之间若不相关,则它们也必是统计独立的。这种情况下,随机过程极其复杂的 $n$ 维正态概率密度函数表示可转化为 $n$ 个简单的一维分布的乘积。
- 若干个高斯过程之和仍是高斯过程。
- 高斯过程经线性变换后,仍是高斯过程。
¶高斯随机变量
若随机变量 $x$ 的概率密度函数可表示成
$$f(x) = \dfrac{1}{\sqrt{2\pi} \sigma} \exp\Big[ -\dfrac{(x - a)^2}{2\sigma^2} \Big]$$则称 $x$ 为服从正态分布的随机变量,也称高斯随机变量。
性质
- 对称于直线 $x=a$;
- 在 $(-\infty, a)$ 内单调上升,在 $(a, +\infty)$ 内单调下降,且在 a 点处达到极大值;
- $\int^{\infty}_{-\infty}f(x)\mathrm{d}x = 1$,$\int^{\infty}_{a}f(x)\mathrm{d}x = \int^{a}_{-\infty}f(x)\mathrm{d}x = \dfrac{1}{2}$
- $a$ 表示分布中心,$\sigma$ 表示集中的程度,$\sigma$ 减小使得 $f(x)$ 变得高窄。
¶正态分布函数与误差函数
正态分布函数的一般表示式为
$$F(x) = \int^{x}_{-\infty}f(z)\mathrm{d}z = \int^{x}_{-\infty}\dfrac{1}{\sqrt{2\pi} \sigma} \exp\Big[ -\dfrac{(x - a)^2}{2\sigma^2} \Big]\mathrm{d}z$$误差函数(可补充)
¶平稳随机过程通过线性系统
设 $X(t)$ 是平稳的输入随机过程,其均值为 $a_X$,其自相关函数为 $R_X(\tau)$,其功率谱密度为 $P_X(\omega)$,通过线性系统,输出过程 $Y(t)$,有
$$Y(t) = X(t) * h(t) = \int^{\infty}_{-\infty}h(\tau)X(t-\tau)\mathrm{d}\tau$$-
$Y(t)$ 的均值:
$E[Y(t)] = a_XH(0) = a_Y$(输入过程均值与系统直流增益的乘积,与 $t$ 无关) -
$Y(t)$ 的相关函数:
$R_Y(t, t+\tau) = R_Y(\tau)$(即 $Y(t)$ 平稳) -
$Y(t)$ 的功率谱密度:
$P_Y(\omega) = |H(\omega)|^2 P_X(\omega)$ -
$Y(t)$ 的概率分布函数:
(高斯过程经过线性变换后认为高斯过程)
¶窄带随机过程
(可补充)
¶正弦波加窄带高斯噪声
(可补充)
¶高斯白噪声和带限白噪声
¶白噪声
凡功率谱密度在整个频域内都是均匀分布的噪声,称为白噪声。
只要噪声的功率谱均匀分布的频率范围远大于通信系统的工作频带,就可视为白噪声。
- 双边谱密度:$P_n(\omega) = \dfrac{n_0}{2}~~~~~~~~(-\infty< \omega <+\infty)$
- 单边谱密度:$P_n(\omega) = n_0~~~~~~~~~(0< \omega <+\infty)$
其中:$n_0$ 为常数,$\text{W/Hz}$。一般默认白噪声为平稳的。
自相关函数:$P_n(\omega) = \dfrac{n_0}{2}\leftrightarrow R_n(\tau) = \dfrac{n_0}{2}\delta(\tau)$(互为傅氏变换对)
平均功率:$R(0) = \dfrac{n_0}{2}\delta(0) = \infty$
¶高斯白噪声
在通信系统的抗噪声性能分析时,常把通信信道中的噪声源视为高斯白噪声。
高斯白噪声是指噪声取值的概率密度函数满足正态分布统计特性,同时它的功率谱密度函数是常数的一类噪声。
¶带限白噪声
带限白噪声指白噪声功率被限制在一定范围的噪声
¶低通白噪声
白噪声经理想低通滤波器或理想低通信道后而形成的噪声,被称为低通白噪声。
功率谱密度:
$$ P_n(\omega) = \begin{cases} \dfrac{n_0}{2}, & |\omega| \le \omega_H\\ 0, & \text{else} \end{cases} $$自相关函数:对 $P_n(\omega)$ 取傅里叶变换:$R(\tau)=n_0 f_H Sa(\omega_H\tau)$
低通白噪声的功率:$N = R(0) = n_0 f_H = n_0 B$
¶带通白噪声
如果白噪声通过理想矩形的带通滤波器或理想带通信道,则其输出的噪声称为带通白噪声。
设理想带通滤波器的传输特性为
$$ H(f) = \begin{cases} 1, & f_c - \dfrac{B}{2} \le |f| \le f_c + \dfrac{B}{2}\\ 0, & \text{else} \end{cases} $$式中:$f_c$-中心频率,$B$-通带宽度。
则带通白噪声的功率谱密度为
$$ P_n(\omega) = \begin{cases} \dfrac{n_0}{2}, & f_c - \dfrac{B}{2} \le |f| \le f_c + \dfrac{B}{2}\\ 0, & \text{else} \end{cases} $$自相关函数:$R(\tau) = n_0 B \cdot Sa \pi B \tau \cdot cos\omega_c\tau$
带通白噪声的功率:$N=R(0)=n_0 B$
理想低通与理想带通皆为线性系统,当输入的白噪声为高斯型时,其输
出也必为高斯的,且均值为 $0$,方差为 $n_0 B$。
¶信道与噪声
考察重点: 待定
勿忘求相频特性的方法
¶信道
通俗地说,信道是指以传输媒介为基础的信号通路,可大体分成狭义信道和广义信道。
¶调制信道模型
调制信道即传输已调信号的信道。
可用一个二对端(或多对端)的时变线性网络来表示调制信道,
$$e_0 (t) = k(t) \cdot e_i(t) + n(t).$$信道对信号的影响可归纳为两点:一是乘性干扰 $k(t)$,二是加性干扰(噪声) $n(t)$。不同特性的信道,仅反映信道模型有不同的 $k(t)$ 及 $n(t)$。
根据信道中 $k(t)$ 的特性不同,可以将信道分为:
- 恒参信道: $k(t) \sim t$ 不变或慢变;
- 变参信道(随参信道): $k(t) \sim t$ 随机快变。
¶恒参信道及其对所传信号的影响
恒参信道可以等效为一个线性时不变网络。
网络的传输特性:$H(\omega) = |H(\omega)|e^{j\varphi(\omega)}$
信号不失真传输条件
要使任意一个信号通过线性网络不产生波形失真,网络的传输特性应该具备以下两个理想条件:
- 网络的幅频特性 $|H(\omega)|$ 是一个不随频率变化的常数;
- 网络的相频特性 $\varphi(\omega)$ 应与频率成负斜率直线关系。其中 $t_0$ 为传输时延常数。
网络的相频特性还常采用群迟延-频率特性 $\tau(\omega)$ 来衡量,有
$$\tau(\omega) = \dfrac{\mathrm{d}\varphi(\omega)}{\mathrm{d} \omega}$$随参信道及其对所传信号的影响
一般的多径传播 信号带宽(可补充)
¶信道容量
在信息论中,称信道无差错传输信息的最大信息速率为信道容量,记之为 $C$。
假设连续信道的加性高斯带限白噪声功率为 $N(\text{W})$,信道的带宽为 $B(\text{Hz})$,信号功率为 $S(\text{W})$,则该信道的信道容量 $C$ 为:
$$C = B\log_{2}(1 + \dfrac{S}{N}) = B\log_2(1 + \dfrac{S}{n_0 B})~~~~(\text{bit/s})$$其中:
$n_0$:高斯白噪声的单边功率谱密度 $(\text{W/Hz})$;
$S/N$:存在于信道中的信噪比。
关于香农公式的几点讨论(可补充)
¶模拟调制系统
¶幅度调制的原理
常规双边带调幅(AM, Amplitude Modulation)
抑制载波的双边带调幅(DSB-SC,Double Side-Band-Suppressed Carrier)
单边带调制(SSB,Single Side Band)
残留边带调制(VSB)