第03章 随机过程
基本概念
随机过程是在时间进程中处于不同时刻的随机变量的集合。
随机过程其实是随机变量在连续时间上的一次“升维”
分布函数/概率密度函数
设ξ(t)表示一个随机过程,则它在任意时刻t1的值ξ(t1)是一个随机变量
定义一维分布函数
F1(x1,t1)=P[ξ(t1)⩽x1]
一维概率密度函数
f1(x1,t1)=∂x1∂F1(x1,t1)
定义二维分布函数
F2(x1,x2;t1,t2)=P∣ξ(t1)⩽x1,ξ(t2)⩽x2∣
二维概率密度函数
f2(x1,x2;t1,t2)=∂x1⋅∂x2∂2F2(x1,x2;t1,t2)
数字特征
数学期望
a(t)=E[ξ(t)]=∫−∞∞xf1(x,t)dx
方差
D[ξ(t)]=E{[ξ(t)−a(t)]2]
可以证明:
D[ξ(t)]=E[ξ2(t)−2a(t)ξ(t)+a2(t)]=E[ξ2(t)]−2a(t)E[ξ(t)]+a2(t)=E[ξ2(t)]−a2(t)=∫−∞∞x2f1(x,t)dx−[a(t)]2
自相关函数
R(t1,t2)=E[ξ(t1)ξ(t2)]=∫−∞∞∫−∞∞x1x2f2(x1,x2;t1,t2)dx1dx2
自相关函数反映不同时刻随机过程取值的相关性
自协方差函数
B(t1,t2)=E{[ξ(t1)−a(t1)][ξ(t2)−a(t2)]}=∫−∞+∞∫−∞+∞[x1−a(t1)][x2−a(t2)]f2(x1,x2;t1,t2)dx1dx2
自协方差函数反映不同时刻随机过程的统计相关性
且有
B(t1,t2)=R(t1,t2)−a(t1)a(t2)
互相关函数
Rξη(t1,t2)=E[ξ(t1)η(t2)]
平稳随机过程
定义
若一个随机过程ξ(t)的统计特性与时间起点无关,即时间平移不影响其任何统计特性,则称该随机过程是在严格意义下的平稳随机过程,简称严平稳随机过程。
fn(x1,x2,⋯,xn;t1,t2,⋯,tn)=fn(x1,x2,⋯,xn;t1+Δ,t2+Δ,⋯,tn+Δ)
定义广义平稳过程,如果随机过程ξ(t)满足
期望与t无关
E[ξ(t)]=∫−∞∞x1f1(x1)dx1=a
自相关函数只与时间间隔τ有关
R(t1,t2)=E[ξ(t1)ξ(t1+τ)]=∫−∞∞∫−∞∞x1x2f2(x1,x2;τ)dx1dx2=R(τ)
各态历经性
假设x(t)是平稳过程ξ(t)的任意一次实现
定义
a=x(t)=T→∞limT1∫−T2T2x(t)dtR(τ)=x(t)x(t+τ)=T→∞limT1∫−T2T2x(t)x(t+τ)dt
若
⎩⎨⎧a=aR(τ)=R(τ)
则称该平稳过程具有各态历经性
各态历经性的含义:平稳过程中的任一次实现都经历了随机过程的所有可能状态.
充分条件:具有各态历经的随机过程一定是平稳过程.
判断一个随机过程是否广义平稳只需验证下式成立与否
⎩⎨⎧a(t)=aR(t1,t1+τ)=R(τ)
判断一个平稳过程是否各态历经只需验证下式成立与否
⎩⎨⎧a=aˉR(τ)=R(τ)
平稳过程的自相关函数
定义平稳过程的自相关函数
R(τ)=E[ξ(t)ξ(t+τ)]
- 在时域中计算平均功率R(0)=E[ξ2(t)]且为最大值
- 偶函数R(τ)=R(−τ)
- 直流功率R(∞)=E2[ξ(t)]=a2
τ→∞limR(τ)=τ→∞limE[ξ(t)ξ(t+τ)]=E[ξ(t)]⋅E[ξ(t+τ)]=E2[ξ(t)]
上式利用了当τ→∞时,ξ(t)与ξ(t+τ)没有任何依赖关系,即统计独立
- 交流功率R(0)−R(∞)=σ2
平稳过程的功率谱函数
随机过程中的任一样本是一个确定的功率型信号
定义功率谱密度
Px(f)=T→∞limT∣XT(f)∣2
维纳-辛钦定理:平稳过程的功率谱密度与其自相关函数是一对傅里叶变换关系
⎩⎨⎧Pξ(ω)=∫−∞∞R(τ)e−jωτdτR(τ)=2π1∫−∞∞Pξ(ω)ejωτdω
或
⎩⎨⎧Pξ(f)R(τ)=∫−∞∞R(τ)e−jωτdτ=∫−∞∞Pξ(f)ejωτdf
简记为
R(τ)⇔Pξ(f)
-
在频域中计算平稳过程的平均功率:
R(0)=∫−∞∞Pξ(f)df
-
各态历经过程的任一样本函数的功率谱密度等于过程的功率谱密度
-
功率谱密度具有非负性Pξ(f)≥0和实偶性Pξ(−f)=Pξ(f)
高斯随机过程
定义高斯过程
fn(x1,x2,⋯,xn;t1,t2,⋯,tn)=(2π)2nσ1σ2⋯σn∣B∣211exp[−2∣B∣1j=1∑nk=1∑n∣B∣jk(σjxj−aj)(σkxk−ak)]
- n维分布只依赖各个随机变量的均值、方差和归一化协方差,我们只需要研究这些数字特征
- 广义平稳的高斯过程也是严平稳的
- 如果高斯过程在不同时刻的取值不相关,那么它们是统计独立的
- 高斯过程经线性变换后(输入线性系统后的输出)仍是高斯过程
高斯随机变量
一维概率密度函数
高斯过程在任一时刻上的取值是一个正态分布的随机变量高斯随机变量,其一维概率密度函数为
f(x)=2πσ1exp(−2σ2(x−a)2)
-
f(a+x)=f(a−x)
-
∫−∞∞f(x)dx=1
-
当a=0,σ=1时,称为标准化的正态分布
f(x)=2π1exp(−2x2)
正态分布函数
定义正态分布的概率密度函数的积分为正态分布函数
F(x)=P(ξ⩽x)=∫−∞x2πσ1exp[−2σ2(z−a)2]dz
我们可以用以下几种函数来进行变量代换来方便计算
- 使用误差函数erf(x)
令t=2σ(z−a),则dz=2σdt,有:
F(x)=21⋅π2∫−∞(x−a)/2σe−t2dt=21+21erf(2σx−a)
其中
erf(x)=π2∫0xe−t2dt
- 使用互补误差函数erfc(x)
erfc(x)=1−erf(x)=π2∫x∞e−t2dt
此时
F(x)=1−21erfc(2σx−a)
- 使用Q(X)
Q(x)=2π1∫x∞e2−t2dtx⩾0
那么
P(ξ>x)=Q(σx−a)
平稳随机过程通过线性系统
关系式
vi(t)是输入随机过程的一个样本,vo(t)是输出随机过程的一个样本,随机过程ξi(t)的样本包括[vi,n(t) ,n=1,2,⋯]
确知信号通过线性时不变系统时,可由系统的单位冲激响应表征
vo(t)=h(t)∗vi(t)=∫−∞∞hi(τ)vi(t−τ)dτ
于是输入与输出随机过程也应满足
ξo(t)=∫−∞∞h(τ)ξi(t−τ)dτ
输出过程的统计特性
- 输出过程ξo(t)的均值
E[ξo(t)]=E[∫−∞∞h(τ)ξi(t−τ)dτ]=∫−∞∞h(τ)E[ξi(t−τ)]dτ
输入过程是平稳的,有
E[ξi(t−τ)]=E[ξi(t)]=a
所以
E[ξo(t)]=a⋅∫−∞∞h(τ)dτ=a⋅H(0)(1)
上式表明输出过程的均值是一个常数,其中H(0)是直流增益
- 输出过程ξo(t)的自相关函数
R0(t1,t1+τ)=E[ξs(t1)ξs(t1+τ)]=E[∫−∞∞h(α)ξi(t1−α)dα∫−∞∞h(β)ξi(t1+τ−β)dβ]=∫−∞∞∫−∞∞h(α)h(β)E[ξi(t1−α)ξi(t1+τ−β)]dαdβ
输入过程是平稳的,有
E[ξi(t1−α)ξi(t1+τ−β)]=Ri(τ+α−β)
所以
Ro(t1,t1+τ)=∫−∞∞∫−∞∞h(α)h(β)Ri(τ+α−β)dαdβ=Ro(τ)(2)
上面1和2两式表明,若线性系统的输入过程是平稳的,那么输出过程也是平稳的
- 功率谱密度
对上式进行傅里叶变换
Po(f)=∫−∞∞Ro(τ)e−jωτdτ
=∫−∞∞[∫−∞∞∫−∞∞h(α)h(β)Ri(τ+α−β)dαdβ]e−jωτdτ
令τ′=τ+α−β
Po(f)=∫−∞∞h(α)ejωαdα∫−∞∞h(β)e−jωβdβ∫−∞∞Ri(τ′)e−jωτ′dτ′Po(f)=H∗(f)⋅H(f)⋅Pi(f)=∣H(f)∣2Pi(f)
上式表明,输出过程的功率谱密度是输入过程的功率谱密度乘系统频率响应模值的平方
- 输出过程ξo(t)的概率分布
ξo(t)=Δτk→0limk=0∑∞ξi(t−τk)h(τk)Δτk
上式表明,高斯过程经线性变换后的过程仍为高斯过程
窄带随机过程
若随机过程ξ(t)的谱密度集中在中心频率fc附近相对窄的频带范围Δf内,即满足
⎩⎨⎧Δf≪fcfc远离零频率
则称该ξ(t)为窄带随机过程
一个典型的窄带随机过程的频谱密度和波形

窄带随机过程ξ(t)可表示为
ξ(t)=aξ(t)cos[ωct+φξ(t)]aξ(t)⩾0
其中aξ(t)称为窄带随机过程ξ(t)的随机包络 φξ(t)称为随机相位 ωc称为中心频率
上式展开得
ξ(t)=ξc(t)cosωct−ξs(t)sinωct
其中
ξc(t)=aξ(t)cosφξ(t)
ξs(t)=aξ(t)sinφξ(t)
分别称为ξ(t)的同相分量和正交分量
统计特性
现研究典型窄带随机过程ξ(t)的统计特性,其中ξ(t)是一个均值为0,方差为σξ2的平稳高斯窄带随机过程
ξ(t)=ξc(t)cosωct−ξs(t)sinωct
- ξc(t)和ξs(t)的统计特性
若窄带过程ξ(t)是平稳的,则ξc(t)和ξs(t)也是平稳的
ξc(t)和ξs(t)为零均值,等方差,不相关,独立的平稳高斯过程。
- aξ(t)和φξ(t)的统计特性
此ξ(t)的窄带平稳高斯过程的包络aξ(t)的一维分布是瑞利分布,相位φξ(t)的一维分布是均匀分布,且就一维分布而言二者统计独立
⎩⎨⎧f(aξ)=σξ2aξexp(−2σξ2aξ2),aξ≥0f(φξ)=2π1,0≤φξ≤2πf(aξ,φξ)=f(aξ)⋅f(φξ)
正弦波加窄带高斯噪声
数学模型
带通滤波器的输出是正弦波已调信号与窄带高斯噪声的混合波形
设正弦波加窄带高斯噪声的混合信号为
r(t)=Acos(ωct+θ)+n(t)
其中n(t)为窄带高斯噪声,其均值为0 方差为σn2
n(t)=nc(t)cosωct−ns(t)sinωct
于是
r(t)=[Acosθ+nc(t)]cosωct−[Asinθ+ns(t)]sinωct=zc(t)cosωct−zs(t)sinωct=z(t)cos[ωct+φ(t)]
其中
zc(t)=Acosθ+nc(t)
zs(t)=Asinθ+ns(t)
r(t)的包络和相位分别为
z(t)=zc2(t)+zs2(t)z⩾0
φ(t)=arctanzc(t)zs(t)0⩽φ⩽2π
统计特性
随机包络z(t)的统计特性:莱斯分布/广义瑞利分布
f(z)=σn2zexp(−2σn2z2+A2)I0(σn2Az),z≥0
大信噪比环境:r=2σn2A2≫1 近似为高斯分布
小信噪比环境:A→0退化为瑞利分布
随机相位φ(t)的统计特性:
小信噪比环境:f(φ)服从均匀分布
大信噪比环境:集中在有用信号相位附近,在0相位附近取值集中。
高斯白噪声和带限白噪声
白噪声
定义白噪声:噪声的功率谱密度在所有频率上均为一常数,即其双边功率谱密度为:
Pn(f)=2n0(−∞<f<+∞)
或单边功率谱密度为:
Pn(f)=n0(0<f<+∞)
取傅里叶反变换得白噪声的自相关函数
R(τ)=2n0δ(τ)
-
白噪声仅在τ=0时相关,而在任意两个时刻的随机变量都不相关
-
白噪声的平均功率无穷大,即R(0)=2n0δ(0)=∞
-
如果白噪声取值的概率服从高斯分布,则称为高斯白噪声,其通常用来作为通信信道中的噪声模型
-
实际中不存在理想白噪声,因为其功率为无穷大,若噪声功率谱均匀分布的频率范围远大于通信系统的工作频带,则视为白噪声。
低通白噪声
定义低通白噪声:白噪声通过理想矩形的低通滤波器或理想低通信道,则输出的噪声称为低通白噪声
假设理想低通滤波器传输特性:模为 1 ,截止频率为∣f∣⩽fH
则低通白噪声的功率谱密度
Pn(f)=⎩⎨⎧2n00∣f∣⩽fH其他
自相关函数为
R(τ)=n0fH2πfHτsin2πfHτ

此低通白噪声也通常称作带限白噪声,其在τ=2fHk(k=1,2,3)上得到的随机变量不相关
带通白噪声
定义带通白噪声:白噪声通过理想矩形的带通滤波器或理想带通信道,则输出的噪声称为带通白噪声
假设理想带通滤波器的传输特性为:
H(f)=⎩⎨⎧10fc−2B⩽∣f∣⩽fc+2B其他
则带通白噪声的功率谱密度
Pn(f)=⎩⎨⎧2n00fc−2B⩽∣f∣⩽fc+2B其他
自相关函数
R(τ)=∫−∞∞Pn(f)ej2πfτdf=∫−fc−2B−fc+2B2n0ej2πfτdf+∫fc−2Bfc+2B2n0ej2πfτdf=n0BπBτsinπBτcos2πfcτ

通常,带通滤波器B≪fc 因此称为窄带滤波器,相应地把带通白噪声称为窄带高斯白噪声,其统计特性与前面描述的窄带随机过程相同,因此有
n(t)=nc(t)cosωct−ns(t)sinωct
E[n(t)]=E[nc(t)]=E[ns(t)]=0
σn2=σc2=σs2
参考上式,平均功率为
N=n0B