维纳滤波理论
连续随机信号的线性均方估值（维纳滤波理论）
平均平方误差准则和它的数学描述
时域的维纳－霍夫方程的推导（变分法原理或正交性原理） 频域的维纳－霍夫方程的推导 平均平方误差的计算
典型的估值问题：从噪声中滤取信号
1 连续随机信号的线性均方估值－维纳滤波理论
对于信号s(t)和噪声n(t)的混合体η(t)=s(t)+n(t)，按照均方误差最小的准则，从η(t)中分离出信号s(t)的理论，称为维纳滤波理论。
维纳滤波理论进一步分为滤波、预测、平滑：
滤波是利用直到当前时刻的随机过程的观察值，来得到当前信号值的估计； 平滑是利用直到当前时刻的随机过程的观察值，得到过去某个时刻信号的估值； 预测是利用直到当前时刻的随机过程的观察值，得到将来某个时刻信号的估值。
1.1概述
连续随机信号的均方误差最小的线性估值：
设信号s(t)和噪声n(t)都是宽平稳随机过程。利用观察值η(t)对信号s(t+α)进行线性均
方估值。
ˆ(t)，输出是y(t)， 连续随机信号的线性估值是使用一个线性系统，它的冲击响应是h
∞
y(t)=
−∞
ˆ(τ)η(t−τ)dτ，
∫h
使输出信号与期望信号的误差最小，即使下式最小。
Es(t+α)−y(t)=Es(t+α)
2
2
+Ey(t)}−E{s(t+α)y(t)−Es(t+)y(t)}
2
}
Es(t+α)
2
}=R
ss
(0)
∞∞⎧⎫⎪ˆ⎪ˆEy(t)=E⎨∫h(u)η(t−u)du⋅∫h(v)η(t−v)dv⎬⎪⎪−∞⎩−∞⎭
⎫⎧∞∞ˆ=E⎨∫∫h(u)h(v)⋅η(t−u)η(t−v)dudv⎬
⎭⎩−∞−∞
2
}
∞∞
==
−∞−∞∞∞
ˆ(u)h(v)⋅R(u−v)dudv
ηη∫∫h
ˆ(u)h(v)⋅[R
∫∫h
ss
(u−v)+Rnn(u−v)]dudv
−∞−∞
Es(t+α)y(t)+Es(t+)y(t)
{}
∞∞
⎧⎫⎧(u)η(t−u)du⎬+E⎨s(t+)⋅hˆ(u)η(t−u)du⎫=E⎨s(t+α)⋅∫h⎬ ∫−∞−∞⎩⎭⎩⎭
(u)R(α+u)du+h=∫hss∫ˆ(u)Rss(+u)du
−∞
−∞
∞∞
Es(t+α)−y(t)
∞
{
2
}
(α+u)du−
−∞
=Rss(0)−
∞∞
−∞
(u)R
∫h
ss
ˆ(u)R∫h
∞
ss
(+u)du
+
−∞−∞
ˆ(u)h(v)⋅[R∫∫h
ss
(u−v)+Rnn(u−v)]dudv
1.2维纳－霍夫方程的时域表示
求h(u)使得相应得到最小均方误差的解：
利用变分法可得：
Rsη(α+u)=
−∞
ˆ(v)⋅R(u−v)dv
ηη∫h
∞
这个解称为维纳－霍夫方程。
也可以利用正交原理来求解：
E[s(t+α)−y(t)η(θ)=0
注意到
∞
∞
{y(t)=
有
−∞
∫h(τ)η(t−τ)dτ=∫h(t−τ)η(τ)dτ，
−∞
Es(t+α)()=Ey(t)()
即
∞
{[
−∞
]
ˆ(τ)η(t−τ)η(θ)dτRsη(t+α−θ)=E∫h
∞
=
即
−∞
ˆ(τ)R(t−τ−θ)dτ
ηη∫h
∞
Rsη(u+α)=
−∞
ˆ(τ)R(u−τ)dτ
ηη∫h
1.3维纳－霍夫方程的频域表示
将维纳－霍夫方程的左边作傅立叶变换，有
∞
−∞
∫Rη(α+u)⋅e
s
−j2πfu
du=Psη(f)ej2πfα
将维纳－霍夫方程得右边作傅立叶变换，有
∞∞
−∞−∞
∫
ˆ(v)⋅R(u−v)dv⋅e−j2πfuduhηη∫
ˆ(v)e−j2πfvdv⋅R(u−v)⋅e−j2πf(u−v)du =∫h∫ηη
−∞
−∞
∞
∞
ˆ(f)⋅P(f)=Hηη
因此有，频域的维纳－霍夫方程
ˆ(f)⋅P(f) Psη(f)ej2πfα=Hηηˆ(f)=P(f)ej2πfα/P(f) Hsηηηˆ(t)=h
∞∞
−∞
ˆ(f)ej2πfτdτH∫
j2πf(α+τ)
=
−∞
∫
Psη(f)e
Pηη(f)
dτ
1.4对应维纳－霍夫方程的解的均方误差
Es(t+α)−y(t)
∞
2
}
ˆ(u)R(α+u)du=Rss(0)−2∫hss
−∞
∞∞
+
∞
−∞−∞
ˆ(u)hˆ(v)⋅[R∫∫h
∞
ss
(u−v)+Rnn(u−v)]dudv
∞
=
−∞
ˆ(u)P(f)ej2πf(u+α)dfduP(f)⋅df−2hss∫∫∫ss
−∞
−∞
∞∞
+
∞
−∞−∞
∫
ˆ(u)hˆ(v)⋅P(f)ej2πf(u−v)dfdudvh∫∫ηη
−∞∞
j2πfα
∞
∞
=
−∞
∫Pss(f)⋅df−2∫Pss(f)e
−∞
∞
df
∞
−∞
ˆ(u)ej2πfuduh∫
+
∞
−∞
ˆ(u)e
∫Pηη(f)∫h
−∞
∞
∞
j2πfu
ˆ(v)e−j2πfvdvdfdu⋅∫h
−∞
=
−∞
ˆ*(f)ej2πfαdfP(f)⋅df−2P(f)H∫ss∫ss
−∞
ˆ(f)df+∫Pηη(f)H
−∞
∞
∞
2
=
−∞∞
ˆ(f)e
∫Pss(f)⋅[1−2H
*
∞
j2πfα
]df+
−∞
ˆ(f)df
∫Pηη(f)H
∞
2
===
−∞∞
∫Pss(f)⋅[1−2P
*
ss
(f)/P
*
ηη
(f)]df+
−∞
∫Pηη(f)Pss(f)/Pηη(f)df
2
−∞∞
**
P(f)⋅[1−Pss(f)/Pηη(f)]dfss∫
−∞
*P(f)P(f)/Pηη(f)df∫ssnn
1.5例题1
如果η(t)=s(t)+n(t), s(t)和n(t)为零均值实互不相关的平稳随机过程，且
Pss(f)=
1
,Pnn(f)=1 2
1+(2πf)
求最佳滤波的滤波器响应（不考虑物理可实现性） 解：
Pss(f)=
1
2
1+(2πf)
Pηη(f)=Pss(f)+Pnn(f)
=
1
+12
1+(2πf)
2+(2πf)2=
1+(2πf)2
ˆ(f)=P(f)ej2πfα/P(f)Hsηηη
12+(2πf)2j2πfα
=e
1+(2πf)21+(2πf)2
1
ej2πfα=2
2+(2πf)
最佳滤波问题对应α=0的情况，相应的滤波器响应为：
ˆ(t)=1eh
22
t
1.6例题2
如果η(t)=s(t)+n(t), s(t)和n(t)为零均值实互不相关的平稳随机过程，且
Rss(τ)=Ae
−βτ
cos2πf0τ,β
n(t)为白噪声,单边功率谱密度是N0,求最佳滤波的滤波器响应（不考虑物理可实现性） 解：
考虑到α=0
∞
Pss(f)=
∞
−∞
−j2πfτ
R()edττss∫
===
其中，
−∞
∫Ae
∞
−βτ
cos2πf0τ⋅e−j2πfτdτ
∞
11−βτ−β−j2π(f−f0)τ−j2π(f+f0)τAe⋅ed+Ae⋅edττ∫∫2−∞2−∞11
P(f−f0)+P(f+f0)22
∞
P(f)=
−∞
∫Ae
−βτ
⋅e−j2πfτdτ=
2βA
2πf2
+β
2
考虑到β0时，
Pss(f)=ˆ(f)=H
βA
2
(2πf−2πf0)+β2
βA
βA+N0⎡(2πf−2πf0)+β2⎤
⎣
⎦
2
最佳估值时的最小均方误差是，
Es(t)−y(t)
∞
{
2
}
==
Pss(f)Pnn(f)
df∫P(f)+P(f)nn−∞ss
∞
=
=
=
若不利用观察值η(t)得数据，则s(t)的估值为零，这时的均方误差为
E[s(t)−0]
{
2
}=R(0)=A
ss
若N0
维纳滤波理论
连续随机信号的线性均方估值（维纳滤波理论）
平均平方误差准则和它的数学描述
时域的维纳－霍夫方程的推导（变分法原理或正交性原理） 频域的维纳－霍夫方程的推导 平均平方误差的计算
典型的估值问题：从噪声中滤取信号
1 连续随机信号的线性均方估值－维纳滤波理论
对于信号s(t)和噪声n(t)的混合体η(t)=s(t)+n(t)，按照均方误差最小的准则，从η(t)中分离出信号s(t)的理论，称为维纳滤波理论。
维纳滤波理论进一步分为滤波、预测、平滑：
滤波是利用直到当前时刻的随机过程的观察值，来得到当前信号值的估计； 平滑是利用直到当前时刻的随机过程的观察值，得到过去某个时刻信号的估值； 预测是利用直到当前时刻的随机过程的观察值，得到将来某个时刻信号的估值。
1.1概述
连续随机信号的均方误差最小的线性估值：
设信号s(t)和噪声n(t)都是宽平稳随机过程。利用观察值η(t)对信号s(t+α)进行线性均
方估值。
ˆ(t)，输出是y(t)， 连续随机信号的线性估值是使用一个线性系统，它的冲击响应是h
∞
y(t)=
−∞
ˆ(τ)η(t−τ)dτ，
∫h
使输出信号与期望信号的误差最小，即使下式最小。
Es(t+α)−y(t)=Es(t+α)
2
2
+Ey(t)}−E{s(t+α)y(t)−Es(t+)y(t)}
2
}
Es(t+α)
2
}=R
ss
(0)
∞∞⎧⎫⎪ˆ⎪ˆEy(t)=E⎨∫h(u)η(t−u)du⋅∫h(v)η(t−v)dv⎬⎪⎪−∞⎩−∞⎭
⎫⎧∞∞ˆ=E⎨∫∫h(u)h(v)⋅η(t−u)η(t−v)dudv⎬
⎭⎩−∞−∞
2
}
∞∞
==
−∞−∞∞∞
ˆ(u)h(v)⋅R(u−v)dudv
ηη∫∫h
ˆ(u)h(v)⋅[R
∫∫h
ss
(u−v)+Rnn(u−v)]dudv
−∞−∞
Es(t+α)y(t)+Es(t+)y(t)
{}
∞∞
⎧⎫⎧(u)η(t−u)du⎬+E⎨s(t+)⋅hˆ(u)η(t−u)du⎫=E⎨s(t+α)⋅∫h⎬ ∫−∞−∞⎩⎭⎩⎭
(u)R(α+u)du+h=∫hss∫ˆ(u)Rss(+u)du
−∞
−∞
∞∞
Es(t+α)−y(t)
∞
{
2
}
(α+u)du−
−∞
=Rss(0)−
∞∞
−∞
(u)R
∫h
ss
ˆ(u)R∫h
∞
ss
(+u)du
+
−∞−∞
ˆ(u)h(v)⋅[R∫∫h
ss
(u−v)+Rnn(u−v)]dudv
1.2维纳－霍夫方程的时域表示
求h(u)使得相应得到最小均方误差的解：
利用变分法可得：
Rsη(α+u)=
−∞
ˆ(v)⋅R(u−v)dv
ηη∫h
∞
这个解称为维纳－霍夫方程。
也可以利用正交原理来求解：
E[s(t+α)−y(t)η(θ)=0
注意到
∞
∞
{y(t)=
有
−∞
∫h(τ)η(t−τ)dτ=∫h(t−τ)η(τ)dτ，
−∞
Es(t+α)()=Ey(t)()
即
∞
{[
−∞
]
ˆ(τ)η(t−τ)η(θ)dτRsη(t+α−θ)=E∫h
∞
=
即
−∞
ˆ(τ)R(t−τ−θ)dτ
ηη∫h
∞
Rsη(u+α)=
−∞
ˆ(τ)R(u−τ)dτ
ηη∫h
1.3维纳－霍夫方程的频域表示
将维纳－霍夫方程的左边作傅立叶变换，有
∞
−∞
∫Rη(α+u)⋅e
s
−j2πfu
du=Psη(f)ej2πfα
将维纳－霍夫方程得右边作傅立叶变换，有
∞∞
−∞−∞
∫
ˆ(v)⋅R(u−v)dv⋅e−j2πfuduhηη∫
ˆ(v)e−j2πfvdv⋅R(u−v)⋅e−j2πf(u−v)du =∫h∫ηη
−∞
−∞
∞
∞
ˆ(f)⋅P(f)=Hηη
因此有，频域的维纳－霍夫方程
ˆ(f)⋅P(f) Psη(f)ej2πfα=Hηηˆ(f)=P(f)ej2πfα/P(f) Hsηηηˆ(t)=h
∞∞
−∞
ˆ(f)ej2πfτdτH∫
j2πf(α+τ)
=
−∞
∫
Psη(f)e
Pηη(f)
dτ
1.4对应维纳－霍夫方程的解的均方误差
Es(t+α)−y(t)
∞
2
}
ˆ(u)R(α+u)du=Rss(0)−2∫hss
−∞
∞∞
+
∞
−∞−∞
ˆ(u)hˆ(v)⋅[R∫∫h
∞
ss
(u−v)+Rnn(u−v)]dudv
∞
=
−∞
ˆ(u)P(f)ej2πf(u+α)dfduP(f)⋅df−2hss∫∫∫ss
−∞
−∞
∞∞
+
∞
−∞−∞
∫
ˆ(u)hˆ(v)⋅P(f)ej2πf(u−v)dfdudvh∫∫ηη
−∞∞
j2πfα
∞
∞
=
−∞
∫Pss(f)⋅df−2∫Pss(f)e
−∞
∞
df
∞
−∞
ˆ(u)ej2πfuduh∫
+
∞
−∞
ˆ(u)e
∫Pηη(f)∫h
−∞
∞
∞
j2πfu
ˆ(v)e−j2πfvdvdfdu⋅∫h
−∞
=
−∞
ˆ*(f)ej2πfαdfP(f)⋅df−2P(f)H∫ss∫ss
−∞
ˆ(f)df+∫Pηη(f)H
−∞
∞
∞
2
=
−∞∞
ˆ(f)e
∫Pss(f)⋅[1−2H
*
∞
j2πfα
]df+
−∞
ˆ(f)df
∫Pηη(f)H
∞
2
===
−∞∞
∫Pss(f)⋅[1−2P
*
ss
(f)/P
*
ηη
(f)]df+
−∞
∫Pηη(f)Pss(f)/Pηη(f)df
2
−∞∞
**
P(f)⋅[1−Pss(f)/Pηη(f)]dfss∫
−∞
*P(f)P(f)/Pηη(f)df∫ssnn
1.5例题1
如果η(t)=s(t)+n(t), s(t)和n(t)为零均值实互不相关的平稳随机过程，且
Pss(f)=
1
,Pnn(f)=1 2
1+(2πf)
求最佳滤波的滤波器响应（不考虑物理可实现性） 解：
Pss(f)=
1
2
1+(2πf)
Pηη(f)=Pss(f)+Pnn(f)
=
1
+12
1+(2πf)
2+(2πf)2=
1+(2πf)2
ˆ(f)=P(f)ej2πfα/P(f)Hsηηη
12+(2πf)2j2πfα
=e
1+(2πf)21+(2πf)2
1
ej2πfα=2
2+(2πf)
最佳滤波问题对应α=0的情况，相应的滤波器响应为：
ˆ(t)=1eh
22
t
1.6例题2
如果η(t)=s(t)+n(t), s(t)和n(t)为零均值实互不相关的平稳随机过程，且
Rss(τ)=Ae
−βτ
cos2πf0τ,β
n(t)为白噪声,单边功率谱密度是N0,求最佳滤波的滤波器响应（不考虑物理可实现性） 解：
考虑到α=0
∞
Pss(f)=
∞
−∞
−j2πfτ
R()edττss∫
===
其中，
−∞
∫Ae
∞
−βτ
cos2πf0τ⋅e−j2πfτdτ
∞
11−βτ−β−j2π(f−f0)τ−j2π(f+f0)τAe⋅ed+Ae⋅edττ∫∫2−∞2−∞11
P(f−f0)+P(f+f0)22
∞
P(f)=
−∞
∫Ae
−βτ
⋅e−j2πfτdτ=
2βA
2πf2
+β
2
考虑到β0时，
Pss(f)=ˆ(f)=H
βA
2
(2πf−2πf0)+β2
βA
βA+N0⎡(2πf−2πf0)+β2⎤
⎣
⎦
2
最佳估值时的最小均方误差是，
Es(t)−y(t)
∞
{
2
}
==
Pss(f)Pnn(f)
df∫P(f)+P(f)nn−∞ss
∞
=
=
=
若不利用观察值η(t)得数据，则s(t)的估值为零，这时的均方误差为
E[s(t)−0]
{
2
}=R(0)=A
ss
若N0