信号检测与估计理论

4.5 矢量估计设 M 维矢量 θ = (θ1,θ2 , ,θM )T需要估计，称为被估计矢量； 构造的估计矢量记为 θ( x) def ;估计的误差矢量为 =θ∧ θ1 θ1 ∧ ~ ∧ θ = θ θ = θ2 θ 2 ∧ θM θ M ∧ ∧

均方误差为

M∧ ∧ M∧ ∧ θ1θ2 θ1θ1 ∧ ∧ T M∧ ∧ M∧ ∧ θ 2θ 2 E θ θ θ θ = M∧ = θ 2θ1 θ M∧ ∧ M∧ ∧ θM θ2 θ M θ1

M∧ ∧ θ1θ M M∧ ∧ θ 2θ M M∧ ∧ θM θM

信号检测与估计理论

其中M∧θi θ j∧

∧ ∧ = E θi θ i θ j θ j ,i, j =1,2, ,M

4.5.1 随机矢量的贝叶斯估计我们讨论随机矢量 θ 的最小均方误差估计和最大后验 估计。 1. 最小均方误差估计 矢量下的代价函数∧ c θ = ∑θ j = θ θ = ∑(θ j θ j )2 j=1 j =1 ~ M M ~2 ~T ~

是各分量误差的平方和，式中θ j =θ j θ j 。

~

∧

信号检测与估计理论

~ c θ

θ0

~

(a)误差平方代价函数

∧

c θ θ = θ θ

∧ 2

信号检测与估计理论

这 ， 均 价 样 平 代 为 C=∫∞ ∞ ∞

∫

∞

c(θ)p( x, θ) dxdθ

(4.5.4)

信号检测与估计理论

使 C 最小，只要使每个分量的平均代价最小即可。即要求每个 参量估计的均方误差最小，这样就得到第 j 参量的最小均方误差估 计θ jmse = ∫ θ j p ( θ | x) dθ ,j =1,2, , M ∞ ∧ ∞

( 4.5.5)

这意味着求 θ 的最小均方误差估计，需要解由(4.5.5)式 所示的 M个方程组成的联立方程。

信号检测与估计理论

(4.5.5)

(4.5.6)

信号检测与估计理论

2. 最大后验估计 类似地，对于随机矢量 θ 的最大后验估计，必须 求出使后验概率密度函数为最大的 θ ,将其作为最 大后验估计量，需要解由 ln p ( θ | x) |θ=θmap = 0 ,j =1,2, , M θ j

( 4.5.7)

信号检测与估计理论

所示的 M个方程组成的联立方程。(4.5.7)

(4.5.8)

(4.5.9)

信号检测与估计理论

4.5.2 非随机矢量的最大似然估计若被估计矢量 θ 为非随机矢量,则其最大似然估计量θml , 是使似然函数 p( x| θ) 为最大的 θ 作为估计量。因∧

而其求解的最大似然方程组为 p( x | θ) |θ=θml = 0 ,j =1,2, , M θ j

( 4.5.10)

或

ln p( x | θ) |θ=θml = 0 ,j =1,2, , M θ j

(4.5.11)

信号检测与估计理论

(4.5.10)

(4.5.11)

信号检测与估计理论

4.5.3 矢量估计量的性质估计矢量 θ 的性质，主要是无偏性和均 方误差的下界，即克拉美-罗界。∧

信号检测与估计理论

1. 非随机矢量情况a. 无偏性 对于非随机矢量θ,其估计量为 ，则其均值矢量可以表示为 θ∧

(4.5.12)

若对所 有的θ, 估计的偏矢 b(θ)的每一个 量 分量 都为 ， 0 则称θ 为θ的无偏估计量 。∧

信号检测与估计理论

b. 克 美 界 拉 -罗 如 θi 是 估 的M维 随 矢 θ的 i 果 被 计

非 机 量 第 个 量θi的 意 偏 计 ， 估 量 参 任 无 估 量 则 计 的 均 误 即 估 量 方 ， 为 方 差 为 计 的 差 记i

∧

(4.5.13)

该估计量的均方误差满足(4.5.14)

信号检测与估计理论

(5.5.14)式中，Ψii是M×M阶矩阵Ψ=J 的- 1

第行和第列元素，而矩阵J的元素为 i i(4.5.15)

信号检测与估计理论

矩阵 通常称 J 为费希尔信息矩阵 ，它表示 从观测数 据中获得的信息。 对所有的x和θ,当且仅当下式 成立时， (4.5.14)式 取等号成立，

(4.5.16)

(4.5.14)

信号检测与估计理论

如果对于M维非随机矢量θ的任意无偏估计矢量 θ中的每个参量θ ,(4.5.14)式中的等号均成立，i

则这种估计称为联合有效估计。 Ψ 是θ的均方误差的下界，即克拉美-罗界。ii