浙大概率论与数理统计课件——数理统计

时间：2025-03-10

浙大概率论与数理统计课件——数理统计

数理统计1

浙大概率论与数理统计课件——数理统计

第五章大数定律和中心极限定理关键词：契比雪夫不等式大数定律中心极限定理

浙大概率论与数理统计课件——数理统计

§1 大数定律

背景

本章的大数定律，对第一章中提出的 “频率稳定性”,给出理论上的论证

为了证明大数定理，先介绍一个重要不等式

浙大概率论与数理统计课件——数理统计

定理5.1 ( 契比雪夫不等式 ):设随机变量X 具有数学期望E ( X ) = µ , 方差D ( X ) = σ 2

σ2 则对于任意ε > 0, 都有：P { X E ( X ) ≥ ε } ≤ 2 ε σ2 定理的等价形式为：P { X E ( X ) < ε } ≥ 1 2 ε

证明： ( 仅就X为连续型时证之 ) 设X的概率密度为f ( x ) ,

则 P{ X µ ≥ ε} =f ( x)

x ≥

∫ ε f ( x ) dx µ∫ ∞ ( x µ )σ2 = 2 ε+∞ 2

≤

x ≥

∫ε µ

(x µ)ε2

f ( x ) dx

≤ 12

f ( x ) dx

µ ε µ µ +ε

D( X )

ε2

浙大概率论与数理统计课件——数理统计

例1:在n重贝努里试验中，若已知每次试验事件A 出现的概率为0.75,试利用契比雪夫不等式估计n,使A出现的频率在0.74至0.76之间的概率不小于0.90。解：设在n重贝努里试验中，事件A出现的次数为X, 则X ～ b ( n, 0.75 ) , E ( X ) = np = 0.75n, D ( X ) = npq = 0.1875n, 又 f n ( A) = X n 而P 0.74 < X < 0.76 = P { X 0.75n < 0.01n} n ≥ 1 0.1875n = 1 1875 ≥ 0.90 2 n ( 0.01n )

{

}

n ≥ 18750

浙大概率论与数理统计课件——数理统计

随机变量序列依概率收敛的定义定义5.1 :设随机变量序列X1, X2 , X3 ,L, 若存在某常数µ, 使得 ε > 0, 均有： P{ Xn µ ≥ ε} = 0, lim 则称随机变量序列{ Xn} 依概率收敛于常数µ, p 记为：X µ。 → nn→+∞

浙大概率论与数理统计课件——数理统计

定理 5 .2 ( 契比雪夫不等式的特殊情形 ): 设随机变量序列 X 1 , X 2 ,L , X n ,L 相互独立，且具有相同的数学期望 µ 和相同的方差 σ 2, 作前 n个随机变量的算术平均： Yn = 1 ∑ X k n k =1 则 ε > 0, 有： 1 n lim P { Y n µ < ε } = lim P ∑ X k µ < ε = 1 n→ ∞ n→ ∞ n k =1 1 n 证明：由于E (Yn ) = E ∑ X k = 1 nµ = µ , n k =1 nn

1 n D (Yn ) = D ∑ X k = 12 n k =1 n

1 nσ 2 = σ 2 ∑ D ( X k ) = n2 n k =1n

1 n σ2 n 由契比雪夫不等式得：P ∑ X k µ < ε ≥ 1 2 ε n k =1

1 n lim P ∑ X k µ < ε = 1 n →∞ n k =1

浙大概率论与数理统计课件——数理统计

定理5.3 (贝努里大数定理 ) 设事件A在每次试验中发生的概率为p,记nA为n次独立重复试验 n 中A发生的次数, 则 ε > 0, 有： P A p < ε = 1 lim n →+∞ n 证明：利用契比雪夫不等式，因nA ～ b ( n, p ) , 故： n E A = 1 E ( nA ) = 1 np = p, D nA = 1 D ( n ) = 1 npq = pq A n n2 n n n n n2 n pq 于是， ε > 0, 有P A p < ε ≥ 1 2 nε n n 即得： P A

p < ε = 1 lim n →+∞ n

大数定律的重要意义：贝努里大数定律建立了在大量重复独立试验中事件出现频率的稳定性，正因为这种稳定性，概率的概念才有客观意义，贝努里大数定律还提供了通过试验来确定事件概率的方法，既然频率nA/n 与概率p有较大偏差的可能性很小，我们便可以通过做试验确定某事件发生的频率并把它作为相应的概率估计，这种方法即是在第7章将要介绍的参数估计法，参数估计的重要理论基础之一就 8 是大数定理。

浙大概率论与数理统计课件——数理统计

§2 中心极限定理背景：

有许多随机变量，它们是由大量的相互独立的随机变量的综合影响所形成的，而其中每个个别的因素作用都很小，这种随机变量往往服从或近似服从正态分布，或者说它的极限分布是正态分布，中心极限定理正是从数学上论证了这一现象，它在长达两个世纪的时期内曾是概率论研究的中心课题。

浙大概率论与数理统计课件——数理统计

定理 5.4 ( 独立同分布的中心极限定理 )设随机变量X1 , X 2 ,L , X n ,L 相互独立同分布， E ( X i ) = µ , D ( X i ) = σ , i = 1, 2,L2

思考题：

则前n个变量的和的标准化变量为：Yn =

∑Xi =1

nµ

nσ

1 n X = ∑ Xi的近似 n i=1 分布是什么？

n X i nµ 2 ∑ x t 1 e 2 dt x ∈ R, 有： lim P (Yn ≤ x ) = lim P i =1 ≤ x = ∫ n →+∞ n →+∞ nσ ∞ 2π 证明略。此定理表明，当n充分大时，Yn 近似服从N ( 0,1) .