6 Grenzwertsätze

6 Grenzwertsätze
In diesem Paragrafen werden verschiedene Grenzwertbegriffe und -sätze für Folgen von
ZV. bzw. deren Verteilungen diskutiert.
Beispiel 6.1. a) Ein Zufallsexperiment, beschrieben durch (Ω1 , A1 , P1 ) werde n-mal
hintereinander ausgeführt ( z.B. wiederholtes Roulettespiel, Münzwurf etc.). Sei A1
(∈ A1 ) ein Ereignis im Einzelexperiment ( z.B. Rot ist eingetreten“ beim Roulette ),
”
das eine Wahrscheinlichkeit p = P1 (A1 ) besitze. Die Erfahrung“ lehrt, dass für
”
große“ n gilt :
”
Zn := Hn (A1 ) := relative Häufigkeit von A1 in n Versuchen“ ≈ p .
”
Frage : Wie lässt sich
”
≈“ mathematisch präzisieren ?
b) Sei PZn = B(n, p) und p = pn so , dass lim npn = λ > 0 . Im Beispiel 1.9 war
n→∞
gezeigt worden, dass
λk
lim P (Zn = k) = e−λ , k = 0, 1, . . . ,
n→∞
k!
d.h., die Binomialverteilungen B(n, pn ) konvergieren (unter den oben genannten Voraussetzungen ) in einem bestimmten Sinn“ gegen eine Poisson-Verteilung πλ .
”
Jetzt : Präzisierung der Grenzwertaussagen !
Definition 6.1. Seien {Zn }n=1,2,... und Z reelle ZV. mit VF. {Fn }n=1,2,... und
F . Man sagt , dass Zn nach Verteilung (schwach ) gegen Z konvergiert (für
n → ∞) , wenn gilt :
lim Fn (z) = F (z)
n→∞
∀ z ∈ CF ,
wobei CF die Menge der Stetigkeitspunkte von F bezeichnet .
Schreibweise :
D
Zn −→ Z
(n → ∞)
[ D : in distribution“ ] .
”
Beispiel 6.2. Zn seien R[− n1 , n1 ]-verteilte ZV. (n = 1, 2, . . .) und Z sei in 0
D
konzentriert , d.h. P (Z = 0) = 1
=⇒
Zn −→ Z

1


0,
z <− ,


n

n
1
1
1
Fn (z) =
z+ , −
≤ z <
,

2
2
n
n


1

 1,
,
z ≥
n
60
(n → ∞) , denn
also
Fn (z) →
aber Fn (0) =
(
0, z < 0
1, z > 0
1
2
∀ n = 1, 2, . . . , F (0) = 1 !
)
= F (z) ,
z 6= 0 ;
PZ heißt Grenzverteilung der PZn , im Beispiel 6.2 also :
PZ = ε0 , wobei εa die (so genannte) Punktmasse in a“ bezeichnet mit
”
(
1, a ∈ A,
εa (A) =
0, a ∈
/ A.
D
Gilt speziell Zn −→ Z (n → ∞) mit PZ = εa (∃ a ∈ R) , so folgt noch :
lim P ( | Zn − a | ≥ ε) = 0
n→∞
∀ ε > 0.
Definition 6.2. Seien {Zn }n=1,2... , Z reelle ZV. auf (Ω, A, P ). Man sagt , dass
Zn stochastisch (nach Wahrscheinlichkeit ) gegen Z konvergiert (für n → ∞) ,
wenn gilt :
lim P ( | Zn − Z | ≥ ε) = 0
n→∞
P
Schreibweise :
Zn −→ Z
∀ ε > 0.
(n → ∞)
oder
P – lim Zn = Z .
n→∞
P
D
Bemerkung 6.1. a) Zn −→ Z (n → ∞)
=⇒
Die Umkehrung ist i.A. falsch , aber es gilt :
P
b) Zn −→ a
(n → ∞) (∃ a ∈ R)
⇐⇒
Zn −→ Z
D
Zn −→ a
(n → ∞) .
(n → ∞) .
Satz 6.1. (Gesetz der großen Zahlen ) {Xi }i=1,2,... sei eine Folge paarweise unkorrelierter ZV. auf (Ω, A, P ) mit demselben EW. EXi = a und derselben Varianz
V ar(Xi ) = σ 2 < ∞ . Dann gilt :
n
1X
P
Xi −→ a = EX1
Zn := X n :=
n i=1
lim P ( | X n − a | ≥ ε) = 0
n→∞
∀ ε > 0.
61
(n → ∞) ,
d.h.
Bemerkung 6.2. Die relative Häufigkeit Hn (A1 ) aus Beispiel 6.1 a) lässt sich wie
folgt interpretieren : Sei
(
1 , im i – ten Versuch tritt A1 ein ,
Xi =
0 , sonst ,
so gilt bei n unabhängigen Durchführungen des Einzelexperiments :
X1 , X2 , . . . , Xn unabhängig, identisch B(1, p)-verteilt mit p = P1 (A1 ) ,
n
1X
Xn =
Xi = Hn (A1 ) , EXi = p , V ar(Xi ) = p(1 − p) .
n i=1
Die Voraussetzungen von Satz 6.1 sind somit erfüllt und man erhält :
P
Hn (A1 ) −→ p
(n → ∞) .
Interpretation : Zu vorgegebener ε – Genauigkeit ist die Wahrscheinlichkeit , dass p =
P1 (A1 ) ε – genau“ durch Hn (A1 ) approximiert wird , beliebig nahe bei 1 , wenn nur
”
n groß genug gewählt wird .
Bemerkung 6.3. Das Gesetz der großen Zahlen gilt auch unter der Voraussetzung, dass
{Xi }i=1,2,... paarweise unabhängig, identisch verteilt sind mit existierenden EW. a =
EXi = EX1 ∀ i = 1, 2, . . . (also auch ohne existierende Varianz , vgl. Wahrscheinlich”
keitstheorie“ ) .
Monte-Carlo-Methode zur Berechnung von Integralen (hoher Dimension)
R1
R1
Man berechne I := 0 . . . 0 h(u1 , . . . , uk ) du1 . . . duk für eine (k−dimensional ) Riemannintegrierbare Funktion h .
Beispiel 6.3.
Lösung : 1) Erzeuge i.i.d. R(0, 1)-verteilte ZV. U11 , . . . , U1k ; U21 , . . . , U2k ; . . . . . .
2) Setze Xi := h(Ui1 , . . . , Uik ) (i = 1, 2, . . .) .
Dann gilt :
P
X n −→ I
(n → ∞) .
Beispiel 6.1 a) Hn (A1 ) ≈ P1 (A1 ) = p
Zahlen präzisiert .
Beispiel 6.1 b)
wurde also mit Hilfe des Gesetzes der großen
B(n, pn ) ≈ πλ , falls npn → λ
62
wird durch den folgenden Satz erfasst :
Satz 6.2. {Zn }n=1,2,... , Z seien N0 -wertige ZV. auf (Ω, A, P )
{pn }, p und erzeugenden Funktionen {Gn }, G . Dann gilt :
D
Zn −→ Z (n → ∞)
⇐⇒
n→∞
lim pn (k) = p(k)
∀ k ∈ N0
⇐⇒
n→∞
lim Gn (s) = G(s)
∀ s : | s | < s0
mit Dichten
(∃ 0 < s0 < 1) .
Momenterzeugende Funktionen (falls existent) liefern ein allgemeineres analytisches
Hilfsmittel zur Untersuchung der Verteilungskonvergenz von reellen ZV. :
Satz 6.3. (Stetigkeitssatz ; ohne Beweis ) {Zn }n=1,2,... und Z seien reelle ZV. auf
(Ω, A, P ) mit existierenden momenterzeugenden Funktionen {Mn (t)}n=1,2,... und
M (t) für | t | < t0 (> 0) . Dann gilt :
D
Zn −→ Z (n → ∞)
⇐⇒
lim Mn (t) = M (t)
n→∞
∀ t : | t | < t0 .
Beispiel 6.4. (Gesetz der großen Zahlen ) X1 , X2 , . . . seien i.i.d. mit momenterzeugender Funktion M1 (t) = E exp(tX1 ) < ∞ ( | t | < t0 ) , insbesondere existieren
a := EX1 , m2 := EX12 . Über eine Taylor-Entwicklung von M1 erhält man für n ≥ n0 :
n t on
Mn (t) := EetX n = M1
n
n
t
t2 on
t
′′
′
( | τn | < )
= M1 (0) + M1 (0) + M1 (τn ) 2
n
2n
n
n
1 on
at
= 1+
+o
−→ eat
(t ∈ R)
(n→∞)
n
n
=⇒
D
X n −→ a
(n → ∞)
=⇒
P
X n −→ a
(n → ∞) .
Im Beispiel 6.1 b) B(n, p) ≈ πλ erhält man keine Grenzwertverteilung, falls p ∈ (0, 1)
fest bleibt. Betrachtet man jedoch die standardisierten Variablen
Zn − EZn
Zn − np
Zn∗ = p
= p
,
V ar(Zn )
np(1 − p)
so erhält man wieder eine Grenzverteilung. Dies ergibt sich als Spezialfall aus :
63
Satz 6.4. (Zentraler Grenzwertsatz ) X1 , X2 , . . . sei eine Folge von reellen , i.i.d.
ZV. mit momenterzeugender Funktion M1 (t) = E exp(tX1 ) < ∞ , | t | < t0 (> 0) ,
EX1 =: a und 0 < V ar(X1 ) =: σ 2 (< ∞) . Dann gilt :
Zn :=
n
X
i=1
Xi − na
√
nσ 2
=
√
n
Xn − a
σ
D
−→
(n→∞)
Z,
wobei PZ = N (0, 1) .
Bemerkung 6.4. Der Zentrale Grenzwertsatz gilt auch ohne die Voraussetzung der
Existenz der momenterzeugenden Funktion . Es genügt (z.B.) :
{Xi }i=1,2,... i.i.d. mit EX1 = a , 0 < V ar(X1 ) =: σ 2 < ∞ .
Abschließend stellen wir noch einige Rechenregeln für den Umgang mit den eingeführten
Grenzwertbegriffen zusammen (vgl. Übungen) :
{Xn } , X bzw. {Yn } , Y seien reelle ZV. auf (Ω, A, P ) , a ∈ R sei konstant. Dann
gilt :
D
1) Xn −→ X
=⇒
(n→∞)
a) Xn + a
b) aXn
D
P
(n→∞)
(n→∞)
2) Xn −→ X , Yn −→ a
=⇒
a) Xn + Yn
b) Xn Yn
c) Xn /Yn
D
−→
X + a,
−→
aX ;
(n→∞)
D
(n→∞)
D
−→
X + a,
−→
aX ,
−→
X/a
(n→∞)
D
(n→∞)
D
(n→∞)
[ a 6= 0 ] ;
3) Falls Xn , Yn unabhängig sind (∀ n) , so gilt :
D
D
(n→∞)
(n→∞)
Xn −→ X , Yn −→ Y
=⇒
a) Xn + Yn
b) Xn Yn
c) Xn /Yn
D
−→
X +Y ,
−→
XY ,
−→
X/Y
(n→∞)
D
(n→∞)
D
(n→∞)
[ P (Y 6= 0) = 1 ] .
Auf die Unabhängigkeit von Xn , Yn in 3) kann i.A. nicht verzichtet werden .
64
Beispiel 6.5. {Xi }i=1,2,... seien reelle , i.i.d. ZV. auf (Ω, A, P ) . Dann gilt : Falls
n
1X
P
X n :=
Xi −→ a ;
(n→∞)
n i=1
a) EX1 = a existiert , so folgt :
n
b) V ar(X1 ) = σ
2
existiert , so folgt :
c) 0 < V ar(X1 ) = σ 2 < ∞ , so folgt :
Sn2
1X
P
:=
(Xi − X n )2 −→ σ 2 ;
(n→∞)
n i=1
n
X
Xi − na
Zn :=
wobei PZ = N (0, 1) .
D
i=1
−→
p
nSn2
(n→∞)
Z,
Bemerkung 6.5. a) Es gilt allgemein (vgl. Wahrscheinlichkeitstheorie“ ) , dass P ”
stochastische bzw. Verteilungskonvergenz unter stetigen Abbildungen h : R1 → R1
erhalten bleibt , d.h.
P
Xn −→ X
(n→∞)
D
Xn −→ X
(n→∞)
P
=⇒
h(Xn ) −→ h(X)
=⇒
h(Xn ) −→ h(X) .
(n→∞)
bzw.
D
(n→∞)
b) Die Aussage im Beispiel 6.5 c) gestattet es , einen asymptotischen Konfidenzbereich“
”
für den Parameter a anzugeben , denn es gilt :
√ | Xn − a |
≤ z0
≈ P | Z | ≤ z0 ,
P
n p
Sn2
also
r
r Sn2
Sn2
P X n − z0
≤ a ≤ X n + z0
≈ P | Z | ≤ z0 ;
n
n
z.B. für z0 = 1, 2, 3 : P | Z | ≤ z0 = 0.6827 , 0.9545 , 0.9973 .
65