Seminararbeit Gesetz der Großen Zahlen

Seminararbeit
Gesetz der Großen Zahlen
Marie Reichstein, e0925017
29. Februar 2012
LVA 105.135, SE Seminar aus Finanz- und Versicherungsmathematik
TU Wien, WS 2011
1
Inhaltsverzeichnis
1 Geschichte
3
2 Fragestellung
3
3 Das schwache Gesetz der großen Zahlen
3.1 Satz von Khintchine . . . . . . . . . . . . . . . . . . . . . . . . .
6
6
4 Das starke Gesetz der großen Zahlen
4.1 Satz von Etemadi . . . . . . . . . . . . . . . . . . . . . .
4.2 Beiträge des Mathematikers Kolmogorov . . . . . . . . .
4.2.1 Kriterium für das starke Gesetz der großen Zahlen
4.2.2 Kolmogorovsches Gesetz der großen Zahlen . . . .
7
8
8
8
9
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
5 Null-Eins-Gesetze
9
5.1 Borel-Cantelli . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 9
5.2 Kolmogorovsches 0-1-Gesetz . . . . . . . . . . . . . . . . . . . . . 10
5.3 0-1-Gesetz von Hewitt-Savage . . . . . . . . . . . . . . . . . . . . 11
6 Anwendungen
6.1 Konsistente Schätzung von Erwartungswert und Varianz . . . . .
6.2 Monte-Carlo-Methode . . . . . . . . . . . . . . . . . . . . . . . .
6.3 Die relative Häufigkeit des Auftretens von Ziffern in der Zahlentheorie . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
6.4 Approximationsatz von Weierstrass . . . . . . . . . . . . . . . . .
6.5 Grenzverhalten von Summenvariablen . . . . . . . . . . . . . . . .
6.6 Konvergenzgeschwindigkeiten . . . . . . . . . . . . . . . . . . . .
6.6.1 im schwachen Gesetz der großen Zahlen . . . . . . . . . . .
6.6.2 im starken Gesetz der großen Zahlen . . . . . . . . . . . .
6.7 Versicherungen . . . . . . . . . . . . . . . . . . . . . . . . . . . .
11
11
12
7 Literatur- und Abbildungsverzeichnis
20
2
12
13
14
15
15
16
18
1
Geschichte
Das Gesetz der großen Zahlen wird der Stochastik in der Mathematik zugeschrieben. Die Geschichte des Gesetzes der großen Zahl reicht weit in die Vergangenheit zurück. Das schwache Gesetz der großen Zahlen (vgl. Kapitel 3) wurde bereits von Jakob Bernoulli (1654-1705) in seinen Bernoullischen Versuchsfolgen
benutzt. Émile Borel (1871-1956) versuchte sich im Beweis des starken Gesetzes der großen Zahlen (vgl. Kapitel 4), vor allem im Zusammenhang mit den
Bernoullischen Versuchsfolgen. Alexander Jakowlewitsch Khintchine (1894-1959)
und Andrei Nikolajewitsch Kolmogorov (1903-1987) leisteten wichtige Arbeit an
diesen Gesetzen.
Abbildung 1: Jakob Bernoulli
2
Fragestellung
Bei einem Zufallsexperiment ist immer von Interesse ob ein Ereignis, genannt
A, eintritt oder nicht. Die Wahrscheinlichkeit, dass A eintritt ist nun p und die
Gegenwahrscheinlichkeit somit 1-p. Ein mögliches Beispiel für ein Zufallsexperiment wäre das Werfen einer Münze mit den Ausgangsmöglichkeiten ”Kopf”
oder ”Zahl”. Das Ereignis ”Kopf” hätte die Wahrscheinlichkeit p=0,5 und das
Ereignis ”Zahl” die Gegenwahrscheinlichkeit 1-p=0,5. Der Fall, dass die Münze
auf der Kante stehen bleibt, sei vernachlässigt.
Nun geht es beim Gesetz der großen Zahlen im Allgemeinen darum, dass sich
die relativen Häufigkeiten dieses Zufallsexperimentes mit steigender Anzahl an
3
Durchführungen und unter Rücksichtnahme der Unabhängigkeit, genau der Wahrscheinlichkeit dieses Zufallsergebnisses annähert. Die relativen Häufigkeiten ergeben sich, indem man die absoluten Häufigkeiten durch die Anzahl der Versuche
dividiert.
Abbildung 2: Das Prinzip des Gesetzes der großen Zahlen.
In der folgenden Tabelle wird nun das Werfen einer Münze dokumentiert. Sie veranschaulicht das Prinzip des Gesetzes der großen Zahlen. Die Wahrscheinlichkeit,
dass das Ereignis Kopf eintritt ist eben 0,5 und mit wachsender Ausführung dieses Experiments wird sich der theoretische Wert, dass Kopf eintrifft 0,5 nähern.
Jedoch steigt der absolute Abstand trotzdem an. Man sieht, dass der relativer
Abstand, in der fünften Spalte niedergeschrieben, bei wachsender Durchführung
immer geringer wird. Dies veranschaulicht, dass die relative Häufigkeit sich der
Wahrscheinlichkeit annähert.
Anzahl der Würfe
100
1000
10000
Kopf
theoretisch
beobachtet
50
500
5000
48
491
4970
Verhältnis
theoretisch beobachtet
0,5
0,5
0,5
0,48
0,491
0,497
absoluter Abstand
relativer Abstand
2
9
30
0,02
0,009
0,003
Nun lautet im Allgemeinen die Fragestellung der Gesetze der großen Zahlen,
unter welchen Bedingungen an die Folge von Zufallsvariablen konvergiert das
arithmetische Mittel, in welchem Sinne konvergiert es und gegen welchen Grenzwert? Man kann sagen, dass es sich bei dem Gesetz der großen Zahlen um Konvergenzsätze für Zufallsvariablen handelt. Es wird aufgrund der Konvergenzart
4
und der Art der Voraussetzungen an die zugrunde liegenden Zufallsgrößen unterschieden in das schwache Gesetz und das starke Gesetz.
Als schwaches Gesetz der großen Zahlen werden Aussagen bezeichnet, die Auskunft über die stochastische Konvergenz der arithmetischen Mittel geben. Im
Gegensatz dazu gibt das starke Gesetz der großen Zahlen Auskunft über die
fast-sichere Konvergenz der arithmetischen Mittel. Wie man auch aus Abbildung 2 ablesen kann ist die Gültigkeit des schwachen Gesetz der großen Zahl in
dem Moment erfüllt, in dem auch das starke Gesetz der großen Zahlen erfüllt ist.
Denn die fast sichere Konvergenz impliziert auch die Konvergenz in Wahrscheinlichkeit. Umgekehrt gilt das jedoch nicht, also aus der Gültigkeit des schwachen
Gesetzes der großen Zahlen folgt nicht die des starken Gesetzes der großen Zahlen.
Abbildung 3: Die verschiedenen Konvergenzarten.
”Eine Folge (Xn )n∈N integrierbarer und reeller Zufallsvariablen heißt
dem schwachen bzw starken Gesetz der großen Zahlen genügend,
n
P
wenn lim n1 (Xi − E(Xi )) = 0 im Sinne der stochastischen bzw
n→∞
i=1
5
der fast sicheren Konvergenz gilt.”1
3
Das schwache Gesetz der großen Zahlen
Die Aussage, dass sich die relativen Häufigkeiten
der Wahrscheinlichkeit annähern
P
Xi
entspricht
in mathematischer Schreibweise n → p. Die relative Häufigkeit ist
P
Xi
und die Wahrscheinlichkeit p ist darstellbar als E(Xi ). Durch Umformung
n
kann man es auf folgende Form bringen:
n
P
lim n1 (Xi − IE(Xi )) = 0
n→∞
i=1
P
Durch die Tatsache dass n1
Xi (ω) für n → ∞ nicht für alle ω ∈ Ω gegen p
konvergiert, muss man die Umformung auf ”in großer Wahrscheinlichkeit” einschränken. Diese Aussage entspricht entweder der fast sicheren Konvergenz oder
der Konvergenz in Wahrscheinlichkeit, auch stochastische Konvergenz genannt.
Das schwache Gesetz der großen Zahlen genügt der stochastischen Konvergenz
P
und diese sieht formal wie folgt aus Xi −
→ X ⇔ lim P(|Xi − X| ≥ ) = 0
P
P
Also lautet das schwache Gesetz der großen Zahlen n1
Xi −
→ p. Umgeformt
n
P
würde es so aussehen lim P(| n1
Xi − p| ≥ ) = 0
n→∞
3.1
i=1
Satz von Khintchine
Von Aleksandr Jakovlevich Khintchine (* 19. Juli 1894 in Kondrowo; † 18. November 1959 in Moskau) stammt ein bedeutender Satz, der Auskunft darüber
gibt, wann eine Folge (Xn )n∈N dem schwachen Gesetz der großen Zahlen genügt.
Satz:
Die Folge (Xn )n∈N mit integrierbaren und paarweise unkorrelierten reellen Zufallsvariablen genügt dem schwachen Gesetz der großen Zahlen genau dann, wenn
n
P
lim n12
V (Xi ) = 0.
n→∞
i=1
Beweis:
Es muss gelten, dass alle Xi quadratisch integrierbar sind. Definiere Yn :=
n
P
(Xi −
i=1
E(Xi )). Für den nächsten Schritt im Beweis braucht man den Satz der Gleichheit
1
vgl. Bauer Heinz (1991), ”Wahrscheinlichkeitstheorie”, 4.Auflage, Walter de Gruyter, Berlin, New York, Seite 71
6
von Bienayme, der besagt, dass für endlich viele integrierbare, reelle und paarweise unkorrelierte Zufallsvariablen folgende Gleichheit gilt V (X1 + ... + Xn ) =
V (X1 ) + ... + V (Xn ).
Mit diesem Wissen gilt V (Yn ) =
V ( n1 Yn ) =
1
n2
n
P
n
P
V (Xi ) und somit weiter nun
i=1
V (Xi ), ∀n ∈ N.
i=1
Also folgt die Behauptung der Chebyshev-Ungleichung, die wie folgt lautet:
P{|X − E(X)|} ≥ k ≤ k12 V (X), wobei k > 0 und X eine reelle und integrierbare
Zufallsvariable ist.
Die Bedingung des Satzes von Khintchine impliziert gleichzeitig die quadratische
Integrierbarkeit. Diese Bedingung ist erfüllt, wenn die Folge der Varianzen V (Xn )
beschränkt ist. Weiters kann man sagen, dass die Folge der Varianzen genau dann
beschränkt ist, wenn alle Xn quadratisch integrierbar sind und alle Verteilungen
PXn einander gleich sind. Diese zwei Voraussetzungen sind insbesondere bei der
Bernoullischen Versuchsfolge erfüllt, also genügt jede Bernoullische Versuchsfolge
dem schwachen Gesetz der großen Zahlen.
4
Das starke Gesetz der großen Zahlen
Die Konvergenzart des starken Gesetzes der großen Zahlen entspricht, wie schon
oben erwähnt, der fast sicheren Konvergenz. Für diese Konvergenz von Xi gegen
X sind die folgenden zwei Voraussetzungen sowohl notwendig als auch hinreichend:
1) lim P(sup |Xm − X| > ) = 0
i→∞
m≥i
2)P( lim sup |Xi − X| > ) = 0
i→∞
Satz:
Fordert man, dass die Folge von Zufallsvariablen (Xn )n∈N identisch verteilt und
unabhängig ist und für den Erwartungswert und die Varianz gilt, dass IE(Xi ) = µ
n
P
und V (Xi ) = σ 2 < ∞, so gilt lim n1
Xk = µ f.s.
n→∞
k=1
7
4.1
Satz von Etemadi
Der amerikanische Mathematiker Nasrollah Etemadi (* 1945) publizierte einen
Satz der die Gültigkeit des starken Gesetzes der großen Zahlen zeigte.
Satz:
Gelten bei einer Versuchsfolge (Xn )n∈N , dass die Zufallsvariablen integrierbar
sind, also dass der Erwartungswert endlich ist, dass die Zufallsvariablen jeweils
dieselbe Verteilung haben und zu guter Letzt, dass je zwei Zufallsvariablen unabhängig sind, so genügt diese Folge dem starken Gesetz der großen Zahlen.
Bemerkung:
Die Existenz der Varianz wird bei diesem Satz von Etemadi nicht vorausgesetzt.
Fordert man nicht nur die Integrierbarkeit, sondern die quadratische Integrierbarkeit der Zufallsvariablen, so genügt die betreffende Folge dem schwachen Gesetz
der großen Zahlen.
4.2
Beiträge des Mathematikers Kolmogorov
Der russische Mathematiker Andrei Nikolajewitsch Kolmogorov (* 25. April 1903
in Tambow; † 20. Oktober 1987 in Moskau) beschäftigte sich vorallem mit dem
starken Gesetz der großen Zahlen.
Abbildung 4: Andrei Nikolajewitsch Kolmogorov
4.2.1
Kriterium für das starke Gesetz der großen Zahlen
Eine Folge (Xn )n∈N von reellen Zufallsvariablen genügt dem starken Gesetz der
8
großen Zahlen, wenn die Folge unabhängig ist, quadratisch integrierbar ist und
∞
P
1
V (Xn ) < ∞.
n2
n=1
4.2.2
Kolmogorovsches Gesetz der großen Zahlen
Fordert man beim Satz von Etemadi statt der paarweisen Unabhängigkeit, die
Unabhängigkeit der gesamten Folge, so ergibt sich der Satz von Kolmogorov.
Das Kolmogorovsches Gesetz der großen Zahlen besagt, dass jede unabhängige
Folge integrierbarer, identisch verteilter und reeller Zufallsvariablen dem starken
Gesetz der großen Zahlen genügt.
5
Null-Eins-Gesetze
Als Null-Eins-Gesetze werden in der Mathematik Gesetze bezeichnet, die besagen, dass Ereignisse einer gewissen Art entweder Wahrscheinlichkeit 0 oder
Wahrscheinlichkeit 1 haben. In der Praxis bedeutet das, dass diese Ereignisse
entweder fast sicher eintreten oder eben fast unmöglich sind.
5.1
Borel-Cantelli
Dieser Satz der Wahrscheinlichkeitstheorie wurde nach den beiden Entdeckern
Félix Édouard Justin Émile Borel (* 7. Januar 1871 in Saint-Affrique; † 3. Februar 1956 in Paris) und Francesco Paolo Cantelli (* 20. Dezember 1875 in Palermo;
† 21. Juli 1966 in Rom) benannt.
Lemma:
Für eine unabhängige Folge von Ereignissen (An )n∈N gilt, dass die Wahrscheinlichkeit für das Eintreten unendlich vieler dieser An entweder 0 oder 1 ist. Ob
P
es 0 oder 1 ist, lässt sich durch die Konvergenz der Reihe
P(An ) wie folgt
bestimmen:
P
1)
P (An ) < ∞ ⇒ P(lim sup An ) = 0
n→∞
P
2)
P (An ) = ∞ ⇒ P(lim sup An ) = 1
n→∞
Folgerung:
Die Folge reeller Zufallsvariablen (Xn )n∈N konvergiert fast sicher gegen 0, falls
∞
P
∀ > 0 gilt, dass
P{|Xn | > } < ∞.
n=1
9
Beweis:
∞
Definiere A := P(lim sup An ), anders ausgedrückt als ∩∞
n=1 ∪k=n Ak , so muss
n→∞
∀n ∈ N trivialerweise gelten, dass A ⊆ ∪∞
k=n Ak . Weiters ist ersichtlich, dass
∞
∞
P
P
P(Ak ). Da aber gilt, dass
P(An ) < ∞ folgt insbeP(A) ≤ P(∪∞
k=n Ak ) ≤
sondere, dass inf
∞
P
n=1
k=n
P(Ak ) = 0 und somit ist die Wahrscheinlichkeit von A gleich
k=n
Null.
Die Familie (An )n∈N ist unabhängig und daraus schließt sich auch die Unabhängigkeit
der Familie (AC
n )n∈N und mithilfe des Wissens, dass das Maß stetig ist, lässt sich
nun folgende Gleichung aufstellen:
C
N
C
N
C
∞
P(∪∞
k=1 Ak ) = 1 − P(∩k=1 Ak ) = 1 − P( lim ∩k=1 Ak ) = 1 − lim P(∩k=1 Ak ) =
N →∞
N →∞
Q
Q∞
Q∞
C
C
1 − lim N
k=1 P(Ak ) = 1 −
k=1 P(Ak ) = 1 −
k=1 P(1 − (Ak ))
N →∞
Nun kann man mit dieser Erkenntnis und der Ungleichung 1 − x ≤ e−x , x ∈ R
folgende Abschätzung ∀n ∈ N vornehmen:
∞
P
P(Ak )
−
Q
Q
∞
∞
−P(Ak )
k=n
= 1.
e
=
1
−
e
P(1
−
(A
))
≥
1
−
P(∪∞
k
k=n Ak ) = 1 −
k=n
k=n
∞
Des weiteren kann man nun sagen, dass P(lim supn→∞ An ) = P(∩∞
n=1 ∪k=n Ak ) =
∞
∞
lim P(∪∞
k=n Ak ) ≥ 1, da ∪k=n (Ak ) ⊇ ∪k=n+1 (Ak ).
n→∞
Somit gilt nun P(lim supn→∞ An ) = 1, womit das 0-1-Gesetz von Borel-Cantelli
bewiesen wäre.
5.2
Kolmogorovsches 0-1-Gesetz
Definition: Terminale σ-Algebra
Sei A eine σ-Algebra und (An )n∈N eine Folge von Teil- σ -Algebren von F. Weiters
∞
ist τn := σ(∪∞
m=n Am ) die durch An , An+1 , .. erzeugte σ-Algebra. τ∞ := ∩n=1 τn
bezeichnet nun die σ -Algebra der terminalen Ereignisse der vorher erwähnten
Folge (An )n∈N .
Das Gesetz des russischen Mathematiker Andrei Nikolajewitsch Kolmogorow lautet nun wie folgt:
Wir betrachten (An )n∈N nun als unabhängige Folge von σ-Algebren (An )n∈N ⊂ A.
Nun gilt für jedes terminale Ereignis X der Folge entweder P(X) = 0 oder
P(X) = 1.
10
5.3
0-1-Gesetz von Hewitt-Savage
Definition: permutierbar (bezüglich X)
Man bezeichnet die Menge A ∈ B genau dann als permutierbar bezüglich X,
wenn gilt, dass 1A permutierbar ist. Anders angeschrieben bedeutet das, dass
{τ X ∈ A} = {X ∈ A}, wobei das für alle endlichen Permutationen τ von N
gelten muss.
Dieses 0-1-Gesetz von Edwin Hewitt (* 20. Jänner 1920; † 21. Juni 1999) und
Leonard Jimmie Savage (* 20. November 1917; † 1. November 1971) ist ähnlich
zu dem bereits oben erwähnten 0-1-Gesetz von Kolmogorov.
Lemma:
Sei (Xn )n∈N eine Folge reeller Zufallsvariablen, die unabhängig und identisch
∞
N
verteilt sind, so gilt für jede bezüglich X =
Xn permutierbare Menge A ∈ B
n=1
P{X ∈ A} = PX (A) = 0 oder PX (A) = 1.
6
Anwendungen
6.1
Konsistente Schätzung von Erwartungswert und Varianz
”In Anwendungen ist man oft mit dem Problem konfrontiert, dass
bekannt bzw. vorausgesetzt wird, dass eine Wahrscheinlichkeitsverteilung einer Zufallsvariablen in einem zufälligen Versuch einer bestimmten Familie, z.B. Normalverteilung, angehört, aber die genaue
Spezifikation nicht bekannt ist, z.B. Erwartungswert und Varianz.” 2
Auf Basis des Satzes von Etemadi seien nun X1 , X2 , .. identisch verteilte Zufallsvariablen, die unabhängig sind und die IE(Xi )2 < ∞ erfüllen. Nun kann man sich
konsistente Schätzungen für den Erwartungswert (Sn ) und für die Varianz (Sn2 )
n
P
herleiten mit Hilfe des Gesetzes für große Zahlen, wobei Sn =
Xk die n-te
k=1
Partialsumme ist.
1) Sn = n1 Sn → IE(Xi ) f.s
n
P
1
(Xi − Sn )2 → σ 2 f.s
2) Sn2 = n−1
i=1
2
http://www.mathematik.hu-berlin.de/ riedle/winter06/stoch6.pdf am 8.1.2012
11
6.2
Monte-Carlo-Methode
Die Monte-Carlo-Methode wird oft in der numerischen Mathematik verwendet,
wenn man eine Funktion f hat, aber nicht deren explizite Stammfunktion kennt,
R
und eine Näherung des Integralwertes f dλ erhalten möchte. Nun dient das starke Gesetz der großen Zahlen dazu, durch Simulation von Zufallsvariablen einen
Näherungswert zu ermitteln.
Um sich das zu veranschaulichen werden unabhängige auf [0, 1] identisch verteilte
Zufallsvariablen X1 , Y1 , X2 , Y2 , ... gewählt. Definiert man sich Zn := 1{Xn ≤f (Yn )}
∀n ∈ N, dann ist (Zn )n∈N eine Folge unabhängiger, identisch verteilter ZufallsR1
variablen in L2 mit IE(Z1 ) = P(X1 ≤ f (Y1 )) = f (y)λ(dy)
0
n
P
1
Zk
n→∞ n k=1
Nun impliziert das starke Gesetz der großen Zahlen, dass lim
=
R1
f (y)λ(dy)
0
f.s und in L2 .
6.3
Die relative Häufigkeit des Auftretens von Ziffern in
der Zahlentheorie
In der dyadischen Entwicklung von x ∈ [0, 1] sei nun die i-te Ziffer gleich i =
∞
P
i (x)
i (x), also kann man x entweder anschreiben als x = 0, 1 2 ... oder x =
.
2i
i=1
Die Frage, die sich der Mathematiker Justin Émile Borel stellte, war, wie groß in
der Folge 1 , 2 , .. die relative Häufigkeit der Ziffer 1 sei. Wenn man mit vn (x) die
Anzahl der Einser in den ersten n Ziffern bezeichnet, so wollte Borel den Grenzwert der Folge vnn bestimmen. Der Mathematiker formte das Problem um, indem
∞ (t)
P
i (x)
(t)
, wobei er i (x)
er x als t-adische Entwicklung anschrieb, nämlich x =
ti
i=1
als die i-te Ziffer der Zahl x benannte. Gesucht war nun die relative Häufigkeit der
(t)
Ziffer k, also genauer der Grenzwert der Folge ψk,n (x) =
(
(t)
1 für i (x) = k
(t)
wobei ϕi,k (x) =
(t)
0 für i (x) 6= k
(t)
(t)
(t)
ϕ1,k (x)+ϕ2,k (x)+...+ϕn,k (x)
,
n
Definition:
(t)
Eine Zahl x ∈ [0, 1] heißt normal, falls lim ψk,n (x0 ) = 1t , wobei k = 0, 1, ..., t − 1
n→∞
(t)
die ϕi,k (x)
und t = 2, 3, ... . Weiters gilt, dass
offenbar unabhängig voneinander
1
R (t)
sind und ϕn,k (x)dx = 1t ist. Somit konnt Borel mit Hilfe des starken Gesetzes
0
12
der großen Zahlen den Satz aufstellen, dass fast jedes x ∈ [0, 1] normal ist.
6.4
3
Approximationsatz von Weierstrass
Der nach dem deutschen Mathematiker Karl Theodor Wilhelm Weierstraß (* 31.
Oktober 1815 in Ostenfelde bei Ennigerloh/Münsterland; † 19. Februar 1897 in
Berlin) benannte Approximationssatz besagt, dass jede stetige reelle Funktion f
auf einem kompakten Intervall [a, b] ⊂ R gleichmäßig durch Polynome approximiert werden kann.
In diesem Zusammenhang sind die sogenannten Bernsteinpolynome, betitelt nach
dem Russen Sergei Natanowitsch Bernstein (* 5. März 1880 in Odessa; † 26. Okn
P
f ( nk ) nk xk (1 − x)n−k ,
tober 1968 in Moskau), die wie folgt aussehen: Bnf (x) =
k=0
von Bedeutung. Es wird auch das n-te Bernsteinpolynom der Funktion f genannt.
Satz:
Die Folge der Bernsteinpolynome Bnf (x)n∈N konvergiert gleichmäßig für alle Funktionen f ∈ C([0, 1]) auf [0, 1] gegen f.
Beweis:
Trivialerweise sind alle f ∈ C([0, 1]) auf [0, 1] gleichmäßig stetig und es gibt zu
jedem > 0 ein δ > 0, so dass ∀x, y ∈ [0, 1] gilt: |x − y| < δ ⇒ |f (x) − f (y)| < .
Mithilfe der Chebyshev-Ungleichung (siehe Kapitel 3.1) lässt sich nun folgende
Abschätzung vornehmen:
1
P{|Sn∗ − p| ≥ δ} ≤ δ12 V (Sn∗ ) = n21δ2 V (Sn ) = p(1−p)
≤ 4nδ
∀p ∈ [0, 1]
2
nδ 2
Nun ergibt sich eine weitere Abschätzung durch umformen und zwar:
1
|Bnf (p) − f (p)| ≤ + 2||f || 4nδ
2 , wobei ||f || die Supremumsnorm von f bezeichnet.
Die Behauptung des Satzes folgt nun, da n ∈ N und p ∈ [0, 1]. 4
Wählt man sich nämlich zu p ∈ [0, 1] eine Folge von Zufallsvariablen (Xn )n∈N , die
eine Bernoullische Versuchsfolge mit Erfolgswahrscheinlichkeiten p beschreiben,
n
P
so ist ersichtlich, dass Sn =
Xi binomialverteilt ist mit den Parametern n und
i=1
p. Nun gilt weiters für jede stetige Funktion f aus dem Vektorraum C([0, 1]) der
3
vgl. Revesz Pal (1968), ”Die Gesetze der grossen Zahlen”, Birkhäuser Verlag Basel und
Stuttgart, Seite 152f
4
vgl. Bauer Heinz (1991), ”Wahrscheinlichkeitstheorie”, 4.Auflage, Walter de Gruyter, Berlin, New York, Seite 100
13
stetigen reellen Funktionen auf [0, 1], dass
n
R
R
P
f ( nk ) nk pk (1 − p)n−k
IE(f ( n1 Sn )) = f ( n1 Sn )dP = f ( nx )βnp (dx) =
k=0
Mit dem starken Gesetz der großen Zahlen ist beweisbar, dass die Folge Sn∗ = n1 Sn
bei gegebenen p ∈ [0, 1] f.s. gegen p konvergiert. 5
6.5
Grenzverhalten von Summenvariablen
Nimmt man sich eine Folge (Xn )n∈N , die unabhängig ist und deren Zufallsvariablen reell, integrierbar und identisch verteilt sind, so liegt das Interesse am
Grenzverhalten von Sn := X1 + ... + Xn , wobei S0 := 0. Der Erwartungswert von
Xn sei von n unabhängig und es soll gelten IE(Xn ) = µ. Um sich nun das Grenzverhalten von der Summenvariable zu untersuchen, muss man drei verschiedene
Fälle unterscheiden.
• µ>0
Mit Hilfe des starken Gesetzes der großen Zahlen konvergiert n1 Sn fast sicher
gegen µ und somit ist lim Sn = ∞ fast sicher.
n→∞
• µ<0
Dieser Fall ist eigentlich äquivalent zu dem ersten Fall, da man nur mit
(−Xn ) rechnen muss und sich somit lim Sn = −∞ fast sicher ergibt.
n→∞
• µ=0
Ist µ nun genau gleich Null, so verwendet man das schwache Gesetz der
großen Zahlen, um sich das Grenzverhalten anzusehen. n1 Sn konvergiert
nun im stochastischen Sinn gegen Null. Somit ergibt sich, dass ein n0 ∈ N
existiert, für das gilt, dass P{|Sn | < n} > 21 , ∀ > 0 ∀n ≥ n0 . Durch
∞
P
weitere Überlegungen gelangt man zu der Tatsache dass
P{|Sn | < 1} =
n=0
∞. Den Limes von Sn muss man unterscheiden in den Limes Superior und
den Limes Inferior, da lim inf Sn = −∞ und lim sup Sn = ∞
n→∞
n→∞
Mit Hilfe dieser Beobachtungen lässt sich nun sagen, dass folgende vier Punkte
äquivalent sind, nämlich
(a) µ = 0
∞
P
(b) ∀ > 0 ⇒
P{|Sn | < } = ∞
n=1
5
vgl. Bauer Heinz (1991), ”Wahrscheinlichkeitstheorie”, 4.Auflage, Walter de Gruyter, Berlin, New York, Seite 99
14
(c) ∀ > 0 ⇒ P{|Sn | < für unendlich viele n} = 1
(d) −∞ = lim inf Sn < lim sup Sn = ∞ f.s
n→∞
n→∞
Definition:
rekurrente Punkte
Da (Xn )n∈N eine unabhängige Folge identisch verteilter reeller Zufallsvariablen
ist, nennt man die Summe dieser, also Sn := X1 + ... + Xn eine Irrfahrt. Nähert
sich nun eine Irrfahrt dem Punkt x = 0, bis auf ein beliebig vorgebbares > 0
unendlich oft, so nennt man diesen Punkt x rekurrent.
Wenn nun solche Punkte existieren, so wird die Irrfahrt selbst rekurrent genannt.
Nichtrekurrente Irrfahrten werden transiente Irrfahrten genannt. Bei dem Fall,
dass µ > 0 oder µ < 0 ist, liegen transiente Irrfahrten vor.
6.6
Konvergenzgeschwindigkeiten
Im Allgemeinen kann man sagen, dass mit dem Gesetz der großen Zahlen sich
die Konvergenz des arithmetischen Mittels bestimmen lässt. In der Praxis ist
es jedoch dann wichtig zu wissen, wieviele unabhängige Wiederholungen man
braucht, damit man sagen kann, dass das arithmetische Mittel dem Erwartungswert entspricht.
6.6.1
im schwachen Gesetz der großen Zahlen
Das schwache Gesetz der großen Zahlen besagt, dass wenn ich eine identisch
verteilte Folge (Xn )n∈N mit unabhängigen, reellen und integrierbaren Zufallsvan
P
Xi −p| ≥ ) = 0 gilt, wobei p den Erwartungswert
riablen habe, dass lim P(| n1
n→∞
i=1
darstellt. Nun haben die beiden Mathematiker Herman Chernoff (* 1. Juli 1923
in New York) und Gabriel Cramer (* 31. Juli 1704 in Genf; † 4. Januar 1752
in Bagnols-sur-Cèze, Frankreich) den Satz von Chernoff-Cramer entwickelt, um
eine Abschätzung der Geschwindigkeit zu erhalten, mit der diese Konvergenz
stattfindet.
Satz:
Satz von Chernoff-Cramer
Sei nun wieder (Xn )n∈N eine Folge identisch verteilter, unabhängiger Zufallsvariablen mit Erwartungswert p. So gelten zwei Aussagen:
15
(a) P( n1
(b) P( n1
n
P
Xi ≥ x) ≤ e−nI(x) , ∀x ≥ p
i=1
n
P
Xi ≤ x) ≤ e−nI(x) , ∀x ≤ p
i=1
wobei I(x) genau die Cramer-Transformierte darstellt, die wie folgt aussieht:
I : R → [0, ∞]
I(x) := sup{tx − logE[etX1 ]}
t∈R
Nun kann man mit diesem Satz folgende Abschätzung vornehmen:
n
P
P(| n1
Xi − p| ≥ ) ≤ 2e−nJ(p,)
∀ > 0
i=1
mit J(p, ) := max{I(p + ), I(p − )}
Mit diesem Wissen haben wir nun, falls J(p, ) < ∞ eine exponentielle Abschätzung
für die Konvergenz. Weiters könnte man beweisen, dass die Raten der exponentiellen Konvergenz sich nicht weiter verbessern lassen.
6.6.2
im starken Gesetz der großen Zahlen
Um sich die Konvergenzgeschwindigkeit beim starken Gesetz der großen Zahlen
anzusehen, nimmt man widerrum eine Folge (Xn )n∈N deren Zufallsvariablen integrierbar, unabhängig und identisch verteiltsind. Nun nehmen wir an, dass das
starke Gesetz der großen Zahlen gilt. (siehe Kapitel 4)
Wird nun vorausgesetzt, dass der Erwartungswert Null ist und die Varianz Eins
ist, so lassen sich folgende Umformungen machen:
n
P
1
Xi
n→∞ n i=1
n
P
P(lim sup | n1
Xi |
n→∞
i=1
1 = P( lim
= 0) = P(lim sup n1
n→∞
≥ ) = 0
n
P
Xi = 0) und damit gilt, dass
i=1
∀ > 0
Wenn man sich nun die Abbildung n → Sn (ω) ansieht mit einem festen ω ∈ Ω,
n
P
Xi | ≥ ) = 0, ∀ > 0 eine Menge
so kann man sagen, dass bei P(lim sup | n1
n→∞
i=1
A() ∈ A existiert deren Wahrscheinlichkeit genau Eins ist. Weiters muss gelten,
dass ∀ω ∈ A() die Abbildung n → Sn (ω) nicht unendlich oft außerhalb der
Schranken n → −n und n → n liegt, sondern nur endlich oft.
16
Abbildung 5: Funktion Sn (ω) und n
Nun stellt sich die Frage, ob eine optimale Schranke gefunden werden kann und
dazu wird eine Funktion g : N → R+ gesucht, für die zwei Sachen gelten müssen
∀ > 0:
”(1)Für P-fast alle ω ∈ Ω nimmt die Abbildung n → Sn (ω) nur für
endlich viele n ∈ N Werte außerhalb des Intervalls [−(1 + )g(n), (1 +
)g(n)] an.
(2)Für P-fast alle ω ∈ Ω nimmt die Abbildung n → Sn (ω) für unendlich viele n ∈ N Werte außerhalb des Intervalls [−(1 − )g(n), (1 −
)g(n)] an. ”6
Um nun die Frage der Konvergenzgeschwindigkeit im starken Gesetz der großen
Zahlen endgültig zu lösen, braucht man den Satz von den beiden Mathematikern Stanislaw Hartman (* 2. August 1914 in Warschau; † 11. November 1992 in
Breslau) und Aurel Friedrich Wintner (* 8. April 1903 in Budapest; † 15. Januar
1958 in Baltimore).
Satz:
Satz von Hartman-Wintner
Wir nehmen wieder eine Folge (Xn )n∈N mit identisch verteilten, unabhängigen
Zufallsvariablen mit Erwartungswert p und Varianz Eins. So gelten zwei Aussagen:
6
http://www.mathematik.hu-berlin.de/ riedle/winter06/stoch6.pdf, 27.2.2012, Seite 58
17
n
P
Xi
i=1
= 1 P-f.s.
(a)lim sup √2nloglogn
n→∞
n
P
(b)lim inf
n→∞
√
Xi
i=1
2nloglogn
= −1 P-f.s.
n
P
n
P
Xi
Xi
√ i=1
√ i=1
<
lim
sup
= 1 P-f.s.
2nloglogn
2nloglogn
n→∞
n→∞
q
n
P
Satz, dass | n1
Xi | = O( loglogn
) P-f.s.für n → ∞
n
i=1
Nun gilt, dass −1 = lim inf
mit folgt mit dem
und so-
Diese Rate ist nun wieder nicht verbesserbar.
Bemerkung:
Verallgemeinert man dieses Satz, so erhält man die Tatsache, dass im Intervall
[−1, 1] für P-fast alle ω ∈ Ω alle Häufungspunkte der Folge (Sn (ω))n∈N liegen.
6.7
Versicherungen
Bei einem Versicherungsunternehmen hat sich sicherlich schon jeder Versicherte
einmal die Frage gestellt, wie es das Unternehmen schafft solche Risiken zu tragen. Wieso kann es eine größere Deckung übernehmen, obwohl die Prämieneinkünft
geringer sind? Wie kann ein Versicherungsunternehmen überleben?
”Eine mathematische Antwort hierauf gibt das Gesetz der großen
Zahl. In einer seiner speziellen Versionen besagt es, dass sich die
relative Häufigkeit, mit der ein Ereignis auftritt, bei einer großen
Anzahl von unabhängigen Wiederholungen des zugehörigen Experiments kaum von der theoretischen Wahrscheinlichkeit des Auftretens
dieses Ereignisses unterscheidet.”7
Das bedeutet nun nicht, dass wenn ich, zum Beispiel zweimal eine Münze werfe,
dass ich genau einmal Kopf und einmal Zahl habe, sondern wenn ich eine hohe
Anzahl an Wiederholungen habe, dass der Versuchsausgang Kopf sich der Hälfte
aller Würfe annähern wird, also zu 50% eintreten wird.
Im Beispiel der Versicherung bedeutet dies, dass das Unternehmen die Anzahl
der Versicherungsfälle ziemlich gut einschätzen kann, denn sie ergibt sich aus
der Wahrscheinlichkeit für das Auftreten des betreffenden Versicherungsfalls für
7
http://zahlenwissen.mmcd.de/index.php?rid=34, 25.2.2012
18
einen einzelnen Versicherten multipliziert mit der Anzahl an Versicherungsnehmern. Wie man nun die Wahrscheinlichkeit für einen Versicherungsfall einschätzt,
hängt zum Beispiel davon ab, wielange es das Versicherungsunternehmen schon
gibt, denn dieser Parameter ist aus langjähriger Erfahrung schon bekannt. Nun
lässt sich für ein Versicherungsunternehmen leichter eine angemessene Prämie ermitteln und zwar indem sie die Wahrscheinlichkeit eines Versicherungsfalles mit
der Schadenshöhe multiplizieren. Ein Versicherungsunternehmen kann deshalb
ein so großes Risiko tragen, da nur ein ziemlich vorhersehbarer Anteil an Versicherungsnehmern einen Schadensfall hat und somit eigentlich die Gemeinschaft
dem Einzelnen Geld erspart.
19
7
Literatur- und Abbildungsverzeichnis
• Bauer Heinz (1991), ”Wahrscheinlichkeitstheorie”, 4.Auflage, Walter de
Gruyter, Berlin, New York
• Revesz Pal (1968), ”Die Gesetze der grossen Zahlen”, Birkhäuser Verlag
Basel und Stuttgart
• http://www.mathepedia.de/Gesetz_der_groszen_Zahlen.aspx am 30.8.2011
• http://de.wikipedia.org/wiki/Gesetz_der_gro%C3%9Fen_Zahlen am 4.9.2011
• http://de.wikipedia.org/wiki/Kolmogorovsches_Null-Eins-Gesetz am
20.12.2011
• http://www.stochastik.uni-freiburg.de/homepages/pfaffelh/teaching/
wtheo.pdf am 7.1.2012
• http://de.wikipedia.org/wiki/Borel-Cantelli-Lemma am 7.1.2012
• http://www.mathematik.hu-berlin.de/~riedle/winter06/stoch6.pdf
am 8.1.2012
• http://www.math.hu-berlin.de/~kuechler/courses/SS07/Skript/skript.
pdf am 8.1.2012
• http://de.wikipedia.org/wiki/Bernsteinpolynome am 11.1.2012
• http://www.mi.uni-koeln.de/~jost/ss10/stoch1_20.ps am 25.2.2012
• http://zahlenwissen.mmcd.de/index.php?rid=34 am 26.2.2012
• http://ismi.math.uni-frankfurt.de/wakolbinger/teaching/Elesto07.
pdf am 26.2.2012
Abbildungsverzeichnis
1
2
3
4
5
http://www.mathematik.ch/mathematiker.php . . . . . . . . . . . 3
http://ismi.math.uni-frankfurt.de/wakolbinger/teaching/Elesto07.pdf 4
Bauer Heinz (1991), ”Wahrscheinlichkeitstheorie”, 4.Auflage, Walter de Gruyter, Berlin, New York, Seite 40 . . . . . . . . . . . . . 5
http://www.nd.edu/~tutorial/tutorial_files/monte/howItworks.
html am 17.1.2012 . . . . . . . . . . . . . . . . . . . . . . . . . . 8
http://www.mi.uni-koeln.de/~jost/ss10/stoch1_20.ps am 25.2.2012 17
20