Wahrscheinlichkeitsrechnung und stochastische Prozesse

Wahrscheinlichkeitsrechnung und
stochastische Prozesse
Mitschrift der Vorlesung
Author:
Date:
Aljoscha Steininger
23. Oktober 2011
Version:
3
Inhaltsverzeichnis
Seite 2 von 14
Inhaltsverzeichnis
1 Einführung
1.1 Permutationen (Anordnungen) . . . . . . . . . . . . . . . . . . . . . . . .
1.2 Kombinationen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
1.3 Variationen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
3
3
3
4
2 Grundbegriffe
2.1 Laplace- Modell . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
5
6
3 Axiomatische Wahrscheinlichkeitstheorie
6
4 Mengen
4.1 De Morgansche Regeln . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
8
9
5 Wahrscheinlichkeitsräume
10
5.1 Der Raum . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 11
5.2 Beispiele . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 12
6 Bedingte Wahrscheinlichkeiten
Wahrscheinlichkeitsrechnung und stochastische Prozesse
13
Aljoscha Steininger
1 Einführung
Seite 3 von 14
1 Einführung
P=
Anzahl günstigster Fälle
Gesamtzahl der Fälle
(1)
1.1 Permutationen (Anordnungen)
Es gibt n verschiedene Kugeln. Auf wie viele Arten lassen sich die Kugeln anordnen?
n · (n − 1) · (n − 2) . . . = n!
(2)
z.B. 3 · 2 · 1 = 6
P 5er im Lotto =
# Möglickeiten für 5er
# Möglichkeiten überhaupt
6er aus 45: Wie viele möglichen Ereignisse gibt es?
z.B. 4 Kugeln, 2 schwarze und 2 rote:
4!
4·3·2
=
2! · 2!
2·2
gesamt:
n!
n! · n! · n! . . .
(3)
· n!
1.2 Kombinationen
Aus einer Urne mit Kugeln ziehen wir k Stück
1. Mit zurücklegen?
Nein
2. Ist die Reihenfolge wichtig?
Nein
...
S
S
W
S
Falls eine Kugel gezogen wird malen wir
sie schwarz an. Kugeln die nicht gezogen
werden bleiben weiß.
Wie viele mögliche Anordnungen von k
schwarzen und n−k weißen Kugeln gibt
es?
Wahrscheinlichkeitsrechnung und stochastische Prozesse
Aljoscha Steininger
1.VO
06.10
1 Einführung
Seite 4 von 14
Anzahl der Möglichkeiten:
n
k
| {z }
n!
=
n! · (n − k)!
(4)
Binominal- Koeffizient
binomial coefficient
n choose k
Exkurs:
n
(x − y) =
n X
n
k=0
k
xn y n−k
Kombinationen mit Zurücklegen
Anzahl der Möglichkeiten:
n+k−1
(n + k − 1)!
=
k
k!(n − 1)!
(5)
Gegeben sind 12 Glühlampen. Für eine Kontrolle ziehen wir 3. Wie viele Möglichkeiten
gibt es?
12
12!
=
= 220
3
3! · 9!
1.3 Variationen
• Urne mit n Kugeln
• wir ziehen k heraus
• Reihenfolge ist wichtig
• ohne Zurücklegen
• Möglichkeiten k aus n Kugeln zu ziehen
n
k
=
n!
k!·(n−k)!
• mögliche Reihenfolge der gezogenen Kugeln = k!
n
n!
⇒ insgesamt
· k! =
k
(n − k)!
Wahrscheinlichkeitsrechnung und stochastische Prozesse
(6)
Aljoscha Steininger
2 Grundbegriffe
Seite 5 von 14
Mit Zurücklegen
n · |{z}
n · |{z}
n . . . · |{z}
n ⇒ nk Möglichkeiten
|{z}
1
2
3
(7)
k
Bsp.: Es gibt 2 verschiedene Würfel (rot und schwarz). Wie viele mögliche Augenpaare
gibt es ?
Antwort: 62 = 36 Möglichkeiten
2 Grundbegriffe
Beispiel:
Wir werfen einen Würfel. Für eine Augenzahl ≥ 5 bekommen wir 100 e.
Ergebnismenge: Ω = {1, 2, 3, 4, 5, 6}
Die Elemente der Ergebnismenge heißen Elementarereignisse
Wir wollen mehr mögliche Ereignisse betrachten z.B. {5,6}. A ist ein System von Teilmengen von Ω. z.B. A = P(Ω) = Menge aller möglichen Teilmengen von Ω (Potenzmenge)
P ({1, 2, 3, 4, 5, 6}) = {∅, {1} , {2} . . . {1, 2} . . . {1, 2, 3, 4, 5, 6}}
Elemente von A heißen Ereignisse
Die Wahrscheinlichkeit P ist eine additive Mengenfunktion.
P : A → [0, 1]
z.B. P ({1}) =
(8)
1
6
P ({2}) =
1
6
50% = 0, 5
P (∅) = 0
100% = 1
P (Ω) = P ({1, 2, 3, 4, 5, 6}) = 1
P ({5, 6}) = P ({5}) + P ({6}) =
1 1
1
+ =
6 6
3
Zufallsvariable X : Ω → R
z.B. X(1) = 0,
X(2) = 0 . . .
X(5) = 100,
X(6) = 100
Wahrscheinlichkeitsrechnung und stochastische Prozesse
Aljoscha Steininger
3 Axiomatische Wahrscheinlichkeitstheorie
Seite 6 von 14
2.1 Laplace- Modell
Ω = {ω1 , ω2 , ω3 , . . . ωn } eine endliche Menge
A = P (Ω)
1
P (ωi ) =
füri = 1, 2, 3 . . . m
m
3
2
P ({ω1 , ω2 }) = , P ({ω1 , ω2 ω3 }) =
m
m
Anzahl der
günstigen Fälle
Für A ∈ A :
P (A) =
X
i:ωi ∈A
X 1
R (ωi ) =
=
m
i:ωi ∈A
z }| {
ρ (A)
m
| ρ (A) = # {i : ωi inA}
z.B Würfeln
P ({1, 2, 4, 6}) =
4
2
=
6
3
P ({2, 4, 6}) =
3
1
=
6
2
Nachteile:
• Ω ist endlich
z.B. ein Problem bei Zufallsereignissen mit reellem Ausgang z.B Gewicht Semmel:
23,346823853 g
• Alle Elementarereignisse sind gleich wahrscheinlich
3 Axiomatische Wahrscheinlichkeitstheorie
• Ω ist eine Menge
• A ist eine sigma- Algebra
• P ist ein Wahrscheinlichkeitsmaß
Ω = {Huhn, Pferd, 5, Stein}
• A ist eine sigma- Algebra
• A enthält Teilmengen von Ω
• A enthält ∅
• A enthält Ω
• A enthält alle (abzählbar unendlichen) Durchschnitte und Vereinigungen
• A enthält alle Komlemente
Wahrscheinlichkeitsrechnung und stochastische Prozesse
Aljoscha Steininger
3 Axiomatische Wahrscheinlichkeitstheorie
A1 , A2 , A3 . . . Ai
⇒
Seite 7 von 14
∈A
∩ Ai ∈ A
∪ Ai ∈ A
A ∈ A ⇒ A ∈ A wobei A = Ω \ A P ist ein Wahrscheinlichkeitsmaß
P : A → [0, 1]
Axiom 1:
P (A) ∈ [0, 1] für alle a ∈ A
Axiom 2:
P (Ω) = 1
Axiom 3:
Falls A1 , A2 , A3 . . . Ereignisse sind,
P für die gilt: ∩ A := 0,
dann gilt: P (A1 ∪ A2 ∪ A3 . . .) P (A)
Würfel: Ω = {1, 2, 3, 4, 5, 6}
1
P ({1}) = ;
6
1
P ({2}) = ;
6
P ({1, 2, 3, 4, 5, 6}) = 1;
P ({1, 2}) =
P ({2, 3, 4}) =
1 1
1
+ =
6 6
3
1
2
P ({1, 2} ∪ {2, 3, 4}) 6= P ({1, 2}) + P ({2, 3, 4})
P ({1, 2} ∪ {2, 3, 4}) = P ({1, 2, 3, 4}) =
2
4
=
6
3
Beispiel:
Wir haben 30 Pakete und 5 LKW. Wie viele Möglichkeiten gibt es die Pakete auf die
LKW zu verteilen?
Pakete und LKW unterscheidbar?
1. Pakete unterscheidbar, LKW unterscheidbar
...
5 Mgl. 5 Mgl.
→ Variation mit Wiederholung
→ 530 Möglilchkeiten
5 Mgl.
Wahrscheinlichkeitsrechnung und stochastische Prozesse
Aljoscha Steininger
2.VO
13.10
4 Mengen
Seite 8 von 14
2. Pakete nicht unterscheidbar, LKW unterscheidbar
5 + 30 − 1
Kombination mit Wiederholung
Möglichkeiten
5
3. Pakete unterscheidbar, LKW nicht
→ Anzahl der Möglichkeiten:
5
X
S30,k
n=1
k
5
X
1 X
(−1)k−i
=
k!
i=0
k=1
k 30
j j
4. Pakete nicht unterscheidbar, LKW nicht unterscheidbar
⇒
5
X
k=1
3. und 4.
1. und 2.
P30,k =
XX
···
...
Extrem kompliziert zu rechnen, kommt nicht in der Prüfung dran
WICHTIG
4 Mengen
A, B ≤ Ω
A
B
Ω
• A∪B
• A∩B
• A = Ω\A
Wahrscheinlichkeitsrechnung und stochastische Prozesse
Aljoscha Steininger
4 Mengen
Seite 9 von 14
4.1 De Morgansche Regeln
A∪B =A∩B
A∩B =A∪B
A
B
Ω
A∪B
A
A
∩
B
B
Ω
Ω
A
⇒
B
A
B
Ω
A∪B
(Ω, A , P)
. . . Ω:
...A :
. . . P:
Ergebnismenge
Ereignismenge
Wahrscheinlichkeitsmaß
Wahrscheinlichkeitsrechnung und stochastische Prozesse
Aljoscha Steininger
5 Wahrscheinlichkeitsräume
Seite 10 von 14
• A besteht aus Teilmengen von Ω
• P → [0, 1]
• P(∅) = 0, P(Ω) = 1,
⇒
A1 , A2 . . . Ereignisse, d.h. ∈ A und paarweise disjunkt
paarweise disjunkt heißt: Ai ∩ Aj = ∅ ,
i 6= j
Dann muss gelten: P(A1 ∪ A2 ∪ . . .) = P(A1 ) + P(A2 ) + P(A3 ) . . .
5 Wahrscheinlichkeitsräume
Wir unterscheiden 3 Fälle von Wahrscheinlichkeitsräumen
• endlich z.B Ω = {1, 2, 3, 4, 5, 6}
A = P(Ω)
• abzählbar unendliche Räume z.B Ω = {1, 2, 3, 4, 5, 6, . . .}
A = P(Ω)
• überabzählbar einziges Bsp.: Ω = [0, 1] (alle reellen Zahlen zwischen 0 und 1)
A 6= P(Ω)
Beobachtung: In endlichen und abzählbar unendlichen Räumen sind die Wahrscheinlichkeiten aller Ereignisse durch die Wahrscheinlichkeiten der Elementarereignisse eindeutig festgelegt.
z.B.
Ω = {1, 2, 3, 4}
P = ({1, 2, 4})
= P ({1} ∪ {2} ∪ {4})
{z
}
|

P(1) = 0.2 


P(2) = 0.3
P(3) =
0 


P(4) = 0.5
paarweise disjunkt
= P(1) + P(2) + P(4)
Wir werfen eine Münze. Beim wievielten Wurf kommt das 1. Mal Zahl?
Ω = {1, 2, 3, 4, 5, . . .}
P(1)
P(2)
P(3)
P(4)
=
=
=
=
..
.
1
2
1
4
1
8
1
16
Wahrscheinlichkeitsrechnung und stochastische Prozesse
Aljoscha Steininger
5 Wahrscheinlichkeitsräume
Z
1
P
2
=
Seite 11 von 14
M
1
P
P
=
1
=
4
Z
K
2
1
P
P
=
1
4
=
8
Z
M
=Münze
Z
=Zahl
K
=Kopf
K
P
=
1
8
K
a) Wie groß ist die Wahrscheinlichkeit spätestens beim 3. Wurf eine Zahl zu werfen?
P ({1, 2, 3}) = P ({1} ∪ {2} ∪ {3}) = P ({1}) + P ({2}) + P ({3})
=
1 1 1
+ + = 0.875
2 4 8
b) Wie groß ist die Wahrscheinlichkeit frühestens beim 4. Wurf Zahl zu werfen?
P ({4, 5, 6, . . .}) = P ({4} ∪ {5} ∪ {6} . . .)
= P ({4}) + P ({5}) + P ({6}) + . . .
1
=
8
1
7
=
Komplementärmenge → = 1 −
8
8
5.1 Der Raum
([0, 1] , B, λ)
•
[0, 1]
{ω ∈ R, 0 ≤ ω ≤ 1} = „Einheitsintervall“
•
B
=alle Teilintervalle von [0, 1] und alle höchsten abzählbaren Vereinigungen und Durchschnitte solcher Teilintervalle = „Borelmengen“
•
P=λ
=für Intervall: Länge des Intervalls
für endliche oder abzählbar unendliche Vereinigungen von Teilintervallen, die paarweise disjunkt sind: Summe der Längen
→
„Lebesquemaß“
Wahrscheinlichkeitsrechnung und stochastische Prozesse
Aljoscha Steininger
5 Wahrscheinlichkeitsräume
Seite 12 von 14
5.2 Beispiele
Ω=
1
0
P
∅
Ω = [0, 1]
P(∅) = 0
P ([0, 1]) = 1
[0.2, 0.4]
P ([0.2, 0.4]) = 0.2
[0.2, 0.4)
P ([0.2, 0.4)) = 0.2
{0.7} [0.7, 0.7)
A = [0.1, 0.3] ∪ (0.55, 0.6]
B = 1, 12 , 31 , 14 , 15 . . .
= {1} ∪ 12 ∪ 31 . . .
P ({0.7}) = 0
P(A) = P ([0.1, 0.3])
+P ((0.55, 0.6])
= 0.2 + 0.05 = 0.25
P(B) = 0
Wofür?
• Modellierung von Aktienkursen
• Modellierung von Molekularbewegungen
„Brownsche Bewegung“
Ω = {1, 2, 3, 4, 5, 6} ,
A = {2, 4, 6}
B = {4, 5, 6}
1
P ({i}) = ,
6
i = 1, 2, 3, 4, 5, 6
1
2
1
P (B) =
2
P (A) =
C = {2, 4, 5, 6}
Wenn wir ganz sicher wissen, dass A ganz sicher eintritt, wie groß ist dann die Wahrscheinlichkeit von B?
Wahrscheinlichkeitsrechnung und stochastische Prozesse
Aljoscha Steininger
6 Bedingte Wahrscheinlichkeiten
Seite 13 von 14
6 Bedingte Wahrscheinlichkeiten
Definition:
P des Eintretens von B, vorausgesetzt, dass A eintritt, heißt bedingte Wahrscheinlichkeit
von B unter A
→ P (B|A) :=
A = {2, 4, 6} ,
P (A ∩ B)
,
P(A)
fürP(A) 6= 0
(9)
B = {4, 5, 6}
3
6
1
6
P (B|A) =
P (A ∩ B)
P ({4, 6})
=
=
P(A)
P ({2, 4, 6})
P (A|B) =
P (B ∩ A)
P ({4, 6})
2
=
=
P(B)
P ({4, 5, 6})
3
=
2
3
Multiplikationsgesetz: P (A ∩ B) = P(A) · P (B|A)
(10)
Unabhängigkeit: P (A ∩ B) = P(A) · P (B)
(11)
⇒ A, B heißen unabhängig, falls P(A) ∩ P(B) = P(A) · P (B)
⇒ z.B. Münze werfen
Falls A und B unabhängig
→ P (A|B) =
P (A ∩ B)
P(A) · P (B)
=
= P(A)
P(B)
P(B)
• Falls wir etwas aus der „wirklichen Welt“ modellieren wollen, müssen wir W. entsprechend wählen
• Falls wir schon einen Wahrscheinlichkeitsraum haben, können wir überprüfen, welche Ereignisse unabhängig sind
z.B. Wurf mit 2 Würfeln, Ω = {(i, j)1 ≤ i, j ≤ 6}. Wir definieren P ({i, j}) =
Ergebnis des 1. Wurfs von dem des 2. Wurfs unabhängig?
1
36 .
Ist das
A . . . der 1. Wurf zeigt bestimmt Zahl, z.B. m
B . . . der 2. Wurf zeigt bestimmt Kopf, z.B. n
A = {(m, 1), (m, 2), . . . , (m, 6)}
B = {(1, n), (2, n), . . . , (6, n)}
Wahrscheinlichkeitsrechnung und stochastische Prozesse
Aljoscha Steininger
6 Bedingte Wahrscheinlichkeiten
Seite 14 von 14
Sind A|B unabhänig? Gilt P(A|B) = P(A) · P (B)?
P(A) =
1
1
P(B) =
6
6
P(A|B) = P ({m, n}) =
1
1
=
36
36
1
36
⇒ unabhängig
1
([0, 1] B, λ)A = 0,
2
1
B=
,1
2
3
C = 1, 4,
4
1
2
1
P(B) =
2
1
P(C) =
2
P(A) =
• Sind A und B unabhängig?
1
P(A) · P(B) = , P(A ∩ B) = P
4
1
=0
2
⇒ nicht unabhängig
• Sind A und C unabhängig?
1
1
P(A) · P(C) = , P(A ∩ C) =
4
4
⇒ A und C sind unabhängig
Wahrscheinlichkeitsrechnung und stochastische Prozesse
Aljoscha Steininger