Wichtige Begriffe und Sätze aus der Wahrscheinlichkeitsrechnung

Wichtige Begriffe und Sätze
aus der Wahrscheinlichkeitsrechnung
Version: 15. Jänner 2017
Evelina Erlacher
Inhaltsverzeichnis
1 Mengen
2
2 Wahrscheinlichkeiten
3
3 Zufallsvariablen
3.1 Diskrete Zufallsvariablen . . . . . . . . . . . . . . . . . . . . . . . . . . . .
3.2 Stetige Zufallsvariablen . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
5
6
7
4 Erwartungswert
8
5 Varianz
10
6 Höhere Momente
10
7 Bivariate Wahrscheinlichkeitsrechnung
7.1 Diskrete Zufallsvariablen . . . . . . . .
7.2 Stetige Zufallsvariablen . . . . . . . . .
7.3 Unabhängige Zufallsvariablen . . . . .
7.4 Erwartungswert . . . . . . . . . . . . .
7.5 Kovarianz und Korrelationskoeffizient .
12
12
13
13
14
14
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
8 Wichtige Verteilungen
16
8.1 Diskrete Verteilungen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 16
8.2 Stetige Verteilungen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 18
8.3 Tabellen zur Standardnormalverteilung . . . . . . . . . . . . . . . . . . . . 19
Evelina Erlacher
1
WS 2016
Wichtige Begriffe und Sätze aus der Wahrscheinlichkeitsrechnung
1
Mengen
Es sei Ω eine Menge (die Universalmenge“) und A, B seien Teilmengen von Ω. Dann
”
schreiben wir:
• ∅ := {} . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . leere Menge
• x ∈ A . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . x ist ein Element von A
• x∈
/ A . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . x ist kein Element von A
• |A| := Anzahl der Elemente in A . . . . . . . . . . . . . . . . . . . . . . . . . . . . Kardinalität von A
• A ⊆ B :⇔ (x ∈ A ⇒ x ∈ B) . . . . . . . . . . . . . . . . . . . . . . A ist eine Teilmenge von B
• B ⊇ A (:⇔ A ⊆ B) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . B ist eine Obermenge von A
• A ( B :⇔ (A ⊆ B ∧ A 6= B) . . . . . . . . . . . . . . . A ist eine echte Teilmenge von B
• B ) A (:⇔ A ( B) . . . . . . . . . . . . . . . . . . . . . . . . . B ist eine echte Obermenge von A
• P(A) := Menge aller Teilmengen von A . . . . . . . . . . . . . . . . . . . . Potenzmenge von A
• [a, b] := {x ∈ R | a ≤ x ≤ b} . . . . . . . . . . . . . . . . . abgeschlossenes Intervall von a bis b
• (a, b) := {x ∈ R | a < x < b} . . . . . . . . . . . . . . . . . . . . . . . . . offenes Intervall von a bis b
• (a, ∞) := {x ∈ R | a < x} und [a, ∞) := {x ∈ R | a ≤ x}
• (−∞, b) := {x ∈ R | x < b} und (−∞, b] := {x ∈ R | x ≤ b}
Mengenoperatoren (1): Es seien A, B Teilmengen von Ω. Dann definieren wir:
• A ∪ B := {x ∈ Ω | x ∈ A ∨ x ∈ B} . . . . . . . . . . . . . . . . . . . Vereinigung von A und B
• A ∩ B := {x ∈ Ω | x ∈ A ∧ x ∈ B} . . . . . . . . . . . . . . . . . . Durchschnitt von A und B
• A\B := {x ∈ Ω | x ∈ A ∧ x ∈
/ B} . . . . . . . . . . Differenz von A und B, A ohne B“
”
c
• A := {x ∈ Ω | x ∈
/ A} = Ω\A . . . . . . . . . . . . . . . . . . . . . . Komplement von A (in Ω)
Mengenoperatoren (2): Es sei I eine Indexmenge. Für i ∈ I sei Ai eine Teilmenge von
Ω. Dann schreiben wir:
S
• ki=1 Ai := A1 ∪ A2 ∪ . . . ∪ Ak = {x ∈ Ω | ∃i : x ∈ Ai }
T
• ki=1 Ai := A1 ∩ A2 ∩ . . . ∩ Ak = {x ∈ Ω | ∀i : x ∈ Ai }
S
• i∈I Ai := {x ∈ Ω | ∃i ∈ I : x ∈ Ai }
T
• i∈I Ai := {x ∈ Ω | ∀i ∈ I : x ∈ Ai }.
Evelina Erlacher
2
WS 2016
Wichtige Begriffe und Sätze aus der Wahrscheinlichkeitsrechnung
Es gelten (unter anderen) die folgenen Gesetze:
• A ∪ B = B ∪ A, A ∩ B = B ∩ A . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Kommutativgesetz
• (A ∪ B) ∪ C = A ∪ (B ∪ C), (A ∩ B) ∩ C = A ∩ (B ∩ C) . . . . . . . Assoziativgesetz
• A ∩ (B ∪ C) = (A ∩ B) ∪ (A ∩ C),
A ∪ (B ∩ C) = (A ∪ B) ∩ (A ∪ C) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Distributivgesetz
c S
c
T
S
T
c
• i∈I Aci =
. . . . . . . . . . . . . . . Gesetz von de Morgan
i∈I Ai ,
i∈I Ai =
i∈I Ai
Weiters gilt:
• A∩B ⊆ A ⊆ A∪B
• A\B = A ∩ B c
• A ⊆ B ⇒ |A| ≤ |B|
• A, B endlich, A ∩ B = ∅
⇒
|A ∪ B| = |A| + |B|
• |P(A)| = 2|A|
Definition (disjunkt):
• Zwei Mengen A und B heißen disjunkt, wenn A ∩ B = ∅ gilt.
• Eine Mengenfamilie (Ai )i∈I heißt paarweise disjunkt, wenn Ai ∩ Aj = ∅ für i 6= j
gilt.
Definition (Partition): Eine S
Mengenfamilie (Ai )i∈I heißt Partition von Ω, wenn sie
paarweise disjunkt ist und Ω = i∈I Ai gilt.
2
Wahrscheinlichkeiten
Es sei Ω eine Menge und der Ereignisraum (=Ergebnisraum) eines Zufallsexperiments.
Ereignisse sind (gewisse) Teilmengen von Ω. Ereignisse der Form {ω} (mit ω ∈ Ω) heißen
Elementarereignisse.
Definition (Wahrscheinlichkeit): Es sei A ein Ereignis. Eine Funktion P : A 7→ P (A)
mit den Eigenschaften
(P1) P (A) ∈ [0, 1]
(P2) P (Ω) = 1
S
P∞
(P3) A1 , A2 , A3 . . . paarweise disjunkt ⇒ P ( ∞
i=1 Ai ) =
i=1 P (Ai )
Evelina Erlacher
3
WS 2016
Wichtige Begriffe und Sätze aus der Wahrscheinlichkeitsrechnung
heißt Wahrscheinlichkeit auf Ω. Die Eigenschaften (P1), (P2) und (P3) werden auch als
die Axiome von Kolmogorov bezeichnet.
Aus dieser Definition leiten sich weitere Eigenschaften von P ab:
(P-i) P (∅) = 0
(P-ii) Spezialfall von (P3): A ∩ B = ∅ ⇒ P (A ∪ B) = P (A) + P (B)
(P-iii) Gegenwahrscheinlichkeit: P (Ac ) = 1 − P (A)
(P-iv) Siebformel: P (A ∪ B) = P (A) + P (B) − P (A ∩ B)
(P-v) Monotonie: A ⊆ B ⇒ P (A) ≤ P (B)
(P-vi) A ⊆ B ⇒ P (B\A) = P (B) − P (A)
(P-vii) P (B\A) = P (B) − P (A ∩ B)
Laplace’sche Wahrscheinlichkeit: Sind alle Elementarereignisse gleich wahrscheinlich,
so kann die Wahrscheinlichkeit eines beliebigen Ereignisses A nach der Formel
P (A) =
|A|
|Ω|
berechnet werden.
Definition (bedingte Wahrscheinlichkeit): Es seien A und B Ereignisse mit P (B) >
0. Dann heißt die durch
P (A ∩ B)
P (A|B) :=
P (B)
definierte Zahl P (A|B) die bedingte Wahrscheinlichkeit von A unter der Bedingung B.
Mit dieser Definition gelten die folgenden Sätze:
Satz von Bayes: Es seien A und B Ereignisse mit positiver Wahrscheinlichkeit. Dann
gilt
P (B|A)(P (A)
P (A|B) =
.
P (B)
Satz (Produktformel): Es seien A1 , . . . , An Ereignisse. Dann gilt
P (A1 ∩ . . . ∩ An ) = P (A1 )P (A2 |A1 )P (A3 |A1 ∩ A2 ) · . . . · P (An |A1 ∩ . . . ∩ An−1 ).
Satz von S
der totalen Wahrscheinlichkeit: Es sei {B1 , . . . , Bn } eine Partition von Ω
(d.h.: Ω = ni=1 Bi und Bi ∩ Bj = ∅ für i 6= j). Dann gilt für ein beliebiges Ereignis A:
P (A) = P (A|B1 )P (B1 ) + . . . + P (A|Bn )P (Bn ).
Evelina Erlacher
4
WS 2016
Wichtige Begriffe und Sätze aus der Wahrscheinlichkeitsrechnung
Weiters gilt: P (Ac |B) = 1 − P (A|B).
Definition (unabhängige Ereignisse):
• Zwei Ereignisse A und B heißen unabhängig, wenn
P (A ∩ B) = P (A)P (B)
gilt. Andernfalls heißen A und B abhängig.
• Die Ereignisse A1 , . . . , An heißen unabhängig, wenn für jede Auswahl von mindestens
zwei Ereignissen Ai1 , . . . , Aik (mit verschiedenen Indizes)
P (Ai1 ∩ . . . ∩ Aik ) = P (Ai1 ) · . . . · P (Aik )
gilt. Andernfalls heißen A1 , . . . , An abhängig.
3
Zufallsvariablen
Definition (Zufallsvariable): Eine (reelle) Zufallsvariable X auf Ω ist eine Funktion
der Form X : Ω → R.
Die Menge der Werte, die X auch annimmt, bezeichnen wir mit X(Ω). Also:
X(Ω) := {x ∈ R | ∃ω ∈ Ω mit X(ω) = x}.
X(Ω) heißt das Bild von X.
Schreibweisen: Es seien X, Y : Ω → R Zufallvariablen, x ∈ R und A ⊆ R.
• {X = x} = {ω ∈ Ω : X(ω) = x}
{X ≤ x} = {ω ∈ Ω : X(ω) ≤ x}
{X ∈ A} = {ω ∈ Ω : X(ω) ∈ A}
• P (X = x) = P ({ω ∈ Ω : X(ω) = x})
P (X ≤ x) = P ({ω ∈ Ω : X(ω) ≤ x})
P (X ∈ A) = P ({ω ∈ Ω : X(ω) ∈ A})
• Wir schreiben X ≤ Y , falls X(ω) ≤ Y (ω) für alle ω ∈ Ω gilt.
Definition (Verteilungsfunktion): Die Verteilungsfunktion FX einer Zufallsvariablen
X ist durch
FX : R → [0, 1], FX (x) := P (X ≤ x)
gegeben.
Evelina Erlacher
5
WS 2016
Wichtige Begriffe und Sätze aus der Wahrscheinlichkeitsrechnung
Es gilt (Charakterisierung der Verteilungsfunktion): Eine Funktion F : R → [0, 1]
ist genau dann eine Verteilungsfunktion einer Zufallsvariablen, wenn sie folgende drei
Eigenschaften besitzt:
(1) F ist monoton wachsend.
(2) F ist rechtsseitig stetig, d.h. F (a+ ) = F (a), wobei F (a+ ) := limx&a F (x).
(3) limx→−∞ F (x) = 0,
limx→∞ F (x) = 1
Weitere Eigenschaften von Verteilungsfunktionen:
• P (X < a) = FX (a− ), wobei FX (a− ) := limx%a FX (x)
• P (X = a) = FX (a) − FX (a− ), wobei FX (a− ) := limx%a FX (x)
• P (a < X ≤ b) = FX (b) − FX (a)
3.1
Diskrete Zufallsvariablen
Definition (diskrete Zufallsvariable): Es sei X : Ω → R eine Zufallsvariable. Ist die
Menge X(Ω) endlich oder abzählbar, so heißt die Zufallsvariable X diskret.
Spezialfall: Wenn Ω eine endliche oder abzählbare Menge ist, dann kann X auch nur
endlich oder abzählbar viele verschiedene Werte annehmen, d.h. X(Ω) ist endlich oder
abzählbar und X ist diskret.
Definition (Wahrscheinlichkeitsfunktion): Die Wahrscheinlichkeitsfunktion pX einer diskreten Zufallsvariablen X : Ω → R ist jene Funktion, die jedem x ∈ X(Ω) die
Wahrscheinlichkeit, dass X diesen Wert annimmt, zuordnet. Also:
pX : X(Ω) → [0, 1],
pX (x) := P (X = x).
Eigenschaften der Wahrscheinlichkeitsfunktion: Es sei X : Ω → R eine diskrete
Zufallsvariable. Dann gilt:
P
• pX (x) = P (X = x) =
P ({ω}).
ω∈Ω: X(ω)=x
• Es sei g : X(Ω) → R eine Funktion. Wir definieren
Y : Ω → R,
Y (ω) := (g ◦ X)(ω) = g(X(ω)).
Dann ist Y selbst wieder eine diskrete Zufallsvariable, und es gilt
X
X
pY (y) = P (Y = y) =
P ({ω}) =
P (X = x)
ω∈Ω: Y (ω)=y
x∈X(Ω): g(x)=y
X
pX (x)
x∈X(Ω): g(x)=y
für y ∈ Y (Ω) = g(X(Ω)).
Evelina Erlacher
6
WS 2016
Wichtige Begriffe und Sätze aus der Wahrscheinlichkeitsrechnung
Zusammenhang von Verteilungs- und Wahrscheinlichkeitsfunktion: Die Verteilungsfunktion FX einer diskreten Zufallsvariable X (mit X(Ω) = {x1 , x2 , x3 , . . . (, xn )})
ist eine Treppenfunktion. Sie ist durch
X
X
FX (x) = P (X ≤ x) =
P (X = xi ) =
pX (xi )
xi ≤x
xi ≤x
gegeben. Die Sprunghöhe an der Stelle x entspricht der Wahrscheinlichkeit pX (xi ).
3.2
Stetige Zufallsvariablen
Definition (stetige Zufallsvariable): Es sei X : Ω → R eine Zufallsvariable und FX
die zugehörige Verteilungsfunktion. Ist die Verteilungsfunktion FX stetig, dann heißt die
Zufallsvariable X stetig.
Ist X stetig, so ist Ω meist ein Intervall des Raums R (oder ein kartesisches Produkt von
Intervallen im Raum Rn ).
Ist die Verteilungsfunktion FX einer Zufallsvariablen X stetig, dann gilt F (a) = F (a− )
und somit
P (X = a) = FX (a) − FX (a− ) = 0.
Das heißt unter anderem, dass für eine stetige Zufallsvariable
P (X ≤ a) = P (X < a) + P (X = a) = P (X < a)
gilt. Analog gilt P (X ≥ a) = P (X > a).
Definition (Dichte): Eine Funktion fX : R → [0, ∞) heißt Dichte der Zufallsvariablen
X, wenn
Z b
P (a < X ≤ b) =
fX (x) dx
a
für beliebige a, b ∈ R mit a < b gilt.
Es gilt (Charakterisierung der Dichte): Eine Funktion f : R → R ist genau dann
eine Dichte einer Zufallsvariablen, wenn sie folgende zwei Eigenschaften besitzt:
(1) f (x) ≥ 0 für alle x ∈ R.
R∞
(2) −∞ f (x) dx = 1.
Weitere Eigenschaften von Dichtefunktionen:
Ra
• P (X = a) = a fX (x) dx = 0.
(Nicht neu, aber konsistent mit unseren bisherigen Überlegungen.)
• Der Wert fX (x) ist nicht die Wahrscheinlichkeit dafür, dass X den Wert x annimmt!
Evelina Erlacher
7
WS 2016
Wichtige Begriffe und Sätze aus der Wahrscheinlichkeitsrechnung
Zusammenhang von Verteilungsfunktion und Dichte: Es gilt
Z x
FX (x) = P (X ≤ x) =
fX (t) dt.
−∞
Aus dem Hauptsatz der Differential- und Integralrechnung folgt daher, dass die Dichte
fX die (stückweise) Ableitung der Verteilungsfunktion FX ist, d.h.
FX0 (x) = fX (x).
Variablentransformation: Es sei X : Ω → R eine stetige Zufallsvariable mit Dichte fX
und Verteilungsfunktion FX . Weiters sei g : X(Ω) → R eine (stückweise) differenzierbare
Funktion. Wir definieren
Y : Ω → R,
Y (ω) := (g ◦ X)(ω) = g(X(ω)).
Dann ist Y selbst wieder eine stetige Zufallsvariable mit der Wertemenge Y (Ω) = g(X(Ω)).
Für die Dichte fY und die Verteilungsfunktion FY von Y gilt folgendes:
• Ist g streng monoton steigend und g 0 (x) 6= 0 auf X(Ω), dann existiert die Umkehrfunktion g −1 : Y (Ω) → X(Ω) und es gilt für y ∈ Y (Ω):
fY (y) = fX (g −1 (y)) ·
d
dy
g −1 (y)
und
FY (y) = FX (g −1 (y)).
• Ist g streng monoton fallend und g 0 (x) 6= 0 auf X(Ω), dann existiert die Umkehrfunktion g −1 : Y (Ω) → X(Ω) und es gilt für y ∈ Y (Ω):
fY (y) = −fX (g −1 (y)) ·
d
dy
g −1 (y)
und
FY (y) = 1 − FX (g −1 (y)).
Definition (Quantil): Es sei X eine stetige Zufallsvariable mit invertierbarer Verteilungsfunktion F . Weiters sei γ ∈ (0, 1) eine Wahrscheinlichkeit. Das γ-Quantil der Zufallsvariablen X ist jene Zahl xγ , für die F (xγ ) = γ gilt.
Bemerkung: Bezeichnet F −1 die Umkehrfunktion von F , so gilt xγ = F −1 (γ).
4
Erwartungswert
Definition (Erwartungswert):
• Es sei X : Ω → R eine diskrete Zufallsvariable. Die durch
X
E(X) :=
x · P (X = x)
x∈X(Ω)
gegebene Zahl E(X) (falls sie existiert) heißt Erwartungswert der Zufallsvariablen
X. Wir schreiben oft auch µ für E(X).
Evelina Erlacher
8
WS 2016
Wichtige Begriffe und Sätze aus der Wahrscheinlichkeitsrechnung
• Es sei X : Ω → R eine stetige Zufallsvariable mit Dichte fX . Die durch
Z
∞
x · fX (x) dx
E(X) :=
−∞
gegebene Zahl E(X) (falls sie existiert) heißt Erwartungswert der Zufallsvariablen
X. Wir schreiben oft auch µ für E(X).
Eigenschaften des Erwartungswerts: Für X, Y Zufallsvariablen und a, b ∈ R gilt:
)
(E1) E(X + Y ) = E(X) + E(Y )
E ist linear“
”
(E2) E(aX) = aE(X)
(E3) E(a) = a
(E4) X ≤ Y ⇒ E(X) ≤ E(Y )
E ist monoton“
”
Weitere Eigenschaften des Erwartungswerts für diskrete Zufallsvariablen:
Es sei X : Ω → R eine diskrete Zufallsvariable. Dann gilt:
• E(X) =
P
x · P (X = x) =
P
X(ω) · P ({ω}).
ω∈Ω
x∈X(Ω)
• Es sei g : R → R eine Funktion. Wir definieren
Y : Ω → R,
Y (ω) := (g ◦ X)(ω) = g(X(ω)).
Dann ist Y selbst wieder eine diskrete Zufallsvariable, und es gilt
E(Y ) = E(g(X)) =
X
y · P (Y = y) =
y∈Y (Ω)
=
X
X
g(x) · P (X = x)
x∈X(Ω)
g(X(ω)) · P ({ω}) =
ω∈Ω
X
Y (ω) · P ({ω}).
ω∈Ω
Weitere Eigenschaften des Erwartungswerts für stetige Zufallsvariablen:
Es sei X : Ω → R eine stetige Zufallsvariable mit Dichte fX . Weiters sei g : R → R eine
(integrierbare) Funktion. Dann gilt
Z
∞
g(x) · fX (x) dx.
E(g(X)) =
−∞
Evelina Erlacher
9
WS 2016
Wichtige Begriffe und Sätze aus der Wahrscheinlichkeitsrechnung
5
Varianz
Definition (Varianz, Standardabweichung): Es sei X : Ω → R eine Zufallsvariable
mit Erwartungswert E(X).
• Die durch
V (X) := E (X − E(X))2
gegebene Zahl V (X) (falls sie existiert) heißt Varianz der Zufallsvariablen X. Wir
schreiben oft auch σ 2 oder Var(X) für V (X).
• Die Zahl
σ :=
p
V (X)
heißt Standardabweichung oder Streuung der Zufallsvariablen X.
Konkreter: Es sei X : Ω → R eine Zufallsvariable mit Erwartungswert E(X).
• Ist X diskret, dann gilt
X
X
V (X) =
(x − E(X))2 · P (X = x) =
(X(ω) − E(X))2 · P ({ω}).
ω∈Ω
x∈X(Ω)
• Ist X stetig mit Dichte fX , dann gilt
Z ∞
V (X) =
(x − E(X))2 · fX (x) dx.
−∞
Eigenschaften der Varianz: Für X eine Zufallsvariable und a, b ∈ R gilt:
(V1) V (aX + b) = a2 V (X)
(V2) V (X) = E(X 2 ) − E(X)2
6
Verschiebungssatz“
”
Höhere Momente
Definition (kk -tes Moment): Es sei X eine Zufallsvariable und k ∈ N.
• Die Zahl
mk (X) := E X k
(falls sie existiert) heißt k-tes Moment von X.
• Die Zahl
zk (X) := E (X − E(X))k
(falls sie existiert) heißt k-tes zentriertes (oder zentrales) Moment von X.
Evelina Erlacher
10
WS 2016
Wichtige Begriffe und Sätze aus der Wahrscheinlichkeitsrechnung
Es gilt:
• Das erste (nicht zentrierte) Moment von X ist der Erwartungswert E(X).
• Das zweite zentrierte Moment von X ist die Varianz V (X).
Definition (Schiefe): Die Zahl

ν(X) := E 
X − E(X)
p
V (X)
!3 

(falls sie existiert) heißt Schiefe von X. Wir sagen, die Verteilung von X ist
• symmetrisch, falls ν(X) = 0,
• linksschief, falls ν(X) < 0,
• rechtsschief, falls ν(X) > 0.
Es gilt: Es sei µ = E(X) und σ 2 = V (X). Dann
ν(X) = E
X −µ
σ
3 !
E((X − µ)3 )
z3 (X)
z3 (X)
=
=
,
=
3
σ3
σ3
z2 (X) 2
d.h. die Schiefe ist das dritte zentrierte Moment z3 (X) normiert auf die dritte Potenz der
Standardabweichung σ.
Definition (Wölbung): Die Zahl

w(X) := E 
X − E(X)
p
V (X)
!4 

(falls sie existiert) heißt Wölbung oder Kurtosis von X.
Es gilt: Es sei µ = E(X) und σ 2 = V (X). Dann
w(X) = E
X −µ
σ
4 !
=
E((X − µ)4 )
z4 (X)
z4 (X)
=
=
,
σ4
z2 (X)2
σ4
d.h. die Wölbung ist das vierte zentrierte Moment z4 (X) normiert auf die vierte Potenz
der Standardabweichung σ.
Evelina Erlacher
11
WS 2016
Wichtige Begriffe und Sätze aus der Wahrscheinlichkeitsrechnung
7
Bivariate Wahrscheinlichkeitsrechnung
Es seien X : Ω → X(Ω) ⊆ R und Y : Ω → Y (Ω) ⊆ R zwei Zufallsvariablen.
Definition (gemeinsame Verteilungsfunktion): Die gemeinsame Verteilungsfunktion
FX,Y von X und Y ist durch
FX,Y : R × R → [0, 1],
FX,Y (x, y) = P (X ≤ x, Y ≤ y)
gegeben.
Es gilt:
• FX,Y (x1 < X ≤ x2 , y1 < Y ≤ y2 )
= FX,Y (x2 , y2 ) − FX,Y (x1 , y2 ) − FX,Y (x2 , y1 ) + FX,Y (x1 , y1 )
• Die Verteilungsfunktionen FX und FY von X bzw. Y , die sogenannten Randverteilungsfunktionen oder marginalen Verteilungsfunktionen, erhält man durch
FX (x) = lim FX,Y (x, y)
bzw.
y→∞
7.1
FY (y) = lim FX,Y (x, y).
x→∞
Diskrete Zufallsvariablen
X und Y seien diskrete Zufallsvariablen.
Definition (gemeinsame Wahrscheinlichkeitsfunktion): Die gemeinsame Wahrscheinlichkeitsfunktion pX,Y von X und Y ist durch
pX,Y : X(Ω) × Y (Ω) → [0, 1],
pX,Y (x, y) = P (X = x, Y = y)
gegeben.
Es gilt:
• Zusammenhang mit der gemeinsamen Verteilungsfunktion:
pX,Y (x, y) = FX,Y (x, y) − FX,Y (x− , y) − FX,Y (x, y − ) + FX,Y (x− , y − )
und
FX,Y (x, y) =
X X
pX,Y (xi , yi )
xi ≤x yi ≤y
• Die Wahrscheinlichkeitsfunktionen pX und pY von X bzw. Y , die sogenannten
Randwahrscheinlichkeitsfunktionen oder marginalen Wahrscheinlichkeitsfunktionen,
erhält man durch
X
X
pX (x) =
pX,Y (x, y)
bzw.
pY (y) =
pX,Y (x, y).
y∈Y (Ω)
Evelina Erlacher
x∈X(Ω)
12
WS 2016
Wichtige Begriffe und Sätze aus der Wahrscheinlichkeitsrechnung
7.2
Stetige Zufallsvariablen
X und Y seien stetige Zufallsvariablen.
Definition (gemeinsame Dichte): Eine Funktion fX,Y : R2 → [0, ∞) heißt gemeinsame
Dichte der Zufallsvariablen X und Y , wenn
Z y2 Z x2
fX,Y (x, y) dx dy
P (x1 < X ≤ x2 , y1 < Y ≤ y2 ) =
y1
x1
für beliebige x1 , x2 , y1 , y2 ∈ R mit x1 < x2 , y1 < y2 gilt.
Es gilt:
• Zusammenhang mit der gemeinsamen Verteilungsfunktion:
Z b Z a
∂2
fX,Y (x, y) =
fX,Y (x, y) dx dy
FX,Y (x, y)
und
F (a, b) =
∂x ∂y
−∞ −∞
• Die Dichten fX und fY von X bzw. Y , die sogenannten Randdichten oder marginalen
Dichten, erhält man durch
Z ∞
Z ∞
fX,Y (x, y) dx.
fX,Y (x, y) dy
bzw.
fY (y) =
fX (x) =
−∞
−∞
7.3
Unabhängige Zufallsvariablen
Definition (unabhängige Zufallsvariablen): Zwei Zufallsvariabeln X und Y heißen
unabhängig, falls für alle Mengen A, B ⊆ R gilt:
P (X ∈ A, Y ∈ B) = P (X ∈ A) P (Y ∈ B).
Diese Definition ist äquivalent zu der Eigenschaft
Für alle a, b ∈ R gilt:
P (X ≤ a, Y ≤ b) = P (X ≤ a ) P (Y ≤ b).
Bemerkung: Das Produkt P (X ≤ a, Y ≤ b) = P (X ≤ a )P (Y ≤ b) kann auch als
FX,Y (x, y) = FX (x) FY (y) geschrieben werden.
Es gilt:
• Es seien X und Y diskrete Zufallsvariablen mit gemeinsamer Wahrscheinlichkeitsfunktion pX,Y und Randwahrscheinlichkeitsfunktionen pX bzw. pY . Dann:
X und Y sind genau dann unabhängig, wenn
pX,Y (x, y) = pX (x) pY (y)
gilt.
Evelina Erlacher
13
WS 2016
Wichtige Begriffe und Sätze aus der Wahrscheinlichkeitsrechnung
• Es seien X und Y stetige Zufallsvariablen mit der gemeinsamen Dichte fX,Y und
den Randdichten fX und fY . Dann:
X und Y sind genau dann unabhängig, wenn
fX,Y (x, y) = fX (x) fY (y)
gilt.
7.4
Erwartungswert
Es sei g : R2 → R eine Funktion.
• Es seien X und Y diskrete Zufallsvariablen mit gemeinsamer Wahrscheinlichkeitsfunktion pX,Y . Dann gilt:
E(g(X, Y )) =
X
X
g(x, y) pX,Y (x, y).
x∈X(Ω) y∈Y (Ω)
• Es seien X und Y stetige Zufallsvariablen mit der gemeinsamen Dichte fX,Y . Dann
gilt:
Z ∞Z ∞
E(g(X, Y )) =
g(x, y) fX,Y (x, y) dx dy.
−∞
7.5
−∞
Kovarianz und Korrelationskoeffizient
Die Kovarianz ist ein nichtstandardisiertes Zusammenhangsmaß für einen monotonen Zusammenhang zweier Zufallsvariablen mit gemeinsamer Wahrscheinlichkeitsverteilung. Der
Wert dieser Kenngröße macht tendenzielle Aussagen darüber, ob hohe Werte der einen
Zufallsvariablen eher mit hohen (positive Kovarianz) oder eher mit niedrigen (negative
Kovarianz) Werten der anderen Zufallsvariablen einhergehen.
Definition (Kovarianz): Die durch
Cov(X, Y ) = E (X − E(X))(Y − E(Y ))
gegebene Zahl Cov(X, Y ) (falls sie existiert) heißt Kovarianz der Zufallsvariablen X und
Y . Wir schreiben oft auch σXY für Cov(X, Y ).
Eigenschaften der Kovarianz: Für X, Y, Xi , Yi Zufallsvariablen und a, b ∈ R gilt:
(C1) Cov(X, X) = V (X)
(C2) Die Kovarianz ist symmetrisch: Cov(X, Y ) = Cov(Y, X)
(C3) Die Kovarianz ist bilinear :
Evelina Erlacher
14
WS 2016
Wichtige Begriffe und Sätze aus der Wahrscheinlichkeitsrechnung
• Cov(X1 + X2 , Y ) = Cov(X1 , Y ) + Cov(X2 , Y )
Cov(X, Y1 + Y2 ) = Cov(X, Y1 ) + Cov(X, Y2 )
• Cov(aX, Y ) = a Cov(X, Y )
Cov(X, bY ) = b Cov(X, Y )
(C4) Cov(X + a, Y + b) = Cov(X, Y )
(C5) Verschiebungssatz: Cov(X, Y ) = E(XY ) − E(X)E(Y )
Die Bilinearität der Kovarianz hat zur Folge, dass die Kovarianz vom Maßstab der Zufallsvariablen abhängt. So erhält man beispielsweise die zehnfache Kovarianz, wenn man
anstatt X die Zufallsvariable 10X betrachtet. Insbesondere hängt der Wert der Kovarianz von den verwendeten Maßeinheiten der Zufallsvariablen ab. Da diese Eigenschaft
die absoluten Werte der Kovarianz schwer interpretierbar macht, betrachtet man bei der
Untersuchung auf einen linearen Zusammenhang zwischen X und Y häufig stattdessen
den maßstabsunabhängigen Korrelationskoeffizienten:
Definition (Korrelationskoeffizient): Die durch
σXY
Cov(X, Y )
p
=
ρ(X, Y ) = p
σX σY
V (X) V (Y )
gegebene Zahl ρ(X, Y ) (falls sie existiert) heißt Korrelationskoeffizient der Zufallsvariablen X und Y .
Eigenschaften des Korrelationskoeffizienten:
(K1) −1 ≤ ρ(X, Y ) ≤ 1
(K2) ρ(X, Y ) und Cov(X, Y ) haben dasselbe Vorzeichen. Insbesondere gilt:
⇔
ρ(X, Y ) = 0
Cov(X, Y ) = 0
Definition: Die Zufallsvariablen X und Y heißen
• positiv korreliert, falls ρ(X, Y ) > 0,
• negativ korreliert, falls ρ(X, Y ) < 0,
• unkorreliert, falls ρ(X, Y ) = 0.
Zusammenhang von Korrelation und Unabhängigkeit:
X und Y unabhängig
Evelina Erlacher
⇒
:
15
ρ(X, Y ) = Cov(X, Y ) = 0
WS 2016
Wichtige Begriffe und Sätze aus der Wahrscheinlichkeitsrechnung
Varianz von Summen: Für Xi Zufallsvariablen gilt:
V
n
X
n X
n
n
n X
X
X
X
Xi =
Cov(Xi , Xj ) =
V (Xi ) +
Cov(Xi , Xj )
i=1
i=1 j=1
i=1
i=1 j6=i
Spezialfälle:
• V (X + Y ) = V (X) + 2 Cov(X, Y ) + V (Y )
• Sind die Zufallsvariablen Xi unabhängig, so gilt: V
P
n
i=1
8
P
n
Xi =
V (Xi )
i=1
Wichtige Verteilungen
8.1
Diskrete Verteilungen
Diskrete Gleichverteilung
• Von X angenommene Werte: X(Ω) = {x1 , x2 , . . . , xn }, wobei x1 < x2 < . . . < xn
• Wahrscheinlichkeitsfunktion: P (X = xk ) = n1 für k ∈ {1, 2, . . . , n}


0, x < x1
• Verteilungsfunktion: F (x) = nl , xl ≤ x < xl+1 , l ∈ {1, . . . , n − 1}


1, xn ≤ x
P
• Erwartungswert: E(X) = n1 nk=1 xk
P
• Varianz: V (X) = n1 nk=1 (xk − E(X))2
Binomialverteilung
• Parameter n und p, wobei n ∈ N und p ∈ (0, 1).
Schreibweise: X ∼ B(n, p).
• Von X angenommene Werte: X(Ω) = {0, 1, 2, . . . , n}
• Wahrscheinlichkeitsfunktion: P (X = k) = nk · pk · (1 − p)n−k für k ∈ X(Ω)


0,
x<0


k
Pl
n
n−k
, l ≤ x < l + 1,
k=0 k · p · (1 − p)
• Verteilungsfunktion: F (x) =

l ∈ {0, 1, . . . , n − 1}


1,
n≤x
• Erwartungswert: E(X) = np
• Varianz: V (X) = np(1 − p)
Evelina Erlacher
16
WS 2016
Wichtige Begriffe und Sätze aus der Wahrscheinlichkeitsrechnung
Hypergeometrische Verteilung
• Parameter N , M und n, wobei N, M, n ∈ N mit n ≤ M ≤ N .
• Von X angenommene Werte: X(Ω) = {0, 1, 2, . . . , n}
• Wahrscheinlichkeitsfunktion: P (X = k) =
• Verteilungsfunktion: F (x) =

0,



Pl
k=0




1,
−M
(Mk )·(Nn−k
)
N
(n)
für k ∈ X(Ω)
x<0
−M
(Mk )·(Nn−k
)
, l ≤ x < l + 1,
(Nn )
l ∈ {0, 1, . . . , n − 1}
n≤x
• Erwartungswert: E(X) = n M
N
• Varianz: V (X) = n M
(1 −
N
M N −n
)
N N −1
Poissonverteilung
• Parameter λ, wobei λ ∈ (0, ∞).
Schreibweise: X ∼ P(λ).
• Von X angenommene Werte: X(Ω) = N0 = {0, 1, 2, 3, . . .}
k
• Wahrscheinlichkeitsfunktion: P (X = k) = λk! e−λ für k ∈ X(Ω) = N0
(
0,
x<0
• Verteilungsfunktion: F (x) =
Pl λk
−λ
e
k=0 k! , l ≤ x < l + 1, l ∈ N0
• Erwartungswert: E(X) = λ
• Varianz: V (X) = λ
Geometrische Verteilung
• Parameter p, wobei p ∈ (0, 1).
• Von X angenommene Werte: X(Ω) = N = {1, 2, 3, . . .}
• Wahrscheinlichkeitsfunktion: P (X = k) = (1 − p)k−1 · p für k ∈ X(Ω) = N
(
0,
x<1
• Verteilungsfunktion: F (x) =
l
1 − (1 − p) , l ≤ x < l + 1, l ∈ N
• Erwartungswert: E(X) =
• Varianz: V (X) =
Evelina Erlacher
1
p
1−p
p2
17
WS 2016
Wichtige Begriffe und Sätze aus der Wahrscheinlichkeitsrechnung
8.2
Stetige Verteilungen
Stetige Gleichverteilung auf einem Intervall
• Parameter a, b ∈ R, wobei a < b.
(
1
, x ∈ [a, b]
• Dichte: f (x) = b−a
0,
sonst
• Verteilungsfunktion: F (x) =


0,
x−a
,
 b−a

• Erwartungswert: E(X) =
• Varianz: V (X) =
1,
x<a
a≤x<b
b≤x
a+b
2
(b−a)2
12
Exponentialverteilung
• Parameter λ, wobei λ ∈ (0, ∞).
Schreibweise: X ∼ Exp(λ).
(
0,
x<0
• Dichte: f (x) =
−λx
λe , 0 ≤ x
(
0,
x<0
• Verteilungsfunktion: F (x) =
1 − e−λx , 0 ≤ x
• Erwartungswert: E(X) =
• Varianz: V (X) =
1
λ
1
λ2
Standardnormalverteilung (Spezialfall der Normalverteilung)
• Schreibweise: X ∼ N (0, 1).
• Dichte: f (x) =
√1
2π
x2
e− 2
• Verteilungsfunktion: F (x) =
√1
2π
Rx
t2
e− 2 dt =: Φ(x)
−∞
• Erwartungswert: E(X) = 0
• Varianz: V (X) = 1
Evelina Erlacher
18
WS 2016
Wichtige Begriffe und Sätze aus der Wahrscheinlichkeitsrechnung
Normalverteilung
• Parameter µ und σ, wobei µ ∈ R und σ ∈ (0, ∞).
Schreibweise: X ∼ N (µ, σ 2 ).
• Dichte: f (x) =
√1
σ 2π
e−
(x−µ)2
2σ 2
• Verteilungsfunktion: F (x) =
√1
σ 2π
Rx
e−
(t−µ)2
2σ 2
−∞
)
dt = Φ( x−µ
σ
• Erwartungswert: E(X) = µ
• Varianz: V (X) = σ 2
8.3
Tabellen zur Standardnormalverteilung
Quantile der Standardnormalverteilung:
γ
0.01
0.02
0.03
0.04
0.05
0.06
0.07
0.08
0.09
0.10
0.11
0.12
0.13
0.14
0.15
0.16
0.17
0.18
0.19
0.20
0.21
0.22
0.23
0.24
0.25
0.26
0.27
0.28
0.29
0.30
0.31
0.32
0.33
Evelina Erlacher
Φ−1 (γ)
−2.33
−2.05
−1.88
−1.75
−1.64
−1.55
−1.48
−1.41
−1.34
−1.28
−1.23
−1.18
−1.13
−1.08
−1.04
−0.99
−0.95
−0.92
−0.88
−0.84
−0.81
−0.77
−0.74
−0.71
−0.67
−0.64
−0.61
−0.58
−0.55
−0.52
−0.50
−0.47
−0.44
γ
0.34
0.35
0.36
0.37
0.38
0.39
0.40
0.41
0.42
0.43
0.44
0.45
0.46
0.47
0.48
0.49
0.50
0.51
0.52
0.53
0.54
0.55
0.56
0.57
0.58
0.59
0.60
0.61
0.62
0.63
0.64
0.65
0.66
Φ−1 (γ)
−0.41
−0.39
−0.36
−0.33
−0.31
−0.28
−0.25
−0.23
−0.20
−0.18
−0.15
−0.13
−0.10
−0.08
−0.05
−0.03
0.00
0.03
0.05
0.08
0.10
0.13
0.15
0.18
0.20
0.23
0.25
0.28
0.31
0.33
0.36
0.39
0.41
19
γ
0.67
0.68
0.69
0.70
0.71
0.72
0.73
0.74
0.75
0.76
0.77
0.78
0.79
0.80
0.81
0.82
0.83
0.84
0.85
0.86
0.87
0.88
0.89
0.90
0.91
0.92
0.93
0.94
0.95
0.96
0.97
0.975
0.98
0.99
0.995
Φ−1 (γ)
0.44
0.47
0.50
0.52
0.55
0.58
0.61
0.64
0.67
0.71
0.74
0.77
0.81
0.84
0.88
0.92
0.95
0.99
1.04
1.08
1.13
1.18
1.23
1.28
1.34
1.41
1.48
1.55
1.64
1.75
1.88
1.96
2.05
2.33
2.58
WS 2016
Wichtige Begriffe und Sätze aus der Wahrscheinlichkeitsrechnung
Verteilungsfunktion Φ der Standardnormalverteilung:
Evelina Erlacher
0.00
0.01
0.02
0.03
0.04
0.05
0.06
0.07
0.08
0.09
−2.9
−2.8
−2.7
−2.6
−2.5
0.002
0.003
0.003
0.005
0.006
0.002
0.002
0.003
0.005
0.006
0.002
0.002
0.003
0.004
0.006
0.002
0.002
0.003
0.004
0.006
0.002
0.002
0.003
0.004
0.006
0.002
0.002
0.003
0.004
0.005
0.002
0.002
0.003
0.004
0.005
0.001
0.002
0.003
0.004
0.005
0.001
0.002
0.003
0.004
0.005
0.001
0.002
0.003
0.004
0.005
−2.4
−2.3
−2.2
−2.1
−2.0
0.008
0.011
0.014
0.018
0.023
0.008
0.010
0.014
0.017
0.022
0.008
0.010
0.013
0.017
0.022
0.008
0.010
0.013
0.017
0.021
0.007
0.010
0.013
0.016
0.021
0.007
0.009
0.012
0.016
0.020
0.007
0.009
0.012
0.015
0.020
0.007
0.009
0.012
0.015
0.019
0.007
0.009
0.011
0.015
0.019
0.006
0.008
0.011
0.014
0.018
−1.9
−1.8
−1.7
−1.6
−1.5
0.029
0.036
0.045
0.055
0.067
0.028
0.035
0.044
0.054
0.066
0.027
0.034
0.043
0.053
0.064
0.027
0.034
0.042
0.052
0.063
0.026
0.033
0.041
0.051
0.062
0.026
0.032
0.040
0.049
0.061
0.025
0.031
0.039
0.048
0.059
0.024
0.031
0.038
0.047
0.058
0.024
0.030
0.038
0.046
0.057
0.023
0.029
0.037
0.046
0.056
−1.4
−1.3
−1.2
−1.1
−1.0
0.081
0.097
0.115
0.136
0.159
0.079
0.095
0.113
0.133
0.156
0.078
0.093
0.111
0.131
0.154
0.076
0.092
0.109
0.129
0.152
0.075
0.090
0.107
0.127
0.149
0.074
0.089
0.106
0.125
0.147
0.072
0.087
0.104
0.123
0.145
0.071
0.085
0.102
0.121
0.142
0.069
0.084
0.100
0.119
0.140
0.068
0.082
0.099
0.117
0.138
−0.9
−0.8
−0.7
−0.6
−0.5
0.184
0.212
0.242
0.274
0.309
0.181
0.209
0.239
0.271
0.305
0.179
0.206
0.236
0.268
0.302
0.176
0.203
0.233
0.264
0.298
0.174
0.200
0.230
0.261
0.295
0.171
0.198
0.227
0.258
0.291
0.169
0.195
0.224
0.255
0.288
0.166
0.192
0.221
0.251
0.284
0.164
0.189
0.218
0.248
0.281
0.161
0.187
0.215
0.245
0.278
−0.4
−0.3
−0.2
−0.1
−0.0
0.345
0.382
0.421
0.460
0.500
0.341
0.378
0.417
0.456
0.496
0.337
0.374
0.413
0.452
0.492
0.334
0.371
0.409
0.448
0.488
0.330
0.367
0.405
0.444
0.484
0.326
0.363
0.401
0.440
0.480
0.323
0.359
0.397
0.436
0.476
0.319
0.356
0.394
0.433
0.472
0.316
0.352
0.390
0.429
0.468
0.312
0.348
0.386
0.425
0.464
0.0
0.1
0.2
0.3
0.4
0.500
0.540
0.579
0.618
0.655
0.504
0.544
0.583
0.622
0.659
0.508
0.548
0.587
0.626
0.663
0.512
0.552
0.591
0.629
0.666
0.516
0.556
0.595
0.633
0.670
0.520
0.560
0.599
0.637
0.674
0.524
0.564
0.603
0.641
0.677
0.528
0.567
0.606
0.644
0.681
0.532
0.571
0.610
0.648
0.684
0.536
0.575
0.614
0.652
0.688
0.5
0.6
0.7
0.8
0.9
0.691
0.726
0.758
0.788
0.816
0.695
0.729
0.761
0.791
0.819
0.698
0.732
0.764
0.794
0.821
0.702
0.736
0.767
0.797
0.824
0.705
0.739
0.770
0.800
0.826
0.709
0.742
0.773
0.802
0.829
0.712
0.745
0.776
0.805
0.831
0.716
0.749
0.779
0.808
0.834
0.719
0.752
0.782
0.811
0.836
0.722
0.755
0.785
0.813
0.839
1.0
1.1
1.2
1.3
1.4
0.841
0.864
0.885
0.903
0.919
0.844
0.867
0.887
0.905
0.921
0.846
0.869
0.889
0.907
0.922
0.848
0.871
0.891
0.908
0.924
0.851
0.873
0.893
0.910
0.925
0.853
0.875
0.894
0.911
0.926
0.855
0.877
0.896
0.913
0.928
0.858
0.879
0.898
0.915
0.929
0.860
0.881
0.900
0.916
0.931
0.862
0.883
0.901
0.918
0.932
1.5
1.6
1.7
1.8
1.9
0.933
0.945
0.955
0.964
0.971
0.934
0.946
0.956
0.965
0.972
0.936
0.947
0.957
0.966
0.973
0.937
0.948
0.958
0.966
0.973
0.938
0.949
0.959
0.967
0.974
0.939
0.951
0.960
0.968
0.974
0.941
0.952
0.961
0.969
0.975
0.942
0.953
0.962
0.969
0.976
0.943
0.954
0.962
0.970
0.976
0.944
0.954
0.963
0.971
0.977
2.0
2.1
2.2
2.3
2.4
0.977
0.982
0.986
0.989
0.992
0.978
0.983
0.986
0.990
0.992
0.978
0.983
0.987
0.990
0.992
0.979
0.983
0.987
0.990
0.992
0.979
0.984
0.987
0.990
0.993
0.980
0.984
0.988
0.991
0.993
0.980
0.985
0.988
0.991
0.993
0.981
0.985
0.988
0.991
0.993
0.981
0.985
0.989
0.991
0.993
0.982
0.986
0.989
0.992
0.994
2.5
2.6
2.7
2.8
2.9
0.994
0.995
0.997
0.997
0.998
0.994
0.995
0.997
0.998
0.998
0.994
0.996
0.997
0.998
0.998
0.994
0.996
0.997
0.998
0.998
0.994
0.996
0.997
0.998
0.998
0.995
0.996
0.997
0.998
0.998
0.995
0.996
0.997
0.998
0.998
0.995
0.996
0.997
0.998
0.999
0.995
0.996
0.997
0.998
0.999
0.995
0.996
0.997
0.998
0.999
20
WS 2016