Wahrscheinlichkeitstheorie und Statistik Definitionen und Sätze Prof. Dr. Christoph Karg Studiengang Informatik Hochschule Aalen Wintersemester 2017/2018 4.10.2017 Diskrete Wahrscheinlichkeitsräume Diskreter Wahrscheinlichkeitsraum Definition 1.1 Sei Ω eine endliche oder abzählbar unendliche Menge. Sei Pr : Ω 7→ R eine Abbildung. (Ω, Pr) ist ein diskreter Wahrscheinlichkeitsraum, falls folgende Bedingungen erfüllt sind: 1. Für alle ω ∈ Ω gilt: 0 ≤ Pr [ω] ≤ 1. ∑ 2. ω∈Ω Pr [ω] = 1. Prof. Dr. C. Karg (HS Aalen) Wahrscheinlichkeitstheorie und Statistik Definitionen und Sätze 2 / 71 Diskrete Wahrscheinlichkeitsräume Ereignis Definition 1.2. Sei (Ω, Pr) ein Wahrscheinlichkeitsraum. Eine Menge A ⊆ Ω heißt Ereignis. Die Wahrscheinlichkeit Pr [A] des Ereignisses A ist definiert als ∑ Pr [A] = Pr [ω] . ω∈A Prof. Dr. C. Karg (HS Aalen) Wahrscheinlichkeitstheorie und Statistik Definitionen und Sätze 3 / 71 Diskrete Wahrscheinlichkeitsräume Prinzip von Laplace Prinzip von Laplace: Wenn nichts dagegen spricht, kann man davon ausgehen, dass alle Elementarereignisse gleich wahrscheinlich sind. Formal: Für alle ω ∈ Ω gilt: Pr [ω] = 1 . ∥Ω∥ Voraussetzung: ∥Ω∥ < ∞ Prof. Dr. C. Karg (HS Aalen) Wahrscheinlichkeitstheorie und Statistik Definitionen und Sätze 4 / 71 Rechenregeln Additionssatz Satz 2.1 (Additionssatz) Für zwei disjunkte Ereignisse A und B gilt: Pr [A ∪ B] = Pr [A] + Pr [B] . Allgemein: Sind die Ereignisse A1 , . . . , An paarweise disjunkt, dann gilt: [ n ] n ∪ ∑ Pr Ai = Pr [Ai ] . i=1 i=1 Für eine unendliche Menge von disjunkten Ereignissen A1 , A2 , . . . gilt: [∞ ] ∞ ∪ ∑ Pr Ai = Pr [Ai ] . i=1 Prof. Dr. C. Karg (HS Aalen) i=1 Wahrscheinlichkeitstheorie und Statistik Definitionen und Sätze 5 / 71 Rechenregeln Elementare Rechenregeln Satz 2.2 Für zwei beliebige Ereignisse A und B gilt: 1. Pr [∅] = 0, Pr [Ω] = 1. 2. 0 ≤ Pr [A] ≤ 1. [ ] 3. Pr A = 1 − Pr [A]. 4. Wenn A ⊆ B, dann Pr [A] ≤ Pr [B]. Prof. Dr. C. Karg (HS Aalen) Wahrscheinlichkeitstheorie und Statistik Definitionen und Sätze 6 / 71 Rechenregeln Siebformel Satz 2.3 (Siebformel) Für zwei Ereignisse A und B gilt: Pr [A ∪ B] = Pr [A] + Pr [B] − Pr [A ∩ B] . Für drei Ereignisse A1 , A2 und A3 gilt: Pr [A1 ∪ A2 ∪ A3 ] = Pr [A1 ] + Pr [A2 ] + Pr [A3 ] −Pr [A1 ∩ A2 ] − Pr [A1 ∩ A3 ] −Pr [A2 ∩ A3 ] + Pr [A1 ∩ A2 ∩ A3 ] Allgemein: Für n ≥ 2 Ereignisse A1 , . . . , An gilt: Pr [A1 ∪ . . . ∪ An ] [ ] ∑ ∩ ∥S∥+1 = (−1) Pr Ai S⊆{1,...,n} Prof. Dr. C. Karg (HS Aalen) i∈S Wahrscheinlichkeitstheorie und Statistik Definitionen und Sätze 7 / 71 Bedingte Wahrscheinlichkeiten Bedingte Wahrscheinlichkeiten Definition 3.1 Gegeben sind die Ereignisse A und B, wobei Pr [B] > 0. Die bedingte Wahrscheinlichkeit Pr [A|B] von A gegeben B ist definiert durch Pr [A ∩ B] Pr [A|B] = . Pr [B] Prof. Dr. C. Karg (HS Aalen) Wahrscheinlichkeitstheorie und Statistik Definitionen und Sätze 8 / 71 Bedingte Wahrscheinlichkeiten Multiplikationssatz Satz 3.5 (Multiplikationssatz) Gegeben sind die Ereignisse A1 , . . . , An . Angenommen, Pr [A1 ∩ . . . ∩ An ] > 0. Dann gilt: Pr [A1 ∩ . . . ∩ An ] = Pr [A1 ] · Pr [A2 |A1 ] · Pr [A3 |A1 ∩ A2 ] · . . . · Pr [An |A1 ∩ . . . ∩ An−1 ] . Prof. Dr. C. Karg (HS Aalen) Wahrscheinlichkeitstheorie und Statistik Definitionen und Sätze 9 / 71 Bedingte Wahrscheinlichkeiten Beispiel: Geburtstagsproblem 3 exp(-x) 1-x 2.5 y 2 1.5 1 0.5 0 -1 -0.5 0 0.5 1 x Approximation von 1 − x durch e−x Prof. Dr. C. Karg (HS Aalen) Wahrscheinlichkeitstheorie und Statistik Definitionen und Sätze 10 / 71 Bedingte Wahrscheinlichkeiten Beispiel: Geburtstagsproblem (Forts.) Prof. Dr. C. Karg (HS Aalen) Wahrscheinlichkeitstheorie und Statistik Definitionen und Sätze 11 / 71 Bedingte Wahrscheinlichkeiten Satz der totalen Wahrscheinlichkeit Satz 3.7 (Satz der totalen Wahrscheinlichkeit) Angenommen die ∪n Ereignisse A1 , . . . , An bilden eine Partition von Ω, d.h. i=1 Ai = Ω und für alle i ̸= j gilt Ai ∩ Aj = ∅. Dann gilt für jedes Ereignis B ⊆ Ω: Pr [B] = n ∑ Pr [B|Ai ] · Pr [Ai ] . i=1 Prof. Dr. C. Karg (HS Aalen) Wahrscheinlichkeitstheorie und Statistik Definitionen und Sätze 12 / 71 Bedingte Wahrscheinlichkeiten Satz von Bayes Satz 3.9 (Satz von Bayes) Gegeben sind die paarweise disjunkten Ereignisse A1 , . . . , An . Falls B ⊆ A1 ∪ . . . ∪ An mit Pr [B] > 0, dann ist für ein beliebiges i ∈ {1, . . . , n} Pr [B|Ai ] Pr [Ai ] Pr [B] Pr [B|Ai ] · Pr [Ai ] = ∑n . j=1 Pr [B|Aj ] Pr [Aj ] Pr [Ai |B] = Prof. Dr. C. Karg (HS Aalen) Wahrscheinlichkeitstheorie und Statistik Definitionen und Sätze 13 / 71 Bedingte Wahrscheinlichkeiten Satz von Bayes (Forts.) Satz 3.9 (Satz von Bayes) Für eine unendliche Folge von paarweise ∪ A disjunkten Ereignissen A1 , A2 , . . . mit B ⊆ ∞ i=1 i gilt analog, dass Pr [B|Ai ] Pr [Ai ] Pr [B] Pr [B|Ai ] · Pr [Ai ] = ∑∞ . j=1 Pr [B|Aj ] Pr [Aj ] Pr [Ai |B] = Prof. Dr. C. Karg (HS Aalen) Wahrscheinlichkeitstheorie und Statistik Definitionen und Sätze 14 / 71 Unabhängige Ereignisse Unabhängige Ereignisse Definition 4.1 (Unabhängigheit) Die Ereignisse A und B sind unabhängig, falls Pr [A ∩ B] = Pr [A] Pr [B] gilt. Konsequenz: Für zwei unabhängige Ereignisse A und B gilt: Pr [A|B] = Pr [A] . Prof. Dr. C. Karg (HS Aalen) Wahrscheinlichkeitstheorie und Statistik Definitionen und Sätze 15 / 71 Unabhängige Ereignisse Unabhängige Ereignisse (Forts.) Definition 4.3 (Unabhängigkeit) Die Ereignisse A1 , . . . , An sind unabhängig, wenn für alle Teilmengen S ⊆ {1, . . . , n} gilt, dass [ ] ∩ ∏ Pr Ai = Pr [Ai ] . i∈S Prof. Dr. C. Karg (HS Aalen) i∈S Wahrscheinlichkeitstheorie und Statistik Definitionen und Sätze 16 / 71 Unabhängige Ereignisse Eine nützliche Eigenschaft Notation: A0 = Ai und A1 = A. Satz 4.4 Seien A1 , . . . , An beliebige Ereignisse. Sei k ∈ {1, . . . , n} und sei {i1 , . . . , ik } ⊆ {1, . . . , n} eine beliebige Auswahl von Indizes. Angenommen, für alle (b1 , . . . , bn ) ∈ {0, 1}n gilt: [ ] [ ] [ ] Pr Ab11 ∩ . . . ∩ Abnn = Pr Ab11 · . . . · Pr Abnn . Dann gilt für alle (bi1 , . . . , bik ) ∈ {0, 1}k , dass ] [ b ] [ b ] [ b bi i i i Pr Ai1 1 ∩ . . . ∩ Aik k = Pr Ai1 1 · . . . · Pr Aii k . Prof. Dr. C. Karg (HS Aalen) Wahrscheinlichkeitstheorie und Statistik Definitionen und Sätze 17 / 71 Unabhängige Ereignisse Nachweis der Unabhängigkeit von Ereignissen Satz 4.5 Die Ereignisse A1 , . . . , An sind genau dann unabhängig, wenn für alle (b1 , . . . , bn ) ∈ {0, 1}n gilt, dass ] [ ] [ ] [ Pr Ab11 ∩ . . . ∩ Abnn = Pr Ab11 · . . . · Pr Abnn , wobei A0i = Ai und A1i = Ai . Prof. Dr. C. Karg (HS Aalen) Wahrscheinlichkeitstheorie und Statistik Definitionen und Sätze 18 / 71 Unabhängige Ereignisse Kombination von unabhängigen Ereignissen Satz 4.6 Sind A, B und C unabhängige Ereignisse, dann sind auch A ∩ B und C bzw. A ∪ B und C unabhängige Ereignisse. Prof. Dr. C. Karg (HS Aalen) Wahrscheinlichkeitstheorie und Statistik Definitionen und Sätze 19 / 71 Zufallsvariablen Zufallsvariable Definition 5.1 (Zufallsvariable) Gegeben ist ein Wahrscheinlichkeitsraum mit Ereignisraum Ω. Eine Abbildung X : Ω 7→ R heißt �Zufallsvariable (über Ω). Eine Zufallsvariable X über einer endlichen und abzählbar unendlichen Ergebnismenge Ω heißt �diskret. Prof. Dr. C. Karg (HS Aalen) Wahrscheinlichkeitstheorie und Statistik Definitionen und Sätze 20 / 71 Zufallsvariablen Bedingte Zufallsvariable Definition 5.2 (Bedingte Zufallsvariable) Sei X eine Zufallsvariable und A ein Ereignis mit Pr [A] > 0. Die �bedingte Zufallsvariable X|A besitzt die �Dichte [ ] Pr X−1 (x) ∩ A fX|A (x) = Pr [X = x|A] = . Pr [A] Prof. Dr. C. Karg (HS Aalen) Wahrscheinlichkeitstheorie und Statistik Definitionen und Sätze 21 / 71 Zufallsvariablen Dichte und Verteilung einer Zufallsvariablen Definition 5.3 (Dichte und Verteilung) Sei X eine diskrete Zufallsvariable über dem Wahrscheinlichkeitsraum Ω. Die Dichtefunktion (kurz: Dichte) von X ist die Funktion fX : R 7→ [0; 1] mit ∑ fX (x) = Pr [X = x] = Pr [ω] . ω∈X−1 (x) Die Verteilungsfunktion (kurz: Verteilung) von X ist die Funktion FX : R 7→ [0; 1] mit ∑ FX (x) = Pr [X ≤ x] = Pr [X = x ′ ] . x ′ ≤x Prof. Dr. C. Karg (HS Aalen) Wahrscheinlichkeitstheorie und Statistik Definitionen und Sätze 22 / 71 Zufallsvariablen Beispiel: Summe zweier Würfel Dichte der Augensumme zweier Würfel Prof. Dr. C. Karg (HS Aalen) Wahrscheinlichkeitstheorie und Statistik Definitionen und Sätze 23 / 71 Zufallsvariablen Beispiel: Summe zweier Würfel (Forts.) Verteilung der Augensumme zweier Würfel Prof. Dr. C. Karg (HS Aalen) Wahrscheinlichkeitstheorie und Statistik Definitionen und Sätze 24 / 71 Zufallsvariablen Kombination Zufallsvariable und Funktion Satz 5.5 Sei X eine Zufallsvariable über dem Wahrscheinlichkeitsraum Ω und sei f : R 7→ R eine beliebige Abbildung. Dann ist f(X) eine Zufallsvariable über Ω. Prof. Dr. C. Karg (HS Aalen) Wahrscheinlichkeitstheorie und Statistik Definitionen und Sätze 25 / 71 Erwartungswert Erwartungswert Definition 6.1 (Erwartungswert) Der Erwartungswert Exp [X] einer diskreten Zufallsvariablen X ist definiert als ∑ Exp [X] = x · Pr [X = x] x∈WX = ∑ x · fX (x) x∈WX vorausgesetzt die obige Summe konvergiert. Prof. Dr. C. Karg (HS Aalen) Wahrscheinlichkeitstheorie und Statistik Definitionen und Sätze 26 / 71 Erwartungswert Berechnung von Erwartungswerten Satz 6.4 Sei X eine diskrete Zufallsvariable. Sei A1 , . . . , An eine Partition des Ereignisraums Ω. Angenommen, es gilt Pr [Ai ] > 0 für alle i ∈ {1, . . . , n}. Dann ist: Exp [X] = n ∑ Exp [X|Ai ] · Pr [Ai ] . i=1 Prof. Dr. C. Karg (HS Aalen) Wahrscheinlichkeitstheorie und Statistik Definitionen und Sätze 27 / 71 Erwartungswert Berechnung von Erwartungswerten (Forts.) Satz 6.4 (Variante 2) Sei X eine diskrete Zufallsvariable. Sei A1 , A2 , A3 , . . . eine Partition des Ereignisraums Ω. Angenommen, es gilt Pr [Ai ] > 0 für alle i ∈ {1, 2, 3, . . .}, die Erwartungswerte Exp [X|Ai ] existieren und die Summe ∑ ∞ i=1 Exp [X|Ai ] · Pr [Ai ] konvergiert. Dann ist: Exp [X] = ∞ ∑ Exp [X|Ai ] · Pr [Ai ] . i=1 Prof. Dr. C. Karg (HS Aalen) Wahrscheinlichkeitstheorie und Statistik Definitionen und Sätze 28 / 71 Erwartungswert Berechnung von Erwartungswerten (Forts.) Satz 6.6 Sei X eine Zufallsvariable, deren Erwartungswert existiert. Dann gilt: Exp [X] = ∑ X(ω) · Pr [ω] . ω∈Ω Prof. Dr. C. Karg (HS Aalen) Wahrscheinlichkeitstheorie und Statistik Definitionen und Sätze 29 / 71 Erwartungswert Monotonie des Erwartungswerts Satz 6.7 (Monotonie des Erwartungswerts) Seien X und Y Zufallsvariablen über dem Wahrscheinlichkeitsraum Ω. Falls für alle ω ∈ Ω die Ungleichung X(ω) ≤ Y(ω) gilt, dann gilt Exp [X] ≤ Exp [Y]. Prof. Dr. C. Karg (HS Aalen) Wahrscheinlichkeitstheorie und Statistik Definitionen und Sätze 30 / 71 Erwartungswert Linearität des Erwartungswerts Satz 6.8 (Linearität des Erwartungswerts) Sei X eine Zufallsvariable und seien a, b ∈ R beliebige Zahlen. Dann gilt: Exp [a · X + b] = a · Exp [X] + b. Prof. Dr. C. Karg (HS Aalen) Wahrscheinlichkeitstheorie und Statistik Definitionen und Sätze 31 / 71 Erwartungswert Nochmals Berechnung von Erwartungswerten Satz 6.9 Sei X eine Zufallsvariable mit WX ⊆ N0 . Dann gilt: Exp [X] = ∞ ∑ Pr [X ≥ i] . i=0 Prof. Dr. C. Karg (HS Aalen) Wahrscheinlichkeitstheorie und Statistik Definitionen und Sätze 32 / 71 Erwartungswert Linearität des Erwartungswerts Satz 6.10 (Linearität des Erwartungswerts) Seien X1 , . . . , Xn Zufallsvariablen und a1 , . . . , an ∈ R beliebige Zahlen. Für die Zufallsvariable X = a1 X1 + . . . + an Xn gilt: Exp [X] = a1 · Exp [X1 ] + . . . an · Exp [Xn ] . Prof. Dr. C. Karg (HS Aalen) Wahrscheinlichkeitstheorie und Statistik Definitionen und Sätze 33 / 71 Erwartungswert Multipikativität des Erwartungswerts Satz 6.12 (Multiplikativität des Erwartungswerts) Für unabhängige Zufallsvariablen X1 , . . . , Xn gilt Exp [X1 · . . . · Xn ] = Exp [X1 ] · . . . · Exp [Xn ] . Prof. Dr. C. Karg (HS Aalen) Wahrscheinlichkeitstheorie und Statistik Definitionen und Sätze 34 / 71 Varianz und Standardabweichung Varianz und Standardabweichung Definition 7.2 (Varianz) Sei X eine Zufallsvariable mit dem Erwartungswert µ = Exp [X]. Die Varianz Var [X] von X ist definiert als [ ] Var [X] = Exp (X − µ)2 ∑ = (x − µ)2 · Pr [X = x] . x∈WX Definition 7.3 (Standardabweichung) Die Standardabweichung (Streuung) von X ist definiert als √ σX = Var [X]. Prof. Dr. C. Karg (HS Aalen) Wahrscheinlichkeitstheorie und Statistik Definitionen und Sätze 35 / 71 Varianz und Standardabweichung Berechnung der Varianz Satz 7.5 Für eine beliebige Zufallsvariable X gilt [ ] Var [X] = Exp X2 − Exp [X]2 . Prof. Dr. C. Karg (HS Aalen) Wahrscheinlichkeitstheorie und Statistik Definitionen und Sätze 36 / 71 Varianz und Standardabweichung Varianz einer linearen Funktion Satz 7.7 Für eine beliebige Zufallsvariable X und a, b ∈ R gilt Var [a · X + b] = a2 · Var [X] . Prof. Dr. C. Karg (HS Aalen) Wahrscheinlichkeitstheorie und Statistik Definitionen und Sätze 37 / 71 Varianz und Standardabweichung Varianz unabhängiger Zufallsvariablen Satz 7.8 Seien X1 , . . . , Xn unabhängige Zufallsvariablen. Sei X = X1 + . . . + Xn . Dann gilt: Var [X] = Var [X1 ] + . . . + Var [Xn ] . Prof. Dr. C. Karg (HS Aalen) Wahrscheinlichkeitstheorie und Statistik Definitionen und Sätze 38 / 71 Diskrete Verteilungen Binomialverteilung Binomialverteilung Eine Zufallsvariable X mit WX = {0, 1, 2, . . . , n} ist binomialverteilt mit den Parametern n und p, symbolisch X ∼ Bin(n, p), falls ( ) n k p (1 − p)n−k Pr [X = k] = k für alle k = 0, 1, 2, . . . , n. Es gilt: • Exp [X] = n · p • Var [X] = n · p · (1 − p) Prof. Dr. C. Karg (HS Aalen) Wahrscheinlichkeitstheorie und Statistik Definitionen und Sätze 39 / 71 Diskrete Verteilungen Binomialverteilung Binomialverteilung (Forts.) Prof. Dr. C. Karg (HS Aalen) Wahrscheinlichkeitstheorie und Statistik Definitionen und Sätze 40 / 71 Diskrete Verteilungen Binomialverteilung Binomialverteilung (Forts.) Satz 9.1 Wenn X ∼ Bin(nX , p) und Y ∼ Bin(nY , p), dann gilt für Z = X + Y, dass Z ∼ Bin(nX + nY , p). Prof. Dr. C. Karg (HS Aalen) Wahrscheinlichkeitstheorie und Statistik Definitionen und Sätze 41 / 71 Diskrete Verteilungen Geometrische Verteilung Geometrische Verteilung Eine Zufallsvariable X mit WX = N ist geometrisch verteilt mit dem Parameter p, symbolisch X ∼ Geo(p), falls Pr [X = k] = (1 − p)k−1 · p für alle k ∈ N. Es gilt: • Exp [X] = • Var [X] = 1 p 1−p p2 Prof. Dr. C. Karg (HS Aalen) Wahrscheinlichkeitstheorie und Statistik Definitionen und Sätze 42 / 71 Diskrete Verteilungen Geometrische Verteilung Geometrische Verteilung (Forts.) Prof. Dr. C. Karg (HS Aalen) Wahrscheinlichkeitstheorie und Statistik Definitionen und Sätze 43 / 71 Diskrete Verteilungen Geometrische Verteilung Geometrische Verteilung (Forts.) Satz 9.2 (Gedächtnislosigkeit) Falls X ∼ Geo(p), dann gilt Pr [X > y + x | X > x] = Pr [X > y] . Prof. Dr. C. Karg (HS Aalen) Wahrscheinlichkeitstheorie und Statistik Definitionen und Sätze 44 / 71 Diskrete Verteilungen Poisson Verteilung Poisson Verteilung Eine Zufallsvariable X mit WX = N0 ist Poisson verteilt mit dem Parameter λ, symbolisch X ∼ Poi(λ), falls e−λ λk Pr [X = k] = k! für alle k ∈ N0 . Es gilt: • Exp [X] = λ • Var [X] = λ Prof. Dr. C. Karg (HS Aalen) Wahrscheinlichkeitstheorie und Statistik Definitionen und Sätze 45 / 71 Diskrete Verteilungen Poisson Verteilung Poisson Verteilung (Forts.) Prof. Dr. C. Karg (HS Aalen) Wahrscheinlichkeitstheorie und Statistik Definitionen und Sätze 46 / 71 Diskrete Verteilungen Poisson Verteilung Poisson Verteilung (Forts.) �Gesetz der seltenen Ereignisse: Für alle λ ∈ N gilt: ( ) ( )k ( )n−k n λ λ λk lim 1− = e−λ n→∞ k n n k! Prof. Dr. C. Karg (HS Aalen) Wahrscheinlichkeitstheorie und Statistik Definitionen und Sätze 47 / 71 Diskrete Verteilungen Poisson Verteilung Poisson Verteilung (Forts.) Satz 9.5 Summe von Poisson Verteilungen Seien X1 , . . . , Xn unabhängige Zufallsvariablen, wobei Xi ∼ Poi(λi ) für alle i = 1, . . . , n. Sei X = X1 + . . . + Xn . Dann gilt: X ∼ Poi(λ1 + . . . + λn ). Prof. Dr. C. Karg (HS Aalen) Wahrscheinlichkeitstheorie und Statistik Definitionen und Sätze 48 / 71 Diskrete Verteilungen Hypergeometrische Verteilung Hypergeometrische Verteilung Seien N, M, n näturliche Zahlen mit der Eigenschaft M ≤ N und n ≤ N. Die Zufallsvariable X ist �hypergeometrisch verteilt mit den Parametern N, M und n (symbolisch: X ∼ Hyp(N, M, n)), falls (M)(N−M) Pr [X = k] = k (Nn−k ) n für alle k ∈ {0, 1, . . . , n}. Es gilt: • Exp [X] = • Var [X] = n·M N n·M N Prof. Dr. C. Karg (HS Aalen) ( 1− M N ) N−n N−1 Wahrscheinlichkeitstheorie und Statistik Definitionen und Sätze 49 / 71 Diskrete Verteilungen Hypergeometrische Verteilung Hypergeometrische Verteilung (Forts.) Prof. Dr. C. Karg (HS Aalen) Wahrscheinlichkeitstheorie und Statistik Definitionen und Sätze 50 / 71 Abschätzen von Wahrscheinlichkeiten Markov Ungleichung Markov Ungleichung Satz 10.1 (Markov Ungleichung) Sei X eine Zufallsvariable, die nur nicht-negative Werte annimmt. Dann gilt für alle t ∈ R mit t > 0, dass Pr [X ≥ t] ≤ Äquivalent: Prof. Dr. C. Karg (HS Aalen) Exp [X] . t 1 Pr [X ≥ t · Exp [X]] ≤ . t Wahrscheinlichkeitstheorie und Statistik Definitionen und Sätze 51 / 71 Abschätzen von Wahrscheinlichkeiten Ungleichung von Chebyshev Ungleichung von Chebyshev Satz 10.2 (Ungleichung von Chebyshev) Sei X eine Zufallsvariable und t ∈ R mit t > 0. Dann gilt Pr [|X − Exp [X] | ≥ t] ≤ Prof. Dr. C. Karg (HS Aalen) Var [X] . t2 Wahrscheinlichkeitstheorie und Statistik Definitionen und Sätze 52 / 71 Stetige Zufallsvariablen Einführendes Beispiel Beispiel Glücksrad 1 5 2 8 10 4 ϕ 7 3 12 9 6 Prof. Dr. C. Karg (HS Aalen) 11 Wahrscheinlichkeitstheorie und Statistik Definitionen und Sätze 53 / 71 Stetige Zufallsvariablen Definition Stetige Zufallsvariable Definition 11.2 (Stetige Zufallsvariable) Eine stetige Zufallsvariable X ist definiert durch eine integrierbare Dichtefunktion fX : R 7→ R+ 0 mit der Eigenschaft ∫∞ fX (x) dx = 1. −∞ Die zu fX gehörende Verteilungsfunktion FX ist definiert als ∫x FX (x) = Pr [X ≤ x] = fX (t) dt −∞ Prof. Dr. C. Karg (HS Aalen) Wahrscheinlichkeitstheorie und Statistik Definitionen und Sätze 54 / 71 Stetige Zufallsvariablen Definition Ereignis Definition 11.3 (Ereignis) Sei X eine stetige Zufallsvariable. ∪ Eine Menge A ⊆ R, die durch Vereinigung A = k Ik abzählbar vieler paarweise disjunkter Intervalle beliebiger Art (offen, halboffen, geschlossen, einseitig unendlich) gebildet werden kann, heißt Ereignis. Das Ereignis A tritt ein, wenn X einen Wert aus A annimmt. Die Wahrscheinlichkeit von A ist definiert als ∫ ∑∫ fX (x) dx. Pr [A] = fX (x) dx = A Prof. Dr. C. Karg (HS Aalen) k Ik Wahrscheinlichkeitstheorie und Statistik Definitionen und Sätze 55 / 71 Stetige Zufallsvariablen Erwartungswert und Varianz Erwartungswert und Varianz Definition 11.7 (Erwartungswert und Varianz) Sei X eine stetige Zufallsvariable. Der Erwartungswert von X ist ∫∞ Exp [X] = t · fX (t) dt, −∞ falls das Integral ∫∞ −∞ |t| · fX (t) dt endlich ist. Die Varianz von X ist [ ] Var [X] = Exp (X − Exp [X])2 ∫∞ = (t − Exp [X])2 fX (t) dt, −∞ [ ] wenn Exp (X − Exp [X])2 existiert. Prof. Dr. C. Karg (HS Aalen) Wahrscheinlichkeitstheorie und Statistik Definitionen und Sätze 56 / 71 Stetige Zufallsvariablen Erwartungswert und Varianz Formel zur Berechnung des Erwartungswerts Satz 11.8 Sei X eine stetige Zufallsvariable und sei g : R 7→ R eine Abbildung. Für die Zufallsvariable Y = g(X) gilt: ∫∞ Exp [Y] = g(t) · fX (t) dt. −∞ Prof. Dr. C. Karg (HS Aalen) Wahrscheinlichkeitstheorie und Statistik Definitionen und Sätze 57 / 71 Stetige Verteilungen Gleichverteilung Gleichverteilung Die stetige Zufallsvariable X ist gleichverteilt über dem Intervall [a, b], wobei a < b, falls sie die Dichte { 1 x ∈ [a; b], fX (x) = b−a 0 sonst. besitzt. Die entsprechende Verteilung ist: x < a, 0 x−a FX (x) = b−a a ≤ x ≤ b, 1 x > b. Es gilt: • Exp [X] = • Var [X] = a+b 2 (a−b)2 12 Prof. Dr. C. Karg (HS Aalen) Wahrscheinlichkeitstheorie und Statistik Definitionen und Sätze 58 / 71 Stetige Verteilungen Normalverteilung Normalverteilung Eine stetige Zufallsvariable X ist normalverteilt mit den Parametern µ ∈ R und σ ∈ R, symbolisch X ∼ N (µ, σ2 ), falls sie die Dichte ( ) 1 (x − µ)2 fX (x) = √ · exp − 2σ2 2πσ2 besitzt. Hierbei ist exp(x) = ex . Anstatt fX (x) schreibt man auch φ(x ; µ, σ). N (0, 1) nennt man die Standardnormalverteilung. Prof. Dr. C. Karg (HS Aalen) Wahrscheinlichkeitstheorie und Statistik Definitionen und Sätze 59 / 71 Stetige Verteilungen Normalverteilung Normalverteilung (Forts.) Die Verteilungsfunktion von X ∼ N (µ, σ2 ) ist ( ) ∫x 1 (t − µ)2 Φ(x; µ, σ) = √ exp − dt 2σ2 2πσ2 −∞ Diese Funktion nennt man Gauß’sche Phi-Funktion. Falls µ = 0 und σ = 1, dann schreibt man kurz Φ(x). Es gilt: • Exp [X] = µ • Var [X] = σ2 Prof. Dr. C. Karg (HS Aalen) Wahrscheinlichkeitstheorie und Statistik Definitionen und Sätze 60 / 71 Stetige Verteilungen Normalverteilung Normalverteilung (Forts.) Prof. Dr. C. Karg (HS Aalen) Wahrscheinlichkeitstheorie und Statistik Definitionen und Sätze 61 / 71 Stetige Verteilungen Normalverteilung Transformation einer Normalverteilung Satz 12.2 Sei X eine normalverteilte Zufallsvariable mit X ∼ N (µ, σ2 ). Dann gilt für beliebige a ∈ R − {0} und b ∈ R, dass Y = aX + b normalverteilt ist mit Y ∼ N (aµ + b, a2 σ2 ). Prof. Dr. C. Karg (HS Aalen) Wahrscheinlichkeitstheorie und Statistik Definitionen und Sätze 62 / 71 Stetige Verteilungen Normalverteilung Additivität der Normalverteilung Satz 12.5 (Additivität der Normalverteilung) Die Zufallsvariablen X1 , . . . , Xn seien unabhängig und normalverteilt mit den Parametern µi und σi für i = 1, . . . , n. Dann ist die Zufallsvariable Z = a1 X1 + . . . + an Xn normalverteilt mit Erwartungswert µ = a1 µ1 + . . . + an µn und Varianz σ2 = a1 σ21 + . . . + an σ2n . Prof. Dr. C. Karg (HS Aalen) Wahrscheinlichkeitstheorie und Statistik Definitionen und Sätze 63 / 71 Stetige Verteilungen Exponentialverteilung Exponentialverteilung Eine Zufallsvariable X ist exponentialverteilt mit Parameter λ ∈ R, symbolisch X ∼ EX P(λ), falls sie die Dichte { λ · e−λx x ≥ 0, fX (x) = 0 sonst besitzt. Die Verteilungsfunktion einer exponentialverteilten Zufallsvariable X ist für x ≥ 0 ∫x −λx FX (x) = αe−λt dt = 1 − e . 0 Für x < 0 ist FX (x) = 0. Prof. Dr. C. Karg (HS Aalen) Wahrscheinlichkeitstheorie und Statistik Definitionen und Sätze 64 / 71 Stetige Verteilungen Exponentialverteilung Exponentialverteilung (Forts.) Angenommen, X ∼ Exp(λ). Dann gilt: • Exp [X] = • Var [X] = 1 λ 1 λ2 Prof. Dr. C. Karg (HS Aalen) Wahrscheinlichkeitstheorie und Statistik Definitionen und Sätze 65 / 71 Stetige Verteilungen Exponentialverteilung Exponentialverteilung (Forts.) Prof. Dr. C. Karg (HS Aalen) Wahrscheinlichkeitstheorie und Statistik Definitionen und Sätze 66 / 71 Stetige Verteilungen Exponentialverteilung Multiplikation mit einer Konstanten Satz 12.7 Sei X eine exponentialverteilte Zufallsvariable mit Parameter λ. Für jedes a > 0 ist die Zufallsvariable Y = aX exponentialverteilt mit Parameter λa . Prof. Dr. C. Karg (HS Aalen) Wahrscheinlichkeitstheorie und Statistik Definitionen und Sätze 67 / 71 Stetige Verteilungen Exponentialverteilung Gedächtnislosigkeit Satz 12.8 (Gedächtnislosigkeit) Eine stetige Zufallsvariable X mit Wertebereich R+ ist genau dann exponentialverteilt, wenn für alle x, y > 0 gilt: Pr [X > x + y | X > y] = Pr [X > x] . Prof. Dr. C. Karg (HS Aalen) Wahrscheinlichkeitstheorie und Statistik Definitionen und Sätze 68 / 71 Stetige Verteilungen Exponentialverteilung Minimum exponentialverteilter Zufallsvariablen Satz 12.9 Gegeben sind die paarweise unabhängigen Zufallsvariablen X1 , . . . , Xn . Angenommen, Xi ist exponentialverteilt mit Parameter λi für i = 1, . . . , n. Dann ist die Zufallsvariable X = min{X1 , . . . , Xn } exponentialverteilt mit dem Parameter λ1 + . . . + λn . Prof. Dr. C. Karg (HS Aalen) Wahrscheinlichkeitstheorie und Statistik Definitionen und Sätze 69 / 71 Grenzwertsätze Der Zentrale Grenzwertsatz Der Zentrale Grenzwertsatz Satz 13.1 (Zentraler Grenzwertsatz) Angenommen, die Zufallsvariablen X1 , . . . , Xn besitzen jeweils dieselbe Verteilung und seien unabhängig. Erwartungswert und Varianz von Xi existieren für i = 1, . . . , n und seien mit µ bzw. σ2 bezeichnet, wobei σ2 > 0 gelten soll. Betrachte die Zufallsvariablen Yn = X1 + . . . + Xn für n ≥ 1. Es gilt: Die Folge der Zufallsvariablen Yn − nµ Zn = √ σ2 n konvergiert gegen die Standardnormalverteilung. Formal: Für alle x ∈ R gilt: lim Pr [Zn ≤ x] = Φ(x). n→∞ Prof. Dr. C. Karg (HS Aalen) Wahrscheinlichkeitstheorie und Statistik Definitionen und Sätze 70 / 71 Grenzwertsätze Grenzwertsatz von DeMoivre Grenzwertsatz von DeMoivre Satz 13.3 (Grenzwertsatz von DeMoivre) Die Zufallsvariablen X1 , . . . , Xn seien Bernoulli-verteilt mit gleicher Erfolgswahrscheinlichkeit p. Dann gilt für die Zufallsvariable Hn = X1 + . . . + Xn , dass die Verteilung der Zufallsvariablen Hn − np Zn = √ np(1 − p) für n → ∞ gegen die Standardnormalverteilung konvergiert. Prof. Dr. C. Karg (HS Aalen) Wahrscheinlichkeitstheorie und Statistik Definitionen und Sätze 71 / 71