Inhalt der Vorlesung Stochastik - Institut für Mathematik, Uni Rostock

Inhalt der Vorlesung Stochastik
0
Einleitung
Unterschied zwischen Versuchen mit zufälligem Ausgang und nicht zufälligem Ausgang.
Eigenschaften der relativen Häufigkeit.
1
Wahrscheinlichkeitsräume
Ω = Menge der Elementarereignisse, Beispiele Würfelaufgaben,
Ereignisse als Teilmengen von Ω
1. Definition: σ−Algebra F,
2. Satz: de Morgansche Regeln,
3. Folgerung: Abzählbare Durchschnitte gehören wieder zu F.
4. Definition: Wahrscheinlichkeitsmaß,
5. Definition: Wahrscheinlichkeitsraum, Kolmogoroffsche Axiome,
6. Satz: Eigenschaften eines Wahrscheinlichkeitsmaßes,
2
Diskrete Wahrscheinlichkeitsräume
1. Hilfssatz: Umordnungssatz,
2. Definition: diskreter Wahrscheinlichkeitsraum,
Wahrscheinlichkeitsfunktion:
q(ω) = P ({ω}).
P
3. Folgerung: P (A) =
q(ω),
ω∈A
4. Satz: Verhalten der Indikatorfunktion bei Mengenoperationen,
5. Satz: Konstruktion eines Wahrscheinlichkeitsmaßes bei gegebener
Wahrscheinlichkeitsfunktion,
6. Definition: klassischer Wahrscheinlichkeitsraum,
7. Folgerung: Berechnung der Wahrscheinlichkeit im klassischen
Wahrscheinlichkeitsraum,
8. Beispiel: n−maliger Münzwurf,
9. Beispiel: n−maliges Würfeln,
10. Beispiel: Urnenmodell ohne Zurücklegen (zwei Farben),
1
11. Beispiel: Urnenmodell mit Zurücklegen (zwei Farben),
12. Beispiel: Urnenmodelle mit und ohne Zurücklegen (mehrere Farben),
13. Anwendung auf die statistische Qualitätskontrolle: Diskussion und Berechnung der
beiden Fehlerwahrscheinlichkeiten.
3
Bedingte Wahrscheinlichkeiten, Unabhängigkeit von Ereignissen
1. Definition: bedingte Wahrscheinlichkeit,
2. Folgerung: P (·|B) ist wieder Wahrscheinlichkeitsmaß,
3. Definition: Unabhängigkeit von zwei Ereignissen,
4. Folgerung: Unabhängigkeit und bedingte Wahrscheinlichkeit,
5. Folgerung: A, B usw. wieder unabhängig,
6. Definition: vollständige Unabhängigkeit von n Ereignissen,
7. Bemerkung: paarweise Unabhängigkeit impliziert nicht vollständige Unabhängigkeit,
8. Beispiel: Urnenmodell mit Zurücklegen: A = ”2. Zug rote Kugel” und B = ”1. Zug
rote Kugel” unabhängig,
9. Beispiel: Urnenmodell ohne Zurücklegen: A = ”2. Zug rote Kugel” und B = ”1. Zug
rote Kugel” nicht unabhängig,
10. Satz: totale Wahrscheinlichkeit,
11. Numerisches Beispiel zu Satz von totaler Wahrscheinlichkeit,
12. Satz: Bayessche Formel,
13. Beispiel: Testen einer seltenen Krankheit,
4
Kopplung diskreter Wahrscheinlichkeitsräume,
Bernoulli-Schema
1. Definition: bedingte Wahrscheinlichkeitsfunktion (Übergangswahrscheinlichkeit),
2. Satz : Konstruktion einer Wahrscheinlichkeitsfunktion und eines Wahrscheinlichkeitsmaßes auf dem Produktraum,
3. Satz: Unabhängigkeit der Experimente formuliert durch die Randwahrscheinlichkeitsfunktionen,
4. Satz: Konstruktion einer Wahrscheinlichkeitsfunktion und eines Wahrscheinlichkeitsmaßes auf dem Produktraum mit n Faktoren, Unabhängigkeit formuliert durch
die Randwahrscheinlichkeitsfunktionen,
2
5. Folgerung: Konstruktion eines Wahrscheinlichkeitsmaßes für n unabhängige Experimente, Beispiel: Wahrscheinlichkeiten in Urnenmodellen ohne Zurücklegen über
bedingte Wahrscheinlichkeiten: allgemeine Pfadregel,
6. Definition: Bernoullischema,
7. Satz: Binomialwahrscheinlichkeiten für k× Erfolg im Bernoullischema,
8. Definition: Binomialverteilung,
9. Satz: Approximation der Einzelwahrscheinlichkeiten der Binomialverteilung durch
die Dichte einer Normalverteilung, o.B.,
10. Satz: Poissonscher Grenzwertsatz,
11. Definition: Poissonverteilung.
5
σ−Algebren und meßbare Funktionen
1. Definition: Vollständiges Urbild,
2. Satz: Relationstreue des vollständigen Urbildes,
3. Verkettung von Urbildabbildungen,
4. Lemma: Durchschnitt von σ-Algebren,
5. Definition und Satz: Erzeugendensystem von σ−Algebren
6. Definition der Messbarkeit,
7. Verkettung von messbaren Abbildungen,
8. Meßbarkeit und Erzeugendensysteme,
9. Definition: Borelmengen der rellen Achse,
10. Satz: Erzeugendensysteme der Borelmengen,
11. Offene und abgeschlossene Mengen sind Borelmengen,
12. Borelmessbarkeit,
13. Kriterium für Borelmessbarkeit,
14. Stetige und monotone Funktionen sind Borelmessbar.
15. Linearkombination und Limes Borelmessbarer Funktionen sind wieder Borelmessbar.
16. Definition: Zerlegung,
17. Definition und Satz: gemeinsame Verfeinerung,
18. Definition: Treppenfunktion,
19. Folgerung: Messbarkeit einer Treppenfunktion,
10. Hilfssatz: Punktweiser Limes messbarer Funktionen ist messbar,
20. Hilfssatz: Approximation messbarer Funktionen durch Treppenfunktionen,
21. Folgerung: Linearkombination und messbarer Funktionen ist messbar,
3
6
Eigenschaften und Konstruktion von Maßen
1. Satz: Eigenschaften eines Wahrscheinlichkeitsmaßes,
2. Maßfortsetzungssatz für Wahrscheinlichkeitsmaße, o.B.,
3. Definition einer Verteilungsfunktion,
4. Folgerung: Eigenschaften einer Verteilungsfunktion,
5. Satz: von Intervallen erzeugte Algebra B1 ,
6. Beispiel: Linksstetigkeit der Verteilungsfunktion und Stetigkeit des WM von unten,
7. Satz: Konstruktion von WM mit Hilfe der Verteilungsfunktion,
8. Allgemeine Definition des Maßes, Rechnen auf der erweiterten Achse,
9. Operationen im Raum der Maße,
10. Beispiel: Gleichverteilung auf einem Intervall,
11. Definition und Satz: Lebesguemaß als Limes von gestreckten Gleichverteilungen,
12. Satz: Konstruktion eines lokalendlichen Maßes auf den Borelmengen des R1 .
7
Das allgemeine Lebesgueintegral
1. Definition: Integral über eine nichtnegative Treppenfunktion,
2. Folgerung: Monotonie und Linearität des Integrals im Raum der nichtnegativen
Treppenfunktionen,
3. Hilfssatz: Konvergenz von Integralen wachsender Folgen,
4. Definition des Integrals für nichtnegative messbare Funktionen,
5. Folgerung: Monotonie und Linearität des Integrals im Raum der nichtnegativen
meßbaren Funktionen,
6. Satz von der monotonen Konvergenz,
7. Gegenbeispiel, falls Monotonie verletzt ist,
8. allgemeine Definition des Integrals,
9. Satz: Monotonie und Linearität des Integrals im Raum der integrierbaren Funktionen,
10. Definition und Satz: Durch Dichten definierte Maße,
11. Kettenregel für Integrale (Integration über Maße, die durch Dichten definiert sind),
12. Definition und Satz: Übertragenes Maß,
13. Maßübertragungssatz,
14. Definition: Produkt-σ-Algebra für zwei messbare Räume,
15. Hilfssatz: Integration über eine Variable liefert messbare Funktion in der anderen
Variablen,
16. Definition: Produktmaß,
4
17. Folgerung: Produktmaß von Produktmengen,
18. Satz von Fubini,
19. Zusammenhang Riemannintegral und Lebesgueintegral,
20 Lebesguemaß in R2 .(Produktmaß),
21. Integration über einen Normalbereich: Iteriertes Integral,
8
Zufallsvariable
1. Definition: Zufallsvariable mit Werten in einem messbaren Raum (X , A), Zufallsvariable (X = R1 ), zufälliger Vektor (X = Rd )
2. Satz: zufälliger Vektor ⇔ Komponenten sind Zufallsvariablen,
3. Beispiel: Zufallsvariable im Bernoullischema,
4. Definition: Verteilung = induziertes Maß, Beispiel: Zufallsvariable im Bernoullischema,
5. Definition: Verteilungsfunktion eines zufälligen Vektors,
6. Folgerung: Verteilungsfunktion bestimmt Verteilung eindeutig,
7. Folgerung: Eigenschaften der Verteilungsfunktion,
8. Satz: Wahrscheinlichkeiten, ausgedrückt durch die Verteilungsfunktion im R1 ,
9. Definition: diskrete Zufallsvariable,
10. Satz: Verteilungsfunktion und Verteilung von diskreten Zufallsvariablen,
Beispiele: Binomialverteilung, Poissonverteilung, Gleichverteilung,
11. Definition: Lebesguedichte von Zufallsvariablen im R1 ,
12. Folgerung: Darstellung von Intervallwahrscheinlichkeiten,
13. Satz: Existiert eine Lebesguedichte, ist die Verteilungsfunktion stetig,
14. Bemerkung: Abänderung der Dichte auf Nullmengen,
15. Bezeichnungskonvention,
16. Kriterium für Existenz einer Lebesguedichte,
17. Satz: Dichte durch Ableitung der Verteilungsfunktion,
18. Beispiel: Gleichverteilung,
19. Beispiel: Exponentialverteilung,
20. Satz: Transformation von Dichten mit monotonen differenzierbaren Funktionen,
21. Folgerung: Lineare Transformation von gleichverteilten Zufallsvariablen,
22. Definition: Quantil und verallgemeinerte Inverse,
23. Eigenschaften der Quantilfunktion,
24. Rückführung auf die Gleichverteilung,
25. Definition Hazardrate (Ausfallrate),
26. Satz: Darstellung der Verteilungsfunktion mit Hilfe der Ausfallrate,
27. Satz: Charakterisierung der Exponentialverteilung durch die Nichtalterungseigenschaft,
5
27. Definition: Weibullverteilung,
9
Numerische Charakteristika von Verteilungen
R
1. Definition: Erwartungswert als EX = XdP ,
2. Hilfssatz über diskrete Maße,
3. Satz: Berechnung von EX mit Hilfe der Verteilungsfunktion, Lebesguedichte bzw.
Einzelwahrscheinlichkeiten.
4. Satz: Linearität und Monotonie des Erwartungswertes,
5. Satz: Erwartungswert von Funktionen von Zufallsvariablen und Vektoren,
6. Beispiel: Erwartungswert einer 0-1 verteilten Zufallsvariablen,
7. Definition: Erzeugende Funktion,
8. Folgerung: Erzeugende Funktion und Erwartungswert,
9. Beispiel: Poissonverteilung, geometrische Verteilung, Gleichverteilung im Intervall,
10. Definition: Caychyverteilung: Nichtexistenz des Erwartungswertes,
11. Definition: Momente und zentrale Momente einer Zufallsvariablen, Varianz,
Bemerkung: Existenz höherer Momente zieht die Existenz niederer Momente nach sich.
12. Beispiel für Varianz: Gleichverteilung,
13 Satz: Rechenregeln für die Varianz,
14. Definition: Normalverteilung im R1 , Diskussion der Gestalt der Dichte, 3σ−Regel,
15. Satz: Erwartungswert, Varianz und lineare Transformation von normalverteilten
Zufallsvariablen,
16. Satz: höhere Momente der Normalverteilung,
17. Definition: Schiefe und Exzess.
10
Zufällige Vektoren, Randverteilungen, Unabhängigkeit, Funktionen von unabhängigen
Zufallsvariablen
,
1.
2.
3.
4.
Definition: Randverteilungen,
Definition: Mehrdimensionaler Dichte,
Folgerung: Randdichten sind Dichten der Randverteilungen,
Definition: Unabhängigkeit von 2 Zufallsvariablen über Produktmaß,
6
5. Satz: Unabhängigkeit von Zufallsvariablen ist äquivalent mit Produktstruktur der
Verteilungsfunktion.
6a+b.Satz: Unabhängigkeit von Zufallsvariablen ist äquivalent mit Produktstruktur der
Dichte, falls sie existiert bzw. Produktstruktur der Wahrscheinlichkeitsfunktion,
7. Satz: Erwartungswert des Produktes von unabhängigen Zufallsvariablen,
8. Satz: Schwarzsche Ungleichung einschließlich Stabilität,
9. Definition: Korrelationskoeffizient,
10. Satz: Eigenschaften der Kovarianz und des Korrelationskoeffizienten, insbesondere
bei Unabhängigkeit. Spezialfall |ρX,Y | = 1,
11. Beispiel: Aus Korrelation Null folgt nicht die Unabhängigkeit,
12. Satz: Vorhersage einer Zufallsvariablen, Regression Typ II,
11
Verteilung von Funktionen unabhängiger Zufallsvariabler
1. Folgerung: Berechnung der Verteilung durch iterierte Integrale,
2. Satz: Minimum und Maximum unabhängiger Zufallsvariabler,
3. Beispiel: Exponentialverteilung,
4. Satz und Definition: Faltung von Verteilungen und Verteilungsfunktionen,
5. Satz: Existenz der Dichte bei Faltung, Faltungsformel für die Dichte der Summe von
unabhängigen Zufallsvariablen,
6. Beispiel: Normalverteilung. Summen unabhängiger Zufallsvariabler,
7. Satz: Faltungsformel für die Wahrscheinlichkeitsfunktion der Summe von unabhängigen ganzzahligen Zufallsvariablen,
8. Beispiel: Poissonverteilung,
9. Mehrdimensionale Lebesguedichte, Transformationsformel bei linearen Transformationen,
10. Definition: Kovarianzmatrix,
11. Satz. Kovarianzmatrix bei linearen Transformationen,
12. Definition: Normalverteilung im Rd über Lebesguedichte eingeführt,
13. Folgerung: Invarianz der Klasse der Normalverteilungen bei linearen Transformationen,
12
Charakteristische Funktionen, Laplacetransformierte, erzeugende Funktionen
7
1. Definition: charakteristische Funktion, Laplacetransformierte für nichtnegative ZV ,
für nichtnegative und ganzzahlige ZV erzeugende Funktion,
2. Satz: Verhalten der obigen Größen bei Summen unabhängiger ZV,
3. Satz: Eindeutigkeitssatz: o.B.,
4. Satz von Lebesgue,
5. Satz: Momente und charakteristische Funktion,
6. Beispiel für charakteristische Funktion: Normalverteilung,
7. Beweis der Faltungseigenschaft mit charakteristischen Funktionen,
8. Folgerung: Faktorielle Momente und erzeugende Funktion,
9. Beispiel: erzeugende Funktion der Binomialverteilung,
10. Definition: Gammaverteilung und Laplacetransformierte,
11. Satz: Faltungseigenschaft der Gammaverteilung,
12. Folgerung: Verteilung von n unabhängigen exponentiell verteilten ZV,
13. Definition und Satz: Dichte der χ2 −Verteilung,
14. Satz: Verteilung der Anzahl der Ausfälle im Erneuerungsprozeß mit exponentiellen
Lebensdauern.
13
Grenzwertsätze der Wahrscheinlichkeitstheorie
1. Definition: Konvergenz fast sicher und stochastisch, Beziehung zur Konvergenz fast
überall und zur Konvergenz dem Maße nach,
2. Satz: Xn → X f.s. ⇔ supm≥n |Xn − X| → 0 stochastisch,
3. Folgerung: Die fast sichere Konvergenz impliziert die stochastische Konvergenz,
4. Beispiel: stochastische Konvergenz impliziert i.a. nicht fast sichere Konvergenz,
5. Satz: die allgemeine Tschebyscheffsche Ungleichung,
6. Folgerung: Markoffsche Ungleichung, Tschebyscheffsche Ungleichung,
7. Satz: Bernsteinsche Ungleichung,
8. Definition: Konvergenz im quadratischen Mittel,
9. Folgerung: Konvergenz im quadratischen Mittel impliziert stochastische Konvergenz,
10. Satz: Starkes Gesetz der großen Zahlen, Beweis bei Existenz 2. Momente schwaches
Gesetz,
11. Satz: Bernoullisches Gesetz der großen Zahlen, Schätzen einer Wahrscheinlichkeit,
12. Folgerung: Abschätzung des Stichprobenumfangs für Schätzung einer Wahrscheinlichkeit,
13. Definition: Mathematische Stichprobe, Schätzen der Verteilungsfunktion,
14. Satz: Glivenko-Cantelli, Beweis nur punktweise Konvergenz,
15. Folgerung: Prüfen auf Normalverteilung,
8
16. Definition: schwache Konvergenz,
17. Satz: Stetigkeitssatz für charakteristische Funktionen, ohne Beweis,
18. Hilfssatz: Restglied bei Taylorentwicklung von exp{ix},
19. Satz: Zentraler Grenzwertsatz für unabhängige und identisch verteilte Zufallsvariable,
20. Satz: Grenzwertsatz Moivre Laplace, Folgerung : Approximation der Binomialwahrscheinlichkeiten von Intervallen.
14
Ausgewählte Begriffe der mathematischen Statistik
1. Definition. Schätzfunktion, Schätzer, Schätzung,
2. Beispiel: Poissonverteilung: Entwicklung des Likelihood-Prinzips,
3. Definition: Maximum-Likelihood-Schätzer,
4. Beispiel: Normalverteilung: ML-Schätzer für µ und σ 2 ,
5. Definition und Folgerung: Erwartungstreue, X n ist erwartungstreu, ML-Schätzer σb2
für σ 2 ist nicht erwartungstreu.
6. Definition und Folgerung: Konsistenz: X n und Sn2 sind konsistent,
7. Satz: In normalverteilten Grundgesamtheiten ist X n bester erwartungstreuer Schätzer.
mit Beweis,
8. Definition: Konfidenzintervall,
9. Beispiel: Konfidenzintervall für µ bei bekanntem σ 2 ,
10. Definition: α−Test, nichtrandomisiert, Fehler erster Art, Fehler zweiter Art,
11. Folgerung: Test von µ = µ0 gegen µ 6= µ0 , Diskussion der Fehlerwahrscheinlichkeiten
erster Art.
9