Einführung in die Bayes-Statistik

Karl-Rudolf Koch
Einführung
in die Bayes-Statistik
Mit 17 Abbildungen
Springer
Inhaltsverzeichnis
1 Einleitung
2 Wahrscheinlichkeit
2.1 Gesetze der Wahrscheinlichkeit
2.1.1 Deduktives und plausibles Schließen
2.1.2 Aussagenalgebra
2.1.3 Bedingte Wahrscheinlichkeit
2.1.4 Produkt- und Summengesetz der Wahrscheinlichkeit .
2.1.5 Verallgemeinertes Summengesetz
2.1.6 Axiome der Wahrscheinlichkeit
2.1.7 Kettenregel und Unabhängigkeit
2.1.8 Bayes-Theorem
2.1.9 Rekursive Anwendung des Bayes-Theorems
2.2 Verteilungen
2.2.1 Diskrete Verteilung
2.2.2 Stetige Verteilung
2.2.3 Binomialverteilung
2.2.4 Mehrdimensionale diskrete und stetige Verteilungen .
2.2.5 Randverteilung
2.2.6 Bedingte Verteilung
2.2.7 Unabhängige Zufallsvariable und Kettenregel
2.2.8 Verallgemeinertes Bayes-Theorem
2.3 Erwartungswert, Varianz und Kovarianz
2.3.1 Erwartungswert
2.3.2 Varianz und Kovarianz
2.3.3 Erwartungswert einer quadratischen Form
2.4 Univariate Verteilungen
2.4.1 Normalverteilung
2.4.2 Gammaverteilung
2.4.3 Invertierte Gammaverteilung
2.4.4 Betaverteilung
2.4.5 x2-Verteilung
2.4.6 F-Verteilung
2.4.7 t- Verteilung
2.4.8 Exponentialverteilung
2.4.9 Cauchy-Verteilung
2.5 Multivariate Verteilungen
2.5.1 Multivariate Normalverteilung
2.5.2 Multivariate t-Verteilung
2.5.3 Normal-Gammaverteilung
2.6 Priori-Dichten
2.6.1 Nichtinformative Priori-Dichten
1
3
3
3
4
5
6
7
10
11
13
17
17
18
19
22
23
25
27
30
32
38
38
42
46
46
46
48
49
49
49
50
50
51
52
52
52
54
56
57
57
VIII
Inhaltsverzeichnis
2.6.2
2.6.3
Priori-Dichten aus maximaler Entropie
Konjugierte Priori-Dichten
58
59
3 Parameterschätzung, Konfidenzregionen und Hypothesenprüfung
63
3.1 Bayes-Stcategie
63
3.2 Punktschätzung
65
3.2.1 Quadratische Kostenfunktion
65
3.2.2 Kostenfunktion der absoluten Fehler
67
3.2.3 Null-Eins-Kosten
69
3.3 Bereichsschätzung .
71
3.3.1 Konfidenzregion
71
ä
3.3.2 Grenze einer Konfidenzregion
73
3.4 Hypothesenprüfung
74
3.4.1 Verschiedene Hypothesen
74
3.4.2 Test von Hypothesen
75
3.4.3 Spezielle Priori-Dichten für Hypothesen
78
3.4.4 Test der Punkt-Nullhypothesen durch Konfidenzregionen 83
4 Lineares Modell
4.1 Definition und Likelihoodfunktion
4.2 Lineares Modell mit bekanntem Varianzfaktor
4.2.1 Nichtinformative Priori-Dichte
4.2.2 Methode der kleinsten Quadrate
4.2.3 Schätzung des Varianzfaktors in der traditionellen Statistik
4.2.4 Lineares Modell mit Restriktionen der traditionellen
Statistik
".
4.2.5 Robuste Parameterschätzung
. . .
4.2.6 Informative Priori-Dichte
4.2.7 Kaiman-Filter
4.3 Lineares Modell mit unbekanntem Varianzfaktor
4.3.1 Nichtinformative Priori-Dichte
4.3.2 Informative Priori-Dichte
4.4 Lineares Modell mit nicht vollem Rang
4.4.1 Nichtinformative Priori-Dichte
4.4.2 Informative Priori-Dichte
85
85
89
89
93
95
96
99
104
108
111
111
117
122
122
125
5 Spezielle Modelle und Anwendungen
129
5.1 Prädiktion und Filterung
129
5.1.1 Modell der Prädiktion und Filterung als spezielles lineares Modell
130
5.1.2 Spezielles Modell der Prädiktion und Filterung . . . . 135
5.2 Varianz- und Kovarianzkomponenten
139
5.2.1 Modell und Likelihoodfunktion
139
Inhaltsverzeichnis
5.3
5.4
5.2.2 Nichtinformative Priori-Dichte
5.2.3 Informative Priori-Dichte
5.2.4 Varianzkomponenten
Mustererkennung
5.3.1 Klassifizierung mit der Bayes-Strategie
5.3.2 Normalverteilung mit bekannten und unbekannten Parametern
5.3.3 Texturparameter
Bayes-Netze
5.4.1 Systeme mit Unsicherheiten
5.4.2 Aufbau eines Bayes-Netzes
5.4.3 Berechnung von Wahrscheinlichkeiten
5.4.4 Bayes-Netz in Form einer Kette
5.4.5 Bayes-Netz in Form eines Baumes
5.4.6 Bayes-Netz in Form eines Mehrfachbaumes
IX
143
143
145
148
149
150
153
157
157
158
162
171
174
177
6 Numerische Verfahren
6.1 Generierung von Zufallswerten
6.1.1 Generierung von Zufallszahlen
6.1.2 Inversionsmethode
6.1.3 Verwerfungsmethode
6.1.4 Generierung von Werten normal verteilter Zufalls variablen
6.2 Monte-Carlo-Integration
6.2.1 Monte-Carlo-Integration der wesentlichen Stichprobe .
6.2.2 Einfache Monte-Carlo-Integration
6.2.3 Berechnung von Schätzwerten, Konfidenzregionen und
Wahrscheinlichkeiten für Hypothesen
6.2.4 Bestimmung von Randverteilungen
6.2.5 Konfidenzregionen für robuste Parameterschätzungen als Beispiel
6.3 Monte-Carlo-Methode mit Markoff-Ketten
6.3.1 Gibbs-Verfahren
6.3.2 Berechnung von Schätzwerten, Konfidenzregionen und
Wahrscheinlichkeiten für Hypothesen
6.3.3 Bestimmung von Randverteilungen
6.3.4 Fortsetzung des Beispiels: Konfidenzregionen für robuste Parameterschätzungen
183
183
183
184
186
Literatur
215
Sachverzeichnis
221
186
187
187
190
191
193
196
204
205
206
207
210