2 Induktive Statistik

2 Induktive Statistik
Statistik II für Studierende der Soziologie und Nebenfachstudierende
2.1 Grundprinzipien der induktiven Statistik
2.1 Grundprinzipien der induktiven Statistik
Ziel: Inferenzschluss, Repräsentationsschluss: Schluss von einer Stichprobe auf Eigenschaften der
Grundgesamtheit, aus der sie stammt.
• Von Interesse sei ein Merkmal X̃ in der Grundgesamtheit Ω̃.
• Ziehe eine Stichprobe (ω1, . . . , ωn) von Elementen aus Ω̃ und werte X̃ jeweils aus.
• Man erhält Werte x1, . . . , xn. Diese sind Realisationen der i.i.d Zufallsvariablen oder Zufallselemente
X1, . . . , Xn, wobei die Wahrscheinlichkeitsverteilung der X1, . . . , Xn genau die Häufigkeitsverhältnisse in der Grundgesamtheit widerspiegelt.
2 Induktive Statistik
212
Statistik II für Studierende der Soziologie und Nebenfachstudierende
Deduktion
wahre Verhältnisse in Gg
(Wahrscheinlichkeitstheorie)
gegeben:
wahre Wskverteilung P
⇓
↓
Berechnung
Zufallsvariable X1, . . . , Xni.i.d.
∼P
⇓
gesucht:
P (X1 = x1, . . . , Xn = xn)
für alle möglichen Realisationen x1, . . . , xn
2 Induktive Statistik
2.1 Grundprinzipien der induktiven Statistik
Induktion
(Statistik)
gesucht:
⇑
Repräsentationsschluss
Inferenzschluss
⇑
gegeben:
x1 , . . . , x n
eine konkrete Realisation
213
Statistik II für Studierende der Soziologie und Nebenfachstudierende
2.1 Grundprinzipien der induktiven Statistik
Die Frage lautet also: wie kommt man von Realisationen x1, . . . , xn von i.i.d. Zufallsvariablen
X1, . . . , Xn auf die Verteilung der Xi?
• Dazu nimmt man häufig an, man kenne den Grundtyp der Verteilung der X1, . . . , Xn. Unbekannt
seien nur einzelne Parameter davon.
Beispiel: Xi sei normalverteilt, unbekannt seien nur µ, σ 2.
=⇒ parametrische Verteilungsannahme (meist im Folgenden)
• Alternativ: Verteilungstyp nicht oder nur schwach festgelegt (z.B. symmetrische Verteilung)
=⇒ nichtparametrische Modelle
• Klarerweise gilt im Allgemeinen (generelles Problem bei der Modellierung): Parametrische Modelle
liefern schärfere Aussagen – wenn ihre Annahmen zutreffen. Wenn ihre Annahmen nicht zutreffen,
dann existiert die große Gefahr von Fehlschlüssen.
2 Induktive Statistik
214
Statistik II für Studierende der Soziologie und Nebenfachstudierende
2.1 Grundprinzipien der induktiven Statistik
Wichtige Fragestellungen der induktiven Statistik:
Treffe mittels der Auswertung einer Zufallsstichprobe
• möglichst gute/genaue ? ? ?
• Aussagen ??
• über bestimmte Charakteristika ? der Grundgesamtheit.
? Welche Charakteristika sind für die Fragestellung relevant? Natürlich werden für die Inferenz bezüglich
des Erwartungswerts andere Methoden als für Schlüsse über die Varianz benötigt.
?? verschiedene Formen:
– Punktschätzung: z.B. wahrer Anteil 0.4751
– Intervallschätzung: z.B. wahrer Anteil liegt zwischen 0.46 und 0.48
– Hypothesentest: Die Annahme, der Anteil liegt höchstens bei 50% kann nicht aufrecht erhalten
werden
? ? ? Was heißt gut?
– Festlegung von Gütekriterien “(Genauigkeit? Wahrscheinlichkeit eines Fehlers gering?)
”
– Wie konstruiert man ein gutes/optimales Verfahren?
– Sicherheitsstellung der Objektivität der statistischen Analyse“. Jeder wendet das beste Verfahren
”
an ⇒ gleiche Auswertung
2 Induktive Statistik
215
Statistik II für Studierende der Soziologie und Nebenfachstudierende
2.2 Punktschätzung
2.2 Punktschätzung
Ziel: Finde einen möglichst guten Schätzwert für eine bestimmte Kenngröße ϑ (Parameter) der
Grundgesamtheit, z.B. den wahren Anteil der rot/grün-Wähler, den wahren Mittelwert, die wahre Varianz,
aber auch z.B. das wahre Maximum (Windgeschwindigkeit).
2.2.1 Schätzfunktionen
Gegeben sei die in Kapitel 2.1 beschriebene Situation, also eine i.i.d. Stichprobe X1, . . . , Xn eines
Merkmales X̃ .
Definition 2.1.
Sei X1, . . . , Xn i.i.d. Stichprobe. Eine Funktion
T = g(X1, . . . , Xn)
heißt Schätzer oder Schätzfunktion.
Inhaltlich ist g(·) eine Auswertungsregel der Stichprobe: Welche Werte sich auch in der Stichprobe
”
ergeben, ich wende das durch g(·) beschriebene Verfahren auf sie an.(z.B. Mittelwert)“
2 Induktive Statistik
216
Statistik II für Studierende der Soziologie und Nebenfachstudierende
2.2 Punktschätzung
Typische Beispiele für Schätzfunktionen:
1. Arithmetisches Mittel der Stichprobe:
n
1X
Xi
X̄ = g(X1, . . . , Xn) =
n i=1
Für binäre, dummy-kodierte Xi ist X̄ auch die relative Häufigkeit des Auftretens von Xi = 1“ in
”
der Stichprobe
2. Stichprobenvarianz:
n
n
1X
1X 2
2
2
S̃ = g(X1, . . . , Xn) =
(Xi − X̄) =
Xi − (X̄)
n i=1
n i=1
2
2 Induktive Statistik
217
Statistik II für Studierende der Soziologie und Nebenfachstudierende
2.2 Punktschätzung
3. Korrigierte Stichprobenvarianz:
2
S = g(X1, . . . , Xn) =
1
n−1
n
X
2
(Xi − X̄) =
i=1
1
n−1
n
X
!
2
Xi − n · X̄
2
i=1
4. Größter Stichprobenwert:
X(n) = g(X1, . . . , Xn) = max Xi
i=1,...,n
5. Kleinster Stichprobenwert:
X(1) = g(X1, . . . , Xn)) = min Xi
i=1,...,n
2 Induktive Statistik
218
Statistik II für Studierende der Soziologie und Nebenfachstudierende
2.2 Punktschätzung
Schätzfunktion und Schätzwert: Da X1, . . . , Xn zufällig sind, ist auch die Schätzfunktion T =
g(X1, . . . , Xn) zufällig. Zieht man mehrere Stichproben, so erhält man jeweils andere Realisationen
von X1, . . . , Xn, und damit auch von T .
Die Realisation t (konkreter Wert) der Zufallsvariable T (Variable) heißt Schätzwert.
X1,
↓
x1 ,
...
...
Xn
↓
xn
Zufallsvariable
↓
Realisationen
T = g(X1, . . . , Xn)
↓
t = g(x1, . . . , xn)
Man hat in der Praxis meist nur eine konkrete Stichprobe und damit auch nur einen konkreten Wert t
von T . Zur Beurteilung der mathematischen Eigenschaften werden aber alle denkbaren Stichproben und
die zugehörigen Realisationen der Schätzfunktion T herangezogen.
D.h. beurteilt wird nicht der einzelne Schätzwert als solcher, sondern die Schätzfunktion, als Methode,
d.h. als Regel zur Berechnung des Schätzwerts aus der Stichprobe.
Andere Notation in der Literatur: ϑ̂ Schätzer für ϑ. Dabei wird nicht mehr direkt unterschieden
zwischen Zufallsvariable (bei uns Großbuchstaben) und Realisation (bei uns klein). =⇒ Schreibe
ϑ̂(X1, . . . , Xn) bzw. ϑ̂(x1, . . . , xn) wenn die Unterscheidung benötigt wird.
2 Induktive Statistik
219
Statistik II für Studierende der Soziologie und Nebenfachstudierende
2.2 Punktschätzung
Bsp. 2.2.
Durchschnittliche Anzahl der Statistikbücher in einer Grundgesamtheit von Studenten schätzen.
• Grundgesamtheit: Drei Personen Ω̃ = {ω̃1, ω̃2, ω̃3}.
• Merkmal X̃ : Anzahl der Statistikbücher
X̃(ω̃1) = 3 X̃(ω̃2) = 1 X̃(ω̃3) = 2.
Wahrer Durchschnittswert: µ = 2.
• Stichprobe X1, X2 ohne Zurücklegen (Stichprobenumfang n = 2):
X1 = X̃(ω1)
X2 = X̃(ω2)
wobei
ω1 erste gezogene Person, ω2 zweite gezogene Person.
2 Induktive Statistik
220
Statistik II für Studierende der Soziologie und Nebenfachstudierende
2.2 Punktschätzung
Betrachte folgende möglichen Schätzer:
2 Induktive Statistik
T1
=
g1(X1, X2) = X̄ =
T2
=
X1
T3
=
g(X1, X2) =
X1 + X2
2
2
2
X(2) = max(X1, X2)
3
3
221
Statistik II für Studierende der Soziologie und Nebenfachstudierende
2.2 Punktschätzung
Zur Beurteilung: Alle möglichen Stichproben (vom Umfang n = 2, ohne Zurücklegen) betrachten:
Nummer
der Stichprobe
1
2
3
4
5
6
2 Induktive Statistik
Personen in
der Stichprobe
ω̃1,
ω̃1,
ω̃2,
ω̃2,
ω̃3,
ω̃3,
ω̃2
ω̃3
ω̃1
ω̃3
ω̃1
ω̃2
Realisationen von
X1
3
3
1
1
2
2
X2
1
2
3
2
3
1
T1
2
2.5
2
1.5
2.5
1.5
T2
3
3
1
1
2
2
T3
2
2
2
1.3̄
2
1.3̄
222
Statistik II für Studierende der Soziologie und Nebenfachstudierende
2.2 Punktschätzung
2.2.2 Gütekriterien
Beurteile die Schätzfunktionen, also das Verfahren an sich, nicht den einzelnen Schätzwert.
bei komplexeren Schätzproblemen sind klar festgelegten Güteeigenschaften wichtig.
Besonders
Natürlich ist auch zu Beginn genau festzulegen, was geschätzt werden soll. Im Folgenden sei der
Parameter ϑ stets eine eindimensionale Kenngröße der Grundgesamtheit (z.B. Mittelwert, Varianz,
Maximum)
Der Punkt ist, dass T zufällig ist; der Wert schwankt mit der konkreten Stichprobe.
• Man kann also nicht erwarten, dass man immer den richtigen Wert trifft.
• Die Beurteilung der Güte des Schätzers bezieht sich auf Kenngrößen seiner Verteilung (v.a.
Erwartungswert und Varianz)
2 Induktive Statistik
223
Statistik II für Studierende der Soziologie und Nebenfachstudierende
2.2 Punktschätzung
Erwartungstreue, Bias: Gegeben sei eine Stichprobe X1, . . . , Xn und eine Schätzfunktion T =
g(X1, . . . , Xn) (mit existierendem Erwartungswert).
• T heißt erwartungstreu für den Parameter ϑ, falls gilt
Eϑ(T ) = ϑ
für alle ϑ.
• Die Größe
Biasϑ(T ) = Eϑ(T ) − ϑ
heißt Bias (oder Verzerrung) der Schätzfunktion. Erwartungstreue Schätzfunktionen haben per
Definition einen Bias von 0.
Man schreibt Eϑ(T ) und Biasϑ(T ), um deutlich zu machen, dass die Größen von dem wahren ϑ
abhängen.
2 Induktive Statistik
224
Statistik II für Studierende der Soziologie und Nebenfachstudierende
2.2 Punktschätzung
Bsp. 2.3. [Fortsetzung des Beispiels]
Nehmen Sie an, die Stichprobenziehung sei gemäß einer reinen Zufallsauswahl erfolgt, d.h. jede Stichprobe
hat dieselbe Wahrscheinlichkeit gezogen zu werden (hier 61 ). Sind die oben betrachteten Schätzfunktionen
T1, T2, T3 erwartungstreu?
Für die Träger Ti von Ti, i = 1, 2, 3 gilt:
T1
=
{1.5, 2, 2.5}
T2
=
{1, 2, 3}
T3
=
{1.3̄, 2}
2
1
=
6
3
2
1
2}) = P ({T2 = 3}) = =
6
3
4
2
P ({T3 = 3}) = =
6
3
Bei T1 gilt:
P ({T1 = 1.5}) = P ({T1 = 2}) = P ({T1 = 2.5}) =
Bei T2 gilt:
P ({T2 = 1}) = P ({T2 =
Bei T3 gilt:
P ({T3 = 1.5}) =
2 Induktive Statistik
2
1
= ;
6
3
225
Statistik II für Studierende der Soziologie und Nebenfachstudierende
2.2 Punktschätzung
und damit bei ϑ = µ = 2
E2(T1) =
X
t1 · P ({T1 = t1}) =
t1 ∈T1
1
(1.5 + 2 + 2.5) = 2
3
In der Tat gilt allgemein: Das arithmetische Mittel ist erwartungstreu für den Erwartungswert.
X
E2(T2) =
t2 ∈T2
1
t2 · P ({T2 = t2}) = (1 + 2 + 3) = 2
3
Wieder gilt allgemein: Einzelne Stichprobenvariablen ergeben erwartungstreue Schätzer für den
Erwartungswert.
E2(T3) =
X
t3 ∈T3
1
2
16
t3 · P ({T3 = t3}) = · 1.3̄ + · 2 =
6 2
=
3
3
9
T3 ist also nicht erwartungstreu. Es gilt
16
18
2
Bias(T3) = E2(T3) − 2 =
−
=−
9
9
9
2 Induktive Statistik
226
Statistik II für Studierende der Soziologie und Nebenfachstudierende
2.2 Punktschätzung
Bias und Erwartungstreue bei einigen typischen Schätzfunktionen
1
n
Pn
• Das arithmetische Mittel X̄ =
i=1 Xi ist erwartungstreu für den Mittelwert µ einer
Grundgesamtheit: Aus X1, . . . , Xn i.i.d. und Eµ(X1) = Eµ(X2) = . . . = µ folgt:
!
!
n
n
X
X
1
1
E(X̄) = Eµ
Xi = Eµ
Xi
n i=1
n
i=1
n
=
1X
E(Xi)
n i=1
=
1
1X
µ= ·n·µ=µ
n i=1
n
n
• Sei σ 2 die Varianz in der Grundgesamtheit. Es gilt
2
Eσ2 (S̃ ) =
n−1 2
σ ,
n
also ist S̃ 2 nicht erwartungstreu für σ 2.
2
Biasσ2 (S̃ ) =
2 Induktive Statistik
n−1 2
1 2
2
σ −σ =− σ
n
n
227
Statistik II für Studierende der Soziologie und Nebenfachstudierende
2.2 Punktschätzung
(Für n → ∞ geht Biasσ2 (S̃ 2) gegen 0, S̃ 2 ist asymptotisch erwartungstreu“.)
”
• Für die korrigierte Stichprobenvarianz gilt dagegen:
!
n
X
1
2
2
(Xi − X̄)
Eσ2 (S ) = Eσ2
n − 1 i=1
!
n
X
n
1
2
= Eσ2
·
(Xi − X̄)
n − 1 n i=1
n
n
n−1 2
2
2
= Eσ2
S
=
·
σ =σ
n−1
n−1
n
Also ist S 2 erwartungstreu für σ 2. Diese Eigenschaft ist auch die Motivation für die Korrektur der
Stichprobenvarianz.
• Vorsicht: Im Allgemeinen gilt für beliebige, nichtlineare Funktionen g
Eg(X) 6= g(E(X)).
√
Man kann also nicht einfach z.B. · und E vertauschen. In der Tat gilt: S 2 ist zwar erwartungstreu
√
√
für σ 2, aber S 2 ist nicht erwartungstreu für σ 2 = σ.
2 Induktive Statistik
228
Statistik II für Studierende der Soziologie und Nebenfachstudierende
2.2 Punktschätzung
Bsp. 2.4. [Wahlumfrage]
Gegeben sei eine Stichprobe der wahlberechtigten Bundesbürger. Geben Sie einen erwartungstreuen
Schätzer des Anteils der rot-grün Wähler an.
Grundgesamtheit: Dichotomes Merkmal

1 rot/grün: ja
X̃ =
0 rot/grün: nein
Der Mittelwert π von X̃ ist der Anteil der rot/grün-Wähler in der Grundgesamtheit.
Stichprobe X1, . . . , Xn vom Umfang n:

1
Xi =
0
2 Induktive Statistik
i-te Person wählt rot/grün
sonst
229
Statistik II für Studierende der Soziologie und Nebenfachstudierende
2.2 Punktschätzung
Aus den Überlegungen zum arithmetischen Mittel folgt, dass
n
1X
Xi
X̄ =
n i=1
ein erwartungstreuer Schätzer für den hier betrachteten Parameter π ist.
Also verwendet man die relative Häufigkeit in der Stichprobe, um den wahren Anteil π in der
Grundgesamtheit zu schätzen.
2 Induktive Statistik
230
Statistik II für Studierende der Soziologie und Nebenfachstudierende
2.2 Punktschätzung
Bedeutung der Erwartungstreue: Erwartungstreue ist ein schwaches Kriterium!
Betrachte die offensichtlich unsinnige Schätzfunktion
T2 = g2(X1, . . . , Xn) = X1,
d.h. T2 = 100%, falls der erste Befragte rot-grün wählt und T2 = 0% sonst.
Die Schätzfunktion ignoriert fast alle Daten, ist aber erwartungtreu:
E(T2) = E(X1) = µ
Deshalb betrachtet man zusätzlich die Effizienz eines Schätzers, s.u.
2 Induktive Statistik
231
Statistik II für Studierende der Soziologie und Nebenfachstudierende
2.2 Punktschätzung
2.2.3 Effizienz
Beispiel Wahlumfrage: Gegeben sind zwei erwartungstreue Schätzer (n sei gerade):
T1
T2
=
n
1 X
Xi
n i=1
=
n/2
1 X
Xi
n/2 i=1
Was unterscheidet formal T1 von dem unsinnigen Schätzer T2, der die in der Stichprobe enthaltene
Information nicht vollständig ausnutzt?
Vergleiche die Schätzer über ihre Varianz, nicht nur über den Erwartungswert!
2 Induktive Statistik
232
Statistik II für Studierende der Soziologie und Nebenfachstudierende
2.2 Punktschätzung
Wenn n so groß ist, dass der zentrale Grenzwertsatz angewendet werden kann, dann gilt approximativ
n
X
(Xi − π)
n
n
X
1X
Xi − π
Xi − n · π
n
1 i=1
i=1
i=1
∼ N (0; 1)
=√ p
= r
√ p
n
π(1 − π)
π(1 − π)
n π(1 − π)
n
und damit
n
1X
T1 =
Xi ∼ N
n i=1
π(1 − π)
π;
n
.
Analog kann man zeigen:
n/2
1 X
Xi ∼ N
T2 =
n/2 i=1
π(1 − π)
π,
n/2
.
T1 und T2 sind approximativ normalverteilt, wobei T1 eine deutlich kleinere Varianz als T2 hat.
T1 und T2 treffen beide im Durchschnitt den richtigen Wert π . T1 schwankt aber weniger um das wahre
π , ist also im Durchschnitt genauer“.
”
2 Induktive Statistik
233
Statistik II für Studierende der Soziologie und Nebenfachstudierende
2.2 Punktschätzung
Andere Interpretation:
Dichte von T1
Dichte von T2
π− π
π+
Für jeden Punkt π+ > π ist damit P (T1 > π+) < P (T2 > π+)
und für jeden Punkt π− < π ist P (T1 < π−) < P (T2 < π−).
2 Induktive Statistik
234
Statistik II für Studierende der Soziologie und Nebenfachstudierende
2.2 Punktschätzung
Es ist also die Wahrscheinlichkeit, mindestens um π+ − π bzw. π − π− daneben zu liegen, bei T2 stets
größer als bei T1. Umgekehrt gesagt: Ein konkreter Wert ist damit verlässlicher, wenn er von T1, als
wenn er von T2 stammt.
Diese Überlegung gilt ganz allgemein: Ein erwartungstreuer Schätzer ist umso besser, je kleiner seine
Varianz ist.
Var(T ) = Erwartete quadratische Abweichung von T von E(T )
| {z }
=ϑ !
Je kleiner die Varianz, umso mehr konzentriert sich die Verteilung eines erwartungstreuen Schätzers um
den wahren Wert. Dies ist umso wichtiger, da der Schätzer den wahren Wert i.A. nur selten exakt trifft.
2 Induktive Statistik
235
Statistik II für Studierende der Soziologie und Nebenfachstudierende
2.2 Punktschätzung
Effizienz:
• Gegeben seien zwei erwartungstreue Schätzfunktionen T1 und T2 für einen Parameter ϑ. Gilt
Varϑ(T1) ≤ Varϑ(T2) für alle ϑ
und
∗
Varϑ∗ (T1) < Varϑ∗ (T2) für mindestens ein ϑ
so heißt T1 effizienter als T2.
• Eine für ϑ erwartungstreue Schätzfunktion T heißt UMVU-Schätzfunktion für ϑ (uniformly minimum
v ariance unbiased), falls
∗
Varϑ(T ) ≤ Varϑ(T )
für alle ϑ und für alle erwartungstreuen Schätzfunktionen T ∗.
2 Induktive Statistik
236
Statistik II für Studierende der Soziologie und Nebenfachstudierende
2.2 Punktschätzung
Bem. 2.5.
• Inhaltliche Bemerkung: Der (tiefere) Sinn von Optimalitätskriterien wird klassischerweise insbesondere
auch in der Gewährleistung von Objektivität gesehen. Ohne wissenschaftlichen Konsens darüber,
welcher Schätzer in welcher Situation zu wählen ist, wäre die Auswertung einer Stichprobe willkürlich
und der Manipulation Tür und Tor geöffnet. Allerdings gibt es wirkliche Eindeutigkeit nur bei
idealen“, sauberen Daten. Z.B. sind ausreißerunempfindliche Verfahren bei idealen“ Daten weniger
”
”
effizient, haben aber den Vorteil, stabiler bei kleinen Abweichungen von den Verteilungsannahmen zu
sein.
• Ist X1, . . . , Xn eine i.i.d. Stichprobe mit Xi ∼ N (µ, σ 2), dann ist
– X̄ UMVU-Schätzfunktion für µ und
– S 2 UMVU-Schätzfunktion für σ 2.
• Ist X1, . . . , Xn mit Xi ∈ {0, 1} eine i.i.d. Stichprobe mit π = P (Xi = 1), dann ist die relative
Häufigkeit X̄ UMVU-Schätzfunktion für π .
• Bei nicht erwartungstreuen Schätzern macht es keinen Sinn, sich ausschließlich auf die Varianz zu
konzentrieren.
Z.B. hat der unsinnige Schätzer T = g(X1, . . . , Xn) = 42, der die Stichprobe nicht beachtet,
Varianz 0.
2 Induktive Statistik
237
Statistik II für Studierende der Soziologie und Nebenfachstudierende
2.2 Punktschätzung
Man zieht dann den sogenannten Mean Squared Error
MSEϑ(T )
:=
Eϑ(T − ϑ)
2
zur Beurteilung heran. Es gilt
MSEϑ(T )
=
2
Varϑ(T ) + (Biasϑ(T )) .
Der MSE kann als Kompromiss zwischen zwei Auffassungen von Präzision gesehen werden: möglichst
geringe systematische Verzerrung (Bias) und möglichst geringe Schwankung (Varianz).
2 Induktive Statistik
238
Statistik II für Studierende der Soziologie und Nebenfachstudierende
2.2 Punktschätzung
2.2.4 Asymptotische Gütekriterien
• Asymptotische Erwartungstreue
* Eine Schätzfunktion heißt asymptotisch erwartungstreu, falls
lim E(θ̂) = θ
n→∞
bzw.
lim Bias(θ̂) = 0
n→∞
gelten.
* Abschwächung des Begriffs der Erwartungstreue: Gilt nur noch bei einer unendlich großen
Stichprobe.
* Erwartungstreue Schätzer sind auch asymptotisch erwartungstreu.
* Sowohl S 2 als auch S̃ 2 sind asymptotisch erwartungstreu.
• Für komplexere Modelle ist oft die Erwartungstreue der Verfahren ein zu restriktives Kriterium. Man
fordert deshalb oft nur, dass sich der Schätzer wenigstens für große Stichproben gut verhält. Hierzu
gibt es v.a. zwei verwandte aber etwas“ unterschiedliche Kriterien.
”
2 Induktive Statistik
239
Statistik II für Studierende der Soziologie und Nebenfachstudierende
2.2 Punktschätzung
• Ein Schätzer heißt MSE-konsistent oder konsistent im quadratischen Mittel, wenn gilt
lim (MSE(T )) = 0.
n→∞
Beispiel: Der MSE von X̄ ist gegeben durch
MSE(X̄)
2
=
Var(X̄) + Bias (X̄)
=
σ2
+0
n
=
σ2
→ 0.
n
X̄ ist also ein MSE-konsistente Schäter für den Erwartungswert.
• Anschaulich bedeutet die Konsistenz, dass sich die Verteilung des Schätzers für wachsenden
Stichprobenumfang n immer stärker beim richtigen Wert zusammenzieht“. Er trifft also für unendlich
”
große Stichproben praktische sicher den wahren Wert. (Dies gilt als eine Minimalanforderung an
statistische Verfahren.)
2 Induktive Statistik
240
Statistik II für Studierende der Soziologie und Nebenfachstudierende
2.2 Punktschätzung
2.2.5 Konstruktionsprinzipien guter Schätzer
Die Methode der kleinsten Quadrate
=⇒ Regressionsanalyse
Das Maximum-Likelihood-Prinzip
Aufgabe: Schätze den Parameter ϑ eines parametrischen Modells anhand einer i.i.d. Stichprobe
X1, . . . , Xn mit der konkreten Realisation x1, . . . , xn.
Idee der Maximium-Likelihood (ML) Schätzung für diskrete Verteilungen:
• Man kann für jedes ϑ die Wahrscheinlichkeit ausrechnen, genau die Stichprobe x1, . . . , xn zu
erhalten:
n
Y
Pϑ(X1 = x1, X2 = x2, . . . , Xn = xn) =
Pϑ(Xi = xi)
i=1
• Je größer für ein gegebenes ϑ0 die Wahrscheinlichkeit ist, die konkrete Stichprobe erhalten zu haben,
umso plausibler ist es, dass tatsächlich ϑ0 der wahre Wert ist (gute Übereinstimmung zwischen
Modell und Daten).
2 Induktive Statistik
241
Statistik II für Studierende der Soziologie und Nebenfachstudierende
2.2 Punktschätzung
Bsp. 2.6.
I.i.d. Stichprobe vom Umfang n = 5 aus einer B(10, π)-Verteilung:
6
5
3
4
4
Wahrscheinlichkeit der Stichprobe für gegebenes π :
P (X1 = 6, . . . , X5 = 4||π)
=
=
P (X1 = 6||π) · . . . · P (X5 = 4||π)
10
10
6
4
4
6
π (1 − π) · . . . ·
π (1 − π) .
6
4
P (. . . ||π) Wahrscheinlichkeit, wenn π der wahre Parameter ist“
”
2 Induktive Statistik
242
Statistik II für Studierende der Soziologie und Nebenfachstudierende
2.2 Punktschätzung
Wahrscheinlichkeit für einige Werte von π :
π
P (X1 = 6, . . . , X5 = 4|π)
0.1
0.2
0.3
0.4
0.5
0.6
0.7
0.8
0.9
0.0000000000001
0.0000000227200
0.0000040425220
0.0003025481000
0.0002487367000
0.0000026561150
0.0000000250490
0.0000000000055
0.0000000000000
Man nennt daher L(ϑ) = Pϑ(X1 = x1, . . . , Xn = xn), nun als Funktion von ϑ gesehen, die
Likelihood (deutsch: Plausibilität, Mutmaßlichkeit) von ϑ gegeben die Realisation x1, . . . , xn.
Derjenige Wert ϑ̂ = ϑ̂(x1, . . . , xn), der L(ϑ) maximiert, heißt Maximum-Likelihood-Schätzwert;
die zugehörige Schätzfunktion T (X1, . . . , Xn) Maximum-Likelihood-Schätzer (siehe genauer
Definition 2.8).
2 Induktive Statistik
243
Statistik II für Studierende der Soziologie und Nebenfachstudierende
2.2 Punktschätzung
Bem. 2.7.
• Zwei Sichtweisen auf
Pϑ(X1 = x1, . . . , Xn = xn) :
– Deduktiv (Wahrscheinlichkeitsrechnung): ϑ bekannt, X1, . . . , Xn zufällig ( unbekannt“).
”
– Induktiv (Statistik): ϑ unbekannt, x1, . . . , xn bekannt.
Deduktiv
geg: Parameter bekannt
Induktiv
ges: Plausibilität des Parameters
Pϑ(X1 = x1, . . . , Xn = xn)
Funktion von x1, . . . , xn
bei festem ϑ
6
Pϑ(X1 = x1, . . . , Xn = xn)
Funktion von ϑ
bei festem x1, . . . , xn
?
ges: Wskt von Beobachtungen
2 Induktive Statistik
geg: Beobachtung bekannt
244
Statistik II für Studierende der Soziologie und Nebenfachstudierende
2.2 Punktschätzung
• Für stetige Verteilungen gilt
Pϑ(X1 = x1, X2 = x2, . . . , Xn = xn) = 0
für beliebige Werte ϑ. In diesem Fall verwendet man die Dichte
fϑ(x1, . . . , xn) =
n
Y
fϑ(xi)
i=1
als Maß für die Plausibilität von ϑ.
• Für die praktische Berechnung maximiert man statt der Likelihood typischerweise die Log-Likelihood
l(ϑ) = ln(L(ϑ)) = ln
n
Y
Pϑ(Xi = xi) =
i=1
bzw.
l(ϑ) = ln
n
Y
i=1
n
X
ln Pϑ(Xi = xi)
i=1
fϑ(xi) =
n
X
ln fϑ(xi).
i=1
Dies liefert denselben Schätzwert ϑ̂ und erspart beim Differenzieren die Anwendung der Produktregel.
Der Logarithmus ist streng monoton wachsend. Allgemein gilt für streng monoton wachsende
Funktionen g : x0 Stelle des Maximums von L(x) ⇐⇒ x0 auch Stelle des Maximums von g(L(x)).
2 Induktive Statistik
245
Statistik II für Studierende der Soziologie und Nebenfachstudierende
2.2 Punktschätzung
Definition 2.8.
Gegeben sei die Realisation x1, . . . , xn einer i.i.d. Stichprobe. Die Funktion in ϑ
 n
Y



Pϑ(Xi = xi) falls Xi diskret


i=1
L(ϑ) = Y
n



fϑ(xi)
falls Xi stetig.


i=1
heißt Likelihood des Parameters ϑ bei der Beobachtung x1, . . . , xn.
Derjenige Wert ϑ̂ = ϑ̂(x1, . . . , xn), der L(ϑ) maximiert, heißt Maximum-Likelihood-Schätzwert; die
zugehörige Schätzfunktion T (X1, . . . , Xn) Maximum-Likelihood-Schätzer.
2 Induktive Statistik
246
Statistik II für Studierende der Soziologie und Nebenfachstudierende
2.2 Punktschätzung
Bsp. 2.9.

1 falls Rot/Grün
Xi =
0 sonst
Verteilung der Xi: Binomialverteilung B(1, π) (Bernoulliverteilung)
P (Xi = 1)
=
π
P (Xi = 0)
=
1−π
P (Xi = xi)
=
π
xi
· (1 − π)
1−xi
,
xi ∈ {0; 1}.
Hier ist π der unbekannte Parameter, der allgemein mit ϑ bezeichnet wird.
2 Induktive Statistik
247
Statistik II für Studierende der Soziologie und Nebenfachstudierende
2.2 Punktschätzung
Likelihood:
L(π)
=
=
P (X1 = x1, . . . , Xn = xn)
n
Y
π
xi
(1 − π)
1−xi
i=1
n
X
=
n−
xi
· (1 − π)
π i=1
n
X
xi
i=1
Logarithmierte Likelihood:
l(π) = ln(P (X1 = x1, . . . , Xn = xn)) =
n
X
xi · ln(π) + (n −
i=1
n
X
xi) · ln(1 − π)
i=1
Ableiten (nach π ):
n
X
∂
l(π) =
∂π
2 Induktive Statistik
i=1
π
n−
xi
+
n
X
i=1
1−π
xi
· (−1)
248
Statistik II für Studierende der Soziologie und Nebenfachstudierende
2.2 Punktschätzung
Nullsetzen und nach π auflösen ergibt:
n
X
∂
l(π) = 0
∂π
⇐⇒
⇐⇒
n−
xi
i=1
=
π
(1 − π)
n
X
n
X
i=1
1−π
xi = n · π − π
i=1
⇐⇒
n
X
xi
n
X
xi
i=1
xi = n · π
i=1
also
n
X
π̂ =
xi
i=1
n
Also ist X̄ der Maximum-Likelihood-Schätzer für π .
2 Induktive Statistik
249
Statistik II für Studierende der Soziologie und Nebenfachstudierende
2.2 Punktschätzung
ML-Schätzung bei Normalverteilung
1. Schritt: Bestimme die Likelihoodfunktion
2
L(µ, σ )
=
n
Y
i=1
=
1
exp
√
1
2π(σ 2) 2
1
n
n
2π 2 (σ 2) 2
exp
1
2
− 2 (xi − µ)
2σ
n
1 X
2
− 2
(xi − µ)
2σ i=1
!
2. Schritt: Bestimme die Log-Likelihoodfunktion
2
l(µ, σ )
2
=
ln(L(µ, σ ))
=
n
n
1 X
2
2
ln(1) − ln(2π) − ln(σ ) −
(x
−
µ)
i
2
2
2σ 2 i=1
n
2 Induktive Statistik
250
Statistik II für Studierende der Soziologie und Nebenfachstudierende
2.2 Punktschätzung
3. Schritt: Ableiten und Nullsetzen der Loglikelihoodfunktion
∂l(µ, σ 2)
∂µ
∂l(µ, σ 2)
∂σ 2
n
=
X
1
2·
(xi − µ) = 0
2
2σ
i=1
=
n 1
1 X
2
−
+
(x
−
µ)
=0
i
2 σ2
2(σ 2)2 i=1
n
4. Schritt: Auflösen der beiden Gleichungen nach µ und σ 2
Aus der ersten Gleichung erhalten wir
n
X
xi − nµ = 0
also
µ̂ = x̄.
i=1
Aus der zweiten Gleichung erhalten wir durch Einsetzen von µ̂ = x̄
n
X
2
2
(xi − x̄) = nσ
i=1
also
n
1X
2
2
σ̂ =
(xi − x̄)
n i=1
2 Induktive Statistik
251
Statistik II für Studierende der Soziologie und Nebenfachstudierende
2.2 Punktschätzung
Fazit:
• Der ML-Schätzer µ̂ = X̄ für µ stimmt mit dem üblichen Schätzer für den Erwartungswert überein.
• Der ML-Schätzer σ̂ 2 = S̃ 2 für σ 2 ist verzerrt, d.h. nicht erwartungstreu.
Bem. 2.10. [Einige allgemeine Eigenschaften von ML-Schätzern]
• ML-Schätzer θ̂ sind im Allgemeinen nicht erwartungstreu.
• ML-Schätzer θ̂ sind asymptotisch erwartungstreu.
• ML-Schätzer θ̂ sind konsistent (und meist in einem asymptotischen Sinne effizient).
2 Induktive Statistik
252
Statistik II für Studierende der Soziologie und Nebenfachstudierende
2.3 Intervallschätzung
2.3 Intervallschätzung
2.3.1 Motivation und Hinführung
Bsp. 2.11. [Wahlumfrage]
Der wahre Anteil der rot-grün Wähler 2009 war genau 33.7%. Wie groß ist die Wahrscheinlichkeit,
in einer Zufallsstichprobe von 1000 Personen genau einen relativen Anteil von 33.7% von rot-grün
Anhängern erhalten zu haben?
Xi
=

1, rot/grün
0, sonst
P (Xi = 1)
=
π = 0.337
X
=
n
X
Xi ∼ B(n, π) mit n = 1000
i=1
2 Induktive Statistik
253
Statistik II für Studierende der Soziologie und Nebenfachstudierende
P (X = 337)
=
=
=
2.3 Intervallschätzung
n
x
n−x
· π · (1 − π)
x
1000
337
663
· 0.337 · (1 − 0.337)
337
0.02668164
D.h., mit Wahrscheinlichkeit von etwa 97.3%, verfehlt der Schätzer den wahren Wert.
Hat man ein stetiges Merkmal, so ist sogar P (X̄ = a) = 0 für jedes a, d.h. der wahre Wert wird mit
Wahrscheinlichkeit 1 verfehlt.
2 Induktive Statistik
254
Statistik II für Studierende der Soziologie und Nebenfachstudierende
2.3 Intervallschätzung
Schaut man genauer nach:
Es gab 14.633.760 gültige Zweitstimmen für SPD und Grüne von insgesamt 43.371.190 gültigen
Zweitstimmen.
Da 43.371.190 = 2 × 5 × 4.337.119 (4.337.119 ist prim), kann der wahre“ Anteil von
”
1.463.376/4.337.119 nur in einer Stichprobe mindestens vom Umfang 4.337.119 gefunden werden.
In einer Stichprobe vom Umfang 1000 ist die Wahrscheinlichkeit, einen Anteil von exakt
1.463.376/4.337.119 zu erhalten, 0.
Angenommen, man hätte eine Stichprobe vom Umfang 4.337.119. Dann ist die Wahrscheinlichkeit, exakt
1.463.376 rot-grün Wähler in der Stichprobe zu haben:
P (X = 1.463.376)
2 Induktive Statistik
=
4.337.119 1.463.376 1.463.376 1.463.376 4.337.119−1.463.376
·
· 1−
1.463.376
4.337.119
4.337.119
=
1.6699 × 10
=
0.00040514 . . .
1.204.175
× 5.6372 × 10
−690.488
× 4.3037 × 10
−513.692
255
Statistik II für Studierende der Soziologie und Nebenfachstudierende
2.3 Intervallschätzung
Konsequenzen:
• Insbesondere Vorsicht bei der Interpretation knapper Ergebnisse“ (z.B. Anteil 50.2%)
”
• Suche Schätzer mit möglichst kleiner Varianz, um im Durchschnitt möglichst nahe dran zu sein“
”
• Es ist häufig auch gar nicht nötig, sich genau auf einen Wert festzulegen. Oft reicht die Angabe eines
Intervalls, von dem man hofft, dass es den wahren Wert überdeckt: Intervallschätzung
Symmetrische Intervallschätzung basierend auf einer Schätzfunktion T = g(X1, . . . , Xn):
I(T ) = [T − a, T + a]
2 Induktive Statistik
256
Statistik II für Studierende der Soziologie und Nebenfachstudierende
2.3 Intervallschätzung
Trade off“ bei der Wahl von a:
”
Je größer man a wählt, also je breiter man das Intervall I(T ) macht, umso größer ist die
Wahrscheinlichkeit, dass I(T ) den wahren Wert überdeckt, aber umso weniger aussagekräftig ist dann
die Schätzung.
Extremfall im Wahlbeispiel: I(T ) = [0, 1] überdeckt sicher π , macht aber eine wertlose Aussage.
⇒ Wie soll man a wählen?
Typisches Vorgehen:
• Man gebe sich durch inhaltliche Überlegungen einen Sicherheitsgrad (Konfidenzniveau) γ vor.
• Dann konstruiert man das Intervall so, dass es mindestens mit der Wahrscheinlichkeit γ den wahren
Parameter überdeckt.
2 Induktive Statistik
257
Statistik II für Studierende der Soziologie und Nebenfachstudierende
2.3 Intervallschätzung
2.3.2 Definition von Konfidenzintervallen:
Gegeben sei eine i.i.d. Stichprobe X1, . . . , Xn zur Schätzung eines Parameters ϑ und eine Zahl
γ ∈ (0; 1). Ein zufälliges Intervall C(X1, . . . , Xn) heißt Konfidenzintervall zum Sicherheitsgrad γ
(Konfidenzniveau γ ), falls für jedes ϑ gilt:
Pϑ(ϑ ∈ C(X1, . . . , Xn) ) ≥ γ.
|
{z
}
zufälliges Intervall
Bem. 2.12.
• Die Wahrscheinlichkeitsaussage bezieht sich auf das Ereignis, dass das zufällige Intervall den festen,
wahren Parameter überdeckt. Streng genommen darf man im objektivistischen Verständnis von
Wahrscheinlichkeit nicht von der Wahrscheinlichkeit sprechen, dass ϑ in dem Intervall liegt“,
”
da ϑ nicht zufällig ist und somit keine Wahrscheinlichkeitsverteilung besitzt. Ein Zurückziehen auf
subjektive Wahrscheinlichkeiten führt aber auch Widersprüche.
• Typischerweise konstruiert man Konfidenzintervalle symmetrisch um einen Schätzer T . Es sind aber
auch manchmal z.B. einseitige Konfidenzintervalle der Form [X̄, X̄ + b] sinnvoll.
2 Induktive Statistik
258
Statistik II für Studierende der Soziologie und Nebenfachstudierende
2.3 Intervallschätzung
2.3.3 Konstruktion von Konfidenzintervallen
Für die Konstruktion praktische Vorgehensweise: Suche Zufallsvariable Zϑ, die
• den gesuchten Parameter ϑ enthält und
• deren Verteilung aber nicht mehr von dem Parameter abhängt, ( Pivotgröße“, dt. Angelpunkt).
”
• Dann wähle den Bereich CZ so, dass Pϑ(Zϑ ∈ CZ ) = γ und
• löse nach ϑ auf.
2 Induktive Statistik
259
Statistik II für Studierende der Soziologie und Nebenfachstudierende
2.3 Intervallschätzung
Konfidenzintervall für den Mittelwert eines normalverteilten Merkmals bei bekannter Varianz:
X1, . . . , Xn i.i.d. Stichprobe gemäß Xi ∼ N (µ, σ 2), wobei σ 2 bekannt sei.
Starte mit der Verteilung von X̄ :
2
X̄ ∼ N (µ, σ /n).
Dann erfüllt
X̄ − µ √
· n ∼ N (0; 1)
Z=
σ
die obigen Bedingungen an eine Pivotgröße.
Bestimme jetzt einen Bereich [−z, z], wobei z so gewählt sei, dass
P (Z ∈ [−z; z]) = γ
2 Induktive Statistik
260
Statistik II für Studierende der Soziologie und Nebenfachstudierende
1−γ
2
@
@
2.3 Intervallschätzung
1−γ
2
γ
@
R
@
-z
0
z
Bestimmung von z :
P (Z ∈ [−z; z]) = γ
⇐⇒
P (Z ≥ z) =
1−γ
2
beziehungsweise
1−γ
2−1+γ
1+γ
=
=
.
2
2
2
Der entsprechende Wert lässt sich aus der Tabelle der Standardnormalverteilung ablesen.
P (Z ≤ z) = 1 −
Typische Beispiele:
2 Induktive Statistik
261
Statistik II für Studierende der Soziologie und Nebenfachstudierende
Die Größe z heißt das
2.3 Intervallschätzung
γ = 90%
1+γ
= 95%
2
z = 1.65
γ = 95%
1+γ
= 97.5%
2
z = 1.96
γ = 99%
1+γ
= 99.5%
2
z = 2.58
1+γ
2 -Quantil
und wird mit z 1+γ bezeichnet.
2
Damit gilt also
P
−z 1+γ ≤ Zµ ≤ z 1+γ
2
2 Induktive Statistik
2
=P
−z 1+γ
2
X̄ − µ
≤
≤ z 1+γ
σ
2
=γ
262
Statistik II für Studierende der Soziologie und Nebenfachstudierende
2.3 Intervallschätzung
Jetzt nach µ auflösen P (. . . ≤ µ ≤ . . .):
γ
=
=
=
P
P
P
z 1+γ · σ
z 1+γ · σ !
2
2
− √
≤ X̄ − µ ≤ √
n
n
z 1+γ · σ
z 1+γ · σ !
2
2
≤ −µ ≤ −X̄ + √
−X̄ − √
n
n
·σ
z
· σ!
z
X̄ −
Damit ergibt sich das Konfidenzintervall
"
z
·σ
X̄ −
2 Induktive Statistik
1+γ
2
√
n
1+γ
2
√
n
≤ µ ≤ X̄ +
1+γ
2
√
n
"
z 1+γ · σ #
z 1+γ · σ #
2
2
, X̄ + √
= X̄ ± √
n
n
263
Statistik II für Studierende der Soziologie und Nebenfachstudierende
2.3 Intervallschätzung
Ceterisparibus-Analyse“: Alle Größen bis auf eine festhalten, diese variieren.
”
Bem. 2.13.
• Je größer σ , desto größer das Intervall! (Größeres σ ⇒ Grundgesamtheit bezüglich des betrachteten
Merkmals heterogener, also größere Streuung von X̄ ⇒ ungenauere Aussagen.)
• Je größer γ , desto größer z 1+γ (Je mehr Sicherheit/Vorsicht desto breiter das Intervall)
√ 2
• Je größer n und damit n, desto schmaler ist das Intervall (Je größer der Stichprobenumfang ist,
desto genauer!)
√
Aufpassen, die Genauigkeit nimmt nur mit n zu. Halbierung des Intervalls, Vervierfachung des
Stichprobenumfangs.
Kann man zur Stichprobenplanung verwenden!
2 Induktive Statistik
264
Statistik II für Studierende der Soziologie und Nebenfachstudierende
2.3 Intervallschätzung
Konfidenzintervall für den Mittelwert eines normalverteilten Merkmals bei unbekannter Varianz:
Neben dem Erwartungswert ist auch σ 2 unbekannt und muss entsprechend durch den UMVU-Schätzer
n
1 X
2
S =
(Xi − X̄) ,
n − 1 i=1
2
√
(mit S = S 2) geschätzt werden. Allerdings ist
Z=
X̄ − µ √
· n
S
jetzt nicht mehr normalverteilt, denn S ist zufällig.
Wir führen deshalb ein neues Verteilungsmodell ein.
2 Induktive Statistik
265
Statistik II für Studierende der Soziologie und Nebenfachstudierende
2.3 Intervallschätzung
t-Verteilung: Gegeben sei eine i.i.d. Stichprobe X1, . . . , Xn mit Xi ∼ N (µ, σ 2). Dann heißt die
Verteilung von
Z=
X̄ − µ √
· n
S
t-Verteilung (oder Student-Verteilung) mit ν = n − 1 Freiheitsgraden. In Zeichen: Z ∼ t(ν).
Wichtige Werte der t-Verteilung sind tabelliert. Angegeben sind, für verschiedene δ , die Lösung tδ der
Gleichung
(ν)
P (Z ≤ tδ ) = δ,
(ν)
wobei tδ von der Anzahl ν der Freiheitsgrade abhängt. tδ ist das δ -Quantil der entsprechenden
t-Verteilung (analog zu zδ als Quantil der Standardnormalverteilung).
Die Dichte einer t-Verteilung ist der Dichte der Standardnormalverteilung sehr ähnlich: Sie ist auch
symmetrisch um 0, besitzt aber etwas höhere Dichte für extreme Werte ( schwerere Enden“).
”
2 Induktive Statistik
266
Statistik II für Studierende der Soziologie und Nebenfachstudierende
2.3 Intervallschätzung
f(x)
0.4
0.3
0.2
0.1
0.0
x
-4
-2
0
(
)
2
(
)
4
(
)
(
)
Dichten von t-Verteilungen für ν = 1 (—), = 2 (· · · ), = 5 (- - -) und = 20 (−−) Freiheitsgrade.
2 Induktive Statistik
267
Statistik II für Studierende der Soziologie und Nebenfachstudierende
2.3 Intervallschätzung
Je größer ν ist, umso ähnlicher sind sich die t(ν)-Verteilung und die Standardnormalverteilung. Für
ν → ∞ sind sie gleich, ab ν = 30 gilt der Unterschied als vernachlässigbar.
√
Je größer n, desto geringer ist der Unterschied zwischen S 2 und σ 2 und damit zwischen X̄−µ
n und
S
√
X̄−µ
n.
σ
Konfidenzintervall zum Konfidenzniveau γ :
Ausgehend von
X̄ − µ √
(n−1)
· n ≤ t 1+γ
P
≤
=γ
S
2
wie im Beispiel mit bekannter Varianz nach µ auflösen (mit S statt σ )
(n−1)
−t 1+γ
2


P X̄ −
(n−1)
t 1+γ
2
·S
√
n
≤ µ ≤ X̄ +
(n−1)
t 1+γ
2
·S
√
n


=γ
Damit ergibt sich das Konfidenzintervall


X̄ ±
2 Induktive Statistik
(n−1)
t 1+γ
2
·S
√
n



268
Statistik II für Studierende der Soziologie und Nebenfachstudierende
2.3 Intervallschätzung
Bem. 2.14.
• Es gelten analoge Aussagen zum Stichprobenumfang und Konfidenzniveau wie bei bekannter Varianz.
• Für jedes γ (und jedes ν ) gilt
t 1+γ > z 1+γ
2
2
also ist das t-Verteilungs-Konfidenzintervall (etwas) breiter.
Da σ 2 unbekannt ist, muss es geschätzt werden. Dies führt zu etwas größerer Ungenauigkeit.
• Je größer ν , umso kleiner ist der Unterschied. Für n ≥ 30 rechnet man einfach auch bei der
t-Verteilung mit z 1+γ .
2
2 Induktive Statistik
269
Statistik II für Studierende der Soziologie und Nebenfachstudierende
2.3 Intervallschätzung
Bsp. 2.15.
Eine Maschine füllt Gummibärchen in Tüten ab, die laut Aufdruck 250g Füllgewicht versprechen. Wir
nehmen im folgenden an, dass das Füllgewicht normalverteilt ist. Bei 16 zufällig aus der Produktion
herausgegriffenen Tüten wird ein mittleres Füllgewicht von 245g und eine Stichprobenstreuung
(Standardabweichung) von 10g festgestellt.
a) Berechnen Sie ein Konfidenzintervall für das mittlere Füllgewicht zum Sicherheitsniveau von 95%.
b) Wenn Ihnen zusätzlich bekannt würde, dass die Stichprobenstreuung gleich der tatsächlichen Streuung
ist, wäre dann das unter a) zu berechnende Konfidenzintervall für das mittlere Füllgewicht breiter
oder schmäler? Begründen Sie ihre Antwort ohne Rechnung.
2 Induktive Statistik
270
Statistik II für Studierende der Soziologie und Nebenfachstudierende
2.3 Intervallschätzung
• Füllgewicht normalverteilt. (µ = 250g nicht benötigt)
• 16 Tüten gezogen ⇒ n = 16.
• Mittleres Füllgewicht in der Stichprobe: x̄ = 245g .
• Stichprobenstreuung: s = 10g .
zu a) Konstruktion des Konfidenzintervalls: Da die Varianz σ 2 unbekannt ist, muss das Konfidenzintervall
basierend auf der t-Verteilung konstruiert werden:
S
[X̄ ± t 1+γ (n − 1) · √ ]
n
2
Aus dem Sicherheitsniveau γ = 0.95 errechnet sich
1+γ
2
= 0.975.
Nachschauen in t-Tabelle bei 0.975 und 15 Freiheitsgraden (T =
Freiheitsgeraden) liefert t0.975 = 2.13.
X̄−µ √
n
S
ist t-verteilt mit n-1
Einsetzen liefert damit
10
] = [239.675; 250.325]
4
zu b) Jetzt sei σ 2 bekannt. Dann kann man mit dem Normalverteilungs-Intervall rechnen:
[245 ± 2.13 ·
σ
[X̄ ± z 1+γ · √ ]
n
2
2 Induktive Statistik
271
Statistik II für Studierende der Soziologie und Nebenfachstudierende
2.3 Intervallschätzung
Da jetzt σ bekannt, ist die Unsicherheit geringer und damit das Konfidenzintervall schmaler.
In der Tat ist z 1+γ < t 1+γ .
2
2
Rechnerisch ergibt sich mit z 1+γ = 1.96 das Konfidenzintervall
2
[240.100; 249.900]
2 Induktive Statistik
272
Statistik II für Studierende der Soziologie und Nebenfachstudierende
2.3 Intervallschätzung
Bsp. 2.16. [Klausurergebnisse (Fiktives Beispiel)]
i
punkte
i
punkte
i
punkte
i
punkte
i
punkte
i
punkte
1
16.5
7
27.5
13
23
19
14
25
19.5
31
35.5
2
16.5
8
22
14
15
20
21
26
18
32
12.5
3
25.5
9
16.5
15
31
21
19.5
27
37.5
33
25
4
25
10
8
16
26
22
17.5
28
15.5
34
25.5
5
20.5
11
33.5
17
13.5
23
36
29
7.5
35
18.5
6
27.5
12
19.5
18
24
24
31.5
30
18
• Mittelwert und Varianz der Grundgesamtheit (alle 35 Klausuren):
µ̂
=
punkte = 21.81
2
=
spunkte = 7.56
σ̂
2
2
• Wir ziehen insgesamt 80 Stichproben vom Umfang n = 5, n = 10, n = 20, n = 35 und
bestimmen Konfidenzintervalle zum Niveau 95%.
2 Induktive Statistik
273
Statistik II für Studierende der Soziologie und Nebenfachstudierende
2.3 Intervallschätzung
5
10
15
20
25
30
35
40
95% KI’s, Stichprobenumfang n=5
5 5 10 10 15 15 20 20 25 25 30 30 35 35 40 40
2
4
6
8
10
12
14
16
18
20
22
24
26
28
30
32
34
36
38
40
42
Stichprobe
44
46
48
50
52
54
56
58
60
62
64
66
68
70
72
74
76
78
80
52
52
54
54
56
56
58
58
60
60
62
62
64
64
66
66
68
68
70
70
72
72
74
74
76
76
78
78
80
80
95% KI’s, Stichprobenumfang n=10
95% KI’s, Stichprobenumfang n=20
2
2
4
4
6
6
8
8
10
10
12
12
14
14
16
16
18
18
20
20
22
22
24
24
26
26
28
28
30
30
32
32
34
34
36
36
38
38
40
42
44
40
42
44
Stichprobe
Stichprobe
46
46
48
48
50
50
25
30
35
40
Punktzahl der Klausur Statistik I: Konfidenzintervalle
für 80 Stichproben
mit jeweiligem Stichprobenum95% KI’s, Stichprobenumfang
n=35
fang n = 5 (oben) und n = 20 (unten).
15
20
2 Induktive Statistik
274
1
5
8
10
12 der
14 Soziologie
16
18
20 und
22
24
26
28
30
32
34
36
Statistik2 II 4für 6Studierende
Nebenfachstudierende
38
40
42
Stichprobe
44
46
48
50
74
76
78
80
2.3 72Intervallschätzung
52
54
56
58
60
62
64
66
68
70
52
54
56
58
60
62
64
66
68
70
5
10
15
20
25
30
35
40
95% KI’s, Stichprobenumfang n=35
2
4
6
8
10
12
14
16
18
20
22
24
26
28
30
32
34
36
38
40
42
Stichprobe
44
46
48
50
72
74
76
78
80
Punktzahl der Klausur Statistik I: Konfidenzintervalle für 80 Stichproben mit jeweiligem Stichprobenumfang n = 35.
2 Induktive Statistik
275
Statistik II für Studierende der Soziologie und Nebenfachstudierende
2.3 Intervallschätzung
55
10
10
15
15
20
20
25
25
30
30
35
35
40
40
95% KI’s,
KI’s, Stichprobenumfang
Stichprobenumfang n=5
n=5
95%
22
44
66
88
10
10
12
12
14
14
16
16
18
18
20
20
22
22
24
24
26
26
28
28
30
30
32
32
34
34
36
36
38
38
40
40
42
42
44
44
Stichprobe
Stichprobe
46
46
48
48
50
50
52
52
54
54
56
56
58
58
60
60
62
62
64
64
66
66
68
68
70
70
72
72
74
74
76
76
78
78
80
80
56
56
58
58
60
60
62
62
64
64
66
66
68
68
70
70
72
72
74
74
76
76
78
78
80
80
55
10
10
15
15
20
20
25
25
30
30
35
35
40
40
KI’s, Stichprobenumfang
n=10bekannt
95% KI’s,95%
Stichprobenumfang
n=5, Varianz
22
44
66
88
10
10
12
12
14
14
16
16
18
18
20
20
22
22
24
24
26
26
28
28
30
30
32
32
34
34
36
36
38
38
40
40
42
42
44
44
Stichprobe
Stichprobe
46
46
48
48
50
50
52
52
54
54
Punktzahl der Klausur Statistik I: Konfidenzintervalle für 80 Stichproben mit Stichprobenumfang n = 5.
Oben ist die Varianz unbekannt, unten als bekannt vorausgesetzt.
2 Induktive Statistik
276
Statistik II für Studierende der Soziologie und Nebenfachstudierende
2.3 Intervallschätzung
• Ergebnis:
– Die Breite der Konfidenzintervalle nimmt mit wachsendem n ab.
– Nicht alle Konfidenzintervalle enthalten den wahren Mittelwert µ = 23.1 (per Konstruktion mit
Wahrscheinlichkeit 5%).
– Die Intervalle mit bekannter Varianz sind im Mittel enger.
– Die Intervalle mit bekannter Varianz sind immer gleich lang.
2 Induktive Statistik
277
Statistik II für Studierende der Soziologie und Nebenfachstudierende
2.3 Intervallschätzung
Approximative Konfidenzintervalle: Ist der Stichprobenumfang groß genug, so kann wegen des
zentralen Grenzwertsatzes das Normalverteilungs-Konfidenzintervall auf den Erwartungswert beliebiger
Merkmale (mit existierender Varianz) angewendet werden. Man erhält approximative Konfidenzintervalle,
die meist auch der Berechnung mit Software zugrundeliegen
Beispiel: Konfidenzintervall für den Anteil π : Seien X1, . . . , Xn i.i.d. mit

1
Xi =
, P (Xi = 1) = π.
0
E(Xi)
=
π
Var(Xi)
=
π · (1 − π)
⇒ E(X̄)
=
π
Var(X̄)
=
π · (1 − π)
n
und approximativ für großes n:
X̄ − π
∼ N (0, 1)
q
π·(1−π)
n
2 Induktive Statistik
278
Statistik II für Studierende der Soziologie und Nebenfachstudierende
2.3 Intervallschätzung
π im Zähler: unbekannter
Anteil = interessierender Parameter
q
π(1−π)
π im Nenner:
unbekannte Varianz von X̄ ; schätzen, indem X̄ für π eingesetzt wird im Nenner
n


γ
≈
X̄ − π

P −z 1+γ ≤ q
2
X̄(1−X̄)
n

=
s
P X̄ − z 1+γ ·
2

≤ z 1+γ 
2
X̄(1 − X̄)
≤ π ≤ X̄ + z 1+γ ·
n
2
s

X̄(1 − X̄)

n
und damit das Konfidenzintervall

s
X̄ ± z 1+γ ·
2

X̄(1 − X̄)

n
Bsp. 2.17. [Wahlumfrage]
Seien n = 500, X̄ = 46.5% und γ = 95%.
z 1+γ = 1.96
2
2 Induktive Statistik
279
Statistik II für Studierende der Soziologie und Nebenfachstudierende
Konfidenzintervall:

s
X̄ ± z 1+γ ·
2

X̄(1 − X̄)

n
2.3 Intervallschätzung

=
0.465 ± 1.96 ·
=
[0.421; 0.508]
s

0.465(1 − 0.465)

500
Inhaltliche Bemerkung
• Man beachte die relativ große Breite, trotz immerhin mittelgroßer Stichprobe
• Zum Sicherheitsniveau 95% ist keine eindeutige Aussage über die Mehrheitsverhältnisse möglich.
Berücksichtigen, wenn man über Wahlumfrage urteilt
• In der Praxis sind aber Wahlumfragen etwas genauer, da man Zusatzinformation verwendet
(insbesondere auch frühere Wahlergebnisse) Gebundene Hochrechnung“
”
2 Induktive Statistik
280