Mathematische und statistische Methoden II statistische Methoden II

Werbung
Statistik &
Methodenlehre
e ode e e
Prof. Dr. G. Meinhardt
6. Stock, Wallstr. 3
((Raum 06-206))
Sprechstunde jederzeit
nach Vereinbarung und
nach der Vorlesung.
g
Mathematische und
statistische Methoden II
Dr. Malte Persike
} [email protected]
http://psymet03.sowi.uni-mainz.de/methods/
SS 2010
Fachbereich Sozialwissenschaften
Psychologisches Institut
Johannes Gutenberg Universität Mainz
Statistik &
Methodenlehre
e ode e e
Multiplikations
satz
Mengenlehre
Wk-Theorie
Stochastische Unabhängigkeit
Wenn gilt:
p(B) = p(B | A)
Wechselseitigkeit
Gegenereignisse
werden die Ereignisse A und B stochastisch unabhängig
genannt, weil die Wahrscheinlichkeit des Auftretens des
Ereignisses B nicht vom Auftreten von A abhängt.
Setzen wir die rechte Seite der Gleichung in das
Multiplikationstheorem ein, erhalten wir:
p(A
(A ∩ B) = p(B
(B | A) p(A)
(A) = p(A)
(A) p(B)
(B)
Kurz:
p(A ∩ B) = p(A) P(B)
Multiplikationssatz für stoch. unabh. Ereignisse
Statistik &
Methodenlehre
e ode e e
Multiplikations
satz
Wechselseitigkeit
Gegenereignisse
Mengenlehre
Wk-Theorie
Stochastische Unabhängigkeit
Verallgemeinerung des Multiplikationssatzes
Wenn die Ereignisse A1, A2, … Ak insgesamt unabhängig
sind, so gilt
p(A1∩A2∩…
∩ ∩Ak) = p(A1))·p(A
p(A2))·… ·p(A
p(Ak)
Achtung:
g Die Disjunktheit
j
von Ereignissen
g
hat mit der
stochastischen Unabhängigkeit nichts zu tun.
A und B sind disjunkt (A ∩ B = {∅}).
Wenn aber A eingetreten ist,
verändert sich
p(B) zu p(B) / p(Ω \ A),
wird also größer, solange A ≠ {∅}.
A
B
Ω
Statistik &
Methodenlehre
e ode e e
Multiplikations
satz
Mengenlehre
Wk-Theorie
Stochastische Unabhängigkeit
Wechselseitigkeit
Wir haben beim Multiplikationstheorem gesehen,
gesehen dass
Wechselseitigkeit
Gegenereignisse
p(A ∩ B) = p(B | A) p(A) = p(A | B) p(B)
Und beim Multiplikationssatz, dass für ein von A stochastisch unabhängiges Ereignis B [also p(B) = p(B | A)] gilt:
p(A ∩ B) = p(A) p(B)
Ei
Einsetzen
t
der
d zweiten
it Gleichung
Gl i h
in
i die
di erste
t führt
füh t zu
p(A | B) p(B) = p(A) p(B)
also
p(A | B) = p(A)
Also: Ist B von A unabhängig, so ist es auch A von B.
Statistik &
Methodenlehre
e ode e e
Multiplikations
satz
Mengenlehre
Wk-Theorie
Stochastische Unabhängigkeit
Gegenereignisse
Nach de Morgans Gesetzen gilt:
Wechselseitigkeit
Gegenereignisse
A∪ B = A∩ B
A∩ B = A∪ B
Damit lässt sich zeigen, dass
p ( A ∩ B ) = p ( A) ⋅ p ( B )
p ( A ∩ B ) = p ( A) ⋅ p ( B )
p ( A ∩ B ) = p ( A) ⋅ p( B )
A
B
Wenn also die Ereignisse A und B stochastisch unabhängig
sind, so sind es auch ihre Gegenereignisse und alle Paarungen
daraus.
Statistik &
Methodenlehre
e ode e e
Definition
Diskrete Verteilungen
Stetige Verteilungen
Diskrete Zufallsvariablen
Definition
Bernoulli
Experimente
Binomialvert.
Poisson Vert.
Eine Zufallsvariable,
Ei
Z f ll
i bl die
di abzählbar
b ählb viele
i l Werte
W t
annehmen kann (in endlich oder unendlich vielen
Ausprägungen), wird als diskrete
Zufallsvariable bezeichnet
Das Ereignis, dass die diskrete Zufallsvariable X
eine bestimmte (die i-te) Ausprägung annimmt,
wird bezeichnet als X = xi
Die Wk für X = xi wird als p(X = xi) oder kurz pi
bezeichnet
pi ist eine Punktwahrscheinlichkeit
Statistik &
Methodenlehre
e ode e e
Definition
Diskrete Verteilungen
Diskrete Zufallsvariablen
Übersicht
Bernoulli
Experimente
Binomialvert.
Poisson Vert.
Stetige Verteilungen
Statistik &
Methodenlehre
e ode e e
Definition
Diskrete Verteilungen
Stetige Verteilungen
Diskrete Zufallsvariablen
Wahrscheinlichkeitsverteilung
Bernoulli
Experimente
Binomialvert.
Poisson Vert.
Die Verteilung der p(X = xi) wird als diskrete
Wahrscheinlichkeitsverteilung bezeichnet.
Sie beschreibt theoretische Punktwahrscheinlichkeiten und wird definiert als
⎧ p( X = xi ) = pi falls x i ∈ { x1 … xk }
f ( x) = ⎨
0 sonst
⎩
Wert von X
p(X = xi)
x1
x2
p(x1) p(x2)
…
xi
p(xi)
…
xk
p(xk)
Statistik &
Methodenlehre
e ode e e
Definition
Diskrete Verteilungen
Stetige Verteilungen
Diskrete Zufallsvariablen
Verteilungsfunktion
Bernoulli
Experimente
Binomialvert.
Die Verteilung der P(X ≤ xm) wird als Verteilungsfunktion
der Zufallsvariablen X oder kumulierte Wahrscheinlichkeitsverteilung bezeichnet.
Sie beschreibt theoretische Intervallwahrscheinlichkeiten und wird definiert als
m
Poisson Vert.
F ( x) = p( X ≤ xm ) = p1 + p2 + … + pm = ∑ pi
i =1
Wert von X
p(X ≤ xi)
x1
x2
p(x1)
p(x1) + p(x2)
…
xm
… p(x1) + p(x2) + … + p(xm)
Statistik &
Methodenlehre
e ode e e
Definition
Diskrete Verteilungen
Stetige Verteilungen
Diskrete Zufallsvariablen
Häufigkeit und Wahrscheinlichkeit
Bernoulli
Experimente
Binomialvert.
Poisson Vert.
Die empirische beobachtete Häufigkeit des
Auftretens einer Realisation X = xi in einem
Z fallse pe iment wird
Zufallsexperiment
i d als h(X = xi) geschrieben.
gesch ieben
h(X = xi) wird auch als absolute Häufigkeit
bezeichnet.
g
f(X = xi) ist dann
f(
Die relative Häufigkeit
definiert als der Quotient aus absoluter Häufigkeit
und der Anzahl n aller Versuche, also
f(X = xi) = h(X = xi) / n
Statistik &
Methodenlehre
e ode e e
Definition
Diskrete Verteilungen
Stetige Verteilungen
Diskrete Zufallsvariablen
Zusammenfassung Notation
Bernoulli
Experimente
Relative Häufigkeit eines Wertes x:
Binomialvert.
h ( x)
Absolute Häufigkeit eines Wertes x:
(n = Anzahl aller Werte)
h( x)
f ( x) =
n
((Empirische
p
Häufigkeitsverteilung)
g
g)
Poisson Vert.
Kumulierte absolute Häufigkeit
bis zu einer Schranke u:
Relative kumulierte Häufigkeit
bis zu einer Schranke u:
H ( u ) = ∑ h ( xi ) xi ≤ u
(
)
(
)
i
F ( u ) = ∑ f ( xi ) xi ≤ u
i
(Empirische Verteilungsfunktion)
Statistik &
Methodenlehre
e ode e e
Definition
Diskrete Verteilungen
Stetige Verteilungen
Diskrete Zufallsvariablen
Theoretische und empirische Wk-Verteilung
Bernoulli
Experimente
Die empirische
Di
i i h Häufigkeitsverteilung
Hä fi k it
t il
f( ) und
f(x)
d die
di
Wahrscheinlichkeitsverteilung p(x) sind konzeptuell
strikt zu trennen
Binomialvert.
Die empirische Verteilungsfunktion und die
Verteilungsfunktion
g
einer Zufallsvariablen sind
ebenfalls konzeptuell strikt zu trennen
Poisson Vert.
Die theoretischen Verteilungen bedürfen keiner
Daten, denn sie sind gegeben
Die theoretischen Verteilungen bestimmen
bestimmen, was
für die empirischen Verteilungen zu erwarten ist
Statistik &
Methodenlehre
e ode e e
Definition
Diskrete Verteilungen
Stetige Verteilungen
Folgen
g
unabhängiger
g g Ereignisse
g
Bernoulli Experimente
Bernoulli
Experimente
Kann ein Zufallsexperiment mehrfach unter demselben
Komplex Ξ durchgeführt werden und sind die einzelnen
Versuche stochastisch unabhängig, so spricht man von einem
Bernoulli Versuch.
Binomialvert.
Poisson Vert.
Wenn eine einzelne Durchführung die Ergebnisse x1, x2 … xk
ergeben kann und diesen Realisierungen die
Wahrscheinlichkeiten p(x1), p(x2), …, p(xk) zugeordnet sind, so
ist die Wahrscheinlichkeit einer bestimmten Folge von n
Zi h
Ziehungen
n
px1 , x2 ... xn = p ( x1 ) ⋅ p ( x2 ) ⋅… ⋅ p ( xn ) = ∏ p ( xi )
i =1
Statistik &
Methodenlehre
e ode e e
Definition
Diskrete Verteilungen
Stetige Verteilungen
Folgen
g
unabhängiger
g g Ereignisse
g
Bernoulli Experimente
Bernoulli
Experimente
Der Stichprobenraum Ω eines Bernoulli Experimentes
umfasst alle möglichen Folgen der Ergebnisse der einzelnen
Ziehungen.
Binomialvert.
Beispiel: Eine Münze wird 20 Mal geworfen
Wurf Nr.
Poisson Vert.
Ergebnis
x
1
Kopf
0
2
Kopf
0
3
Zahl
1
4
Kopf
0
5
Z hl
Zahl
1
…
…
…
Ein Elementarereignis
Statistik &
Methodenlehre
e ode e e
Definition
Diskrete Verteilungen
Stetige Verteilungen
Diskrete Wk-Verteilungen
g
Binomialverteilung
Bernoulli
Experimente
Der Stichprobenraum Ω eines Bernoulli Experimentes
umfasst alle möglichen Folgen der Ergebnisse der einzelnen
Ziehungen.
Binomialvert.
Für ein Bernoulli Experiment mit 2 disjunkten Ergebnissen gelte
Poisson Vert.
n
m
p
q
sei
sei
sei
sei
die
die
die
die
Anzahl aller Versuche mit Zurücklegen
g
Anzahl günstiger Ergebnisse in den n Ziehungen
Wk für jedes m
Wk der übrigen
g n-m Ergebnisse,
g
also, q = 1 - p
⎛ n ⎞ m n−m
f (m, n, p ) = ⎜ ⎟ p q
⎝m⎠
Dies ist die
Binomialverteilung
Statistik &
Methodenlehre
e ode e e
Definition
Diskrete Verteilungen
Stetige Verteilungen
Inferenzstatistik – Primer
Das Prinzip des statistischen Testens
Bernoulli
Experimente
Binomialvert.
Poisson Vert.
Gustav Fechner, Urvater der Experimentellen Psychologie,
entwickelte
t i k lt zentrale
t l Methoden
M th d der
d modernen
d
Psychophysik
P h h ik
mit genau einem Ziel: den Beweis zu führen, dass Pflanzen
eine Seele haben.
Er perfektionierte eine Methode der Mikrostimulation, auf die
hin er eine biologische Reaktion und bei Pflanzen nachweisen
wollte. Eine solche Reaktion wäre der Beleg, dass Pflanzen
fühlen können. Damit wäre es zum Denken und schließlich
zur Seele nicht mehr weit.
Fechner führte insgesamt nn=24576
24576 Messungen von ReizReaktionsmusters bei Pflanzen durch.
Angenommen, Pflanzen zeigen die gewünschte Reaktion
auch
h ohne
h Stimulation
Sti l ti (d.h.
(d h zufällig)
fälli ) mit
it einer
i
Wahrscheinlichkeit von p=.25. Fechner möge eine Reaktion in
m=6306 Fällen finden. Haben Pflanzen eine Seele?
Statistik &
Methodenlehre
e ode e e
Definition
Diskrete Verteilungen
Stetige Verteilungen
Inferenzstatistik – Primer
Das Prinzip des statistischen Testens
Bernoulli
Experimente
Binomialvert.
Poisson Vert.
Wenn die Wahrscheinlichkeitsfunktion eines
Zufallsexperimentes theoretisch bekannt ist, können die
bei einer Durchführung erwarteten empirischen
Häufigkeiten bestimmt werden.
werden
Beobachtete absolute oder relative Häufigkeiten können
dann mit den erwarteten Häufigkeiten verglichen werden.
Wenn eine beobachtete Häufigkeit „zu unwahrscheinlich“
ist,, um unter der gegebenen
g g
Wahrscheinlichkeitsfunktion
zu entstehen, kann die Wahrscheinlichkeitsfunktion als
nicht zutreffend betrachtet werden.
Entweder sind dann ihre Parameter falsch definiert oder
die Funktion selbst ist nicht zutreffend.
Statistik &
Methodenlehre
e ode e e
Definition
Diskrete Verteilungen
Stetige Verteilungen
Inferenzstatistik – Primer
Das Prinzip des statistischen Testens – Binomialtest
Bernoulli
Experimente
Binomialvert.
Poisson Vert.
Grundgedanke: Eine beobachtete Häufigkeit m in
einem Bernoulli Experiment sollte im Bereich „typischer“
erwarteter Häufigkeiten liegen.
Diese erwarteten
Di
t t Häufigkeiten
Hä fi k it hä
hängen b
beii
binomialverteilten Zufallsvariablen von der Anzahl der
Versuche n und den Auftretenswahrscheinlichkeiten p
und q ab.
ab
Problem: Allein aufgrund der zufälligen Ziehung wird
die beobachtete Häufigkeit schwanken
(Stichprobenfehler).
Frage: Wie extrem muss eine beobachtete Häufigkeit
sein, damit wir begründet annehmen können, dass diese
Beobachtung „nicht passt“?
Statistik &
Methodenlehre
e ode e e
Definition
Diskrete Verteilungen
Stetige Verteilungen
Inferenzstatistik – Primer
Das Prinzip des statistischen Testens – Binomialtest
Bernoulli
Experimente
Binomialvert.
Die Häufigkeitsverteilung einer binomialverteilten
V i bl ist
Variablen
i t bekannt,
b k
t sie
i lässt
lä t sich
i h durch
d h eine
i
mathematische Formel beschreiben
⎛ n ⎞ m n−m
f ( m, n , p ) = ⎜ ⎟ p q
⎝m⎠
Daraus sind die erwarteten Häufigkeiten zu berechnen
berechnen.
Poisson Vert.
Beim statistischen Testen fragen wir niemals nach der
Punktwahrscheinlichkeit sondern immer nach
Punktwahrscheinlichkeit,
Intervallwahrscheinlichkeiten, z.B.
f ( X ≤ xi )
→ Ein so kleiner oder noch kleinerer Wert
f ( X ≥ xi )
→ Ein so großer oder noch größerer Wert
1 − f ( xi < X < x j ) → Ein so extremer oder noch extremerer Wert
Statistik &
Methodenlehre
e ode e e
Definition
Diskrete Verteilungen
Stetige Verteilungen
Inferenzstatistik – Primer
Das Prinzip des statistischen Testens – Binomialtest
Bernoulli
Experimente
Ist die berechnete Wahrscheinlichkeit zu klein, ist die
Beobachtung einer so extremen Häufigkeit vermutlich
nicht zufällig, sondern systematisch.
Die Beobachtung ist dann statistisch signifikant.
signifikant
Binomialvert.
Problem: Wie klein ist „zu unwahrscheinlich“?
Poisson Vert.
Hier haben sich in der Praxis zwei Cut-Off Werte
eingebürgert, die als α–Niveaus oder
Signifikanzniveaus bezeichnet werden.
Es gilt:
α ≥ 0.05
α < 00.05
05
α < 0.01
→ statistisch nicht signifikant
→ statistisch signifikant
→ statistisch hochsignifikant
Statistik &
Methodenlehre
e ode e e
Definition
Diskrete Verteilungen
Stetige Verteilungen
Inferenzstatistik – Primer
Das Prinzip des statistischen Testens – Binomialtest
Bernoulli
Experimente
In einem Experiment
p
mit einer angenommenen
g
Binomialverteilung f(m, n=24576, p=0.25) erhalte man
ein m=6306.
Binomialvert.
Man berechnet
M
b
h t nun die
di Auftretenswahrscheinlichkeit
A ft t
h h i li hk it
p(X ≥ m) unter der Annahme, dass die angenommene
Häufigkeitsverteilung gilt.
Poisson Vert.
Es sei p=0.008.
Nach unseren Konventionen würden wir auf jedem αNi
Niveau
sagen, dass
d
m signifikant
i ifik t ist.
i t
Aber Achtung: Das m=6306 hat eine
Auftretenswahrscheinlichkeit von p(m)
p(m)=00.008.
008.
Mit diesem p kann es also auch dann vorkommen, wenn
die angenommene Binomialverteilung zutrifft.
Statistik &
Methodenlehre
e ode e e
Definition
Diskrete Verteilungen
Stetige Verteilungen
Inferenzstatistik – Primer
Das Prinzip des statistischen Testens – Binomialtest
Bernoulli
Experimente
Binomialvert.
Poisson Vert.
Die Aussage,
g , ein m sei statistisch signifikant,
g
, ist eine
Wahrscheinlichkeitsaussage bei der immer ein
Restirrtum verbleibt, die Irrtumswahrscheinlichkeit.
Diese Irrtumswahrscheinlichkeit hängt nicht von der
konkret erhaltenen Wahrscheinlichkeit p ab, sondern vom
gewählten Signifikanzniveau α.
Bei α=0.05 beträgt die Irrtumswahrscheinlichkeit also
5%, bei α=0.01 ist sie 1%.
Praxis: In der Praxis wird α demzufolge entweder als
α–Niveau, Signifikanzniveau oder auch
Irrtumswahrscheinlichkeit bezeichnet.
bezeichnet
Statistik &
Methodenlehre
e ode e e
Definition
Diskrete Verteilungen
Stetige Verteilungen
Inferenzstatistik – Primer
Das Prinzip des statistischen Testens – Binomialtest
Bernoulli
Experimente
Beobachtung im Experiment: X=m
Frage: Kann m aus einer bestimmten Verteilung stammen?
Geht die Höhe der Häufigkeit auf einen Stichprobenfehler zurück?
Binomialvert.
(1) Bestimmung der Verteilung der Zufallsvariablen X
((2)) Festlegung
g g eines Signifikanzniveaus
g
α
Poisson Vert.
(3) Berechnung der Wahrscheinlichkeit für dieses oder ein
extremeres m: z. B. p(X≥m)
(4) Vergleich von p mit α und
Treffen der Signifikanzaussage
Aber: Bei dieser
Aussage irrt man
sich mit einer
Wahrscheinlichkeit
von α·100%
Statistik &
Methodenlehre
e ode e e
Definition
Diskrete Verteilungen
Stetige Verteilungen
Diskrete Wk-Verteilungen
g
Poisson Verteilung
Bernoulli
Experimente
Binomialvert.
Poisson Vert.
Für ein Bernoulli Experiment mit 2 disjunkten Ergebnissen gelte
Die Wahrscheinlichkeit, dass ein Ereignis in einem
bestimmten Zeitintervall auftritt, sei λ.
Die Wahrscheinlichkeit
Di
W h h i li hk i des
d Eintretens
Ei
von m Ereignissen
E i i
in einem Zeitintervall ist nur von der Länge des Intervalls
abhängig, nicht von seiner Lage auf der Zeitachse
Ereignisse sind stochastisch unabhängig
Die Wahrscheinlichkeit für das Eintreten von m Ereignissen in
einem Zeitintervall ist dann
e−λ λ m
f (m, λ ) =
m!
Poisson Verteilung
g
(e = Eulersche Zahl; 2.718)
Statistik &
Methodenlehre
e ode e e
Definition
Diskrete Verteilungen
Stetige Verteilungen
Diskrete Wk-Verteilungen
g
Poisson Verteilung
Bernoulli
Experimente
e−λ λ m
f (m, λ ) =
m!
Binomialvert.
λ wird
i d auch
h als
l Intensitätsparameter
I t
ität
t der
d PoissonP i
Poisson Vert.
Verteilung bezeichnet
Anders als die Binomialverteilung ist die PoissonPoisson
Verteilung unendlich abzählbar.
Statistik &
Methodenlehre
e ode e e
Definition
Diskrete Verteilungen
Stetige Verteilungen
Diskrete Wk-Verteilungen
g
Poisson Verteilung als Approximation der Binomialvert.
Bernoulli
Experimente
Wenn n groß ist und p klein,
klein ist die Bestimmung von
Wahrscheinlichkeiten aus der Binomialverteilung
mathematisch aufwändig.
Binomialvert.
Die Poisson-Verteilung approximiert die
Binomialverteilung für seltene Ereignisse sehr gut
Poisson Vert.
Dabei wird angenommen, dass λ = n·p
e − n⋅ p ( n ⋅ p ) m ⎛ n ⎞ m
f (m, n ⋅ p ) =
≈ ⎜ ⎟ p (1 − p ) n − m = f (m, n, p )
m!
⎝m⎠
Poisson
Binomial
Statistik &
Methodenlehre
e ode e e
Definition
Diskrete Verteilungen
Stetige Verteilungen
Diskrete Wk-Verteilungen
g
Poisson Verteilung als Approximation der Binomialvert.
Bernoulli
Experimente
Die Poisson Verteilung wird wegen ihrer Nähe zur
Binomialverteilung mit kleinem p auch häufig als
Verteilung für seltene Ereignisse bezeichnet.
bezeichnet
Binomialvert.
Poisson Vert.
Hier ist streng zu unterscheiden zwischen einer kleinen
Wahrscheinlichkeit p und einer theoretisch beliebig
großen Anzahl der seltenen Ereignisse n·p.
Die Güte der Approximation bezieht sich auf den
relativen Approximationsfehler, d.h. den Quotienten
aus der Binomial-Wk und der Poisson-Wk
Statistik &
Methodenlehre
e ode e e
Relevante Excel Funktionen
Diskrete Wahrscheinlichkeitsverteilungen
• BINOMVERT()
• POISSON()
oder EXP() und POTENZ() bzw.
bzw ^ ((„hoch
hoch“))
• SUMME()
Herunterladen
Explore flashcards