Page 1 - Informatik

Vorlesungsunterlage
Statistik und Wahrscheinlichkeitstheorie
für Informatiker
(Teil: Wahrscheinlichkeitsrechnung)
(WS 07/08)
Wahrscheinlichkeit
X Grundmenge
xi Elemente von X
vorläufige Fassung
Elementarereignisse
pi oder p( xi )
Elementarwahrscheinlichkeiten
A.Prof. Dr. Erich Neuwirth
Universität Wien
Institut für
Scientific Computing
A⊂ X
Ereignis
P( A) Wahrscheinlichkeit
des Ereignisses A
P( A) =
∑ p( xi )
xi ∈A
[email protected]
Wahrscheinlichkeit
P( A) ≥ 0
P( X ) = 1
Wahrscheinlichkeit
f : X → Y Abbildung
∀A ⊂ X
Wahrscheinlichkeit auf X
P
B⊂Y
P( A ∪ B) = P( A) + P( B) für A ∩ B = ∅
Pf ( B) = P( f −1 ( B)) =
Wahrscheinlichkeit
„
„
„
Wahrscheinlichkeit
Sehr oft gibt es einen Grundraum X, in dem
alle Elementarereignisse gleich
wahrscheinlich sind
Das ist der Grund der klassischen Definition
Wahrscheinlichkeit =
∑ p( xi )
f ( xi )∈B
„
„
Anzahl der günstigen Fälle
Anzahl der möglichen Fälle
Die Grundidee ist Anteil einer Untergruppe an
einer Gesamtpopulation
Page 1
Allerdings wird dann oft ein nichtinjektives f
angewendet und Pf untersucht
Für dieses Pf sind dann die neuen
Elementarereignisse nicht mehr gleich
wahrscheinlich und die klassische Definition
stimmt nicht
Bedingte Wahrscheinlichkeiten
Bedingte Wahrscheinlichkeiten
„
P Wahrscheinlichkeit auf X
A, B ⊂ X
P( A| B) =
P( A ∩ B)
P( B)
B
heißt bedingte Wahrscheinlichkeit
von A gegeben B
Bedingte Wahrscheinlichkeiten
„
„
nAB
n
nB
n
=
„
P( A ∩ B)
P( B)
Die Tabelle mit den Wahrscheinlichkeiten
sieht dann so aus:
B
B
A P( A ∩ B) P( A ∩ B ) P( A)
A P( A ∩ B) P( A ∩ B ) P( A )
1
P( B)
P( B )
„
Bedingte Wahrscheinlichkeiten
„
B
A n AB
A n AB
n AB
n AB
nA
nA
nB
nB
n
Bedingte Wahrscheinlichkeiten
Der Anteil der (A und B) Ereignisse an allen A
Ereignissen ist dann
nAB =
nb
Das dahinterliegende Modell siegt so aus:
Seien A und B Ereignisse, und nA, nB und nAB
die zugeordneten absoluten Häufigkeiten,
dann können wir folgende Tabelle aufstellen
In vielen praktischen Problemen steht man
oft vor folgender Situation:
Man kennt die Wahrscheinlichkeiten für den
Versuchsausgang eines Experiments erster
Stufe, und wenn man einmal weiß, wie dieses
erste Experiment ausgegangen ist, dann
kennt man auch die Wahrscheinlichkeiten für
den Versuchsausgang eines zweiten
Experiments.
Gesucht sind die Wahrscheinlichkeiten für
den Ausgang des zusammengesetzten
Experiments
Bedingte Wahrscheinlichkeiten
Wir stellen das in folgenden Tabellen dar
„
„
p-Tabelle hat Spaltensumme 1
q-Tabelle hat Zeilensumme 1 für jede Zeile
Dann hat die folgende Tabelle
Gesamtsumme 1 (über alle Zeilen und
Spalten)
y1
y2
yn
y2
q ( x1 , y2 )
q ( x2 y2 )
yn
q ( x1 , yn )
q ( x2 , yn )
„
x1
p ( x1 ) q ( x1 , y1 )
p ( x1 ) q ( x1 , y2 )
p ( x1 ) q ( x1 , yn )
q ( xm , yn )
x2
p ( x2 ) q ( x2 , y1 )
p ( x2 ) q ( x2 y2 )
p ( x2 ) q ( x2 , yn )
xm
p ( xm ) q ( xm , y1 )
p ( xm ) q ( xm , y 2 )
p ( xm ) q ( xm , yn )
x1
x2
p ( x1 )
p ( x2 )
x1
x2
y1
q ( x1 , y1 )
q ( x2 , y1 )
xm
p ( xm )
xm
q ( xm , y1 ) q ( xm , y2 )
Page 2
Wahrscheinlichkeitskern
Wahrscheinlichkeitskern
Gegeben sind 2 Wahrscheinlichkeitsräume
X (mit Wahrscheinlichkeit P auf X
„
„
Dabei ist das Q(x,B) für einelementige
Mengen B das q(xi,yj)
und mit Elementwahrscheinlichkeiten p)
Y
für jedes x ∈ X eine Wahrscheinlichkeit Q auf Y
Q( x, B) für B ⊂ Y
„
Dann konstruieren wir eine neue
Wahrscheinlichkeit
P ( A × B) =
∑ p( x)Q( x, B)
x ∈A
Wahrscheinlichkeitskern
„
Wahrscheinlichkeitskern
Diese Konstruktion modelliert
„
Es besteht jedoch ein Zusammenhang
zwischen Kern und bedingter
Wahrscheinlichkeit
P ({x} × B|{x}) = Q( x, B)
„
Wir können also aus „bedingten
Wahrscheinlichkeiten mit elementaren
Bedingungen“ eine Wahrscheinlichkeit
konstruieren, die diese bedingten
Wahrscheinlichkeiten als Sonderfall ergibt
– Übergangswahrscheinlichkeiten
– Sequentielle Prozesse, bei denen das zweite Experiment
vom Ausgang des ersten abhängt
„
Wahrscheinlichkeitskerne sind keine
bedingten Wahrscheinlichkeiten,
weil das „Bedingungsargument“ bei einem
Kern nur ein Element des Wahrscheinlichkeitsraums sein kann, bei der bedingten
Wahrscheinlichkeit jedoch eine Teilmenge
des Wahrscheinlichkeitsraums
Satz von der totalen
Wahrscheinlichkeit
Wahrscheinlichkeitskern
„
„
Diese Definition ist konsistent, weil für
beliebiges x, y gilt
p( x, y) = P ({( x, y)}) = p( x)Q( x,{y})
Für dieses p gilt dann
∑ p( x, y) = ∑ ∑ p( x )Q( x,{y})
x ∈X , y∈Y
n
X = ∪ Ai ,
i =1
n
P( B) = ∑ P( B| Ai ) P( Ai )
i =1
x ∈X y∈Y
=
∑ p( x ) ∑ Q( x,{y})
x ∈X
=
Ai ∩ Aj = ∅ für i ≠ j
y∈Y
∑ p( x ).1
x ∈X
=1
Page 3
Satz von Bayes
Satz von Bayes
„
n
X = ∪ Ai ,
Ai ∩ Aj = ∅ für i ≠ j
i =1
P( Ai | B) =
P( B| Ai ) P( Ai )
n
∑ P( B| Aj ) P( Aj )
j =1
„
Kombinatorische
Grundaufgaben
Permutationen
„
„
2 Dinge lassen sich in 2 Reihenfolgen
bringen, 3 Dinge in 3x2 Reihenfolgen, 4 Dinge
in 4x3x2 Reihenfolgen usw.
Daher definieren wir
„
„
n
n! = ∏ i
„
(ausgesprochen als „n Fakultät“ oder
„n faktorielle“)
Zusatzdefinition:
„
0!=1
Kombinatorische
Grundaufgaben
„
„
„
Gegeben sind eine bestimmte Anzahl von
Objekten, die zur Auswahl stehen (n)
Daraus wird eine bestimmte Anzahl
ausgewählt (k)
Wir müssen dabei unterscheiden:
– Reihenfolge spielt eine Rolle (Variationen) oder
Reihenfolge spielt keine Rolle (Kombinationen)
– Wiederholungen sind erlaubt oder
Wiederholungen sind verboten
i =1
„
Lockere Interpretation
Wenn wir unter verschiedenen Bedingungen
die Wahrscheinlichkeiten von Ereignissen
kennen, dann können wir nach einem
Experiment die Wahrscheinlichkeit der
Bedingung ausrechnen
Allerdings wird dabei vorausgesetzt, daß der
Begriff Wahrscheinlichkeit der Bedingung
sinnvoll ist, daß es also insbesondere eine
gemeinsame Wahrscheinlichkeitsverteilung
gibt
Also gibt es 4 kombinatorische
Grundaufgaben
Kombinatorische
Grundaufgaben
Variationen mit Wiederholung
4 aus 6 hat folgende Beispiele:
1234
1356
3156
1223
2123
2222
Alle angeführten „Folgen“ sind „legal“ und
auch tatsächlich verschieden
„
„
„
Also gibt es für den ersten Platz 6
Möglichkeiten, ebenso für den 2. Platz usw.
Insgesamt gibt es daher für 4 aus 6
64 verschiedene „Folgen“ oder Variationen.
Für n Objekte und k Plätze gibt es
Möglichkeiten
Page 4
n
k
Kombinatorische
Grundaufgaben
„
Kombinatorische
Grundaufgaben
Reihenfolge zählt, Wiederholungen erlaubt
Objekte
1
2
3
4
5
1
1
2
3
4
5
Plätze
3
2
„
4
f1 ( n,1) = n
5
f1 ( n, k ) = n f1 ( n, k − 1)
*
Kombinatorische
Grundaufgaben
„
„
„
Reihenfolge zählt, Wiederholungen erlaubt
Kombinatorische
Grundaufgaben
Variationen ohne Wiederholung
4 aus 6 hat folgende Beispiele:
1234
1356
3156
1223
2123
2222
Alle nicht durchgestrichenen „Folgen“ sind
„legal“ und auch tatsächlich verschieden
„
„
„
Also gibt es für den ersten Platz 6
Möglichkeiten, für den 2. Platz 5
Möglichkeiten, für den 3. Platz 4
Möglichkeiten usw.
Insgesamt gibt es daher für 4 aus 6
6x5x4x3 verschiedene „Folgen“ oder
Variationen.
Für n Objekte und k Plätze gibt es
n ( n − 1). .. ( n − k + 1)
Möglichkeiten
Kombinatorische
Grundaufgaben
„
Kombinatorische
Grundaufgaben
Reihenfolge zählt, Wiederholungen verboten
Objekte
1
2
3
4
5
1
1
2
3
4
5
2
Plätze
3
4
„
Reihenfolge zählt, Wiederholungen verboten
f2 ( n,1) = n
5
f2 ( n, k ) = ( n − k + 1) f2 ( n, k − 1)
*( - )
Page 5
Kombinatorische
Grundaufgaben
„
„
„
Kombinatorische
Grundaufgaben
Kombinationen ohne Wiederholung
4 aus 6 hat folgende Beispiele:
1234
1356
3156
Alle angeführten „Folgen“ sind „legal“ und
auch tatsächlich verschieden
Wir zählen nur aufsteigend geordnete Folgen,
so vermeiden wir Doppelzählungen
„
„
„
„
Kombinationen ohne Wiederholung
Jede „4 aus 5“-Folge ist gleichzeitig eine
unechte „4 aus 6“-Folge
Jede echte „4 aus 6“-Folge ist eine
„3 aus 5“-Folge, an den hinten ein 6er
angefügt wurde
Daher gibt es so viele „4 aus 6“-Folgen, wie
es „3 aus 5“-Folgen und „4 aus 5“-Folgen
zusammen gibt
Kombinatorische
Grundaufgaben
„
Kombinatorische
Grundaufgaben
Reihenfolge zählt nicht, Wiederholungen
verboten
Objekte
1
2
3
4
5
6
1
1
2
3
4
5
6
2
0
Plätze
3
4
0
0
5
0
„
Reihenfolge zählt nicht, Wiederholungen
verboten
f3 ( n,1) = n
6
0
f3 (1, k ) = 0 für alle k > 1
f3 ( n, k ) = f3 ( n − 1, k ) + f3 ( n − 1, k − 1) sonst
+
Kombinatorische
Grundaufgaben
„
„
„
„
Kombinatorische
Grundaufgaben
Kombinationen ohne Wiederholung
Jeder „4 aus 6“ entsteht, indem in einen
„3 aus 6“ eine noch nicht verwendete Zahl
an passender Stelle eingefügt wird
Dafür gibt es (6-3) Möglichkeiten
Allerdings wird dann jeder „4 aus 6“ auf 4
Arten erzeugt. Daher müssen wir diese Zahl
noch durch 4 dividieren
„
Kombinationen ohne Wiederholung
Objekte
1
2
3
4
5
Page 6
1
1
2
3
4
5
2
Plätze
3
* ( - )/
4
5
Kombinatorische
Grundaufgaben
„
Kombinatorische
Grundaufgaben
Kombinationen ohne Wiederholung
„
f 3 ( n ,1) = n
„
f 3 ( n , k ) = f ( n , k − 1)
„
( n − k + 1)
⎛ n⎞
n!
⎜ ⎟=
⎝ k ⎠ k !(n − k )!
für k > 1
k
Daraus folgt
f3 ( n, k ) =
„
n ( n − 1)...( n − k + 1)
1.2.3... k
=
n!
k !(n − k )!
Kombinatorische
Grundaufgaben
„
„
„
(Binomialkoeffizienten)
Es gilt
⎛ n ⎞ ⎛ n − 1⎞ ⎛ n − 1 ⎞
⎜ ⎟=⎜
⎟+⎜
⎟
⎝ k ⎠ ⎝ k ⎠ ⎝ k − 1⎠
Kombinatorische
Grundaufgaben
Kombinationen mit Wiederholung
4 aus 6 hat folgende Beispiele:
1234
1356
3156
1122
Alle angeführten „Folgen“ sind „legal“ und
auch tatsächlich verschieden
Wir zählen nur aufsteigend (besser:
nichtfallend) geordnete Folgen, so
vermeiden wir Doppelzählungen
„
„
„
„
Kombinatorische
Grundaufgaben
„
Kombinationen ohne Wiederholung
Man definiert
Kombinationen mit Wiederholung
Jede „4 aus 5“-Folge ist gleichzeitig eine
unechte „4 aus 6“-Folge
Jede echte „4 aus 6“-Folge ist eine
„3 aus 6“-Folge, an den hinten ein 6er
angefügt wurde (weil Wiederholungen
erlaubt sind, wird beim Verkürzen aus einer
„4 aus 6“-Folge nicht immer eine
„3 aus 5“-Folge)
Daher gibt es so viele „4 aus 6“-Folgen, wie
es „3 aus 6“-Folgen und „4 aus 5“-Folgen
zusammen gibt
Kombinatorische
Grundaufgaben
Reihenfolge zählt nicht, Wiederholungen
erlaubt
Objekte
1
2
3
4
5
6
1
1
2
3
4
5
6
2
1
Plätze
3
4
1
1
f 4 ( n,1) = n
5
1
6
1
f 4 (1, k ) = 1 für alle k > 1
f 4 ( n, k ) = f 4 ( n − 1, k ) + f 4 ( n, k − 1) sonst
+
Page 7
Kombinatorische
Grundaufgaben
„
Kombinatorische
Grundaufgaben
Reihenfolge zählt nicht, Wiederholungen
erlaubt
Objekte
1
2
3
4
5
6
1
1
2
3
4
5
6
„
Reihenfolge zählt nicht, Wiederholungen
nicht erlaubt
Plätze
3
4
5
6
1
1
1
1
4
5
6
7
10
15
21
28
20
35
56
84
35
70 126 210
56 126 252 462
2
1
3
6
10
15
21
Objekte
1
2
3
4
5
6
Kombinatorische
Grundaufgaben
ohne Wiederholung
O b j.
1
2
3
4
5
6
1
1
2
3
4
5
6
2
0
1
3
6
10
15
Plä tze
3
4
0
0
0
0
1
0
4
1
10
5
20 15
5
0
0
0
0
1
6
O b j.
1
2
3
4
5
6
1
1
2
3
4
5
6
2
1
3
6
10
15
21
ohne Wiederholung
Plä tze
3
4
5
6
1
1
1
1
4
5
6
7
10 15 21 28
20 35 56 84
35 70 126 210
56 126 252 462
O b j.
1
2
3
4
5
6
Kombinatorische
Grundaufgaben
ohne Wiederholung
O b j.
1
2
3
4
5
6
1
1
2
3
4
5
6
2
0
1
+
3
0
1
+
4
0
1
0
1
1
O b j.
1
2
3
4
5
6
1
1
2
3
4
5
6
2
1
+
5
0
0
0
0
1
6
6
0
0
0
0
0
1
1
1
2
3
4
5
6
2
0
Plä tze
3
4
0
0
5
0
+
+
mit Wiederholung
6
0
O b j.
1
2
3
4
5
6
1
1
2
3
4
5
6
2
1
+
Plä tze
3
4
1
1
+
Kombinatorische
Grundaufgaben
mit Wiederholung
5
0
Plätze
3
4
0
0
0
0
1
0
4
1
10
5
20
15
2
0
1
3
6
10
15
Kombinatorische
Grundaufgaben
mit Wiederholung
6
0
0
0
0
0
1
1
1
2
3
4
5
6
3
1
4
1
5
1
ohne Wiederholung
mit Wiederholung
f3 ( n , k )
f4 (n, k )
f4 (n, k ) = f3 (n + k − 1, k )
6
1
+
Page 8
5
1
6
1
Kombinatorische
Grundaufgaben
„
Kombinatorische
Grundaufgaben
Reihenfolge zählt nicht, Wiederholungen
erlaubt
Wiederholungen
ohne
⎛ n + k −1⎞
⎜
⎟
⎝ k ⎠
ohne
Reihen
folge
⎛ n ⎞
⎜ ⎟
⎝ k ⎠
mit
⎛ n + k − 1⎞
⎜
⎟
⎝ k ⎠
n (n −1)...(n − k +1)
mit
⎛ n⎞
= ⎜ ⎟k!
⎝k ⎠
n
k
Ein
Wahrscheinlichkeitsexperiment
Ein
Wahrscheinlichkeitsexperiment
Ein
Wahrscheinlichkeitsexperiment
Ein
Wahrscheinlichkeitsexperiment
Page 9
Ein
Wahrscheinlichkeitsexperiment
Ein
Wahrscheinlichkeitsexperiment
W a h rsc h e in lic h ke it
0
1
2
3
4
St u fe Re c h t s?
0 IF(RA N D ()<=
1
2
3
4
5
5
Ein
Wahrscheinlichkeitsexperiment
0.6
,1,0)
Ein
Wahrscheinlichkeitsexperiment
W a h rsc h e in lic h ke it
W a h rsc h e in lic h ke it
St u fe Re c h t s?
0
1
2
3
4
5
St u f e Re c h t s?
0
1
2
3
4
5
6
7
8
9
10
0.6
0
1
1
1
0
0
+
Wahrscheinlichkeitsmodell
p
St u fe
0
1
2
3
4
5
1-p
0
1p
p
4
1
0
1
1
1
1
0
0
0
1
0
1
1
2
3
4
5
5
5
5
6
Diese Zelle
wird über
viele Versuche
protokolliert
Wahrscheinlichkeitsmodell
0.6
n a c h re c h t s
1
2
3
0 .6
0.6
Stu fe
0
0
1
1 (1- )*
2
3
4
5
5
Page 10
n a c h re c h ts
1
2
3
4
5
Wahrscheinlichkeitsmodell
p
Wahrscheinlichkeitsmodell
0.6
p
St u fe
0
1
2
3
4
5
0
1
0.4
0.16
0.064
0.0256
0.0102
n a c h re c h ts
1
2
3
4
na c h re c hts
Stufe
0
1
2
3
4
5
0
1
1
0.4
0.6
0
0
0
0
2
0.16
0.48
0.36
0
0
0
3
0.064 0.288 0.432 0.216
0
0
4 0.0256 0.1536 0.3456 0.3456 0.1296
0
5 0.01024 0.0768 0.2304 0.3456 0.2592 0.07776
5
* + (1- )*
Binomialverteilung Binomialkoeffizienten
Wahrscheinlichkeitsmodell
„
0.6
Tabellendarstellung als Formel:
f (n,0) = 1. f (n − 10
, )
p(n,0) = (1 − p) p(n − 10
, )
p(n, k) = p. p(n − 1, k − 1) + (1 − p). p(n − 1, k) für k > 0
f (n, k ) = 1. f (n − 1, k − 1) + 1. f (n − 1, k ) für k > 0
p(n,0) = (1 − p) p(n − 10
, )
p(n, k) = p. p(n − 1, k − 1) + (1 − p). p(n − 1, k) für k > 0
„
Dieser Verteilung heißt Binomialverteilung
Binomialverteilung Binomialkoeffizienten
Formelvergleich
⎛n⎞
f (n, k ) = ⎜ ⎟
⎝k⎠
f (n,0) = 1. f (n − 10
, )
f (n, k ) = 1. f (n − 1, k − 1) + 1. f (n − 1, k ) für k > 0
daher
p(n,0) = (1 − p) p(n − 10
, )
p(n, k) = p. p(n − 1, k − 1) + (1 − p). p(n − 1, k) für k > 0
⎛ n⎞
p ( n, k ) = ⎜ ⎟ p k (1 − p ) n − k
⎝k⎠
Es besteht folgender Zusammenhang zwischen
f (.,.) und p(.,.)
⎛ p ⎞
p ( n, k ) = f ( n, k )(1 − p ) n ⎜
⎟
⎝ 1− p ⎠
k
Page 11
Erwartungswert und Varianz
Erwartungswert und Varianz
E ( X ) = ∑ iP( X = i ) = ∑ ipi
i
E ( X + Y ) = E ( X ) + E (Y )
E(αX ) = αE( X )
i
⎛
⎞
V ( X ) = ∑ i 2 P( X = i ) − ⎜ ∑ iP( X = i ) ⎟
i
⎝ i
⎠
2
V ( X + Y ) = V ( X ) + V (Y ) + cov( X , Y )
σ (αX ) =| α | σ ( X )
cov( X , Y ) = ∑ ijP( X = i, Y = j ) − E( X ) E(Y )
σ (X ) = V (X )
i, j
cov( X , Y ) = 0
wenn X und Y unabhängig
dann gilt
V ( X + Y ) = V ( X ) + V (Y )
σ ( X + Y ) = σ 2 ( X) + σ 2 ( X)
Eigenschaften
Eigenschaften
„
n
n
i =1
i =1
n
n
i =1
i =1
wenn alle Verteilungen gleich sind
n
E(∑ Xi ) = ∑ E( Xi )
E(∑ Xi ) = nE( X1 )
i =1
n
V (∑ Xi ) = ∑ V ( Xi )
V (∑ Xi ) = nV ( Xi )
i =1
n
σ (∑ Xi ) = nσ ( Xi )
i =1
Rechnen mit Varianzen
Hypergeometrische Verteilung
V ( X ) = E ( X − E ( X )2 )
„
„
Zufallsvariable X mit E ( X ) = 0
„
heißen zentrierte Zufallsvariable
Y = X − E ( X ) ist immer zentriert
Page 12
insgesamt N Kugeln, davon M weiß
eine Teilmenge vom Umfang n wird
ausgewählt
Wir groß ist die Wahrscheinlichkeit, genau m
weiße Kugeln zu ziehen?
Hypergeometrische Verteilung
Binomialverteilung
M
N
⎛n⎞ m
n−m
P(m weiße Kugeln)= ⎜ ⎟ p (1 − p )
⎝m⎠
p=
⎛ M ⎞⎛ N − M ⎞
⎜ ⎟⎜
⎟
⎝ m ⎠⎝ n − m ⎠
⎛N⎞
⎜ ⎟
⎝n⎠
⎛ n ⎞⎛ M ⎞ ⎛ M ⎞
= ⎜ ⎟ ⎜ ⎟ ⎜1 − ⎟
N⎠
⎝ m⎠⎝ N ⎠ ⎝
m
Binomialverteilung
„
Vergleich
Andere Berechnungsart
⎛ M ⎞⎛ N − M ⎞
M!
( N − M )!
⎜ ⎟⎜
⎟
⎝ m ⎠⎝ n − m ⎠ = m!(M − m)! (n − m)!( N − M − (n − m))!
N!
⎛N⎞
⎜ ⎟
n!( N − n)!
⎝n⎠
n!
M (M −1)(M − m +1)( N − M )( N − M −1)( N − M − (n − m) + 1)
=
m!(n − m)!
N ( N −1)...( N − n + 1)
pn (0 ) = (1 − p) n
pn ( k ) = pn ( k − 1)
p n − k +1
k
1− p
⎛ n ⎞ M M −1 M − m +1 N − M N − M −1 N − M − (n − m) + 1
...
...
=⎜ ⎟
N − n +1
⎝ m ⎠ N N −1 N − m + 1 N − m N − m −1
⎛n⎞ m
≈ ⎜ ⎟ p (1− p)n−m
⎝ m⎠
Noch einmal
„
n−m
Noch einmal
Wir ziehen n Kugeln (in Reihenfolge).
Wie groß ist die Wahrscheinlichkeit, m weiße
Kugeln zu bekommen, wenn die Reihenfolge
keine Rolle spielt und es insgesamt N Kugeln
udn darunter M weiße Kugeln gibt
„
Wir definieren
Fallende faktorielle Potenzen:
N(n)=N(N-1)...(N-n+1)
„
„
Also ein Produkt aus n Faktoren
Das sind Kombinationen mit Wiederholung
Es gilt natürlich
⎛N⎞
N (n) = ⎜ ⎟ n !
⎝n⎠
Page 13
Noch einmal
„
„
„
„
„
Noch einmal
Wieviele Folgen mit m weißen Kugeln
(niedrigen Nummern) und n-m schwarzen
Kugeln (hohen Nummern) gibt es dann.
Einfacher Fall: alle weißen Kugeln zuerst
M(m)(N-M)(n-m) solche Folgen gibt es
Außerdem kann man zu jeder solchen Folge
insgesamt ⎜⎛⎝ mn ⎟⎞⎠ Folgen bilden, wo genau die
Kugeln mit denselben Nummern auftreten
n
Daher gibt es insgesamt ⎛⎜ ⎞⎟ M ( m ) ( N − M )( n − m )
⎝ m⎠
solche Folgen
„
Elementare Umformung zeigt
⎛ n ⎞ (m)
⎛ M ⎞⎛ N − M ⎞
( n−m )
⎜ ⎟ M (N − M )
⎜ ⎟⎜
⎟
m
n−m ⎠
⎝ m⎠
= ⎝ ⎠⎝
(n)
N
⎛N⎞
⎜ ⎟
⎝n⎠
Neues Beispiel
„
„
„
„
„
Neues Beispiel
Augensumme beim Würfeln
Zwei unabhängige Experimente mit
derselben Verteilung
P(X=1)=P(X=2)= =P(X=6)=1/6
P(Y=1)=P(Y=2)= =P(Y=6)=1/6
Gefragt
P((X+Y)=1)=?
P((X+Y)=2)=? .....
P( X + Y = k ) =
∑ P( X = l ) P(Y = k − l )
l
Faltung
„
„
∑ P( X = i) P(Y = k )
i+ j =k
Faltung
Faltung zweier
Wahrscheinlichkeitsverteilungen
n-fache Faltung
„
„
Page 14
Erwartungswert
E(X+Y)=E(X)+E(Y)
Varianz (wegen Unabhängigkeit)
V(X+Y)=V(X)+V(Y)
Rechnen mit Varianzen
Tschebyscheff-Ungleichung
E (Y ) = 0
E(Y 2 ) = ∑ i 2 P(Y = i )
P(| Y | ≥ t ) ≤ t12 E(Y 2 )
i
bzw.
wir ersetzen alle i mit | i| < t durch 0
P(| X − E( X )| ≥ t ) ≤ t12 V ( X )
und alle i mit | i| ≥ t durch t
dann gilt
∑ i 2 P(Y = i) ≥∑ t 2 P(Y = i) = t 2 P(| Y | ≥ t )
i ≥t
i
und daher
P(| Y | ≥ t ) ≤ t12 E(Y 2 )
Mittelwerte und Summen
X=
Mittelwerte
n
1
n
∑X
i =1
i
X i unabhängig, identisch verteilt
P (| X − μ | ≥ ε ) ≤
E( X ) = μ
V (X ) = σ 2
E( X ) = μ
V ( X ) = 1n σ 2
σ (X ) =
1
n
σ
⎛ n
⎞
E ⎜ ∑ X i ⎟ = nμ
⎝ i =1 ⎠
⎛ n
⎞
V ⎜ ∑ X i ⎟ = nσ 2
⎝ i =1 ⎠
⎛ n
⎞
σ ⎜ ∑ Xi ⎟ = σ n
⎝ i =1 ⎠
Gesetz der großen Zahlen
„
1 σ2
ε2 n
Zentraler Grenzwertsatz
Wenn Sn die Verteilung einer Summe von n
unabhängigen identischen
Wahrscheinlichkeitsverteilungen mit
Erwartungswert E ist, dann gilt
„
lim P(| Sn − E| ≥ ε ) = 0
n
n →∞
„
Page 15
Wenn Sn die Verteilung einer Summe von n
unabhängigen identischen
Wahrscheinlichkeitsverteilungen mit
Erwartungswert E und Varianz σ 2 ist, dann gilt
näherungsweise
lim P( Sn − nE ≤ x) = Φ( x)
n→∞
σ n
Dabei ist Φ( x) die Verteilungsfunktion der
Standardnormalverteilung
Anwendung
„
Anwendung
Ziehen ohne Zurücklegen
„
– Wir ziehen aus den Zahlen {1,2,...n} k Zahlen
– Reihenfolge spielt eine Rolle
– Jede noch vorhandenen Zahl ist gleich wahrscheinlich
„
Dann ist für jede Folge der Länge k die
Wahrscheinlichkeit, gezogen zu werden
k!
1
=
n(n − 1)...( n − k + 1) ⎛ n ⎞
⎜ ⎟
⎝k⎠
k
1 1 ... 1
1
=
n n −1 n − k +1 ∏
i =1 n − k + i
„
Erwartungswert und Varianz
„
Für eine Wahrscheinlichkeitsverteilung mit
p(xi)=pi definieren wir
„
Wenn Sn die Verteilung einer Summe von n
unabhängigen identischen
Wahrscheinlichkeitsverteilungen mit
Erwartungswert E ist, dann gilt
lim P(| Sn − E| ≥ ε ) = 0
n
i
σ 2 = ∑ ( xi − E )2 pi
n →∞
i
Zentraler Grenzwertsatz
„
Also ist Ziehen ohne Zurücklegen und
Vergessen der Reihenfolge gleichwertig mit
Kombinationen („eine Handvoll auf einmal“)
Gesetz der großen Zahlen
E = ∑ xi pi
„
Wenn wir jetzt noch die Reihenfolge
„vergessen“, dann werden k! Folgen auf
dieselbe „Kombination“ abgebildet, daher ist
die Wahrscheinlichkeit, bestimmte k Zahlen
zu erhalten
Wenn Sn die Verteilung einer Summe von n
unabhängigen identischen
Wahrscheinlichkeitsverteilungen mit
Erwartungswert E und Varianz σ 2 ist, dann gilt
näherungsweise
lim P( Sn − nE ≤ x) = Φ( x)
n→∞
σ n
Dabei ist Φ( x) die Verteilungsfunktion der
Standardnormalverteilung
Page 16