2 Wahrscheinlichkeitsrechnung

Statistik für Wirtschaftsingenieure
Fachhochschule Jena
Sommersemester 2013
Dipl. Math. Marcel Schmidt
Formelsammlung Teil 2 - Stochastik
2
2.1
Wahrscheinlichkeitsrechnung
Zufällige Ereignisse und Wahrscheinlichkeiten
Zufallsexperiment: Experiment, dessen mögliche Versuchsausgänge bekannt sind, dessen konkretes Ergebnis aber nicht vorhersagbar ist.
Grundraum Ω: Menge aller möglichen Versuchsausgänge eines Zufallsexperiments.
Zufälliges Ereignis A: Teilmenge vom Grundraum, d.h. A ⊆ Ω.
Das zufällige Ereignis A tritt ein bei Durchführung des Zufallsexperimentes, wenn der konkrete
Versuchsausgang ω zu A gehört (d.h. ω ∈ A).
Elementarereignis: einelementige Teilmenge von Ω, {ω} ⊆ Ω
sicheres Ereignis: Ω, tritt immer ein bei Durchführung des Zufallsexperimentes
unmögliches Ereignis: ∅, tritt nie ein bei Durchführung des Zufallsexperimentes
Zufällige Ereignisse sind Mengen!
Übertragung von Operationen für Mengen auf zufällige Ereignisse:
A⊆B
C =A∪B
D =A∩B
E =A\B
Ac = Ω \ A
A zieht B nach sich, d.h.,
wenn A eintritt, dann tritt auch B ein.
Summe der Ereignisse A und B, d.h.
C tritt genau dann ein, wenn mindestens eins der Ereignisse A, B eintritt.
Analog für C = A1 ∪ ... ∪ An .
Produkt der Ereignisse A und B, d.h.
D tritt genau dann ein, wenn beide Ereignisse A, B eingetreten sind.
Analog für D = A1 ∩ ... ∩ An .
Differenz der Ereignisse, d.h.
E tritt genau dann ein, wenn A eintritt und B nicht eintritt.
Die Differenz ist nicht kommutativ, d.h. A \ B 6= B \ A.
komplementäres Ereignis (Gegenereignis), d.h.
Ac tritt genau dann ein, wenn A nicht eintritt.
Es gilt: A ∪ Ac = Ω , A ∩ Ac = ∅ , (Ac )c = A ,
(A ∪ B)c = Ac ∩ B c , (A ∩ B)c = Ac ∪ B c ,
A \ B = A ∩ Bc ,
(A ∪ B) ∩ C = (A ∩ C) ∪ (B ∩ C) , (A ∩ B) ∪ C = (A ∪ C) ∩ (B ∪ C) .
1
Zwei Ereignisse A und B heißen disjunkt (unvereinbar), wenn sie nicht gleichzeitig eintreten
können, d.h. A ∩ B = ∅.
Ein Mengensystem F heißt Ereignisfeld zum Grundraum Ω, wenn gilt:
1. Ω ∈ F .
2. Wenn A ∈ F =⇒ Ac ∈ F .
3. Wenn A, B ∈ F =⇒ A ∪ B ∈ F .
1. Klassische Definition der Wahrscheinlichkeit (Laplace):
Voraussetzungen Laplace-Prinzip:
• Endlicher Grundraum Ω = {ω1 , ..., ωn } bestehend aus n möglichen Versuchsausgängen und
• alle Versuchsausgänge sind gleichberechtigt hinsichtlich der Chance ihres Eintretens
bei Durchführung des Zufallsexperimentes.
Dann gilt für k ≤ n und A = {ωi1 , ..., ωik } ⊆ Ω
P(A) =
Anzahl günstiger Fälle für das Eintreten von A
k
=
n
Anzahl aller möglichen Fälle
Damit gilt für die Elementarereignisse: P({ω1 }) = ... = P({ωn }) =
1
n
.
.
Kombinatorische Grundlagen: Urnenmodell
Ziehen aus einer Urne mit n Kugeln k-Stück. Es gibt folgende Anzahlen von Möglichkeiten:
mit Beachtung der Reihenfolge
ohne Beachtung der Reihenfolge
Dabei gilt
n
k
=
n!
k!(n−k)!
mit Zurücklegen
nk
n+k−1
ohne Zurücklegen
k
n!
(n−k)!
n
k
= Anzahl k-elementiger Teilmengen einer n-elementigen Menge
2. Axiomatische Definition der Wahrscheinlichkeit (Kolmogorov):
Für einen Grundraum Ω mit Ereignisfeld F heißt ein Funktion P : F −→ [0, 1], die jedem
A ∈ F eine reelle Zahl P(A) zuordnet, Wahrscheinlichkeit (Wahrscheinlichkeitsmaß),
wenn gilt:
Axiom 1:
Axiom 2:
Axiom 3:
0 ≤ P(A) ≤ 1 für alle A ∈ F .
P(Ω) = 1 .
Für A, B ∈ F mit A ∩ B = ∅ gilt
P(A ∪ B) = P(A) + P(B) (Additivität).
Das Tripel [Ω, F, P] heißt Wahrscheinlichkeitsraum.
Aus den Axiomen werden weitere Eigenschaften von P abgeleitet:
1. P(∅) = 0 ,
2
2. P(Ac ) = 1 − P(A) für alle A ∈ F ,
3. P(A) ≤ P(B) für A, B ∈ F mit A ⊆ B ,
4. P(B \ A) = P(B) − P(A ∩ B) für alle A, B ∈ F und
P(B \ A) = P(B) − P(A) für A, B ∈ F mit A ⊆ B ,
5. P(A ∪ B) = P(A) + P(B) − P(A ∩ B) für alle A, B ∈ F ,
6. P(A) = P({ωi1 }) + ... + P({ωik }) für A ∈ F mit A = {ωi1 , ..., ωik }
Bedingte Wahrscheinlichkeit:
Es sei [Ω, F, P] ein Wahrscheinlichkeitsraum und A, B ∈ F seien zwei zufällige Ereignisse mit
P(B) > 0.
Dann ist die bedingte Wahrscheinlichkeit des Eintretens von A unter der Bedingung B gegeben
P(A ∩ B)
P(A|B) =
.
durch
P(B)
Multiplikationssatz:
Für zwei Ereignisse A, B gilt:
P(A ∩ B) = P(A|B) · P(B) = P(B|A) · P(A)
Für n Ereignisse A1 , ..., An gilt:
P(A1 ∩ ... ∩ An ) = P(A1 ) · P(A2 |A1 ) · P(A3 |A1 ∩ A2 ) · ... · P(An |A1 ∩ ... ∩ An−1 )
Unabhängigkeit von zufälligen Ereignissen:
Zwei Ereignisse A, B heißen stochastisch unabhängig, wenn gilt
P(A ∩ B) = P(A) · P(B)
Die Ereignisse A1 , ..., An heißen vollständig unabhängig, wenn für jede Teilmenge bestehend
aus k Ereignissen Ai1 , ...Aik , 2 ≤ k ≤ n, i1 , ..., ik ∈ {1, ..., n} gilt:
P(Ai1 ∩ ... ∩ Aik ) = P(Ai1 ) · ... · P(Aik )
Formel der totalen Wahrscheinlichkeit:
Es sei A1 , ..., An ein vollständiges System zufälliger Ereignisse, d.h.
A1 ∪ ... ∪ An = Ω,
Ai ∩ Aj = ∅ für alle i, j ∈ {1, ..., n} mit i 6= j und
P(Ai ) > 0 für alle i = 1, ..., n.
Dann gilt für das Ereignis B ∈ F
P(B) = P(B|A1 ) · P(A1 ) + ... + P(B|An ) · P(An )
.
Formel von Bayes:
Unter obigen Voraussetzungen gilt für B ∈ F mit P(B) > 0 und für i = 1, ..., n
P(Ai |B) =
P(B|Ai ) · P(Ai )
P(B|Ai ) · P(Ai )
= Pn
P(B)
k=1 P(B|Ak ) · P(Ak )
3
.
2.2
Zufallsgrößen und ihre Verteilungen
Zufallsgröße: Eine Zufallsgröße X : Ω −→ R ist eine Funktion, die jedem
Versuchsausgang ω ∈ Ω eine reelle Zahl X(ω) zuordnet.
(Außerdem muß für alle t ∈ R gelten X −1 ((−∞, t]) ∈ F.)
Verteilungsfunktion: Für eine Zufallsgröße X heißt die Funktion FX : R −→ [0, 1] mit
FX (x) = P(X ≤ x)
Verteilungsfunktion der Zufallsgröße X.
Die Verteilungsfunktion FX hat folgende Eigenschaften:
• lim FX (x) = 0 ,
x→−∞
lim FX (x) = 1 .
x→∞
• FX ist monoton wachsend.
• FX ist rechtsseitig stetig.
Umgekehrt ist jede Funktion mit diesen Eigenschaften Verteilungsfunktion einer Zufallsgröße.
2.2.1
Diskrete Zufallsgrößen
Eine Zufallsgröße X heißt diskret, wenn X endlich viele Werte x1 , ..., xn oder abzählbar unendlich Werte x1 , x2 , ... hat.
Verteilung von X: Auf den Werten x1 , x2 , . . . von X wird durch
PX ({xi }) = P(X = xi )
ein Wahrscheinlichkeitsmaß definiert. Dieses heißt Verteilung von X. Man schreibt X ∼ PX .
Verteilungsfunktion von X:
FX (x) = P (X ≤ x) =
X
P(X = xk )
k:xk ≤x
Die Verteilungsfunktion einer diskreten Zufallsgröße ist eine Treppenfunktion mit Sprungstellen
x1 , x2 , ... und Sprunghöhe pk an Sprungstelle xk für k = 1, ..., n bzw. k = 1, 2, ...
Erwartungswert EX von X:
EX =
n
X
xk · P(X = xk ) bzw. EX =
k=1
(EX existiert, wenn
∞
X
∞
X
xk · P(X = xk )
k=1
|xk | · P(X = xk ) < ∞.) Varianz (Streuung) VX von X:
k=1
2
VX = E(X − EX) =
n
X
k=1
4
(xk − EX)2 · P(X = xk )
Andere Berechnungsvorschrift: VX =
n
X
x2k · P(X = xk ) − (EX)2 .
k=1
Analoge Formeln, wenn X abzählbar unendlich viele Werte annehmen kann.
√
Standardabweichung: VX
2.2.2
Stetige Zufallsgrößen
Eine Zufallsgröße X heißt stetig, falls sich die Verteilungsfunktion FX schreiben läßt als:
Zx
FX (x) =
pX (t)dt,
−∞
wobei pX eine reellwertige nichtnegative Funktion ist. Man nennt dann pX Dichte der Zufallsgröße X.
Die Dichte pX hat folgende Eigenschaften:
Z∞
•
pX (t)dt = 1
−∞
• FX0 (x) = pX (x) für alle Stetigkeitsstellen x von FX .
• Für x1 < x2 gilt:
Zx2
P(x1 < X ≤ x2 ) = P(X ≤ x2 ) − P(X ≤ x1 ) = FX (x2 ) − FX (x1 ) =
pX (t)dt
x1
Z∞
x · pX (x)dx
EX =
Erwartungswert EX von X:
−∞
Z∞
VX =
Varianz VX von X:
(x − EX)2 · pX (x)dx
−∞
Z∞
|x| · pX (x)dx < ∞.)
(Erwartungswert und Varianz existieren, falls
Standardabweichung:
−∞
√
VX
Quantile xq von X:
Für eine stetige Zufallsgröße X mit Verteilungsfunktion FX und Dichte pX und für q mit
0 < q < 1 heißt die reelle Zahl xq Quantil der Ordnung q (q-Quantil), wenn gilt:
Zxq
FX (xq ) = P(X ≤ xq ) =
pX (t)dt = q .
−∞
5
Für q = 0.5 heißt das 0.5-Quantil x0.5 Median von X.
Eigenschaften von Erwartungswert und Varianz diskreter und stetiger Zufallsgrößen:
Für zwei Zufallsgrößen X, Y und reelle Zahlen a, b ∈ R gilt:
E(aX + b) = aEX + b ,
V(aX + b) = a2 VX ,
E(X + Y ) = EX + EY .
Für zwei unabhängige Zufallsgrößen X, Y gilt außerdem:
E(X · Y ) = EX · EY ,
V(X + Y ) = VX + VY .
2.2.3
Spezielle diskrete Zufallsgrößen
1. Diskrete Gleichverteilung auf x1 , ..., xn
P(X = x1 ) = ... = P(X = xn ) =
Erwartungswert:
EX = n1 (x1 + ... + xn )
Varianz:
VX = n1 (x21 + ... + x2n ) −
1
(x1
n2
1
n
+ ... + xn )2
2. Hypergeometrische Verteilung Parameter M, N, n ∈ N mit M ≤ N und n ≤ N
P(X = m) =
M
m
N −M
·
n−m
N
n
M
N
M
N
Erwartungswert:
EX = n ·
Varianz:
VX = n ·
Schreibweise:
X ∼ HN,M,n
· (1 −
M
)
N
für m = 0, 1, ..., n
mit m ≤ M und m ≥ n + M − N
· (1 −
n−1
)
N −1
Modell: Aus einer Urne mit N Kugeln, von denen M weiß und N −M schwarz sind, werden
nach dem Laplace-Prinzip n Kugeln entnommen (ohne Zurücklegen). Die Zufallsgröße X,
die die Anzahl entnommener weißer Kugeln zählt, ist hypergeometrisch verteilt.
3. Binomialverteilung Parameter n ∈ N und p ∈ [0, 1]
P(X = k) =
n
k
pk (1 − p)n−k
Erwartungswert:
EX = n · p
Varianz:
VX = n · p · (1 − p)
6
für k = 0, 1, ..., n
Schreibweise:
X ∼ Bn,p
Modell: Ein zufälliges Ereignis A tritt mit Wahrscheinlichkeit p bei Durchführung eines
Zufallsexperiments ein. Dieses Experiment wird n mal unabhängig voneinander unter
gleichen Bedingungen durchgeführt. Die Zufallsgröße X, die zählt, wie oft das Ereignis A
eintritt, ist binomialverteilt.
Dieses Modell entspricht dem Urnenmodell und Ziehen von Kugeln mit Zurücklegen.
4. Poisson-Verteilung
Parameter λ > 0
P(X = k) =
Erwartungswert:
EX = λ
Varianz:
VX = λ
Schreibweise:
X ∼ Pλ
λk −λ
·e
k!
für k = 0, 1, ...
Anwendung: Man betrachtet Ereignisse, die unabhängig voneinander eintreten, z.B Telefonanrufe in einer Zentrale, zerfallende Atomkerne einer radioaktiven Substanz, Verkehrsunfälle an einer Kreuzung. Im Mittel treten λ solcher Ereignisse in einem Zeitraum ein.
Die Zufallsgröße X, die die Anzahl eintretender Ereignisse zählt, ist poisson-verteilt.
Zusammenhang Binomialverteilung - Poissonverteilung:
Für großes n und kleines p (Faustregel: n ≥ 100, n·p ≤ 9) kann man die Poisson-Verteilung
mit Parameter λ = n · p als Näherung für die Binomialverteilung verwenden.
5. Geometrische Verteilung
Parameter p ∈ (0, 1)
P(X = k) = (1 − p)k−1 · p für k = 1, 2, ...
Erwartungswert:
EX =
1
p
Varianz:
VX =
1−p
p2
Modell: Ein zufälliges Ereignis A tritt mit Wahrscheinlichkeit p bei Durchführung eines
Zufallsexperiments ein. Die Zufallsgröße X, die die Versuche bis zum ersten Eintreten von
A zählt, ist geometrisch verteilt.
2.2.4
Spezielle stetige Zufallsgrößen
1. Stetige Gleichverteilung im Intervall [a, b]

x < a oder b ≤ x
 0
Dichte pX (x):
pX (x) =
1

a≤x<b
b−a
7




0
x−a
FX (x) =

a

 b−
1
Verteilungsfunktion FX (x):
Erwartungswert:
EX =
a+b
2
Varianz:
VX =
(b−a)2
12
x<a
a≤x<b
b≤x
Schreibeweise: X ∼ Ua,b
2. Normalverteilung
Parameter µ ∈ R und σ > 0
Dichte pX (x):
(x−µ)2
1
pX (x) = √ · e− 2σ2
σ 2π
Erwartungswert:
EX = µ
Varianz:
VX = σ 2
Schreibweise:
X ∼ N (µ, σ 2 )
Standardabweichung: σ
Die zugehörige Verteilungsfunktion FX (x) = Φµ,σ2 (x) kann nicht explizit angegeben werden.
Wichtiger Spezialfall: µ = 0 und σ 2 = 1.
N (0, 1) heißt Standardnormalverteilung.
Die Verteilungsfunktion Φ0,1 der Standardnormalverteilung ist in tabellarischer Form gegeben (siehe unten).
x−µ
Φµ,σ2 (x) = Φ0,1
.
Es gilt folgender Zusammenhang:
σ
Φ0,1 (−x) = 1 − Φ0,1 (x) für alle x ∈ R .
Für die Standardnormalverteilung gilt:
Berechnung von Wahrscheinlichkeiten für X ∼ N (µ, σ 2 ):
• P(X ≤ x) = Φµ,σ2 (x) = Φ0,1 ( x−µ
)
σ
• P(X ≥ x) = 1 − P(X ≤ x) = 1 − Φµ,σ2 (x) = 1 − Φ0,1 ( x−µ
) = Φ0,1 ( µ−x
)
σ
σ
• P(a ≤ X ≤ b) = P(X ≤ b) − P(X ≤ a) =
= Φµ,σ2 (b) − Φµ,σ2 (a) = Φ0,1 ( b−µ
) − Φ0,1 ( a−µ
)
σ
σ
Anwendung: Eine Zufallsgröße X, die z.B. zufällige Meß- und Beobachtungsfehler oder
zufällige Größen-, Längen-, Gewichtsangaben oder zufällige Abweichungen von einem Sollwert beschreibt, ist normalverteilt.
3. Exponentialverteilung
Parameter λ > 0
Dichte pX (x):
pX (x) =
Verteilungsfunktion FX (x):
Erwartungswert:
EX =
x≤0
x>0
0
FX (x) =
1 − e−λx
0
λe−λx
1
λ
8
x≤0
x>0
1
λ2
Varianz:
VX =
Schreibweise:
X ∼ Eλ
Anwendung: Eine Zufallsgröße X, die z.B. die Lebensdauer von Bauelementen oder die
Bedienzeit von Kunden oder Reparaturzeiten oder Zerfallszeiten radioaktiver Substanzen
beschreibt, ist exponentialverteilt.
3
3.1
Tabellen
Verteilungsfunktion der Standardnormalverteilung
1
Φ0,1 (x) = P (X ≤ x) = √
2π
Zx
t2
e− 2 dt
−∞
Hinweise: Für x < 0 ist Φ0,1 (x) = 1 − Φ0,1 (−x) zu verwenden. Für x > 3, 9 ist Φ0,1 (x) = 1 zu
setzen.
9
x
0,00
0,01
0,02
0,03
0,04
0,05
0,06
0,07
0,08
0,09
0,0
0,1
0,2
0,3
0,4
0,50000
0,53983
0,57926
0,61791
0,65542
0,50399
0,54380
0,58317
0,62172
0,65910
0,50798
0,54776
0,58706
0,62552
0,66276
0,51197
0,55172
0,59095
0,62930
0,66640
0,51595
0,55567
0,59483
0,63307
0,67003
0,51994
0,55962
0,59871
0,63683
0,67364
0,52392
0,56356
0,60257
0,64058
0,67724
0,52790
0,56749
0,60642
0,64431
0,68082
0,53188
0,57142
0,61026
0,64803
0,68439
0,53586
0,57535
0,61409
0,65173
0,68793
0,5
0,6
0,7
0,8
0,9
0,69146
0,72575
0,75804
0,78814
0,81594
0,69497
0,72907
0,76115
0,79103
0,81859
0,69847
0,73237
0,76424
0,79389
0,82121
0,70194
0,73565
0,76730
0,79673
0,82381
0,70540
0,73891
0,77035
0,79955
0,82639
0,70884
0,74215
0,77337
0,80234
0,82894
0,71226
0,74537
0,77637
0,80511
0,83147
0,71566
0,74857
0,77935
0,80785
0,83398
0,71904
0,75175
0,78230
0,81057
0,83646
0,72240
0,75490
0,78524
0,81327
0,83891
1,0
1,1
1,2
1,3
1,4
0,84134
0,86433
0,88493
0,90320
0,91924
0,84375
0,86650
0,88686
0,90490
0,92073
0,84614
0,86864
0,88877
0,90658
0,92220
0,84849
0,87076
0,89065
0,90824
0,92364
0,85083
0,87286
0,89251
0,90988
0,92507
0,85314
0,87493
0,89435
0,91149
0,92647
0,85543
0,87698
0,89617
0,91308
0,92785
0,85769
0,87900
0,89796
0,91466
0,92922
0,85993
0,88100
0,89973
0,91621
0,93056
0,86214
0,88298
0,90147
0,91774
0,93189
1,5
1,6
1,7
1,8
1,9
0,93319
0,94520
0,95543
0,96407
0,97128
0,93448
0,94630
0,95637
0,96485
0,97193
0,93574
0,94738
0,95728
0,96562
0,97257
0,93699
0,94845
0,95818
0,96638
0,97320
0,93822
0,94950
0,95907
0,96712
0,97381
0,93943
0,95053
0,95994
0,96784
0,97441
0,94062
0,95154
0,96080
0,96856
0,97500
0,94179
0,95254
0,96164
0,96926
0,97558
0,94295
0,95352
0,96246
0,96995
0,97615
0,94408
0,95449
0,96327
0,97062
0,97670
2,0
2,1
2,2
2,3
2,4
0,97725
0,98214
0,98610
0,98928
0,99180
0,97778
0,98257
0,98645
0,98956
0,99202
0,97831
0,98300
0,98679
0,98983
0,99224
0,97882
0,98341
0,98713
0,99010
0,99245
0,97932
0,98382
0,98745
0,99036
0,99266
0,97982
0,98422
0,98778
0,99061
0,99286
0,98030
0,98461
0,98809
0,99086
0,99305
0,98077
0,98500
0,98840
0,99111
0,99324
0,98124
0,98537
0,98870
0,99134
0,99343
0,98169
0,98574
0,98899
0,99158
0,99361
2,5
2,6
2,7
2,8
2,9
0,99379
0,99534
0,99653
0,99744
0,99813
0,99396
0,99547
0,99664
0,99752
0,99819
0,99413
0,99560
0,99674
0,99760
0,99825
0,99430
0,99573
0,99683
0,99767
0,99831
0,99446
0,99585
0,99693
0,99774
0,99836
0,99461
0,99598
0,99702
0,99781
0,99841
0,99477
0,99609
0,99711
0,99788
0,99846
0,99492
0,99621
0,99720
0,99795
0,99851
0,99506
0,99632
0,99728
0,99801
0,99856
0,99520
0,99643
0,99736
0,99807
0,99861
3,0
3,1
3,2
3,3
3,4
3,5
3,6
3,7
3,8
3,9
0,99865
0,99903
0,99931
0,99952
0,99966
0,99977
0,99984
0,99989
0,99993
0,99995
10
3.2
Quantile zq der Standardnormalverteilung
Hinweis: Für q < 0, 5 ist zq = −z1−q zu verwenden.
q
zq
q
zq
q
zq
0,5
0,55
0,6
0,65
0,7
0
0,125661
0,253347
0,385320
0,524401
0,91
0,92
0,93
0,94
0,95
1,340755
1,405072
1,475791
1,554774
1,644854
0,975
0,98
0,985
0,99
0,995
1,959964
2,053749
2,170090
2,326348
2,575829
0,75
0,8
0,85
0,9
0,674490
0,841621
1,036433
1,281552
0,955
0,96
0,965
0,97
1,695398
1,750686
1,811911
1,880794
0,999
0,9995
0,9999
3,090232
3,290527
3,719016
11