Grundregeln der Wahrscheinlichkeitsrechnung - (VP) - D

Formelsammlung Wahrscheinlichkeitsrechnung
Notation:
A, B, C
Ak
Ax
prob(A|B)
prob(A, B)
prob(A ∨ B)
logische Aussagen
logische Aussage aus einer diskreten Menge (k ∈ Z)
logische Aussage aus einer kontinuierlichen Menge (x ∈ R)
bedingte Wahrscheinlichkeit; z.B. Wahrscheinlichkeit, dass A
wahr ist unter der Bedingung dass B wahr ist.
gemeinsame Wahrscheinlichkeit (Verbundwahrscheinlichkeit),
dass A und B wahr sind.
Wahrscheinlichkeit dass A oder B wahr ist (exklusiv)
Grundregeln der Wahrscheinlichkeitsrechnung
0 ≤ prob(Ak |B) ≤ 1
Positivität:
(1a)
0 ≤ pdf(Ax |B) x ∈ R
(1b)
X
k∈Z
(2a)
pdf(Ax |B)dx = 1 x ∈ R
(2b)
prob(Ak |B) = 1
k
Normierung:
Z
prob(A, B|C)
Produktregel:
=
prob(A|C) prob(B|A, C)
=
prob(B|C) prob(A|B, C)
(3)
X
prob(A, Bk |C)
(4)
prob(Ak |B, C) =
prob(Ak |C) prob(B|Ak , C)
,
prob(B|C)
(5)
X
prob(Ak |C) prob(B|Ak , C).
prob(A|C) =
Marginalisierungsregel:
Bayes’ Theorem:
k∈Z
k
wobei
prob(B|C) =
k
Summenregel:
prob(A ∨ B|C) = prob(A|C) + prob(B|C) − prob(A, B|C),
(6)
Wenn sich A und B gegenseitig ausschliessen, dann ist
prob(A, B|C) = 0.
Binomialverteilung
B(k; N, p) =
N
k
pk (1 − p)N −k ,
N ∈ N, k ∈ N0 , k ≤ N, 0 ≤ p ≤ 1
1
2
Mittelwert: hki = N p, Varianz: Var(k) = N p(1 − p), Entropie: S =
(7)
log2 [2πe Var(k)] + O(1/N ).
Negative Binomialverteilung
NB(k; n, p) =
n+k−1
k
Mittelwert: hki =
pk (1 − p)n ,
n ∈ N, k ∈ N0 , 0 ≤ p ≤ 1
n(1−p)
,
p
Varianz: Var(k) =
µk −µ
e ,
k!
k ∈ N0 , µ ∈ R+
(8)
n(1−p)
p2 .
Poissonverteilung
P (k; µ) =
(9)
Mode: k0 = bµc, Mittelwert: hki = µ, Varianz: Var(k) = µ, Entropie (für grosse µ):
1
S = 12 log2 [2πe Var(k)] − 12µ
+ O(1/µ2 ).
Gammaverteilung
Γ(µ; α, β) =
(µ/β)α−1 −µ/β
e
βΓ(α)
(10)
Mode: µ0 = (α − 1)β, Mittelwert: hµi = αβ, Varianz: Var(µ) = αβ 2 . Entropie:
S = α + ln β + ln[Γ(α)] + (1 − α)ψ(α), wobei ψ die Digammafunktion ist.
Normalverteilung
N (x; µ, σ) = √
(x − µ)2
exp −
2σ 2
2πσ 2
1
Mode: x0 = µ, Mittelwert: hxi = µ, Varianz: Var(x) = σ 2 , Entropie: S =
(11)
1
2
ln[2πe Var(x)].