Beispiel für eine Parameterabschätzung mit - (VP) - D-PHYS

Beispiel für eine Parameterabschätzung mit
normalverteiltem Rauschen
1. Schritt: Hintergrundinformation I: Eine konstante elektrische Spannung µ wird mit einem
Voltmeter gemessen. Es werden fünf Spannungswerte abgelesen. Zwischen den einzelnen Werten
liegt eine Zeitspanne, die sehr lang ist gegenber der Reaktionszeit des Messgeräts.
2. Schritt: Probabilistisches Modell M: Die gemessenen Spannungen xj = x(tj ) setzen sich
additiv aus der gesuchten Spannung µ und dem Rauschen j = (tj ) (i = 1, . . . , 5) zusammen.
x j = µ + j .
Die j sind normalverteilt und statistisch unabhängig. ⇒ Likelihood Funktion
τ N/2
N τ (xj − µ)2 + N τ Var(xj )
prob(xj |µ, τ, M, I) =
exp −
,
2π
2
mit N = 5, und τ = 1/σ 2 . Die Grösse σ 2 = n2 (t) beschreibt die mittlere quadratische Amplitude
des Rauschens. Die Grössen µ und τ sind die beiden unbekannten Parameter des Modells.
3. Schritt: Wir wissen vor der Messung: µ ∈ R, τ ∈ R+
0.
⇒ Priorwahrscheinlichkeiten
const. für τ ≥ 0
prob(µ, τ |M, I) =
0
für τ < 0
4. Schritt: Messung ergibt x1 = 0.959494 V, x2 = 0.923518 V, x3 = 0.98443 V, x4 = 1.01078 V,
x5 = 1.06056 V. Damit ist xj = 0.988 V und Var(xj ) = 0.0027 V2 .
5. Schritt: Abschätzung der Spannung µ und des Rauschens σ 2 = 1/τ .
⇒ Posteriorverteilung ist Normal-Gamma-Verteilung
pdf(µ, τ |xj , M, I) = NΓ[µ, τ ; xj , N, (N + 1)/2, 2/(N Var(xj ))]
Marginale Verteilung für µ ist Studentsche t-Verteilung
q
pdf(µ|xj , M, I) = T[µ; xj , Var(xj )/(N + 1), N + 1].
Marginale Verteilung für σ 2 ist Inverse-Gamma-Verteilung
pdf(σ 2 |xj , M, I) = IΓ[σ 2 ; (N + 1)/2, N Var(xj )/2].
6. Schritt:
Mittelwert hµi und Standardabweichung σµ der Studentschen t-Verteilung sind
hµi = xj = 0.988 V
r
Var(xj )
σµ =
= 0.026 V
N −1
µ = (0.988 ± 0.026) V
Mittelwert hσ 2 i und Standardabweichung Σσ2 der Inversen Gammaverteilung sind
N
Var(xj ) = 0.0034 V2
N −1
r
2
=
hσ 2 i = 0.0034 V2
N −3
hσ 2 i =
Σσ 2
σ 2 = (0.0034 ± 0.0034) V2
Achtung: Bei kleinen N (wie in diesem Beispiel) ist die inverse Gammaverteilung sehr asymmetrisch (schief). Mittelwert ± Standardabweichung sind daher keine besonders gute Repräsentation
für das wirkliche Rauschen des Messgeräts.
Wahrscheinlichkeitsverteilungen
Normal-Gamma Verteilung
√
y
β −α λ α−1/2
λτ (x − µ)2
√ τ
exp −
NΓ(x, y; µ, λ, α, β) =
exp −
,
β
2
Γ(α) 2π
x ∈ R, y ∈ R+
0 , µ ∈ R, λ ≥ 0, α > 0, β > 0
Marginalisierte
Verteilung für y ist Γ(y; α, β). Bedingte Wahrscheinlichkeit für x, gegeben y, ist
√
N (x; µ, 1/ λτ ).
Studentsche t-Verteilung
−(ν+1)/2
1
(x − µ)2
T (x; µ, σ, ν) = √
1+
,
νσ 2
νσB(ν/2, 1/2)
wobei B(a, b) die Eulersche Betafunktion ist. x ∈ R, µ ∈ R, σ ∈ R+
0 , ν ∈ N.
Mittelwert: hxi = µ, Varianz: Var(x) = νσ 2 /(ν − 2)
Inverse Gammaverteilung
IΓ(x; α, β) =
1
xΓ(α)
α
β
β
exp −
,
x
x
x ∈ R+ , α > 0, β > 0
Mittelwert: hxi = β/(α − 1) für α > 1, Varianz: Var(x) = β 2 (α − 1)−2 (α − 2)−1 für α > 2.