Kapitel12 - Abteilung Prof. Schumacher

Werbung
Experimentelle Methoden der Teilchenphysik
Sommersemester 2011/2012
Albert-Ludwigs-Universität Freiburg
Prof. Markus Schumacher
Physikalisches Institut, Westbau, 2. OG Raum 008
Telefon 07621 203 7612
E-Mail: [email protected]
Kapitel 12: Grundlagen der Parameterschätzung
http://terascale.physik.uni-freiburg.de/lehre/Sommersemester%202012
Grundgesamtheit, Stichprobe, Statistik, Schätzer
Betrachte ZV x mit WDF
oft abhängig von Parametern θ
Grundgesamtheit = Menge möglicher Werte von x beschrieben durch f(x)
Stichprobe vom Umfang n = Satz von n unabhängigen Messungen der ZV x
Ziel: Ableitung von Eigenschaften von f(x) aus der Stichprobe
Statistik: beliebige Funktion der Stichprobenwerte der ZV
Schätzer: Statistik um Eigenschaften der WDF zu bestimmen
a)  Form der WDF unbekannt à Schätzwerte für Erwartungswert, Varianz, …
b)  Form der WDF bekannt à Schätzwerte für Parameter
Schätzer = Funktioneller Zusammenhang, Schätzwert = numerischer Wert
beide werden mit “Hut ^” beschrieben
M. Schumacher
Exp. Methoden der TP
Kapitel 12: Grundlagen der Parameterschätzung
SoSe 2012
Gemeinsame WDF der Stichprobe
Betrachte n Beobachtungen der ZV x: x1, ..., xn,
wobei x der WDF f (x; θ) folgt.
Unter den Annahmen:
1)  Messungen sind unabhängig
2)  WDF/Grundgesamtheit ändert sich zwischen Beobachtung nicht
folgt die gemeinsame WDF der Stichprobe:
Achtung! Ist nicht immer erfüllt in der Praxis!
Gegenbeispiele: - Lotterie (Ziehen von Kugeln ohne zurücklegen)
- Längenmessung von Stab bei Temperaturschwankungen
M. Schumacher
Exp. Methoden der TP
Kapitel 12: Grundlagen der Parameterschätzung
SoSe 2012
Die Likelihoodfunktion
Das Ergebnis eines Experimentes (Satz von Messungen)
sei eine Menge von Zahlen x, und die gemeinsame WDF
der Stichprobe ist eine Funktion/Statistik, welche von den
Parametern der WDF θ: abhängt:
Nun werte diese Funktion mit den Werten der Stichprobe aus und
betrachte sie als Funktion der Parameter:
Likelihoodfunktion
(x konstant)
Im Falle von unabhängigen, identischen Messungen gilt:
(xi konstant)
M. Schumacher
Exp. Methoden der TP
Kapitel 12: Grundlagen der Parameterschätzung
SoSe 2012
Schätzer für den Erwartungswert µ von f(x)
Es gibt keine allgemein gültigen Regeln für die Konstruktion eines Schätzers für einen
bestimmten unbekannten Parameter. Ist beispielsweise der Mittelwert µ der Verteilung
f (x) gesucht und wurde eine Stichprobe vom Umfang n genommen, so könnten wir unter
Mögliche
Schätzer für den
Erwartungswert µ der WDF der Grundgesamtheit
anderem folgende Schätzer µ
! in Betracht ziehen:
µ
!=x=
µ
!=
µ
!=
1
10
1
n
"n
i=1 xi
"10
i=1 xi
"n
den Mittelwert der Stichprobe
den Mittelwert der ersten 10 Punkte der Stichprobe
i=1 xi
n/(n − 1) mal den Mittelwert der Stichprobe
µ
! = (min(xi ) + max(xi ))/2
Mittelwert des größten und kleinsten Wertes
1
n−1
µ
! = 42
µ
! = Median der Stichprobe
Diese Liste ließe sich ohne Weiters verlängern. Welches ist ein “guter” Schätzer? Hier gibt
es eine Reihe von Kriterien.
Fragen: - welcher Schätzer ist gut, der “Beste”?
- welche Kriterien sollte ein guter Schätzer erfüllen?
Konsistenz
- wie findet man den optimalen Schätzer für ein Problem?
n→∞
Ein Schätzer θ!(n) heißt konsistent, wenn θ!(n) −→ θ. Da θ!(n) selbst eine Zufallsvariable
M. Schumacher
der TP
Kapitel
12:Wahrscheinlichkeitsaussage
Grundlagen der Parameterschätzung
ist, müssenExp.
wirMethoden
diese Konvergenz
durch
eine
definieren, SoSe
und 2012
Eigenschaften von Schätzern
Wenn das Experiment ( jeweils aus m Messungen) oft wiederholt wird.
Folgen die Schätzwerte einer WDF:
bester
große
Varianz
nicht erwartungstreu
Wir wollen kleinen (oder Null) Bias (systematischen. Fehler):
→ Mittelwert der vielen Schätzwerte sollte = wahren Wert sein
Und wir wollen kleine Varianz (statistischer Fehler):
→ kleiner Bias und kleine Varianz sind i.a. gegenläufige Kriterien
M. Schumacher
Exp. Methoden der TP
Kapitel 12: Grundlagen der Parameterschätzung
SoSe 2012
θ
∂θ
ehörige
Likelihood-Funktion
und
)ätzers
. Sch
VSchätzern
θ̂ Varianz
≥ ( eines
eine Schranke
für die minimal
erreichbare
Scheines
ang
eineEigenschaften
Schranke
für die minimal
erreichbare
Varianz
ät
2
von
A(θ) ist unabhängig von den
xi , d.h.
E[A] = A. Ausserdem
ist
θ̂
in
diesem
Fa
∂ log L
E auf
−und
d.h. E[
θ̂] = θ. Bilden wir also die Erwartungswerte
beiden
der letzten
#θ)
Sei fb(θ)
(x; θ)
Wahrscheinlichkeitsdichtefunktion
θ̂2 Seiten
ein
beliebige
=eine
E[
θ]
−
θ.
Sei
fso
(x;
eine
Wahrscheinlichkeitsdichtefunktion
und
θ̂(5.10
ein
∂θ
ergibt sich
Aus
der Informationstheorie
lässt örige
sich zeigen,
dass es eine untere
Parameter
θ.
L
sei
die
zugeh
Likelihood-Funktion
und
Parameter
θ.
L
sei
die
zugeh
örige
Likelihood-Funktion
und
!
"
#
2Parameter
Schranke für
dieist
Varianz
eines Schätzers
für einen
gibt die auch n
! (SMV),
Dies
die
Schranke
Minimaler
Varianz
∂
log
L
ätzers θ̂. Dann gilt für die Varianz dieses Sch!ätzers
−A = E # 2 ! .
#
b(θ)
= E[b(θ)
θ]∂θ−=θ.bezeichnet
als Rao-Cramér-Frechet-Ungleichung
wird. Ein
θE[θ] − θ.
'2
&
'2 dieses Sc
Einsetzen
in Gl.
5.24
liefertθ̂. Dann gilt für&die Varianz
∂b
sei die Verzerrung
des
Sch
ätzers
sei die1Verzerrung
des Schätzers
θ̂." Dann
für die Varianz d
!
!gilt
# ∂b
+
2
!
!
$ %
1
+
∂
log
L
∂ log L ! $ &
'
%
! 2 (θ̂ ∂θ
= −E
− θ) '2
&
∂θ
!
!
2
∂b
∂θ
∂θ
∂b' + . (5.11
) . $ % Vθ θ̂ 1≥+ *&θ
V θ̂ ≥ ( 2
1 log
+ L 2
$
%
∂θ
∂
log
L
∂
5.25 ergibt
(θ̂θ =≥
V an
θ̂ der
≥ Stelle
E2θ̂ ( ) . ∂θ ) .
E Einsetzen
− in Gl.
V
!
∂ "log
L ∂θ
#2
2
2
∂θ 2
!
∂
log L
∂
log
L
∂ log LE
−
!
2
=
E
E∂θ2−
∂θ
∂θ 2 !θ=θ̂
∂θ 2
nimaler
Varianz
(SMV),
die auch
nach
einigen
ihrer Urhebe
Wenn also derMinimaler
ML-Schätzer effizient
ist, dann
ist der Erwartungswert
der zwe
Dies ist die Schranke
Varianz
(SMV),
die auch nach
ein
Diestung
istbezeichnet
dieLikelihood-Funktion
Schranke
Minimaler
Varianz
(SMV),
dieist
auch
der
gleich
demäquivalente
Wert
an der Stelle
des Eine
ML-Sch
ätzers
t-Ungleichung
wird.
Eine
Form
als Rao-Cramér-Frechet-Ungleichung
bezeichnet
wird.
äquiv
als Rao-Cramér-Frechet-Ungleichung
bezeichnet wird. Ei
Die Größe
'2
&
'2
&
$%
'
&2 ' ∂b &
" 2
# 2
∂b
1
+
∂
log
L
∂
log
L
∂b
+ Fisher: I(θ)$≡ %E
=
Information
nach1R.A
∂θE −1 +∂θ2
$ %
$
%
∂θ
+ .∂θ
∂θ
V θ̂ ≥ *&
'
2
*&
+ . (5.12
.
V θ̂ ≥ *nennt
V θ̂ ∂≥log L
'2die
& man auch'die2 +Information
nach
R.
A.
Fisher.
Je
gr
ößer
Informat
E
∂
log
L
∂
log
L
der Likelihood-Funktion
steckt, der
destostatistische
kleiner
Varianz des Schätze
∂θ
E kann die
→ je größer
desto kleiner
Fehler.
EdieinWirInformation,
∂θ
können die Information auch als Funktion der Wahrscheinlichkeitsdichtefu
∂θ
M. Schumacher
Exp. Methoden
der TP
Kapitel 12: Grundlagen der Parameterschätzung
Grundgesamtheit
angeben:
SoSe 2012
z es
einedurch
Reihe
von
Kriterien.
die
Forderung,
dass
für
jedes
ε > 0definiert
gilt die
Regel
wird
diese
Schranke
nicht
erreicht
und man
Effizienz
n→∞
iel zwar
Mittelwert
und
Median
einer
Stichprobe
beides
konsitente
errung
(Bias)
(n)
(n)
!
!
Ein Schätzerfür
θ gute
heißt konsistent,
Kriterien
Schätzerwenn θ −→ θ. Da
als
n→∞
(n)
(n)
(n)=
ür
den
Mittelwert
einer
normalverteilten
Grundgesamtheit.
De
!(n) θ.
ist,
m
üssen
wir
diese
Konvergenz
durch
eine
Wahrschein
!
!
!
lim
P
(|
θ
−
θ|
>
ε)
0.
r θ 5.3.heißt
wenn
θ
−→
Da
θ
selbst
eine
DIE konsistent,
LIKELIHOOD-FUNKTION
#
!
n→∞
n→∞
SM
VFür εendliche
(n)
(n)
stenz
ist
eine
Eigenschaft
im
Grenzwert
n
→
∞.
n ka
zwar
durch
die
Forderung,
dass
f
ür
jedes
> 0 gilt
!
!
(n)
Konsistenz
"
edoch
derjenige,
der
auch
f
ür
endlichen
Umfang
der
Stichpr
nsistent,
wenn
θ
−→
θ.
Da
θ
selbst
eine
!
#
=
Effizienz
θ
wir diese Konvergenz durch eine WahrscheinlichkeitsaussageZd
"(n)Parameters
wert
des Sch
ätzers
durchaus
vom wahren
Wert
des
abweic
V
θ
(n)
Konsistenz
sollte
eine
Minimalforderung
f
ür
einen
guten
Sch
ätzer
!
ut,
d.h.
eine
m
öglichst
kleine
Varianz
hat.
Man
kann
zeigen,
lim
P
(|
θ
−
θ|
>
ε)
= 0.de
(n)
die
Forderung,
dass
f
ür
jedes
ε
>
0
gilt
n→∞
vergenz
durch
eine
Wahrscheinlichkeitsaussage
Stichprobe
n
keine
Verzerrung
aufweist
(b
=
0)
heißt
unverze
n→∞
(n)
(n)
(n)
(engl.
gegeben
durch
Ein
Schbias)
ätzerist
θ!eine
heißt
konsistent,
wenn
θ!die −→
θ. Daeines
θ! selb
nngBedingungen
untere
Schranke
f
ür
Varianz
Sc
fist,
ür nm
→
∞
verschwindet,
heißteine
der
Schätzer
asymptotisch
unv
(n)
Konsistenz
sollte
Minimalforderung
für einen guten
S
!
dass
f
ür
jedes
ε
>
0
gilt
üssen
wir
diese
Konvergenz
durch
eine
Wahrscheinlichkeitsa
lim
P
(|
θ
−
θ|
>
ε)
=
0.
(n)
(n)
!
chranke
Minimaler
Varianz
Suffizienz
Verzerrung
(Bias)
b (SM
= E[V
θ ) ]oder
− θ. Cramer-Rao-Schrank
n→∞
zwar durch die
dass sind
für jedes
ε>
0 giltEigenschaften e
undForderung,
Unverzerrtheit
unabh
ängige
zer,Konsistenz
dessen Varianz
diese
minimale
Schranke
erreicht, heißt
(n)
Verzerrung
!
sollte
eine
Minimalforderung
f(Bias)
ür
einen
guten
Sch
ätzer
sein.
möglichst
keinen
Bias
d.h.
Schätzer
ist
erwartungstreu.
beiden
impliziert
die
andere.
Ein
konsistenter
Sch
ätzer,
dessen
Ein
weitere
vorteilhafte
Eigenschaft
eines
Sch
ätzers
ist
Suffizienz,
dieendli
dan
erzerrung
h
ängt
ab
von
der
Art
des
Sch
ätzers,
vom
Umfang
der
Stich
lim
P
(|
θ
−
θ|
>
ε)
=
0.
Konsistenz
ist
eine
Eigenschaft
im
Grenzwert
n
→
∞.
F
ür
(n)
!
diese
Schranke
nicht
erreicht
und
man
definiert
die
Effizienz
lim
P
(|
θ
−
θ|
>
ε)
=
0.
"(n)
Konsistente Schätzer mit endlicher Varianz sind
n→∞
der Schendlichen
ätzerdes
θ Verteilung
(xMittelwert
..., xn )durchaus
die
inn→∞
derist
Stichprobe
{x1Wert
, ..., asymptotisch
xunabh
} enthaltene
1 ,ätzers
ndes
einen
hat,
jedoch
immer
er (unbekannten)
f (x;
θ).
Ein
Sch
ätzer,
der
ängig voIu
tungswert
Sch
vom
wahren
Paramete
Konsistenz
istder
eine
Eigenschaft
im Grenzwert n der
→ ∞.
asymptotisch
(nàunendlich)
erwartungstreu
θ vollständig ausnutzt.
Dies ist
Idealfall
der Datenreduktion:
n-diF
zerrung (engl.
gegeben
durch
tungswert
des Schätzers
durchaus
vom wahren
Wert
des P
Konsistenz
solltebias)
eine ist
Minimalforderung
für einen
guten Sch
ätzer
ng
(Bias)
tor der Meßwerte der
ist#auf eine
eindimensionale
(oder allge
! guten
malforderung
fzerrung
ürStichprobe
einen
Sch
ätzer
sein.
SM
V
(engl."bias)
ist gegeben(n)
durch
(n) ohne
(n)
dimensionale) GrößeEffizienz
θ"(n) reduziert,
dass
Information
!
!
Effizienz
θ b = = E[θ #] − θ. über θ verlor
(n)θ, wenn
(n)fbür
"
Technisch
ausgedrücktim
ist Grenzwert
ein Schätzer suffizient
, ...,
xka
n|
= E[
θ!(n)f](x
−1θ.
V
θ
ist Verzerrung
eine Eigenschaft
n
→
∞.
F
ür
endliche
n
von θVerzerrung
abhängt. (Bias)
Die
hängt ab von der Art des Schätzers, vom Umfang
Konsistenz
und Unverzerrtheit
legen
besten
Sch
ätzer
noch
ni
es Sch
ätzers durchaus
vomsollte
wahren
Wert
des
Parameters
abweic
Effizienz
an
“1”
Die
Verzerrung
hnahe
ängt
abden
vonsein.
der Art
des Sch
ätzers,
vom
von der
(unbekannten)
Verteilung
f (x; θ).
EinStichprobe
Schätzer, der
unabh
Beispiel
Mittelwert
und
Median
einer
beides
ko
ngl.zum
bias)
ist
gegeben
durch
von Eigenschaft
der (unbekannten)
Verteilung fn
(x;→
θ). ∞.
Ein F
Sch
d
Konsistenz ist eine
im Grenzwert
ürätzer,
endlic
Varianz des Schätzers
ist unabhängig vonGrundgesam
der
Robustheit
ätzer für
einervom
normalverteilten
z Sch
tungswert
desden
SchMittelwert
ätzers
durchaus
wahren
Wert
des
Paramete
(n)
(n)
!
WDF
der
Grundgesamtheit
bist gegeben
= E[
θ auch
] − θ.
ist
dann
jedochbias)
derjenige,
der
fürürendlichen
Umfang
der
zerrung
(engl.
durch
chaft
im
Grenzwert
n
→
∞.
F
endliche
n
kan
Die Eigenschaften eine Schätzers hängen von der Wahrscheinlichkeitsdich
M. Schumacher
Exp. Methoden der TP
Kapitel 12: Grundlagen der Parameterschätzung
SoSe 2012
Ein Schätzer für den Erwartungswert
Parameter:
(‘Stichprobenmittelwert’)
Schätzer:
Man kann zeigen: ist konsistent
ist erwartungstreu
ist effizient für Gauss-WDF (aber nicht für alle WDFs)
Der Fehler auf den Schätzer für den Erwartungswert ist gegeben durch
M. Schumacher
Exp. Methoden der TP
Kapitel 12: Grundlagen der Parameterschätzung
SoSe 2012
i=1
i=1
nsistenter Schätzer für E[x], sofern die Varianz der Grundgesamtheit V [x] endlich ist.
m Spezialfall
einer gaußverteilten Grundgesamtheit
ist das
arithmetische Mittel auc
Arithmetischer
Mittelwert
für
Gauss-WDF
Spezialfall
einer gaußverteilten
Grundgesamtheit
ist das arithmetische
auchein
ein
unter Verwendung
einer Aussage
des zentralen Grenzwertsatzes.
Somit Mittel
ist x auch
ffizienter
Sch
ätzer.
In
diesem
Fall
ist
zienter
Schätzer. Sch
In ätzer
diesem
konsistenter
für Fall
E[x],ist
sofern die Varianz der Grundgesamtheit V [x] endlich ist.
Die log-Likelihood-Funktion lautet:
Im Spezialfall einer gaußverteilten Grundgesamtheit ist das arithmetische Mittel auch ein
"
" ##
##
n"
"
n ist !
2
effizienter Schätzer. In diesem Fall
2
!
1
1
(xi − µ) (xi − µ)
log √exp −exp
−
(
(5.34)
log Llog=L = log √
2
2
2
2
2σ
2σ
2πσ 2πσ "
##
i=1 !
ni=1 "
2
1
(x
−
µ)
i
n
$log√ √$% !
exp
(5.34)
log L =
nµ)22
%(x−i −
2
!
√
2
2σ
(x
−
µ)
i
= −n
− 2π − 2
(5.35)
i=1 σ 2π2πσ
= log
−n log
σ
(
2σ
n
2
$ √ % i=1!
2
2σ
(xi − µ)
= −n log σ 2π −
∂ 2 log2L
n
⇒
=
−
∂ log L
n
2
σ
⇒ ∂µ2 ∂ 2 log
=
−
L
n
⇒
= − σ2
∂µ2
∂µ2
i=1
i=1
2σ 2
(5.35)
(5.36)
(5.36)
σ2
(
SMV ist damit
DieSchranke
SMV
ist damit
minimaler Varianz ergibt sich zu:
ie Die
SMV
ist damit
σ2
V [x]
2
'
=
=
= V [x]
SMV = & 2
σ
V [x]
1
2
n
n
'
=
=
[x]
SMV = ∂ &log 2L
σ n =
V V[x]
1log L
E
−
n
∂
'=
=
= V [x]
SMV = E &∂θ
−2 2 2
1
E −
∂∂θlog L
∂θ 2
n
(5.37)
(5.37)
n
s arithmetische
Mittel Mittel
erreicht
in diesem
(wichtigen)
Spezialfall
SMV.
Das arithmetische
erreicht
in diesem
(wichtigen)
Spezialfallalso
also die
die SMV.
der
Schätzer
eine
Effizienz von
100%
SchD.h.
ätzer
fürätzer
die
Varianz
V hat
[x] der
hatten
derStichStichAls Sch
für die Varianz
V [x]Grundgesamtheit
der Grundgesamtheit
hattenwir
wirdie
dieVarianz
Varianz der
as
arithmetische
Mittel
erreicht
in
diesem
(wichtigen)
Spezialfall
also
die
SMV.
probe
definiert:
obe
definiert:
M. Schumacher Exp. Methoden der TP
Kapitel 12: Grundlagen der Parameterschätzung
SoSe 2012
(
er Grundgesamtheit lernen will. Im folgenden nehmen wir stets an, dass die Stichproben
ufällig sind.
Vergleich von 2 Schätzern für den Erwartungswert
.2
Gauss-WDF
Eigenschaften von Sch
ätzern
Gleichverteilung
s gibt keine allgemein gültigen Regeln für die Konstruktion eines Schätzers für einen
mit gleicher
estimmten unbekannten Parameter. Ist beispielsweise der Mittelwert µ der Verteilung
=1
(x) gesucht und wurde eine Stichprobe vom Umfang n genommen, so könnten wirVarianz
unter
nderem folgende Schätzer µ
! in Betracht ziehen:
µ
!=x=
µ
!=
µ
!=
1
10
1
n
"n
"10
i=1
i=1 xi
den Mittelwert der Stichprobe
xi
den Mittelwert der ersten 10 Punkte der Stichprobe robust
"n
i=1 xi
n/(n − 1) mal den Mittelwert der Stichprobe
µ
! = (min(xi ) + max(xi ))/2
Mittelwert des größten und kleinsten Wertes
1
n−1
µ
! = 42
µ
! = Median der Stichprobe
effizienter
für
Gleichverteilung
iese Liste ließe sich ohne Weiters verlängern. Welches ist ein “guter” Schätzer? Hier gibt
eine Reihe von Kriterien.
M. Schumacher
Exp. Methoden der TP
Kapitel 12: Grundlagen der Parameterschätzung
SoSe 2012
Ein Schätzer für die Varianz
Parameter:
Schätzer:
(‘Stichprobenvarianz’)
Man kann zeigen: ist konsistent (mit und ohne Besselkorrektur (n/n-1) )
erwartungstreu (ohne n/n-1 Korrektur
nur asymptotisch erwartungstreu)
Der Fehler auf den Schätzer für die Varianz ist gegeben durch
M. Schumacher
Exp. Methoden der TP
Kapitel 12: Grundlagen der Parameterschätzung
SoSe 2012
i
n
i=1die Varianz
Ein
Schätzer
für
nz der Varianz der Stichprobe ist
$
%
n
nzoder:
der Varianz der Stichprobe ist1 !
2 %
(x
−
x)
V [σS2 ] = V $
i
n
n −1 1 !
i=1
V [σS2 ] = V
$ n(xi − x)2 %
n2− 1 ! (x − x)2
V [x]
i
i=1
=
V
$
%
2
n
(nV−[x]
1)2
V [x]
2
!
(x
−
x)
i=1
i
=
V
2
(n
−
1)
V [x]
Grundgesamtheit einer Gaußverteilung folgt,
i=1 dann folgt der Term in
Wenn Grundgesamtheit einer Gauss-WDF folgt, dann folgt der Ausdruck
n einer
Chiquadratverteilung mit (n − 1) Freiheitsgraden, hat also
in
der
eckigen Klammer
Chi-Quadrat-WDF
mit n-1
FG,folgt der Term i
Grundgesamtheit
einereiner
Gaußverteilung
folgt,
dann
Damit
wir ist.
Derenerhalten
Varianz 2(n-1)
n einer
Chiquadratverteilung
mit (n − 1) Freiheitsgraden, hat als
2
2V
[x]
Damit erhalten
wir
für gaußverteilte Grundgesamtheit.
V [σS2 ] =
(n − 1)2
2V [x]
2
für gaußverteilte Grundgesamtheit.
V [σS ] =
(n − 1)
M. Schumacher
Exp. Methoden der TP
Kapitel 12: Grundlagen der Parameterschätzung
SoSe 2012
zer für die algebraischen Momente
kann dσS
#
σσS =
V [σS ] =
V [σS2 ] =
1
2σS
V [σS2 ].
n
Schätzer
Kovarianz
er für die algebraischenEin
Momente
kann
1 ' für die
ndet
werden.
k
µ
&
k =
d(σS )2
(xi − x)
−
1
Als Schätzer1 für die algebraischen
Momente kann
i=1
k
n n
'
(5.54)
(5.55)
= und
(x
x)
(5.55)
i − Kovarianzmatrix
nverzerrter
Schµ&kätzer
die
zweier
Zufallsvariablen
x
Ein konsistenter
erwartungstreuer
Schätzer
für
die
Koarianzen
ist:
n − f1ür
n
t werden.
i=1
µ
&k =
1 '
(xi − x)k
n−1
(5.55)
n
werden. Schätzer für die Kovarianzmatrix
i=1
'
zerrter
zweier
Zufallsvariablen
x und y ist
1
n
(
(x
x)(yi − y) =
errter Schätzer fV
ür
die=
Kovarianzmatrix
zweier
x und y ist (xy − x y)
xy
i − Zufallsvariablen
verwendet
werden.
n
'
n−1
1 n−1
n
(xy =Ein nunverzerrter
i=1
(x
−
x)(y
−
y)
=
(xy
− Zufallsvariablen
x y)
V
Sch
ätzer
f
ür
die
Kovarianzmatrix
zweier
x und y ist (5.56)
i
i
'
1
n
n
−
1
n
−
1
(
Vxy =
n−1
i=1
(xi −
x)(yi − y) =
(xy − x y)
n
'
n
−
1
1
(5.56)
n
i=1
(xy =für den(xKorrelationskoeffizienten
erh
ält
man
als
Sch
ätzer
Schätzer
für
die
Korrelationskoeffizienten
sind
:
−
x)(y
−
y)
=
V
i
i
hält man als Schätzer für den Korrelationskoeffizienten(xy − x y)
n−1
i=1
ält man als Schätzer für den Korrelationskoeffizienten
n−1
x y xy − x y
Damit erhV
ältxyman als
Schätzer fürxy
den−Korrelationskoeffizienten
V(xy
)
=
ρ
( (=
(
Vxy σρ
+*
+
)
(==
σS,y xy − x*y =
S,x
)
(5.57) +
ρ( =
*
+
2xy
*σ
+ * xV(2xy− x
+2
−yx2y *
y
−
σ
σS,x σS,y
S,x
S,y
2= ) 2
x2 − xρ(2 = σy 2 −
x* − x+2* y 2 +− y 2
σy
S,x S,y
x2 − x2
(5.56)
(5.57)
(5.57)
y2 − y2
Fall, dass x und y einer zweidimensionalen Gaußverteilung folgen, findet man
all, dass
x und
y einer zweidimensionalen
Gaußverteilung
folgen, findet man
Für
2-dimensionale
Gauss-WDF
gilt:
Fall, dass x und y einer zweidimensionalen
Gaußverteilung folgen, findet man
en Fall, dassFürx den
und
y
einer
zweidimensionalen
Gaußverteilung folgen,
fi
ρ(1 − ρ2 )
2
−2
)
+ O(n )
(5.58)
E[(
ρ] ρ(1
= −ρρ −
−2
+ O(n
2n )
(5.58)
ρ(1 − ρ2 )
2n
+ O(n−2 )
E[(
ρ] = ρ −
2)
2n
2 2 ρ(1 −
−2
1] = 2 21 (1 − −2
ρ
V
[(
ρ
ρ
)
+
O(n
)
−2
1
V [(
ρ] =
(1 − ρ )n+ O(n )
(5.59)
−2 O(n
)
ρ] =V [(ρ] ρ=− n (1 − ρ2)2 + O(n+
)
n E[(
2n
E[(
ρ] = ρ −
(5.58)
(5.59)
(5.59)
(xy
nur
asymptotisch
unverzerrt,
V
, σS,x ,(σSch
unverzerrte
Schätzer sind.
S,y ätzer
ur asymptotisch
unverzerrt,
obwohl
V(xyobwohl
, σS,x
, σ1
unverzerrte
sind.
S,y
ρ
(
ist
also
nur
asymptotisch
unverzerrt,
obwohl
unverzerrte
Schätzer sind.
d.h. nur asymptotisch unverzerrt, obwohl
erwartungstreu
sind.
2 V2xy , σS,x , σS,y −2
V
[(
ρ
]
=
(1
−
ρ
)
+
O(n
)
as
arithmetische
Mittel
ein unverzerrter,
konsistenter
Schätzer
für
Mittelwert
s arithmetische
Mittel
eindas
unverzerrter,
konsistenter
Sch
ätzer fürkonsistenter
den Mittelwert
Obwohl
arithmetische
Mittel n
ein unverzerrter,
Schätzer
fürden
den Mittelwert
M. Schumacher
Exp.
Methoden
dermeisten
TP
Kapitel 12:
Grundlagen
der
Parameterschätzung
2012
dgesamtheit
ist
und
sicherlich
meisten
verwendet
wird,
gibt
esesFFalle,
älle,inSoSe
in
denen
gesamtheit
ist und
sicherlich
am
verwendet
gibt es verwendet
F
älle,
in denen
der
Grundgesamtheit
istam
und
sicherlichwird,
am
meisten
wird,
gibt
denen
Herunterladen