Varianzfortpflanzung

521.202 / SES.125
Parameterschätzung
Varianzfortpflanzung
Torsten Mayer-Gürr
Torsten Mayer-Gürr
Zufallsvektor
Torsten Mayer-Gürr
Varianz / Kovarianz
Zufallsvektor
 x
 
x   y
z
 
Erwartungswert
Varianz-Kovarianzmatrix
 x 
 
E{x}  μ    y 
 
 z
  x2  xy  xz 


2
Σ{x}  Σ x    yx  y  yz 
2 

 zx  zy  z 
Mit der Dichte
f ( x )  f ( x, y , z )  0
und

 f (x) dx  1
Varianz
 x2  E{( X   x )( X   x )}  E{ X 2 }   x2
 y2  E{(Y   y )(Y   y )}  E{Y 2 }   y2


   f ( x, y, z ) dxdydz  1

Kovarianz
 xy  E{( X   x )(Y   y )}  E{ XY }   x  y
Kovarianz Operator
Σ{x}  E{(x  μ)(x  μ)T }
Torsten Mayer-Gürr
16.12.2015
3
Varianz / Kovarianz
Lineare Transformation
y  Bx  c
nx1
Zufallsvektor
mx1
Zufallsvektor
nx1
konstanter Vektor
n x m konstante Koeffizientenmatrix
Erwartungswert
E{y}  E{Bx  c}  BE{x}  c
Kovarianzmatrix
Σ{y}  Σ{Bx  c}  BΣ{x}BT
Torsten Mayer-Gürr
16.12.2015
4
Kovarianzfortpflanzung
Kovarianzfortpflanzung
Σ{y}  Σ{Bx  c}  BΣ{x}B
Torsten Mayer-Gürr
16.12.2015
T
5
Polares Anhängen
Polares Anhängen
x
Gemessen
s  10 m  4 mm
t  40 gon  1 mgon
( x, y )
Polares Anhängen
s
x  s  cost /  
t
y  s  sin t /  
mit  
200gon

y
 s   10 m 
x     

t
40
gon
  

  12  12   (0,004 m) 2
  
Σ x  
2 
  12  2   0 m  gon
 x   s  cost /    8,090 m 
y  
 



y
s

sin
t
/

5
,
878
m
  
 

Torsten Mayer-Gürr
0 m  gon 

2
(0,001gon ) 
Lineare Transformation?
y  Bx  c
16.12.2015
Kovarianzmatrix
Σ{y}  BΣ{x}BT
6
Polares Anhängen
1. Gemessen:
 s   10 m 
x     

t
40
gon
  

3. Berechnet:
 x   s  cost /  
y  



y
s

sin
t
/

  

5. Kovarianzmatrix
Σ{y}  BΣ{x}BT
2. Kovarianzmatrix:
  12  12   (0,004 m) 2
  
Σ x  
2 
  12  2   0 m  gon
0 m  gon 

2
(0,001gon ) 
4. Jakobimatrix
y  x s x t   cost /    s /  sin t /  

B

 
x  y s y t   sin t /   s /  cost /   
 0,8090  0,0923 m/gon 


0
,
5878
0
,
1271
m/gon


5. Kovarianzmatrix
 0,8090  0,0923 m/gon  (0,004 m) 2
Σ{y}  

0
,
5878
0
,
1271
m/gon

 0 m  gon
1,0481  10 5 m 2
 
5
2
 0,7596  10 m
Torsten Mayer-Gürr
0,8090
0,5878 
0 m  gon 



2

0
,
0923
m/gon
0
,
1271
m/gon
(0,001gon ) 

0,7596  10 5 m 2 

5
2
0,5544  10 m 
Ergebnis
x  8,090 m  3,2 mm
y  5,878 m  2,4 mm
16.12.2015
7
Beispiel
Wiederholte Streckenmessung
mit einem Tachymeter
Messungen (Beobachtungen):
100,006
100,005
99,995
100,008
99,993
0,000
99,996
99,998
99,992
100,000
100,004
100,000
99,998
100,004
99,992
99,991
99,997
99,996
100,002
100,000
…
Torsten Mayer-Gürr
14.10.2015
m
m
m
m
m
m
m
m
m
m
m
m
m
m
m
m
m
m
m
m
8
Beispiel
Anzahl
Histogramm von 10000 Beobachtungen
Gemessene Strecke (reduziert um 100 m) [mm]
Torsten Mayer-Gürr
14.10.2015
9
Kovarianzfortpflanzung
Beispiel: Mittelwert
1 n
1
1
1
s   si  s1  s2    sn
n i 1
n
n
n
 s1 
 
s 
x 2

 
 sn 
s  Bx
  12



2
2


Σx  
 diag( 12 , 22 ,, n2 )




2

n 

1
mit B  
n
1
1


n
n
 s2  BΣ{x}BT 
1 2
( 1   22     n2 )
2
n
Bei gleicher Varianz
1
1
  2 ( 12   22     n2 )  2 n 2
n
n
2
s
Torsten Mayer-Gürr
s 
1
s
n
16.12.2015
10
Kovarianzfortpflanzung
Beispiel: Differenz zweier Streckenmessungen
s1  253 cm  12  (4 mm) 2
s2  153 cm  22  (3 mm) 2
 s   153 
x   1   
 cm
 s2   253 
  12  12   (4 mm) 2
  
Σ x  
2 


0

 12
2 
s  s1  s2
(s )  Bx
mit
s  s1  s2  ?
B  1  1
0 

(3 mm) 2 
 (4 mm) 2
BΣ{x}B  1  1
0

T
0  1 
 
2 
(3 mm)   1
Varianz der Differenz
 2s   12   22  (5 mm) 2
Torsten Mayer-Gürr
16.12.2015
11
Varianzfortplanzung im GaußMarkoff Modell (Tafel)
Torsten Mayer-Gürr
Drehung des
Koordinatensystems
Torsten Mayer-Gürr
Polares Anhängen
Polares Anhängen
x
x
( x, y )
y
s
t
y
Torsten Mayer-Gürr
16.12.2015
14
Drehmatrizen
Drehmatrix
 cos 
Q( )  
  sin 
sin  

cos  
Inverse Drehung
 cos 
Q ( )  Q( )  
 sin 
1
 sin  
  QT ( )
cos  
Allgemein: Orthogonale Matrix
(Rotation mit evtl. Spiegelung)
Q 1  QT
QT Q  I
QQT  I
Torsten Mayer-Gürr
16.12.2015
15
Polares Anhängen
Polares Anhängen
x
x'
( x, y )
y'
s
t
y
Drehung um Winkel t
y '  Qy
mit
Kovarianzmatrix
Σ{y '}  QΣ{y}QT
 QBΣ{x}BT QT
 cost /   sin t /   
Q






sin
t
/

cos
t
/



Torsten Mayer-Gürr
16.12.2015
16
Polares Anhängen
Drehung um Winkel t
y '  Qy
Nebenrechnung
 cost /   sin t /    cost /    s /  sin t /  


  sin t /   cost /   sin t /   s /  cost /   
QB  
mit
 cost /   sin t /   
Q

  sin t /   cost /  
0 
1


0
s
/



Kovarianzmatrix
Σ{y '}  QΣ{y}QT
 QBΣ{x}BT QT
0   s2 0  1
0 
1





2
0
s
/

0
s
/


 0  t 

  s2
 
 0


2
s   t  
Torsten Mayer-Gürr
0
16.12.2015
17
Polares Anhängen
Polares Anhängen
x
Gemessen
x'
s  10 m  4 mm
t  40 gon  1 mgon
( x, y )
y'
s
Polares Anhängen
x  s  cost /  
t
y  s  sin t /  
mit  
200gon

y
Kovarianzmatrix
 x'    s2
Σ{ }  
 y'   0


2
s   t  
0
Durch Drehung des Koordinatensystems
kann man unkorrelierte Zufallsvariablen
erhalten!
b 

r 
Torsten Mayer-Gürr
16.12.2015
18
Fehlerellipse
Torsten Mayer-Gürr
Beispiel: Strecke zwischen
Koordinaten
Torsten Mayer-Gürr
Multivariate Normalverteilung
Torsten Mayer-Gürr
Zweidimensionale Zufallsverteilung
Zweidimensionale stetige Zufallsvariable
x y
F ( x, y ) 
  f ( x' , y' ) dx' dy'

Wahrscheinlichkeit (Verteilungsfunktion)
P ( X  x, Y  y )  F ( x, y )
Dichtefunktion
f ( x, y ) 0
Pail
 
  f ( x, y) dy dx  1

Satz: Zwei Zufallsvariablen sind genau dann
voneinander unabhängig, falls gilt
f ( x, y )  f x ( x ) f y ( y )
Torsten Mayer-Gürr
16.12.2015
22
Zweidimensionale Normalverteilung
Definition: Die Zufallsvariable X bezeichnet man als normalverteilt mit den
Parametern 𝜇 und 𝜎 2 , abgekürzt geschrieben 𝑋~𝑁(𝜇, 𝜎 2 ), wenn ihre Dichte 𝑓(𝑥)
1
f ( x,  ,  ) 
e ( x   )
 2
2
/ 2 2
für
  x 
Zweidimensionale Zufallsvariable mit unabhängigen Elementen
 x
x 
 y
 x 
μ   
 y 
  x2 0 

Σ  
2
 0 y 
f ( x, μ , Σ )  f ( x ,  x ,  x )  f ( y ,  y ,  y )
Torsten Mayer-Gürr
16.12.2015
23
Zweidimensionale Normalverteilung
Multivariate Normalverteilung, wenn x und y unabhängig sind:
f ( x, μ , Σ )  f ( x ,  x ,  x )  f ( y ,  y ,  y )
 ( y   y )2 
 ( x   x )2 
1



exp 
exp 
2
2


 x 2
2 x   y 2
2 y 


 ( x   x )2 ( y   y )2 
1


exp 

2
2
2

2 x
2 y 
2  x y

 1  ( x   )2 ( y   y )2  
1
x
 


exp

2
2
2

 2 x

2  x y
y



1
T
2

x



1
/

0  x   x  


1
1
x
x


 


exp  
2 
2

 2  y  y   0
1 /  y  y   y  
2  x y


 1

T
1

exp

(
x

μ
)
Σ
(
x

μ
)


2
2


2  x y
1
Torsten Mayer-Gürr
16.12.2015
24
Zweidimensionale Normalverteilung
Multivariate Normalverteilung, wenn x und y unabhängig sind:
f ( x, μ , Σ )  f ( x ,  x ,  x )  f ( y ,  y ,  y )
 1

T
1
exp

(
x

μ
)
Σ
(
x

μ
)


2
2


2  x y
1

 x y   x2 y2
Durch Drehung des Koordinatensystems lässt
sich jede symmetrische Matrix auf
Diagonalgestalt bringen (Eigenwertzerlegung)
Produkt der Eigenwerte
 x2 y2  det Σ
Torsten Mayer-Gürr
16.12.2015
25