521.202 / SES.125 Parameterschätzung Varianzfortpflanzung Torsten Mayer-Gürr Torsten Mayer-Gürr Zufallsvektor Torsten Mayer-Gürr Varianz / Kovarianz Zufallsvektor x x y z Erwartungswert Varianz-Kovarianzmatrix x E{x} μ y z x2 xy xz 2 Σ{x} Σ x yx y yz 2 zx zy z Mit der Dichte f ( x ) f ( x, y , z ) 0 und f (x) dx 1 Varianz x2 E{( X x )( X x )} E{ X 2 } x2 y2 E{(Y y )(Y y )} E{Y 2 } y2 f ( x, y, z ) dxdydz 1 Kovarianz xy E{( X x )(Y y )} E{ XY } x y Kovarianz Operator Σ{x} E{( x μ)(x μ)T } Torsten Mayer-Gürr 16.12.2015 3 Varianz / Kovarianz Lineare Transformation y Bx c nx1 Zufallsvektor mx1 Zufallsvektor nx1 konstanter Vektor n x m konstante Koeffizientenmatrix Erwartungswert E{y} E{Bx c} BE{x} c Kovarianzmatrix Σ{y} Σ{Bx c} BΣ{x}BT Torsten Mayer-Gürr 16.12.2015 4 Kovarianzfortpflanzung Kovarianzfortpflanzung Σ{y} Σ{Bx c} BΣ{x}B Torsten Mayer-Gürr 16.12.2015 T 5 Polares Anhängen Polares Anhängen x Gemessen s 10 m 4 mm t 40 gon 1 mgon ( x, y ) Polares Anhängen s x s cost / t y s sin t / mit 200gon y s 10 m x t 40 gon 12 12 (0,004 m) 2 Σ x 2 12 2 0 m gon x s cost / 8,090 m y y s sin t / 5 , 878 m Torsten Mayer-Gürr 0 m gon 2 (0,001gon ) Lineare Transformation? y Bx c 16.12.2015 Kovarianzmatrix Σ{y} BΣ{x}BT 6 Polares Anhängen 1. Gemessen: s 10 m x t 40 gon 3. Berechnet: x s cost / y y s sin t / 5. Kovarianzmatrix Σ{y} BΣ{x}BT 2. Kovarianzmatrix: 12 12 (0,004 m) 2 Σ x 2 12 2 0 m gon 0 m gon 2 (0,001gon ) 4. Jakobimatrix y x s x t cost / s / sin t / B x y s y t sin t / s / cost / 0,8090 0,0923 m/gon 0 , 5878 0 , 1271 m/gon 5. Kovarianzmatrix 0,8090 0,0923 m/gon (0,004 m) 2 Σ{y} 0 , 5878 0 , 1271 m/gon 0 m gon 1,0481 10 5 m 2 5 2 0,7596 10 m Torsten Mayer-Gürr 0,8090 0,5878 0 m gon 2 0 , 0923 m/gon 0 , 1271 m/gon (0,001gon ) 0,7596 10 5 m 2 5 2 0,5544 10 m Ergebnis x 8,090 m 3,2 mm y 5,878 m 2,4 mm 16.12.2015 7 Beispiel Wiederholte Streckenmessung mit einem Tachymeter Messungen (Beobachtungen): 100,006 100,005 99,995 100,008 99,993 0,000 99,996 99,998 99,992 100,000 100,004 100,000 99,998 100,004 99,992 99,991 99,997 99,996 100,002 100,000 … Torsten Mayer-Gürr 14.10.2015 m m m m m m m m m m m m m m m m m m m m 8 Beispiel Anzahl Histogramm von 10000 Beobachtungen Gemessene Strecke (reduziert um 100 m) [mm] Torsten Mayer-Gürr 14.10.2015 9 Kovarianzfortpflanzung Beispiel: Mittelwert 1 n 1 1 1 s si s1 s2 sn n i 1 n n n s1 s x 2 sn s Bx 12 2 2 Σx diag( 12 , 22 ,, n2 ) 2 n 1 mit B n 1 1 n n s2 BΣ{x}BT 1 2 ( 1 22 n2 ) 2 n Bei gleicher Varianz 1 1 2 ( 12 22 n2 ) 2 n 2 n n 2 s Torsten Mayer-Gürr s 1 s n 16.12.2015 10 Kovarianzfortpflanzung Beispiel: Differenz zweier Streckenmessungen s1 253 cm 12 (4 mm) 2 s2 153 cm 22 (3 mm) 2 s 153 x 1 cm s2 253 12 12 (4 mm) 2 Σ x 2 0 12 2 s s1 s2 (s ) Bx mit s s1 s2 ? B 1 1 0 (3 mm) 2 (4 mm) 2 BΣ{x}B 1 1 0 T 0 1 2 (3 mm) 1 Varianz der Differenz 2s 12 22 (5 mm) 2 Torsten Mayer-Gürr 16.12.2015 11 Varianzfortplanzung im GaußMarkoff Modell (Tafel) Torsten Mayer-Gürr Drehung des Koordinatensystems Torsten Mayer-Gürr Polares Anhängen Polares Anhängen x x ( x, y ) y s t y Torsten Mayer-Gürr 16.12.2015 14 Drehmatrizen Drehmatrix cos Q( ) sin sin cos Inverse Drehung cos Q ( ) Q( ) sin 1 sin QT ( ) cos Allgemein: Orthogonale Matrix (Rotation mit evtl. Spiegelung) Q 1 QT QT Q I QQT I Torsten Mayer-Gürr 16.12.2015 15 Polares Anhängen Polares Anhängen x x' ( x, y ) y' s t y Drehung um Winkel t y ' Qy mit Kovarianzmatrix Σ{y '} QΣ{y}QT QBΣ{x}BT QT cost / sin t / Q sin t / cos t / Torsten Mayer-Gürr 16.12.2015 16 Polares Anhängen Drehung um Winkel t y ' Qy Nebenrechnung cost / sin t / cost / s / sin t / sin t / cost / sin t / s / cost / QB mit cost / sin t / Q sin t / cost / 0 1 0 s / Kovarianzmatrix Σ{y '} QΣ{y}QT QBΣ{x}BT QT 0 s2 0 1 0 1 2 0 s / 0 s / 0 t s2 0 2 s t Torsten Mayer-Gürr 0 16.12.2015 17 Polares Anhängen Polares Anhängen x Gemessen x' s 10 m 4 mm t 40 gon 1 mgon ( x, y ) y' s Polares Anhängen x s cost / t y s sin t / mit 200gon y Kovarianzmatrix x' s2 Σ{ } y' 0 2 s t 0 Durch Drehung des Koordinatensystems kann man unkorrelierte Zufallsvariablen erhalten! b r Torsten Mayer-Gürr 16.12.2015 18 Fehlerellipse Torsten Mayer-Gürr Beispiel: Strecke zwischen Koordinaten Torsten Mayer-Gürr Multivariate Normalverteilung Torsten Mayer-Gürr Zweidimensionale Zufallsverteilung Zweidimensionale stetige Zufallsvariable x y F ( x, y ) f ( x' , y' ) dx' dy' Wahrscheinlichkeit (Verteilungsfunktion) P ( X x, Y y ) F ( x, y ) Dichtefunktion f ( x, y ) 0 Pail f ( x, y) dy dx 1 Satz: Zwei Zufallsvariablen sind genau dann voneinander unabhängig, falls gilt f ( x, y ) f x ( x ) f y ( y ) Torsten Mayer-Gürr 16.12.2015 22 Zweidimensionale Normalverteilung Definition: Die Zufallsvariable X bezeichnet man als normalverteilt mit den Parametern 𝜇 und 𝜎 2 , abgekürzt geschrieben 𝑋~𝑁(𝜇, 𝜎 2 ), wenn ihre Dichte 𝑓(𝑥) 1 f ( x, , ) e ( x ) 2 2 / 2 2 für x Zweidimensionale Zufallsvariable mit unabhängigen Elementen x x y x μ y x2 0 Σ 2 0 y f ( x, μ , Σ ) f ( x , x , x ) f ( y , y , y ) Torsten Mayer-Gürr 16.12.2015 23 Zweidimensionale Normalverteilung Multivariate Normalverteilung, wenn x und y unabhängig sind: f ( x, μ , Σ ) f ( x , x , x ) f ( y , y , y ) ( y y )2 ( x x )2 1 exp exp 2 2 x 2 2 x y 2 2 y ( x x )2 ( y y )2 1 exp 2 2 2 2 x 2 y 2 x y 1 ( x )2 ( y y )2 1 x exp 2 2 2 2 x 2 x y y 1 T 2 x 1 / 0 x x 1 1 x x exp 2 2 y y 1 / y 2 y 0 y 2 x y 1 T 1 exp ( x μ ) Σ ( x μ ) 2 2 2 x y 1 Torsten Mayer-Gürr 16.12.2015 24 Zweidimensionale Normalverteilung Multivariate Normalverteilung, wenn x und y unabhängig sind: f ( x, μ , Σ ) f ( x , x , x ) f ( y , y , y ) 1 T 1 exp ( x μ ) Σ ( x μ ) 2 2 2 x y 1 x y x2 y2 Durch Drehung des Koordinatensystems lässt sich jede symmetrische Matrix auf Diagonalgestalt bringen (Eigenwertzerlegung) Produkt der Eigenwerte x2 y2 det Σ Torsten Mayer-Gürr 16.12.2015 25