PowerPoint-Präsentation

521.202 / SES.125
Parameterschätzung
Wahrscheinlichkeitstheorie
Torsten Mayer-Gürr
Torsten Mayer-Gürr
Beispiel
Wiederholte Streckenmessung
mit einem Tachymeter
Messungen (Beobachtungen):
100,006
100,005
99,995
100,008
99,993
0,000
99,996
99,998
99,992
100,000
100,004
100,000
99,998
100,004
99,992
99,991
99,997
99,996
100,002
100,000
…
Torsten Mayer-Gürr
25.11.2015
m
m
m
m
m
m
m
m
m
m
m
m
m
m
m
m
m
m
m
m
Grober Fehler
2
Messfehler
Grobe Fehler:
- Falschen Punkt angemessen
- Rechenfehler / Programmierfehler
- …
Systematische Fehler:
- Kalibrierung des Instruments fehlerhaft (Maßstabsfaktor im Instrument)
- Nicht beachtete physikalische Effekte (Laufzeitverzögerung in der Atmosphäre,
Erdkrümmung, …)
- (Mitteln sich nicht heraus)
Zufällige Fehler:
- Elektronisches Rauschen
- Turbulenzen in der Atmosphäre
- Nicht vorhersagbar
=> In dieser Vorlesung behandelt
Torsten Mayer-Gürr
25.11.2015
3
Beispiel
Anzahl
Histogramm von 10000 Beobachtungen
Gemessene Strecke (reduziert um 100 m) [mm]
Torsten Mayer-Gürr
25.11.2015
4
Dreiecksnetz 1. Ordnung
Torsten Mayer-Gürr
25.11.2015
5
Gauß-Markoff Modell
Gauß-Markoff Modell
l  Ax  e
mit
Rechnung startet immer mit
Beobachtungen, die zufällige Fehler
enthalten.
Σ(l )   2 P 1
Schätzung der Lösung
xˆ  A T PA  A T Pl
1
Schätzung der ausgeglichenen Beobachtungen
ˆl  Axˆ  AA T PA 1 A T Pl
Schätzung der Residuen

Fragen:
- Ist das wirklich die beste Lösung
(Wahrscheinlichste Lösung)?
-
Wie kommt man von der
Genauigkeit der Beobachtungen
zur Genauigkeit der Parameter
=> Varianzfortpflanzung
-
Was ist eigentlich diese
Kovarianzmatrix?

1
eˆ  l  ˆl  l  Axˆ  I  AA T PA  A T l
Schätzung des Varianzfaktors
eˆ T Peˆ
2
ˆ 
nm
Schätzung der Genauigkeit der Lösung
ˆ (xˆ )  ˆ 2 A T PA 1
Σ
Torsten Mayer-Gürr
25.11.2015
6
Positionsbestimmung
Positionen
Koordinaten
x  123,127  0,025 m
y  842,354  0,022 m
Pail
Torsten Mayer-Gürr
25.11.2015
7
Positionsbestimmung
Positionen
Koordinaten
x  123,127  0,025 m
y  842,354  0,022 m
Hat sich der Punkt bewegt?
 Hypothesentest
 Aussage über
Wahrscheinlichkeit
Torsten Mayer-Gürr
25.11.2015
8
Wahrscheinlichkeitsrechnung
Torsten Mayer-Gürr
Wahrscheinlichkeit
Definition: Die relative Häufigkeit eines Ereignisses A ergibt sich mit der Anzahl 𝑛𝐴
des Eintreffens des Ereignisses A unter n Versuchen zu
h( A)  n A / n
Definition: Die Wahrscheinlichkeit für ein Ereignis A ergibt sich aus der relativen
Häufigkeit für 𝑛 → ∞:
P( A)  n A / n
Beispiel:
Für die Wahrscheinlichkeit gilt:
0  P( A)  1
Bei 100 Würfen mir einem
Würfel wurde 18 mal die
Zahl Sechs gewürfelt.
Die relative Häufigkeit ist:
P(
h( A)  18 / 100  18%
Torsten Mayer-Gürr
Beispiel:
Die Wahrscheinlichkeit, dass beim
nächsten Wurf wieder eine Sechs fällt:
25.11.2015
)  1 / 6  16,7%
10
Unabhängige Ereignisse
Definition: Zwei Ereignisse A und B bezeichnet man als unabhängig, wenn die
Wahrscheinlichkeit P(A) des Ereignisses A, nicht vom Eintreffen des Ereignisses
B abhängt.
Sind die Ereignisse A und B voneinander unabhängig, gilt:
P( A und B)  P( A) P( B)
(Die Wahrscheinlichkeiten werden multipliziert)
Beispiel: 2 Sechsen würfeln
P(
und
Torsten Mayer-Gürr
)  P(
) P(
)
1
36
25.11.2015
11
Unabhängige Ereignisse
15 rote, 5 blaue Kugeln
Wie groß ist die Wahrscheinlichkeit, nach einer roten
ein blaue Kugel mit Zurücklegen zu ziehen?
rote Kugel:
P( A) 
15
20
blaue Kugel: P( B) 
5
20
P( A und B)  P( A) P( B) 
Torsten Mayer-Gürr
25.11.2015
15 5
  18,75%
20 20
12
Bedingte Wahrscheinlichkeit
15 rote, 5 blaue Kugeln
Wie groß ist die Wahrscheinlichkeit, nach einer roten
ein blaue Kugel ohne Zurücklegen zu ziehen?
rote Kugel:
P( A) 
15
20
blaue Kugel: P( B | A) 
5
19
P( A und B)  P( A) P( B | A) 
15 5
  19,7%
20 19
Definition: Als bedingte Wahrscheinlichkeit P(A|B) des Ereignisses A unter der
Bedingung, dass B eingetroffen ist, bezeichnet man das Verhältnis
P( A | B) 
P( A und B)
P( B)
Torsten Mayer-Gürr
P( A und B)  P( A | B) P( B)
25.11.2015
13
Bedingte Wahrscheinlichkeit
Definition: Als bedingte Wahrschinlichkeit P(A|B) des Ereignisses A unter der
Bedingung, dass B eingetroffen ist, bezeichnet man das Verhältnis
P( A | B) 
P( A und B)
P( B)
P( A und B)  P( A | B) P( B)
Definition: Die Ereignisse A und B sind voneinander unabhängig, falls gilt:
P( A | B)  P( A)
Sind die Ereignisse A und B voneinander unabhängig, gilt:
P( A und B)  P( A) P( B)
Beispiel: 2 Sechsen würfeln
P(
und
Torsten Mayer-Gürr
)  P(
) P(
)
1
36
25.11.2015
14
Wahrscheinlichkeit
Lotto: Wie groß ist die Wahrscheinlichkeit 6 aus 45 zu ziehen?
1
2
3
4
5
Reihenfolge beliebig: k!
6
7
…
45
Reihenfolge beliebig: (n-k)!
Satz: Die Anzahl der Permutationen n verschiedener Element ist gleich:
1  2  3    n  n!
Satz: Für n verschiedene Elemente beträgt die Anzahl der
Kombinationen k-ter Ordnung ohne Berücksichtigung der Anordnung:
n
n!
  
 k  k!(n  k )!
Wahrscheinlichkeit für 6er im Lotto
 45 
P  1 /    1 / 8.145.060  0,000012%
6
Torsten Mayer-Gürr
25.11.2015
15
Zufallsvariable
Torsten Mayer-Gürr
Zufallsvariable
Zufallsereignisse:
Wurf zweier Münzen
Zufallsvariable:
Anzahl Kopf
s1 
X ( s1 )  0
s2 
X ( s2 )  1
Wahrscheinlichkeiten:
Anzahl Kopf
P( X  0)  25%
P( X  1)  50%
s3 
X ( s3 )  1
s4 
X ( s4 )  2
P( X  2)  25%
Definition: Man bezeichnet eine eindeutige reell wertige Funktion 𝑋 𝑠𝑖 , die auf der
Menge S der Elementarereignisse 𝑠𝑖 definiert ist, als Zufallsvariable, falls für jedes
beliebige 𝑥 ∈ 𝑅 das Ereignis, für das 𝑋 𝑠𝑖 < 𝑥 gilt, zu den zufälligen Ereignissen
von Z gehört.
Torsten Mayer-Gürr
25.11.2015
17
Zufallsvariable
Zufallsereignisse:
Wurf zweier Münzen
s1 
Zufallsvariable:
Anzahl Kopf
Wahrscheinlichkeit:
P( X  x)
X ( s1 )  0
1.00
s2 
s3 
X ( s2 )  1
0.75
0.50
X ( s3 )  1
0.25
s4 
X ( s4 )  2
-1
0
1
2
3
Definition: Man bezeichnet eine eindeutige reell wertige Funktion 𝑋 𝑠𝑖 , die auf der
Menge S der Elementarereignisse 𝑠𝑖 definiert ist, als Zufallsvariable, falls für jedes
beliebige 𝑥 ∈ 𝑅 das Ereignis, für das 𝑋 𝑠𝑖 < 𝑥 gilt, zu den zufälligen Ereignissen
von Z gehört.
Torsten Mayer-Gürr
25.11.2015
18
Diskrete Zufallsvariable
Eine diskrete Zufallsvariable X nimmt endlich viele oder abzählbar unendlich viele Werte an.
-
Werte:
x1 , x2 ,, xn ,
-
Wahrscheinlichkeit:
f ( x1 ), f ( x2 ),, f ( xn ),
P( X  xi )  f ( xi )
Dichtefunktion, Wahrscheinlichkeitsdichte, Wahrscheinlichkeitsverteilung,
probability density function (pdf)
f ( xi )  0

n
und
 f (x )  1
i 1
i
bzw.
 f (x )  1
i 1
i
Verteilungsfunktion
F ( xi )  P( X  xi )   f ( xk )
k i
Torsten Mayer-Gürr
25.11.2015
19
Dichte und Verteilungsfunktion
Dichtefunktion:
Verteilungsfunktion:
f ( xi )  P( X  xi )
F ( x)  P( X  x)
1.00
1.00
0.75
0.75
0.50
0.50
0.25
0.25
-1
0
Torsten Mayer-Gürr
1
2
3
-1
25.11.2015
0
1
2
3
20
Diskrete Verteilungen:
Binomialverteilung
(Tafel)
Torsten Mayer-Gürr
Binomialverteilung
1
1
1
1
1
1
2
3
4
5
Torsten Mayer-Gürr
1
1
3
6
10
1
4
10
1
5
25.11.2015
1
22
Binomialverteilung
1
1
1
1
1
1
2
3
4
5
1
1
3
6
10
1
4
10
1
5
1
Zum markierten Element gelangt man, wenn man 3 mal den linken
und 2 den rechten Pfeil in beliebiger Reihenfolge verwendet.
Allgemein: Es gibt
n
n!
  
 k  k!(n  k )!
Möglichkeiten von n Abzweigungen k mal die linke Abzweigung zu
nehmen.
Torsten Mayer-Gürr
25.11.2015
23
Binomialverteilung
Rekursionsformel
1
1
1
1
1
1
5
1
2
3
4
1
3
6
10
n
   1
0
oder
n
   1
n
1
4
10
1
5
1
oder
 n   n  1  n  1
   
  

k
k

1
k
  
 

Zum markierten Element gelangt man, wenn man 3 mal den linken
und 2 den rechten Pfeil in beliebiger Reihenfolge verwendet.
Allgemein: Es gibt
n
n!
  
 k  k!(n  k )!
Möglichkeiten von n Abzweigungen k mal die linke Abzweigung zu
nehmen.
Torsten Mayer-Gürr
25.11.2015
24
Binomialverteilung
Rekursionsformel
1
1
1
1
1
1
5
1
2
3
4
1
3
6
10
n
   1
0
oder
n
   1
n
1
4
1
5
10
Binomialverteilung:
Wahrscheinlichkeit, dass von n voneinander unabhängigen
Experimenten x Erfolge eintreffen
-
Wahrscheinlichkeit für einen Erfolg
Wahrscheinlichkeit für einen Misserfolg
p
1 p
1
oder
 n   n  1  n  1
   
  

k
k

1
k
  
 

Dichte der
Binomialverteilung
n
f ( x)    p x (1  p ) n x
 x
x  {0,1,, n}
0  p 1
Torsten Mayer-Gürr
25.11.2015
25
Binomialverteilung
Dichte der Binomialverteilung
n
f ( x)    p x (1  p ) n x
 x
für
x  {0,1,, n} und 0  p  1
Beispiel: Wie groß ist die Wahrscheinlichkeit,
bei 3-maligem Würfeln keinen / genau 1 / 2 / 3 Sechser zu erzielen?
1
5
p  P( X  6) 
1 p 
n3
6
6
 3  1 
f ( x)    
 x  6 
x
5
 
6
3 x
f (0)  0.570  57.9%
f (1)  0.347  34.7%
f (2)  0.069  6.9%
f (3)  0.005  0.5%
Torsten Mayer-Gürr
25.11.2015
26
Binomialverteilung
Dichte der Binomialverteilung
n
f ( x)    p x (1  p ) n x
 x
für
x  {0,1,, n} und 0  p  1
Bedingungen für die Dichte:
n
f ( x)  0
und
 f ( x)  1
x 0
n x
f
(
x
)

  p (1  p) n x


x 0
x 0  x 
n
n
 ( p  (1  p)) n
Binomische Formel:
n
n
n
(a  b)    a k b nk
k 0  k 
 1n  1
Torsten Mayer-Gürr
25.11.2015
27
Binomialverteilung
Wahrscheinlichkeit bei 60-maligen Würfeln x mal eine 1 zu Würfeln
Torsten Mayer-Gürr
25.11.2015
28
Binomialverteilung
Wahrscheinlichkeit bei 60-maligen Würfeln x mal eine 1 oder 2 zu Würfeln
Torsten Mayer-Gürr
25.11.2015
29
Binomialverteilung
Wahrscheinlichkeit bei 60-maligen Würfeln x mal eine 1, 2 oder 3 zu Würfeln
Torsten Mayer-Gürr
25.11.2015
30
Binomialverteilung
Wahrscheinlichkeit bei 60-maligen Würfeln x mal eine 1, 2, 3 oder 4 zu Würfeln
Torsten Mayer-Gürr
25.11.2015
31
Binomialverteilung
Wahrscheinlichkeit bei 60-maligen Würfeln x mal eine 1, 2, 3, 4 oder 5 zu Würfeln
Torsten Mayer-Gürr
25.11.2015
32
Erwartungswert und Varianz
Torsten Mayer-Gürr
Erwartungswert und Varianz
Konkrete Messreihe
Theoretischer Wert
Mittelwert
1 n
m   xi
n i 1
Gewichteter Mittelwert
1 n
m   xi wi
mit
W i 1
Schätzung der Varianz
Erwartungswert
n
n
W   wi
  E{ X }   xi f ( xi )
i 1
i 1
n
 f (x )  1
i 1
i
Varianz
n
  E{( X   ) }   ( xi   ) 2 f ( xi )
2
n
1
ˆ 
( xi  m) 2

n  1 i 1
2
Torsten Mayer-Gürr
2
i 1
 E{ X 2 }   2
25.11.2015
(Beweis: Tafel)
34
Binomialverteilung
Dichte der Binomialverteilung
n
f ( x)    p x (1  p ) n x
 x
für
x  {0,1,, n} und 0  p  1
Erwarungswert:
n
  E{ X }   xi f ( xi )
i 1
Erwarungswert
n
n
x 0
x 0
n
 x
   x f ( x)   x  p x (1  p) n x
 np( p  (1  p)) n 1
 np
Binomische Formel:
n
n
n
(a  b)    a k b nk
k 0  k 

 n  n  k nk
n
(a  b)    a b
a
a k 0  k 
n
  k  a k 1b nk
k 0  k 
n
n
n 1
na(a  b)   k  a k b nk
k 0  k 
n( a  b)
Torsten Mayer-Gürr
25.11.2015
n 1
n
35
Binomialverteilung
Wahrscheinlichkeit bei 60-maligen Würfeln x mal eine 1 oder 2 zu Würfeln
Erwartungswert
  np
mit
n  60
Torsten Mayer-Gürr
25.11.2015
2
p
6
36
Binomialverteilung
Dichte der Binomialverteilung
n
f ( x)    p x (1  p ) n x
 x
für
x  {0,1,, n} und 0  p  1
Erwarungswert:
n
  E{ X }   xi f ( xi )
i 1
Varianz:
 2  E{( X   ) 2 }  E{ X 2 }   2
Torsten Mayer-Gürr
25.11.2015
37
Binomialverteilung
Varianz:
 2  E{( X   ) 2 }  E{ X 2 }   2
 n

   x 2   p x (1  p ) n x   n 2 p 2
x 0 
 x

n
 np  (n  1)np  n p
2
2
2
Binomische Formel:
n
n
n
(a  b)    a k b nk
k 0  k 

 n  n  k nk
n
(a  b)    a b
a
a k 0  k 
na(a  b)
n 1
n
  k  a k b nk
k 0  k 
n
 np  np 2
 np(1  p )

 n  n  k nk
n 1
na(a  b)   a  k  k a b
a
k 0  
n( a  b)
n 1
 (n  1)na(a  b)
n2
n
  k 2  a k 1b nk
k 0
k 
n
n
n  (n  1)np   x 2   p x1 (1  p ) nk
x 0
 x
n
n
np  (n  1)np   x 2   p x (1  p ) nk
x 0
 x
n
2
Torsten Mayer-Gürr
25.11.2015
38
Binomialverteilung
Dichte der Binomialverteilung
n
f ( x)    p x (1  p ) n x
 x
für
x  {0,1,, n} und 0  p  1
Erwarungswert:
  np
Varianz:
 2  np(1  p)
Torsten Mayer-Gürr
25.11.2015
39
Binomialverteilung
Wahrscheinlichkeit bei 60-maligen Würfeln x mal eine 1 oder 2 zu Würfeln
Standardabweichung
  np(1  p)  3,65
mit
n  60
Torsten Mayer-Gürr
25.11.2015
2
p
6
40
Binomialverteilung
Definition: Die diskrete Zufallsvariable X bezeichnet man als binomialverteilt
mit den Parametern n und p, abgekürzt geschrieben 𝑋~𝐵(𝑛, 𝑝),
wenn ihre Dichte 𝑓(𝑥) gegeben ist durch
n
f ( x)    p x (1  p ) n x
 x
für
x  {0,1,, n} und 0  p  1
Erwarungswert:
  np
Varianz:
 2  np(1  p)
Torsten Mayer-Gürr
25.11.2015
41
Dichtefunktion und
Verteilungsfunktion
Torsten Mayer-Gürr
Dichtefunktion und Verteilungsfunktion
Dichtefunktion,
probability density function (pdf)
Verteilungsfunktion,
cummulative density function (cdf)
F ( xi )  P( X  xi )   f ( xk )
f ( xi )  P( X  xi )
Torsten Mayer-Gürr
k i
25.11.2015
43
Diskrete Zufallsvariable
Eine diskrete Zufallsvariable X nimmt endlich viele oder abzählbar unendlich viele Werte an.
-
Werte:
x1 , x2 ,, xn ,
-
Wahrscheinlichkeit:
f ( x1 ), f ( x2 ),, f ( xn ),
P( X  xi )  f ( xi )
kontinuierliche Zufallsvariable X
Idee: Anzahl der Ereignisse n gegen unendlich, Wert des einzelnen Ereignisses gegen null.
Torsten Mayer-Gürr
25.11.2015
44
Binomialverteilung
Dichtefunktion,
probability density function (pdf)
Verteilungsfunktion,
cummulative density function (cdf)
F ( xi )  P( X  xi )   f ( xk )
f ( xi )  P( X  xi )
Torsten Mayer-Gürr
k i
25.11.2015
45
Binomialverteilung
Dichtefunktion,
probability density function (pdf)
Verteilungsfunktion,
cummulative density function (cdf)
F ( xi )  P( X  xi )   f ( xk )
f ( xi )  P( X  xi )
Torsten Mayer-Gürr
k i
25.11.2015
46
Binomialverteilung
Dichtefunktion,
probability density function (pdf)
Verteilungsfunktion,
cummulative density function (cdf)
F ( xi )  P( X  xi )   f ( xk )
f ( xi )  P( X  xi )
Torsten Mayer-Gürr
k i
25.11.2015
47
Binomialverteilung
Dichtefunktion,
probability density function (pdf)
Verteilungsfunktion,
cummulative density function (cdf)
F ( xi )  P( X  xi )   f ( xk )
f ( xi )  P( X  xi )
Torsten Mayer-Gürr
k i
25.11.2015
48
Binomialverteilung
Dichtefunktion,
probability density function (pdf)
Verteilungsfunktion,
cummulative density function (cdf)
F ( xi )  P( X  xi )   f ( xk )
f ( xi )  P( X  xi )
k i
Wahrscheinlichkeit
eines Einzelereignisses geht gegen null
Verteilungsfunktion
einer stetigen Zufallsvariable
x
F ( x)  P( X  x) 
 f (t ) dt

Torsten Mayer-Gürr
25.11.2015
49
Stetige Zufallsvariable
Eine stetige Zufallsvariable X hat eine nicht-negative integrierbare Dichtefunktion mit
x
F ( x) 
 f (t ) dt
dF ( x)
 f ( x)
dx

wobei F ( x)  P( X  x) die Verteilungsfunktion von X ist
Dichtefunktion
f ( x)  0

 f (t ) dt  1

Wahrscheinlichkeit
x
P( X  x)  F ( x) 
 f (t ) dt

b
P(a  X  b)  F (b)  F (a )   f (t ) dt
a
a
P( X  a )  F (a )  F (a )   f (t ) dt  0
a
Torsten Mayer-Gürr
25.11.2015
50
Stetige Zufallsvariable
Eine stetige Zufallsvariable X hat eine nicht-negative integrierbare Dichtefunktion mit
x
F ( x) 
 f (t ) dt
dF ( x)
 f ( x)
dx

wobei F ( x)  P( X  x) die Verteilungsfunktion von X ist
Dichtefunktion
f ( x)  0

 f (t ) dt  1

Wahrscheinlichkeit
x
P( X  x)  F ( x) 
 f (t ) dt

b
P(a  X  b)  F (b)  F (a )   f (t ) dt
a
a
P( X  a )  F (a )  F (a )   f (t ) dt  0
a
Torsten Mayer-Gürr
25.11.2015
Pail51
Dichte und Verteilungsfunktion
Verteilungsfunktion
Dichtefunktion
f (x)
F ( x)  P( X  x)
Pail
Torsten Mayer-Gürr
25.11.2015
52
Erwartungswert und Varianz
Erwartungswert (diskret)
Erwartungswert (stetig)

n
  E{ X }   xi f ( xi )
  E{ X }   x f ( x) dx
i 1

Varianz (diskret)
Varianz (stetig)

n
  E{( X   ) }   ( xi   ) f ( xi )
2
2
  E{( X   ) }   ( x   ) 2 f ( x) dx
2
2
i 1
2

Erwartungswertoperator

E{}   () f ( x) dx

Torsten Mayer-Gürr
25.11.2015
53
Kontinuierliche Verteilungen:
Normalverteilung
Torsten Mayer-Gürr
Normalverteilung
Definition: Die Zufallsvariable X bezeichnet man als normalverteilt mit den
Parametern 𝜇 und 𝜎 2 , abgekürzt geschrieben 𝑋~𝑁(𝜇, 𝜎 2 ), wenn ihre Dichte 𝑓(𝑥)
gegeben ist durch
2
2
1
f ( x,  ,  ) 
e ( x ) / 2 für    x  
 2
Torsten Mayer-Gürr
25.11.2015
55
Normalverteilung
Definition: Die Zufallsvariable X bezeichnet man als normalverteilt mit den
Parametern 𝜇 und 𝜎 2 , abgekürzt geschrieben 𝑋~𝑁(𝜇, 𝜎 2 ), wenn ihre Dichte 𝑓(𝑥)
gegeben ist durch
2
2
1
f ( x,  ,  ) 
e ( x ) / 2 für    x  
 2
Bedingungen für die Dichte:

f ( x)  0
und
 f (t ) dt  1

Torsten Mayer-Gürr
25.11.2015
56
Normalverteilung

1  A   f ( x) dx  1

 2

( x   )
e

2
/ 2

2
1
dx 
2

e
y /2
2
dy

Substitution
1
y  x   

dy 1

dx 



 

1   y 2 / 2   y 2 / 2 
 e
A    f ( x) dx   f ( x) dx  
dy  e
dy 
2  
 
 

 


2



1   x2 / 2   y 2 / 2 
  e

dx   e
dy 
2  
 

1

2
1

2

( x
e

2
y )/2
2
x  r cos 
y  r sin 
dxdy

2 
r / 2
e
  r dr d
Flächenelement:
2
dx dy  r dr d
0 0

 e
Polarkoordinaten:
 
r 2 / 2

r dr   e
r 2 / 2


0
1
0
Torsten Mayer-Gürr
25.11.2015
57
Normalverteilung
Erwartungswert:

E{ X }   x f ( x) dx


1
E{ X } 
 2

1
2
1

2


 xe
( x   ) 2 / 2 2
Substitution
1
y  x   
dx



y /2



y


e
dy

dy 1

dx 
x  y  
2


 ye
 y2 / 2

1
2

 ye
 y2 / 2


2
1
 e y / 2
2
Torsten Mayer-Gürr
1
dy 
2

y /2
 e dy
2

1
dy  
2



 

y /2
e
 dy
2

1
25.11.2015
58
Normalverteilung
Varianz:

E{( X   ) }   ( x   ) 2 f ( x) dx   2
2

Torsten Mayer-Gürr
25.11.2015
59
Normalverteilung
Definition: Die Zufallsvariable X bezeichnet man als normalverteilt mit den
Parametern 𝜇 und 𝜎 2 , abgekürzt geschrieben 𝑋~𝑁(𝜇, 𝜎 2 ), wenn ihre Dichte 𝑓(𝑥)
gegeben ist durch
2
2
1
f ( x,  ,  ) 
e ( x ) / 2 für    x  
 2
Verteilungsfunktion:
1
F ( x) 
 2
x
( t   )
e

2
/ 2 2
dt

Erwartungswert:

E{ X }   x f ( x) dx  

Varianz:

E{( X   ) }   ( x   ) 2 f ( x) dx   2
2

Torsten Mayer-Gürr
25.11.2015
60
Standardisierte Normalverteilung
Transformation:
- Zentrierung der Verteilung (Verschiebung entlang der x-Achse)
- Normierung der Verteilung (Division durch die Standardabweichung)
X ~ N (  , 2 )

Y
1

 X    ~ N (0,1)
Dichte der standardisierten Normalverteilung
1  12 x2
f ( x) 
e
2
Verteilungsfunktion
1
P( X  x)  F ( x) 
2
Torsten Mayer-Gürr
x
e
1
 y2
2
dy

25.11.2015
61
Tabelle
Torsten Mayer-Gürr
25.11.2015
62
3-Sigma Regel
P(     X     )  F
(N )
(   )  F
(N )
(   )
     
( norm )       
 F ( norm ) 
F








Transformation
y :
1

x   
 F ( norm ) 1  F ( norm )  1
 0.841  0.159
 0.683  68%
P(   1  X    1 )  68.3%
P(   2  X    2 )  95.5%
P(   3  X    3 )  99.7%
Pail
Torsten Mayer-Gürr
25.11.2015
63
Mehrdimensionale
Zufallsvariablen
Torsten Mayer-Gürr
Zweidimensionale Zufallsverteilung
Zweidimensionale stetige Zufallsvariable
x y
F ( x, y ) 
  f ( x, y) dy dx
  
Wahrscheinlichkeit (Verteilungsfunktion)
P ( X  x, Y  y )  F ( x, y )
Dichtefunktion
Pail
f ( x, y ) 0
 
  f ( x, y) dy dx  1

Torsten Mayer-Gürr
25.11.2015
65
Zweidimensionale Zufallsverteilung
Zweidimensionale stetige Zufallsvariable
x y
F ( x, y ) 
  f ( x, y) dy dx
  
Wahrscheinlichkeit (Verteilungsfunktion)
P ( X  x, Y  y )  F ( x, y )
P ( X  x )  F ( x,  ) 
x 
x
  f ( x, y) dy dx   f
x
( x) dx
Pail

  

Randverteilung f x ( x) 
 f ( x, y) dy

Torsten Mayer-Gürr
25.11.2015
66
Bedingte Wahrscheinlichkeit
Definition: Als bedingte Wahrscheinlichkeit P(A|B) des Ereignisses A unter der
Bedingung, dass B eingetroffen ist, bezeichnet man das Verhältnis
P( A | B) 
P( A und B)
P( B)
15 rote, 5 blaue Kugeln
P( A und B)  P( A | B) P( B)
Wie groß ist die Wahrscheinlichkeit, nach einer roten
ein blaue Kugel ohne zurücklegen zu ziehen?
rote Kugel:
P( A) 
15
20
blaue Kugel: P( B | A) 
5
19
P( A und B)  P( A) P( B | A) 
Torsten Mayer-Gürr
25.11.2015
15 5
  19,7%
20 19
67
Bedingte Wahrscheinlichkeit
Definition: Als bedingte Wahrscheinlichkeit P(A|B) des Ereignisses A unter der
Bedingung, dass B eingetroffen ist, bezeichnet man das Verhältnis
P( A | B) 
P( A und B)
P( B)
P( A und B)  P( A | B) P( B)
Bedingte Dichte
f ( x | y) 
f ( x, y )
f y ( y)
f ( x, y )  f ( x | y ) f y ( y )

mit der Randverteilung
f y ( y) 
 f ( x, y) dx

Sind die Ereignisse A und B voneinander unabhängig, gilt:
P( A und B)  P( A) P( B)
Zwei Zufallsvariablen sind genau dann voneinander unabhängig, falls gilt
f ( x, y )  f x ( x ) f y ( y )
Torsten Mayer-Gürr
25.11.2015
68
Mehrdimensionale Zufallsverteilung
Mehrdimensionale stetige Zufallsvariable
x1 x2
F ( x1 , x2 ,, xn ) 
xn
   f (t , t ,, t ) dt dt
1

2
n
n
2
dt1

Wahrscheinlichkeit (Verteilungsfunktion)
P( X 1  x1 , X 2  x2 ,, X n  xn )  F ( x1 , x2 ,, xn )
Dichtefunktion
Pail
f ( x1 , x2 ,, xn ) 0
 

   f ( x , x ,, x ) dx dx
1

2
n
n
2
dx1  1

Torsten Mayer-Gürr
25.11.2015
69
Erwartungswert &
Varianz/Kovarianz
(Tafel)
Torsten Mayer-Gürr
Zufallsvektor
Torsten Mayer-Gürr
Varianz / Kovarianz
Zufallsvektor
 x
 
x   y
z
 
Erwartungswert
 x 
 
E{x}  μ    y 
 
 z
Varianz-Kovarianzmatrix
  x2  xy  xz 


2
Σ{x}  Σ x    yx  y  yz 
2 

 zx  zy  z 
Varianz
 x2  E{( X   x )( X   x )}  E{ X 2 }   x2
 y2  E{(Y   y )(Y   y )}  E{Y 2 }   y2
Kovarianz
 xy  E{( X   x )(Y   y )}  E{ XY }   x  y
Kovarianz Operator
Σ{x}  E{( x  μ)(x  μ)T }
Torsten Mayer-Gürr
25.11.2015
72
Varianz / Kovarianz
Lineare Transformation
y  Ax  c
nx1
Zufallsvektor
mx1
Zufallsvektor
mx1
konstanter Vektor
n x m konstante Koeffizientenmatrix
Erwartungswert
E{y}  E{Ax  c}  AE{x}  c
Kovarianzmatrix
Σ{y}  Σ{Ax  c}  AΣ{x}A T
Torsten Mayer-Gürr
25.11.2015
73
Kovarianzfortpflanzung
Kovarianzfortpflanzung
Σ{y}  Σ{Ax  c}  AΣ{x}A
Torsten Mayer-Gürr
25.11.2015
T
74
Kovarianzfortpflanzung
Beispiel: Differenz zweier Streckenmessungen
s1  253 cm  12  (4 mm) 2
s2  153 cm  22  (3 mm) 2
 s   153 
x   1   
 cm
 s2   253 
  12  12   (4 mm) 2
  
Σ x  
2 


0

 12
2 
s  s1  s2
(s )  Ax
mit
s  s1  s2  ?
A  1  1
0 

(3 mm) 2 
 (4 mm) 2
AΣ{x}A  1  1
0

T
0  1 
 
2 
(3 mm)   1
Varianz der Differenz
 2s   12   22  (5 mm) 2
Torsten Mayer-Gürr
25.11.2015
75
Kovarianzfortpflanzung
Beispiel: Mittelwert
1 n
1
1
1
s   si  s1  s2    sn
n i 1
n
n
n
 s1 
 
s 
x 2

 
 sn 
s  Ax
  12



2
2


Σx  
 diag( 12 , 22 ,, n2 )




2

n 

1
mit A  
n
1
1


n
n
 s2  AΣ{x}AT 
1 2
( 1   22     n2 )
2
n
Bei gleicher Varianz
1
1
  2 ( 12   22     n2 )  2 n 2
n
n
2
s
Torsten Mayer-Gürr
s 
1
s
n
25.11.2015
76
Polares Anhängen
Polares Anhängen
x
Gemessen
s  10 m  4 mm
t  40 gon  1 mgon
( x, y )
Polares Anhängen
s
x  s  cost /  
t
y  s  sin t /  
mit  
200gon

y
 s   10 m 
x     

t
40
gon
  

  12  12   (0,004 m) 2
  
Σ x  
2 
  12  2   0 m  gon
 x   s  cost /    8,090 m 
y  
 



y
s

sin
t
/

5
,
878
m
  
 

Torsten Mayer-Gürr
0 m  gon 

2
(0,001gon ) 
Lineare Transformation?
y  Ax  c
25.11.2015
Kovarianzmatrix
Σ{y}  AΣ{x}AT
77
Polares Anhängen
Gemessen:
 s   10 m 
x     

t
40
gon
  

Berechnet:
 x   s  cost /  
y  



y
s

sin
t
/

  

Kovarianzmatrix
Σ{y}  AΣ{x}AT
Kovarianzmatrix:
  12  12   (0,004 m) 2
  
Σ x  
2 
  12  2   0 m  gon
0 m  gon 

2
(0,001gon ) 
Jakobimatrix
A
y  x s x t   cos t   s /  sin  t 

 

x  y s y t   sin  t  s /  cos t  
 0,8090  0,0923 m/gon 


0
,
5878
0
,
1271
m/gon


Kovarianzmatrix
 0,8090  0,0923 m/gon  (0,004 m) 2
Σ{y}  

0
,
5878
0
,
1271
m/gon

 0 m  gon
1,0481  10 5 m 2
 
5
2
 0,7596  10 m
Torsten Mayer-Gürr
0,8090
0,5878 
0 m  gon 



2

0
,
0923
m/gon
0
,
1271
m/gon
(0,001gon ) 

0,7596  10 5 m 2 

5
2
0,5544  10 m 
Ergebnis
x  8,090 m  3,2 mm
y  5,878 m  2,4 mm
25.11.2015
78
Drehung des
Koordinatensystems
Torsten Mayer-Gürr
Polares Anhängen
Polares Anhängen
x
x
( x, y )
y
s
t
y
Torsten Mayer-Gürr
25.11.2015
80
Drehmatrizen
Drehmatrix
 cos 
Q( )  
  sin 
sin  

cos  
Inverse Drehung
 cos 
Q ( )  Q( )  
 sin 
1
 sin  
  QT ( )
cos  
Allgemein: Orthogonale Matrix
(Rotation mit evtl. Spiegelung)
Q 1  QT
QT Q  I
QQT  I
Torsten Mayer-Gürr
25.11.2015
81
Polares Anhängen
Polares Anhängen
x
x'
( x, y )
y'
s
t
y
Drehung um Winkel t
y '  Qy
mit
Kovarianzmatrix
Σ{y '}  QΣ{y}QT
 QAΣ{x}AT QT
 cos t  sin  t  
Q






sin

t
cos

t


Torsten Mayer-Gürr
25.11.2015
82
Polares Anhängen
Drehung um Winkel t
y '  Qy
Nebenrechnung
 cost /   sin t /    cost /    s /  sin t /  
QA  


  sin t /   cost /   sin t /   s /  cost /   
mit
 cost /   sin t /   
Q

  sin t /   cost /  
0 
1


0
s
/



Kovarianzmatrix
Σ{y '}  QΣ{y}QT
 QAΣ{x}AT QT
0   s2 0  1
0 
1





2
0
s
/

0
s
/


 0  t 

  s2
 
 0


2
s   t  
Torsten Mayer-Gürr
0
25.11.2015
83
Polares Anhängen
Polares Anhängen
x
Gemessen
x'
s  10 m  4 mm
t  40 gon  1 mgon
( x, y )
y'
s
Polares Anhängen
x  s  cost /  
t
y  s  sin t /  
mit  
200gon

y
Kovarianzmatrix
 x'    s2
Σ{ }  
 y'   0


2
s   t  
0
Durch Drehung des Koordinatensystems
kann man unkorrelierte Zufallsvariablen
erhalten!
b 

r 
Torsten Mayer-Gürr
25.11.2015
84