x - Fakultät Statistik (TU Dortmund)

technische universität
dortmund
Erwartungswert und Varianz
Zuletzt: Abbildung von Ereignissen auf reelle Zahlen durch Zufallsvariablen und
mathematische Formulierung ihrer Wahrscheinlichkeiten durch Verteilungsfunktionen
X: Ω  
ω
X(ω)
FX  F
FX :   [0,1]
x
FX (x )
Jetzt: Charakterisierung der Verteilungen durch einzelne Parameter
θ: F  
FX
θ(FX )
Jörg Rahnenführer, WRUMS, WS1314, TU Dortmund
Kapitel 8
-1-
technische universität
dortmund
Erwartungswert und Varianz
Erinnerung
Betrachtung der Population Ω={e1,…,eN} mit quantitativem Datensatz y={y1,…,yN} ,
y{x‘1,…,x‘J}=:TX
Falls P ein Wahrscheinlichkeitsmaß ist mit P({ei})=1/N, i=1,…,N, so sind die Werte FX(x)
der theoretischen Verteilungsfunktion der Zufallsvariable X mit X({e})=y(e) für alle
xTX identisch mit denen der empirischen Verteilungsfunktion FN(x) von y.
Entsprechend sind relative Häufigkeitsverteilung fj von y und Zähldichte p(x‘j) von X
für alle j=1,…,J numerisch identisch.
Jörg Rahnenführer, WRUMS, WS1314, TU Dortmund
Kapitel 8
-2-
technische universität
dortmund
Erwartungswert und Varianz
Erinnerung
Ω={e1,…,eN}
X({e})=y(e)

y={y1,…,yN}
TX={x‘1,…,x‘J}
FN (x)= FX(x), x
fj=p(x‘j) , j=1,…,J
Für das arithmetische Mittel von y gilt:
Der Wert
P({ei})=1/N , i=1,…,N
J
1 N
y   yi   f j  x' j
N i 1
j1
J
J
1 N
E(X) :  y   yi   f j  x' j   p(x' j )  x' j
N i 1
j1
j1
charakterisiert unter den obigen Voraussetzungen also die Lage der Verteilung FX.
Jörg Rahnenführer, WRUMS, WS1314, TU Dortmund
Kapitel 8
-3-
technische universität
dortmund
Erwartungswert und Varianz
Diskrete Wahrscheinlichkeitsverteilungen
Der Erwartungswert einer diskret verteilten Zufallsvariable X mit Zähldichte p(x) und
Träger TX={x1,x2,…} ist definiert durch
E(X) 
J
 p(x )  x
j1
j
j
, J  {}.
Die Varianz von X ist definiert durch
var(X)  E [X  E(X)]    p(x j )  [x j  E(X)]2 , J  {}.
2
J
j1
Die Standardabweichung von X ist definiert durch
var(X) .
Jörg Rahnenführer, WRUMS, WS1314, TU Dortmund
Kapitel 8
-4-
technische universität
dortmund
Erwartungswert und Varianz
Diskrete Wahrscheinlichkeitsverteilungen
Ist h:   eine Funktion, so gilt für den Erwartungswert der transformierten
Zufallsvariable h(X):
E[h(X)] 
J
 h(x j)  p(x j) ,
J  {}.
j=1
Für h:x
x ergibt sich für E[h(X)] damit der Erwartungswert von X und
für h:x
[x  E(X)]2 die Varianz von X.
x k ergibt, wird k-tes Moment von X genannt:
Der Wert, der sich für h:x
mk (X)  E(X ) 
k
J
x
j1
k
j
 p(x j ) , J  {}.
Das k-te Moment der um den Erwartungswert zentrierten Zufallsvariable
X  E(X) heißt k-tes zentrales Moment :
μ k (X)  E [X  E(X)]
k


J
 [x
j1
Jörg Rahnenführer, WRUMS, WS1314, TU Dortmund
j
 E(X)]k  p(x j ) , J  {}.
Kapitel 8
-5-
technische universität
dortmund
Erwartungswert und Varianz
Stetige Wahrscheinlichkeitsverteilungen
Approximation stetiger Dichtefunktion von X durch Zähldichte diskretisierter Zufallsvariable
Integral ist die Fläche unter der Kurve und
kann als Grenzwert von immer dünneren
Rechtecken berechnet werden
Jörg Rahnenführer, WRUMS, WS1314, TU Dortmund
Kapitel 8
-6-
technische universität
dortmund
Erwartungswert und Varianz
Stetige Wahrscheinlichkeitsverteilungen
Der Erwartungswert einer stetig verteilten Zufallsvariable X mit Dichtefunktion f ist
definiert durch

E(X) 
 t  f(t)dt .

Die Varianz von X ist definiert durch


  [t  E(X)]  f(t)dt.
var(X)  E [X - E(X)] 
2
2

Die Standardabweichung von X ist definiert durch
var(X) .
Jörg Rahnenführer, WRUMS, WS1314, TU Dortmund
Kapitel 8
-7-
technische universität
dortmund
Erwartungswert und Varianz
Eigenschaften von Erwartungswerten
Falls die folgenden Erwartungswerte von stetig oder diskret verteilten Zufallsvariablen
existieren, so gelten folgende Eigenschaften:
(1) E(X  Y)  E(X)  E(Y)
(2) E(aX  b)  aE(X)  b , a,b 
Jörg Rahnenführer, WRUMS, WS1314, TU Dortmund
 n
 n
(3) E   aiXi  b    aE(X
i
i )  b , a1 ,...,an ,b 
 i1
 i1
(4) X und Y st.u.  E(XY)  E(X)  E(Y)
Kapitel 8
-8-
technische universität
dortmund
Erwartungswert und Varianz
Eigenschaften von Erwartungswerten
Falls die folgenden Erwartungswerte von stetig oder diskret verteilten Zufallsvariablen
existieren, so gelten folgende Eigenschaften:
(1) E(X  Y)  E(X)  E(Y)
(2) E(aX  b)  aE(X)  b , a,b 
Beweis: E(X  Y) 

(x  y)TX Y
 n
 n
(3) E   aiXi  b    aE(X
i
i )  b , a1 ,...,an ,b 
 i1
 i1
(4) X und Y st.u.  E(XY)  E(X)  E(Y)
[x  y]  P(X  Y  x  y)   [X(ω )  Y(ω )]  P({ω })
ωΩ
  X(ω )  P({ω })   Y(ω )  P({ω })   x  P(X  x)   y  P(Y  y)  E(X)  E(Y)
ωΩ
ωΩ
Jörg Rahnenführer, WRUMS, WS1314, TU Dortmund
xTX
yTY
Kapitel 8
-9-
technische universität
dortmund
Erwartungswert und Varianz
Eigenschaften von Erwartungswerten
Falls die folgenden Erwartungswerte von stetig oder diskret verteilten Zufallsvariablen
existieren, so gelten folgende Eigenschaften:
(1) E(X  Y)  E(X)  E(Y)
(2) E(aX  b)  aE(X)  b , a,b 
Bewei s: E(aX b) 
 n
 n
(3) E   aiXi  b    aE(X
i
i )  b , a1 ,...,an ,b 
 i1
 i1
(4) X und Y st.u.  E(XY)  E(X)  E(Y)






 (at b) f(t)dt  at f(t)dt  b  f(t)dt




 a   t  f(t)dt  b   f(t)dt  a  E(X)  b  1  aE(X) b
Jörg Rahnenführer, WRUMS, WS1314, TU Dortmund
Kapitel 8
- 10 -
technische universität
dortmund
Erwartungswert und Varianz
Eigenschaften von Erwartungswerten
E(aX b)  aE(X) b , a,b  
Jörg Rahnenführer, WRUMS, WS1314, TU Dortmund
E(X)
Kapitel 8
- 11 -
technische universität
dortmund
Erwartungswert und Varianz
Eigenschaften von Erwartungswerten
E(aX b)  aE(X) b , a,b  
Jörg Rahnenführer, WRUMS, WS1314, TU Dortmund
E(aX) = aE(X)
Kapitel 8
- 12 -
technische universität
dortmund
Erwartungswert und Varianz
Eigenschaften von Erwartungswerten
E(aX b)  aE(X) b , a,b  
Jörg Rahnenführer, WRUMS, WS1314, TU Dortmund
E(aX+b) = aE(X)+b
Kapitel 8
- 13 -
technische universität
dortmund
Erwartungswert und Varianz
Eigenschaften von Erwartungswerten
Falls die folgenden Erwartungswerte von stetig oder diskret verteilten Zufallsvariablen
existieren, so gelten folgende Eigenschaften:
(1) E(X  Y)  E(X)  E(Y)
(2) E(aX  b)  aE(X)  b , a,b 
 n
 n
(3) E   aiXi  b    aE(X
i
i )  b , a1 ,...,an ,b 
 i1
 i1
(4) X und Y st.u.  E(XY)  E(X)  E(Y)
 n

 n

Beweis: E   aiX i  b   E   aiX i   b 
(1)
 i1
 (2)  i1

Jörg Rahnenführer, WRUMS, WS1314, TU Dortmund
n
 E(a X )  b
i1
i i

(2)
n
 aE(X )  b
i1
i
i
Kapitel 8
- 14 -
technische universität
dortmund
Erwartungswert und Varianz
Eigenschaften von Erwartungswerten
Falls die folgenden Erwartungswerte von stetig oder diskret verteilten Zufallsvariablen
existieren, so gelten folgende Eigenschaften:
 n
 n
(3) E   aiXi  b    aE(X
i
i )  b , a1 ,...,an ,b 
 i1
 i1
(4) X und Y st.u.  E(XY)  E(X)  E(Y)
(1) E(X  Y)  E(X)  E(Y)
(2) E(aX  b)  aE(X)  b , a,b 
Beweis: X und Y st.u.  fXY (x,y)  fX (x)  fY (y)
 
 E(XY) 
 
  u v  f
(u,v) du dv 


XY
 

X
Y
 
 u  f (u)du  v  f (v)  dv
X

  u  v  f (u)  f (v) du dv
Y
 E(X)  E(Y)

Jörg Rahnenführer, WRUMS, WS1314, TU Dortmund
Kapitel 8
- 15 -
technische universität
dortmund
Erwartungswert und Varianz
Eigenschaften von Varianzen
Falls die folgenden Varianzen von stetig oder diskret verteilten Zufallsvariablen
existieren, so gelten folgende Eigenschaften:
(A) var(X)  0
(D) X und Y s t.u.  var(X  Y)  var(X)  var(Y)
(B) var(X)  0  X ~ εa , a  
(E) X1 ,..., Xn s t.u. , a1 ,..., an  
 n
 n 2
 var  aiX i  b    ai var(Xi )
 i1
 i1
(C) var(aX b)  a2 var(X)
(A) Ist klar, da Quadrat und Dichte immer größer 0
Jörg Rahnenführer, WRUMS, WS1314, TU Dortmund
Kapitel 8
- 16 -
technische universität
dortmund
Erwartungswert und Varianz
Eigenschaften von Varianzen
Falls die folgenden Varianzen von stetig oder diskret verteilten Zufallsvariablen
existieren, so gelten folgende Eigenschaften:
(A) var(X)  0
(D) X und Y s t.u.  var(X  Y)  var(X)  var(Y)
(B) var(X)  0  X ~ εa , a  
(E) X1 ,..., Xn s t.u. , a1 ,..., an  
 n
 n 2
 var  aiX i  b    ai var(Xi )
 i1
 i1
(C) var(aX b)  a2 var(X)
a2  a2
Beweis "  ": X ~ εa  var(X)   t  1  dt 
0
2
a
a
Jörg Rahnenführer, WRUMS, WS1314, TU Dortmund
Kapitel 8
- 17 -
technische universität
dortmund
Erwartungswert und Varianz
Eigenschaften von Varianzen
Falls die folgenden Varianzen von stetig oder diskret verteilten Zufallsvariablen
existieren, so gelten folgende Eigenschaften:
(A) var(X)  0
(D) X und Y s t.u.  var(X  Y)  var(X)  var(Y)
(B) var(X)  0  X ~ εa , a  
(E) X1 ,..., Xn s t.u. , a1 ,..., an  
 n
 n 2
 var  aiX i  b    ai var(Xi )
 i1
 i1
(C) var(aX b)  a2 var(X)

Beweis "  ": var(X)  0 
2
[t

E(X)]
 f(t) dt  0


 für alle t : [t  E(X)]2  0 oder f(t)  0
Jörg Rahnenführer, WRUMS, WS1314, TU Dortmund
Kapitel 8
- 18 -
technische universität
dortmund
Erwartungswert und Varianz
Eigenschaften von Varianzen
Falls die folgenden Varianzen von stetig oder diskret verteilten Zufallsvariablen
existieren, so gelten folgende Eigenschaften:
(A) var(X)  0
(D) X und Y s t.u.  var(X  Y)  var(X)  var(Y)
(B) var(X)  0  X ~ εa , a  
(E) X1 ,..., Xn s t.u. , a1 ,..., an  
 n
 n 2
 var  aiX i  b    ai var(Xi )
 i1
 i1
(C) var(aX b)  a2 var(X)
Beweis "  ": var(X)  0  für alle t : [t  E(X)]2  0 oder f(t)  0
[t  E(X)]2  0  t  E(X)  für alle t  E(X) muss gelten: f(t)  0


X~εE(X)
 f(t)dt 1

Jörg Rahnenführer, WRUMS, WS1314, TU Dortmund
Kapitel 8
- 19 -
technische universität
dortmund
Erwartungswert und Varianz
Eigenschaften von Varianzen
Falls die folgenden Varianzen von stetig oder diskret verteilten Zufallsvariablen
existieren, so gelten folgende Eigenschaften:
(A) var(X)  0
(D) X und Y s t.u.  var(X  Y)  var(X)  var(Y)
(B) var(X)  0  X ~ εa , a  
(E) X1 ,..., Xn s t.u. , a1 ,..., an  
 n
 n 2
 var  aiX i  b    ai var(Xi )
 i1
 i1
(C) var(aX b)  a2 var(X)
Beweis :


var(aX b)  E [aX  b  E(aX b)]2





E(aX b)aE(X) b


E [aX  b  aE(X) b]2


 E [a  (X  E[X])]2  E a2  [X  E(X)]2  a2  E [X  E(X)]2  a2 var(X)
Jörg Rahnenführer, WRUMS, WS1314, TU Dortmund
Kapitel 8
- 20 -
technische universität
dortmund
Erwartungswert und Varianz
Eigenschaften von Varianzen
Falls die folgenden Varianzen von stetig oder diskret verteilten Zufallsvariablen
existieren, so gelten folgende Eigenschaften:
(A) var(X)  0
(D) X und Y s t.u.  var(X  Y)  var(X)  var(Y)
(B) var(X)  0  X ~ εa , a  
(E) X1 ,..., Xn s t.u. , a1 ,..., an  
 n
 n 2
 var  aiX i  b    ai var(Xi )
 i1
 i1
(C) var(aX b)  a2 var(X)
Beweis : X und Y st.u.  E(XY)  E(X)E(Y)

 


Var(X Y)  E [X  Y  E(X  Y)]2  E [X  Y  E(X)  E(Y)]2  E [(X  E(X)  (Y  E(Y)]2


 E [X  E(X)]2  [Y  E(Y)]2  2[X  E(X)] [Y  E(Y)]  Var(X) Var(Y) 2R
R  E[X  E(X)] [Y  E(Y)]
Jörg Rahnenführer, WRUMS, WS1314, TU Dortmund
Kapitel 8
- 21 -

technische universität
dortmund
Erwartungswert und Varianz
Eigenschaften von Varianzen
Falls die folgenden Varianzen von stetig oder diskret verteilten Zufallsvariablen
existieren, so gelten folgende Eigenschaften:
(A) var(X)  0
(D) X und Y s t.u.  var(X  Y)  var(X)  var(Y)
(B) var(X)  0  X ~ εa , a  
(E) X1 ,..., Xn s t.u. , a1 ,..., an  
 n
 n 2
 var  aiX i  b    ai var(Xi )
 i1
 i1
(C) var(aX b)  a2 var(X)
Beweis : X und Y st.u.  E(XY)  E(X)E(Y)
Var(X Y)  Var(X) Var(Y) 2R
R  E[X  E(X)] [Y  E(Y)]  EXY  E(X)Y  XE(Y)  E(X)E(Y)
 E(XY)  E(X)E(Y) E(X)E(Y) E(X)E(Y)
Jörg Rahnenführer, WRUMS, WS1314, TU Dortmund

E(XY)E(X)E(Y)
0
Kapitel 8
- 22 -
technische universität
dortmund
Erwartungswert und Varianz
Eigenschaften von Varianzen
Falls die folgenden Varianzen von stetig oder diskret verteilten Zufallsvariablen
existieren, so gelten folgende Eigenschaften:
(A) var(X)  0
(D) X und Y s t.u.  var(X  Y)  var(X)  var(Y)
(B) var(X)  0  X ~ εa , a  
(E) X1 ,..., Xn s t.u. , a1 ,..., an  
 n
 n 2
 var  aiX i  b    ai var(Xi )
 i1
 i1
(C) var(aX b)  a2 var(X)
Beweis : X und Y st.u.  E(XY)  E(X)E(Y)
Var(X Y)  Var(X) Var(Y) 2R  Var(X) Var(Y)
R 0
Jörg Rahnenführer, WRUMS, WS1314, TU Dortmund
Kapitel 8
- 23 -
technische universität
dortmund
Erwartungswert und Varianz
Eigenschaften von Varianzen
Falls die folgenden Varianzen von stetig oder diskret verteilten Zufallsvariablen
existieren, so gelten folgende Eigenschaften:
(F) Verschiebungssatz von Steiner : a    var(X)  E[(X  a)2 ]  [E(X)  a]2 ,
speziell für a  0  var(X)  E(X 2 )  E(X)2
(G) Tschebyscheff - Ungleichung P(|X  E(X)|  ε) 
Jörg Rahnenführer, WRUMS, WS1314, TU Dortmund
var(X)
, ε  (0,)
2
ε
Kapitel 8
- 24 -
technische universität
dortmund
Erwartungswert und Varianz
Eigenschaften von Varianzen
Falls die folgenden Varianzen von stetig oder diskret verteilten Zufallsvariablen
existieren, so gelten folgende Eigenschaften:
(F) Verschiebungssatz von Steiner : a    var(X)  E[(X  a)2 ]  [E(X)  a]2 ,
speziell für a  0  var(X)  E(X 2 )  E(X)2
(G) Tschebyscheff - Ungleichung P(|X  E(X)|  ε) 
var(X)
, ε  (0,)
2
ε
Beweis
var(X)  E [X  E(X)]2   E [(X  a)  (a  E[X])]2 
 E (X  a)2  2(a  E[X])(X  a)  (a  E[X])2   E[(X  a)2 ]  2(a  E[X])(E[X]  a)  (a  E[X])2
 E[(X  a)2 ]  2(a  E[X])2  (a  E[X])2  E[(X  a)2 ]  (a  E[X])2
Jörg Rahnenführer, WRUMS, WS1314, TU Dortmund
Kapitel 8
- 25 -
technische universität
dortmund
Erwartungswert und Varianz
Eigenschaften von Varianzen
Falls die folgenden Varianzen von stetig oder diskret verteilten Zufallsvariablen
existieren, so gelten folgende Eigenschaften:
(F) Verschiebungssatz von Steiner : a    var(X)  E[(X  a)2 ]  [E(X)  a]2 ,
speziell für a  0  var(X)  E(X 2 )  E(X)2
(G) Tschebyscheff - Ungleichung P(|X  E(X)|  ε) 

Beweis: var(X) 
2
[t

E(X)]
fX (t)dt




ε2 fX (t)dt  ε2
t:[t E(X)] ε
2
2

[t E(X)] fX (t) 0
fX (t)dt
t:[t E(X)]2 ε2
2
2
2

var(X)
, ε  (0,)
2
ε
[t  E(X)]2 fX (t)dt
t:[t E(X)]2 ε2
[t E(X)] ε

t E(X) ε t E(X)ε
ε2  P[(X  E(X)  ε)  (X  E(X)  ε)]
 ε2  P[|X  E(X)|  ε]
Jörg Rahnenführer, WRUMS, WS1314, TU Dortmund
Kapitel 8
- 26 -
technische universität
dortmund
Erwartungswert und Varianz
Eigenschaften von Varianzen
Anwendung der Tschebyscheff-Ungleichung: Abschätzung verteilungsunabhängiger
Unsicherheitsbereiche
P(|X  E(X)| ε) 

var(X)
, ε  (0, )
ε2

Setze ε : r var(X)  P | X  E(X)| r var(X) 

1
r2

 P E(X)  r var(X)  X  E(X)  r var(X)  1 
Jörg Rahnenführer, WRUMS, WS1314, TU Dortmund
1
r2
Kapitel 8
- 27 -
technische universität
dortmund
Erwartungswert und Varianz
Eigenschaften von Varianzen
Anwendung der Tschebyscheff-Ungleichung: Abschätzung verteilungsunabhängiger
1
Unsicherheitsbereiche
P E(X)  r var(X)  X  E(X)  r var(X)  1  2
r


Die Wahrscheinlichkeit, dass eine Realisation von X in einem symmetrischen Intervall
der Breite von r Standardabweichungen fällt, beträgt also unabhängig von der
Verteilung von X mindestens 1-1/r2.
Jörg Rahnenführer, WRUMS, WS1314, TU Dortmund
Kapitel 8
- 28 -
technische universität
dortmund
Erwartungswert und Varianz
Eigenschaften von Varianzen
Anwendung der Tschebyscheff-Ungleichung: Abschätzung verteilungsunabhängiger
Unsicherheitsbereiche
1


P E(X)  r var(X)  X  E(X)  r var(X)  1 
r2
Die Wahrscheinlichkeit, dass eine Realisation von X in einem symmetrischen Intervall der Breite
von r Standardabweichungen fällt, beträgt also unabhängig von der Verteilung von X mindestens
1-1/r2.
r=1
P[|X-E(X)|E(X)+r∙var(X)0.5] ≈ 0.6827
P[|X-E(X)|E(X)+r∙var(X)0.5] ≈ 0.8647
1-1/r2 = 0
N(5,1)
Jörg Rahnenführer, WRUMS, WS1314, TU Dortmund
1-1/r2 = 0
Exp(0.5)
Kapitel 8
- 29 -
technische universität
dortmund
Erwartungswert und Varianz
Eigenschaften von Varianzen
Anwendung der Tschebyscheff-Ungleichung: Abschätzung verteilungsunabhängiger
Unsicherheitsbereiche
1


P E(X)  r var(X)  X  E(X)  r var(X)  1 
r2
Die Wahrscheinlichkeit, dass eine Realisation von X in einem symmetrischen Intervall der Breite
von r Standardabweichungen fällt, beträgt also unabhängig von der Verteilung von X mindestens
1-1/r2.
P[|X-E(X)|E(X)+r∙var(X)0.5] ≈ 0.8664
1-1/r2 ≈ 0.5556
N(5,1)
Jörg Rahnenführer, WRUMS, WS1314, TU Dortmund
r = 1.5
P[|X-E(X)|E(X)+r∙var(X)0.5] ≈ 0.9179
1-1/r2 ≈ 0.5556
Exp(0.5)
Kapitel 8
- 30 -
technische universität
dortmund
Erwartungswert und Varianz
Eigenschaften von Varianzen
Anwendung der Tschebyscheff-Ungleichung: Abschätzung verteilungsunabhängiger
Unsicherheitsbereiche
1


P E(X)  r var(X)  X  E(X)  r var(X)  1 
r2
Die Wahrscheinlichkeit, dass eine Realisation von X in einem symmetrischen Intervall der Breite
von r Standardabweichungen fällt, beträgt also unabhängig von der Verteilung von X mindestens
1-1/r2.
P[|X-E(X)|E(X)+r∙var(X)0.5] ≈ 0.9545
1-1/r2 = 0.75
N(5,1)
Jörg Rahnenführer, WRUMS, WS1314, TU Dortmund
r=2
P[|X-E(X)|E(X)+r∙var(X)0.5] ≈ 0.9502
1-1/r2 = 0.75
Exp(0.5)
Kapitel 8
- 31 -
technische universität
dortmund
Erwartungswert und Varianz
Diskrete Wahrscheinlichkeitsverteilungen
E(X) 
J
 p(x )  x
j1
j
j
var(X)  E [X  E(X)]2 
Beispiel Einpunktverteilung εa
E(X)  a
Zähldichte : p(x)  I(a  x)
var(X)  0
Beispiel Diskrete Gleichverteilung G(x1,…,xn)
E(X)  x
1
Zähldichte : p(x)   I(x  {x1 ,..., x n })
n
var(X)  s2x
Jörg Rahnenführer, WRUMS, WS1314, TU Dortmund
Kapitel 8
- 32 -
technische universität
dortmund
Erwartungswert und Varianz
Diskrete Wahrscheinlichkeitsverteilungen
E(X) 
J
 p(x )  x
j1
j
j
var(X)  E [X  E(X)]2 
Beispiel Bernoulli-Verteilung Ber(p)
Zähldichte : p(x)  p  I(x  1)  (1  p) I(x  0)
E(X)  p
var(X)  p(1 p)
Beispiel Binomialverteilung Bin(n,p)
n
Zähldichte : p(x)  I(x  {0,...,n})    px  (1  p)nx
x
E(X)  np
var(X)  np(1 p)
Jörg Rahnenführer, WRUMS, WS1314, TU Dortmund
Kapitel 8
- 33 -
technische universität
dortmund
Erwartungswert und Varianz
Diskrete Wahrscheinlichkeitsverteilungen
E(X) 
J
 p(x )  x
j
j1
var(X)  E [X  E(X)]2 
j
Beispiel Hypergeometrische Verteilung Hyp(n,r,s)
Zähldichte:
p(x)  I(x  {max(0,n  1),...,min(n,r)}) E(X)  n
r   s 
 

x  n  x 


r  s 


 x 
var(X)  n
r
rs
r
s r  s n
r  s r  s r  s 1
Beispiel Geometrische Verteilung Geo(p)
Zähldichte: p(x)  I(x  0)  p  1  p 
E(X) 
1p
p
x
var(X) 
Jörg Rahnenführer, WRUMS, WS1314, TU Dortmund
1p
p2
Kapitel 8
- 34 -
technische universität
dortmund
Erwartungswert und Varianz
Diskrete Wahrscheinlichkeitsverteilungen
E(X) 
J
 p(x )  x
j1
j
j
var(X)  E [X  E(X)]2 
Beispiel Poisson-Verteilung Poi(λ)
E(X)  λ
λ xe λ
Zähldichte : p(x) 
x!
var(X)  λ
Stetige Wahrscheinlichkeitsverteilungen
Beispiel Rechteckverteilung R(a,b)
I(a  x  b)
Dichtefunk tion : f(x) 
ba
ab
E(X) 
2
(b  a)2
var(X) 
12
Jörg Rahnenführer, WRUMS, WS1314, TU Dortmund
Kapitel 8
- 35 -
technische universität
dortmund
Erwartungswert und Varianz
Stetige Wahrscheinlichkeitsverteilungen

E(X) 
 t  f(t)dt
var(X)  E [X  E(X)]2 

Beispiel Exponentialverteilung Exp(λ)
Dichtefunktion : f(x)  I(0  x)  λe(λx)
E(X) 
var(X) 
Jörg Rahnenführer, WRUMS, WS1314, TU Dortmund
1
λ
1
λ2
Kapitel 8
- 36 -
technische universität
dortmund
Erwartungswert und Varianz
Stetige Wahrscheinlichkeitsverteilungen

E(X) 

t  f(t)dt
var(X)  E [X  E(X)]2 

Beispiel Weibull-Verteilung W(α,β)
 α  x  α 1 (x/β )α 
Dichtefunktion : f(x)  I(0  x)      e

 β β 



Jörg Rahnenführer, WRUMS, WS1314, TU Dortmund
E(X) 
β 1
Γ 
α α
 2  2   1  1  2 
var(X)  β  Γ     Γ  
 α  α   α  α  


2
Kapitel 8
- 37 -
technische universität
dortmund
Erwartungswert und Varianz
Stetige Wahrscheinlichkeitsverteilungen

E(X) 
 t  f(t)dt
var(X)  E [X  E(X)]
2


Beispiel Gamma-Verteilung Γ(α,β)
Dichtefunktion: f(x)  I(0  x) 
β
α β1  αx
x e
Γ(β)
Jörg Rahnenführer, WRUMS, WS1314, TU Dortmund
E(X) 
α
β
α
var(X)  2
β
Kapitel 8
- 38 -
technische universität
dortmund
Erwartungswert und Varianz
Stetige Wahrscheinlichkeitsverteilungen

E(X) 
 t  f(t)dt
var(X)  E [X  E(X)]2 

Beispiel Weibull-Verteilung W(α,β)
 α  x  α 1 (x/β )α 
Dichtefunktion : f(x)  I(0  x)      e

 β β 



E(X) 
β 1
Γ 
α α
 2  2   1  1  2 
var(X)  β  Γ     Γ  
 α  α   α  α  


2
Beispiel Gamma-Verteilung Γ(α,β)
αβ β1  αx
Dichtefunktion: f(x)  I(0  x) 
x e
Γ(β)
E(X) 
α
β
var(X) 
Jörg Rahnenführer, WRUMS, WS1314, TU Dortmund
α
β2
Kapitel 8
- 39 -
technische universität
dortmund
Erwartungswert und Varianz
Stetige Wahrscheinlichkeitsverteilungen
E(X) 
J
 p(x )  x
j1
j
var(X)  E [X  E(X)]2 
j
Beispiel Normalverteilung N(μ,σ2)
Dichtefunk tion : f(x) 
1
e
2π σ
1  x μ 
 

2 σ 
E(X)  μ
2
var(X)  σ2
Beispiel χ2-Verteilung χf2
Dichtefunk tion : f(x)  I(0  x) 
1
x f/21ex/2
2 Γ(f/2)
f/2
E(X)  f
Jörg Rahnenführer, WRUMS, WS1314, TU Dortmund
var(X)  2f
Kapitel 8
- 40 -
technische universität
dortmund
Erwartungswert und Varianz
Stetige Wahrscheinlichkeitsverteilungen
E(X) 
J
 p(x )  x
j1
j
j
var(X)  E [X  E(X)]2 
E(X) 
Beispiel F-Verteilung Ff1,f2
Dichtefunk tion :
f f 
f1 /2
Γ 1 2 
x f1 /21
2   f1 

f(x)  I(0  x) 
  
(1  f1x/f2 )(f1  f2 )/2
f  f  f
Γ 1   Γ 2   2 
2 2
Beispiel t-Verteilung tf
Dichtefunktion:
f(x) 
 f 1
Γ

2  (f 1)/2  x/2
 2   1  x 


f 
f
fπ  Γ   
2
f2
, f2  2
f2  2
var(X)

2f22 (f1  f2  2)
, f2  4
f1 (f2  2)2 (f2  4)
E(X)  0
var(X) 
Jörg Rahnenführer, WRUMS, WS1314, TU Dortmund
f
, f 2
f -2
Kapitel 8
- 41 -
technische universität
dortmund
Erwartungswert und Varianz
Schwaches Gesetz der großen Zahlen
1 N
X   Xi
N i1
Es gelte: X  (X1 ,...,XN ), Xi ~F i.i.d. , E(Xi )  μ, var(Xi )  σ , i  1,...,N,
X
Dann gilt:
2
lim [P(|X  μ|  ε)]  0
N
1  N 
1 N
1 N
1
1 N 
Beweis: 1. E(X)  E   X i   E   X i    E(X i )   μ  N μ  μ
N  i1 
N i1
N i1
N
 N i1 
1
1 N 
 N 
2. var(X)  var   X i   2 var   X i 
N
 N i1 
 i1 

X1 ,...,XNst.u.
1
N2
N
1
var(X i )  2

N
i1
1
σ2
2
σ  2Nσ 

N
N
i1
N
2
Einsetzen in Tschebyscheff-Ungleichung:
var(X)
P(|X  E(X)|  ε) 
ε2
σ2
 P(|X  μ|  ε) 
Nε2
 lim P(|X  μ|  ε)  0
N
N
 0
Jörg Rahnenführer, WRUMS, WS1314, TU Dortmund
Kapitel 8
- 42 -
technische universität
dortmund
Erwartungswert und Varianz
Nicht existente Erwartungswerte oder Varianzen
Erwartungswert, Varianz und höhere Momente müssen nicht existieren.
Beispiel
Sei X stetig verteilte Zufallsvariable mit Dichtefunktion fX (x)  I(x  1) 
1
x2
Dann ist fX tatsächlich Dichte, denn es gilt:
x
x
1
FX (x)   fX (t)dt   fX (t)dt    1  1  1/x und damit
x

1

Allerdings gilt auch: E(X) 



tfX (t)dt   t
Jörg Rahnenführer, WRUMS, WS1314, TU Dortmund
1

 f (t)dt
X
 lim (1  1/x)  1

x 
1
dt  lim (log(b))  
2
b 
t
Kapitel 8
- 43 -
technische universität
dortmund
Erwartungswert und Varianz
Nicht existente Erwartungswerte oder Varianzen
Erwartungswert, Varianz und höhere Momente müssen nicht existieren.
Beispiel
fX (x) 
1
x2
Jörg Rahnenführer, WRUMS, WS1314, TU Dortmund
FX (x)  1  1/x
Kapitel 8
- 44 -
technische universität
dortmund
Weitere wahrscheinlichkeitstheoretische Kennzahlen
p-Quantile
Sei X eine Zufallsvariable mit Verteilungsfunktion F.
Für eine Zahl p(0,1) wird das p-Quantil Qp = Qp(X) der durch die Verteilungsfunktion
F = FX festgelegten Verteilung PX definiert durch den kleinsten Wert x, für den gilt:
F(x)  p.
Das 0.5-Quantil heißt Median, das 0.25-Quantil unteres Quartil und das 0.75-Quantil
oberes Quartil.
Jörg Rahnenführer, WRUMS, WS1314, TU Dortmund
Kapitel 8
- 45 -
technische universität
dortmund
Weitere wahrscheinlichkeitstheoretische Kennzahlen
Quantilsbestimmung über Verteilungsfunktion (diskreter Fall)
Jörg Rahnenführer, WRUMS, WS1314, TU Dortmund
Kapitel 8
- 46 -
technische universität
dortmund
Weitere wahrscheinlichkeitstheoretische Kennzahlen
Quantilsbestimmung über Verteilungsfunktion (stetiger Fall)
Jörg Rahnenführer, WRUMS, WS1314, TU Dortmund
Kapitel 8
- 47 -
technische universität
dortmund
Weitere wahrscheinlichkeitstheoretische Kennzahlen
Abhängigkeitsmaße
Erinnerung: X und Y stochastisch unabhängig  E(XY)  E(X)  (Y)
Umgekehrt gilt somit:
E(XY)  E(X)  (Y)  X und Y stochastisch abhängig
Seien X und Y Zufallsvariablen. Dann heißt
kov(X,Y) = E[(X-E[X]) ∙(Y-E[Y])]
Kovarianz von X und Y. Die Größe
korr(X,Y) 
kov(X,Y)
var(X)  var(Y)
heißt Korrelation von X und Y.
Jörg Rahnenführer, WRUMS, WS1314, TU Dortmund
Kapitel 8
- 48 -
technische universität
dortmund
Weitere wahrscheinlichkeitstheoretische Kennzahlen
Abhängigkeitsmaße
kov(X,Y) = E[(X-E[X]) ∙(Y-E[Y])]
korr(X,Y) 
kov(X,Y)
var(X)  var(Y)
Eigenschaften
(i) kov(X,Y)  kov(Y,X),
korr(X,Y)  korr(Y,X)
(ii) kov(X,Y)  E(XY)  E(X)  E(Y)
(iii)  1  korr(X,Y)   1
(iv) korr(X,Y)  0  X und Y sind negativ korreliert
korr(X,Y)  0  X und Y sind positiv korreliert
korr(X,Y)  0  X und Y sind unkorreliert
Jörg Rahnenführer, WRUMS, WS1314, TU Dortmund
Kapitel 8
- 49 -
technische universität
dortmund
Weitere wahrscheinlichkeitstheoretische Kennzahlen
Abhängigkeitsmaße
kov(X,Y) = E[(X-E[X]) ∙(Y-E[Y])]
korr(X,Y) 
kov(X,Y)
var(X)  var(Y)
Eigenschaften
(v) X und Y stoch. unabh.  X und Y unkorreliert
X und Y unkorreliert  X und Y stoch. unabh.
(vi) var(X  Y)  var(X)  var(Y)  2  kov(X,Y)
(vii) kov(aX  b, cY  d)  ac  kov(X,Y)
(viii) kov(X,X)  var(X)
Jörg Rahnenführer, WRUMS, WS1314, TU Dortmund
Beweise der Eigenschaften
analog zu den Beweisen der
gleichen Eigenschaften für
die empirische Kovarianz
und empirische Korrelation
Kapitel 8
- 50 -