Grundbegriffe der Statistik

Datenanalyse
(PHY231)
Herbstsemester 2016
Olaf Steinkamp
36-J-22
[email protected]
044 63 55763
Vorlesungsprogramm
●
●
●
●
●
●
●
●
Einführung, Messunsicherheiten, Darstellung von Messdaten
Grundbegriffe der Wahrscheinlichkeitsrechnung und Statistik
- Mittelwert, Standardabweichung, Kovarianz und Korrelation
Fehlerfortpflanzungsgesetz
Wahrscheinlichkeitsverteilungen
- diskrete Verteilungen, kontinuierliche Verteilungen
- zentraler Grenzwertsatz
Monte-Carlo Methode
Wahrscheinlichkeitsverteilungen II
- Faltung zweier Verteilungen
- Verteilungen zweier Variablen
Stichproben und Schätzfunktionen
- Maximum-Likelihood Methode
- Methode der kleinsten Quadrate
Interpretation von Messergebnissen
- Konfidenzintervalle, Testen von Hypothesen
Datenanalyse HS16
Grundbegriffe der Statistik (2)
Beispielprogramme im
Verzeichnis
/disk/puma/da/vorl/stat
O. Steinkamp
Vorlesungsprogramm
●
●
●
●
●
●
●
●
Einführung, Messunsicherheiten, Darstellung von Messdaten
Grundbegriffe der Wahrscheinlichkeitsrechnung und Statistik
- Mittelwert, Standardabweichung, Kovarianz und Korrelation
Fehlerfortpflanzungsgesetz
Wahrscheinlichkeitsverteilungen
- diskrete Verteilungen, kontinuierliche Verteilungen
- zentraler Grenzwertsatz
Monte-Carlo Methode
Wahrscheinlichkeitsverteilungen II
- Faltung zweier Verteilungen
- Verteilungen zweier Variablen
Stichproben und Schätzfunktionen
- Maximum-Likelihood Methode
- Methode der kleinsten Quadrate
Interpretation von Messergebnissen
- Konfidenzintervalle, Testen von Hypothesen
Datenanalyse HS16
Grundbegriffe der Statistik (3)
Beispielprogramme im
Verzeichnis
/disk/puma/da/vorl/stat
O. Steinkamp
Mittelwert einer Verteilung
Für eine Verteilung aus N Werten x1, x2, …, xN
●
arithmetischer Mittelwert:
N
1
x ≡
⋅
x
N i =1 i
∑
●
●
Median:
die Hälfte aller Werte ist grösser,
die Hälfte aller Werte ist kleiner
Modus:
der am häufigsten vorkommende Wert
im folgenden: “Mittelwert” ≡ arithmetischer Mittelwert
Für eine Funktion f (xi)
N
f ≡
Datenanalyse HS16
1
⋅
f ( xi )
N i =1
∑
f ( x) = x
Grundbegriffe der Statistik (4)
2
N
⇒
1
2
f =
⋅
xi
N i=1
∑
O. Steinkamp
Gewichteter Mittelwert
Gewichteter Mittelwert von N Werten xi mit Gewichten wi
N
x ≡
●
∑i =1 w i⋅x i
N
∑i =1 w i
wichtige Anwendung (Herleitung später): gewichteter Mittelwert von N
unabhängigen Messungen mit unterschiedlichen Messunsicherheiten σi
1
wi =
●
2
σi
Mittelwert eines Histogramms mit N Intervallen:
N
x ≡
∑i =1 n i⋅x i
N
∑i =1 ni
xi : Intervallzentren
ni : Anzahl Einträge
Mittelwert des Histogramms = gewichteter Mittelwert der Intervallzentren
Datenanalyse HS16
Grundbegriffe der Statistik (5)
O. Steinkamp
Einfacher und gewichteter Mittelwert
Beispiel: 16 Messungen der Lebensdauer des Neutrons
einfacher Mittelwert
gewichteter Mittelwert
mit Unsicherheit
●
arithmetischer Mittelwert aller Messungen: 1/16 × Σ ti = 891.4 s
●
●
# t[s] sigma[s]
918
14
881
8
937
18
903
13
876
21
877
10
878
30
894
5
888
3
891
9
888
3
888
3
882.6
2.7
889
5
885.4
1.0
887
3
[Quelle: Particle Data Group]
neuere Messungen
nlife.py
nlife.dat
aber: neuere Messungen viel präziser als ältere → sollten mehr Gewicht haben
gewichteter Mittelwert: 1 / Σ(1/ i2) × Σ (ti / i2) = (886.3 ± 0.9) s
pylab: Befehl average() kann gewichtete Mittelwerte berechnen
Datenanalyse HS16
Grundbegriffe der Statistik (6)
O. Steinkamp
Unsicherheit auf gewichtetem Mittelwert
Gewichteter Mittelwert von N Messungen xi mit Messunsicherheiten σi
x =
N
∑(
×
1
i =1
●
N
1
2
σi
∑(
xi
i =1
)
σ 2i
Messungen voneinander unabhängig: benutze Gaußsche Fehlerfortpflanzung
√∑ (
N
σx =
√
N
∑(
i =1
x
⋅σ i
 xi
2
)
⇒
σx =
i =1
N
1
2 ⋅σ i
σi
∑(
i =1
●
)
1
σ
2
i
)
)
2
=
1
√
N
∑ (1 σ )
i =1
2
i
Spezialfall: Messunsicherheit auf allen Messungen gleich, d.h. σi = σ für alle i
σx =
1
√
=
N
∑ 1σ
σ
√N
2
vgl. Folie 12
i =1
aufgepasst: Gaußsche Fehlerfortpflanzung gilt nur,
wenn die Messungen voneinander unabhängig sind → nächste Woche
Datenanalyse HS16
Grundbegriffe der Statistik (7)
O. Steinkamp
Mittelwert histogrammierter Daten
Beispiel: 10'000 exponentialverteilte Messwerte
expohist.py
#!/usr/bin/env python
from pylab import *
#
# generiere exponentialverteilte Werte
#
N = 10000
meantrue = 53.7
tmeas = exponential(meantrue,N)
#
# Mittelwert der Verteilung
#
meanmeas = mean(tmeas)
#
# histogrammiere die Werte
#
tmin = 0 ; tmax = 600 ; nbins = 100
ni,ti,patch = hist(tdata,nbins,(tmin,tmax))
#
# Mittelwert des Histogramms
#
tbin = ti[0:-1]+ti[1:])/2.0
meanhist = dot(ni,tbin) / sum(ni)
(Zerfallszeiten radioaktiver Quelle)
●
“wahrer” Mittelwert:
53.7 min
●
Mittelwert der Messwerte:
53.6 min
●
Mittelwert eines Histogramms mit
●
●
●
100 Intervallen:
10 Intervallen:
3 Intervallen:
53.6 min
59.0 min
105. min
aufgepasst: Informationsverlust bei zu groß gewählter Intervallbreite !
Datenanalyse HS16
Grundbegriffe der Statistik (8)
O. Steinkamp
Vorlesungsprogramm
●
●
●
●
●
●
●
●
Einführung, Messunsicherheiten, Darstellung von Messdaten
Grundbegriffe der Wahrscheinlichkeitsrechnung und Statistik
- Mittelwert, Standardabweichung, Kovarianz und Korrelation
Fehlerfortpflanzungsgesetz
Wahrscheinlichkeitsverteilungen
- diskrete Verteilungen, kontinuierliche Verteilungen
- zentraler Grenzwertsatz
Monte-Carlo Methode
Wahrscheinlichkeitsverteilungen II
- Faltung zweier Verteilungen
- Verteilungen zweier Variablen
Stichproben und Schätzfunktionen
- Maximum-Likelihood Methode
- Methode der kleinsten Quadrate
Interpretation von Messergebnissen
- Konfidenzintervalle, Testen von Hypothesen
Datenanalyse HS16
Grundbegriffe der Statistik (9)
Beispielprogramme im
Verzeichnis
/disk/puma/da/vorl/stat
O. Steinkamp
Maße für die Breite einer Verteilung
Mittlere Abweichung der Messwerte vom Mittelwert
N
1
⋅ | x i− x |
N i =1
∑
●
unschöne mathematische Behandlung (z.B. beim Bilden von Ableitung)
Statistiker: Varianz der Verteilung
N
1
2
2
2
V (x) ≡
⋅
( x i −x ) = x − x
N i =1
∑
●
●
okay bzgl. mathematischer Behandlung
aber: andere Einheit als Messgröße
Herleitung: Uebungen
Physiker: Standardabweichung der Verteilung
σx ≡
Datenanalyse HS16
√ V (x)
=
√
1
N
N
2
⋅ ∑ ( xi − x)
=
i=1
Grundbegriffe der Statistik (10)
√ x −x
2
2
O. Steinkamp
Standardabweichung
Aufgepasst: zwei Definitionen der “Standardabweichung”!
σx ≡
in pylab:
●
●
●
●
√
N
1
⋅
( x i −x )2
N i=1
∑
sx ≡
std(x,0)
√
N
1
⋅
( x i − x )2
N −1 i =1
∑
std(x,1)
Definition mit 1 / N ist die Standardabweichung der gemessenen Verteilung
Definition mit 1 / (N-1) gibt einen Schätzwert für die Standardabweichung
der “wahren” Verteilung, die gemessen werden soll
Unterschied für große N vernachlässigbar,
nicht aber für kleine N
deshalb wichtig: immer angeben,
welche Definition Sie verwenden
Datenanalyse HS16
Grundbegriffe der Statistik (11)
werden wir in ein paar Wochen
ausführlich diskutieren
O. Steinkamp
Standardabweichung einer Verteilung und
Unsicherheit auf ihrem Mittelwert
Standardabweichung σx der Verteilung
●
ist bestimmt durch die Streuung der einzelnen Messwerte um den Mittelwert
●
ist ein Maß für die Messunsicherheit auf den einzelnen Messungen
●
hängt nicht von der Zahl der Messungen ab
Unsicherheit auf dem Mittelwert der Verteilung
●
●
ist umso kleiner, je kleiner die Streuung der
Messwerte ist
nimmt mit zunehmender Anzahl Messungen ab
σx =
●
N
34
mean 9441.8
std
49.5
dmean
8.5
σx
√N
vgl. Folie 7
N
34000
mean 9450.1
std
49.8
dmean 0.27
Beispiel: Verteilung gaußverteilter Zufallszahlen, erzeugt mit μ = 9450 und σ = 50
Datenanalyse HS16
Grundbegriffe der Statistik (12)
O. Steinkamp
Standardabweichung einer
histogrammierten Verteilung
Histogramm mit N Intervallen
Folie 10
σx =
√
Folie 5
2
x −x
2
=
√
N
∑i =1 ni ⋅ x
N
∑i =1 n i
2
i
−
(
N
∑i =1 n i ⋅ x i
N
∑i =1 n i
2
)
xi : Intervallzentren
ni : Anzahl Einträge
Beispiel: 200 Messungen der Gravitationskonstante (s. letzte Woche)
●
●
Standardabweichung der Verteilung:
0.66 sec
Standardabweichung des Histogramms mit
●
50 Intervallen:
0.67 sec
●
5 Intervallen:
0.71 sec
●
2 Intervallen:
1.23 sec
wieder: Informationsverlust bei zu groß gewählter Intervallbreite !
Datenanalyse HS16
Grundbegriffe der Statistik (13)
O. Steinkamp
Vorlesungsprogramm
●
●
●
●
●
●
●
●
Einführung, Messunsicherheiten, Darstellung von Messdaten
Grundbegriffe der Wahrscheinlichkeitsrechnung und Statistik
- Mittelwert, Standardabweichung, Kovarianz und Korrelation
Fehlerfortpflanzungsgesetz
Wahrscheinlichkeitsverteilungen
- diskrete Verteilungen, kontinuierliche Verteilungen
- zentraler Grenzwertsatz
Monte-Carlo Methode
Wahrscheinlichkeitsverteilungen II
- Faltung zweier Verteilungen
- Verteilungen zweier Variablen
Stichproben und Schätzfunktionen
- Maximum-Likelihood Methode
- Methode der kleinsten Quadrate
Beispielprogramme im
Verzeichnis
/disk/puma/da/vorl/stat
Interpretation von Messergebnissen
- Konfidenzintervalle, Testen von Hypothesen
Datenanalyse HS16
Grundbegriffe der Statistik (14)
O. Steinkamp
Korrelation und Kovarianz
Betrachte statistischen Zusammenhang zwischen zwei Zufallsvariablen
●
●
positive Korrelation: Wert einer Variablen nimmt
im Mittel zu, wenn der Wert der anderen zunimmt
x
(x −
i
x )⋅( y
i
−y )
(x −
i
x )⋅( y
i
<0
−y)
>0
negative Korrelation: Wert einer Variablen nimmt
im Mittel ab, wenn der Wert der anderen zunimmt
y
(x −
i
Kovarianz für N Wertepaare (x1,y1), …, (xN,yN)
x )⋅( y
i−y )
(x −
i
x )⋅( y
i
>0
−y )
<0
x
N
1
cov ( x , y ) ≡
⋅
( x i − x )( y i −y ) = xy − x y
N i =1
∑
y
●
cov (x,y) > 0 für positive Korrelation
●
cov (x,y) < 0 für negative Korrelation
●
cov (x,y) = 0 wenn keine Korrelation
●
Nachteil: Absolutwert hängt von den für x und y gewählten Einheiten ab
Datenanalyse HS16
Grundbegriffe der Statistik (15)
O. Steinkamp
Korrelationskoeffizient
Einheitenloses, normiertes Maß für Korrelation zweier Zufallsvariablen
ρ ≡
cov ( x , y )
xy − x y
=
σx σy
σx σy
-1 ≤ ρ ≤ 1
y
●
ρ = 0: keine Korrelation
●
ρ > 0: positive Korrelation
●
ρ < 0: negative Korrelation
●
x
ρ = ±1: vollständige Korrelation,
Wert von xi legt Wert von yi
fest und umgekehrt
[aus: Barlow, Statistics]
Datenanalyse HS16
Grundbegriffe der Statistik (16)
O. Steinkamp
Korrelationskoeffizient
Normiertes Maß für lineare Korrelation zweier Zufallsvariablen
ρ ≡
-1 ≤ ρ ≤ 1
aber: aufgepasst bei nicht-linearen Zusammenhängen
[von: wikipedia.de]
●
cov ( x , y )
xy − x y
=
σx σ y
σx σy
Datenanalyse HS16
Grundbegriffe der Statistik (17)
O. Steinkamp
Kleine Formelsammlung
●
(arithmetischer) Mittelwert einer Verteilung:
N
N
einfach:
●
1
⋅
x
N i =1 i
N
∑i =1
2
1/σ i
√V ( x )
=
√
N
1
⋅
( x i − x )2 =
N i=1
∑
√
x2 − x2
Unsicherheit auf dem Mittelwert einer Verteilung:
einfach:
●
x =
2
xi/σi
Standardabweichung einer Verteilung:
σx =
●
gewichtet:
∑
x =
∑i =1
σx
σx
=
√N
gewichtet:
linearer Korrelationskoeffizient zweier Variablen:
ρ =
Datenanalyse HS16
cov ( x , y )
xy − x y
=
σx σy
σx σy
Grundbegriffe der Statistik (18)
σx =
√
1
N
∑i =1 1 /σ 2i
( -1 ≤ ρ ≤ 1 )
O. Steinkamp