Der Propp-Wilson Algorithmus - TUM - Zentrum Mathematik

Algorithmus
Analyse
Verfehlte Vereinfachungen
Kapitel 10: Der Propp-Wilson Algorithmus
Peter Heinig
Michael Kratzer
TUM
28.2.2007, TUM-Mathematik-Frühjahrsschule 2007
P. Heinig, M. Kratzer
Der Propp-Wilson Algorithmus
TUM
Algorithmus
Analyse
Verfehlte Vereinfachungen
Ziele
Rückblick: Probleme bei MCMC
P. Heinig, M. Kratzer
Der Propp-Wilson Algorithmus
TUM
Algorithmus
Analyse
Verfehlte Vereinfachungen
Ziele
Rückblick: Probleme bei MCMC
Verteilung nach Verschmelzen der Ketten nur nahe an der
stationären
P. Heinig, M. Kratzer
Der Propp-Wilson Algorithmus
TUM
Algorithmus
Analyse
Verfehlte Vereinfachungen
Ziele
Rückblick: Probleme bei MCMC
Verteilung nach Verschmelzen der Ketten nur nahe an der
stationären
Fehler lässt sich nur sehr schwer genau abschätzen
P. Heinig, M. Kratzer
Der Propp-Wilson Algorithmus
TUM
Algorithmus
Analyse
Verfehlte Vereinfachungen
Ziele
Rückblick: Probleme bei MCMC
Verteilung nach Verschmelzen der Ketten nur nahe an der
stationären
Fehler lässt sich nur sehr schwer genau abschätzen
Sehr grobe Abschätzungen der Zahl erforderlicher
Simulationsschritte
P. Heinig, M. Kratzer
Der Propp-Wilson Algorithmus
TUM
Algorithmus
Analyse
Verfehlte Vereinfachungen
Ziele
MCMC kann durch metastabile Verteilungen getäuscht werden.
P. Heinig, M. Kratzer
Der Propp-Wilson Algorithmus
TUM
Algorithmus
Analyse
Verfehlte Vereinfachungen
Ziele
Gliederung
1
Algorithmus
Ziele
Der Propp-Wilson Algorithmus
Terminiert der Algorithmus?
2
Analyse
Ein 0-1-Gesetz
Der Satz von Propp-Wilson
Ezienz
3
Verfehlte Vereinfachungen
Zukunftskopplung
Neue Zufallszahlen
P. Heinig, M. Kratzer
Der Propp-Wilson Algorithmus
TUM
Algorithmus
Analyse
Verfehlte Vereinfachungen
Ziele
Ziele des Algorithmus
Output
exakt nach der stationären Verteilung verteilt
P. Heinig, M. Kratzer
Der Propp-Wilson Algorithmus
TUM
Algorithmus
Analyse
Verfehlte Vereinfachungen
Ziele
Ziele des Algorithmus
Output
exakt nach der stationären Verteilung verteilt
Der Algorithmus bestimmt selbst, wann diese Verteilung
erreicht ist
P. Heinig, M. Kratzer
Der Propp-Wilson Algorithmus
TUM
Algorithmus
Analyse
Verfehlte Vereinfachungen
Der Propp-Wilson Algorithmus
Voraussetzungen
Zeithomogene, irreduzible, aperiodische Markovkette mit
Zustandsraum S
= {s1 , ..., sk }
P. Heinig, M. Kratzer
Der Propp-Wilson Algorithmus
π,
Φ : S × [0, 1] → S
und stationärer Verteilung
Übergangsmatrix P und Update-Funktion
TUM
Algorithmus
Analyse
Verfehlte Vereinfachungen
Der Propp-Wilson Algorithmus
Voraussetzungen
Zeithomogene, irreduzible, aperiodische Markovkette mit
Zustandsraum S
= {s1 , ..., sk }
π,
Φ : S × [0, 1] → S
und stationärer Verteilung
Übergangsmatrix P und Update-Funktion
Wachsende Folge ganzer Zahlen N1 , N2 , ... als Startpunkte für
die Berechnung; meist
P. Heinig, M. Kratzer
Der Propp-Wilson Algorithmus
(N1 , N2 , ...) = (1, 2, 4, 8, ...)
TUM
Algorithmus
Analyse
Verfehlte Vereinfachungen
Der Propp-Wilson Algorithmus
Voraussetzungen
Zeithomogene, irreduzible, aperiodische Markovkette mit
Zustandsraum S
= {s1 , ..., sk }
π,
Φ : S × [0, 1] → S
und stationärer Verteilung
Übergangsmatrix P und Update-Funktion
Wachsende Folge ganzer Zahlen N1 , N2 , ... als Startpunkte für
die Berechnung; meist
(N1 , N2 , ...) = (1, 2, 4, 8, ...)
Unabhängige, auf [0, 1] gleichverteilte Zufallszahlen
,
,
U0 U−1 U−2
P. Heinig, M. Kratzer
Der Propp-Wilson Algorithmus
, ...
für die Update-Funktion
TUM
Algorithmus
Analyse
Verfehlte Vereinfachungen
Der Propp-Wilson Algorithmus
Ablauf
1
Setze m
=1
P. Heinig, M. Kratzer
Der Propp-Wilson Algorithmus
TUM
Algorithmus
Analyse
Verfehlte Vereinfachungen
Der Propp-Wilson Algorithmus
Ablauf
1
2
Setze m
=1
Simuliere für jedes s
Zeitpunkt
−Nm
∈ {s1 , ..., sk }
die Markov-Kette, die im
im Zustand s beginnt bis zum Zeitpunkt 0
Φ
,
U
,
.
.
.
,
U
,
U
−1
0
Nm +1 −Nm
unter Verwendung der Update-Funktion
Zufallszahlen U−
P. Heinig, M. Kratzer
Der Propp-Wilson Algorithmus
und der
TUM
Algorithmus
Analyse
Verfehlte Vereinfachungen
Der Propp-Wilson Algorithmus
Ablauf
1
2
Setze m
=1
Simuliere für jedes s
Zeitpunkt
−Nm
∈ {s1 , ..., sk }
die Markov-Kette, die im
im Zustand s beginnt bis zum Zeitpunkt 0
Φ
,
U
,
.
.
.
,
U
,
U
−1
0
Nm +1 −Nm
unter Verwendung der Update-Funktion
Zufallszahlen U−
3
und der
Falls sich alle k Ketten aus Schritt 2 zum Zeitpunkt 0 im
selben Zustand s
0 benden, gib
s
0 aus und halte an. Ansonsten
erhöhe m um 1 und gehe zu Schrit 2
P. Heinig, M. Kratzer
Der Propp-Wilson Algorithmus
TUM
Algorithmus
Analyse
Verfehlte Vereinfachungen
Der Propp-Wilson Algorithmus
Ablauf
P. Heinig, M. Kratzer
Der Propp-Wilson Algorithmus
TUM
Algorithmus
Analyse
Verfehlte Vereinfachungen
Der Propp-Wilson Algorithmus
Ablauf
P. Heinig, M. Kratzer
Der Propp-Wilson Algorithmus
TUM
Algorithmus
Analyse
Verfehlte Vereinfachungen
Der Propp-Wilson Algorithmus
Ablauf
P. Heinig, M. Kratzer
Der Propp-Wilson Algorithmus
TUM
Algorithmus
Analyse
Verfehlte Vereinfachungen
Der Propp-Wilson Algorithmus
High-Level Pseudocode
P. Heinig, M. Kratzer
Der Propp-Wilson Algorithmus
TUM
Algorithmus
Analyse
Verfehlte Vereinfachungen
Der Propp-Wilson Algorithmus
High-Level Pseudocode
F
←− Identität
P. Heinig, M. Kratzer
Der Propp-Wilson Algorithmus
TUM
Algorithmus
Analyse
Verfehlte Vereinfachungen
Der Propp-Wilson Algorithmus
High-Level Pseudocode
←− Identität
Bild(F)> 1
while
F
P. Heinig, M. Kratzer
Der Propp-Wilson Algorithmus
TUM
Algorithmus
Analyse
Verfehlte Vereinfachungen
Der Propp-Wilson Algorithmus
High-Level Pseudocode
←− Identität
Bild(F)> 1
while
F ←− F ◦ RandomMap()
F
P. Heinig, M. Kratzer
Der Propp-Wilson Algorithmus
TUM
Algorithmus
Analyse
Verfehlte Vereinfachungen
Der Propp-Wilson Algorithmus
High-Level Pseudocode
←− Identität
Bild(F)> 1
while
F ←− F ◦ RandomMap()
return ElementOf( Bild(F)
F
P. Heinig, M. Kratzer
Der Propp-Wilson Algorithmus
)
TUM
Algorithmus
Analyse
Verfehlte Vereinfachungen
Der Propp-Wilson Algorithmus
Idee
Betrachte
eine Vergangenheit einer bereits unendlich lange
laufenden Markov-Kette
P. Heinig, M. Kratzer
Der Propp-Wilson Algorithmus
TUM
Algorithmus
Analyse
Verfehlte Vereinfachungen
Der Propp-Wilson Algorithmus
Idee
Betrachte
eine Vergangenheit einer bereits unendlich lange
laufenden Markov-Kette
(Die Vergangenheit besteht aus den Zufallszahlen, die in die
Update-Funktion eingehen)
P. Heinig, M. Kratzer
Der Propp-Wilson Algorithmus
TUM
Algorithmus
Analyse
Verfehlte Vereinfachungen
Der Propp-Wilson Algorithmus
Idee
Betrachte
eine Vergangenheit einer bereits unendlich lange
laufenden Markov-Kette
(Die Vergangenheit besteht aus den Zufallszahlen, die in die
Update-Funktion eingehen)
Möglicherweise hängt der gegenwärtige Zustand nur von den
Update-Werten ab, also nicht vom Ausgangszustand
P. Heinig, M. Kratzer
Der Propp-Wilson Algorithmus
TUM
Algorithmus
Analyse
Verfehlte Vereinfachungen
Terminiert der Algorithmus?
Terminiert der Algorithmus immer?
P. Heinig, M. Kratzer
Der Propp-Wilson Algorithmus
TUM
Algorithmus
Analyse
Verfehlte Vereinfachungen
Terminiert der Algorithmus?
Terminiert der Algorithmus immer?
Nein.
P. Heinig, M. Kratzer
Der Propp-Wilson Algorithmus
TUM
Algorithmus
Analyse
Verfehlte Vereinfachungen
Terminiert der Algorithmus?
Terminiert der Algorithmus immer?
Nein. Aber es gibt nur zwei
Möglichkeiten:
P. Heinig, M. Kratzer
Der Propp-Wilson Algorithmus
TUM
Algorithmus
Analyse
Verfehlte Vereinfachungen
Terminiert der Algorithmus?
Terminiert der Algorithmus immer?
Nein. Aber es gibt nur zwei
Möglichkeiten:
Wahrscheinlichkeit für Terminieren nach endlich vielen
Schritten ist 0.
P. Heinig, M. Kratzer
Der Propp-Wilson Algorithmus
TUM
Algorithmus
Analyse
Verfehlte Vereinfachungen
Terminiert der Algorithmus?
Terminiert der Algorithmus immer?
Nein. Aber es gibt nur zwei
Möglichkeiten:
Wahrscheinlichkeit für Terminieren nach endlich vielen
Schritten ist 0.
Wahrscheinlichkeit für Terminieren nach endlich vielen
Schritten ist 1.
P. Heinig, M. Kratzer
Der Propp-Wilson Algorithmus
TUM
Algorithmus
Analyse
Verfehlte Vereinfachungen
Terminiert der Algorithmus?
Die Wahl der Updatefunktion entscheidet.
P. Heinig, M. Kratzer
Der Propp-Wilson Algorithmus
TUM
Algorithmus
Analyse
Verfehlte Vereinfachungen
Terminiert der Algorithmus?
Eine irreduzible, aperiodische, zeithomogene Markovkette.
P. Heinig, M. Kratzer
Der Propp-Wilson Algorithmus
TUM
Algorithmus
Analyse
Verfehlte Vereinfachungen
Terminiert der Algorithmus?
Sicheres Verschmelzen, also Wahrscheinlichkeit 1.
P. Heinig, M. Kratzer
Der Propp-Wilson Algorithmus
TUM
Algorithmus
Analyse
Verfehlte Vereinfachungen
Terminiert der Algorithmus?
Zwar nicht sicheres Verschmelzen, aber auch Wahrscheinlichkeit 1.
P. Heinig, M. Kratzer
Der Propp-Wilson Algorithmus
TUM
Algorithmus
Analyse
Verfehlte Vereinfachungen
Terminiert der Algorithmus?
Mit Sicherheit kein Verschmelzen, also Wahrscheinlichkeit 0.
P. Heinig, M. Kratzer
Der Propp-Wilson Algorithmus
TUM
Algorithmus
Analyse
Verfehlte Vereinfachungen
Terminiert der Algorithmus?
Verschmelzen möglich, aber auch Wahrscheinlichkeit 0.
P. Heinig, M. Kratzer
Der Propp-Wilson Algorithmus
TUM
Algorithmus
Analyse
Verfehlte Vereinfachungen
Ein 0-1-Gesetz
Erster Satz: Ein 0-1-Gesetz für Propp-Wilson
Die Wahrscheinlichkeit, dass der Propp-Wilson
Algorithmus terminiert, ist entweder 0 oder 1.
P. Heinig, M. Kratzer
Der Propp-Wilson Algorithmus
TUM
Algorithmus
Analyse
Verfehlte Vereinfachungen
Ein 0-1-Gesetz
Denitionen
a
−a
b := Φ(·, U−a ) ◦ ... ◦ Φ(·, U−b+1 ) für −b < −a; F−a := id
a
−a
b : S → S (−b ≤ −a) ist eine zufällige Abbildung. F−b (s )
−
−
−
F
−
F
ist der Zustand einer Markov-Kette, die zum Zeitpunkt
Zustand s
∈S
P. Heinig, M. Kratzer
Der Propp-Wilson Algorithmus
gestartet wurde, zum Zeitpunkt
−b
im
−a.
TUM
Algorithmus
Analyse
Verfehlte Vereinfachungen
Ein 0-1-Gesetz
Denitionen
a
−a
b := Φ(·, U−a ) ◦ ... ◦ Φ(·, U−b+1 ) für −b < −a; F−a := id
a
−a
b : S → S (−b ≤ −a) ist eine zufällige Abbildung. F−b (s )
−
−
−
F
−
F
ist der Zustand einer Markov-Kette, die zum Zeitpunkt
Zustand s
K
∈S
gestartet wurde, zum Zeitpunkt
−b
im
−a.
a −a
−a
b := F−b konstant = ∃c ∈ S : ∀s ∈ S : F−b (s ) = c
−
−
−b
mit
allen möglichen Zuständen gestartet wurden, im Zeitpunkt
−a
ist das Ereignis, dass Markov-Ketten, die im Zeitpunkt
verschmelzen ( Koaleszenz )
P. Heinig, M. Kratzer
Der Propp-Wilson Algorithmus
TUM
Algorithmus
Analyse
Verfehlte Vereinfachungen
Ein 0-1-Gesetz
Beweis
Sei
−d ≤ −c ≤ −b ≤ −a ≤ 0.
P. Heinig, M. Kratzer
Der Propp-Wilson Algorithmus
b
−a
c ⇒ K− d .
−
Dann K−
TUM
Algorithmus
Analyse
Verfehlte Vereinfachungen
Ein 0-1-Gesetz
Beweis
−d ≤ −c ≤ −b ≤ −a ≤ 0. Dann K−−cb ⇒ K−−da .
−b
−b
−a
K−c ⇒ ∃c1 ∈ S : F−c = c1 ; Sei c2 := F
−b (c1 ) ∈ S
⇒ F−−da = F−−ba (F−−cb (F−−dc )) = F−−ba (c1 ) = c2 ⇒ K−−da
Sei
P. Heinig, M. Kratzer
Der Propp-Wilson Algorithmus
TUM
Algorithmus
Analyse
Verfehlte Vereinfachungen
Ein 0-1-Gesetz
Beweis
−d ≤ −c ≤ −b ≤ −a ≤ 0. Dann K−−cb ⇒ K−−da .
−b
−b
−a
K−c ⇒ ∃c1 ∈ S : F−c = c1 ; Sei c2 := F
−b (c1 ) ∈ S
⇒ F−−da = F−−ba (F−−cb (F−−dc )) = F−−ba (c1 ) = c2 ⇒ K−−da
Sei
0
K−∞
:=
{Der Algorithmus terminiert in endlich vielen
Schritten }
P. Heinig, M. Kratzer
Der Propp-Wilson Algorithmus
=
n=0 K−0 n mit K00 ⊆ K−0 1 ⊆ ...
S∞
TUM
Algorithmus
Analyse
Verfehlte Vereinfachungen
Ein 0-1-Gesetz
Beweis
−d ≤ −c ≤ −b ≤ −a ≤ 0. Dann K−−cb ⇒ K−−da .
−b
−b
−a
K−c ⇒ ∃c1 ∈ S : F−c = c1 ; Sei c2 := F
−b (c1 ) ∈ S
⇒ F−−da = F−−ba (F−−cb (F−−dc )) = F−−ba (c1 ) = c2 ⇒ K−−da
Sei
0
K−∞
:=
{Der Algorithmus terminiert in endlich vielen
n=0 K−0 n mit K00 ⊆ K−0 1 ⊆ ...
0
0
Stetigkeit von unten: P (K−∞ ) = limn→∞ P (K−n )
Schritten }
P. Heinig, M. Kratzer
Der Propp-Wilson Algorithmus
=
S∞
TUM
Algorithmus
Analyse
Verfehlte Vereinfachungen
Ein 0-1-Gesetz
Beweis
Annahme:
P. Heinig, M. Kratzer
Der Propp-Wilson Algorithmus
(
0
P K−∞
) 6= 0
TUM
Algorithmus
Analyse
Verfehlte Vereinfachungen
Ein 0-1-Gesetz
Beweis
Annahme:
P K−∞
lim
−
n→∞
(
0
P (K
P. Heinig, M. Kratzer
Der Propp-Wilson Algorithmus
0
) 6= 0
n ) = ε > 0 ⇒ ∃m : P (K−0 m ) > 2ε
TUM
Algorithmus
Analyse
Verfehlte Vereinfachungen
Ein 0-1-Gesetz
Beweis
Annahme:
(
0
P K−∞
) 6= 0
n→∞ −n ) = ε > 0 ⇒ ∃m : P (K−0 m ) > 2ε
−im
0
P (K
−(i +1)m ) = P (K−m ) (∀i ∈ N), denn
(U−im , ..., U−(i +1)m+1 ) und (U0 , ..., U−m+1 ) sind unabhängig
m
lim
0
P (K
und jeweils gleichverteilt auf [0; 1]
P. Heinig, M. Kratzer
Der Propp-Wilson Algorithmus
TUM
Algorithmus
Analyse
Verfehlte Vereinfachungen
Ein 0-1-Gesetz
Beweis
Annahme:
(
0
P K−∞
) 6= 0
n→∞ −n ) = ε > 0 ⇒ ∃m : P (K−0 m ) > 2ε
−im
0
P (K
−(i +1)m ) = P (K−m ) (∀i ∈ N), denn
(U−im , ..., U−(i +1)m+1 ) und (U0 , ..., U−m+1 ) sind unabhängig
m
lim
0
P (K
und jeweils gleichverteilt auf [0; 1]
im ⇒ K 0 ∀i ∈ {0, ..., k − 1}
−km
i m
−(k −1)m
0
0
Also ¬K−km ⇒ ¬K−m ∧ ... ∧ ¬K
−km
Sei k
∈ N.
P. Heinig, M. Kratzer
Der Propp-Wilson Algorithmus
−
−( +1)
K
TUM
Algorithmus
Analyse
Verfehlte Vereinfachungen
Ein 0-1-Gesetz
Beweis
K
0
−
−(k −1)m
0
km ⊆ K−m ∩ ... ∩ K−km
P. Heinig, M. Kratzer
Der Propp-Wilson Algorithmus
TUM
Algorithmus
Analyse
Verfehlte Vereinfachungen
Ein 0-1-Gesetz
Beweis
K
0
−
−(k −1)m
0
km ⊆ K−m ∩ ... ∩ K−km
k m
P
−m ∩ ... ∩
−km ≤ P
km
Q k −1
−(i −1)m
≤ (1 − ε )k
i =0 P K−im
0
K
0
K
−( −1)
K
−
=
2
P. Heinig, M. Kratzer
Der Propp-Wilson Algorithmus
TUM
Algorithmus
Analyse
Verfehlte Vereinfachungen
Ein 0-1-Gesetz
Beweis
K
0
−
−(k −1)m
0
km ⊆ K−m ∩ ... ∩ K−km
k m
P
−m ∩ ... ∩
−km ≤ P
km
Q k −1
−(i −1)m
≤ (1 − ε )k
i =0 P K−im
0
K
0
K
−( −1)
K
−
=
2
(
P K
0
−
km ) = 1 − P (K−0 km ) = 1 −
P. Heinig, M. Kratzer
Der Propp-Wilson Algorithmus
1
−
ε
2
k
k−→
→∞
1
TUM
Algorithmus
Analyse
Verfehlte Vereinfachungen
Ein 0-1-Gesetz
Beweis
K
0
−
−(k −1)m
0
km ⊆ K−m ∩ ... ∩ K−km
k m
P
−m ∩ ... ∩
−km ≤ P
km
Q k −1
−(i −1)m
≤ (1 − ε )k
i =0 P K−im
0
K
0
K
−( −1)
K
−
=
2
(
P K
0
−
km ) = 1 − P (K−0 km ) = 1 −
0
Also P (K−∞ )
P. Heinig, M. Kratzer
Der Propp-Wilson Algorithmus
= 1,
0
falls P (K−∞ )
1
−
6= 0
ε
2
k
k−→
→∞
1
TUM
Algorithmus
Analyse
Verfehlte Vereinfachungen
Der Satz von Propp-Wilson
Zweiter Satz: Der Output ist π - verteilt
P. Heinig, M. Kratzer
Der Propp-Wilson Algorithmus
TUM
Algorithmus
Analyse
Verfehlte Vereinfachungen
Der Satz von Propp-Wilson
Zweiter Satz: Der Output ist π - verteilt
Wir unterstellen jetzt
(
0
P K−∞
P. Heinig, M. Kratzer
Der Propp-Wilson Algorithmus
)=1
TUM
Algorithmus
Analyse
Verfehlte Vereinfachungen
Der Satz von Propp-Wilson
Zweiter Satz: Der Output ist π - verteilt
Wir unterstellen jetzt
(
0
P K−∞
)=1
d. h. ausführlich
P
(
n
(. . . , u−1 , u0 ) ∈ [0; 1]∞ : ∃t ∈ N
:
∃sj ∈ {s1 , . . . , sk } : ∀si ∈ {s1 , . . . , sk }
:
o
Φ(Φ(· · · Φ(Φ(si , u−t ), u−t +1 ), . . . , u−1 ), u0 ) = sj
) =1
P. Heinig, M. Kratzer
Der Propp-Wilson Algorithmus
TUM
Algorithmus
Analyse
Verfehlte Vereinfachungen
Der Satz von Propp-Wilson
Wir denieren die Zufallsvariable
Y:
[0; 1]∞ \{Folgen die nicht zum Abbruch führen} →
S
durch
Y
( (. . . , u−1 , u0 ) ) := Output des Algorithmus bei Benutzung dieser Folge
P. Heinig, M. Kratzer
Der Propp-Wilson Algorithmus
TUM
Algorithmus
Analyse
Verfehlte Vereinfachungen
Der Satz von Propp-Wilson
Dann lautet der Satz von Propp und Wilson:
∀i ∈ {1, ..., k } :
P. Heinig, M. Kratzer
Der Propp-Wilson Algorithmus
P (Y
= si ) = π i .
TUM
Algorithmus
Analyse
Verfehlte Vereinfachungen
Der Satz von Propp-Wilson
Beweis
P. Heinig, M. Kratzer
Der Propp-Wilson Algorithmus
TUM
Algorithmus
Analyse
Verfehlte Vereinfachungen
Der Satz von Propp-Wilson
Beweis
i ∈ {1, ..., k }
|P (Y = si ) − πi | < ε
Wir wählen ein festes
∀ε > 0 :
P. Heinig, M. Kratzer
Der Propp-Wilson Algorithmus
und zeigen:
TUM
Algorithmus
Analyse
Verfehlte Vereinfachungen
Der Satz von Propp-Wilson
P. Heinig, M. Kratzer
Der Propp-Wilson Algorithmus
TUM
Algorithmus
Analyse
Verfehlte Vereinfachungen
Der Satz von Propp-Wilson
Sei
ε > 0.
P. Heinig, M. Kratzer
Der Propp-Wilson Algorithmus
TUM
Algorithmus
Analyse
Verfehlte Vereinfachungen
Der Satz von Propp-Wilson
Sei
ε > 0.
Wie wir wissen ist
P. Heinig, M. Kratzer
Der Propp-Wilson Algorithmus
→∞
P (K−0 t ) t−→
1.
TUM
Algorithmus
Analyse
Verfehlte Vereinfachungen
Der Satz von Propp-Wilson
Sei
ε > 0.
Wie wir wissen ist
Es gibt also
P. Heinig, M. Kratzer
Der Propp-Wilson Algorithmus
→∞
P (K−0 t ) t−→
1.
NM ∈ N
P (K−0 NM ) > 1 − ε
, sodass
TUM
Algorithmus
Analyse
Verfehlte Vereinfachungen
Der Satz von Propp-Wilson
P. Heinig, M. Kratzer
Der Propp-Wilson Algorithmus
TUM
Algorithmus
Analyse
Verfehlte Vereinfachungen
Der Satz von Propp-Wilson
Beweismethode:
P. Heinig, M. Kratzer
Der Propp-Wilson Algorithmus
Kopplungsargument
TUM
Algorithmus
Analyse
Verfehlte Vereinfachungen
Der Satz von Propp-Wilson
Beweismethode:
Kopplungsargument
Wir erzeugen eine weitere, besondere, Markovkette und
koppeln sie an die anderen:
P. Heinig, M. Kratzer
Der Propp-Wilson Algorithmus
TUM
Algorithmus
Analyse
Verfehlte Vereinfachungen
Der Satz von Propp-Wilson
Beweismethode:
Kopplungsargument
Wir erzeugen eine weitere, besondere, Markovkette und
koppeln sie an die anderen:
Die Simulation werde ein weiteres Mal
durchgeführt.
P. Heinig, M. Kratzer
Der Propp-Wilson Algorithmus
TUM
Algorithmus
Analyse
Verfehlte Vereinfachungen
Der Satz von Propp-Wilson
Beweismethode:
Kopplungsargument
Wir erzeugen eine weitere, besondere, Markovkette und
koppeln sie an die anderen:
Die Simulation werde ein weiteres Mal
durchgeführt.
Die Updatefunktion sei dieselbe.
P. Heinig, M. Kratzer
Der Propp-Wilson Algorithmus
TUM
Algorithmus
Analyse
Verfehlte Vereinfachungen
Der Satz von Propp-Wilson
Beweismethode:
Kopplungsargument
Wir erzeugen eine weitere, besondere, Markovkette und
koppeln sie an die anderen:
Die Simulation werde ein weiteres Mal
durchgeführt.
Die Updatefunktion sei dieselbe.
Alle Zufallszahlen −NM , −NM +1 , . . . ,
wiederverwendet.
U
P. Heinig, M. Kratzer
Der Propp-Wilson Algorithmus
U
U0 werden
TUM
Algorithmus
Analyse
Verfehlte Vereinfachungen
Der Satz von Propp-Wilson
P. Heinig, M. Kratzer
Der Propp-Wilson Algorithmus
TUM
Algorithmus
Analyse
Verfehlte Vereinfachungen
Der Satz von Propp-Wilson
Aber wir betrachten nur eine Kette; welchen Anfangszustand
soll sie bekommen?
P. Heinig, M. Kratzer
Der Propp-Wilson Algorithmus
TUM
Algorithmus
Analyse
Verfehlte Vereinfachungen
Der Satz von Propp-Wilson
Aber wir betrachten nur eine Kette; welchen Anfangszustand
soll sie bekommen?
Der Anfangszustand der Kette sei nach der stationären
Verteilung
π
zufällig gewählt, und werde der Simulation
übergeben.
P. Heinig, M. Kratzer
Der Propp-Wilson Algorithmus
TUM
Algorithmus
Analyse
Verfehlte Vereinfachungen
Der Satz von Propp-Wilson
Aber wir betrachten nur eine Kette; welchen Anfangszustand
soll sie bekommen?
Der Anfangszustand der Kette sei nach der stationären
Verteilung
π
zufällig gewählt, und werde der Simulation
übergeben.
e den Output.
Es bezeichne Y
P. Heinig, M. Kratzer
Der Propp-Wilson Algorithmus
TUM
Algorithmus
Analyse
Verfehlte Vereinfachungen
Der Satz von Propp-Wilson
Aber wir betrachten nur eine Kette; welchen Anfangszustand
soll sie bekommen?
Der Anfangszustand der Kette sei nach der stationären
Verteilung
π
zufällig gewählt, und werde der Simulation
übergeben.
e den Output.
Es bezeichne Y
Weil
π
e die Verteilung
stationär ist, hat auch Y
P. Heinig, M. Kratzer
Der Propp-Wilson Algorithmus
π.
TUM
Algorithmus
Analyse
Verfehlte Vereinfachungen
Der Satz von Propp-Wilson
Aber wir betrachten nur eine Kette; welchen Anfangszustand
soll sie bekommen?
Der Anfangszustand der Kette sei nach der stationären
Verteilung
π
zufällig gewählt, und werde der Simulation
übergeben.
e den Output.
Es bezeichne Y
Weil
π
e die Verteilung
stationär ist, hat auch Y
0
Falls K−
−NM
NM
π.
eingetreten ist, so liefert jeder Anfangszustand bei
denselben Output Y zum Zeitpunkt 0.
P. Heinig, M. Kratzer
Der Propp-Wilson Algorithmus
TUM
Algorithmus
Analyse
Verfehlte Vereinfachungen
Der Satz von Propp-Wilson
Aber wir betrachten nur eine Kette; welchen Anfangszustand
soll sie bekommen?
Der Anfangszustand der Kette sei nach der stationären
Verteilung
π
zufällig gewählt, und werde der Simulation
übergeben.
e den Output.
Es bezeichne Y
Weil
π
e die Verteilung
stationär ist, hat auch Y
0
Falls K−
−NM
NM
π.
eingetreten ist, so liefert jeder Anfangszustand bei
denselben Output Y zum Zeitpunkt 0.
Also gilt die Inklusion
0
K−
NM
e}
⊂ {Y = Y
oder gleichwertig
e } := {Y = Y
e} ⊂ K0 .
{Y 6= Y
−NM
P. Heinig, M. Kratzer
Der Propp-Wilson Algorithmus
TUM
Algorithmus
Analyse
Verfehlte Vereinfachungen
Der Satz von Propp-Wilson
P. Heinig, M. Kratzer
Der Propp-Wilson Algorithmus
TUM
Algorithmus
Analyse
Verfehlte Vereinfachungen
Der Satz von Propp-Wilson
Wegen
P. Heinig, M. Kratzer
Der Propp-Wilson Algorithmus
e} ⊂ K0 .
{Y 6= Y
−NM
TUM
Algorithmus
Analyse
Verfehlte Vereinfachungen
Der Satz von Propp-Wilson
Wegen
e} ⊂ K0 .
{Y 6= Y
−NM
und
(
0
P K−
P. Heinig, M. Kratzer
Der Propp-Wilson Algorithmus
NM ) > 1 − ε
TUM
Algorithmus
Analyse
Verfehlte Vereinfachungen
Der Satz von Propp-Wilson
Wegen
e} ⊂ K0 .
{Y 6= Y
−NM
und
(
0
P K−
NM ) > 1 − ε
ist
P
e }) ≤ P (K 0 ) = 1 − P (K 0 ) < 1 − (1 − ε) = ε,
({Y 6= Y
− NM
−NM
P. Heinig, M. Kratzer
Der Propp-Wilson Algorithmus
TUM
Algorithmus
Analyse
Verfehlte Vereinfachungen
Der Satz von Propp-Wilson
Wegen
e} ⊂ K0 .
{Y 6= Y
−NM
und
(
0
P K−
NM ) > 1 − ε
ist
P
e }) ≤ P (K 0 ) = 1 − P (K 0 ) < 1 − (1 − ε) = ε,
({Y 6= Y
− NM
−NM
also
P
P. Heinig, M. Kratzer
Der Propp-Wilson Algorithmus
e }) < ε.
({Y 6= Y
TUM
Algorithmus
Analyse
Verfehlte Vereinfachungen
Der Satz von Propp-Wilson
e nach
Weil Y
(
P Y
π
verteilt ist, gilt
= si ) − πi
e = si )
= si ) − P (Y
e 6= si ) − 1
= P (Y = si ) + P (Y
e 6= si })
= P ({Y = si } ∪ {Y
e 6= si }) − 1
+ P ({Y = si } ∩ {Y
=
P Y
(
≤
1
e =
({Y = si } ∩ {Y
6 si }) − 1
e
= P ({Y = si } ∩ {Y =
6 si })
e }) < ε.
≤ P ({Y 6= Y
+
P. Heinig, M. Kratzer
Der Propp-Wilson Algorithmus
P
TUM
Algorithmus
Analyse
Verfehlte Vereinfachungen
Der Satz von Propp-Wilson
Analog folgt P (Y
= si ) − πi < ε.
Also
∀ε > 0 : |P (Y = si ) − πi | < ε
P. Heinig, M. Kratzer
Der Propp-Wilson Algorithmus
TUM
Algorithmus
Analyse
Verfehlte Vereinfachungen
Ezienz
Wie rasch sollten wir in die Vergangenheit hineingehen?
P. Heinig, M. Kratzer
Der Propp-Wilson Algorithmus
TUM
Algorithmus
Analyse
Verfehlte Vereinfachungen
Ezienz
Wie rasch sollten wir in die Vergangenheit hineingehen?
Wir denieren N
∗ dadurch, dass
−N ∗
der gröÿte Zeitpunkt ist,
bei dem zum Zeitpunkt 0 die Ketten verschmolzen sind.
Es ist N
∗ eine Zufallsvariable und hängt von
,
,
U0 U−1 U−2
, ...
ab.
P. Heinig, M. Kratzer
Der Propp-Wilson Algorithmus
TUM
Algorithmus
Analyse
Verfehlte Vereinfachungen
Ezienz
Wie rasch sollten wir in die Vergangenheit hineingehen?
Wir denieren N
∗ dadurch, dass
−N ∗
der gröÿte Zeitpunkt ist,
bei dem zum Zeitpunkt 0 die Ketten verschmolzen sind.
Es ist N
∗ eine Zufallsvariable und hängt von
,
,
U0 U−1 U−2
, ...
ab.
Simulationen, die bei
−N
mit
−N < −N ∗
beginnen, sind
verschwendet.
P. Heinig, M. Kratzer
Der Propp-Wilson Algorithmus
TUM
Algorithmus
Analyse
Verfehlte Vereinfachungen
Ezienz
Wie rasch sollten wir in die Vergangenheit hineingehen?
Wir denieren N
∗ dadurch, dass
−N ∗
der gröÿte Zeitpunkt ist,
bei dem zum Zeitpunkt 0 die Ketten verschmolzen sind.
Es ist N
∗ eine Zufallsvariable und hängt von
,
,
U0 U−1 U−2
, ...
ab.
Simulationen, die bei
−N
mit
−N < −N ∗
beginnen, sind
verschwendet.
Also: Wie sollten wir unsere Startzeitpunkte
−N1 , −N2 , ...
am
besten wählen?
P. Heinig, M. Kratzer
Der Propp-Wilson Algorithmus
TUM
Algorithmus
Analyse
Verfehlte Vereinfachungen
Ezienz
Wie rasch sollten wir in die Vergangenheit hineingehen?
Wir denieren N
∗ dadurch, dass
−N ∗
der gröÿte Zeitpunkt ist,
bei dem zum Zeitpunkt 0 die Ketten verschmolzen sind.
Es ist N
∗ eine Zufallsvariable und hängt von
,
,
U0 U−1 U−2
, ...
ab.
Simulationen, die bei
−N
mit
−N < −N ∗
beginnen, sind
verschwendet.
Also: Wie sollten wir unsere Startzeitpunkte
−N1 , −N2 , ...
am
besten wählen?
Problem
N
∗ ist a priori nicht bekannt.
P. Heinig, M. Kratzer
Der Propp-Wilson Algorithmus
TUM
Algorithmus
Analyse
Verfehlte Vereinfachungen
Ezienz
Startzeitpunkte
P. Heinig, M. Kratzer
Der Propp-Wilson Algorithmus
TUM
Algorithmus
Analyse
Verfehlte Vereinfachungen
Ezienz
Startzeitpunkte
1. Versuch:
P. Heinig, M. Kratzer
Der Propp-Wilson Algorithmus
(−N1 , −N2 , . . . ) = (−1, −2, −3, −4, . . . ).
TUM
Algorithmus
Analyse
Verfehlte Vereinfachungen
Ezienz
Startzeitpunkte
1. Versuch:
(−N1 , −N2 , . . . ) = (−1, −2, −3, −4, . . . ).
Insgesamt werden 1
+ 2 + 3 + ... + N ∗ =
N ∗ (N ∗ +1)
2
Schritte
∗
simuliert, also quadratisches Wachstum in N .
P. Heinig, M. Kratzer
Der Propp-Wilson Algorithmus
TUM
Algorithmus
Analyse
Verfehlte Vereinfachungen
Ezienz
Startzeitpunkte
1. Versuch:
(−N1 , −N2 , . . . ) = (−1, −2, −3, −4, . . . ).
Insgesamt werden 1
+ 2 + 3 + ... + N ∗ =
N ∗ (N ∗ +1)
2
Schritte
∗
simuliert, also quadratisches Wachstum in N .
2. Versuch:
P. Heinig, M. Kratzer
Der Propp-Wilson Algorithmus
(−N1 , −N2 , ...) = (−1, −2, −4, −8, ...).
TUM
Algorithmus
Analyse
Verfehlte Vereinfachungen
Ezienz
Startzeitpunkte
1. Versuch:
(−N1 , −N2 , . . . ) = (−1, −2, −3, −4, . . . ).
Insgesamt werden 1
+ 2 + 3 + ... + N ∗ =
N ∗ (N ∗ +1)
2
Schritte
∗
simuliert, also quadratisches Wachstum in N .
(−N1 , −N2 , ...) = (−1, −2, −4, −8, ...).
P∞ −k
∗
∗
1 + 2 + 4 + ... + 2N ≤ 2N
k = 0 2 = 4N ∗
2. Versuch:
Höchstens
∗
Schritte, also lineares Wachstum in N .
P. Heinig, M. Kratzer
Der Propp-Wilson Algorithmus
TUM
Algorithmus
Analyse
Verfehlte Vereinfachungen
Ezienz
Startzeitpunkte
1. Versuch:
(−N1 , −N2 , . . . ) = (−1, −2, −3, −4, . . . ).
Insgesamt werden 1
+ 2 + 3 + ... + N ∗ =
N ∗ (N ∗ +1)
2
Schritte
∗
simuliert, also quadratisches Wachstum in N .
(−N1 , −N2 , ...) = (−1, −2, −4, −8, ...).
P∞ −k
∗
∗
1 + 2 + 4 + ... + 2N ≤ 2N
k = 0 2 = 4N ∗
2. Versuch:
Höchstens
∗
Schritte, also lineares Wachstum in N .
3. Versuch:
ein b
(−N1 , −N2 , ...) = (−b0 , −b1 , −b2 , −b3 , ...).
für
>1
P. Heinig, M. Kratzer
Der Propp-Wilson Algorithmus
TUM
Algorithmus
Analyse
Verfehlte Vereinfachungen
Verfehlte Vereinfachungen
P. Heinig, M. Kratzer
Der Propp-Wilson Algorithmus
TUM
Algorithmus
Analyse
Verfehlte Vereinfachungen
Zukunftskopplung
Erste Vereinfachung: In die Zukunft simulieren
Simulation von vergangenen Startzeitpunkten ist aufwändig:
P. Heinig, M. Kratzer
Der Propp-Wilson Algorithmus
TUM
Algorithmus
Analyse
Verfehlte Vereinfachungen
Zukunftskopplung
Erste Vereinfachung: In die Zukunft simulieren
Simulation von vergangenen Startzeitpunkten ist aufwändig:
zu viele Schritte
Updatewerte U0 , U−1 , U−2 , ... müssen gespeichert werden
P. Heinig, M. Kratzer
Der Propp-Wilson Algorithmus
TUM
Algorithmus
Analyse
Verfehlte Vereinfachungen
Zukunftskopplung
Erste Vereinfachung: In die Zukunft simulieren
Simulation von vergangenen Startzeitpunkten ist aufwändig:
zu viele Schritte
Updatewerte U0 , U−1 , U−2 , ... müssen gespeichert werden
Warum lassen wir die Simulation nicht so lange laufen, bis alle
Ketten verschmelzen?
P. Heinig, M. Kratzer
Der Propp-Wilson Algorithmus
TUM
Algorithmus
Analyse
Verfehlte Vereinfachungen
Zukunftskopplung
Intuition zur ersten verfehlten Vereinfachung
Wir bestimmen nun nicht mehr den Zustand zu einem
Zeitpunkt, sondern zu einem
zufälligen.
festen
Dies verzerrt das Ergebnis.
P. Heinig, M. Kratzer
Der Propp-Wilson Algorithmus
TUM
Algorithmus
Analyse
Verfehlte Vereinfachungen
Neue Zufallszahlen
Zweite Vereinfachung: Immer wieder neue Zufallszahlen
Vorschlag: Algorithmus genau wie gehabt, mit
(N1 ,
N2
, . . . ) = (1, 2, 4, 8, . . . )
Unterschied: Neuerzeugung von Zufallszahlen für jeden
Zeitpunkt in jedem Schleifendurchlauf
Nachteil: Auch das verfälscht den Output.
P. Heinig, M. Kratzer
Der Propp-Wilson Algorithmus
TUM
Algorithmus
Analyse
Verfehlte Vereinfachungen
Neue Zufallszahlen
Als Beispiel dient erneut:
Mit
π=
P. Heinig, M. Kratzer
Der Propp-Wilson Algorithmus
2 1
,
.
3 3
TUM
Algorithmus
Analyse
Verfehlte Vereinfachungen
Neue Zufallszahlen
Beweis: Der Output ist verfälscht.
P. Heinig, M. Kratzer
Der Propp-Wilson Algorithmus
TUM
Algorithmus
Analyse
Verfehlte Vereinfachungen
Neue Zufallszahlen
Beweis: Der Output ist verfälscht.
Bezeichne Y den Output des modizierten Algorithmus.
P. Heinig, M. Kratzer
Der Propp-Wilson Algorithmus
TUM
Algorithmus
Analyse
Verfehlte Vereinfachungen
Neue Zufallszahlen
Beweis: Der Output ist verfälscht.
Bezeichne Y den Output des modizierten Algorithmus.
Wir zeigen:
P(Y
P. Heinig, M. Kratzer
Der Propp-Wilson Algorithmus
= s1 ) 6=
2
3
TUM
Algorithmus
Analyse
Verfehlte Vereinfachungen
Neue Zufallszahlen
Beweis: Der Output ist verfälscht.
Bezeichne Y den Output des modizierten Algorithmus.
Wir zeigen:
P(Y
= s1 ) 6=
2
3
Sei
M
:= max{m ∈ N :
P. Heinig, M. Kratzer
Der Propp-Wilson Algorithmus
Der Zeitpunkt
− Nm
wird verwendet}.
TUM
Algorithmus
Analyse
Verfehlte Vereinfachungen
Neue Zufallszahlen
Beweis: Der Output ist verfälscht.
Bezeichne Y den Output des modizierten Algorithmus.
Wir zeigen:
P(Y
= s1 ) 6=
2
3
Sei
M
:= max{m ∈ N :
Der Zeitpunkt
− Nm
wird verwendet}.
∞ lässt sich partitionieren in
Ergebnisraum [0; 1]
P. Heinig, M. Kratzer
Der Propp-Wilson Algorithmus
M
= 1 ∪˙ M = 2 ∪˙ M = 3 ∪˙ · · ·
TUM
Algorithmus
Analyse
Verfehlte Vereinfachungen
Neue Zufallszahlen
P. Heinig, M. Kratzer
Der Propp-Wilson Algorithmus
TUM
Algorithmus
Analyse
Verfehlte Vereinfachungen
Neue Zufallszahlen
Es ist
P(Y
P({Y
= s1 } ∩
M
= 1 ∪˙
M
∞
X
m =1
P({Y
P. Heinig, M. Kratzer
Der Propp-Wilson Algorithmus
= 2 ∪˙
P({Y
M
=3
= s1 ) =
∪˙ · · ·
=
= s1 } ∩ {M = m ) ≥
= s1 } ∩ {M = 1 ) + P({Y = s1 } ∩ {M = 2 ) =
3
1
1
1 1
1 1
2
2 + 2 · 2 · 2 + 2 · 2 = 4 > 3 TUM
Algorithmus
Analyse
Verfehlte Vereinfachungen
Neue Zufallszahlen
Intuition zur zweiten verfehlten Vereinfachung
Hier legt sich der Algorithmus nicht
auf eine einzige Vergangenheit fest.
P. Heinig, M. Kratzer
Der Propp-Wilson Algorithmus
TUM
Algorithmus
Analyse
Verfehlte Vereinfachungen
Zusammenfassung
P. Heinig, M. Kratzer
Der Propp-Wilson Algorithmus
TUM
Algorithmus
Analyse
Verfehlte Vereinfachungen
Zusammenfassung
Propp-Wilson liefert exakt die stationäre Verteilung
Anzahl an Simulationsschritten wächst linear in N
P. Heinig, M. Kratzer
Der Propp-Wilson Algorithmus
∗
TUM
Algorithmus
Analyse
Verfehlte Vereinfachungen
Zusammenfassung
Propp-Wilson liefert exakt die stationäre Verteilung
Anzahl an Simulationsschritten wächst linear in N
Problem: Eine Markov-Kette für jeden Zustand
s
∗
∈S
Mächtigkeit des Zustandsraumes |S | meist sehr groÿ
P. Heinig, M. Kratzer
Der Propp-Wilson Algorithmus
TUM
Algorithmus
Analyse
Verfehlte Vereinfachungen
Zusammenfassung
Propp-Wilson liefert exakt die stationäre Verteilung
Anzahl an Simulationsschritten wächst linear in N
Problem: Eine Markov-Kette für jeden Zustand
s
∗
∈S
Mächtigkeit des Zustandsraumes |S | meist sehr groÿ
Lösung:
Sandwiching
P. Heinig, M. Kratzer
Der Propp-Wilson Algorithmus
→
Kapitel 11
TUM