Chernoff Schranken und ihre Anwendungen III

Chernoff Schranken und ihre Anwendungen III
Vortrag: Christian Scheideler
Mitschrieb: Martina Hüllmann1
19. Oktober 2010
Fortsetzung des Beweises von Satz 2
Fall 1: ∆t ≥ n4 (letzte Woche)
√
Fall 2: c n ln n ≤ ∆t ≤ n4 (letzte Woche)
√
Fall 3: ∆t < c n ln n (heute)
• Γt :=
Lt −Rt
2
(nicht absolute Inbalance)
Lemma 1. Für zwei beliebige Konfigurationen mit Inbalancen Γt ≥ Γ0t gilt für jede Wahl der
angefragten Spieler: Γt+1 ≥ Γ0t+1 .
Beweis.
• 0 → 1 für Γt ⇒ 0/1 → 1 für Γ0t
�
• 1 → 1 für Γt ⇒ 1 → 1 für Γ0t
⇒ # 1-Spieler in Γt+1 ≤ # 1-Spieler in Γ0t+1
⇒ Γt+1 ≥ Γ0t+1
0
�
L�t
��
0
n/2
��
Lt
��
1
0
��
Rt�
��
1
��
Rt
�
n
�
(Lemma 1)
Definition 1. Eine ZV Y ist stochastisch dominant zu einer ZV Z (Y Z), falls gilt:
Pr [Y ≥ x] ≥ Pr [Z ≥ x]
∀x ∈ R
• Aus Lemma 1 folgt:
Γt ≥ Γ0t ⇒ Γt+1 Γ0t+1
• Angenommen Γt = 0 (perfekt balancierte Situation).
• O. B. d. A. gelte:
Spieler 1 bis n/2: Wert 0
Spieler n/2 + 1 bis n: Wert 1
1
Da es sich lediglich um eine Mitschrift der Vorträge handelt, können sich Fehler eingeschlichen haben, die nicht auf
den Vortragenden zurückgehen.
1/6
(
0 Spieler i:
• ZV Zi =
1 Spieler i:
(
0 Spieler i:
• ZV Zi =
1 Spieler i:
0→0
0→1
∀i ∈ {1, . . . , n/2}
1→1
1→0
∀i ∈ {n/2 + 1, . . . , n}
• Zi gibt an, ob Spieler i wechselt
• Es folgt (da Γt = 0):
/2
X
n
Γt+1 = −
Zi +
| i=1
{z }
(1)
Γt+1
n
X
i=n/2+1
|
{z
(2)
Γt+1
Zi
}
• ∀i ∈ {1, . . . , n} : Pr [Zi = 1] = 1/4
(k)
• ⇒ Γt+1 ist binomialverteilt mit Parametern n/2 und p = 1/4 (für k ∈ {1, 2})
h
i
h
i
(k)
(k)
• ⇒ E Γt+1 = n2 · p = n8 , V Γt+1 = n2 · p · (1 − p) = 34 · n8
(1)
(2)
• Da Γt+1 und Γt+1 stochastich unabhängig sind:
h
i
h
i
(1)
(2)
E [Γt+1 ] = −E Γt+1 + E Γt+1 = 0
h
i
h
i
3
(∗)
(1)
(2)
·n
V [Γt+1 ] = V Γt+1 + V Γt+1 =
16
• In (∗) wurde verwendet: Für stochastisch unabhängige ZVen Xi und ai ∈ R gilt:
" n
#
n
X
X
V
ai Xi =
a2i V [Xi ]
i=1
i=1
• Nach dem Gesetz der großen Zahlen konvergiert Γt+1 für n → ∞ gegen die Standardnormalverteilung.
2
• Standardnormalverteilung: Wahrscheinlichkeitsdichte ist gegeben durch φ = √12π · e−x /2
(Gaußsche Glockenkurve)
R∞
Rx
2
• Φ(x) = −∞ φ(u)du = √12π · −∞ e−u /2 du (Wk. für Wert ≤ x)
P
• Gesetz der großen Zahlen: Sei X = ni=1 Xi mit µ = E [X] und ν = V [X] endlich. Dann
gilt für alle a < b:
X −µ
lim Pr a < √
< b = Φ(b) − Φ(a)
n→∞
ν
2/6
• Hieraus folgt:
"
r #
√ 16
Γt+1
lim Pr Γt+1 ≥ γ n = lim Pr p
≥γ
n→∞
n→∞
3
V [Γt+1 ]
r !
16
=1−Φ γ·
3
r !
√ 16
⇒ ∀ε > 0 ∃n0 ∀n ≥ n0 : Pr Γt+1 ≥ γ n ≥ 1 − Φ γ
−ε
3
• Für alle x ≥ 0 gilt:
√
1
1
2
2
· e−x /2 ≤ 1 − Φ(x) ≤ √
· e−x /2
π(1
+
x)
2π(1 + x)
• Für alle n ≥ n0 gilt:
√ Pr Γt+1 ≥ γ n ≥ √
|
1
4π(1 + γ
p
16/3)
{z
· e−γ
ε(γ)
2 ·8/3
(1)
}
• Wegen der stochastischen Dominanz (Lemma 1) gilt Gleichung 1 für alle Γt ≥ 0.
• Wir wissen aus Fall 2, dass weiterhin für ∆t ≥ 0 gilt:
√
3
2
E [Γt+1 ] =
− 2δ Γt
(Lt = (1 + δ) n2 , δ hier aber sehr klein, da Γt < c n ln n)
2
Definition 2. Ein Lauf [t0 , t00 ] ist erfolgreich (im Fall Γt0 ≥ 0), wenn gilt:
√
(i) Γ0t+1 > γ n
∀t ∈ {t0 + 2, . . . , t00 − 1}
(ii) Γt+1 > 43 Γt
√
(iii) Γt00 ≥ c n ln n (→ Fall 2)
• Aus Chernoff-Schranken folgt:
4
2
2
Pr Γt+1 ≤ Γt ≤ e−Θ(Γt )/n = e−Ω(γ )
3
3/6
⇒ Pr [Lauf erfolgreich] ≥ ε(γ) ·
Y
4 i
1 − e−Θ((( 3 ) γ
√
n)2 /n)
i≥0
Konst. abh. von γ
z
}|
{
X −Θ(( 4 )i γ)2
3
e
−
≥ ε(γ) · e
= ε0 (γ)
(e−x ≥ 1 − x ≥ e−x/2 )
i≥0
für eine Konstante ε0 (γ) > 0
0
⇒ Pr [c ln n viele Läufe scheitern] ≤ (1 − ε0 (γ))c ln n ≤
ln n
e|−ε (γ)c
{z }
poly. klein f. genügend
große Konstante c
Lemma 2. O(log n) gescheiterte Läufe benötigen nur O(log n) Zeit m. h. W..
Mit Lemma 2 folgt: Zeit inkl. des ersten erfolgreichen Laufes ist O(log n), da ein erfolgreicher Lauf nur Zeit O(log log n) benötigt.
Beweis von Lemma 2. Betrachte c ln n Läufe für Konstante c.
O. B. d. A. nur Betrachtung der # Zeitschritte, die gescheiterte Läufe in Fall (ii) verwenden
(Fall (i) nur ein Zusatzschritt). Dann gilt:
4
Pr Γt+1 ≤ Γt | davor galt (i) und (ii)
3
4
> (1 + α) · Pr Γt+2 ≤ Γt+1 | davor galt (i) und (ii)
3
– Sei ZV X = # Schritte des Laufs für Fall (ii) bis der Lauf scheitert
X
Pr [X ≥ t] =
Pr [X = τ ]
τ ≥t
=
X
τ ≥t
≤
Pr [(i) und (ii) gilt bis τ ] · Pr Γt+1
|
{z
}
|
≤1
X
(1 + α)−(τ −1)
4
≤ Γt | (i) und (ii) gilt bis τ
3
{z
}
≤(1+α)−(τ −1)
τ ≥t
=
1+α
· (1 + α)−(τ −1)
α
– Für alle α ≥ 1 (was in unserem Fall gilt) folgt:
Pr [X ≥ t] ≤ (1 + α)−(t−2)
– Geometrisch verteilte ZV Y mit Paramter p:
Pr [Y = t] = p · (1 − p)t−1
⇒ Pr [Y ≥ t] = (1 − p)t−1
4/6
– ⇒ X − 1 stochastisch dominiert durch eine gemotrisch verteilte ZV, da
Pr [X − 1 ≥ t] ≤ (1 + α)t−1
• Zur Beschränkung der Laufzeit unserer Läufe benötigen wir eine Chernoff Schranke für
geometrisch verteilte ZVen.
Lemma 3 (Chernoff Schranke für geometrisch verteilte Zufallsvariablen). Betrachte festes 0 < δ < 1. Seien X1 , . . . , Xn stochastisch unabhängig geometrisch verteilte ZVen mit
Parameter δ, d. h.:
Pr [Xi = t] = δ(1 − δ)t−1
Sei X =
Pn
i=1 Xi
und µ = E [X]. Dann gilt für alle ε > 0:
2 /2(1+δ))n
Pr [X ≥ (1 + ε)µ] ≤ e−(ε
Beweis.
– Transformiere Xi = k in Bitfolge Bk = |0 .{z
. . 0} 1 (Xi → Bk )
k−1
– (X1 = k1 , X2 = k2 , . . .) → (Bk1 , Bk2 , . . .) = 0|{z}
. . . 1 |0 .{z
. . 0} 1 . . .
k1 −1
k2 −1
– Betrachte Folge binärer ZVen Y1 , Y2 , . . . mit Pr [Yi = 1] = δ. Dann gilt:
Pr [Bk ] = (1 − δ)k−1 · δ = Pr [Xi = k]
für alle i
– Seien X1 , X2 , . . . und Y1 , Y2 , . . . zunächst unbeschränkte Folgen (d. h. es gibt Xn+1 , Xn+2 , . . .).
– Es gilt:
Pr
"
n
X
i=1


k
X
Xi ≥ k = Pr 
Yj ≤ n 
#
j=1
– Es gilt:
" n
#
" n
#
X
X
Pr
Xi ≥ k | Xi -Folge unbeschränkt = Pr
Xi ≥ k | nur X1 , . . . , Xn
i=1
i=1
i=j
j=1




k
k
X
X
Pr 
Yj ≤ n | Yj -Folge unbeschränkt = Pr 
Yj ≤ n | nur Y1 , . . . , Xk 
– Sei k = d(1 + ε)µe. Es gilt: µ = E [X] = n/δ.
P
– Sei Y = kj=1 Yj und µ0 = E [Y ] = k · δ.
5/6
– Nach Chernoff Schranken gilt für jedes ε0 ∈ [0, 1]:
0 2 0
Pr Y ≤ (1 − ε0 )µ0 ≤ e−(ε ) µ /2
Es ist n = d(1 − ε0 )µ0 e mit ε0 =
ε
1+ε .
Eingesetzt:


k
X
ε
ε2 n
ε
2
2
Pr 
Yj ≤ n ≤ e−( 1+ε ) kδ/2 ≤ e−( 1+ε ) ·(1+ε)µ·δ/2 = e− 1+ε · 2
j=1
(Lemma 3)
• Es folgt: Logarithmisch viele gescheiterte Läufe benötigen nur logarithmisch viel Zeit.
(Lemma 2)
• Lemma 3 ⇒ Fall 3 von Satz 2.
(Satz 2)
6/6