Randomisierte Algorithmen“ ¨Ubungsblatt 5, WS 2013/14

TU Ilmenau, Fakultät IA
Institut TI, FG Komplexitätstheorie und Effiziente Algorithmen
Univ.-Prof. Dr. Martin Dietzfelbinger, Dipl.-Ing. Christopher Mattern
http://www.tu-ilmenau.de/iti/lehre/lehre-ws-20132014/ra/
Randomisierte Algorithmen“
”
Übungsblatt 5, WS 2013/14
Besprechung:
Donnerstag, 12.12.2013 (50. KW). Für das Vorrechnen einer mit *“
”
markierten Aufgaben werden Bonuspunkte vergeben.
Aufgabe 1 (Parameterschätzung bei Bernoulli-Experimenten, z. B. Münzwurf) *
Seien Z1 , Z2 , Z3 , . . . unabhängige Zufallsvariable, die jeweils zum Parameter p, 0 < p < 1,
geometrisch verteilt sind. Diese Zufallsvariablen modellieren die Wartezeit auf einen Erfolg bei
unabhängigen Versuchen mit Erfolgswahrscheinlichkeit p. Weiter sei für k ≥ 1 die Zufallsvariable
Yk definiert durch Yk = Z1 + Z2 + · · · + Zk . Dann modelliert Yk die Wartezeit auf k Erfolge
bei unabhängigen Versuchen mit Erfolgswahrscheinlichkeit p. Wir wollen eine Art HoeffdingSchranke für Yk ermitteln.
(a) Zeigen Sie: E(Yk ) = k/p.
(b) Finden Sie eine obere Schranke für Pr Yk ≥ (1 + ε) kp .
Hinweis: Wenn X1 , X2 , X3 , . . . unabhängige {0, 1}-wertige Zufallsvariable mit Pr(Xi =
1) = p sind, dann kann man sich vorstellen, dass Yk wie folgt definiert ist:
Yk = min{i | X1 + X2 + · · · + Xi ≥ k}.
Also gilt für ganzzahlige t, dass Pr (Yk > t) = Pr(X1 + · · · + Xt < k). Nun kann man die
Hoeffding-Schranke aus der Vorlesung ins Spiel bringen.
k
(c) Finden Sie eine obere Schranke für Pr Yk ≤ (1 − ε) p .
(d) Benutzen Sie das Ergebnis von (b) und (c), um folgende Strategie zu analysieren: Gegeben
ist eine unfaire Münze, die mit Wahrscheinlichkeit p Kopf und mit Wahrscheinlichkeit
1 − p Zahl zeigt. Der unbekannte Parameter p soll geschätzt werden. Man wirft die Münze
mehrmals, bis genau k-mal Kopf erschienen ist. Die beobachtete Zahl der Versuche ist Y .
Nun gibt man p̂ = k/Y als Schätzwert für p aus. Es soll etwas über die Wahrscheinlichkeit
gesagt werden, dass man mit dieser Schätzung weit vom echten p entfernt liegt.
Aufgabe 2 (Starke Konvexität) *
Sei D ⊆ R eine Intervall. Eine Funktion f : D → R heißt stark konvex, falls es eine Konstante
c > 0 gibt, so dass für beliebige x, y ∈ D und 0 ≤ α ≤ 1 gilt:
(1)
f (αx + (1 − α)y) ≤ αf (x) + (1 − α)f (y) − cα(1 − α)(x − y)2 .
Zeigen Sie, dass daraus f (E(X)) ≤ E(f (X))−cVar(X) für eine Zufallsvariable X mit Bildbereich
D folgt, falls die angegebenen Erwartungswerte und Varianzen existieren.
Hinweis: Es hilft, zunächst (1) =⇒ f (x) − cx2 ist konvex“ zu zeigen.
”
2
Randomisierte Algorithmen“
”
Übungsblatt 5, WS 2013/14
Aufgabe 3 (Münzwurf und Glückssträhnen) *
Wir betrachten n unabhängige Münzwürfe. In jedem Wurf tritt das Ereignis Kopf“ (bzw.
”
Zahl“) mit Wahrscheinlichkeit 12 ein. Sei L die Länge einer längsten Sequenz von (umittelbar
”
aufeinanderfolgenden) Würfen mit dem Ergebnis Kopf“. Wir zeigen, dass E(L) = Θ(log n) gilt.
”
(a) Zeigen Sie, dass für beliebige Zufallsvariablen X ∈ {0, 1, 2, . . . , n} und beliebige ganze
Zahlen 1 ≤ a, b ≤ n gilt:
a Pr(X ≥ a) ≤ E(X) ≤ b − 1 + n Pr(X ≥ b).
(b) Zeigen Sie: Pr(L ≥ b) ≤ n/2b .
Hinweis: es gibt eine Sequenz von b (unmittelbar aufeinanderfolgenden) Würfen mit dem
”
Ergebnis Kopf‘“ folgt aus L ≥ b“.
’
”
(c) Zeigen Sie: E(L) ≤ d2 log ne.
Hinweis: Folgern Sie aus (a) und (b) eine obere Schranke für E(L) und wählen Sie b,
sodass die Schranke möglichst genau wird.
(d) Wir teilen die beobachtete Sequenz von Münzwürfen in B aufeinanderfolgende Blöcke mit
je der Länge a ≥ 1. Dabei sei B ≥ 1 maximal so dass B · a ≤ n. (Der letzte Block hat evtl.
Länge < a, ist für die Analyse aber irrelevant.) Zeigen Sie:
n
1 a −1
Pr(L ≥ a) ≥ 1 − 1 − a
.
2
Hinweis: Aus es gibt einen Block mit einer Sequenz von a (unmittelbar aufeinanderfol”
genden) Würfen mit dem Ergebnis Kopf‘“ folgt L ≥ a“.
’
”
(e) Wählen Sie a = Θ(log n), sodass Pr(L ≥ a) ≥ 1 − o(1) folgt.
(f) Folgern Sie: E(L) = Θ(log n).
Hinweis: Kombinieren Sie (a) mit (c) und (e).