Rev. 1, 26.01.2014 TU Ilmenau, Fakultät für Informatik und Automatisierung FG Komplexitätstheorie und Effiziente Algorithmen Univ.-Prof. Dr. M. Dietzfelbinger, Dipl.-Ing. C. Mattern http://www.tu-ilmenau.de/iti/lehre/lehre-ws-20142015/ra/ Randomisierte Algorithmen WS 2014/15 – Übung 7 Besprechung: Donnerstag, 5. Februar 2015 Hinweis: Für das erfolgreiche Vorrechnen einer mit *“ gekennzeichneten Aufgabe wird ein Bo” nuspunkt vergeben, es gibt maximal zwei Bonuspunkte pro Studierendem im Semester. Aufgabe 1 (Parameterschätzung bei Bernoulli-Experimenten, z. B. Münzwurf) * Seien Z1 , Z2 , Z3 , . . . unabhängige Zufallsvariable, die jeweils zum Parameter p, mit 0 < p < 1, geometrisch verteilt sind. Diese Zufallsvariablen modellieren die Wartezeit auf einen Erfolg bei unabhängigen Versuchen mit Erfolgswahrscheinlichkeit p. Weiter sei für k ≥ 1 die Zufallsvariable Yk definiert durch Yk = Z1 + Z2 + · · · + Zk . Dann modelliert Yk die Wartezeit auf k Erfolge bei unabhängigen Versuchen mit Erfolgswahrscheinlichkeit p. Wir wollen eine Art Hoeffding-Schranke für Yk ermitteln. (a) Zeigen Sie: E(Yk ) = k/p. (b) Finden Sie eine obere Schranke für Pr Yk ≥ (1 + ε) kp . Hinweis: Wenn X1 , X2 , X3 , . . . unabhängige {0, 1}-wertige Zufallsvariable mit Pr(Xi = 1) = p sind, dann kann man sich vorstellen, dass Yk wie folgt definiert ist: Yk = min{i | X1 + X2 + · · · + Xi ≥ k}. Also gilt für ganzzahlige t, dass Pr (Yk > t) = Pr(X1 + · · · + Xt < k). Nun kann man die HoeffdingSchranke aus der Vorlesung ins Spiel bringen. (c) Finden Sie eine obere Schranke für Pr Yk ≤ (1 − ε) kp . (d) Benutzen Sie das Ergebnis von (b) und (c), um folgende Strategie zu analysieren: Gegeben ist eine unfaire Münze, die mit Wahrscheinlichkeit p Kopf und mit Wahrscheinlichkeit 1 − p Zahl zeigt. Der unbekannte Parameter p soll geschätzt werden. Man wirft die Münze mehrmals, bis genau k-mal Kopf erschienen ist. Die beobachtete Zahl der Versuche ist Y . Nun gibt man p̂ = k/Y als Schätzwert für p aus. Es soll etwas über die Wahrscheinlichkeit gesagt werden, dass man mit dieser Schätzung weit vom echten p entfernt liegt. Weiter auf nächster Seite! 2 Randomisierte Algorithmen WS 2014/15 – Übung 7 Aufgabe 2 (Quicksort benötigt O(n log n) Schritte mit hoher Wahrscheinlichkeit) * Sei n ≥ 1 ganzzahlig, L := dlog3/2 ne, sowie c ≥ 6 ganzzahlig und so groß, dass e−(1−3/c) 2 < 3 (3/c)3/c gilt. Seien weiter Y1 ,Y2 , . . . ,YcL unabhängige, 0-1-wertige Zufallsvariablen mit Pr(Yi = 1) = 1/3 und sei Y := Y1 + · · · +YcL . (a) Zeigen Sie: 1 . n2 Hinweis: Anwendung der Chernoff-Hoeffding-Ungleichung in der zweiten Form: Pr(X ≤ (1 − ε)m) ≤ (e−ε /(1 − ε)1−ε )m . Pr(Y ≤ L) ≤ (b) Verfolgen Sie bei randomisiertem Quicksort für Input (a1 , . . . , an ), wobei die ai paarweise verschieden sind, das Schicksal“ eines Schlüssels z, z ∈ {a1 , . . . , an }. Wir nennen einen partition-Aufruf für ” ein Teilarray A[a..b], in dem z vorkommt, gut für z, wenn nach dem Aufruf das neue Teilarray, in dem z steht, höchstens 23 (b − a + 1) Einträge hat (oder wenn z als Pivot gewählt wird). Argumentieren Sie, dass ein fest gewähltes z höchstens L = dlog3/2 ne gute Aufrufe erleben“ kann. ” (c) Zeigen Sie: Wenn z in A[a..b] liegt und partition für A[a..b] ausgeführt wird, ist die Wahrscheinlichkeit, dass dieser Aufruf gut für z ist, mindestens 1/3. (d) Argumentieren Sie: Die Wahrscheinlichkeit, dass unter den ersten cL partition-Aufrufen, an denen z beteiligt ist, weniger als L viele gut für z sind, ist durch 1/n2 nach oben beschränkt. (e) Argumentieren Sie: Es gibt eine Konstante C, so dass die Wahrscheinlichkeit, dass beim randomisierten Quicksort mehr als Cn log n Vergleiche ausgeführt werden, durch 1/n nach oben beschränkt ist.