Aufgaben zu Kapitel 4 der Vorlesung „Randomisierte Algorithmen“ Aufgabe 4.1 1. Zeigen Sie: Sind X und Y unabhängige Zufallsvariablen (die numerische Werte haben), dann sind auch e X und eY unabhängige Zufallsvariablen. 2. Finden Sie eine möglichst allgemeine hinreichende Bedingung für Funktionen f , so dass mit X und Y auch stets f ( X ) und f (Y ) unabhängige Zufallsvariablen sind. Lösung 4.1 1. Zwei ZV heißen unabhängig, wenn für alle x, y gilt: Pr [ X = x ∧ Y = y] = Pr [ X = x ] · Pr [Y = y] Daher: h i Pr e X = x ∧ eY = y = Pr [ X = ln x ∧ Y = ln y] Injektivität von exp() = Pr [ X = ln x ] · Pr [Y = ln y] Unabhängigkeit von X und Y h i h i = Pr e X = x · Pr eY = y 2. Injektivität von f Aufgabe 4.2 Eine Zufallsvariable Xi heißt geometrisch verteilt mit Parameter p, wenn sie Werte t ∈ N = {1, 2, 3, . . .} annimmt und gilt: Pr [ Xi = t] = p(1 − p)t−1 . 1. Berechnen Sie den Erwartungswert einer geometrisch verteilten Zufallsvariablen. 1 2. Es seien nun X1 , . . . , Xn unabhängige, identisch und geometrisch (mit gleichem Parameter p) verteilte Zufallsvariablen und X = X1 + · · · + Xn . Berechnen Sie den Erwartungswert µ von X. Lösung 4.2 1. ∞ E [ Xi ] = ∑ tp(1 − p)t−1 t =1 ∞ = p ∑ t (1 − p ) t −1 t =1 = p· 1 (1 − (1 − p))2 siehe Aufgabenblatt 1 = 1/p 2. E[ X ] = E[∑ Xi ] = ∑ E[ Xi ] = n/p Aufgabe 4.3 Eine Münze, die bei jedem Wurf mit Wahrscheinlichkeit 1/2 Zahl zeigt, wird n Mal (unabhängig) geworfen. Die binäre ZV Xi sei 1, falls beim i-ten Wurf Zahl kommt und 0 sonst. Es sei X = ∑ Xi . • Welche Schranke liefert die Chebyshev-Ungleichung für die Wahrscheinlichkeit h n ni Pr X − ≥ ? 2 4 • Welches Ergebnis liefert die Anwendung der Chernoff-Schranken für h n ni Pr X − ≥ ? 2 4 • Welches Ergebnis liefert die Anwendung der Chernoff-Schranken für n 1√ Pr X − ≥ 6n ln n ? 2 2 2 Lösung 4.3 Wir bentuzen folgende Formulierung der Chebyshev-Ungleichung: Pr [| X − µ X | ≥ a] ≤ var [ X ] . a2 Außerdem nutzen wir die Tatsache, dass für unabhängige ZV Xi gilt: " # var ∑ Xi i = ∑ var [ Xi ] i Im Falle der Münzwürfe ist Xi2 = Xi , daher E Xi2 = 1/2, var [ Xi ] = 1/2 − 1/4 = 1/4 und var [ X ] = n/4. Damit ergibt sich: • Chebyshev-Ungleichung: h n n/4 4 ni Pr X − ≥ ≤ = 2 4 (n/4)2 n • Chernoff-Schranke: h ni n Pr X − ≥ 2 4 ist wegen µ = n/2 und 0 < δ = 1/2 < 1 eine Abschätzung nach oben durch 2 exp(−µδ2 /5) möglich: h n ni 1n 1 Pr X − ≥ ≤ 2 exp(− ) = 2e−n/40 2 4 5 2 22 • Chernoff-Schranke im zweiten Fall: n 1√ Pr X − ≥ 6n ln n 2 2 √ √ ist δ = 12 6n ln n/µ = 12 6n ln n/(n/2) und daher δ2 = 6 lnn n und −µδ2 /5 = 6 ln n/10) Also 0.6 n 1√ 1 −0.6 ln n Pr X − ≥ 6n ln n ≤ 2e =2 2 2 n Aufgabe 4.4 Betrachten Sie die folgende Variante r a n d B i t F i x i n g des Bit-FixingAlgorithmus: 3 • Solange aktuelle Adresse x und Zieladresse y verschieden sind, wird aus den Bitpositionen, an denen sich x und y unterscheiden, zufällig gleichverteilt ein i gewählt und der Pfad von x nach x ⊕ ei fortgesetzt. Es soll bewiesen werden, dass wie beim deterministischen Bit-Fixing auch bei dieser Vorgehensweise beim Routen der Permutation „MatrixTransposition“ mit großer Wahrscheinlichkeit noch „große“ Staus entstehen. Hier ein paar Hinweise zu einer möglichen Vorgehensweise: • Es sei c = d/2. √ • Betrachten Sie die Pakete, die in den N Knoten mit den Adressen x = ( x1 , x2 , . . . , xc , 0, 0, · · · , 0) | {z } | {z } c Bits c Bits starten. • Betrachten Sie eine beliebige aber feste Zahl k mit 1 ≤ k ≤ c (die Sie später geeignet wählen) und die Menge Sk = {( x1 , x2 , . . . , xc , 0, 0, · · · , 0) | genau k der ersten c Bits sind 1} Aufgaben: 1. Beweisen Sie für alle 1 ≤ k ≤ n: n k (b) (nk) ≤ (a) ≤ (nk) k en k . k Hinweis zu (b): Stirlings Formel. 2. Wie groß ist Sk ? Geben Sie eine Abschätzung ohne Binomialkoeffizienten an. 3. Es sei x ∈ Sk und Yx die Zufallsvariable mit ( 1 falls x durch Knoten (0, 0, . . . , 0) transportiert wird Yx = 0 sonst Geben Sie eine Abschätzung für E[Yx ] an, in der keine Binomialkoeffizienten vorkommen. 4. Es sei Zk = ∑ x∈Sk Yx . Schätzen Sie E[ Zk ] nach unten ab. 5. Geben Sie eine legale Wahl für k an, so dass E[ Zk ] exponenziell in n ist. Was bedeutet das? 4 Lösung 4.4 Die folgende Argumentation findet man bei David Karger (Vorlesung Randomized Algorithms (6.856J/18.416J), http://courses.csail.mit.edu/6. 856/current/) 1. (a) für 1 ≤ k ≤ n ist nk − n n k−1 · = ≤1 k n−1 nk − k also n k ≤ n −1 k −1 , und folglich n n · ( n − 1) · · · ( n − k + 1) = k 1·2···k n n−1 n−k+1 = · ··· k k−1 1 n k n n ≥ ··· = k k k (b) n n · ( n − 1) · · · ( n − k + 1) = k 1·2···k ≤ nk k! nk · ek ≤√ ≤ 2. |Sk | = (kc ) also 2πk · kk (1 + h(k )) en k k c k k ≤ | Sk | ≤ ec k k 3. Es ist E[Yx ] = 1 (2kk) ≥ 5 1 2ek k k = 1 2e k 4. E[ Zk ] = ∑ E[Yx ] ≥ x ∈ Sk = n/2 k 1 2e k n k 1 k ≥ 2k 2e n k 4ek 5. wähle k = n/8e; dann ist E[ Zk ] ≥ 6 n 4en/8e n/8e = 2n/8e