Die Probabilistische Methode

Inhalt
Die Probabilistische Methode
Seminar Extremal Combinatorics
Sommersemester 2004
Wladimir Fridman
02. Juli 2004
Wladimir Fridman
Die Probabilistische Methode
Inhalt
Inhalt:
1
Probabilistische Methode
Wladimir Fridman
Die Probabilistische Methode
Inhalt
Inhalt:
1
Probabilistische Methode
2
Stochastische Grundlagen
Wladimir Fridman
Die Probabilistische Methode
Inhalt
Inhalt:
1
Probabilistische Methode
2
Stochastische Grundlagen
3
Werkzeuge
Markov-Ungleichung
Tschebyscheff-Ungleichung
Chernoff-Ungleichungen
Wladimir Fridman
Die Probabilistische Methode
Inhalt
Inhalt:
1
Probabilistische Methode
2
Stochastische Grundlagen
3
Werkzeuge
Markov-Ungleichung
Tschebyscheff-Ungleichung
Chernoff-Ungleichungen
4
First Moment Method: k-SAT
Wladimir Fridman
Die Probabilistische Methode
Inhalt
Inhalt:
1
Probabilistische Methode
2
Stochastische Grundlagen
3
Werkzeuge
Markov-Ungleichung
Tschebyscheff-Ungleichung
Chernoff-Ungleichungen
4
First Moment Method: k-SAT
5
Zusammenfassung
Wladimir Fridman
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Inhalt
1
Probabilistische Methode
2
Stochastische Grundlagen
3
Werkzeuge
Markov-Ungleichung
Tschebyscheff-Ungleichung
Chernoff-Ungleichungen
4
First Moment Method: k-SAT
5
Zusammenfassung
Wladimir Fridman
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Probabilistische Methode
Motivation
Existenzbeweise
Anwendung: Kombinatorik, Graphentheorie, Zahlentheorie,
kombinatorische Geometrie
Informatik: Entwicklung effizienter Algorithmen
Wladimir Fridman
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Die Idee
These 1
Eine Zufallsvariable X nimmt mindesten einen Wert X = x an, so dass
x ≥ E [X ].
Wladimir Fridman
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Die Idee
These 1
Eine Zufallsvariable X nimmt mindesten einen Wert X = x an, so dass
x ≥ E [X ].
Seien x1 , . . . , xn ∈ R und
x1 + . . . + xn
≥ a,
n
Wladimir Fridman
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Die Idee
These 1
Eine Zufallsvariable X nimmt mindesten einen Wert X = x an, so dass
x ≥ E [X ].
Seien x1 , . . . , xn ∈ R und
x1 + . . . + xn
≥ a,
n
dann existiert mindestens ein i ∈ {1, . . . , n}, so dass xi ≥ a.
Wladimir Fridman
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Die Idee
These 1
Eine Zufallsvariable X nimmt mindesten einen Wert X = x an, so dass
x ≥ E [X ].
These 2
Hat ein aus einem Universum zufällig gewähltes Objekt mit einer
positiven Wahrscheinlichkeit bestimmte Eigenschaften, dann muss in
diesem Universum auch ein Objekt mit diesen Eigenschaften existieren.
Wladimir Fridman
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Die Idee
Probabilistische Methode
Ziel:
Verfahren:
Wladimir Fridman
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Die Idee
Probabilistische Methode
Ziel:
Nachweis: Existenz eines Objektes mit bestimmten Eigenschaften
Verfahren:
Wladimir Fridman
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Die Idee
Probabilistische Methode
Ziel:
Nachweis: Existenz eines Objektes mit bestimmten Eigenschaften
Verfahren:
Definiere geeigneten Wahrscheinlichkeitsraum
Wladimir Fridman
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Die Idee
Probabilistische Methode
Ziel:
Nachweis: Existenz eines Objektes mit bestimmten Eigenschaften
Verfahren:
Definiere geeigneten Wahrscheinlichkeitsraum
Zeige: ein zufällig gewähltes Objekt hat mit einer positiven
Wahrscheinlichkeit die gewünschten Eigenschaften
Wladimir Fridman
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Die Idee
Probabilistische Methode
Ziel:
Nachweis: Existenz eines Objektes mit bestimmten Eigenschaften
Verfahren:
Definiere geeigneten Wahrscheinlichkeitsraum
Zeige: ein zufällig gewähltes Objekt hat mit einer positiven
Wahrscheinlichkeit die gewünschten Eigenschaften
Anmerkung: Erwartungswert oft einfacher zu ermitteln, als bestimmtes
Objekt vorzuzeigen.
Wladimir Fridman
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Inhalt
1
Probabilistische Methode
2
Stochastische Grundlagen
3
Werkzeuge
Markov-Ungleichung
Tschebyscheff-Ungleichung
Chernoff-Ungleichungen
4
First Moment Method: k-SAT
5
Zusammenfassung
Wladimir Fridman
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Wahrscheinlichkeitsraum
Definition
Ein diskreter Wahrscheinlichkeitsraum wird durch eine endliche Menge Ω
und eine Funktion Prob : Ω → [0, 1] mit der Eigenschaft
X
Prob(x) = 1
x∈Ω
beschrieben. Ω heißt Ergebnismenge, Pot(Ω) Ereignismenge, Teilmengen
A ⊆ Ω Ereignisse, Prob eine Wahrscheinlichkeitsverteilung.
Die Wahrscheinlichkeit eines Ereignisses A ist definiert durch
X
Prob(A) =
Prob(x).
x∈A
Wladimir Fridman
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Bedingte Wahrscheinlichkeit
Definition
Seien A und B Ereignisse und Prob(B) 6= 0.
Prob(A|B) Prob(A ∩ B)
Prob(B)
heißt bedingte Wahrscheinlichkeit von A unter der Bedingung B.
Wladimir Fridman
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Bedingte Wahrscheinlichkeit
Definition
Seien A und B Ereignisse und Prob(B) 6= 0.
Prob(A|B) Prob(A ∩ B)
Prob(B)
heißt bedingte Wahrscheinlichkeit von A unter der Bedingung B.
Interpretation: Wahrscheinlichkeit für das Eintreten des Ereignisses A,
unter der Annahme, dass das Ereignis B bereits eingetreten ist
Wladimir Fridman
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Bedingte Wahrscheinlichkeit
Beispiel
Fairer Würfel:
Wladimir Fridman
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Bedingte Wahrscheinlichkeit
Beispiel
Fairer Würfel:
Ω = {1, 2, 3, 4, 5, 6}
Wladimir Fridman
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Bedingte Wahrscheinlichkeit
Beispiel
Fairer Würfel:
Ω = {1, 2, 3, 4, 5, 6}
Seien A, B ∈ Pot(Ω) Ereignisse
Wladimir Fridman
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Bedingte Wahrscheinlichkeit
Beispiel
Fairer Würfel:
Ω = {1, 2, 3, 4, 5, 6}
Seien A, B ∈ Pot(Ω) Ereignisse
A = {2} (die 2 wird gewürfelt)
B = {2, 4, 6} (die gewürfelte Nummer ist gerade)
Wladimir Fridman
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Bedingte Wahrscheinlichkeit
Beispiel
Fairer Würfel:
Ω = {1, 2, 3, 4, 5, 6}
Seien A, B ∈ Pot(Ω) Ereignisse
A = {2} (die 2 wird gewürfelt)
B = {2, 4, 6} (die gewürfelte Nummer ist gerade)
dann ist Prob(A|B) =
1
3
und Prob(B|A) = 1
Wladimir Fridman
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Stochastische Unabhängigkeit
Definition
Zwei Ereignisse A und B heißen stochastisch unabhängig, falls
Prob(A|B) = Prob(A).
Wladimir Fridman
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Stochastische Unabhängigkeit
Definition
Zwei Ereignisse A und B heißen stochastisch unabhängig, falls
Prob(A|B) = Prob(A).
(⇔ Prob(A ∩ B) = Prob(A) · Prob(B))
Wladimir Fridman
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Stochastische Unabhängigkeit
Definition
Zwei Ereignisse A und B heißen stochastisch unabhängig, falls
Prob(A|B) = Prob(A).
(⇔ Prob(A ∩ B) = Prob(A) · Prob(B))
Ereignisse A1 , . . . , An heißen gemeinsam stochastisch unabhängig,
falls
Prob(Ai1 ∩ . . . ∩ Aik ) = Prob(Ai1 ) · . . . · Prob(Aik )
für beliebige 1 ≤ i1 < . . . < ik ≤ n
Wladimir Fridman
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Stochastische Unabhängigkeit
Definition
Zwei Ereignisse A und B heißen stochastisch unabhängig, falls
Prob(A|B) = Prob(A).
(⇔ Prob(A ∩ B) = Prob(A) · Prob(B))
Ereignisse A1 , . . . , An heißen gemeinsam stochastisch unabhängig,
falls
Prob(Ai1 ∩ . . . ∩ Aik ) = Prob(Ai1 ) · . . . · Prob(Aik )
für beliebige 1 ≤ i1 < . . . < ik ≤ n
Anmerkung: aus paarweiser stochastischer Unabhängigkeit folgt nicht die
gemeinsame stochastische Unabhängigkeit.
Wladimir Fridman
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Zufallsvariable
Definition
Eine Zufallsvariable ist eine auf dem Wahrscheinlichkeitsraum
definierte Funktion
X : Ω → S,
Wladimir Fridman
wobei S ⊆ R.
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Zufallsvariable
Definition
Eine Zufallsvariable ist eine auf dem Wahrscheinlichkeitsraum
definierte Funktion
X : Ω → S,
wobei S ⊆ R.
die Verteilung einer ZV ist eine Funktion
f : S → [0, 1],
definiert als f (i) Prob(X = i),
Wladimir Fridman
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Zufallsvariable
Definition
Eine Zufallsvariable ist eine auf dem Wahrscheinlichkeitsraum
definierte Funktion
X : Ω → S,
wobei S ⊆ R.
die Verteilung einer ZV ist eine Funktion
f : S → [0, 1],
definiert als f (i) Prob(X = i),
Prob(X = i) bezeichne die Wahrscheinlichkeit des Ereignisses
A = {x ∈ Ω : X (x) = i}
Wladimir Fridman
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Zufallsvariable
Beispiel
n-facher Münzwurf (Würfe unabhängig voneinander):
Wladimir Fridman
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Zufallsvariable
Beispiel
n-facher Münzwurf (Würfe unabhängig voneinander):
sei p die Wahrscheinlichkeit für das Auftreten von Kopf
Wladimir Fridman
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Zufallsvariable
Beispiel
n-facher Münzwurf (Würfe unabhängig voneinander):
sei p die Wahrscheinlichkeit für das Auftreten von Kopf
Ω = {(x1 , . . . , xn )|xi ∈ {0, 1}}, wobei xi = 1, falls Kopf fällt, xi = 0
andernfalls
Wladimir Fridman
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Zufallsvariable
Beispiel
n-facher Münzwurf (Würfe unabhängig voneinander):
sei p die Wahrscheinlichkeit für das Auftreten von Kopf
Ω = {(x1 , . . . , xn )|xi ∈ {0, 1}}, wobei xi = 1, falls Kopf fällt, xi = 0
andernfalls
Die ZufallsvariableP
X sei die Anzahl des Auftretens von Kopf, also
n
X ((x1 , . . . , xn )) = i=1 xi
Wladimir Fridman
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Zufallsvariable
Beispiel
n-facher Münzwurf (Würfe unabhängig voneinander):
sei p die Wahrscheinlichkeit für das Auftreten von Kopf
Ω = {(x1 , . . . , xn )|xi ∈ {0, 1}}, wobei xi = 1, falls Kopf fällt, xi = 0
andernfalls
Die ZufallsvariableP
X sei die Anzahl des Auftretens von Kopf, also
n
X ((x1 , . . . , xn )) = i=1 xi
Die Verteilung von X ist Prob(X = k) = kn p k (1 − p)n−k .
Wladimir Fridman
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Zufallsvariable
Beispiel
n-facher Münzwurf (Würfe unabhängig voneinander):
sei p die Wahrscheinlichkeit für das Auftreten von Kopf
Ω = {(x1 , . . . , xn )|xi ∈ {0, 1}}, wobei xi = 1, falls Kopf fällt, xi = 0
andernfalls
Die ZufallsvariableP
X sei die Anzahl des Auftretens von Kopf, also
n
X ((x1 , . . . , xn )) = i=1 xi
Die Verteilung von X ist Prob(X = k) = kn p k (1 − p)n−k .
X ist binomialverteilt mit Parametern n ∈ N und p ∈ [0, 1].
Wladimir Fridman
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Erwartungswert
Definition
Der Erwartungswert einer Zufallsvariable X ist definiert durch:
E [X ] ∞
X
xi · Prob(X = xi )
i=1
Wladimir Fridman
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Erwartungswert
Definition
Der Erwartungswert einer Zufallsvariable X ist definiert durch:
E [X ] ∞
X
xi · Prob(X = xi )
i=1
Seien X1 , . . . , Xn Zufallsvariablen und a ∈ R, dann gilt:
E [aX ] = aE [X ]
Wladimir Fridman
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Erwartungswert
Definition
Der Erwartungswert einer Zufallsvariable X ist definiert durch:
E [X ] ∞
X
xi · Prob(X = xi )
i=1
Seien X1 , . . . , Xn Zufallsvariablen und a ∈ R, dann gilt:
E [aX ] = aE [X ]
(Linearität)
E [X1 + X2 + . . . + Xn ] = E [X1 ] + E [X2 ] + . . . + E [Xn ]
Wladimir Fridman
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Erwartungswert
Definition
Der Erwartungswert einer Zufallsvariable X ist definiert durch:
E [X ] ∞
X
xi · Prob(X = xi )
i=1
Seien X1 , . . . , Xn Zufallsvariablen und a ∈ R, dann gilt:
E [aX ] = aE [X ]
(Linearität)
E [X1 + X2 + . . . + Xn ] = E [X1 ] + E [X2 ] + . . . + E [Xn ]
falls X1 , . . . , Xn auch gemeinsam unabhängig,
E [X1 · X2 · . . . · Xn ] = E [X1 ] · E [X2 ] · . . . · E [Xn ]
Wladimir Fridman
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Varianz
Definition
Die Varianz einer ZV X ist definiert durch:
Var [X ] E [(X − E [X ])2 ]
Wladimir Fridman
/ = E [X 2 ] − (E [X ])2 /
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Varianz
Definition
Die Varianz einer ZV X ist definiert durch:
Var [X ] E [(X − E [X ])2 ]
/ = E [X 2 ] − (E [X ])2 /
Seien X und Y Zufallsvariablen und a ∈ R, dann gilt:
Var [aX ] = a2 Var [X ]
Wladimir Fridman
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Varianz
Definition
Die Varianz einer ZV X ist definiert durch:
Var [X ] E [(X − E [X ])2 ]
/ = E [X 2 ] − (E [X ])2 /
Seien X und Y Zufallsvariablen und a ∈ R, dann gilt:
Var [aX ] = a2 Var [X ]
falls X und Y stochastisch unabhängig,
Var [X + Y ] = Var [X ] + Var [Y ]
Wladimir Fridman
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Erwartungswert, Varianz
Beispiel
Binomialverteilung: Sei X binomialverteilt, dann ist
und
Var [X ] = np(1 − p)
Wladimir Fridman
Die Probabilistische Methode
E [X ] = np
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Erwartungswert, Varianz
Beispiel
Binomialverteilung: Sei X binomialverteilt, dann ist
E [X ] = np
und
Var [X ] = np(1 − p)
E [X ]
Wladimir Fridman
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Erwartungswert, Varianz
Beispiel
Binomialverteilung: Sei X binomialverteilt, dann ist
E [X ] = np
Var [X ] = np(1 − p)
" n
#
X
E [X ] = E
Xi
und
i=1
Wladimir Fridman
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Erwartungswert, Varianz
Beispiel
Binomialverteilung: Sei X binomialverteilt, dann ist
und Var [X ] = np(1 − p)
" n
#
n
X
X
E [X ] = E
Xi =
E [Xi ]
E [X ] = np
i=1
Wladimir Fridman
i=1
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Erwartungswert, Varianz
Beispiel
Binomialverteilung: Sei X binomialverteilt, dann ist
und Var [X ] = np(1 − p)
" n
#
n
n
X
X
X
E [X ] = E
Xi =
E [Xi ] =
p
E [X ] = np
i=1
Wladimir Fridman
i=1
i=1
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Erwartungswert, Varianz
Beispiel
Binomialverteilung: Sei X binomialverteilt, dann ist
E [X ] = np
und Var [X ] = np(1 − p)
" n
#
n
n
X
X
X
E [X ] = E
Xi =
E [Xi ] =
p = np
i=1
Wladimir Fridman
i=1
i=1
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Erwartungswert, Varianz
Beispiel
Binomialverteilung: Sei X binomialverteilt, dann ist
E [X ] = np
und
Var [X ] = np(1 − p)
Var [X ]
Wladimir Fridman
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Erwartungswert, Varianz
Beispiel
Binomialverteilung: Sei X binomialverteilt, dann ist
E [X ] = np
und
Var [X ] = np(1 − p)
"
Var [X ]
= Var
n
X
#
Xi
i=1
Wladimir Fridman
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Erwartungswert, Varianz
Beispiel
Binomialverteilung: Sei X binomialverteilt, dann ist
E [X ] = np
und
"
Var [X ]
= Var
Var [X ] = np(1 − p)
n
X
i=1
Wladimir Fridman
#
Xi
=
n
X
Var [Xi ]
i=1
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Erwartungswert, Varianz
Beispiel
Binomialverteilung: Sei X binomialverteilt, dann ist
E [X ] = np
"
Var [X ]
= Var
n
X
i=1
und
#
Xi
=
n
X
i=1
Wladimir Fridman
Var [X ] = np(1 − p)
Var [Xi ] =
n
X
(E [Xi 2 ] − (E [Xi ])2 )
i=1
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Erwartungswert, Varianz
Beispiel
Binomialverteilung: Sei X binomialverteilt, dann ist
E [X ] = np
"
Var [X ]
= Var
n
X
und
#
Xi
i=1
=
n
X
=
n
X
i=1
Var [X ] = np(1 − p)
Var [Xi ] =
n
X
(E [Xi 2 ] − (E [Xi ])2 )
i=1
(p − p 2 )
i=1
Wladimir Fridman
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Erwartungswert, Varianz
Beispiel
Binomialverteilung: Sei X binomialverteilt, dann ist
E [X ] = np
"
Var [X ]
= Var
n
X
#
Xi
=
i=1
=
n
X
i=1
Var [X ] = np(1 − p)
und
(p − p 2 ) =
n
X
Var [Xi ] =
i=1
n
X
n
X
(E [Xi 2 ] − (E [Xi ])2 )
i=1
p(1 − p)
i=1
Wladimir Fridman
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Erwartungswert, Varianz
Beispiel
Binomialverteilung: Sei X binomialverteilt, dann ist
E [X ] = np
"
Var [X ]
= Var
n
X
#
Xi
=
i=1
=
n
X
i=1
Var [X ] = np(1 − p)
und
(p − p 2 ) =
n
X
i=1
n
X
Var [Xi ] =
n
X
(E [Xi 2 ] − (E [Xi ])2 )
i=1
p(1 − p) = np(1 − p)
i=1
Wladimir Fridman
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Markov-Ungleichung
Tschebyscheff-Ungleichung
Chernoff-Ungleichungen
Inhalt
1
Probabilistische Methode
2
Stochastische Grundlagen
3
Werkzeuge
Markov-Ungleichung
Tschebyscheff-Ungleichung
Chernoff-Ungleichungen
4
First Moment Method: k-SAT
5
Zusammenfassung
Wladimir Fridman
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Markov-Ungleichung
Tschebyscheff-Ungleichung
Chernoff-Ungleichungen
Inhalt
1
Probabilistische Methode
2
Stochastische Grundlagen
3
Werkzeuge
Markov-Ungleichung
Tschebyscheff-Ungleichung
Chernoff-Ungleichungen
4
First Moment Method: k-SAT
5
Zusammenfassung
Wladimir Fridman
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Markov-Ungleichung
Tschebyscheff-Ungleichung
Chernoff-Ungleichungen
Markov-Ungleichung
Markov-Ungleichung
Sei X : Ω → R+ eine nicht-negative Zufallsvariable und λ ∈ R+ , dann
gilt:
E [X ]
Prob(X ≥ λ) ≤
.
λ
Wladimir Fridman
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Markov-Ungleichung
Tschebyscheff-Ungleichung
Chernoff-Ungleichungen
Markov-Ungleichung
Markov-Ungleichung
Sei X : Ω → R+ eine nicht-negative Zufallsvariable und λ ∈ R+ , dann
gilt:
E [X ]
Prob(X ≥ λ) ≤
.
λ
Beweis.
E [X ]
Wladimir Fridman
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Markov-Ungleichung
Tschebyscheff-Ungleichung
Chernoff-Ungleichungen
Markov-Ungleichung
Markov-Ungleichung
Sei X : Ω → R+ eine nicht-negative Zufallsvariable und λ ∈ R+ , dann
gilt:
E [X ]
Prob(X ≥ λ) ≤
.
λ
Beweis.
E [X ] =
X
x · Prob(X = x)
x
Wladimir Fridman
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Markov-Ungleichung
Tschebyscheff-Ungleichung
Chernoff-Ungleichungen
Markov-Ungleichung
Markov-Ungleichung
Sei X : Ω → R+ eine nicht-negative Zufallsvariable und λ ∈ R+ , dann
gilt:
E [X ]
Prob(X ≥ λ) ≤
.
λ
Beweis.
E [X ] =
X
x · Prob(X = x) ≥
x
X
λ · Prob(X = x)
x≥λ
Wladimir Fridman
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Markov-Ungleichung
Tschebyscheff-Ungleichung
Chernoff-Ungleichungen
Markov-Ungleichung
Markov-Ungleichung
Sei X : Ω → R+ eine nicht-negative Zufallsvariable und λ ∈ R+ , dann
gilt:
E [X ]
Prob(X ≥ λ) ≤
.
λ
Beweis.
E [X ] =
X
x
x · Prob(X = x) ≥
X
λ · Prob(X = x) = λ · Prob(X ≥ λ)
x≥λ
Wladimir Fridman
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Markov-Ungleichung
Tschebyscheff-Ungleichung
Chernoff-Ungleichungen
Inhalt
1
Probabilistische Methode
2
Stochastische Grundlagen
3
Werkzeuge
Markov-Ungleichung
Tschebyscheff-Ungleichung
Chernoff-Ungleichungen
4
First Moment Method: k-SAT
5
Zusammenfassung
Wladimir Fridman
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Markov-Ungleichung
Tschebyscheff-Ungleichung
Chernoff-Ungleichungen
Tschebyscheff-Ungleichung
Tschebyscheff-Ungleichung
Sei X eine Zufallsvariable mit Var [X ] < ∞ und λ ∈ R+ , dann gilt
Prob(|X − E [X ]| ≥ λ) ≤
Wladimir Fridman
Var [X ]
λ2
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Markov-Ungleichung
Tschebyscheff-Ungleichung
Chernoff-Ungleichungen
Tschebyscheff-Ungleichung
Tschebyscheff-Ungleichung
Sei X eine Zufallsvariable mit Var [X ] < ∞ und λ ∈ R+ , dann gilt
Prob(|X − E [X ]| ≥ λ) ≤
Var [X ]
λ2
Anmerkung: obere Schranke für die Wahrscheinlichkeit, dass die
Zufallsvariable von ihrem Erwartungswert um mehr als λ abweicht.
Wladimir Fridman
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Markov-Ungleichung
Tschebyscheff-Ungleichung
Chernoff-Ungleichungen
Tschebyscheff-Ungleichung
Beweis.
Mit der Markov-Ungleichung folgt:
Prob(|X − E [X ]| ≥ λ)
=
≤
=
Wladimir Fridman
Var [X ]
λ2
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Markov-Ungleichung
Tschebyscheff-Ungleichung
Chernoff-Ungleichungen
Tschebyscheff-Ungleichung
Beweis.
Mit der Markov-Ungleichung folgt:
Prob(|X − E [X ]| ≥ λ)
= Prob((X − E [X ])2 ≥ λ2 )
≤
Var [X ]
=
λ2
Wladimir Fridman
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Markov-Ungleichung
Tschebyscheff-Ungleichung
Chernoff-Ungleichungen
Tschebyscheff-Ungleichung
Beweis.
Mit der Markov-Ungleichung folgt:
Prob(|X − E [X ]| ≥ λ)
= Prob((X − E [X ])2 ≥ λ2 )
E [(X − E [X ])2 ]
≤
λ2
Var [X ]
=
λ2
Wladimir Fridman
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Markov-Ungleichung
Tschebyscheff-Ungleichung
Chernoff-Ungleichungen
Tschebyscheff-Ungleichung
Beweis.
Mit der Markov-Ungleichung folgt:
Prob(|X − E [X ]| ≥ λ)
= Prob((X − E [X ])2 ≥ λ2 )
E [(X − E [X ])2 ]
≤
λ2
Var [X ]
=
λ2
Anmerkung: Markov-Ungleichung darf hier angewendet werden, denn
|X − E [X ]| und damit auch |X − E [X ]|2 nicht negativ.
Wladimir Fridman
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Markov-Ungleichung
Tschebyscheff-Ungleichung
Chernoff-Ungleichungen
Inhalt
1
Probabilistische Methode
2
Stochastische Grundlagen
3
Werkzeuge
Markov-Ungleichung
Tschebyscheff-Ungleichung
Chernoff-Ungleichungen
4
First Moment Method: k-SAT
5
Zusammenfassung
Wladimir Fridman
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Markov-Ungleichung
Tschebyscheff-Ungleichung
Chernoff-Ungleichungen
Chernoff-Ungleichungen
Chernoff-Ungleichungen
Spezialfälle der Markov-Ungleichungen
größerer Informationsgehalt
angewandt auf Summen von ZV Xi
Wladimir Fridman
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Markov-Ungleichung
Tschebyscheff-Ungleichung
Chernoff-Ungleichungen
Chernoff-Ungleichungen
Ungleichung 1
Seien X1 , . . . , Xn n unabhängige Zufallsvariablen, mit
Prob(Xi = 1) = Prob(Xi = −1) =
für i = 1, . . . , n, und
X =
n
X
1
2
Xi ,
i=1
Wladimir Fridman
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Markov-Ungleichung
Tschebyscheff-Ungleichung
Chernoff-Ungleichungen
Chernoff-Ungleichungen
Ungleichung 1
Seien X1 , . . . , Xn n unabhängige Zufallsvariablen, mit
Prob(Xi = 1) = Prob(Xi = −1) =
für i = 1, . . . , n, und
X =
n
X
1
2
Xi ,
i=1
dann gilt für jedes λ > 0
2
Prob(X ≥ λ) ≤ e −λ
Wladimir Fridman
/2n
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Markov-Ungleichung
Tschebyscheff-Ungleichung
Chernoff-Ungleichungen
Beweis: Chernoff-Ungleichung 1
Beweis.
Es gilt:
Prob(X ≥ λ) = Prob(e tX ≥ e tλ ) ≤
E [e tX ]
.
e tλ
für ein beliebiges t ≥ 0
Wladimir Fridman
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Markov-Ungleichung
Tschebyscheff-Ungleichung
Chernoff-Ungleichungen
Beweis: Chernoff-Ungleichung 1
Beweis.
Es gilt:
Prob(X ≥ λ) |{z}
= Prob(e tX ≥ e tλ ) ≤
E [e tX ]
.
e tλ
(1)
für ein beliebiges t ≥ 0
(1) gilt, da exp(·) die Ordnung beibehält
Wladimir Fridman
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Markov-Ungleichung
Tschebyscheff-Ungleichung
Chernoff-Ungleichungen
Beweis: Chernoff-Ungleichung 1
Beweis.
Es gilt:
E [e tX ]
Prob(X ≥ λ) |{z}
= Prob(e tX ≥ e tλ ) ≤
.
|{z} e tλ
(1)
(2)
für ein beliebiges t ≥ 0
(1) gilt, da exp(·) die Ordnung beibehält
(2) wegen Markov-Ungleichung
Wladimir Fridman
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Markov-Ungleichung
Tschebyscheff-Ungleichung
Chernoff-Ungleichungen
Beweis: Chernoff-Ungleichung 1
Prob(X ≥ λ) ≤
Wladimir Fridman
E [e tX ]
e tλ
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Markov-Ungleichung
Tschebyscheff-Ungleichung
Chernoff-Ungleichungen
Beweis: Chernoff-Ungleichung 1
Prob(X ≥ λ) ≤
Wladimir Fridman
E [e tX ]
e tλ
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Markov-Ungleichung
Tschebyscheff-Ungleichung
Chernoff-Ungleichungen
Beweis: Chernoff-Ungleichung 1
Prob(X ≥ λ) ≤
E [e tX ]
e tλ
Beweis.
E [e tXi ]
Wladimir Fridman
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Markov-Ungleichung
Tschebyscheff-Ungleichung
Chernoff-Ungleichungen
Beweis: Chernoff-Ungleichung 1
Prob(X ≥ λ) ≤
E [e tX ]
e tλ
Beweis.
E [e tXi ]
=
Wladimir Fridman
1 t 1 −t
e + e
2
2
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Markov-Ungleichung
Tschebyscheff-Ungleichung
Chernoff-Ungleichungen
Beweis: Chernoff-Ungleichung 1
Prob(X ≥ λ) ≤
E [e tX ]
e tλ
Beweis.
E [e tXi ]
=
=
1 t 1 −t
e + e
2
2
Wegen der Taylor − Entwicklung von e folgt :
1
t
t2
1
t
t2
t3
1+
+
+ ··· +
1−
+
−
+ ···
2
1! 2!
2
1! 2! 3!
Wladimir Fridman
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Markov-Ungleichung
Tschebyscheff-Ungleichung
Chernoff-Ungleichungen
Beweis: Chernoff-Ungleichung 1
Prob(X ≥ λ) ≤
E [e tX ]
e tλ
Beweis.
E [e tXi ]
=
=
=
1 t 1 −t
e + e
2
2
Wegen der Taylor − Entwicklung von e folgt :
t2
1
t2
t3
1
t
t
+
+ ··· +
+
−
+ ···
1+
1−
2
1! 2!
2
1! 2! 3!
2
2k
t
t
1+0+
+ 0 + ··· +
+ ···
2!
(2k)!
Wladimir Fridman
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Markov-Ungleichung
Tschebyscheff-Ungleichung
Chernoff-Ungleichungen
Beweis: Chernoff-Ungleichung 1
Prob(X ≥ λ) ≤
E [e tX ]
e tλ
Beweis.
E [e tXi ]
=
=
=
1 t 1 −t
e + e
2
2
Wegen der Taylor − Entwicklung von e folgt :
t2
1
t2
t3
1
t
t
+
+ ··· +
+
−
+ ···
1+
1−
2
1! 2!
2
1! 2! 3!
X
∞
2
2k
t
t
t 2i
1+0+
+ 0 + ··· +
+ ··· =
2!
(2k)!
(2i)!
i=0
Wladimir Fridman
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Markov-Ungleichung
Tschebyscheff-Ungleichung
Chernoff-Ungleichungen
Beweis: Chernoff-Ungleichung 1
Prob(X ≥ λ) ≤
E [e tX ]
e tλ
Beweis.
E [e
tXi
]
∞
X
t 2i
=
(2i)!
i=0
Wladimir Fridman
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Markov-Ungleichung
Tschebyscheff-Ungleichung
Chernoff-Ungleichungen
Beweis: Chernoff-Ungleichung 1
Prob(X ≥ λ) ≤
E [e tX ]
e tλ
Beweis.
E [e
tXi
]
=
≤
∞
X
t 2i
(2i)!
i=0
∞
X
i=0
Wladimir Fridman
t 2i
2i (i!)
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Markov-Ungleichung
Tschebyscheff-Ungleichung
Chernoff-Ungleichungen
Beweis: Chernoff-Ungleichung 1
Prob(X ≥ λ) ≤
E [e tX ]
e tλ
Beweis.
E [e
tXi
]
=
≤
|{z}
(∗)
∞
X
t 2i
(2i)!
i=0
∞
X
i=0
t 2i
2i (i!)
(∗) Wegen (2k)! ≥ (k!)2k
Wladimir Fridman
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Markov-Ungleichung
Tschebyscheff-Ungleichung
Chernoff-Ungleichungen
Beweis: Chernoff-Ungleichung 1
Prob(X ≥ λ) ≤
E [e tX ]
e tλ
Beweis.
E [e
tXi
]
=
≤
|{z}
(∗)
∞
X
t 2i
(2i)!
i=0
∞
X
i=0
∞
X (t 2 /2)i
t 2i
=
2i (i!)
i!
i=0
(∗) Wegen (2k)! ≥ (k!)2k
Wladimir Fridman
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Markov-Ungleichung
Tschebyscheff-Ungleichung
Chernoff-Ungleichungen
Beweis: Chernoff-Ungleichung 1
Prob(X ≥ λ) ≤
E [e tX ]
e tλ
Beweis.
E [e
tXi
]
=
≤
|{z}
(∗)
∞
X
t 2i
(2i)!
i=0
∞
X
i=0
∞
X (t 2 /2)i
2
t 2i
=
= e t /2
i
2 (i!)
i!
i=0
(∗) Wegen (2k)! ≥ (k!)2k
Wladimir Fridman
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Markov-Ungleichung
Tschebyscheff-Ungleichung
Chernoff-Ungleichungen
Beweis: Chernoff-Ungleichung 1
Prob(X ≥ λ) ≤
E [e tX ]
,
e tλ
E [e tXi ] ≤ e t
2 /2
Beweis.
E [e
tXi
]
=
≤
|{z}
(∗)
∞
X
t 2i
(2i)!
i=0
∞
X
i=0
∞
X (t 2 /2)i
2
t 2i
=
= e t /2
i
2 (i!)
i!
i=0
(∗) Wegen (2k)! ≥ (k!)2k
Wladimir Fridman
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Markov-Ungleichung
Tschebyscheff-Ungleichung
Chernoff-Ungleichungen
Beweis: Chernoff-Ungleichung 1
Prob(X ≥ λ) ≤
E [e tX ]
,
e tλ
E [e tXi ] ≤ e t
2 /2
Beweis.
E [e tX ]
Wladimir Fridman
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Markov-Ungleichung
Tschebyscheff-Ungleichung
Chernoff-Ungleichungen
Beweis: Chernoff-Ungleichung 1
Prob(X ≥ λ) ≤
E [e tX ]
,
e tλ
E [e tXi ] ≤ e t
2 /2
Beweis.
E [e tX ]
h Pn
i
= E e (t i=1 Xi )
Wladimir Fridman
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Markov-Ungleichung
Tschebyscheff-Ungleichung
Chernoff-Ungleichungen
Beweis: Chernoff-Ungleichung 1
Prob(X ≥ λ) ≤
E [e tX ]
,
e tλ
E [e tXi ] ≤ e t
2 /2
Beweis.
tX
E [e ]
h
= E e (t
Pn
i=1
Xi )
i
"
=E
n
Y
#
e
tXi
i=1
Wladimir Fridman
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Markov-Ungleichung
Tschebyscheff-Ungleichung
Chernoff-Ungleichungen
Beweis: Chernoff-Ungleichung 1
Prob(X ≥ λ) ≤
E [e tX ]
,
e tλ
E [e tXi ] ≤ e t
2 /2
Beweis.
tX
E [e ]
h
= E e (t
Pn
i=1
Xi )
i
"
=E
n
Y
i=1
Wladimir Fridman
#
e
tXi
=
n
Y
i=1
Die Probabilistische Methode
E [e tXi ]
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Markov-Ungleichung
Tschebyscheff-Ungleichung
Chernoff-Ungleichungen
Beweis: Chernoff-Ungleichung 1
Prob(X ≥ λ) ≤
E [e tX ]
,
e tλ
E [e tXi ] ≤ e t
2 /2
Beweis.
tX
E [e ]
h
= E e (t
Pn
i=1
Xi )
i
"
=E
n
Y
i=1
#
e
tXi
=
|{z}
(∗)
n
Y
i=1
(∗) Wegen der Unabhängigkeit der Xi :
Wladimir Fridman
Die Probabilistische Methode
E [e tXi ]
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Markov-Ungleichung
Tschebyscheff-Ungleichung
Chernoff-Ungleichungen
Beweis: Chernoff-Ungleichung 1
Prob(X ≥ λ) ≤
E [e tX ]
,
e tλ
E [e tXi ] ≤ e t
2 /2
Beweis.
tX
E [e ]
h
= E e (t
Pn
i=1
Xi )
i
"
=E
n
Y
i=1
≤
n
Y
et
2
#
e
tXi
=
|{z}
(∗)
n
Y
i=1
/2
i=1
(∗) Wegen der Unabhängigkeit der Xi :
Wladimir Fridman
Die Probabilistische Methode
E [e tXi ]
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Markov-Ungleichung
Tschebyscheff-Ungleichung
Chernoff-Ungleichungen
Beweis: Chernoff-Ungleichung 1
Prob(X ≥ λ) ≤
E [e tX ]
,
e tλ
E [e tXi ] ≤ e t
2 /2
Beweis.
tX
E [e ]
h
= E e (t
Pn
i=1
Xi )
i
"
=E
n
Y
i=1
≤
n
Y
et
2
/2
= e nt
2
#
e
tXi
=
|{z}
(∗)
n
Y
i=1
/2
i=1
(∗) Wegen der Unabhängigkeit der Xi :
Wladimir Fridman
Die Probabilistische Methode
E [e tXi ]
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Markov-Ungleichung
Tschebyscheff-Ungleichung
Chernoff-Ungleichungen
Beweis: Chernoff-Ungleichung 1
2
Prob(X ≥ λ) ≤
E [e tX ]
e nt /2
≤
e tλ
e tλ
Beweis.
tX
E [e ]
h
= E e (t
Pn
i=1 Xi )
i
"
=E
n
Y
i=1
≤
n
Y
et
2
/2
= e nt
2
#
e
tXi
=
|{z}
(∗)
n
Y
i=1
/2
i=1
(∗) Wegen der Unabhängigkeit der Xi
Wladimir Fridman
Die Probabilistische Methode
E [e tXi ]
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Markov-Ungleichung
Tschebyscheff-Ungleichung
Chernoff-Ungleichungen
Beweis: Chernoff-Ungleichung 1
2
Prob(X ≥ λ) ≤
E [e tX ]
e nt /2
2
≤
= e nt /2−tλ
tλ
tλ
e
e
Beweis.
tX
E [e ]
h
= E e (t
Pn
i=1 Xi )
i
"
=E
n
Y
i=1
≤
n
Y
et
2
/2
= e nt
2
#
e
tXi
=
|{z}
(∗)
n
Y
i=1
/2
i=1
(∗) Wegen der Unabhängigkeit der Xi
Wladimir Fridman
Die Probabilistische Methode
E [e tXi ]
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Markov-Ungleichung
Tschebyscheff-Ungleichung
Chernoff-Ungleichungen
Beweis: Chernoff-Ungleichung 1
Prob(X ≥ λ) ≤ e nt
2 /2−tλ
Beweis.
Für t = λ/n nimmt e nt
2
/2−tλ
den kleinsten Wert an
setze also t = λ/n:
Wladimir Fridman
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Markov-Ungleichung
Tschebyscheff-Ungleichung
Chernoff-Ungleichungen
Beweis: Chernoff-Ungleichung 1
Prob(X ≥ λ) ≤ e nt
2 /2−tλ
Beweis.
Für t = λ/n nimmt e nt
2
/2−tλ
den kleinsten Wert an
setze also t = λ/n:
Prob(X ≥ λ) ≤ e
Wladimir Fridman
n
2
2
( λn )
−λ
nλ
2
= e −λ
/2n
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Markov-Ungleichung
Tschebyscheff-Ungleichung
Chernoff-Ungleichungen
Chernoff-Ungleichungen
Ungleichung 2
Seien X1 ,. . . ,Xn n unabhängige Indikatorvariablen
Wladimir Fridman
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Markov-Ungleichung
Tschebyscheff-Ungleichung
Chernoff-Ungleichungen
Chernoff-Ungleichungen
Ungleichung 2
Seien X1 ,. . . ,Xn n unabhängige Indikatorvariablen
Prob(Xi = 1) = p und Prob(Xi = 0) = 1 − p
für i = 1,. . . ,n und 0 < p < 1,
Wladimir Fridman
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Markov-Ungleichung
Tschebyscheff-Ungleichung
Chernoff-Ungleichungen
Chernoff-Ungleichungen
Ungleichung 2
Seien X1 ,. . . ,Xn n unabhängige Indikatorvariablen
Prob(Xi = 1) = p und Prob(Xi = 0) = 1 − p
für i = 1,. . . ,n und 0 < p < 1,
Pn
sei ZV X = i=1 Xi .
Wladimir Fridman
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Markov-Ungleichung
Tschebyscheff-Ungleichung
Chernoff-Ungleichungen
Chernoff-Ungleichungen
Ungleichung 2
Seien X1 ,. . . ,Xn n unabhängige Indikatorvariablen
Prob(Xi = 1) = p und Prob(Xi = 0) = 1 − p
für i = 1,. . . ,n und 0 < p < 1,
Pn
sei ZV X = i=1 Xi .
X ist also binomialverteilt X ∼ B(n, p) mit E [X ] = np.
Wladimir Fridman
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Markov-Ungleichung
Tschebyscheff-Ungleichung
Chernoff-Ungleichungen
Chernoff-Ungleichungen
Ungleichung 2
Seien X1 ,. . . ,Xn n unabhängige Indikatorvariablen
Prob(Xi = 1) = p und Prob(Xi = 0) = 1 − p
für i = 1,. . . ,n und 0 < p < 1,
Pn
sei ZV X = i=1 Xi .
X ist also binomialverteilt X ∼ B(n, p) mit E [X ] = np.
Dann gilt für jedes 0 < λ < 1:
2
Prob(X ≥ (1 + λ)np) ≤ e −npλ
2
Prob(X ≤ (1 − λ)np) ≤ e −npλ
Wladimir Fridman
/3
/2
(∗)
(∗∗)
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Markov-Ungleichung
Tschebyscheff-Ungleichung
Chernoff-Ungleichungen
Beweis: Chernoff-Ungleichung 2
Beweis.
Es gilt für ein beliebiges t ≥ 0:
Prob(X ≥ m) = Prob(e tX ≥ e tm ),
Prob(X ≤ m) = Prob(e −tX ≥ e −tm )
Wladimir Fridman
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Markov-Ungleichung
Tschebyscheff-Ungleichung
Chernoff-Ungleichungen
Beweis: Chernoff-Ungleichung 2
Beweis.
Es gilt für ein beliebiges t ≥ 0:
Prob(X ≥ m) = Prob(e tX ≥ e tm ) ≤
E [e tX ]
,
e tm
Prob(X ≤ m) = Prob(e −tX ≥ e −tm ) ≤
Wladimir Fridman
E [e −tX ]
e −tm
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Markov-Ungleichung
Tschebyscheff-Ungleichung
Chernoff-Ungleichungen
Beweis: Chernoff-Ungleichung 2
Beweis.
Es gilt für ein beliebiges t ≥ 0:
Prob(X ≥ m) = Prob(e tX ≥ e tm ) ≤
E [e tX ]
,
e tm
Prob(X ≤ m) = Prob(e −tX ≥ e −tm ) ≤
E [e −tX ]
e −tm
Ab hier Beweis für (∗) und (∗∗) analog!
Wladimir Fridman
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Markov-Ungleichung
Tschebyscheff-Ungleichung
Chernoff-Ungleichungen
Beweis: Chernoff-Ungleichung 2
Prob(X ≥ m) ≤
Wladimir Fridman
E [e tX ]
,
e tm
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Markov-Ungleichung
Tschebyscheff-Ungleichung
Chernoff-Ungleichungen
Beweis: Chernoff-Ungleichung 2
Prob(X ≥ m) ≤
Wladimir Fridman
E [e tX ]
,
e tm
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Markov-Ungleichung
Tschebyscheff-Ungleichung
Chernoff-Ungleichungen
Beweis: Chernoff-Ungleichung 2
Prob(X ≥ m) ≤
E [e tX ]
,
e tm
Beweis.
E [e tX ]
Wladimir Fridman
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Markov-Ungleichung
Tschebyscheff-Ungleichung
Chernoff-Ungleichungen
Beweis: Chernoff-Ungleichung 2
Prob(X ≥ m) ≤
E [e tX ]
,
e tm
Beweis.
E [e tX ]
h Pn
i
= E e (t i=1 Xi )
Wladimir Fridman
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Markov-Ungleichung
Tschebyscheff-Ungleichung
Chernoff-Ungleichungen
Beweis: Chernoff-Ungleichung 2
Prob(X ≥ m) ≤
E [e tX ]
,
e tm
Beweis.
tX
E [e ]
h
= E e (t
Pn
i=1
Xi )
i
"
=E
n
Y
#
e
tXi
i=1
Wladimir Fridman
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Markov-Ungleichung
Tschebyscheff-Ungleichung
Chernoff-Ungleichungen
Beweis: Chernoff-Ungleichung 2
Prob(X ≥ m) ≤
E [e tX ]
,
e tm
Beweis.
tX
E [e ]
h
= E e (t
Pn
i=1
Xi )
i
"
=E
n
Y
i=1
#
e
tXi
=
n
Y
i=1
Unabhängigkeit der Xi
Wladimir Fridman
Die Probabilistische Methode
E [e tXi ]
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Markov-Ungleichung
Tschebyscheff-Ungleichung
Chernoff-Ungleichungen
Beweis: Chernoff-Ungleichung 2
Prob(X ≥ m) ≤
E [e tX ]
,
e tm
Beweis.
tX
E [e ]
h
Pn
=
=
(pe t + 1 − p)n
i=1
Xi )
i
E e (t
"
=E
n
Y
i=1
#
e
tXi
=
n
Y
i=1
Unabhängigkeit der Xi
Wladimir Fridman
Die Probabilistische Methode
E [e tXi ]
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Markov-Ungleichung
Tschebyscheff-Ungleichung
Chernoff-Ungleichungen
Beweis: Chernoff-Ungleichung 2
Prob(X ≥ m) ≤
E [e tX ]
,
e tm
Beweis.
tX
E [e ]
h
Pn
"
n
Y
=
=
(pe t + 1 − p)n ≤ e pn(e
i=1
Xi )
i
E e (t
=E
#
e
i=1
t
tXi
=
n
Y
i=1
−1)
Unabhängigkeit der Xi
1 + a ≤ ea
Wladimir Fridman
Die Probabilistische Methode
E [e tXi ]
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Markov-Ungleichung
Tschebyscheff-Ungleichung
Chernoff-Ungleichungen
Beweis: Chernoff-Ungleichung 2
t
e pn(e −1)
Prob(X ≥ m) ≤
,
e tm
Wladimir Fridman
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Markov-Ungleichung
Tschebyscheff-Ungleichung
Chernoff-Ungleichungen
Beweis: Chernoff-Ungleichung 2
t
e pn(e −1)
,
Prob(X ≥ m) ≤
e tm
Beweis.
Setze t = ln(m/pn):
ln(m/pn)
Prob(X ≥ m) ≤
Wladimir Fridman
−1)
e pn(e
ln(m/pn)·m
e
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Markov-Ungleichung
Tschebyscheff-Ungleichung
Chernoff-Ungleichungen
Beweis: Chernoff-Ungleichung 2
t
e pn(e −1)
,
Prob(X ≥ m) ≤
e tm
Beweis.
Setze t = ln(m/pn):
ln(m/pn)
Prob(X ≥ m) ≤
np m
−1)
e pn(e
=
· e m−np
ln(m/pn)·m
m
e
Wladimir Fridman
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Markov-Ungleichung
Tschebyscheff-Ungleichung
Chernoff-Ungleichungen
Beweis: Chernoff-Ungleichung 2
Prob(X ≥ m) ≤
Wladimir Fridman
np m
m
· e m−np
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Markov-Ungleichung
Tschebyscheff-Ungleichung
Chernoff-Ungleichungen
Beweis: Chernoff-Ungleichung 2
Prob(X ≥ m) ≤
np m
m
· e m−np
Beweis.
Für m = (1 + λ)np:
Prob(X ≥ (1 + λ)np) ≤
Wladimir Fridman
np
(1 + λ)np
(1+λ)np
· e (1+λ)np−np
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Markov-Ungleichung
Tschebyscheff-Ungleichung
Chernoff-Ungleichungen
Beweis: Chernoff-Ungleichung 2
Prob(X ≥ m) ≤
np m
m
· e m−np
Beweis.
Für m = (1 + λ)np:
Prob(X ≥ (1 + λ)np)
(1+λ)np
np
(1 + λ)np
eλ
(1 + λ)(1+λ)
≤
=
Wladimir Fridman
· e (1+λ)np−np
np
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Markov-Ungleichung
Tschebyscheff-Ungleichung
Chernoff-Ungleichungen
Beweis: Chernoff-Ungleichung 2
Prob(X ≥ (1 + λ)np) ≤
Wladimir Fridman
eλ
(1 + λ)(1+λ)
np
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Markov-Ungleichung
Tschebyscheff-Ungleichung
Chernoff-Ungleichungen
Beweis: Chernoff-Ungleichung 2
Prob(X ≥ (1 + λ)np) ≤
eλ
(1 + λ)(1+λ)
np
Beweis.
Es gilt für 0 < λ < 1:
λ − ln((1 + λ)(1+λ) ) ≤ −λ2 /3
Wladimir Fridman
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Markov-Ungleichung
Tschebyscheff-Ungleichung
Chernoff-Ungleichungen
Beweis: Chernoff-Ungleichung 2
Prob(X ≥ (1 + λ)np) ≤
eλ
(1 + λ)(1+λ)
np
Beweis.
Es gilt für 0 < λ < 1:
λ − ln((1 + λ)(1+λ) ) ≤ −λ2 /3
⇒ Behauptung:
2
Prob(X ≥ (1 + λ)np) ≤ e −npλ
Wladimir Fridman
/3
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Inhalt
1
Probabilistische Methode
2
Stochastische Grundlagen
3
Werkzeuge
Markov-Ungleichung
Tschebyscheff-Ungleichung
Chernoff-Ungleichungen
4
First Moment Method: k-SAT
5
Zusammenfassung
Wladimir Fridman
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
First Moment Method
Definition
Für jede Zufallsvariable X bezeichnet man E [X k ] als das k-te Moment
von X
Wladimir Fridman
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
First Moment Method
Definition
Für jede Zufallsvariable X bezeichnet man E [X k ] als das k-te Moment
von X
Die First Moment Method benutzt die Größe E [X 1 ], also den
Erwartungswert.
Wladimir Fridman
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
First Moment Method
Definition
Für jede Zufallsvariable X bezeichnet man E [X k ] als das k-te Moment
von X
Die First Moment Method benutzt die Größe E [X 1 ], also den
Erwartungswert.
First Moment Method
Wenn E [X ] ≤ t, dann Prob(X ≤ t) > 0.
Wladimir Fridman
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
k-SAT
k-SAT
Eingabe: Boolesche Formel ϕ in KNF, so dass jede Klausel genau k
Literale hat.
Frage: gibt es eine Variablenbelegung, die ϕ erfüllt?
Wladimir Fridman
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
k-SAT
k-SAT
Eingabe: Boolesche Formel ϕ in KNF, so dass jede Klausel genau k
Literale hat.
Frage: gibt es eine Variablenbelegung, die ϕ erfüllt?
Beispiel
3-SAT Instanz:
ϕ = (x1 ∨ x3 ∨ x4 ) ∧ (x1 ∨ x2 ∨ x4 )
Wladimir Fridman
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
First Moment Method: k-SAT
Satz
Jede k-SAT Instanz ϕ mit weniger als 2k Klauseln ist erfüllbar.
Wladimir Fridman
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
First Moment Method: k-SAT
Satz
Jede k-SAT Instanz ϕ mit weniger als 2k Klauseln ist erfüllbar.
Beweis.
Zufällige Belegung: jede Variable von ϕ unabhängig von den
anderen und mit gleicher Wahrscheinlichkeit auf true oder false
Wladimir Fridman
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
First Moment Method: k-SAT
Satz
Jede k-SAT Instanz ϕ mit weniger als 2k Klauseln ist erfüllbar.
Beweis.
Zufällige Belegung: jede Variable von ϕ unabhängig von den
anderen und mit gleicher Wahrscheinlichkeit auf true oder false
Seien Xi Indikatorvariablen definiert wie folgt:
(
1 falls i-te Klausel nicht erfüllt
Xi =
0 falls i-te Klausel erfüllt
Wladimir Fridman
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
First Moment Method: k-SAT
Satz
Jede k-SAT Instanz ϕ mit weniger als 2k Klauseln ist erfüllbar.
Beweis.
Zufällige Belegung: jede Variable von ϕ unabhängig von den
anderen und mit gleicher Wahrscheinlichkeit auf true oder false
Seien Xi Indikatorvariablen definiert wie folgt:
(
1 falls i-te Klausel nicht erfüllt
Xi =
0 falls i-te Klausel erfüllt
für jede Klausel gibt es 2k Belegungen
Wladimir Fridman
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
First Moment Method: k-SAT
Satz
Jede k-SAT Instanz ϕ mit weniger als 2k Klauseln ist erfüllbar.
Beweis.
nur eine von 2k Belegungen erfüllt die Klausel nicht
Wladimir Fridman
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
First Moment Method: k-SAT
Satz
Jede k-SAT Instanz ϕ mit weniger als 2k Klauseln ist erfüllbar.
Beweis.
nur eine von 2k Belegungen erfüllt die Klausel nicht
Prob(Xi = 1) =
1
2k
Wladimir Fridman
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
First Moment Method: k-SAT
Satz
Jede k-SAT Instanz ϕ mit weniger als 2k Klauseln ist erfüllbar.
Beweis.
nur eine von 2k Belegungen erfüllt die Klausel nicht
Prob(Xi = 1) =
1
2k
Sei ZV X die Anzahl der unerfüllten Klauseln in ϕ, n die Anzahl der
Klauseln in ϕ:
n
X
X =
Xi
i=1
Wladimir Fridman
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
First Moment Method: k-SAT
Satz
Jede k-SAT Instanz ϕ mit weniger als 2k Klauseln ist erfüllbar.
Beweis.
E [X ] = E
Pn
i=1
Pn
Pn
Xi = i=1 E [Xi ] = i=1
Wladimir Fridman
1
2k
=
n
2k
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
First Moment Method: k-SAT
Satz
Jede k-SAT Instanz ϕ mit weniger als 2k Klauseln ist erfüllbar.
Beweis.
E [X ] = E
Pn
i=1
Pn
Pn
Xi = i=1 E [Xi ] = i=1
1
2k
=
n
2k
aus n < 2k folgt E [X ] < 1
Wladimir Fridman
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
First Moment Method: k-SAT
Satz
Jede k-SAT Instanz ϕ mit weniger als 2k Klauseln ist erfüllbar.
Beweis.
E [X ] = E
Pn
i=1
Pn
Pn
Xi = i=1 E [Xi ] = i=1
1
2k
=
n
2k
aus n < 2k folgt E [X ] < 1
dann ist Prob(X < 1) > 0 (First Moment Method)
Wladimir Fridman
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
First Moment Method: k-SAT
Satz
Jede k-SAT Instanz ϕ mit weniger als 2k Klauseln ist erfüllbar.
Beweis.
E [X ] = E
Pn
i=1
Pn
Pn
Xi = i=1 E [Xi ] = i=1
1
2k
=
n
2k
aus n < 2k folgt E [X ] < 1
dann ist Prob(X < 1) > 0 (First Moment Method)
⇒ Prob(X = 0) > 0
Wladimir Fridman
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
First Moment Method: k-SAT
Satz
Jede k-SAT Instanz ϕ mit weniger als 2k Klauseln ist erfüllbar.
Beweis.
E [X ] = E
Pn
i=1
Pn
Pn
Xi = i=1 E [Xi ] = i=1
1
2k
=
n
2k
aus n < 2k folgt E [X ] < 1
dann ist Prob(X < 1) > 0 (First Moment Method)
⇒ Prob(X = 0) > 0
also existiert eine Belegung, so dass die Anzahl der unerfüllten
Klauseln gleich 0, d.h. alle Klauseln sind erfüllt
Wladimir Fridman
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
First Moment Method: k-SAT
Satz
Jede k-SAT Instanz ϕ mit weniger als 2k Klauseln ist erfüllbar.
Beweis.
E [X ] = E
Pn
i=1
Pn
Pn
Xi = i=1 E [Xi ] = i=1
1
2k
=
n
2k
aus n < 2k folgt E [X ] < 1
dann ist Prob(X < 1) > 0 (First Moment Method)
⇒ Prob(X = 0) > 0
also existiert eine Belegung, so dass die Anzahl der unerfüllten
Klauseln gleich 0, d.h. alle Klauseln sind erfüllt
⇒ ϕ erfüllbar
Wladimir Fridman
Die Probabilistische Methode
Probabilistische Methode
Stochastische Grundlagen
Werkzeuge
First Moment Method: k-SAT
Zusammenfassung
Inhalt
1
Probabilistische Methode
2
Stochastische Grundlagen
3
Werkzeuge
Markov-Ungleichung
Tschebyscheff-Ungleichung
Chernoff-Ungleichungen
4
First Moment Method: k-SAT
5
Zusammenfassung
Wladimir Fridman
Die Probabilistische Methode