Komplexitätstheorie - LS1

Komplexitätstheorie
Teil E: Parametrisierte Komplexität
20: Die W- und die A-Hierarchie
Version von: 18. Juni 2015 (17:48)
Sommersemester 2015 - Thomas Schwentick
Inhalt
20.1 Parametrisierte Komplexitätstheorie
✄ 20.1.1 Exkurs: Beschreibungskomplexität
20.1.2 Die W-Hierarchie
20.1.3 Die A-Hierarchie
20.2 Beschränkte FPT-Algorithmen
Kompl.-Theorie / Schwentick / SoSe 15
E: 20. Die W- und die A-Hierarchie
. ✁✄
Folie 1
Exkurs: Beschreibungskomplexität (1/3)
• Ein Graph ist genau dann 3-färbbar wenn er folgende Formel erfüllt:
∃X1 , X2 , X3
∀x
[∀x, y
(1)
(X1 (x) ∨ X2 (x) ∨ X3 (x)) ∧
(X1 (x) ∧ X1 (y)) ∨ (X2 (x) ∧ X2 (y))
(2)
∨(X3 (x) ∧ X3 (y)) → ¬E(x,y)]
(3)
• Existenzielle Logik zweiter Stufe (ESO):
– Formeln der Art ψ = ∃X1 , . . . ,Xr ϕ
– Xi : Relationenvariablen, ϕ Formel erster Stufe
Satz 20.1[Fagin 75]
• L ∈ NP genau dann, wenn es eine ESO-Formel ψ gibt, so dass für alle
x gilt: x ∈ L ⇐⇒ x |= ψ
Beweisidee
„⇒“: Die Xi kodieren die Berechnungstabelle der TM für L bei Eingabe x
• Es genügt dafür sogar eine Relation
„⇐“: M erwartet in Zusatzeingabe Relationen für X1 , . . . ,Xr
• Startpunkt der Theorie der Beschreibungskomplexität
➞ Viele andere Komplexitätsklassen lassen sich durch Klassen logischer
Formeln charakterisieren
Kompl.-Theorie / Schwentick / SoSe 15
E: 20. Die W- und die A-Hierarchie
. ✁✄
Folie 2
Exkurs: Beschreibungskomplexität (2/3)
• Im Folgenden sind Eingaben immer logi-
➞
sche Strukturen
– nur Relationen und Konstanten
– keine Funktionen
Relationale Strukturen:
(U,R1 , . . . ,Rl ,c1 , . . . ,cm ) mit
– U : Grundmenge (Universum), endlich
– R1 , . . . ,Rl : Relationen über U
– c1 , . . . ,cm : Konstanten (Elemente)
aus U
• Eingaben für R EACH: (U,E,s,t)
U : Knotenmenge
E : 2-stellige Relation
s,t: Konstanten
U : Menge der Positionen
≤: Ordnung auf den Positionen
P1 : Menge der Positionen mit 1
Kompl.-Theorie / Schwentick / SoSe 15
• Das selbe algorithmische Problem kann aber
durch unterschiedliche Arten von Strukturen
auf verschiedene Arten repräsentiert werden
• Zum Beispiel:
R EACH durch Graphen oder Strings
• Aber: die „vernünftigen“ Repräsentationen
• Nach dem Satz von Fagin lässt sich jedes
NP-Problem für eine Formel ψ der Logik erster Stufe wie folgt formulieren:
• 0-1-Strings: (U, ≤ ,P0 ,P1 )
–
–
–
die selbe Anzahl von Relationen und Konstanten und die verwendeten Relationen haben die gleiche Stelligkeit → Signatur
lassen sich in polynomieller Zeit ineinander
umwandeln
Beispiel
–
–
–
• Klar: für jedes Problem haben alle Eingaben
– Gegeben: relationale Struktur (U,R,c)
– Frage: gibt es eine Relation X so dass
(U,R,c,X) |= ψ
• Wir werden sehen: die Struktur von ψ ist wesentlich für die parametrisierte Komplexität
E: 20. Die W- und die A-Hierarchie
. ✁✄
Folie 3
Exkurs: Beschreibungskomplexität (3/3)
Definition: FDψ
Gegeben: Struktur A
Frage: Gibt es X mit (A,X)
|= ψ ?
• Beobachtung: unterschiedliche Quantorenstruktur in ψ1 und ψ2
• Genauer: in ψ1 nur Allquantoren, in
ψ2 ein Quantorenwechsel
• Was ist eine geeignete Parametrisierung für FD•
Probleme?
Wir werden sehen: Parametrisierung durch |X|
ist hilfreich
Definition: P-WDψ
Gegeben: Struktur A, k
Parameter: k
Frage: Gibt es X mit |X|
= k und
(A,X) |= ψ ?
Beispiel
• P-C LIQUE ist von der Form P-WDψ1 mit
ψ1 = ∀x∀y [(X(x) ∧ X(y)) →
(x = y ∨ E(x,y))]
• P-D OMINATING S ET ist von der Form P-WDψ2 mit
Definition
• Πt : Formeln erster Stufe in PränexForm, beginnend mit ∀-Quantoren
und mit t − 1 Wechseln zwischen ∀
und ∃
• P-WD[L]: Menge aller P-WDψ mit
ψ ∈ L (wobei L eine Logik ist)
• Also:
– P-C LIQUE ∈ P-WD[Π1 ]
– P-D OMINATING S ET ∈ P-WD[Π2 ]
Proposition 20.2
P-WD[FO]
⊆ W[P]
ψ2 = ∀x∃y[X(y) ∧ (x = y ∨ E(x,y))]
Kompl.-Theorie / Schwentick / SoSe 15
E: 20. Die W- und die A-Hierarchie
. ✁✄
Folie 4
Inhalt
20.1 Parametrisierte Komplexitätstheorie
20.1.1 Exkurs: Beschreibungskomplexität
✄ 20.1.2 Die W-Hierarchie
20.1.3 Die A-Hierarchie
20.2 Beschränkte FPT-Algorithmen
Kompl.-Theorie / Schwentick / SoSe 15
E: 20. Die W- und die A-Hierarchie
. ✁✄
Folie 5
Die W-Hierarchie
• Wir betrachten jetzt eine feinere Unterteilung von W[P]
Definition: fpt-Abschluss
• [C]
fpt
def
⇔ {L | L ≤fpt L′ ∈ C}
i∈I
• ∆t+1,d :
Definition: W-Hierarchie
• Für t ≥ 1 sei
• Γ0,d : λ1 ∧ · · · ∧ λc
(λi Literale, c ≤ d)
• ∆0,d : λ1 ∨ · · · ∨ λc
(λi Literale, c ≤ d)
^
δi
(δi ∈ ∆t,d , I endlich)
• Γt+1,d :
_
(γi
∈ Γt,d , I endlich)
i∈I
def
W[t] = [P-WD[Πt ]]fpt
• Also: Γ1,2 = 2CNF, Γ2,1 = CNF
Proposition 20.3
• W-Hierachie: W[1] ⊆ W[2] · · ·
• Also:
– P-C LIQUE
γi
∈ W[1]
– P-D OMINATING S ET
∈ W[2]
– W[t] ⊆ W[P], für jedes t
• Die W-Hierarchie lässt sich auch auf
andere Weise definieren
– Wir betrachten dazu Mengen Γt,d ,
∆t,d aussagenlogischer Formeln
Kompl.-Theorie / Schwentick / SoSe 15
• P-WSAT[Γ1,2 ] ist vollständig für W[1]
• Für jedes t ≥ 2 ist P-WSAT[Γt,1 ] vollständig
für W[t]
• Der Beweis ist sehr technisch und findet sich in
[Flum, Grohe 06], Kapitel 6, 7
• Folgerungen:
– P-WSAT(2CNF) ist vollständig für W[1]
– P-WSAT(CNF) ist vollständig für W[2]
E: 20. Die W- und die A-Hierarchie
. ✁✄
Folie 6
Inhalt
20.1 Parametrisierte Komplexitätstheorie
20.1.1 Exkurs: Beschreibungskomplexität
20.1.2 Die W-Hierarchie
✄ 20.1.3 Die A-Hierarchie
20.2 Beschränkte FPT-Algorithmen
Kompl.-Theorie / Schwentick / SoSe 15
E: 20. Die W- und die A-Hierarchie
. ✁✄
Folie 7
Ein Anderer Zugang: Die A-Hierarchie
Definition
• P-C LIQUE lässt sich auch auf eine andere
Art durch logische Formeln charakterisieren
• G hat eine k-Clique genau dann, wenn G
die folgende Formel erfüllt:
∃x1 , . . . ,xk
^
V
E(xi ,xj ))]
[( i6=j xi 6= xj ) ∧ (
i6=j
➞ P-C LIQUE lässt sich also als Model-
Checking-Problem für Formeln erster Stufe
auffassen
• Es gelten:
– P-C LIQUE ∈ A[1]
∗ d.h.: P-C LIQUE <fpt P-MC(Σt )
– P-D OMINATING S ET
∈ XP
(A |= ϕ in Zeit |A||ϕ| testbar)
➨ für jedes t: A[t] ⊆ XP
Definition: P-MC(L)
∈L
Parameter:
|ϕ|
Frage: Gilt A |= ϕ?
• A[1] ⊆ W[P]
(Rate Belegung der ∃-Variablen)
• Für jedes t ist W[t] ⊆ A[t]
• P-WD[L]: Formel ist fest
• P-MC(L): Formel ist Teil der Eingabe
Kompl.-Theorie / Schwentick / SoSe 15
∈ A[2]
– P-MC(FO)
• Das verallgemeinern wir
Gegeben: Struktur A, Formel ϕ
• Σt : Formeln erster Stufe in Pränex-Form,
beginnend mit ∃-Quantoren und mit t−1
Wechseln zwischen ∀ und ∃
def
• A[t] ⇔ [P-MC(Σt )]fpt
E: 20. Die W- und die A-Hierarchie
(ohne Beweis)
. ✁✄
Folie 8
Übersicht
P-C OL
P-WSAT(CIRC)
paraNP
XP
P-E XP DTM
W[P]
W[2]
W[1]
A[2]
A[1]
FPT
• Für einige der in dieser Übersicht eingebauten Aussagen werden wir uns noch Beweisskizzen anschauen
Kompl.-Theorie / Schwentick / SoSe 15
E: 20. Die W- und die A-Hierarchie
. ✁✄
Folie 9
Namen sind ...
• Einige Bemerkungen zu den Akronymen:
FDψ : Fagin-Definierbarkeit
P-WDψ : Gewichtete Fagin-Definierbarkeit
WSAT: Gewichtete Erfüllbarkeit
W[t]: historisch: t-te Stufe der „Weft-Hierarchie“
A[t]: Ursprünglich mit Bezug auf ATMs definiert
W[P ]: Gewichtete Schaltkreiserfüllbarkeit
Kompl.-Theorie / Schwentick / SoSe 15
E: 20. Die W- und die A-Hierarchie
. ✁✄
Folie 10
P-C LIQUE ist vollständig für A[1]
Satz 20.4
Beweisskizze (Forts.)
• P-C LIQUE ist vollständig für A[1]
Beweisskizze
• Wir wissen:
•
– P-C LIQUE ∈ A[1]
– P-MC(Σ1 ) ist definitionsgemäß vollständig für A[1]
Es genügt also zu zeigen:
P-MC(Σ1 ) ≤fpt P-C LIQUE
Schritt 1: P-MC(Σ1 )
≤fpt P-MC(Σ+
1 [2])
(ohne Beweis)
• Σ+
1 [2] nur Formeln mit binären Relationen und ohne Negation
+
Schritt 2: P-MC(Σ1 [2])
• Konstruktion von G = (V,E):
– Sei U Universum von A
def
– V = U × {1, . . . ,k}
– E : alle Paare ((a,i),(b,j)), i 6= j ,
für die die Konjunktion aller atomaren
Formeln mit xi und xj durch xi 7→
a und xj 7→ b wahr wird
• Klar: A |= ϕ ⇐⇒ G hat k-Clique
• Für allgemeine Formeln bringen wir ϕ in
die Form
_ ^
ϕ = ∃x1 · · · xk
χij
j∈J i∈Ij
(FPT-Reduktion!)
≤fpt P-C LIQUE
• Seien A, ϕ gegeben
• Sei zunächst ϕ = ∃x1 · · · xk
^
χi
• Konstruiere Graphen Gj für jedes
j ∈ J wie oben und bilde dann die disjunkte Vereinigung der Gj
i∈I
(χi : positives Atom)
Kompl.-Theorie / Schwentick / SoSe 15
E: 20. Die W- und die A-Hierarchie
. ✁✄
Folie 11
W[1] vs. A[1]
Satz 20.5
W[1]
• W[1] lässt sich durch nicht-deterministische
= A[1]
RAM-Berechnungen charakterisieren
Beweisidee
Proposition 20.6
• A[1] ⊆ W[1] folgt aus:
– P-C LIQUE ist vollständig für A[1] und
– P-C LIQUE
∈ W[1]
• Umgekehrt lässt sich zeigen:
– P-WSAT(2CNF) ist vollständig für
W[1] und
– P-WSAT(2CNF) ∈ A[1]
– siehe: [Flum, Grohe 06], Kapitel 6
• Weitere W[1]-vollständige Probleme
– P-VC-D IMENSION
– P-S ET PACKING: enthält ein gegebenes
Mengensystem k disjunkte Mengen?
– Auswertung Boolescher Und-Anfragen
(Parameter: Länge der Anfrage)
Kompl.-Theorie / Schwentick / SoSe 15
• Ein Problem L = (Q,κ) ist genau dann
in W[1] wenn es durch eine RAM R der
folgenden Art gelöst wird
– R benötigt höchstens f (κ(x))p(|x|)
Schritte
– R verwendet nur die ersten
f (κ(x))p(|x|) Register
– R verwendet nur Zahlen
≤ f (κ(x))p(|x|)
– R hat einen nicht-deterministischen
Akzeptiermodus mit f (κ(x)) Zahlen ≤ f (κ(x))p(|x|) in ZusatzEingaberegistern
– R liest die Zahlen der Zusatzeingabe
während der letzten f (κ(x)) Schritte
E: 20. Die W- und die A-Hierarchie
. ✁✄
Folie 12
W- und A-Hierarchie: Höhere Stufen (1/2)
Proposition 20.7
Beweisskizze (Forts.)
• P-H ITTING S ET und P-D OMINATING S ET
sind vollständig für W[2]
Beweisskizze
• Klar: P-D OMINATING S ET und
P-H ITTING S ET sind in W[2]
• Da
P-H ITTING S ET ≤fpt P-D OMINATING S ET
genügt es also zu zeigen:
P-H ITTING S ET ist schwierig für W[2]
• P-WSAT(CNF+ ) sei die Einschränkung
von P-WSAT(CNF) auf negationsfreie
Formeln
– Fakt: P-WSAT(CNF+ ) ist vollständig
für W[2]
• Wir zeigen:
P-WSAT(CNF+ )
– Sei α
=
^ _
≤fpt P-H ITTING S ET
Xij
i∈I j∈Ji
– Definiere H = (V,E) durch:
def
∗ V = Menge der Variablen von α
def
∗ E=
{{Xij | j ∈ Ji } | i ∈ I}
– Dann sind für jede Teilmenge S ⊆ V
äquivalent:
∗ S induziert eine erfüllende Belegung
für α
∗ S ist ein Hitting Set für H
Kompl.-Theorie / Schwentick / SoSe 15
E: 20. Die W- und die A-Hierarchie
. ✁✄
Folie 13
W- und A-Hierarchie: Höhere Stufen (2/2)
Definition: P-S HORT NTM
Definition: P-C LIQUE D OMINATING S ET
Gegeben: TM M mit Zusatzeingabe, k
Parameter: k
Frage: Wird ǫ von M in ≤ k Schritten nichtdeterministisch akzeptiert?
Gegeben: Graph G, k, l
Parameter: k + l
Frage: Gibt es k Knoten, so dass jede lClique mit einem dieser Knoten verbunden
ist?
• P-S HORT NTM ist vollständig für W[2]
• P-C LIQUE D OMINATING S ET ist vollständig für
A[2]
Definition: P-S UBSET S UM
Gegeben: Menge M von Zahlen, n, k
Parameter: k
Frage: Gibt es m1 , . . . ,mk ∈ M mit
m1 + · · · + mk = n ?
• P-S UBSET S UM ∈ W[3]
• Es ist unklar, ob P-S UBSET S UM in W[2]
oder vollständig für W[3] ist
Kompl.-Theorie / Schwentick / SoSe 15
E: 20. Die W- und die A-Hierarchie
. ✁✄
Folie 14
Oberklassen der beiden Hierarchien
• Die beiden letzten Klassen, die wir definieren, schließen die W- und die A-Hierarchie
in natürlicher Weise nach oben ab
• W[SAT] = P-WSAT(P ROP)
def
• AW[∗] = P-MC(FO)
Gegeben: Struktur A und Σ1 -Formel ϕ
Parameter: Variablenzahl von ϕ
Frage: Gilt A
Definition
def
Definition: P-VAR MC(Σ1 )
fpt
fpt
def
• PROP =
Menge aller aussagenlogischen Formeln
|= ϕ?
Definition: P-S HORT G EOGRAPHY
Gegeben: G, v0 , k
Parameter: k
Frage: Hat Spieler 1 in G von v0 aus eine
Gewinnstrategie in ≤ k Schritten?
• P-VAR MC(Σ1 ) ist vollständig für W[SAT]
• P-S HORT G EOGRAPHY ist vollständig für
AW[∗]
Kompl.-Theorie / Schwentick / SoSe 15
E: 20. Die W- und die A-Hierarchie
. ✁✄
Folie 15
Abschließende Übersicht
paraNP
XP
P-WSAT(CIRC)
W[P]
AW[∗]
P-WSAT(PROP)
W[SAT]
P-C OL
P-D OMINATING S ET
W[2]
A[2]
P-C LIQUE
W[1] = A[1]
P-E XP DTM
P-S HORT G EOGRAPHY
P-C LIQUE D OMINATING S ET
FPT
• Die W -Hierarchie verfeinert NP (Unterteilung von SAT)
• Die A-Hierarchie verfeinert PSPACE bzw. PH (Unterteilung von MC(FO))
Kompl.-Theorie / Schwentick / SoSe 15
E: 20. Die W- und die A-Hierarchie
. ✁✄
Folie 16
Inhalt
20.1 Parametrisierte Komplexitätstheorie
✄ 20.2 Beschränkte FPT-Algorithmen
Kompl.-Theorie / Schwentick / SoSe 15
E: 20. Die W- und die A-Hierarchie
. ✁✄
Folie 17
Beschränkte FPT-Algorithmen
• Bisher:
• Anderer Ansatz:
– FPT-Algorithmen haben Zeitschranke
f (k)p(|x|), und f muss nur berechenbar sein
– In vielen Fällen: f exponentiell
– Manchmal: f unrealistisch groß
– Beispiel: Model-Checking für Formeln der
Logik erster Stufe auf Bäumen:
∗ Dieses Problem hat einen FPTAlgorithmus
∗ Aber: Falls P 6= NP gibt es keine „elementare“ Funktion f , so dass dieses
Problem in Zeit f (k)p(|x|) lösbar ist
∗ elementar: Funktion f (k), die in Zeit
·
22
·
2
·2
k
– Wachstum von f exponentiell beschränken
• Varianten:
O(1)
(a) f (k) = 2k
EXPT
(b) f (k) = 2O(k)
EPT
eff
o
(c) f (k) = 2 (k)
SUBEPT
• Klar: P-V ERTEX C OVER ∈ EPT
• Natürlich sind entsprechende Reduktionsbegriffe nötig, damit die betrachteten Klassen
unter Reduktionen abgeschlossen sind
• Wir beschränken uns hier auf EPT und entsprechende Reduktionen
c
für eine Konstante c berechenbar ist
Kompl.-Theorie / Schwentick / SoSe 15
E: 20. Die W- und die A-Hierarchie
. ✁✄
Folie 18
EPT-Reduktionen
Definition
• Seien L = (Q,κ), L′ = (Q′ ,κ′ )
parametrisierte Probleme
• Eine EPT-Reduktion von L auf L′ ist
eine Funktion R : x 7→ x′ mit:
(1) x ∈ Q ⇐⇒ x′ ∈ Q′
(2) R ist in Zeit 2O(κ(x)) p(|x|) berechenbar, für ein Polynom p
(3) κ′ (x′ ) = O(κ(x) + log(|x|))
• Schreibweise: L ≤ept L′
• Eigenschaften der EPT-Reduktionen:
– EPT ist abgeschlossen unter ≤ept
– ≤ept ist reflexiv und transitiv
• P-C LIQUE ≡ept P-I NDEPENDENT S ET
• Aber: die Reduktion von P-C LIQUE
auf P-MC(Σ1 ) (zum Nachweis von
P-C LIQUE ∈ A[1]) ist keine EPT-Reduktion:
(G,k) ∈ P-C LIQUE ⇐⇒ ^
E(xi ,xj )
G |= ∃x1 , . . . ,xk
i6=j
• Zu beachten:
– Die Abhängigkeit von κ′ (x′ ) von
κ(x) ist linear
– Andererseits hängt κ′ (x′ ) nicht nur
von κ(x) ab
∗ Der zusätzliche Summand
log(|x|)) gibt eine etwas größere Freiheit
∗ Er ist gerechtfertigt wegen
• ≤ept vs. ≤fpt vs. ≤p :
– Es gibt Probleme Q,Q′ mit:
Q <fpt Q′ und Q′ <ept Q
– Q hat log-Parameter: es gibt c, so dass:
κ(x) > c log(|x|), κ(y) > c log(|y|) ⇒
x ∈ L ⇐⇒ y ∈ L
– Für Q = (L,κ), Q′ = (L′ ,κ′ ) mit logParameter gilt:
2log(|x|) = |x|
Kompl.-Theorie / Schwentick / SoSe 15
E: 20. Die W- und die A-Hierarchie
L ≤p L′ ⇐⇒ Q ≤ept Q′
. ✁✄
Folie 19
Die beschränkte W-Hierarchie
Definition
Definition: P-VC-D IMENSION
• Für jedes t ≥ 2 sei EW[t] die Menge
aller parametrisierten Probleme, die auf ein
Problem der Art P-WDϕ EPT-reduzierbar
sind, wobei
– ϕ ∈ Πt und
– die Relationenvariable X kommt in ϕ
nur einmal vor
• Die folgende Aussage weist darauf hin, dass
die Definition der Klassen EW[t] einigermaßen vernünftig ist:
Proposition 20.8
= (V,E), k
Parameter: k
Frage: Gibt es ein U ⊆ V , |U | =
dass es für jedes U ′ ⊆ U ein e
mit U ∩ e = U ′ gibt?
k, so
∈ E
• Es gelten:
– P-VC-D IMENSION ist vollständig für
W[1] unter FPT-Reduktionen
– P-VC-D IMENSION ist vollständig für
EW[3] unter EPT-Reduktionen
• Zum Vergleich:
• Für jedes t ≥ 2 ist P-WSAT[Γt,1 ] vollständig für EW[t] unter EPT-Reduktionen
Kompl.-Theorie / Schwentick / SoSe 15
Gegeben: Hypergraph H
– P-H ITTING S ET ist vollständig für W[2]
unter FPT-Reduktionen
– P-H ITTING S ET ist vollständig für EW[2]
unter EPT-Reduktionen
E: 20. Die W- und die A-Hierarchie
. ✁✄
Folie 20
Quellen
• Lehrbücher
– R.G. Downey and M.R. Fellows. Parameterized
Complexity. Springer, 1997
– J. Flum and M. Grohe. Parameterized Complexity
Theory. Springer-Verlag, 2006
– Rolf Niedermeier. Invitation to fixed-parameter
algorithms. Oxford University Press, 2006
Kompl.-Theorie / Schwentick / SoSe 15
E: 20. Die W- und die A-Hierarchie
. ✁✄
Folie 21