-
© P
rof.
Dr.
math
. F
. M
eyer
auf
der
Heid
e,
Hein
z N
ixdorf
Institu
t, U
niv
ers
ität P
aderb
orn
Komplexitätstheorie WS 2011-2012
1
Willkommen zur Vorlesung
Komplexitätstheorie
WS 2011/2012
Friedhelm Meyer auf der Heide
V5, 21.11.2011
-
© P
rof.
Dr.
math
. F
. M
eyer
auf
der
Heid
e,
Hein
z N
ixdorf
Institu
t, U
niv
ers
ität P
aderb
orn
Komplexitätstheorie WS 2011-2012
2
Themen
1. Turingmaschinen
Formalisierung der Begriffe “berechenbar”,
“entscheidbar”, “rekursiv aufzählbar “
Komplexitätsklassen
2. Eine untere Schranke für 1-Band DTMs
3. Hierarchiesätze
4. Nichtdeterminismus:
Eigenschaften nichtdeterministischer Platzkomplexitätsklassen
NP- und PSPACE-Vollständigkeit
5. Die polynomielle Hierarchie
6. Randomisierte Komplexitätsklassen
-
© P
rof.
Dr.
math
. F
. M
eyer
auf
der
Heid
e,
Hein
z N
ixdorf
Institu
t, U
niv
ers
ität P
aderb
orn
Komplexitätstheorie WS 2011-2012
3
Nichtdeterministische
Turingmaschinen
-
© P
rof.
Dr.
math
. F
. M
eyer
auf
der
Heid
e,
Hein
z N
ixdorf
Institu
t, U
niv
ers
ität P
aderb
orn
Komplexitätstheorie WS 2011-2012
4
Definition von nichtdeterministischen
Turingmaschinen
Eine nichtdeterministische (1-Band) Turingmaschine (1-Band)-
NTM kann durch ein
6-Tupel M=(Q, , , , q0, F) beschrieben werden.
Q, , , q0, F sind wie bei deterministischen TMs, ist nun wie
folgt definiert:
: Q £ ! P(Q £ £ {R, N, L})
(q, a) = , falls q 2 F ist.
-
© P
rof.
Dr.
math
. F
. M
eyer
auf
der
Heid
e,
Hein
z N
ixdorf
Institu
t, U
niv
ers
ität P
aderb
orn
Komplexitätstheorie WS 2011-2012
5
Rechnungen einer NTM
Berechnungsbaum einer NTM bei Eingabe w
-
© P
rof.
Dr.
math
. F
. M
eyer
auf
der
Heid
e,
Hein
z N
ixdorf
Institu
t, U
niv
ers
ität P
aderb
orn
Komplexitätstheorie WS 2011-2012
6
Wann akzeptieren NTMs ?
Definition: Eine NTM akzeptiert eine Eingabe x, falls es
mindestens eine akzeptierende Rechnung von M gestartet mit x
gibt.
-
© P
rof.
Dr.
math
. F
. M
eyer
auf
der
Heid
e,
Hein
z N
ixdorf
Institu
t, U
niv
ers
ität P
aderb
orn
Komplexitätstheorie WS 2011-2012
7
Laufzeit / Speicherplatz von NTMs
Laufzeit:
TM(x) = {
Länge einer kürzesten akz. Rechnung,
falls M die Eingabe x akzeptiert
1 sonst
Platz:
SM(x) = { geringster Platzbedarf einer akz. Rechnung,
falls M die Eingabe x akzeptiert
1 sonst
-
© P
rof.
Dr.
math
. F
. M
eyer
auf
der
Heid
e,
Hein
z N
ixdorf
Institu
t, U
niv
ers
ität P
aderb
orn
Komplexitätstheorie WS 2011-2012
8
Nichtdeterministische Komplexitätsklassen
NSPACE
NSPACE
NSPACE NSPACE
-
© P
rof.
Dr.
math
. F
. M
eyer
auf
der
Heid
e,
Hein
z N
ixdorf
Institu
t, U
niv
ers
ität P
aderb
orn
Komplexitätstheorie WS 2011-2012
9
Nichtdeterministischer
Speicherplatz
-
© P
rof.
Dr.
math
. F
. M
eyer
auf
der
Heid
e,
Hein
z N
ixdorf
Institu
t, U
niv
ers
ität P
aderb
orn
Komplexitätstheorie WS 2011-2012
10
Deterministischer versus nichtdeterministischer
Platzbedarf, der Satz von Savitch
Die einfache Simulation aus EBKFS zeigt:
Satz: Jede NTM M kann durch eine DTM M‘ simuliert werden. Falls M t(n)-zeit-
und s(n)-platzbeschränkt ist, so ist M‘ 2O(t(n))-zeit- und O(s(n).t(n))-platzbeschränkt.
Da t(n) exponentiell in s(n) sein kann, liefert diese Simulation nur ein exponentiell beschränktes Blowup.
Das geht viel besser!!!
Satz (von Savitch): Sei s: 𝑁 → 𝑁 sei platzkonstruierbar. Dann gilt:
NSPACE(s(n)) ⊆ DSPACE(s(n)²).
Nur quadratisches beschränktes Blowup!!
-
© P
rof.
Dr.
math
. F
. M
eyer
auf
der
Heid
e,
Hein
z N
ixdorf
Institu
t, U
niv
ers
ität P
aderb
orn
Komplexitätstheorie WS 2011-2012
11
Beweis des Satzes von Savitch I
Satz (von Savitch): Sei s: 𝑁 → 𝑁 sei platzkonstruierbar. Dann gilt: NSPACE(s(n)) ⊆ DSPACE(s(n)²).
Beweis: M sein c∙s(n) platzbeschränkte 1-Band NTM mit einer akz. Endkonfiguration K*.
Wir beschreiben nun einen Algorithmus, der bei Eingabe Konfigurationen von M der Länge höchstens l , entscheidet, ob es in M eine Rechnung von
𝐾1 nach 𝐾2 gibt, die Länge höchstens t und Platzbedarf höchstens l hat.
Das Problem kann wie folgt interpretiert werden:
Betrachte den gerichteten Graphen, dessen Knoten alle (höchstens 2𝑂(𝑙) viele) Konfigurationen der Länge höchstens l sind. Eine gerichtete Kante von K nach K‘ existiert
genau dann, wenn K‘ direkte Nachfolgekonfiguration von K ist.
Dann möchten wir testen,
ob es in diesem Graphen einen gerichteten Weg von 𝐾1 nach 𝐾1 gibt.
(Erreichbarkeit)
(Dabei ist der Graph nicht Teil der Eingabe, seine Knoten und Kanten sind implizit
gegeben.)
-
© P
rof.
Dr.
math
. F
. M
eyer
auf
der
Heid
e,
Hein
z N
ixdorf
Institu
t, U
niv
ers
ität P
aderb
orn
Komplexitätstheorie WS 2011-2012
12
Beweis des Satzes von Savitch I
Satz (von Savitch): Sei s: 𝑁 → 𝑁 sei platzkonstruierbar. Dann gilt: NSPACE(s(n)) ⊆ DSPACE(s(n)²).
Beweis: M sein c∙s(n) platzbeschränkte 1-Band NTM mit einer akz. Endkonfiguration K*.
Wir beschreiben nun einen Algorithmus, der bei Eingabe Konfigurationen von M der Länge höchstens l , entscheidet, ob es in M eine Rechnung von
𝐾1 nach 𝐾2 gibt, die Länge höchstens t und Platzbedarf höchstens l hat.
-
© P
rof.
Dr.
math
. F
. M
eyer
auf
der
Heid
e,
Hein
z N
ixdorf
Institu
t, U
niv
ers
ität P
aderb
orn
Komplexitätstheorie WS 2011-2012
13
Beweis des Satzes von Savitch II
Beweis:
t > 1: Organisation des Bandes
Die rekursiven TEST-Aufrufe benutzen
für alle 𝐾3 und jeweils beide Tests den gleichen Speicherbereich R.
Rekursion: SP(1) ≤ 3 l Für t>1: SP(t ) ≤ ( 3 l + log(t)) + SP(t/2)
SP(t ) ≤ ( 3 l + log(t)) (log(t)+1)
-
© P
rof.
Dr.
math
. F
. M
eyer
auf
der
Heid
e,
Hein
z N
ixdorf
Institu
t, U
niv
ers
ität P
aderb
orn
Komplexitätstheorie WS 2011-2012
14
Beweis des Satzes von Savitch III
Bemerkung:
Also folgt:
O(s(|x|)²)
K*
-
© P
rof.
Dr.
math
. F
. M
eyer
auf
der
Heid
e,
Hein
z N
ixdorf
Institu
t, U
niv
ers
ität P
aderb
orn
Komplexitätstheorie WS 2011-2012
15
Eine wichtige Folgerung
Korollar: PSPACE = NPSPACE
-
© P
rof.
Dr.
math
. F
. M
eyer
auf
der
Heid
e,
Hein
z N
ixdorf
Institu
t, U
niv
ers
ität P
aderb
orn
Komplexitätstheorie WS 2011-2012
16
Komplementklassen und Abschlusseigenschaften
Einige einfache Beziehungen von Komplementklassen:
DSPACE
NSPACE
Co-DSPACE
NSPACE Co-NSPACE Co-NSPACE
Ist NSPACE(s(n))
abgeschlossen
gegenüber
Komplement
-bildung?
-
© P
rof.
Dr.
math
. F
. M
eyer
auf
der
Heid
e,
Hein
z N
ixdorf
Institu
t, U
niv
ers
ität P
aderb
orn
Komplexitätstheorie WS 2011-2012
17
Ist NSPACE(s(n)) abgeschlossen gegenüber
Komplementbildung?
JA!!
Satz (Immerman, Szelepcsenyi, 1988):
Sei s(n) platzkonstruierbar. Dann gilt: NSPACE(s(n)) = Co-NSPACE(s(n)).
Ein wichtiges Korollar:
Aus EBKFS ist CS, die Menge der kontextsensitiven Sprachen, bekannt.
Eventuell haben sie dort in Übungsaufgaben gezeigt:
Satz: CS = NSPACE(n)
Damit ergibt sich:
Korollar: CS =Co-CS, d.h.: die kontextsensitiven Sprachen sind gegen
Komplementbildung abgeschlossen.
-
© P
rof.
Dr.
math
. F
. M
eyer
auf
der
Heid
e,
Hein
z N
ixdorf
Institu
t, U
niv
ers
ität P
aderb
orn
Komplexitätstheorie WS 2011-2012
18
Beweis des
Satzes von Immerman und Szelepcsenyi - I
Satz (Immerman, Szelepcsenyi):
Sei s(n) platzkonstruierbar. Dann gilt: NSPACE(s(n)) = Co-NSPACE(s(n)).
Wir zeigen NSPACE(s(n)) ⊆ Co-NSPACE(s(n)). Die andere Richtung funktioniert analog.
Sei L ∈ NSPACE(s(n)), M eine O(s(n))-platzbeschr.1-Band NTM für L, x Input der Länge n.
Wegen „s(n) platzkonstruierbar“:
o.B.d.A. gilt: Jede Rechnung von M gestartet mit x hat Länge höchstens 2c∙s(n) und besteht aus Konfigurationen der Länge höchstens c∙s(n), für geeignetes c>0.
Gesucht: Eine O(s(n))-platzbeschränkte NTM, die x genau dann akzeptiert, wenn alle
Rechnungen von M gestartet mit x verwerfend sind.
Erste Idee: Probiere alle Rechnungen aus benötigt auf DTM Platz O(s(n)²).
Wie können wir das Verfahren mithilfe von Nichtdeterminismus platzeffizienter machen??
-
© P
rof.
Dr.
math
. F
. M
eyer
auf
der
Heid
e,
Hein
z N
ixdorf
Institu
t, U
niv
ers
ität P
aderb
orn
Komplexitätstheorie WS 2011-2012
19
Wir zeigen: NSPACE(s(n)) ⊆ Co-NSPACE(s(n)). Sei L ∈ NSPACE(s(n)), M eine 1-Band NTM für L, x Input, |x|=n.
Jede Rechnung von M gestartet mit x hat Länge höchstens 2c∙s(n) und besteht aus Konfigurationen der Länge höchstens c∙s(n), für geeignetes c>0.
Gesucht: Eine O(s(n))-platzbeschränkte NTM, die x genau dann akzeptiert, wenn alle Rechnungen von M gestartet
mit x verwerfend sind.
Angenommen, wir kennen die Zahl N der (indirekten) Nachfolgekonfigurationen von 𝑞0x.
Haupt-Algorithmus (Eingabe: x, N):
- Zähler:=0
- For i:=1 to 𝑙(𝑚) do
- Rate eine Rechnung R startend in 𝑞0x der Länge höchstens 2c∙s(n).
- If R ist akzeptierend
Then verwerfe, stoppe.
- Else If R endet in Konfiguration 𝐾𝑖 Then erhöhe Zähler um 1.
- If Zähler = N, Then akzeptiere.
Beweis des
Satzes von Immerman und Szelepcsenyi - II
𝐾1, 𝐾2, …, 𝐾𝑙(𝑚) ist lex. Aufz.
der Konf. Der Länge höchstens m.
-
© P
rof.
Dr.
math
. F
. M
eyer
auf
der
Heid
e,
Hein
z N
ixdorf
Institu
t, U
niv
ers
ität P
aderb
orn
Komplexitätstheorie WS 2011-2012
20
Haupt-Algorithmus (Eingabe: x, N):
- Zähler:=0
- For i:=1 to 𝑙(𝑚) do
- Rate eine Rechnung R startend in 𝑞0x der Länge höchstens 2c∙s(n).
- If R ist akzeptierend
Then verwerfe, stoppe.
- Else If R endet in Konfiguration 𝐾𝑖 Then erhöhe Zähler um 1.
- If Zähler = N, Then akzeptiere.
Korrektheit: Algorithmus akzeptiert x Es wurden für alle N Nachfolgekonfigurationen
von 𝑞0x Rechnungen gefunden und keine war akzeptierend x ist nicht in L.
Platzbedarf: Auf dem Band stehen maximal 3 Konfigurationen (𝑞0x , K, aktuelle
Konfiguration der simulierten Rechnung), sowie N (≤ 2c∙s(n)), und 2c∙s(n).
Platzbedarf O(s(n)).
Wir müssen N berechnen!
Beweis des
Satzes von Immerman und Szelepcsenyi - III
-
© P
rof.
Dr.
math
. F
. M
eyer
auf
der
Heid
e,
Hein
z N
ixdorf
Institu
t, U
niv
ers
ität P
aderb
orn
Komplexitätstheorie WS 2011-2012
21
Heinz Nixdorf Institut
Universität Paderborn
Algorithmen und Komplexität
Fürstenallee 11
33102 Paderborn
Tel.: 0 52 51 / 60 64 80
Fax.: 0 52 51 / 60 64 82
E-Mail: [email protected]
www.hni.uni-paderborn.de/alg
Vielen Dank für Ihre
Aufmerksamkeit