Algorithmen und Datenstrukturen (ALP 3) im WS 08/09

Algorithmen und Datenstrukturen (ALP 3)
im WS 08/09
geschrieben von Simon Putzke
gehalten von Prof. Dr. Christian Knauer
1
.
"THE BEER-WARE LICENSE" (Revision 42):
Simon Putzke wrote this file. As long as you retain this notice
you can do whatever you want with this stuff.
If we meet some day, and you thinkthis stuff is worth it,
you can buy me a beer in return
<[email protected]>
2
Inhaltsverzeichnis
1 Analyse von Algorithmen
1.1
1.2
1.3
6
Effizienz (insbesondere Laufzeit) von Algorithmen . . . . . . . . . . . . . . . . . . . . . . . .
6
1.1.1
Experimentelle Analyse . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
6
1.1.2
Theoretische Analyse . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
6
1.1.3
Pseudo- Code . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
7
1.1.4
Registermaschine . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
7
1.1.5
Laufzeit von Algorithmen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
8
1.1.6
Asymptotisches Laufzeit
. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
9
1.1.7
Rekursion
. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
11
1.1.8
Rekursion auf der RAM . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
16
Datenstrukturen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
17
1.2.1
Beispiel Stapel (Stack)
. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
17
1.2.2
“Indirekte” Anwendung von Stapeln . . . . . . . . . . . . . . . . . . . . . . . . . . . .
19
Dynamisierung Array- basierter Datenstrukturen . . . . . . . . . . . . . . . . . . . . . . . . .
21
2 Datenabstraktion
24
2.1
Geheimnisprinzip
. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
24
2.2
Abstrakte Datentypen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
25
2.2.1
25
Explizite Schnittstellenbeschreibung in Java . . . . . . . . . . . . . . . . . . . . . . . .
3 ADT- Anwendungen, Implementierungen
3.1
Der ADT - Prioritätswarteschlange
3.1.1
27
. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
27
Implementierung des ADT PWS (für U = N) . . . . . . . . . . . . . . . . . . . . . . .
28
3.2
Implementieruung des Heap
. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
31
3.3
Erweiterung des ADT PWS : VPWS . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
34
3.4
neue Implementierung als Binomialheaps
. . . . . . . . . . . . . . . . . . . . . . . . . . . . .
36
3.5
Lokalisierung von Einträgen in Datenstrukturen . . . . . . . . . . . . . . . . . . . . . . . . . .
38
3.6
Bäume . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
39
3.6.1
. . . . . . . . . . . . . . . . . . . . . . . . .
39
3.7
Schnittstelle zum ADT Baum (Auswahl)
3.6.1.1
Darstellung als Ausdrucksbaums
. . . . . . . . . . . . . . . . . . . . . . . .
42
3.6.1.2
Umgekehrte Polnische Notation (UP- Notation): . . . . . . . . . . . . . . . .
42
3.6.2
weitere Anwendungen: Spielbäume . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
43
3.6.3
Breitensuche in Bäumen
. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
43
3.6.4
Tiefensuche in Bäumen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
43
ADT Wörterbuch (Dictionary) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
44
3
3.7.1
Implementierung des ADT Wörterbuch . . . . . . . . . . . . . . . . . . . . . . . . . .
44
3.7.2
Implementierung durch Hashing . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
45
3.7.3
Hashcodes
. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
45
Analyse der mittleren Laufzeit von Hashing mit Verkettung . . . . . . . . . .
47
3.7.3.1
3.8
3.7.4
Zufallsexperiment
. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
49
3.7.5
Universelle Hashfunktionen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
51
ADT Geordnetes Wörterbuch
3.8.1
Implementierung ADT Geordnetes Wörterbuch
3.8.2
Skip Liste:
53
. . . . . . . . . . . . . . . . . . . . .
53
. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
53
3.8.2.1
Suche in einer Skip- Liste(find, succ, pred) . . . . . . . . . . . . . . . . . . .
54
3.8.2.2
Bestimmung der Si (mod r)
. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
54
3.8.2.3
Löschen von z ∈ S . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
3.8.2.4
54
Einfügen von z ∈ S . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
54
Balancierte Mehrweg- Bäume . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
56
(2,4)- Bäume . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
61
3.8.3
3.9
. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
3.9.1
(a,b)- Bäume (a, b ∈ N, b + 1 ≥ 2a)
. . . . . . . . . . . . . . . . . . . . . . . . . . . .
61
Amortisierte Rebalancierungskosten in (2,5)- Bäumen . . . . . . . . . . . . . . . . . .
61
3.10 Implementierung von geordneten Wörterbüchern für Zeichenketten . . . . . . . . . . . . . . .
62
3.11 Wörterbücher für Strings- Trie . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
63
3.11.1 Suffixbaum . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
65
3.12 Suffix- Bäume TRIE . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
66
3.13 Sequence- Alignment Problem
. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
67
. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
67
3.13.2 Alignment von Zeichenketten . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
69
3.13.2.1 Berechnung von OPT(m,n) . . . . . . . . . . . . . . . . . . . . . . . . . . . .
69
3.9.2
3.13.1 Kosten eines Alignments
4 Algorithmen auf Graphen
72
4.1
Grundbegriffe aus der Graphentheorie . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
72
4.2
Repräsentation von Graphen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
73
4.3
Der ADT Graph . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
75
4.4
Graphenalgorithmen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
76
4.4.1
Kürzeste Wege in Graphen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
76
4.4.1.1
Eigenschaften kürzester Wege . . . . . . . . . . . . . . . . . . . . . . . . . . .
76
4.4.1.2
Das Single-Source-Shortest Path Problem
. . . . . . . . . . . . . . . . . . .
80
4.4.1.3
All-pairs Shortest Path Problem . . . . . . . . . . . . . . . . . . . . . . . . .
81
4.4.1.4
Kürzeste Wege von einem ausgezeichneten Startknoten . . . . . . . . . . . .
83
4.4.1.5
Relaxation einer Kante (u, v) ∈ E . . . . . . . . . . . . . . . . . . . . . . . .
83
Algorithmus von Bellman- Ford . . . . . . . . . . . . . . . . . . . . . . . . .
85
Der Algorithmus von Dijkstra . . . . . . . . . . . . . . . . . . . . . . . . . .
89
4.4.1.6
4.4.1.7
4
5 Minimal aufspannenden Bäumen (MST)
92
5.1
Berechnung . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
92
5.2
Generischer MST- Algorithmus . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
92
5.3
Begriffe . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
93
5
16. Oktober 2008
1
Analyse von Algorithmen
“Def.”: Ein Algorithmus ist eine Schritt-für-Schritt Anleitung zur Lösung eines Problems
• Speicherverbrauch kann durch geeigneten Algorithmus gering gehalten werden
• Zeitbedarf kann durch geeigneten Algorithmus gering gehalten werden
Frage nach
1. der Effizienz von Algorithmen
2. der Korrektheit von Algorithmen
1.1
Effizienz (insbesondere Laufzeit) von Algorithmen
• Algorithmus transformiert Eingabe in Ausgabe
• Die Laufzeit eines Algorithmus hängt von der Größe der Eingabe ab
(Funktion die einer Eingabe die Laufzeit des Algorithmus darauf zuordnet)
1.1.1
Experimentelle Analyse
oft gar nicht möglich, bzw. sinnvoll
• Implementierung
• Messung der Laufzeit auf vielen, “typischen” Eingaben
Problematisch!
1.1.2
Theoretische Analyse
• abstrakte Beschreibung des Algorithmus (Pseudocode)
• Charakterisierung der Laufzeit (als Funktion der Größe der Eingabe)
• dabei betrachten wir den schlechtesten Fall für alle Eingaben fester Länge (“worst case”- Analyse)
6
1.1.3
Pseudo- Code
• abstrakte Beschreibung eines Algorithmus “Programm”
• “strukturierter” (& detaillierter) als prosaische Beschreibung
• weniger detailliert als Java- Programm
Bsp.
ArrayMax (A, n)
Input: Feld A [1, ..., n] von n ganzen Zahlen
Output:
max
1≤i≤n
A [i]
currentMax ← A [1]
for i = 2 to n
if current Max < A [i] then currentMax = A [i]
return currentMax
Im Detail:
• Kontrollflussanweisungen (for, while, repeat, if then ... else, goto)
• Deklariationen
• Methodenaufrufe
• Wertrückgabe
• Ausdrücke (Zuweisungen, Tests, ...)
“Verboten”:
ArrayMax+ (A, n)
return
max
1≤i≤n
A [i]
• nicht verboten bei Test auf Korrektheit, aber bei Analyse
1.1.4
Registermaschine
7
• Rechenkern = arithm. Operationen (+, -, ·, /)
• Kontrollflussoperationen (JMP, bedingte Sprünge)
• all diese Operatoren können in einem Takt bearbeitet werden
– linear organisierter Speicher mit wahlfreiem Zugriff
∗ jede Zelle kann eine ganze Zahl speichern
∗ auf jede Zelle kann in einem Takt (durch Angabe der Adresse) zugegriffen werden
∗ der Speicher ist unbegrenzt
Pseudocode ist O.K. falls jede primtive Operation durch ≤ 10 RAM- Anweisungen ausgeführt werden kann.
1.1.5
Laufzeit von Algorithmen
Def:
A Algorithmus (RAM- Programm)
I
Eingabe für A
TA (I)
= Anzahl der RAM Operationen die A auf Eingabe I macht “Rechenzeit von A auf I”
TA (n)
max
= max I,Groesse
von I=n TA (I) “worst- case Rechenzeit von A”
Laufzeit von A (Funktion N → N)
Beispiel (I) mit Addition:
Algorithm d o u b l e ( x )
Input x ∈ N
Output 2x
y <− x
y <− y + x
return y
(Pseudocode)
LOAD 0 (CPU <− x )
STORE 1 (CPU <− y )
LOAD 1 (CPU <− y )
ADD 0 (CPU <−CPU + x )
STORE 1 (CPU <− y )
LOAD 1 (CPU <− y )
RETURN RAM
8
Beispiel (II) ohne Addition:
Algorithm d o u b l e ( x )
Input x ∈ N
Output 2x
z <− x
y <− x
f o r i =1 t o z do
y <− y + 1
return y
(Pseudocode)
TA (x) − ”3 + 2x
Typischerweise analysieren wir Algorithmen im Pseudocode (Laufzeit ≈ Anzahl der Pseudocodezeilen)
Das ist zulässig, solange der verwendete Pseudocode die Eigenschaft hat, dass jede Codezeile durch konstant
viele RAM- Operationen realisiert werden kann.
1.1.6
Asymptotisches Laufzeit
• “moderate” Änderungen des Maschinenmodells ändern die Laufzeit nur um einen konstanten Faktor.
• die asymptotische Laufzeit ignoriert konstante Faktoren und Terme niederer Ordnung.
Bsp.:
TA (n) = 1, 75n3 + (0, 4 log2 n) = Θ(n3 )
Erinnerung (O- Notation):
DEF.:
f, g ∈ NN
f = O(g) ⇔ ∃c > 0 ∃n0 ∈ N ∀n ≥ n0 : f (n) ≤ c · g(n)
manchmal schreibt man auch für f = O(g) auch
1. f (n) = O(g(n))
2. f ∈ O(g)
BSP :
1. 12n − 4 ≤ 12n d.h. 12n − 4 = O(n)
2. n2 = O(n) gilt nicht!!
9
O-Notation HOWTO
1.)
!d
f (n) = i=0 ai ni mit ai ≥ 0
f (n) = O(nd )
2.)
Wir sagen ”2n = O(n)” statt ”2n = O(n2 )”
3.)
Wir sagen ”2n = O(n)” statt ”2n = O(3n − 6)”
4.)
Die Analogie O=
ˆ ≤, Ω=
ˆ ≥, θ=
ˆ =
klappt oft (aber Vorsicht: nicht immer)
5.)
nα = O(nβ ) ∀ α ≤ β
6.)
(log n)α = O(nβ ) ∀α, β > 0
Beispiel:
Algorithm PrefixAverage (X, n)
Input X[0], . . . , X[n − 1], n
Output A[0], . . . , A[n − 1] mit A[i] =
1
i+1
!
j≤i
A[j]
A<−l e e r e s Feld mit n Elementen //1−mal d u r c h l a u f e n
f o r i = 0 t o n−1 do
//n−mal d u r c h l a u f e n
sum <− 0
//n−mal d u r c h l a u f e n
f o r j = 0 t o i do
/ / ( i +1 mal d u r c h l a u f e n )
sum <− sum + X[ j ]
//im i −t e n D u r c h l a u f d e r ä u ß e r e n S c h l e i f e
A[ i ] <− ( sum ) / ( i +1)
//n−mal d u r c h l a u f e n
return A
//1−mal d u r c h l a u f e n
Gesamtkosten:
n−1
&
O(1) + O(n) + O(
(i + 1))
" #$ % " #$ %
i=0
1&7
2&6,3
"
#$
%
4&5
= O(1) + O(n) + O(n2 ) = O(n2 )
Algorithmus PrefixAverage2 (A,n)
In : s . o .
Out : s . o .
A <− l e e r e s Feld
sum <− 0
f o r i = 0 t o n−1 do
sum <− sum + X[ i ]
A[ i ]<− ( sum ) / ( i +1)
return A
//1−mal
//1−mal
//n−mal
//n−mal
//n−mal
//1−mal
Laufzeit O(n)
10
1.1.7
Rekursion
Beispiel:
Potenzieren x, n ∈ N
p(x, n) := xn = x
. . · x%
" · .#$
n−mal
Lösung 1 : Iterartiv O(n)
'
x · p(x, n − 1)
Lösung 2: p(x, n) =
1
n>0
n=0
Algorithm Pow (x,n)
Input x, n ∈ N
Output xn
i f n = 0 then r e t u r n 1
r e t u r n x ∗ Pow ( x , n−1)
Laufzeit:
'
T (n) =
O(1)
T (n − 1) + O(1)
n=0
n>0
Lösung (n > 0) mit C > 0
T (n) ≤ T (n − 1) + C ≤ T (n − 2) + 2 · C ≤ T (n − 3) + 3 · C
per Induktion: T(n) ≤ T(n − k) + k · C
∀k ≤ 1 für k = n: T (n) ≤ T (0) + n · C
Beweis:
x · P ow(x, n − 1)
x∗Pow( x , n−1)=x∗x∗Pow( x , n−2)
=x∗x∗x∗Pow( x , n−3)
=x ∗ ( n−mal ) ∗ x∗Pow( x , 0 )
//Pow( x ,0)=1
Damit T (n) = O(n)
Lösung 3:


1

, , n --2
p(x, n) =
p x, 2

 , , n−1 --2
p x, 2
·x
n=0
n = 2k
n = 2k − 1
Algorithm PowFast(x,n)
i f n=0 r e t u r n 1
i f n=2k then
z <− PowFast ( x , 1 / 2 ) // n i c h t s o ! S y n t a k t i s c h a b e r k o r r e k t
return z∗z
i f n=2k+1 then
z <− PowFast ( x , ( n −1)/2)
r e t u r n z ∗ z ∗x
11
Laufzeitanalyse
Beschränken auf n = 2r für r ≥ 0
'
O(1)
n=1
,nT (n) =
T 2 + O(1)
n>1
S(r) := T(2r )
'
S(r) =
O(1)
S(r − 1) + O(1)
r=1
r>0
wie in (2:)
S(r) = O(r) = T (2r )
also
T (n) = O(log n)
12
28.Oktober 2008
1.1.7.1 Rekursionsbäume
Bsp.: PowFast
Fibonacci Zahlen
Bsp: Fibonacci- Zahlen
F(0)=F(1)=1
F(n)=F(n-1)+F(n-2), n ≥ 2
Definition:
Ein Rekursionbaum einer Prozedur A ist ein Baum TA , wobei
• jeder Aufruf der Prozedur einem Knoten entspricht.
13
• Kinder von Knoten v die (rek.) Aufrufe von A sind, die v tätigt (mit den jeweiligen Argumenten).
Die Rechenzeit von A auf x lässt sich bestimmen, indem man die in den Knoten des Berechnugsbam von A
auf x anfallende Arbeit aufsummiert.
Bsp: Mergesort
zum Sortieren von A[0], A[n + 1](n = 2k mit k ≥ 0)
Anm. d. A.:
Mergesort funktioniert wie Quicksort nach dem Teile- und- Herrsche- Prinzip.
Es zerlegt die Liste in immer kleinere Listen, bis die Liste nur noch aus einem Element besteht und diese
Teillisten werden dann sortiert Schritt für Schritt wieder zusammengeführt.
Analyse
(a) T (n) = 2 · T ( n2 ) + O(n)
per Induktion: T (n) = O(n · log n)
(b) Rekursionsaufruf für M.S. auf A[0], ..., A[n]
14
Gesamtkosten:
c·n +
"#$%
Wurzel
n
n
n
n
n
n
c( ) + c( )
+ c( ) + c( ) + c( ) + c( ) + . . .
2
2
4
4
4
4%
"
#$
%
"
#$
Kinder der Wurzel
Enkel der Wurzel
= c · (n + n2 ) + n2 ) + ( n4 +
n
4
+
n
4
+ n4 ) + . . .)
= c(n + n + n + n + . . .)
= c · n (1 + 1 + 1 + . . . + 1) = c · n· Höhe des Baumes = c · n · log n
"
#$
%
#Rekursionsstuf en
zu BSP (Fibonacci- Rekursion)
Laufzeit der direkten Rekursion
'
Θ(1)
T (n) =
T (n − 1) + T (n − 2) + Θ(1)
also
T (n) ≥
'
1
T (n − 1) + T (n − 2)
n≤1
n>1
n≤1
n>1
damit T (n) ≥ F (n) (per Induktion)
F(0)=F(1)=1
F(n)=F(n-1)+F(n-2), n > 1 (s.o.)
= F (n − 2) + F (n − 3) + F (n − 2)
≥ 2F (n − 2)
≥ 2(2F (n − 4))
15
≥ 2(2(2 · F (n − 6)))
≥ 2i · F (n − 2i) (per Induktion)
Damit (i = u2 )
√
n
F (n) = 2 2 = ( 2)n
Alternativen
• tabellieren der bereits berechneten F(1) für 0 ≤ i < n (dynamisches Programmieren)
Laufzeit O(n), Platzbedarf Ω(n)
• iterative Lösung
Laufzeit O(n), Platzbedarf Ω(1)
/ .
.
/ .
F (n − 1) + F (n − 2)
1
F (n)
=
=
•
F
(n
−
1)
1
F (n − 1)
.
/
F (n)
mit f$n :=
F (n − 1)
.
/
1 1
f$n =
·f$n−1
1 0
" #$ %
. M/
1
f$1 =
1
1
0
/.
F (n − 1)
F (n − 2)
/
Iteration:
Ind.
f$n = M · f$n−1 = M · M · f$n−2 = M · M · M · f$n−3 = M · . . . · M · f$n−i
"
#$
%
(i ≥ 1)
i−mal
= M · f$n−i
i
i=n−1
=
M n−1 · f$1
Kann in O(log n) Zeit durch schnelle (Matrix-) Exponentiation berechnet werden.
1.1.8
Rekursion auf der RAM
Algorithm min ( )
x <− 5
subroutine1 (x)
Algorithm s u b r o u t i n e 1 ( i )
k <− i +1
subroutine2 (k)
Algorithm s u b r o u t i n e ( k )
y <− 6
• merken, welche Unterroutine gerade ausgeführt wird
• es gibt für jede Unterroutine eine Struktur in der ihr idealer Kontext (Variablenwerte, Rücksprungadresse) gespeichert wird
(vgl. Rekursionsaufruf in z.B. MMIX)
16
30. Oktober 2008
1.2
Datenstrukturen
Schema zur Organisation von Daten, so dass gewisse Operationen auf / Manipulationen von Daten effektiv
durchführbar sind.
1.2.1
Beispiel Stapel (Stack)
Manipulation von Objekten erfolgt nach dem LIFO (last in- first out) Prinzip (hier: “Objekte” = int)
d.h. wir benötigen die Operationen
• einfügen eines neuen Elements (push)
• entfernen des zuletzt eingefügten Elements (pop)
• lesen des zuletzt eingefügten Elements (ohne es zu entfernen) (top)
• Testen, ob der Stapel leer ist
(x# , S # ) = pop(push(x, S)) ⇒ x# = x und S # = S
wobei :
pop :
push :
S t a p e l ( i n t ) −> i n t x S t a p e l ( i n t )
i n t x S t a p e l ( i n t ) −> S t a p e l ( i n t )
Implementierung:
• int-Array F mit M Einträgen
• Zeiger top auf oberstes Element (int top=-1)
Melde F e h l e r , f a l l s Array F v o l l ( top = M−1)
− push ( x )
top <− top + 1
F [ top ] <− x
− pop ( )
r e t u r n F [ top −−]
F e h l e r s i g n a l i s i e r e n , f a l l s Stack l e e r i s t ( top = −1)
17
Java- Implementierung:
c l a s s i n t ArrayStack {
int F [ ] ;
i n t top ;
i n t M;
i n t ArrayStack ( i n t m) {
M = m;
top = −1;
F = new i n t M[ ] ;
}
i n t pop ( ) throws EmptyIntArrayStackEception {
i f ( top == −1) throw . . .
e l s e r e t u r n F [ top −−];
}
Analyse von Datenstrukturen
• Wie effizient sind die Operatoren auf der D.S.?
(in Abhängigkeit von der Anzahl der in der Struktur gespeicherten Objekte)
• Wie viel Speicherplatz benötigt die Struktur?
hier:
• Platzbedarf Θ(M )
• Θ(1) Zeit für push & pop
Probleme:
• Die maximale Größe ist fest.
• Implementierungsspezifische Ausnahmebehandlung
Implemetierung mittels verketteten Listen
• einfach verkettete Liste
18
• Einfügen und Löschen am Anfang der einfach verketteten Liste ist einfach (Θ(1) Zeit )
1.2.2
“Indirekte” Anwendung von Stapeln
• als Hilfsstruktur für andere D.S.
• beim Entwurf von Algorithmen
Beispiel:
Gegeben
x2 wird von x3 verdeckt, x4 wird von x5 verdeckt. Wäre ein x6 größer als x5 und kleiner als x3, wäre auch
x5 verdeckt.
Span berechnen:
Feld X[0],...,X[1] von n Zahlen
Berechne für alle 0 ≤ i ≤ n − 1
S[i] = max. Anzahl von aufeinanderfolgenden Elementen unmittelbar vor X[i] die kleiner als X[i] sind.
Algorithm Span (X, n )
S <− Neues Feld mit n E i n t r ä g e n
|
f o r i = 0 t o n−1 do
|
S [ i ] <− 0
|
| f o r j = 0 t o i do
|
|
i f X[ i −j ] " k l e i n e r g l e i c h " X[ i ] do
|
|
S [ i ]++
|
|
e l s e break ;
i
n−1
&&
Θ(
1) = Θ(n2 )
i=0 j=0
19
04. November 2008
Besser mittels Hilfsfunktion
• arbeiten X von links nach rechts
• von rechts “sichtbare” Elemente im Stapel (von rechts nach links)
• am Index i
entferne alle Elemente von der Spitze des Stapels die ≤ X[i] sind und zähle span(X[i]) je um eins hoch
lege X[i] auf Stapel
Algorithm span (X, n )
S <− n e u e s Feld von n Zahlen
A <− n e u e r l e e r e r S t a p e l
f o r i =0 t o n−1 do
w h i l e ( ! isEmpty (A)&&((X[ top (A)]) <= X[ i ] ) ) do // e n t f e r n e a l l e Elemente
pop (A)
// aus A d i e k l e i n e r a l s X[ i ] s i n d
i f isEmpty (A) S [ i ] <− i +1
e l s e S [ i ] <− i − top (A)
push ( i ,A)
≤ i wird gelöscht und i wird hinzugefügt.
Analyse:
n
≤n
≤ 2n
push − Operationen
pop − Operationen
isEmpty − Operationen
Stack mit einfach verketteten Listen
⇒ Θ(n) Gesamtlaufzeit.
20
1.3
Dynamisierung Array- basierter Datenstrukturen
Konkretes Beispiel :
Stapel
Ziel:
• Implemetierung von Stacks durch Arrays
• keine feste Größe
Idee: (nur push-Ops)
• Wir haben zu jedem Zeitpunkt ein Array in dem alle Elemente des Stapels abgespeichert sind.
• Wenn Platz in diesem Array nicht mehr ausreicht, legen wir ein neues Array doppelter Größer an und
kopieren das alte Feld in den Anfang des neuen Feldes.
Θ(1) Zeit für push-Op (solange noch Platz!)
Θ(M ) Zeit für push-Op die Umkopieren erfordert.
(typisch ist M’=2M, hier im Bild jedoch nicht.)
Probleme dabei:
Es gibt push- Operationen die Ω(#Elemente im Stapel) Zeit benötigen.
ABER:
Jede Folge von n push/pop- Operationen benötigt O(n) Zeit.
alternatives Argument via Bankiermethode.
21
Begründung:
1. Eine pop- Op benötigt nur Θ(1) Zeit. D.h. alle pop- Op’s in einer Folge von n push/pop- Op’s benötigt
O(n) Zeit.
2. Betrachte Folge von n push- Op’s.
Die k-te push- Operation benötigt Zeit Tk =
'
O(k)
O(1)
k = 2i
sonst
Gesamtzeit für n push- Operationen
n
&
Tk
= O(n) +
$log2 n%
&
T2i
i=0
k=0
= O(n) +
$log2 n%
&
O(2i )
i=0
= O(n) + O(n)
n
&
Tk
= O(n)
k=0
amortisierte Kosten von “O(1)”
Idee: (Wiederholung von oben)
• Jede elementare Operation verursacht gewisse Kosten
(z.B.: Kosten von pop: O(1) : 1$ ;
Kosten von von push (kein Umkopieren): O(1) : 1$ , (mit Umkopieren) O(Größe des Arrays : #Elemente im
Stack $))
Definition (amortisiert):
Gegeben sie eine Datenstruktur, für die eine Folge von n Operationen insgesamt T(n) Zeit benötigt.
Dann nennen wir
T (n)
n
die amortisierten Kosten pro Operation.
22
06. November 2008
• Eine Folge F von Operationen verursacht damit Gesamtkosten cF
(Ziel: zeige, dass cF = O(n) falls |F | = n)
• Wir werden zeigen: Falls wir jeder Operation 2$ “mitgeben”, können wir am Schluss die Kosten cF
begleichen.
Buchhaltervorschrift
• pop- Operation (bringt 2$ mit) :
bezahle die Kosten (1$) und lege 1$ auf Sparbuch (der DS)
• push- Operation (bringt 2$ mit) :
– kein Kopieren : bezahle Kosten (1$) und lege 1$ auf das DS Sparbuch
– mit Kopieren: bezahle Kosten (# Elemente im Stack) von meinen 2$ auf Sparbuch
Wir werden zeigen: das Sparbuch ist nie im Minus
1. die Kosten cF können bezahlt werden
2. es gilt cF = 2$ · |F |
• eine push- Op veranlasst, das im Fall mit M Einträgen verdoppelt wird, hat zur Folge, dass danach
mind. M Operationen ausgeführt werden können, die nur 1$ kosten.
• der nächste auffallende Verdopplung kostet 2M $.
Problem: Der Platzbedarf der DS hängt nicht von der Anzahl der Elemente (tatsächlich von der maximalen
Stackgröße) ab, die in der DS gespeichert worden, sondern von der Anzahl der durchgeführten Operationen.
Lösung: Modifiziere pop
(falls Array nur noch zu
1
4
belegt ist, halbiere & kopiere um)
Implementierung (in Java)
23
2
Datenabstraktion
2.1
Geheimnisprinzip
Kenntnis der Spezifikationen eines Moduls, Datentyp, Systems ist notwendige und hinreichende Voraussetzung
für deren konkrete Benutzung.
Bsp.: Prozentuale Abstraktion
Datenabstraktion ist die Anwendung des Geheimnisprinzips auf die Darstellung komplexer Datenstrukturen:
• nicht direkt manipulierbar
• nur über (prozedurale) Schnittstelle manipulierbar (die geeignete Operationen zur Verfügung stellt)
Einschränkung der Sichtbarkeit bei der klassenbasierten Datenabstraktion:
• Das Klassenkonzept untersützt die Zusammenfassung von Daten und dem sie manipulierenden Operationen (in einer syntaktischen Form).
• In Java kann das Verbergen der internen Repräsentation durch Sichtbarkeitsmodifikatoren erreicht
werden.
– public : überall
– protected : innerhalb des eigenen Pakets und in den Unterklassen
– private : nur innerhalb der umschließenden Klasse
– default : innerhalb des Pakets
• Diese steuern die Sichtbarkeit von Attributen und Methoden
Bsp.: Stacks (als Arrays)
c l a s s Stack {
int max = 1 0 0 ;
Object [ ] S = new Object [ max ] ;
int t = 0 ;
void push ( Object o ) throws E x c e p t i o n {
i f ( t == max) throw new Exeption ( ) ;
s [ t++] = o ; // e r s t s [ t ] o z u w e i s e n und dann t i n k r e m e n t i e r e n
}
}
Object pop ( ) . . .
Problem: direkte Manipulation der Daten möglich.
Stack s = new Stack ( ) ;
st = 124;
s . push ( 3 ) ;
24
11. November 2008
2.2
Abstrakte Datentypen
Definition ADT :
Ein ADT ist eine Menge von Objekten mit einer Menge von Operationen auf diesen Objekten.
alternativ:
Ein Typ, dessen Objekte nur über die Operationen seiner Schnittstelle manipuliert werden können.
Beispiel:
Stack
Operationen :
push : ( x , S ) −> S
pop : ( S ) −> S
Objekte
Folgen (von Elementen)
↑ nach dem LIFO- Prinzip
Vorteile der Datenabstraktion
• Implementierung unabhängig vom Modell
• Sicherheit : Objekte können nicht in ungültige Zustände versetzt werden
• Flexibilität : Code kann unabhängig vom benutzten Code entwickelt werden
• Komfort : Benutzer abstrahiert von der Repräsentation
Reale Welt
“reelle” Objekte mit “rellen” Operatoren
↓ Modellierung
Modell abstrakte Objekte , Operationen
↓ Implementierung
Datenstruktur, Methoden
2.2.1
Explizite Schnittstellenbeschreibung in Java
“Probleme”
• Operationen müssen aus dem Quelltext der Klasse herausgesucht werden
• die Implemetierung der Methoden wird nicht vom Benutzer verborgen
25
9, 1, 2, 5, 7, 5,
push_left
pop_left
push_right
pop_right
Deklaration eines Schnittstellentyps
interface S t a c k I n t e r f a c e {
void push ( Object o ) ;
Object pop ( ) ;
}
• Methoden haben leeren Rumpf
• keine (non-const) Attribute
• Standardsichtbarkeit public
Im Programm:
( 1 ) F e s t l e g u n g a u f e i n e k o n k r e t e Implementierung
Stack s = new Stack ( ) ;
(2) e v t l . andere
S t a c k I n t e r f a c e s = new Stack ( ) ;
(3) geht nicht !
S t a c k I n t e r f a c e s = new S t a c k I n t e r f a c e ( ) ;
Implementierung einer Schnittstelle
Pflichten:
1. alle Schnittstellenmethoden müssen implementiert werden
2. alle Schnittstellenmethoden müssen public sein
Rechte:
1. Parameter von Schnittstellenmethoden dürfen umbenannt werden
2. beliebige weitere Attribute/Methoden
3. Schnittstelle kann als Typ verwendet werden (aber keine Instanzen möglich)
Bemerkung:
• Eine Klasse kann mehrere Schnittstellen implementieren
• guter Stil als Typbezeichner möglichst Schnittstellentypen verwenden, Klassentypen nur bei Instanzierung
26
13. November 2008
3
ADT- Anwendungen, Implementierungen
3.1
Der ADT - Prioritätswarteschlange
Motivation:
1. Scheduling von Prozessen im Betriebssystem (benötigt Operationen)
• finde Prozess mit höchster Priorität
• erzeuge neuen Prozess (mit vorgegebener Priorität)
• verringere Priorität eines Prozesses
2. Sortieren durch wiederholes Betimmen des kleinsten Elements: benötigt Operationen
• finde Element das am kleinsten ist
• entferne dieses Element
ADT PWS (priority queue)
U:
Universum, total geordnet via ≤ (Relation)
Objekte des ADT:
endl. Teilmengen S ⊂ U
Operationen − ! −:
findmin : S → U liefert min {x ∈ S}
deletemin S 0→ S # mit S # = S \ min S
Damit:
insert : (x, S) 0→ S # mit S # = S ∪ {x} x ∈ U
Algorithm PQSort (A)
Input :
Output :
Array A [ 1 ] , . . . , A[ n ] von Elementen aus U
S o r t i e r u n g von A ( b z g l . d e r Ordnung a u f U)
PQ H;
f o r i = 1 t o n do
H. i n s e r t (A[ i ] ) ;
f o r i = 1 t o n do
p r i n t H. f i n d m i n ( ) ;
H. d e l e t e m i n ( ) ;
Laufzeit von PQSort:
TX Laufzeit von X ∈ {findmin, deletemin, insert}
Gesamtlaufzeit: O(n · Tinsert + n · Tfindmin + n · Tdeletemin + n)
, Damit: Gesamtlaufzeit O n2
27
3.1.1
Implementierung des ADT PWS (für U = N)
(a)
Implementierung der PWS als einfach verkettete Liste
Tfindmin = O(|S|), Tinsert = O(1), Tdeletemin = O(|S|)
(b)
Als Folge l unsortierter Listen mit
(unsortiert) verkettet sind.
'
l − 1 haben m Elemente
1 hat ≤ m Elemente
bei denen die Minima in einer Liste
l·n=m
Tfindmin = O(l)
Tinsert = O(l)
Tdeletemin = O(l + m)
Damit:
Gesamtlaufzeit : (Optimal für l = m =
√
O(n · l + n · m + n) = O(n · n)
√
n)
(c) Heaps
Ein heapgeordneter Baum für eine Menge S ⊂ U ist ein Baum auf den Elementen von S, wobei gilt:
u Kind von v ⇒ u ≥ v
28
Bsp.:
29
insbesondere:
Eigenschaften heapgeordneter Bäume:
• Minimum ist in der Wurzel
• Jeder Teilbaum ist Heap-g.
interface
void
Object
void
}
PrioritätsWarteSchlange {
i n s e r t ( Object o ) ;
findmin ( ) ;
deletemin ( ) ;
30
18. November 2008
3.2
Implementieruung des Heap
heapgeordneter Bäume (s.o.) | Wälder
Implementierung des PWS - Op auf Heap- geordneten Bäumen
* findmin trivial
* deletemin setzt die Wurzel auf ”∞” und lässt sie “absinken” bis zu einem Blatt und entfernt dieses
* insert
ausgehend von einer “freien Position” (abhängig von Details der Baumstruktur)
füge neues Objekt ein und lass es “aufsteigen”
Konkreter binärer Heap
wir betrachten:
• binär
• heap- geordnete Bäume, wo die Tiefe von Blättern sich max im 1 unterscheidet
• alle bis auf einen inneren Knoten genau zwei Kinder haben
Fakt:
Die maximale Tiefe eines binären Heaos mit n Elementen ist O(log n)
• deletemin auf bin. Heaps:
Schreibe rechtetes Blatt in die Wurzel & lass es absinken (entferne das Blatt, mache es zum ersten Blatt
und aktualisiere das rechteste Blatt)
• insert auf bin. Heaps:
Schreibe das neue Element in das nächste freie Blatt & lass es aufsteigen, mache es zum rechtesten
Blatt und bestimme das neue rechte nächste freie Blatt
31
• wir stellen binäre Heaps so dar, dass die letzte Ebene des Baumes von links nach rechts aufgefüllt ist
• wir “merken” uns das “rechteste” Blatt der letzten Ebene & das erste freie Blatt
Mögliche Implementierungen von binären Heaps
1. verzweigte Struktur (später)
2. flach in einem Array
• Speichere binären Heap mit n Elementen in Feld der Länge n
• Knoten mit Index i hat linke (rechte) Kind bei Index Index 2i (2i+1)
• “letztes” Element ist bei Index n gespeichert, die erste freie Position bei Index n+1
• Dynamisierung durch iteriertes Verdoppeln/Halbieren (amortisiert O(1) pro Operation)
32
Laufzeit:
deletemin & insert
findmin
O(log n)
O(1)
Damit Laufzeit von PWSSort (Heapsort):
O(n · log n)
Ziel:
(Effiziente) Implementierung der Operation (P,Q, PWS)
33
20. November 2008
3.3
Erweiterung des ADT PWS : VPWS
triviale Implementierung
i n t e r f a c e VPWS {
void i n s e r t ( Object o ) ;
void d e l e t e m i n ( ) ;
Object f i n d m i n ( ) ;
void meld (VPWS P ) ;
}
i n t e r f a c e PWS {
void i n s e r t ( Object o ) ;
void d e l e t e m i n ( ) ;
Object f i n d m i n ( ) ;
c l a s s NameVPWS implements VPWS {
private BinaererHeap P ;
// i r g e n dw o i s t " c l a s s BinaererHeap implements PWS{ . . . } "
void d e l e t e m i n ( ) {
P. deletemin ( ) ;
}
}
void meld (NameVPWS Q) {
solange Q nicht l e e r :
P . i n s e r t (Q. f i n d m i n ( ) ) ;
Q. d e l e t e m i n ( ) ;
}
34
Vererbung (Einschluss- Polymorphie) in Java
(Polymorphie = Vielgestaltigkeit)
Klasse (bzw. Schnittstelle) Y wird als Erweiterung der Klasse X vereinbart und erbt damit die Eigenschaften
von X.
Syntax:
c l a s s X { Text von X }
c l a s s Y extends X { Text von Y}
−−−−−
entspricht fast
class Y {
Text von X
Text von Y
}
Umgesetzt:
i n t e r f a c e VPWS extends PWS {
void meld ( . . . ) ;
}
bzw.
c l a s s VBinaerHeap extends BinaerHeap implements VWPS {
void meld . . .
}
35
3.4
neue Implementierung als Binomialheaps
Binomialbäume:
Bi bezeichnet einen Binomialbaum vom Grad i.
induktiv definiert:
Bsp:
Es gilt:
1. Bi hat 2i Knoten (Induktion)
2. Die Wurzel von Bi hat i Knoten
3. Die Tiefe von Bi ist i
Ein Binomialheap mit n Elementen S ist ein Wald von Binomialbäumen in denen die Elemente von S heapgeordnet gespeichert sind. Jeder Bi kommt dabei höchstens 1x vor. Das gilt immer !
Bsp:
S = {7, 5, 1, 4, 13, 6} n = 6 = 22 + 21 ⇒ B1 und B2
Es gilt: wir benötigen Θ(log n)
Binomialbäume in einem Binomialheap für n Elemente
(hint: Binärdarstellung)
36
Die (Wurzeln) der Binomilabäume sind in einer Liste verkettet, sortiert nach ihrem Grad.
Bsp.: S = {7, 5, 1, 4, 13, 6, 15, 9, 3, 8, 27, 21, 34, 99} n = 14 = 23 + 22 + 21
Implementierung der VPWS- Operationen
(a) meld
• durchlaufe Wurzellisten P und Q (angefangen beim kleinsten Grad)
• zu jedem Zeitpunkt stellen wir sicher, dass es im Resultat nur einen Baum pro Grad gibt
• es gibt jeweils maximal einen Baum C der aus dem vorherigen Schritt als Übertrag kommt
• sei A der aktuelle Binomialbaum von P
sei B der aktuelle Binomialbaum von Q
– Fall 1: es gibt kein C
∗ deg A < deg B : schreibe A in die Wurzelliste von P ∪ Q , ersetze A durch seinen Nachfolger
∗ deg A > deg B : umgekehrt
∗ deg A = deg B
· min B < min A : mache A zu Kind der Wurzel B und setze das Ergebnis als Übertrag C
Ersetze A (und B) durch ihre Nachfolge
· min A < min B : umgekehrt
– Fall 2: es gibt ein C (=⇒ Übungsaufgabe)
37
25. November 2008
verschmelzen
n=4
8 + 4 + 2 = 23 + 22 + 21
Implemetierung der restlichen Heap- Operationen
• findmin(P)
– Durchlaufen der Wurzelliste
O(log |P |) Zeit
• insert(P,x)
– durch meld (P,{x})
O(log |P |) Zeit
• deletemin(P)
– Finde Bi in der Wurzelliste der Minimum speichert (in seiner Wurzel), entferne Bi aus der Wurzelliste, entferne Wurzel von Bi (resultiert in {B0 , . . . , Bi−1 }) und erzeugen damit neuen Binärheap.
Verschmelzen den neuen & den alten Heap.
O(log |P |) Zeit
3.5
Lokalisierung von Einträgen in Datenstrukturen
Typischerweise “wissen” Einträge in einer DS wo sie in der Struktur gepeichert sind.
Sonst ist das manipulieren von Einträgen in der DS “schwierig” (d.h. unmöglich/ineffizient).
Bsp.:
• Löschen von Einträgen aus einer PWS
• Ändern der Priorität von Einträgen einer PWS
38
mögliche Lösung
Schnittstellenmethoden zum Einfügen von Objekten liefern einen “Zeiger” auf den Eintrag der Objekte in der
DS.
z.B.:
c l a s s PWSEintrag {
int
Prioritaet ;
Object E i n t r a g ;
int
Position ;
}
3.6
Bäume
mathematischer Kontext
Kreisfreier zusammenhängender Graph
typischerweise gibt es eine (totale Ordnung)
auf den Kindern eines Knotens.
Informatik Kontext
gerichteter Graph T = (V, E)
Wurzel w ∈ V
(u, v) ∈ E
v heißt Kind (Nachfolger) von u
u heißt Erziehungsberechtigter (Vorgänger) von v
Bäume als ADT
ADT Knoten
• speichert Objekte
• Manipulation/Zugriff
void setInfo (Object o);
Object getInfo();
3.6.1
Schnittstelle zum ADT Baum (Auswahl)
Knoten
Knoten
boolean
Knoten
int
getRoot ( ) ;
g e t P a r e n t ( Knoten k ) ;
a L e a f ( Knoten k ) ;
g e t C h i l d ( Knoten k , int i ) ;
g e t D e g r e e ( Knoten k ) ;
39
27. November 2008
Implementierung von Bäumen
1.
Verkettete Struktur auf den Knoten
Platzbedarf für Baum mit n Knoten : O(n)
Spezialfall: k- näre Bäume (k > 2)
• jeder Knoten hat ≤ k Kinder
• falls jeder inäre Knoten genau k- Kinder hat, heißt der Baum wohl
• bei geordneten Binärbäumen heißt das
– 1. Kind auch linkes Kind
– 2. Kind: auch rechtes Kind
Bsp. k=3
Höhe des Baumes ist h.
h=0
30 = 1
h=1
30 + 3 · 30 = n0 + 3n0 = 4
h=2
h=3
4 + 3 · 3 = 13
13 + 9 · 3 = 40
h
&
qi =
i=0
2.
q n+1 − 1
q−1
Arraydarstellung k- närer Bäume
h+1
k- närer Baum der Höhe h wird im Array mit k k−1−1 Elementen abgespeichert.
Das i-te Kind (1 ≤ i ≤ k) eines Knotens der beim j-ten Eintrag gespeichert ist, wird im (k · j + i)
Eintrag abgelegt.
Zugriff auf Elternknoten durch gannzahlige Division.
(evtl. Problem)
Das Array kann exponentiell groß (im Vergleich zum Baum) sein.
40
Algorithmen auf Bäumen
• Traversierung von Bäumen
inorder:
besuche erst den linken Teilbaum unter der Wurzel, dann die Wurzel, dann ihren rechten
Teilbaum
preorder: besuche zuerst die Wurzel, dann dann links, dann rechts
postorder: besuche erst links, dann rechts, dann Wurzel
(1) Anwendung von inorder- Traversierung
T = (V, E)
in : V → N inorder Traversierung
h : V → N Höhenfunktion
'
V → R2
ϕ=
∪ → (in(u), h(u))
ist eine kreuzungsfreie Zeichnung von T in der Ebene.
(2) Arithmetische Ausdrücke (auf ganzen Zahlen)
(über {+, −})
rekursiv definiert:
(i)
x ∈ Z ist ein arithm. Ausdruck
(ii)
e, f arithmetische Ausdrücke
⇒ (e + f ) sind arithm. Ausdrücke
(e − f )
z.B.
12345+3456.
41
3.6.1.1
Darstellung als Ausdrucksbaums
z.B.: ((2 + 5) − (7 + 12))
Auswertung durch postorder- Traversierung.
3.6.1.2
Umgekehrte Polnische Notation (UP- Notation):
42
2, 5, +, 7, 12, +, −
02. Dezember 2008
3.6.2
weitere Anwendungen: Spielbäume
TicTacToe
Beginnt der Kreis- Spieler in der Mitte, hat der Kreuz- Spieler acht verschiedene Möglichkeiten sein Kreuz
zu setzen.
Dann hat der Kreis- Spieler sieben Möglichkeiten. ...
Nehme als Root das leere Spielfeld. Der erste Nachfolger sind neun Knoten, alle Möglichkeiten für die erste
Belegung. Die Nachfolger dieser Knoten sind jeweils die acht Möglichkeiten, ein Kreuz zu setzen. usw.
Es gibt besondere Knoten, bei denen das Spiel zu Ende ist. Dieser Knoten ist ein Blatt. Entweder, das Spiel
wird gewonnen oder es gibt ein Remis.
Zunächst werden alle Nachfolger der Wurzel erzeugt, erfüllen sie die Anforderung? Nun werden die Kinder
erzeugt, usw.
⇒ Breitensuche
3.6.3
Breitensuche in Bäumen
Traversiere den Baum in der folgenden Reihenfolge.
(Hier ein Baum mit immer drei Nachfolgern)
1. Wurzel (r)
2. Kinder der Wurzel (seien diese w1 , w2 , w3 )
3. Kinder der Knoten aus 2. ; erst die Kinder von w1 , dann die Kinder von w2 , dann die Kinder von w3
4. Deren Kinder. Nach Methodik von 3.
Diese Knoten werden in einer Liste verwaltet:
r, w1 , w2 , w3 , w11 , w12 , w13 , w21 , w22 , w23 , w31 , w32 , w33
Dies ist eine Warteschlange (Queue).
3.6.4
Tiefensuche in Bäumen
Traversierung mittels Stack
Erst ganz links bis nach unten, dann von “ganz unten” zum ersten Vater, dessen nächstes Kind, dann eins
hoch, nächstes Kind,...
43
3.7
ADT Wörterbuch (Dictionary)
Verwalten einer endlichen Teilmenge S ⊂ U eines Universums U
Operationen :
find(k,S)
bestimme, ob k ∈ S
insert(k,S) füge k zu S hinzu
delete(k,S) lösche k aus S
Bemerkung:
• Gegebenenfalls Fehlerbehandlung (z.B. bei delete)
• im Allgemeinen is S eine Multimenge
Vielfache Anwendungen!
3.7.1
Implementierung des ADT Wörterbuch
1. Verkettete Liste
Platzbedarf θ(|S|)
Laufzeit:
insert θ(1) ggf. θ(|S|)
find θ(|S|)
delete θ(1) falls falls Zeiger in die Liste zeigt
sonst θ(|S|)
2. Hashing (Streuspeicherung)
1.Idee Finde “gute” Abbildung h1 : U → N
2.Idee Finde “gute” Abbildung h2 : N → [1, . . . N ]
Speichere S in ein Array T [1, . . . , N ]
und zwar speichern x ∈ U in T [h2 (h1 (x))]
44
04. Dezember 2008
3.7.2
Implementierung durch Hashing
U
Universum
S⊂U
h1 : U → N
h2 : N → [1, . . . N ]
h2 (n) = 1 + (n mod 4)
3.7.3
Hashcodes
1. Zeichenketten s = s1 . . . sk ∈
(a) Länge
!0
!
h1 (si )| |
'!
→N
wobei 0
h1 =
σi 0→ i
(b) h! (s) =
!∗
!
{σ0 , . . . , σl }
z.B.: ASCII
s = AFFE
!
| | = 256, h1 (A) = 65 , h2 (F ) = 70 , h3 (E) = 69 , h1 (s) = (((65 · 256 + 70) · 256) + 70) · 256 + 69
2. Floatingpoint- Zahlen
(a) h1 (x) = 3x4
(b) h1 (x) = Mantisse von x als Integer
Kompressionsverfahren
Idee:
h2 soll S “möglichst geleichmäßig” auf [1, . . . N ] aufteilen.
Bsp.:
1. h2 (x) = 1 + (x mod N )
2. h2 (x) = 1 + (ax + b mod N )a'=0(mod N ), a,b∈N
Hashing mit Verkettung
U
Universum
|U | = u
S ⊂ U, |S| = n
45
Typischerweise ist N eine Primzahl
Hashfunktion in Tabelle T der Größe N. (Hashfunktion ist fest)
Hashtabelle mit N Einträgen
h : U → [0, . . . , N − 1]
n- elementige Teilmengen von U sollen verwaltet werden.
Idee:
Speichere x ∈ S an Position h(x) in T
x1 , x2 ∈ S kollidieren (bzgl. h), falls h(x1 ) = h(x2 )
Behandlung von Kollisionen durch Verkettung
T [i] zeigt af eine verkettete Liste in der alle x ∈ S mit h(x) = i gespeichert sind.
Bsp.:
• Einfügen/Löschen/Suchen eines Eintrags e mit Schlüssel k
• berechne i = h(k)
• Einfügen / L / S von e in Liste T [i] wie oben
Analyse:
Platzbedarf : O(N ) +
O(n)
= O(n + N )
" #$ %
" #$ %
Array T Knoten der Liste
Laufzeit (für Eintrag mit Schlüssel k)
hängt ab von
1. der Zeit, die zur Berechnung von h() benötigt wird.
2. der Länge der Liste die den Eintrag speichert.
Cs (k) = {y ∈ S|h(y) = h(k)}
Falls h in O(n) Zeit ausgewertet werden kann, benötigen alle Operationen θ(1 + |Cs (k)|) Zeit.
46
3.7.3.1
Analyse der mittleren Laufzeit von Hashing mit Verkettung
sei fest. (U sei endlich, |U | = u)
U
n
sei fest.
h
sei fest.
S ⊂ U wird zufällig (gleichverteilt) gewählt.
/
.
u
U hat
= |W | viele n- elementigen Teilmengen
n
Für V ⊂ U mit |V | = n fest, gilt:
P r(S
W
= V ) = pv = .
1
1
/=
|W |
u
n
= {S ⊂ U | |S| = n}
Für k ∈ U fest betrachten wir Cs (k) Zufallsvariable und interessieren uns für
E [CS (K)] =
&
v∈W
!
v∈W
pv |Cv (k)| =
1
|W |
[CS (K)]
Beweis:
[CS (K)]
'
1 y∈S
=
1=
iS (y) mit iS (y) =
0 sonst
y∈S, h(k)=h(y)
y∈U, h(k)=h(y)
&
&
Damit
E [CS (K)]
=
=
&
1
·
[CV (K)]
|W |
V ∈W
&
&
1
·
·
|W |
V ∈W
=
&
V ∈W
=
&
y∈U, h(k)=h(y)
& $
·
V ∈W
=
·
E[iS (y)]
&
y∈U, h(k)=h(y)
47
n
u
pv
$%"#
1
v(y)
|W |
für y fest
%"
#
p(v) · iv (y)
y∈U, h(k)=h(y)
&
v(y)
y∈U, h(k)=h(y)
,u−1-
, n- =
E[iS (y)] = 1 · P r(iS (y) = 1) + 0 · P r(is (y) = 0) = P r(y ∈ S) = n−1
u
(*)
48
n
u
09. Dezember 2008
3.7.4
S∈
Zufallsexperiment
,U n
wird zufällig (unter Gleichverteilung gewählt)
Analyse Zufallsvariable (für x ∈ U )
|CS (x)| = |{y ∈ S|h(x) = h(y)}| (s.o.)
Fortsetzung von (*)
=⇒ E [CS (x)]
=
&
y∈U, h(k)=h(y)
=
=
n
·
u
n
u
&
1
y∈U, h(k)=h(y)
n
· |CS (x)| = |{y ∈ S|h(x) = h(y)}|
u
Def.:
Eine Hashfunktion h : U → [1, . . . , N − 1] heißt fair, falls
|{y ∈ U |h(y) = i}| ≤
Falls h fair:
Zusammengefasst:
n 1u2
E [CS (x)] ≤ ·
≈
u
N
1u2
N
∀0 ≤ i ≤ N
Belegungsfaktor der Hashtabelle
$%"#
n
N
Die erwartete Zugriffszeit für Hashing mit Verkettung (bei Verwendung einer fairen Hashfunktion) bei der
Verwaltung von n- elementigen Teilmengen von U in einer Tabelle mit N Einträgen ist
Bsp:
3
n4
O 1+
N
'
[0, . . . , u − 1] → [0, . . . , N − 1]
h(x) =
x 0→ x mod N
ist fair.
Beweis:
(a)
mit N = θ(n) erhalten wir θ(1) (erwartete) Zugriffszeit und θ(n) Speicher.
(unter den bekannten Annahmen)
(b)
Falls n nicht bekannt ist, kann durch Verdoppeln, bzw. Halbieren der Tabellengröße (inkl. Umkopieren) θ(1) amortisierte erwartete Laufzeit bei θ(n) Platz erreicht werden.
49
Alternative: Universelles Hashing
Idee: Wählen h beim Aufbau der Struktur (unter Gleichverteilung) aus einer Menge von “guten” Hashfunktionen H.
Analyse:
Sei S ⊂ U mit |S| = n und x ∈ U fest.
Für h ∈ H sei
Cx (h)
=
=
{y ∈ S|h(x) = h(y)}
&
δxy (h)
y∈S
'
1 h(x) = h(y)
mit δxy (h) =
0 sonst
E [|Cx (h)|]

= E
=
&
&
y∈S

δxy (h)
[δxy (h)]
y∈S
=
&
(P r (h(x) = h(y)))
y∈S
!
#
|{h ∈ H|h(x) = h(y)}|
1
mit P r(h(x) = h(y)) =
=
|H|
N
"
$
& 1
n
E [|Cx (h)|] ≤
=
N
N
y∈S
Definition:
U
Eine Menge H ⊂ {0, . . . , N − 1}
von Hashfunktionen heißt universell, falls ∀x, y ∈ U mit x 5= y
|{h ∈ H|h(x) = h(y)}| ≤
|H|
N
Damit:
Die erwartete Zugriffszeit für Hashing mit Verkettung bei zufälliger Wahl von h aus einer universellen Familie
von H- Funktionen bei3der Verkettung
einer (jeder!) (festen) n- elementigen Teilmenge S ⊂ U in einer Tabelle
n4
mit N Einträgen ist θ 1
bei θ(n + N +
|h|
) Speicher.
"#$%
N
Platzbedarf, um h zu codieren
50
3.7.5
Universelle Hashfunktionen
{0,...,u−1}
1. {0, . . . , N − 1}
ist universell, aber nicht platsparend repräsentierbar bzw. effizient auswertbar.
2. Angenommen, x ∈ U kann in eindeutiger Weise als (r + 1)- Tupel x = (x1 , . . . , xr ) mit 0 ≤ xi < t ∀i
und eine Primzahl t. (z.B. t=257 und x wird byteweise gelesen).
a
$
%"
#
r+1
Für (a0 , . . . , ar ) ∈ {0, . . . t − 1}
definieren wir die Hashfunktion
ha (x)
= h(a0 ,...,ar ) (x0 , . . . , xr )
&
=
ai xi mod N
0≤i≤r
9
:
r+1
Dann ist H = ha |a ∈ {0, . . . , N − 1}
universell.
Bemerkung:
(a)
Zum Abspeichern von h(a0 ,...,ar ) wird θ(r) Platz benötigt.
(b)
Zum Berechnen von h(a0 ,...,ar ) (x0 , . . . xr ) wird θ(r) Zeit benötigt.
51
11. Dezember 2008
Fortsetzung “Universelle Hashfunktion”:
U = {0, . . . , u − 1} u = N r+1
N Primzahl (Größe der Hashtabelle)
x ∈ U ⇔ (x0 , . . . , xr ) mit 0 ≤ xi ≤ N
r+1
Zu (a0 , . . . , ar+1 ) ∈ {0. . . . , N − 1}
definieren wir
'
U → {0. . . . , N − 1}
h2 =
!r
x = (x0 , . . . , xr ) 0→ i=0 ai xi mod N
9
:
r+1
Dann ist H = h0 |a ∈ {a0 , . . . N − 1}
universell.
Bemerkung:
1. Um h ∈ R zufällig zu wählen müssen r + 1 Zufallszahlen im Intervall [0, N − 1] erzeugt werden.
2. Um (bei festen h ∈ R) zu x = (x0 , . . . , xi ) h(x) auszuwerten, werden r + 1 Multiplikationen (und
Addition) mittels N benötigt.
Angenommen x, y ∈ U mit x 5= y und ha (x) = ha (y) (*)
Da x 5= y muss (x0 , . . . , xr ) + (y0 , . . . , yr )
Wir nehmen oBdA an, dass x0 5= y0 .
(*)
r
&
ai xi =
i=0
a0 (x0 − y0 )
r
&
ai yi (mod N)
i=0
= a0 x0 − a0 y0
r
&
=
ai (yi − xi ) (mod N)
i=0
Bei gegebenen x und y gibt jede Wahl von a1 , . . . ar auf der rechten Seite eine feste Zahl C. Da N prim ist
und x0 5= y0 gibt es genau eine Möglichkeit, a0 zu wählen, um die Gleichnug zu erfüllen.
−1
a0 = C · (x0 − y0 )
(mod N)
Es gibt genau N r Möglichkeiten a1 , . . . ar zu wählen.
%
'
|H|
r
Damit |{ha |ha (x) = h(y)}| = N =
N
&
(
52
3.8
ADT Geordnetes Wörterbuch
Ziel: Verwaltung einer Teilmenge S von Elementen aus einem total geordneten Universum U ( wir werden
die Ordnung mit ≤ bezeichnen) unter dem Operation
find(x)
insert(x)
delete(x)
bestimme, ob x ∈ S
setze S ← S ∪ {x}
setze S ← S\{x}
min
bestimme min S
max
bestimme max S
succ(x)
bestimme das kleinste Element S, mit der Eigenschaft: min {y ∈ S|y ≥ x}
pred(x)
bestimme das größte Element S, mit der Eigenschaft: max {y ∈ S|y ≤ x}
Bemerkung:
Wir nehmen an, dass die Ordunungsrelation in O(1) Zeit entschieden werden kann.
3.8.1
Implementierung ADT Geordnetes Wörterbuch
1. Suchbäume (später)
2. Geordnete nach ≤ verkettete Liste
3. Skip- Listen
• Hierarchische DS mit r Stufen L1 , . . . , Lr
• In Stufe Li ist die Menge Si ⊂ S in einer Liste gespeichert, wobei
S = S1 ≥ S2 ≥ S3 ≥ . . . ≥ Sr = ∅
• Für z ∈ Si+1 ∩ Si gibt es einen Zeigervon Eintrag für z in Li
3.8.2
Skip Liste:
Ist ähnlich zu verketten Listen. Die Daten werden in Containern abgelegt. Jeder Container enthält einen
Schlüssel und einen Zeiger auf den nächsten Container. Es können jedoch auch Zeiger auf andere Container
enthalten sein, welche nicht direkt nachfolgen. Demnach können auch Schlüssel übersprungen werden. Die
Zeiger werden von 0 bis h durchnummeriert, wobei h die Höhe ist; h ist um 1 kleiner als die Anzahl der
Zeiger, die ein Container enthält.
53
3.8.2.1
Suche in einer Skip- Liste (find, succ, pred) Suche nach q ∈ U
• bestimme in Li das Intervall ∆i , welches q enthält, durch lineare Suche
• die lineare Suche in Li beginnt beim Anfangspunkt des Intervalls ∆i+1
3.8.2.2 Bestimmung der Si (mod r)
S1 = S
i=1
while S1 5= ∅
Si+1 = {z ∈ Si |Münzwurf für z zeigt Kopf}
i=i+1
r=1
3.8.2.3
Löschen von z ∈ S
3.8.2.4
Einfügen von z ∈ S
Lösche z aus allen Li mit z ∈ Si (inklusive der vertikalen Zeiger)
• wirf eine Münze bis zum ersten Mal Zahl auftaucht
– j = #Münzwürfe -1
• füge z in die Liste L1 , . . . , Lj+1 ein.
– unterteile ∆i bei z
– verkette die Vorkommen von z in aufeinanderfolgenden Stufen vertikal
• falls j + 1 > r erzeuge
– j + 1 − r neue Stufen die nur z enthalten
54
16. Dezember 2008
Die Größe der DS ( sowie die Zugriffszeiten) hängen von den zufälligen Entscheidungen ab, die der Algorithmus trifft.
Wie lange dauert es, nach einem Element zu suchen? Da gibt es mehrere Größen.
“vertikale” Höhe, i.e. r, die Anzahl der Stufen
1
Für c > 2 ist Pr(r > c · log2 n) ≤ c−1
n
Sei x ∈ S und k ∈ N
P r(x ist in mehr als k Stufen)
P r(es gibt mehr k Stufen)
1
2k ;
x ist in mehr als k Stufen)
= P r(
=
&
≤
x∈S
P r(x ist in mehr als k Stufen)
x∈S
|S|
2k
n
2k
mit k = c · log2 n
n
2c·log2 n
n
nc
1
c−1
n
=
=
≤
=
=
!
E[Größe der DS] = θ(n)
Zu x ∈ S betrachten wir die Zufallsvariable hx = #Stufen die x enthalten
pi = P r(hx = i)
i
pi
1
1
2
2
1 1
1
· =
2 2
4
3
1
1
=
3
2
8
E[hx ] =
&
i≥1
=
&
i≥1
=
i · P r(hx = 1)
i·
1
2i
2
Die erwartete Zeit zum Löschen eines, über einem Zeiger definierten Elements, ist θ(1) (falls alle Listen
doppelt verkettet sind).
Man kann zeigen, dass die erwartete Suchzeit θ(logn ) ist.
55
3.8.3
Balancierte Mehrweg- Bäume
In einem Mehrweg Suchbaum, der eine Menge S über einem Universum U (mit totaler Ordnung ≤ ) speichert,
ist jeder innere Knoten v mit d ≥ 2 Kindern mit d − 1 Schlüsseln.
k1 (v) < . . . < kd−1 (v) aus U markiert. Das i-te Kind speichert nur Elemente, die
• > ki−1 (v)
• ≤ ki (v)
sind.
Die Elemente aus S werden in den Blättern gespeichert.
56
18. Dezember 2008
Geordnete Wörterbücher - Balancierte Mehrweg Suchbäume
Ein Mehrwegsuchbaum heißt ein (2,4)- Baum, falls
1. jeder innere Knoten (außer root) ≥ 2 und ≤ 4 Kinder hat.
2. alle Blätter die gleiche Tiefe haben.
Für die Höhe h eines (2,4)- Baumes mit n Blättern gilt:
.
1
log2 n = log4 n
2
Beispiel 2- Baum:
h=3
8 + 4 + 2 + 1 = 15 ⇒ 2h+1 − 1 Knoten
Mit anderen Worten: (2,4)- Bäume sind balanciert.
Pseudocode:
57
/
≤ h ≤ log2 n
Access (x,T)
Input: x ∈ U , Suchbaum T für S ⊂ U
Output: Blatt y ∈ S mit y = min { z ∈ S| z ≥ x}
begin
v ← Wurzel von T
while v ist kein Blatt
do
Bestimme 1 ≤ i ≤ deg(v) mit Ki−1 (v) < x ≤ Ki (v)
Die Prozedur Access terminiert in einem (2,4)- Baum der Höhe h in O(h) Schritten.
Bemerkung:
In einem Mehrwegsuchbaum T der Höhe h terminineiert die Prozedur in O(h · max · deg v) Schritten.
v∈T
Mittels Access kann in einem (2,4)- Baum, der n Elemente speichert, find/succ in O(logn ) realisiert werden.
58
Einfügen:
Die 11 wird eingefügt, nun ist der Baum jedoch nicht mehr balanciert und erfüllt das Kriterium nicht mehr:
Passe den Key oben an. 11 nach oben, es ist größer als alles aus dem linken Teilbaum. Somit ist der Baum
wieder balanciert.
Nun wird ein Knoten, bzw. ein Blatt entfernt. Doch was nun? Zwei Kinder sind Pflicht!
59
Einfügen in (2,4)- Baum
1. Einfügen in Knoten vom Grad < 4 ist einfach.
2. Einfügen in Knoten v mit 4 Kindern (wie bei 1 – generiert Knoten) mit 5 Knoten.
Zerteile diesen in v1 , v2 mit 2 Knoten (bzw. 3) . Setze das Einfügen (jetzt von v2 ) bis zur Wurzel fort.
Mit dieser Prozedur kann in einem (2,4)- Baum mit n Elementen in O(log n) Zeit ein neues Element eingefügt
werden.
Löschen eines Knotens v aus (2,4)- Baum
Sei p Mutterknoten von v
1. deg(p) ≥ 3 ⇒ Löschen einfach
2. deg(p) = 2
(a) Falls ein Nachbarknoten von p mindestens drei Kinder hat, stehle ein Kind.
(b) Falls alle Nachbarn von p genau zwei Kinder haben, verschmelzen wir p mit einem dieser Nachbarn
q zu einem Knoten mit drei Kindern und setzen das Löschen rekursiv bis zur Wurzel fort.
An der Wurzel einfach: Entferne alte Wurzel und mache ihr einziges Kind zur neuen Wurzel.
60
06. Januar 2008
3.9
(2,4)- Bäume
• Mehrweg- Suchbäume
• alle Blätter haben die gleiche Tiefe
• der Grad jedes inneren Knotens ist ≥ 2 und ≤ 4
3.9.1
(a,b)- Bäume (a, b ∈ N, b + 1 ≥ 2a)
• Mehrweg- Suchbäume
• alle Blätter haben die gleiche Tiefe
• der Grad jedes inneren Knotens ist ≥ a und ≤ b
Es gilt: logb n ≤ Tiefe eines (a,b)- Baumes ≤ 1 + loga
n
2
Anwendungen:
• Datenstruktur im Externspeicher
(1972, Bayer & McGreight, B- Bäume, b=2a-1 )
b ≈ Blockgröße des Externspeichers
• “klassisch”: (2,3)- Bäume, aber bei (2,4)- Bäumen sind die amortisierten Kosten für das Löschen eines
Blattes O(1)
(tatsächlich: amortisierte Rebalancierungskosten sind O(1))
• (2,4)- Bäume “=” Rot- Schwarz- Bäume
3.9.2
Amortisierte Rebalancierungskosten in (2,5)- Bäumen
Rebalancierungskosten:
Löschen:
Anzahl der Knotenverschmelzungen
Einfügen: Anzahl der Knotenspaltungen
Es gilt, wenn wir in einem Anfangs leeren (2,5)- Baum eine Folge von n Einfügungen/Löschoperationen
durchführen, dann sind die gesamten Rebalancierungskosten ≤ 2n
(d.h. die amortisierten R.- Kosten sind ≤ 2)
Wir zeigen das mittels der Buchhaltermethode:
• Wir halten folgende Invariante aufrecht:
Knoten vom Grad
speichern ≥
1
3€
2
1€
3
0€
4
0€
5
1€
6
3€
• Jede Operation bringt 2€ mit
61
Einfügen:
1. falls keine Rebalancierung, speichere (ggf.) 1€ bei dem betroffenen Knoten. Fertig.
3.10
Trie
Implementierung von geordneten Wörterbüchern für Zeichenketten
(retrieval)
Bsp.: S = {bear, bell, bid, buy, sell, stock}
62
08. Januar 2009
3.11
Wörterbücher für Strings- Trie
Ein (Standard-) Trie ür eine Menge S von Zeichenketten über einem Alphabet Σ ist ein gewurzelter, geordneter
Baum, bei dem
• jede Kante mit einem Symbol ∈ Σ beschriftet ist.
• die Kinder eines Knotens (entsprechend der Kantenbeschriftung) geordnet sind.
• die Kantenbeschriftung von der Wurzel bis zu den Blättern die Wörter aus S ergeben.
• S präfixfrei ist.
Ein Trie benötigt O(Gesamtlänge der Wörter aus S) Platz.
Suchen, Löschen und Einfügen von x benötigt O(|Σ| · |x|) bzw, O(log |Σ| · |x|) Zeit.
Ein komprimierter Trie entsteht durch Kompression von Ketten von Knoten mit Grad 1 zu einer Kante.
Kompakte Darstellung:
Kantenbeschriftung ist nicht explizit, sondern nur als Zeiger in die entsprechenden Strings von S.
Anwendung: String Patternmatching
Gegeben:
T
M
= T [1 . . . n] ∈ Σ∗
= M [1 . . . m] ∈ Σ∗
Finde:
alle Positionen 1 ≤ i ≤ n in denen M in T vorkommt, d.h.

M [1] =
T [i]




M [2] =
T [i + 1]
(∗)
..
..
..

.
.
.



M [m] = T [i + m − 1]
Sei T = mississippi und M = is
M kommt in T an Position 2&5 vor.
Naiv:
Teste, ob die Eigenschaft (∗) für i = 1, 2, . . . , n − m + 1 gilt.
Laufzeit: θ(m · (n − m))
Beobachtung:
T [i, . . . , n]
ist.
" #$ %
i-te Suffix von T
Mit anderen Worten: Um alle Vorkommen von M in T zu bestimmen, müssen alle Suffixe von T gefunden
werden, die mit M anfangen.
Speichere alle Suffixe von T in einen komprimierten Trie: O(n) Platzbedarf.
M kommt an Position i in T vor, genau dann, wenn M Präfix von
63
Bsp.:
T = mississippi$
S(T ) = {mississippi$, ississippi$, ssissippi$, . . . , ppi$, pi$, i$, $}
|S(T )| = 12
&
|ω| = 78
ω∈S(T )
, n · (n + 1)
= θ n2
2
Unkomprimierter Trie:
im Allgemeinen gilt:
Komprimierter Trie:
64
Dies ist ein Baum mit n Blättern, alle inneren Knoten haben einen Grad > 1. D.h. es gibt insgesamt θ(n)
Knoten/Kanten.
Ein Komprimierter Trie kann in O(n) Zeit aufgebaut werden.
3.11.1
Suffixbaum
Suche nach M in T=
ˆ Suche nach den Einträgen im Suffixbaum, die M als Präfix haben.
Die Laufzeit ist O(m + # Positionen, an denen M in T auftaucht) .
65
13. Januar 2009
3.12
Suffix- Bäume TRIE
T =
ississippi$
T0 =
ississippi$
T1 =
ssissippi$
T2 =
sissippi$
..
.
alternative: Suffixarray
Ordnung: $ < a < b < c
T = abcab$
= T1
bcab$
= T2
cab$
= T3
ab$
= T4
b$
= T5
$ < ab$ < abcab$ < b$ < bcab$ < cab$
T6 < T4 < tT1 <
T5
< T2 < T3
"
#$
%
"#$%
M ist kleiner
M ist kleiner (suche nur links davon)
"
#$
%
lexikographische Ordnung auf {$,a,b,c}∗
M = ab in das obige einnotieren,
M
$%"#
$ < ab < ab$ < . . . c . . .
Das Suffixarray von T lautet:
6
4
1
5
2
3 == Länge des Wortes
66
3.13
o
..
.
Sequence- Alignment Problem
c
..
.
o
c
u
r
a
n
c
e
c
u
r
a
n
c
e
o
..
.
o
c
..
.
c
_
..
.
c
u
..
.
u
r
..
.
r
a
..
.
a
n
..
.
n
c
..
.
c
e
..
.
e
Gegeben seiein zwei Strings:
X = x1 . . . xm
und Y = y1 . . . yn
Eine Folge M von Paaren von Indizes aus {1, . . . , m} × {1 . . . n} bei der kein Index zweimal vorkommt heißt
ein Matching.
Bsp.:
x1
x2
..
.
x3
..
.
...
xm
..
.
y1
y2
y3
...
yn
3.13.1
Kosten eines Alignments
Parameter
1. δ > 0 (Lückenkosten)
Für jede Position von X oder Y die nicht zugeordnet ist, zahlen wir δ
!
2. für p, q ∈∈
gibt es Fehlerkosten αp,q > 0
Falls (i, j) ∈ M zahlen wir αxi ,yj
M = {(i1 , j1 ), . . . , (ik , jk )} Alignment von
X = x1 , . . . , xm und Y = y1 , . . . , yn
cost(M) =
? k
&
αxil ,yjl
l=1
@
"
#$
%
Fehlerkosten
+ (m + n − 2k) · δ
!
Die Fehlerwerte werden durch die Anwendung vorgegeben (z.B. δ = 1)
"
Alignment Problem
#
$
Gegeben X, Y. Berechne M mit minimalen Kosten
1.
x1
y1
x2
y2
...
...
xm−1
yn−1
xm
yn
2. In einem Aligment M von X und Y mit (m, n) ∈
/ M ist entweder die letzte Position von X oder von Y
nicht zugeordnet.
67
OPT(i,j): Kosten des besten Alignments von Xi = x1 . . . xi und Yj = y1 . . . yj
(Wir wollen OPT(m,n))


αxi.yj + OPT(i − 1, j − 1)
mit (1)&(2): OPT(i, j) = δ + OPT(i − 1, j)


δ + OPT(i, j − 1)
68
15. Januar 2009
3.13.2
Alignment von Zeichenketten
&
X
∗9
Y
= x1
=
OPT(i, j)
" #$ %
Kosten des besten (billigsten) Alignments von
y1
...
:
↓
y2
...
xm
..
. + αxm yn
...
yn
=
x1 ...xi
und
y1 ...yi
OPT(0, j) = j · δ (1 ≤ j ≤ n)


αxi.yj + OPT(i − 1, j − 1)
δ + OPT(i − 1, j)


δ + OPT(i, j − 1)





i, j ≥ 1
(∗)
OPT(i, 0) = i · δ (1 ≤ i ≤ m)
wir suchen: OPT(m, n)
3.13.2.1
Berechnung von OPT(m,n)
1. rekursiv gemaß (*) :
schlechte Idee, exponentiell in (max(m,n) ) großen Rekursionsbaum; viele Teilprobleme tauchen darin
mehrfach auf.
2. Zwischenspeichern (“Caching”) von Teilergebnissen in einer Tabelle mit m · n Einträgen
3.
X
Y
0
1n
2a
3e
4m
1
2
3
4
0
n
a
m
e
0
2
4
6
8
2
0
4
2
6
8

Vokal - Vokal



Konsonant - Konsonant
α :

Vokal - Konsonant



x-x
A
0
$%"#
OPT(1, 1) = min 0 + αn,n , 2 + 2 = 0




OPT(2, 1) = min 2 + αn,n , 0 + 2, 4 + 2 = 2


"#$%
Xi
Yj
0
j-1
j
'
3
0
1
...
i-1
i
x
x
x
←;↑
...
m-1
m
n
Zeilenweises Ausfüllen der Tabelle
69
=1
=1
=3
=0
δ=2
Algorithmus A l i g n (X,Y)
Eingabe
Ausgabe
X = x1 . . . xm, Y = y1 . . . yn
Kosten d e s g ü n s t i g s t e n Alignment von X und Y
f o r i = 0 t o m do OPT( i , 0 ) = i ∗ d e l t a
f o r j = 0 t o n do OPT( 0 , j ) = i ∗ d e l t a
f o r j = 1 t o n do
f o r i = 1 t o m do
OPT( i , j ) = min {OPT( i −1, j −1)+alpha_ { x i y j } , OPT( i −1, j )+ d e l t a , OPT( i , j −1)+ d e l t a }
r e t u r n OPT(m, n )
Analyse:
Bemerkung:
Laufzeit θ(m, n)
Speicherbedarf θ(m, n)
Platzbedarf kann auf θ(min(m, n)) verbessert werden:
Ausfüllen der j-ten Zeile benötigt aus OPT nur den Inhalt der (j-1)-ten Zeile
Definiere gerichteten, gewichteten Graphen GXY auf Knotenmenge, Kanten vertikal, horizontal: δ, diagonal:
αxi ,yj bei manchen zum Verdeutlichen, einen Weg verdeutlichen
70
——GXY = {(i, j) |0 ≤ i ≤ m, 0 ≤ j ≤ n}
mit Kanten
δ
(i, j) → (i, j + 1)
δ
(i, j) → (i + 1, j)
αxi ,yj
(i, j) → (i, j)
∀ 0 ≤ i ≤ m, 0 ≤ j ≤ n
∀ 0 ≤ i ≤ m, 0 ≤ j ≤ n
∀ 1 ≤ i ≤ m, 1 ≤ j ≤ n
f (i, j) seien die Kosten eines kürzesten Weges in GXY von (0,0) nach (i,j).
Dann gilt für alle i,j (i, j) = OPT(i, j)
71
20. Januar 2009
4
Algorithmen auf Graphen
4.1
Grundbegriffe aus der Graphentheorie
Ein gerichteter Graph G = (V, E) besteht aus einer Menge V von Knoten und einer Menge E ⊂ V × V von
Kanten zwischen den Knoten.
Bemerkung: E entspricht einer 2-stelligen Relation auf V.
z.B. G = (V, E)
V =N
(x, y) ∈ E ⇔ x|y
Illustration von gerichteten Graphen
u∈V
v∈V
u,v heissen die Endpunkte einer Kante e = (u, v).
G heißt ungerichtet, falls ∀ x, y ∈ V : (x, y) ∈ E ⇒ (y, x) ∈ E
Üblicherweise fassen wir bei ungerichteten Graphen die Knotenmenge als Teilmenge von
,V 2
= {(x, y) |x, y ∈ V }
Bei gerichteten Graphen gibt es eine Funktion ω : E → R (Gewichtfunktion).
Für e ∈ E heißt ω(e) das Gewicht (manchmal Länge) oder Kosten.
Eine Folge π = (v1 , . . . , vm ) von Knoten aus V mit (vi , vi+1 ) heißt Weg von v1 nach vm
72
,V 2
auf.
Die Kosten π sind:
ω(π) =
m−1
&
ω(vi , vi+1 )
i=1
π heißt einfach, falls v1 5= vj ∀ i 5= j mit (i, j) 5= (1.m)
Falls v1 = vm , heißt π Kreis.
Falls es zu allen u, v ∈ V einen Weg von u nach v gibt, so heißt G stark zusammenhängend (bzw. zusammenhängend, falls G ungerichtet ist)
Beobachtung: G = (V, E) zusammenhängend ⇒ |E| ≥| V | − 1
4.2
Repräsentation von Graphen
1. Adjazenzliste
G = (V, E) mit E ⊂ V × V wird repräsentiert durch Listen {LU |v ∈ V }
LU = {v ∈ V |(u, v) ∈ E}
LU = {v1 , v2 , v3 }
LW = {U, U # }
Platzbedarf: O(|E| + |V |)
2. Adjazenzmatrixdarstellung
|V | ×| V | -Matrix A = (aij )1≤i,j≤n
V = {1,
' . . . , n} n = |V |
1 (i, j) ∈ E
aij =
0 (i, j) ∈
/E
73
Dieser Graph wird durch die folgende
Tabelle beschrieben:
1 2 3 4
1 0 1 1 0
2 0 0 1 0
3 0 0 0 1
4 0 0 0 0
2
Platzbedarf: O(|V | ).
74
4.3
Der ADT Graph
benötigte Operationen:
(E für Edges, V für Vertices)
(1)
(2)
(3)
(4)
(5)
(6)
(7)
(8)
(9)
(10)
(11)
(12)
(13)
(14)
Knoten():
Kanten():
adjazenzListe(u):
loescheKante(u,v):
erzeugeKante(u,v):
loescheKnoten(u):
erzeugeKnoten(u):
gewicht(u,v):
setzeGewicht(u,v,ω # )
istKante(u,v):
knotenInfo(u):
kantenInfo(u,v):
setzeKnotenInfo(u,o):
setzeKantenInfo(u,v,o):
liefert Liste der Knoten des Graphen
liefert Liste der Kanten des Graphen
liefert die Liste aller zu u adjazenten Knoten
entferne die Kante (u,v) aus E
füge die Kante (u,v) zu E hinzu
entferne den Knoten u aus V
füge den Knoten u zu V hinzu
liefere ω(u,v)
setze ω(u, v) := ω #
liefere 1, falls (u, v) ∈ E , 0 sonst
liefere die zu u assoziierte Information (als Object)
liefere die zu (u,v) assoziierte Information (als Object)
setze die zu u assoziierte Information zu o
setze die zu (u,v) assoziierte Information zu o
Laufzeiten:
Operation
(1)
(2)
(3)
(4)
(5)
(6)
(7)
(8)
(9)
(10)
(11)
(12)
(13)
(14)
A-Liste
O(|V |)
O(|E|)
O(1)
A-Matrix
O(|V |)
2
O(|V | )
75
22. Januar 2009
4.4
Graphenalgorithmen
4.4.1
Kürzeste Wege in Graphen
Gegeben:
G = (V, E) gerichteter Graph mit V = {1, . . . , n}
Gewichtsfunktion ω : E → R+
Gesucht:
Abstandsfunktion δ : V × V → R+ mit δ(i, j) = Länge des kürzesten Weges von i nach j
Weg von 1 (über 3 und 2) zum Knoten 5
Länge = 1, 24 + 0, 8 + 127, 3 = 129, 8
Bemerkung:
Falls es keinen Weg von i nach j in G gibt, so ist δ(i, j) = ∞
4.4.1.1
Eigenschaften kürzester Wege
1. Da es keine negativen Kreise in G gibt, ist jeder kürzeste Weg einfach.
2. Teilwege von kürzesten Wegen
sind ebenfalls kürzeste Wege.
3. Wenn k der größte (numerisch) Knoten auf dem kürzesten Weg von i nach j ist, dann zerfällt dieser in
zwei Teilwege (selbst wieder kürzeste Wege) auf denen k nicht vorkommt.
76
Für i, j, k ∈ {1, . . . , n} sei
di,j =
Länge des kürzesten Weges von i nach j, deren Zwischenknoten alle aus der Menge {1, . . . , k}
sind.
(0)
Für k = 0: dij = ω(i, j)
Für k > 0:
Sei ein Weg von i nach j, ≤ k, der Weg sei π .
Nun gibt es zwei Möglichkeiten:
1. k liegt auf π :
Es gibt zwei Teilwege: Der Weg von i nach k, für diesen gilt: ≤ k − 1 , von k nach j gilt : ≤ k − 1
(k−1)
(k−1)
Länge = dik
+ dkj
2. k liegt nicht auf π :
Es gibt keinen Teilweg, bzw. der einzige “Teilweg” ist weiterhin der Weg von i nach j, für diesen gilt:
≤k−1
(k−1)
Länge von π = dij
also:
4
3
(k)
(k−1)
(k−1) (k−1)
dij = min dik
+ dkj , dij
77
kleiner Einschub vom Autor:
Graph:
k: Matrix
di,j : Eintrag der Matrix
Sei D(0) :
i\j
1
2
3
4
(1)
1
0
1
4
∞
dij = min
(1)
3
2
1
0
1
4
3
4
1
0
1
(0)
4
∞
4
1
0
(0)
(0)
dij , dik + dkj
Dij ist dann:
i\j
1
2
3
4
(2)
1
0
1
4
∞
dij = min
3
2
1
0
1
4
3
4
1
0
1
(1)
4
∞
4
1
0
(1)
D(2) ist nun:
i\j
1
2
3
4
1
0
1
2
5
(1)
dij , dik + dkj
2
1
0
1
4
3
2
1
0
1
4
4
4
5
4
1
0
Mache weiter bis D(4)
78
Für k < 0 :
(k)
Bottom - Up : Berechnung der dij
for i = 1 to n
for j=1 to n
(0)
dij ← ω(i, j)
for k=1 to n
for i=1 to n
for j=1 to n3
(k)
(k−1)
dij = min dik
return d(n)
(k−1)
+ dkj
(k−1)
, dij
4
79
Analyse: Laufzeit
Da der Algorithmus drei ineinander verschachtelte for-Schleifen beinhaltet, ist die Laufzeit O(n3 ).
Der Platzbedarf ist ebenfalls O(n3 ), da ein 3-dimensionales Array verwendet wird, welches alle möglichen
Werte speichert.
, , 2O n als Platzbedarf ist möglich
Floyd- Warshall- Algorithmus
All-pairs-shortest-path problem
Bemerkung: Kürzeste Wege können ebenfalls berechnet werden.
4.4.1.2
Das Single-Source-Shortest Path Problem
.
Gegeben: Gewichteter, gerichteter Graph G = (V, E), (Gewichtsfunktion ω), Startknoten s ∈ V
Gesucht: δ(i) = Länge des kürzesten Weges von s nach i ∀ i ∈ V
80
27. Januar 2009
4.4.1.3
All-pairs Shortest Path Problem .
Diesmal:
(m)
dij
= Länge des kürzesten Weges von i nach j der höchstens m Kanten enthält.
V = {1, . . . , n} ω(i, j) ≥ 0
(k)
dij = min
3
(k−1)
dij
(k−1)
, dik
(k−1)
+ dkj
4
Floyd- Warshall- Algorithmus
All-pairs-shortest-path problem
'
+∞ i 5= j
dij =
0
i=j
für
m>0:
(m)
dij
= min
.
min
1≤k≤n
(n−1)
Es gilt: δ(i.j) = dij
(n)
3
(m−1)
dik
(n+1)
/
4
3
4
(m−1)
(m−1)
+ ω(k, j) , dij
= min dik
+ ω(k, j)
(n+2)
1≤k≤n
(n+r)
(n−1)
insbesondere dij = dij
= dij
= dij
= dij
∀r ≥ 0
3
4
(m)
D(m) = dij
n × n- Matrix für m = 0, 1, 2, . . .
1≤i,j≤n
W = (ω (i, j))1≤i,j≤n n × n- Matrix, wobei wir annehmen, dass ω(i, j) = ∞ falls (i, j) ∈
/E
3
4
(0)
D(0) = dij
wie oben.
i,j
Algorithmus um D(n) aus D(−1) zu berechnen.
Algorithmus Nächster (D(n−1) , W )
for i = 1 to n
for j=1 to n
(m)
dij = ∞
for k=1 to n do 3
(m)
dij
(m)
(m−1)
= min dij , dik
return D(m)
4
+ ω(k, j)
Laufzeit von Nächster O(n3 )
81
Berechnung von δ mittels Nächster:
Initialisere D(0)
for n=1 to n-1
,
D(m) = Nächster D(m−1) , ω
return D(n−1)
Laufzeit: O(n4 )
Zusammenhang mit Matrixmultiplikation
A = (aij ) , B = (bij ) , C = (cij )
n × n Matrizen mit
C
cij
= A · B d.h.
n
&
=
aik · bkj
k=1
mit
·
→⊕
+ → min
→ dij
aik
→ dik
bkj
cij
(n)
dij = min
1≤k≤n
3
(n−1)
dik
(n)
cij
(n−1)
→ ω(k, j)
=
min (aik + bkj )
1≤k≤n
(∗)
4
, ω(k, j)
Wenn = die Matrix”multiplikation” gemäß der Vorschrift (∗) berechnet, so gilt
D(n) = D(n−1) = W
Der obige Algorithmus bezeichnet D(0) , D(1) = D(0) =W, D(2) = D(0) =W =W D(1) = W D(3) = W =W =W
Die Matrixmultiplikation ist assoziativ ⇒ W 3 . . .
D(n−1) = W (n−1)
Statt iterativ, können wir D(n−1) aus W auch durch schnelle Exponentiation berechnen:
Bsp.:
W8
-2
W4
3,
- 2 42
=
W2
=
,
82
D(2)
D(4)
D(8)
= W 2 = Nächster (W, W )
3
4
= W 4 = Nächster D(2) , D(2)
3
4
= W 8 = Nächster D(8) , D(8)
Fazit:
,
log n + 1 Aufrufe der Prozedur Nächster. Gesamtlaufzeit: O n3 · log n
4.4.1.4
Kürzeste Wege von einem ausgezeichneten Startknoten .
Gegeben: G = (V, E) gerichteter Graph, Startknoten s ∈ V
Kantenlängen ω : E → R>0
'
V → R>0
Gesucht: δ =
i 0→ Länge eines kürzesten Weges von s nach i
Die folgenden Algorithmen speichern für jeden Knoten i ∈ V einen Wert di , der als Abschätzung für δ(i)
dient. Dabei ist stets di = δ(i) und es gibt in G stets einen Weg von s nach i der Länge di . Am Ende wird
di = δ(i) für alle i ∈ V sein (das ist natürlich zu zeigen).
4.4.1.5
Relaxation einer Kante (u, v) ∈ E
.
dv = min (dv , dn + ω(u, v))
Eigenschaften der Relaxation
angenommen wir starten mit d3 = 0, di = +∞ für i 5= s
(0)
Die dv ’s werden nie größer (unter Relaxierung)
(1)
Unmittelbar nach der Relaxation ( nach RELAX(u,v) ) von (u, v) ist dv ≤ dv + (u, v)
(2)
für jede Folge von Relaxierungen (RELAX- Operationen) ist δ(v) ≤ dv für alle v ∈ V (∗)
(3)
Gilt zu einem Zeitpunkt δ(v) = dv , bleibt diese Eigenschaft bei (weiteren) Relaxierungen erhalten.
83
29. Januar 2009
Beweis zu (2):
1. (∗) gilt am Anfang der Folge
2. Angenommen, die Aussage ist nicht wahr.
Sei v der erste Knoten, bei dem der Aufruf RELAX(u,v) dazu führt, dass dv < δ(v) gilt.
Idee (was gezeigt werden soll):
Wenn die Annahme gilt, dann es muss es vorher bereits einen Knoten gegeben haben, für den die Aussage
nicht gegolten hat und genau dies ist ein Widerspruch zur Annahme.
Unmittelbar nach dem Aufruf von RELAX(u,v) gilt:
dv
"#$%
≤δ(v)
δ(v)
also du + ω(u, v)
=
du + ω(u, v)
≤
δ(u) + ω(u, v)
<
δ(u) + ω(u, v)
⇔ du < δ(u)
Also muss auch du < δ(u) vor RELAX(u,v) gelten. Dies ist ein Widerspruch zur Annahme, dass v der erste
Knoten ist, bei dem (∗) passiert.
!
Weitere Eigenschaften der Relaxation
(4) Für einen kürzesten Weg (mit u, v ∈ V, (uv) ∈ E) , der die Kante (u, v) enthält, gilt:
Wenn du = δ(u) , dann gilt nach RELAX(u,v) auch dv = δ(v)
1. RELAX(s, 1) → d1 = δ(1)
2. RELAX(3, 7)
3. RELAX(2, 4)
4. RELAX(1, 2) → d2 = δ(2)
5. RELAX(2, 3) → d3 = δ(3)
6. RELAX(3, 4) → d4 = δ(4)
84
1.
s→1
4.
1→2
5.
2→3
6.
3→4
R(5, 7)
R(1, 2)
R(0, 4)
R(2, 3)
R(3, 4)
R(7, 2)
R(s, 5)
R(s, 1)
(5)























|E| Relaxierungen
(|V | − 1) -mal
Für einen kürzesten Weg s → v1 → v2 → . . . → vk gilt:
Jede Folge von Relaxierungen, die die Teilfogen (RELAX (s, v1 ) , RELAX (v1 , v2 ) , . . . , RELAX (vk−1 , vk )) enthält, führt dazu, dass dvi = δ(vi ) für 1 ≤ i ≤ k . (Folgt aus (4) mit Induktion)
4.4.1.6
Algorithmus von Bellman- Ford .
Input: G = ({1, . . . , n} , E) , w, s
Output: Array d mit d [i] = δ(i)
for i = 1 to n
d[i] = +∞
d [s] = 0
for i=1 to n-1
for all (u, v) ∈ E
RELAX(u, v)
return d
85
03. Februar 2009
Java- Einschub
Typen in Java
• Java ist eine streng typisierte Sprache
Definition:
Ein Typ oder ein Datentyp ist im Tupel eine Objektmenge mit auf dieser Menge definierten Operationen.
Typumwandlung
Definition:
Typumwandlung ist das Überführen eines Typs A in einen Typ B
Identische Überführung
Jeder Typ A kann in den Typen A überführt werden.
Weitende Umwandlung von Primitiven Datentypen
(implizit, passiert auch automatisch)
Umwandlung in größeren Datentyp.
Beispiel:
86
int
float
i = 1234567890;
f = i;
System . out . p r i n t l n ( i − ( int ) f ) ;
// n i c h t 0 , da Umwandlung mit IEEE i s t e i n paar S t e l l e n daneben
System . out . p r i n t l n ( i − f ) ;
// w a n d e l t i i n f l o a t um, b e i d e g l e i c h w e i t e n t f e r n t ; e r g i b t 0
Begrenzende Typumwandlung
(explizit, muss angekündigt werden)
Umwandlung von Referenzdatentypen
Von einer weiteren Typumwandlung einer Referenz A in eine Referenz B wird gesprochen, wenn
• A und B sind Klassen und B ist eine Oberklasse von A.
• A und B sind Interfaces und B ist ein Oberinterface von A.
• A ist eine Klasse und B ein Interface, welches von A implementiert wird.
Beispiel:
I n t e g e r i = new I n t e g e r ( 4 2 ) ;
Number n = i ; // Number a l l g e m e i n e r a l s I n t e g e r
Von einer begrenzenden Typumwandlung einer Referenz A in eine Referenz B wird genau dann gesprochen,
wenn
87
• A und B sind Klassen und B ist eine Unterklasse von A.
• A und sind B Interfaces und B ist ein Unterface von A.
• B eine Klasse ist und A ein Interface, welches von B implementiert wird.
Beispiel:
Number n = new I n t e g e r ( 4 2 ) ;
Integer i = ( Integer ) n ;
88
10. Februar 2009
4.4.1.7
Der Algorithmus von Dijkstra
(Zur Berechnung kürzester Wege)
Gegeben: G = (V, E) gerichtet
Kantengewichte ω : E → R>0 (wichtig!)
s∈V
Gesucht: δ(i) = Abstand von i ∈ V zu s ∀ i ∈ V
for i ∈ V
d[s] = 0
d[i] = +∞
Initialisiere PWS Q mit V , geordnet nach d Werten
89
B := ∅
while Q 5= ∅
for all (u, v) ∈ E
return d[];
u := ExtractMin(Q)
B := B ∪ {u}
RELAX(u, v)
Korrektheit:
Wir zeigen: Wenn die Anweisung “B := B ∪ {u}” ausgeführt wird, dann ist d[u] = δ(u).
Beweis durch Widerspruch:
Leicht zu sehen: d[s] = δ(s) = 0, wenn s (als Erster) in B aufgenommen wird.
Sei u der erste Knoten, den der Alg. in B aufnimmt, wobei d[u] > δ(u) ist (klar s 5= u) (∗)
B ist nicht leer bevor u eingefügt wird.
p ist kürzester Weg von s nach u. (p geht von s ∈ B zu u ∈
/ B)
d.h. es existiert ein
y ∈ V : 1 Knoten auf p nicht in B
x ∈ V : Vorgänger von y auf p ∈ B
Wenn u in V eingefügt wird, gilt:
1. δ(x) = d[x]
(weil u der erste Knoten ist, dessen d- Wert ungleich δ wird, wenn er rot wird.)
2. δ(y) = d[y]
(wegen 1. und der Realisierung von x → y bei der Aufnahme von x in B)
Damit:
d[y]
= δ(y)
≤ δ(u) y liegt vor u auf p, alle Kantengewichte ≥ 0
≤ d[u]
gilt immer
Da u = ExtractMin(Q) und y ∈ Q
d[y] ≥ d[u]
90
Also
d[y] = δ(y) ≤ δ(u) ≤ d[u] ≤ d[y]
damit
d[y] = δ(y) = δ(u) = d[u] Widerspruch zur Annahme (∗)
|E| · Kantenrelaxierungen (d-Update &DecreaseKey) ⇒ O(|E| · log |V |)
|V | · ExtractMin ⇒ O(|V | · log |V |)
91
12. Februar 2009
5
Minimal aufspannenden Bäumen (MST)
(minimum spanning tree = MST)
5.1
Berechnung
Gegeben: Ungerichteter , gewichteter Graph G = (V, E) (zusammenhängend)
ω : E → R>0
Gesucht: M ⊂ E mit der Eigenschaft, dass
1. (V, M ) zusammenhängend ist (“M spannt G auf”)
!
2. ω(M ) =
ω(e) ist minimal
e∈M
Beobachtung: M kann keine Kreise haben (mit anderen Worten: (V, M ) ist ein Baum)
M: ω(M ) = 1 + 2 + 4 + 3 + 5 = 15
Die Algorithmen halten eine Menge A ⊆ E aufrecht, die die Eigenschaft hat, dass es einen MST (V, M ) gibt
mit A ⊂ M .
Falls e = {u, v} ∈ E die Eigenschaft hat, dass A ∪ {u, v} auch in einem MST von g enthalten ist, nennen wir
e sicher für A.
5.2
Generischer MST- Algorithmus
Setze A = ∅
Solange es eine Kante e gibt,
return A
die sicher für A ist,
füge e zu A hinzu
Korrektheit: klar
92
5.3
Begriffe
1. Ein Schnitt G = (V, E) ist eie Zerlegung V = S
B
(V \S)
2. e = {u, v} kreuzt Schnitt S, falls u ∈ S und v ∈ V \S
3. A ⊂ E respektiert Schnitt S gdw. kein e ∈ A S kreuzt
Satz:
A ⊆ E mit A ⊆ M , wobei (V, M ) MST A respektiert Schnitt S ⊆ V .
Dann ist eine leichteste Kante e ∈ E die S kreuzt, sicher.
93
Index
A
ADT, Baum, 39
ADT, Definition, 25
ADT, Knoten, 39
Algorithmus, Amalyse, 6
Algorithmus, Effizienz, 6
Alignment, Alignment Problem, 67
Alignment, Kosten, 67
Alignment, Sequence Alignment Problem, 67
Alignment, Zeichenketten, 69
B
Baum,
Baum,
Baum,
Baum,
Baum,
Baum,
Baum,
Baum,
Baum,
Baum,
Baum,
Baum,
Baum,
Baum,
Baum,
Baum,
Baum,
Baum,
Baum,
Baum,
Baum,
Baum,
Baum,
Baum,
Baum,
Baum,
Baum,
Graph,
Graph,
Graph,
Graph,
Graph,
Graph,
Graph,
Graph,
Graph,
Graph,
Graph,
Graph,
Graph,
Graph,
Graph,
Graph,
Graph,
Graph,
Graph,
Graph,
(2,4), 57, 61
(2,4), Einfügen, 60
(2,4), Löschen, 60
(a,b), 61
Anwendung, Spielbaum, 43
Ausdrucks-, 42
Binomial -, 36
Breitensuche, 43
Einfügen, 59
heapgeordnet, Eigenschaften, 30
heapgeordnet, Implementierung, 31
Höhe, 57
Implementierung, 40
k-när, 40
minimal aufspannend, 92
minimal aufspannend, Berechnung, 92
minimal aufspannend, kreuzen, 93
minimal aufspannend, respektieren, 93
minimal aufspannend, Schnitt, 93
Rekursions-, 13
Suffix-, 65
Tiefensuche, 43
Traversierung, 41
Traversierung, inorder, 41
Traversierung, inorder, Anwendung, 41
Traversierung, postorder, 41
Traversierung, preorder, 41
Gewicht, 72
Grundbegriffe, 72
k. Wege, Abstandsfunktion, 76
k. Wege, Algorithmus, Bellman- Ford, 85
k. Wege, Algorithmus, Dijkstra, 89
k. Wege, Eigenschaften, 76
k. Wege, Floyd Warshall, Berechnung, 78
k. Wege, Floyd Warshall, Formel, 77
k. Wege, Floyd Warshall, Laufzeit, 80
k. Wege, Relaxation, 83
k. Wege, Relaxation, Eigenschaften, 83
k. Wege, Startknoten, 83
Kosten, 72
Kosten, einfach, 73
Kreis, 73
kürzeste Wege, 76
Operationen, 75
stark zusammenhängend, 73
ungerichtet, 72
Weg, 72
H
Hashfunktion, faire, 49
Hashfunktion, universell, 51
Hashing, Codes, 45
Hashing, Implementierung, 45
Hashing, Laufzeit, 46
Hashing, universell, 50
Hashing, Verkettung, 45
Heap, 31
Heap, binär, 31
Heap, binär, Implementierungen, 32
Heap, Binomial-, 36
Heap, Operationen, Implementierung, 38
I
Interface,
Interface,
Interface,
Interface,
Interface,
D
Datenabstraktion, Vorteile, 25
J
Java,
Java,
Java,
Java,
Java,
Java,
G
Geheimnisprinzip, 24
Graph, Adjazenzliste, 73
Graph, Adjazenzmatrixdarstellung, 73
Graph, Endpunkt, 72
Graph, gerichtet, 72
Graph, gerichtet, Illustration, 72
94
ADT Baum, 39
Deklaration, 26
Implementierung, 26
Pflichten, 26
Rechte, 26
Polymorphie, 35
Typen, 86
Typen, Definitition, 86
Typumwandlung, 86
Typumwandlung, begrenzt, 87
Typumwandlung, weitend, 86
K
Kante, sicher, 92
Kosten, Alignment, 67
Kosten, amortisierte, 22
Kosten, Graph, 72
Kosten, Rebalancierung, 61
L
Laufzeit, asymptotisch, 9
Lokalisieren, 38
N
Notation, UP-, 42
O
O- Notation, 9, 10
P
Patternmatching, String, 63
PWS, ADT, 27
PWS, Folge unsortierter Listen, 28
PWS, Heap, 28
PWS, Motivation, 27
PWS, PQSort, 27
PWS, verkettete Liste, 28
PWS, VPWS, Operationen, 37
R
Registermaschine, 7
Rekursion, 11
S
Skip Liste, 53
Skip Liste, Suchen, 54
Sortieren - Heapsort, Laufzeit, 33
Sortieren - Mergesort, 14
Stack, 17
Stack, Implementierung, 18
Stack, Operationen, 17
Suffixarray, 66
T
Trie,
Trie,
Trie,
Trie,
Trie,
63
komprimiert, 64
Suffixarray, 66
Suffixbaum, 66
unkomprimiert, 64
W
Wörterbuch,
Wörterbuch,
Wörterbuch,
Wörterbuch,
Wörterbuch,
geordnet, 53
geordnet, Implementierung, 53
Implementierung, 44
Implementierung, Hashing, 45
Operationen, 44
95