Globale Zustände in verteilten Systemen

Verteilte Snapshots
Vortrag im Rahmen des Seminars
Parallele und verteilte Programmierung
Matthias Bedarff
Agenda
■ Einleitung
■ Grundlagen
▪ Globale Zustände in verteilten Systemen
▪ Modell eines verteilten Systems
■ Festhalten von globalen Zuständen
▪ Chandy-Lamport Algorithmus
▪ Eigenschaften festgehaltener Schnappschüsse
■ Zusammenfassung
2
Agenda
■ Einleitung
■ Grundlagen
▪ Globale Zustände in verteilten Systemen
▪ Modell eines verteilten Systems
■ Festhalten von globalen Zuständen
▪ Chandy-Lamport Algorithmus
▪ Eigenschaften festgehaltener Schnappschüsse
■ Zusammenfassung
3
Einleitung
■ „Computersysteme durchleben eine Revolution“
(A. Tanenbaum 2004)
▪ bis in die Mitte der 80er-Jahre waren Computer groß und teuer
▪ Unternehmen hatten nur wenige Computer
▪ Computer arbeiten unabhängig voneinander
■ Fortschritte in der Entwicklung
▪ günstigere Mikroprozessoren
▪ leistungsfähigere Computernetzwerke
 günstige Computer zu Computersystemen zusammenstellen
■ Verteilte Systeme
▪ Globaler Zustand: Zustand des gesamten verteilten Systems zu
einem gewissen Zeitpunkt
▪ Schnappschuss: festgehaltener globaler Zustand
4
Agenda
■ Einleitung
■ Grundlagen
▪ Globale Zustände in verteilten Systemen
▪ Modell eines verteilten Systems
■ Festhalten von globalen Zuständen
▪ Chandy-Lamport Algorithmus
▪ Eigenschaften festgehaltener Schnappschüsse
■ Zusammenfassung
5
Globale Zustände in verteilten Systemen (1/2)
■ Gründe für das Erstellen von Schnappschüssen
▪ Ermittlung globaler Prädikate
• Deadlock
• Terminierung der Berechnung
▪ Erstellung von Rücksetzpunkten
• Wiederaufnahme der Berechnung nach Absturz
▪ Testen von verteilten Anwendungen
• Debuggen und Testen während Entwicklung und Wartung
■ Prozesse physikalisch getrennt
▪ kein gemeinsamer Speicher
▪ keine gemeinsame Uhr
▪ Nachrichtenkanäle besitzen abweichende Verzögerungen
 perfekt synchronisierter Schnappschuss nicht möglich
6
Globale Zustände in verteilten Systemen (2/2)
■ Schnappschuss einer Überweisung
Globaler Zustand 1
Konto 1
Kanal 1
leer
Kanal 2
leer
Konto 2
500 €
200 €
Globaler Zustand 2
Festgehaltener Schnappschuss
Kanal 1
50 €
Kanal 1
50 €
Konto 1
Kanal 2
leer
Konto 2
450 €
200 €
Þ
Konto 1
500 €
Kanal 2
leer
Konto 2
250 €
Globaler Zustand 3
Konto 1
450 €
Kanal 1
leer
Kanal 2
leer
Konto 2
250 €
Nach dem Fortsetzen der Berechnung
mit dem festgehaltenen Zustand:
 100 € zuviel im verteilten System
7
Modell eines verteilten Systems (1/5)
■ Bestandteile eines verteilten Systems
▪ Prozesse (Anzahl begrenzt)
▪ Nachrichtenkanäle zwischen Prozessen (Anzahl begrenzt)
• gerichtet (Übertragung nur in eine Richtung möglich)
• Nachrichtenpuffer ist unbegrenzt
• Empfangsreihenfolge entspricht Absendereihenfolge (FiFo)
■ Lokale Zustände
▪ Prozess
• besitzt einen Anfangszustand
 { Anfangszustand }  { alle eingetretenen Ereignisse }
▪ Nachrichtenkanal
• zu Beginn einer verteilten Berechnung leer
 { seit Beginn verschickte Nachrichten } \ { bereits empfangene Nachrichten }
8
Modell eines verteilten Systems (2/5)
■ Ereignis
▪ unteilbare Aktivität, die den lokalen Zustand verändert
▪ gehört zu einem einzigen Prozess
▪ betrifft höchstens einen Kanal (falls ein Kanal betroffen, dann
Versand oder Empfang einer Nachricht)
▪ Formal: Ein Ereignis e für einen Prozess p
• s ist der lokale Zustand von p unmittelbar vor dem Eintreten von e
• s' ist der lokale Zustand von p unmittelbar nach dem Eintreten von e
• falls kein Kanal betroffen:
◦ c und M sind null
• falls ein Kanal betroffen:
◦ c ist der veränderte Kanal
◦ M ist die versendete oder empfangene Nachricht
9
Modell eines verteilten Systems (3/5)
■ Globaler Zustand
▪ setzt sich aus lokalen Zuständen aller Prozesse und Nachrichtenkanäle zusammen
 Globalen Anfangszustand:
• alle Prozesse befinden sich in ihrem jeweiligen Anfangszustand
• alle Nachrichtenkanäle sind leer
■ Nächster globaler Zustand
▪ Funktion next(S, e) beschreibt die Auswirkung des Ereignisses e
▪ Voraussetzungen
• verteiltes System befindet sich in dem globalen Zustand S
• Ereignis e kann in S eintreten (d. h. Prozess p befindet sich in s)
10
Modell eines verteilten Systems (4/5)
■ Kanal c geht aus Prozess p heraus
Globaler Zustand S
Globaler Zustand next(S, e)
Kanal c
Prozess
p
...
Kanal c
Ereignis
e
s
Prozess
p
...
M
s'
■ Kanal c geht in Prozess p herein
Globaler Zustand S
Globaler Zustand next(S, e)
Kanal c
...
Kanal c
M
Prozess
p
s
Ereignis
e
...
Prozess
p
s'
11
Modell eines verteilten Systems (5/5)
■ Berechnung
▪ Abfolge von n Ereignissen aller Prozesse eines verteilten Systems
seq  (ei : 0  i  n)
▪ falls jedes ei in Si eintreten kann
 stellt seq die Berechnung eines verteilten Systems dar und es gilt
S i 1  next( S i , ei ) für 0  i  n
12
Konsistente Schnappschüsse (1/3)
■ Grund für Inkonsistenz im Überweisungsbeispiel
▪ Konto 1 kennt Nachricht nicht
▪ Konto 2 hat Nachricht bereits
empfangen, die sich noch im
Kanal 1 befindet
Globaler Zustand 1
Konto 1
Kanal 1
leer
Kanal 2
leer
Konto 2
500 €
200 €
Globaler Zustand 2
Konto 1
Kanal 1
50 €
Kanal 2
leer
Konto 2
450 €
200 €
Globaler Zustand 3
Konto 1
450 €
Kanal 1
leer
Kanal 2
leer
Konto 2
250 €
13
Konsistente Schnappschüsse (2/3)
■ Voraussetzungen für Konsistenz
▪ für die Prozesse p und q und einen Kanal c zwischen p und q gilt:
1.
2.
3.
4.
n = | { verschickte Nachrichten im festgehaltenen lokalen Zustand von p } |
n' = | { verschickte Nachrichten im festgehaltenen lokalen Zustand von c } |
m = | { empfangene Nachrichten im festgehaltenen lokalen Zustand von q } |
m' = | { empfangene Nachrichten im festgehaltenen lokalen Zustand von c } |
(Erfassung erfolgt unmittelbar vor Aufzeichnung)
▪ Hiermit muss gelten:
1. n = n'
2. m = m'
3. n'  m'
 Konsistenter Zustand:
• n  m „Anzahl der von p gesendeten Nachrichten muss mindestens so
groß sein wie die Anzahl der von q empfangenen Nachrichten“
14
Konsistente Schnappschüsse (3/3)
■ Schnappschüsse im Prozess-Zeit-Diagramm
S11
S12
P1
P2
P3
▪
▪
▪
▪
S21
S22
S31
S32
S23
S33
sij ist der j-te lokale Zustand des Prozesses pi
{s11, s21, s31} ist ein streng konsistenter Schnappschuss
{s11, s22, s32} ist ein inkonsistenter Schnappschuss
{s12, s23, s33} ist ein konsistenter Schnappschuss
15
Agenda
■ Einleitung
■ Grundlagen
▪ Globale Zustände in verteilten Systemen
▪ Modell eines verteilten Systems
■ Festhalten von globalen Zuständen
▪ Chandy-Lamport Algorithmus
▪ Eigenschaften festgehaltener Schnappschüsse
■ Zusammenfassung
16
Chandy-Lamport Algorithmus (1/3)
■ Pseudo-Code Darstellung des Algorithmus
17
Chandy-Lamport Algorithmus (2/3)
■ Terminierung des Algorithmus
▪ Voraussetzungen:
1. kein Marker darf endlos in einem eingehenden Kanal verbleiben
2. Aufzeichnung eines lokalen Zustands muss in endlicher Zeit erfolgen
3. Prozessgraph muss zusammenhängend sein
(Weg von einem beliebigen Prozess zu jedem anderen existiert)
 Marker wird von allen Prozessen über jeden eingehenden Kanal
empfangen
■ Verteilung der lokalen Zustände
▪ Verschiedene Strategien:
Jeder Prozess sendet seinen lokalen Zustand …
• nur in Richtung des initiierenden Prozesses
• über alle ausgehenden Kanäle an alle Prozesse
• an eine Gruppe von Prozessen
18
Chandy-Lamport Algorithmus (3/3)
■ Aufwand des Algorithmus
▪ Betrachtung der Aufzeichnung der lokalen Zustände
• O(e) Nachrichten, wobei e die Anzahl der Nachrichtenkanäle ist
• O(d) Zeit, wobei d der Durchmesser des Prozessgraphs darstellt
▪ Aufwand für Verteilung hängt von gewählter Strategie ab
19
Eigenschaften festgehaltener Schnappschüsse (1/6)
■ Festgehaltener Schnappschuss  globaler Zustand
Globaler Zustand S0
Globaler Zustand S2
Kanal 1
Kanal 1
M
Konto 1
Konto 2
Konto 1
Kanal 2
500 €
200 €
450 €
50
Kanal 2
Konto 2
M
25
175 €
e0
e2
Globaler Zustand S1
Globaler Zustand S3
Festgehaltener Schnappschuss S*
Kanal 1
Kanal 1
Kanal 1
Konto 1
50
M
Konto 2
Kanal 2
450 €
200 €
50
Konto 1
25
Kanal 2
475 €
M
Konto 2
175 €
Þ
Konto 1
Konto 2
Kanal 2
500 €
25
175 €
e1
Globaler Zustand S2
Globaler Zustand S3
Kanal 1
Kanal 1
Konto 1
50
M
Konto 2
Kanal 2
450 €
25
175 €
Konto 1
25 M
475 €
50
Konto 2
Kanal 2
175 €
20
Eigenschaften festgehaltener Schnappschüsse (2/6)
■ Fragestellung
1. Lässt sich der festgehaltene Zustand vom Initiierungszustand des
Algorithmus erreichen?
2. Lässt sich der Zustand bei Terminierung des Algorithmus vom
festgehaltenen Zustand erreichen?
■ Formale Definitionen
▪
▪
▪
▪
▪
▪
verteilte Berechnung seq = (ei, 0  i)
Si globaler Zustand unmittelbar vor Eintritt von ei, 0  i
S globaler Zustand bei Initiierung des Algorithmus
S globaler Zustand bei Terminierung des Algorithmus
S* festgehaltener Schnappschuss
Zu beweisen:
1. S* ist erreichbar von S
2. S ist erreichbar von S*
21
Eigenschaften festgehaltener Schnappschüsse (3/6)
■ Behauptung
▪ verteilte Berechnung seq' = (ei', 0  i) existiert, für die gilt:
1.
2.
3.
4.
i, i    i : ei' = ei
(ei',   i  ) ist Permutation von (ei,   i  )
i, i    i : Si' = Si
k,   k   : S* = Sk'
■ Vorgehensweise
▪ Einteilung aller Ereignisse in zwei Gruppen:
1. vor Aufzeichnung stattfindende Ereignisse, falls der lokale Zustand
des betroffenen Prozesses nach dem Eintreten aufgezeichnet wurde
2. nach Aufzeichnung stattfindende Ereignisse, falls der lokale Zustand
des betroffenen Prozesses vor dem Eintreten aufgezeichnet wurde
 ei, i   sind vor Aufzeichnung stattfindende Ereignisse
ei, i   sind nach Aufzeichnung stattfindende Ereignisse
22
Eigenschaften festgehaltener Schnappschüsse (4/6)
■ Vorgehensweise (Fortsetzung)
▪ nach Aufzeichnung stattfindendes ej-1 kann vor einem
vor Aufzeichnung stattfindendem ej stattfinden mit   j  
 Bedingung: ej-1 und ej ereignen sich auf verschiedenen Prozessen
■ Permutation der Ereignisse
▪ Ziel: alle vor Aufzeichnung stattfindenden Ereignisse liegen vor
den nach Aufzeichnung stattfindenden Ereignissen
S0
S0'
e0
e0 '
S1
S1'
e1
e 1'
S
S2
S2'
e2
e2'
S*
S3
S 3'
S
 durch Verschieben von e0 gilt S* = S2'
 Ist diese Permutation erlaubt?
Wird immer S* erreicht?
23
Eigenschaften festgehaltener Schnappschüsse (5/6)
■ Beweis, dass …
▪ Permutation erlaubt ist:
• Voraussetzung: ej-1 beeinflusst nicht ej
 in ej wird keine in ej-1 verschickte Nachricht empfangen
 Prozess des ej müsste zuvor einen Marker von dem Prozess des ej-1
erhalten haben
▪ ein zu S* äquivalenter globaler Zustand erreicht wird:
• lokale Zustände der Prozesse
◦ nach Definition muss der lokale Zustand eines Prozesses aus den vor
Aufzeichnung stattfindenden Ereignissen bestehen
• lokale Zustände der Nachrichtenkanäle
◦ nur bei Prozessen mit mehreren eingehenden Kanälen relevant
◦ Aufzeichnung eines Kanals c …
- beginnt nach Empfang eines Markers über den ersten weiteren Kanal
- und endet mit Empfang eines Markers über Kanal c selbst
 ergibt sich nach dem letzten vor Aufzeichnung stattfindenden Ereignis
24
Eigenschaften festgehaltener Schnappschüsse (6/6)
■ Gültigkeit globaler Prädikate in Schnappschüssen
▪ Betrachtung eines globalen Prädikats y(S)
• y(S)  endgültig und endgültig  y(S)
 Prädikat kann nur auf wahr wechseln
▪ Betrachtung eines Schnappschusses S*
• y(S)  y(S*)  y(S)
• Begründung, da S* von S und S von S* erreichbar ist
 ein in S* gültiges Prädikat ist auch nach Terminierung gültig
25
Agenda
■ Einleitung
■ Grundlagen
▪ Globale Zustände in verteilten Systemen
▪ Modell eines verteilten Systems
■ Festhalten von globalen Zuständen
▪ Chandy-Lamport Algorithmus
▪ Eigenschaften festgehaltener Schnappschüsse
■ Zusammenfassung
26
Zusammenfassung
■ Bedarf nach Möglichkeit Schnappschüsse zu erstellen
▪ Fortschritte in der Entwicklung machten verteilte Systeme möglich
▪ Gründe: globale Prädikate, Rücksetzpunkte und Testen
■ Chandy-Lamport Algorithmus
▪ konsistenter Schnappschuss
▪ Schnappschuss muss keinem realen globalen Zustand entsprechen
▪ aber aufgezeichneter Schnappschuss und Zustand bei Terminierung
sind von dem Zustand bei Initiierung erreichbar
 globale Prädikate sind auch nach Terminierung gültig
■ Modifikationen und Erweiterungen des Algorithmus
▪ bei schwächeren Annahmen an Nachrichtenkanäle
▪ parallele Ausführung des Algorithmus
▪ wiederholte Ausführung des Algorithmus
27
Vielen Dank für
Ihre Aufmerksamkeit!
Bestehen noch Fragen?