ES1Fol4

Ingo Rechenberg
PowerPoint-Folien zur 4. Vorlesung „Evolutionsstrategie I“
Vier elementare Optimierungsstrategien auf dem Prüfstand
x
?
4 Strategie
Strategien
Qualitätsmessung
Versuchsobjekt
Verstellbarkeit
1. Globale deterministische Suche
Experimentierkreis
2. Globale stochastische
Suche
3. Lokale deterministische Suche
4. Lokale stochastische Suche
Q
Versuchsfeld
Experimentator
Auf der Suche nach dem Optimum
m
1
m
1
1. Globale deterministische Suche
Systematisches Abscannen des Variablenraums
G ( 2 )  m2
G( n)  mn
m
1
m
1
2. Globale stochastische Suche
Zum Finden des Ziels mit 95% Wahrscheinlichkeit
(2)
2
G  3m
G
( n)
n
 3m
Linearitätsradius
y
x
3. Lokale deterministische Suche
Wandern entlang des steilsten Anstiegs

(2)
grad


3
( n)
grad



n 1
Nachkomme (+)
Elter
Nachkomme ( )
Linearitätsradius
4. Lokale stochastische Suche
Zufallsdriften entlang des steilsten Anstiegs

(2)
evo
 


( n)
evo
1



2
n
n >> 1
Randverteilte Zufallsmutationen
( n)
evo


( n )
2
2  (n  1 )
2
Volumenverteilte Zufallsmutationen

n


2  (n  1 ) n  1
2
2
{
( n)
evo
( n )
Volumen einer n-dimensionalen Kugel
Oberfläche einer n-dimensionalen Kugel
V
( n)
O
n/2
n


R
n n
2Γ 2
( )
( n)
n/2
n 1

2
R
n
Γ 2
( )
1,0
90
r
0,5
1
Volumen-Verteilung
1
20
40
60
80
n
100
Zur Geometrie der n-dimensionalen Kugel
Gradientenstrategie kontra Evolutionsstrategie
Für n >> 1
( n)
grad


n

( n)
evo
1



2
n
1/n
Gradientenstrategie
kontra
1/ n
Evolutionsstrategie
Lineare lokale Klettertheorie in einer stark kausalen Optimierungslandschaft
Der Dumme, der einfach losgeht,
kommt weiter als der Schlaue, der
sitzen bleibt und sich vor lauter
Nachdenken nicht entscheiden kann.
Motto des Evolutionsstrategen
10 klassische Optimierungsstrategien
1. Gauß-Seidel-Strategie
2. Strategie von Hooke und Jeeves
3.
4.
5.
6.
Rosenbrock-Strategie
Strategie von Davis, Swann und Campey (DSC)
Simplex-Strategie von Nelder/Mead
Complex-Strategie von Box
7. Powell-Strategie
8. Newton-Strategie
9. Strategie von Steward
10. Strategie von Davidon, Fletcher und Powell (DFP)
Aktuell: SQP-Verfahren
(Sequential Quadradic Approximation)
x3
x2
x1
Elementare Gradientenstrategie
x3
x2
x1
Extrapolierende Gradientenstrategie
x3
x2
x1
Gauß-Seidel- oder Koordinatenstrategie
x3
3
6
2
1
x2
4
5
x1
Simplex-Strategie von Nelder/Mead
Algorithmus der (1+1)-ES
g
g
xN  xE   z
x Eg 1 
{
g
xNg für Q( xNg )  Q( xEg )
x Eg sonst
Beliebig groß ?

( n)
evo
1



2
n
Wo ist das Optimum ???
evo
Ende der Linearität
Globale stochastische Suche
Suche nach dem maximalen Fortschritt
Ende