Prof. Dr. A. Voigt Institut f ur Wissenschaftliches Rechnen SS 2012 Ubungsaufgaben Numerische Mathematik II\ " 07.-11. Mai 2012 (Optimierungsaufgaben) Aufgaben mit sind Zusatzaufgaben. 3. Ubungsblatt: 1. Eine Menge S Rn heit konvexe Menge, falls mit beliebigen Punkten x; y 2 S auch stets die gesamte Verbindungsstrecke [x; y ] := fz := (1 )x + y : 2 [0; 1]g in S enthalten ist, d.h. x; y 2 S ) [x; y ] S . Sei im folgenden S oene, konvexe Menge. Eine Funktion f : S ! R heit konvex, falls x; y 2 S ) f ((1 )x + y) (1 )f (x) + f (y); gilt und f heit streng konvex, falls 8 2 [0; 1] x; y 2 S; x 6= y ) f ((1 )x + y) < (1 )f (x) + f (y); 8 2 (0; 1): Zeigen Sie (a) Ist die Funktion f dierenzierbar, dann ist f genau dann konvex uber S , wenn f (y) f (x) + hf 0 (x); y xi; fur alle x; y 2 S gilt. (b) Ist f 2 C 2 (S ) (also zweimal stetig dierenzierbar in S ), dann ist f genau dann konvex uber S , wenn f 00 (x) ist positiv semidenit fur alle x 2 S: (c) Es seien gi : S ! R; i = 1 : m konvexe Funktionen. Die Menge G := fx 2 S : g (x) 0; i = 1 : mg i bildet dann eine konvexe Menge. (d) Die Funktion f sei konvex uber Rn und dierenzierbar. Dann ist die Bedingung f 0 (x ) = 0 notwendig und hinreichend dafur, dass x eine lokale Losung von f (x) ! min; x 2 Rn ist. 2. Welche der folgenden Funktionen sind konvex, streng konvex, konkav oder streng konkav in R2 , bzw. R3 ? (a) f1 (x1 ; x2 ) := x21 + 2x1 x2 10x1 + 5x2 (b) f2 (x1 ; x2 ; x3 ) := x1 x2 + 2x21 + x22 + 2x23 + 3x1 x3 x2 x3 Bemerkung: f ist konkav , f ist konvex. 3. 4. Sei k k eine beliebige Norm auf Rn und y 2 Rn . Zeigen Sie, dass die Funktion f (x) := kx yk konvex, aber nicht streng konvex auf Rn ist und dass die Niveaumengen von f kompakt sind. Eine quadratische Funktion q : Rn ! R sei durch 1 2 q(x) := x> Ax + b> x + c gegeben, mit einer symmetrischen Matrix A 2 Rnn ; b 2 Rn und c 2 R. 5. (a) Berechnen Sie den Gradienten und die Hessematrix von q . Versuchen Sie dies, ohne die Funktion komponentenweise abzuleiten. (b) Sei A positiv denit, d.h. x> Ax > 0 8x 6= 0, und x := A 1 b. Zeigen Sie, dass x das globale Minimum von q ist. Fuhren Sie von x0 = (1:2; 1)> ausgehend zwei Schritte des Newtonverfahrens zur Losung des Rosenbrock-Problems f (x) := (x1 x21 )2 ! min 1)2 + 100(x2 bei x 2 R2 aus. 6. Fur ein Abstiegsverfahren xk+1 = xk + k dk mit den Richtungen dk := f 0 (xk ) (Gradientenverfahren) wahle man das k gema dem Armijo-Prinzip. Dazu sei eine Testmenge k K := f2 j gjjmax =0 R+ und jmax > 0 fest vorgegeben. Die Schrittweite bestimme man nun durch := maxf 2 K : f (x + d ) f (x ) + hf 0 (x ); d k k k k k k ig fur ein festes 2 (0; 1). Mit Hilfe dieses Verfahrens ist die Aufgabe f (x) := x21 + x1 x2 + (1 + x2 )2 ! min bei x 2 R2 zu behandeln. Dabei sei x0 = (1; 1)> als Startvektor vorgegeben und man fuhre einige Schritte mit der obigen Armijo-Schrittweitenwahl mit = 0:3 und jmax = 4 durch. Man vergleiche dies mit einem Gradientenabstieg mit fester Schrittweite k 1. 7. Gegeben sei die Optimierungsaufgabe f (x) := 2x21 + x22 ! min bei x 2 G := fx 2 R2 : 1 x1 x2 0g; und wir wahlen eine Straunktion w (x) := r (maxf0; 1 x1 k k x2 g)2 mit Parametern rk > 0; rk ! 1: Man stelle das unrestringierte Ersatzproblem T (x) := f (x) + w (x) ! min k k bei x 2 R2 auf und bestimme die kritischen Punkte xk , fur die gilt rTk (xk ) = 0. Weiterhin bestimme man den Grenzwert xk ! x (sofern er existiert) und untersuche die Kondition der auftretenden linearen Gleichungssysteme. 8. Minimiere f (x) := x unter der Nebenbedingung x 1 = 0; x 2 R. Stelle dazu eine Ersatzzielfunktion T (x; r) mit Hilfe einer geeigneten Straunktion und einem PenaltyParameter r > 0 auf. Man skizziere die neue Zielfunktion fur verschiedene Parameter r und bestimme die Losung des ursprunglichen Problems.