5 Numerische Iterationsverfahren

5 Numerische Iterationsverfahren
In diesem Kapitel besprechen wir numerische Iterationsverfahren (insbesondere Fixpunktverfahren) als eine weitere Lösungsmethode zur Lösung von linearen Gleichungssystemen
(Kapitel 4) sowie zur Lösung von nicht-linearen Gleichungen (siehe Kapitel 2). Das zentrale
Hilfsmittel ist der Banachsche Fixpunktsatz, der als Voraussetzung eine Fixpunktformulierung der Aufgabenstellung verlangt. Alle Resultate dieses Kapitels werden direkt für
den höherdimensionalen Fall hergeleitet.
5.1 Der Banachsche Fixpunktsatz
In dem ganzen Kapitel betrachten wir Iterationen der Art
x0 ∈ Rn ,
xk+1 = g(xk ),
k = 0, 1, 2, . . . ,
mit einer Abbildung g(·) : Rn → Rn . Ein Punkt x ∈ Rn heißt Fixpunkt, falls g(x) = x.
Beispiel 5.1 (Newton-Verfahren als Fixpunktiteration). Zur Lösung eines nicht-linearen
Gleichungssystems im Rn sei
fi (x1 , . . . , xn ) = 0,
i = 1, . . . , n,
oder in kurzer Schreibweise:
f (x) = 0
mit f = (f1 , . . . , fn )T und (x1 , . . . , xn )T . Dann lässt sich das vereinfachte Newton-Verfahren
schreiben als
xk+1 = xk + C −1 f (xk ), k = 0, 1, 2, . . .
mit einer Matrix C ∈ Rn×n . Das Standard Verfahren von Newton verlangt die erste Ableitung, so dass C := f ′ (xk ) ∈ Rn×n . Die Berechnung der höherdimensionalen Ableitung
zeigen wir später.
Im Folgenden sei k·k eine beliebige Vektornorm auf Rn und k·k die entsprechende natürliche
Matrizennorm. Die ausführliche Diskussion der entsprechenden Eigenschaften findet der
aufmerksame Leser in Kapitel 4.
Zunächst rekapitulieren wir die bereits aus der Analysis bekannte Lipschitz-Stetigkeit einer
Funktion:
187
5 Numerische Iterationsverfahren
Definition 5.2 (Lipschitz-Stetigkeit, Kontraktion). Es sei G ⊂ Rn eine nichtleere abgeschlossene Menge. Eine Abbildung g : G → Rn wird Lipschitz-stetig genannt, falls
kg(x) − g(y)k ≤ qkx − yk,
x, y ∈ G,
mit q > 0. Falls 0 < q < 1, so nennt man g eine Kontraktion auf G.
Zur Rekapitulation:
Bemerkung 5.3. Differenzierbarkeit ⇒ absolute Stetigkeit ⇒ Lipschitz-Stetigkeit ⇒
gleichmäßige Stetigkeit ⇒ Stetigkeit.
Zum Beispiel ist die Wurzelfunktion f (x) =
nicht Lipschitz-stetig.
√
x auf [0, 1] zwar gleichmäßig stetig aber
Der Banachsche Fixpunktsatz besagt nun, dass jede Selbstabbildung g : G → G, welche
eine Kontraktion ist, einen Fixpunkt besitzt:
Satz 5.4 (Banach’scher Fixpunktsatz). Es sei G ⊂ Rn eine nichtleere und abgeschlossene
Punktmenge und g : G → G eine Lipschitz-stetige Selbstabbildung, mit Lipschitz-Konstante
q < 1 (also eine Kontraktion).
• Dann existiert genau ein Fixpunkt z ∈ G von g und die Iterationsfolge (xk )k konvergiert für jeden Startpunkt x0 ∈ G, so dass xk → z für k → ∞.
• Es gilt die a priori Abschätzung:
kxk − zk ≤
qk
kx1 − x0 k.
1−q
• Es gilt die a posteriori Abschätzung:
kxk − zk ≤
q
kxk − xk−1 k.
1−q
Beweis:
(i) Existenz eines Grenzwertes. Da g eine Selbstabbildung in G ist, sind alle Iterierten
xk = g(xk−1 ) = . . . = g k (x0 ) bei Wahl eines beliebigen Startpunkts x0 ∈ G definiert.
Aufgrund der Kontraktionseigenschaft gilt:
kxk+1 − xk k = kg(xk ) − g(xk−1 )k ≤ qkxk − xk−1 k ≤ . . . ≤ q k kx1 − x0 k.
188
5.1 Der Banachsche Fixpunktsatz
Wir zeigen, dass (xk )k eine Cauchy-Folge ist. Für jedes l ≥ m erhalten wir:
kxl − xm k ≤ kxl − xl−1 k + . . . + kxm+1 − xm k
≤ (q l−1 + q l−2 + . . . + q m )kx1 − x0 k
1 − q l−m 1
kx − x0 k
1−q
1
kx1 − x0 k → 0
≤ qm
1−q
(5.1)
= qm
(l ≥ m → 0).
D.h., (xl )l∈N ist eine Cauchy-Folge. Da alle Folgenglieder in G liegen und G als abgeschlossene Teilmenge des Rn vollständig ist, existiert der Grenzwert xl → z ∈ G.
(ii) Fixpunkteigenschaft. Als zweites weisen wir nach, dass z tatsächlich ein Fixpunkt von
g ist. Aus der Stetigkeit von g folgt mit xk → z auch g(xk ) → g(z). Dann gilt für die
Iteration xk+1 := g(xk ) bei Grenzübergang
z ← xk+1 = g(xk ) → g(z) (k → ∞).
(iii) Eindeutigkeit. Die Eindeutigkeit folgt aus der Kontraktionseigenschaft. Es seien z und
ẑ zwei Fixpunkte von g. Dann ist
kz − ẑk = kg(z) − g(ẑ)k ≤ qkz − ẑk.
Dies kann wegen q < 1 nur dann gültig sein, wenn kz − ẑk = 0, d.h. z = ẑ ist. Damit ist
der Fixpunkt eindeutig.
(iv) A priori Fehlerabschätzung. Es gilt mit (5.1)
kz − xm k ←−−− kxl − xm k ≤ q m
l→∞
1
kx1 − x0 k.
1−q
(v) A posteriori Fehlerabschätzung. Es gilt wieder mit (5.1):
kxm − zk ≤ q
1
kxm − xm−1 k.
1−q
Zur Anwendung des Banachschen Fixpunktsatzes auf eine Abbildung g : G ⊂ Rn → Rn
müssen die beiden Voraussetzungen Selbstabbildung sowie Kontraktionseigenschaft nachgewiesen werden. Angenommen, g sei eine Kontraktion. Dann müssen wir die Existenz
einer abgeschlossenen und nichtleeren Teilmenge von G nachweisen, welche von der Abbildung g auf sich selbst abgebildet wird. Angenommen, auf der Kugel
Kρ (c) := {x ∈ Rn | kx − ck ≤ ρ},
ρ > 0, c ∈ Rn ,
sei g eine Kontraktion mit Lipschitz-Konstante q < 1. Dann gilt für x ∈ Kρ (c):
kg(x) − ck ≤ kg(x) − g(c)k + kg(c) − ck,
189
5 Numerische Iterationsverfahren
wobei kg(x) − g(c)k ≤ qρ. Falls zusätzlich gilt:
kg(c) − ck ≤ (1 − q)ρ,
dann ist
kg(x) − ck ≤ qρ + (1 − q)ρ = ρ
und g bildet in sich selbst ab.
Als nächstes rekapitulieren wir den Schrankensatz, der die erste Ableitung (partielle Ableitung) mit der Lipschitz-Stetigkeit verknüpft:
Satz 5.5 (Schrankensatz). Die Abbildung g : G → Rn sei stetig differenzierbar auf der
konvexen Menge G. Dann gilt
kg(x) − g(y)k ≤ sup kg ′ (ξ)k kx − yk,
ξ∈G
x, y ∈ G,
mit der partiellen Ableitung (Jacobi-Matrix, weiter unten ausführlicher)
g ′ (x) =
∂gi
∂xj
!
i,j=1,...,n
∈ Rn×n .
Falls supξ∈G kg ′ (ξ)k < 1, dann ist g eine Kontraktion auf G. Insbesondere gilt in 1D auf
dem Intervall G := [a, b]:
q := max |g ′ (ξ)|.
ξ∈[a,b]
Beweis: Der 1D-Fall ist ein Spezialfall des höher-dimensionalen Falles. Aufgrund seiner
Einfachheit beweisen wir in separat.
(i) Der eindimensionale Fall. Es seien x, y ∈ [a, b]. Nach dem reellen Mittelwertsatz gibt
es ein ξ ∈ [a, b], so dass
|g(x) − g(y)| = |g ′ (ξ)(x − y)| = |g ′ (ξ)| |x − y| ≤ q|x − y|.
(ii) Der n-dimensionale Fall. Es seien x, y ∈ G. Wir setzen aus Normierungsgründen für
i = 1, . . . , n:
φi (s) := gi (x + s(y − x)), 0 ≤ s ≤ 1.
Dann gilt
gi (x) − gi (y) = φi (1) − φi (0) =
Für die Ableitung gilt
φ′i (s) =
n
X
∂gi
j=1
190
∂xj
Z 1
φ′ (s) ds.
0
(x + s(y − x))(y − x)j .
5.1 Der Banachsche Fixpunktsatz
Hiermit und den Stetigkeitseigenschaften der Vektornorm (eine Norm ist immer eine stetige
Abbildung!) folgt
Z 1
g ′ (x + s(y − x)) · (y − x) ds
kg(y) − g(x)k = ≤
0
Z 1
0
kg ′ (x + s(y − x))k ds ky − xk
≤ sup kg ′ (ξ)k ky − xk.
ξ∈G
Zusammenfassen der Ergebnisse liefert das wichtige:
Korollar 5.6. Zu jedem Fixpunkt z ∈ G der Abbildung g mit kg ′ (z)k < 1 gibt es eine
Umgebung
Kρ = {x ∈ Rn | kx − zk ≤ ρ} ⊂ G,
so das g eine Kontraktion von Kρ (z) in sich selbst ist.
Beispiel 5.7 (Konvergenz zur Lösung nicht-linearer Gleichungen). Zu f :∈ Rn → Rn
suchen wir eine Nullstelle x ∈ Rn mit f (x) = 0. Mit einer Matrix C ∈ Rn×n definieren
wir die Iteration:
x0 ∈ Rn ,
xk+1 = xk + C −1 f (xk ),
k = 0, 1, 2, . . .
Dieses Verfahren konvergiert, falls f auf einer Kugel Kρ (c) ⊂ Rn stetig differenzierbar ist
und
sup kI + C −1 f ′ (ζ)k =: q < 1, kC −1 f (c)k ≤ (1 − q)ρ.
ζ∈Kρ (c)
Beispiel 5.8 (Lösung linearer Gleichungssysteme). Es seien A ∈ Rn×n und b ∈ Rn
gegeben. Das lineare Gleichungssystem ist äquivalent zur Nullstellenaufgabe
f (x) := b − Ax = 0.
Die iterative Lösung (im Gegensatz zur direkten Lösung) kann mit einer regulären Matrix
C ∈ Rn×n als Fixpunktaufgabe hergeleitet werden:
x = g(x) := x + C −1 f (x) = x + C −1 (b − Ax) = (I − C −1 A)x + C −1 b.
Die Matrix B := I − C −1 A nennen wir die Iterationsmatrix der zugehörigen Fixpunktiteration (auch sukzessive Approximation genannt):
xk+1 = Bxk + C −1 b,
k = 1, 2, . . . .
Die Abbildung g ist wegen
kg(x) − g(y)k = kB(x − y)k ≤ kBkkx − yk
für kBk < 1 mit B := I − C −1 A eine Kontraktion auf ganz Rn . Dann konvergiert die
Iterationsfolge gegen einen Fixpunkt von g und somit zur Lösung von Ax = b.
191
5 Numerische Iterationsverfahren
Bemerkung 5.9. Später werden wir mit Hilfe des Banachschen Fixpunktsatzes verschiedene Verfahren zur iterativen Lösung von linearen Gleichungssystemen herleiten.
Bemerkung 5.10. Die Konvergenzanalyse der Fixpunktverfahren kann mit Hilfe der bereits diskutieren Techniken in Kapitel 2.6 durchgeführt werden.
5.2 Fixpunkt-Iterationen zum Lösen von nichtlinearen
Gleichungen
Wir rekapitulieren aus Kapitel 2, dass das klassische Newton-Verfahren in einer Dimension
als Fixpunktiteration aufgefasst werden kann. Die Newton-Iteration gehört zur Klasse der
Fixpunktiterationen mit der Iterationsfunktion
F (x) := x −
f (x)
.
f ′ (x)
(5.2)
Jeder Fixpunkt z = F (z) ist offenbar eine Nullstelle f (z) = 0.
5.2.1 Newton-Verfahren im Rn
Aufgrund seiner herausragenden Bedeutung widmen wir dem Newton-Verfahren für höhere Dimensionen einen eigenen Abschnitt. Die prinzipiellen Aussagen (Existenz, quadratische Konvergenz, gedämpftes Newton-Verfahren, vereinfachtes Newton-Verfahren) sind
mit dem 1D-Fall vergleichbar.
Es sei f : D ⊂ Rn → Rn . Zur Lösung von f (x) = (f1 (x), . . . , fn (x)) = 0 lautet die
Newton-Iteration formal:
x0 ∈ Rn ,
xk+1 = xk − f ′ (xk )−1 f (xk ),
k = 0, 1, 2, . . .
(5.3)
Die Ableitung f ′ (x) : Rn → Rn×n ist die Jacobi-Matrix von f :
f ′ (x)ij =
∂fi
,
∂xj
i, j = 1, . . . , n.
Die Tatsache, dass die Ableitung von f im mehrdimensionalen Fall eine Matrix ist, stellt
den wesentlichen Unterschied zum eindimensionalen Newton-Verfahren dar. Anstelle einer
Ableitung sind nun n2 Ableitungen zu berechnen. Und anstelle einer Division durch f ′ (xk )
ist in jedem Schritt der Newton-Iteration ein lineares Gleichungssystem mit Koeffizientenmatrix f ′ (xk ) ∈ Rn×n zu lösen. Wir multiplizieren in (5.3) mit f ′ (xk ) und erhalten
x0 ∈ Rn ,
f ′ (xk )xk+1 = f ′ (xk )xk − f (xk ),
k = 0, 1, 2, . . .
Das Newton-Verfahren wird als Defektkorrektur-Verfahren durchgeführt. So kann in jedem
Schritt der Aufwand einer Matrix-Vektor Multiplikation gespart werden:
192
5.2 Fixpunkt-Iterationen zum Lösen von nichtlinearen Gleichungen
Definition 5.11 (Newton-Verfahren als Defektkorrektur). Wähle Startwert x0 ∈ Rn und
iteriere:
f ′ (xk )δx = dk ,
dk := −f (xk ),
xk+1 = xk + δx,
k = 0, 1, 2, . . . .
Im Folgenden diskutieren wir kurz das Aufstellen der Jacobi-Matrix. Die Funktion f besitzt
n Komponentenfunktionen fi und n unterschiedliche Variablen x1 , . . . , xn . Jede Änderung
in einer Komponentenfunktion fi bezüglich der Variablen xj wird durch die partielle Ableitung (Analysis 2) beschrieben:
∂fi
.
∂xj
Letztendlich erhalten wir somit eine n × n Matrix:

∂f1
1
 ∂x
 ∂f2
 ∂x1
f (x) =  .
 ..

′
∂fn
∂x1

∂f1
∂x2
∂f2
∂x2
..
.
...
...
..
.
∂fn
∂x1
∂f2
∂xn
∂fn
∂x2
...
∂fn
∂xn .



.. 
. 

5.2.2 Newton-Kantorovich
Die zentrale Konvergenzaussage des Newton-Verfahrens wird im Satz von Newton-Kantorovich
zusammengefasst. Hierzu sei f : G ⊂ Rn → Rn eine differenzierbare Abbildung. Mit k · k
bezeichnen wir stets die euklidische Vektornorm und induzierte Matrixnorm, also die Spektralnorm. Wir suchen eine Nullstelle z ∈ Rn so dass f (z) = 0.
193
5 Numerische Iterationsverfahren
Satz 5.12 (Newton-Kantorovich). Es sei D ⊂ Rn eine offene und konvexe Menge. Weiterhin sei f : D ⊂ Rn → Rn stetig-differenzierbar.
(i) Die Jacobi-Matrix f ′ sei gleichmäßig Lipschitz-stetig für alle x, y ∈ D:
kf ′ (x) − f ′ (y)k ≤ γkx − yk,
x, y ∈ D.
(5.4)
(ii) Weiter habe die Jacobi-Matrix auf D eine gleichmäßig beschränkte Inverse
kf ′ (x)−1 k ≤ β,
x ∈ D.
(5.5)
α := kf ′ (x0 )−1 f (x0 )k.
(5.6)
(iii) Es gelte für den Startpunkt x0 ∈ D:
1
q := αβγ < ,
2
(iv) Für r := 2α ist die abgeschlossene Kugel
Br (x0 ) := {x ∈ Rn : kx − x0 k ≤ r}
in der Menge D enthalten.
Dann besitzt die Funktion f eine Nullstelle z ∈ Br (x0 ) und die Newton-Iteration
f ′ (xk )δx = dk ,
dk := −f (xk ),
xk+1 = xk + δx,
k = 0, 1, 2, . . . .
konvergiert quadratisch gegen diese Nullstelle z. Darüber hinaus gilt die a priori Fehlerabschätzung
k
kxk − zk ≤ 2αq 2 −1 , k = 0, 1, . . . .
Beweis: Der Beweis zum Satz ist weitaus aufwändiger als im eindimensionalen Fall, daher
geben wir zunächst eine Skizze an:
(i) Herleitung von Hilfsabschätzungen.
(ii) Alle Iterierten liegen in der Kugel Br (x0 ) und es gilt die a priori Fehlerabschätzung
für kxk − x0 k (Beweis über vollständige Induktion).
(iii) Zeige (xk )k∈N ist Cauchy-Folge und hat damit in Rn einen eindeutigen Grenzwert z.
(iv) Existenz einer Nullstelle: Zeige, dass z eine Nullstelle der Funktion f ist.
(v) Eindeutigkeit: Zeige, dass die Nullstelle z eindeutig ist.
Nun zum ausführlichen Beweis:
(i) Herleitung von Hilfsabschätzungen:
Es seien x, y, z ∈ D. Da D konvex ist, gilt für alle x, y ∈ D:
fj (x) − fj (y) =
194
Z 1
d
0
ds
fj (sx + (1 − s)y) ds,
j = 1, . . . , n.
5.2 Fixpunkt-Iterationen zum Lösen von nichtlinearen Gleichungen
Mit der Kettenregel erhalten wir
n
X
d
∂fj
sx + (1 − s) (xk − yk )
fj (sx + (1 − s)y) =
ds
∂xk
k=1
und damit
fj (x) − fj (y) =
Z 1X
n
∂fj
0 k=1
∂xk
sx + (1 − s)y (xk − yk ) ds.
In kompakter Schreibweise bedeutet dies:
f (x) − f (y) =
Z 1
0
f ′ (sx + (1 − s)y)(x − y) ds.
Unter Hinzunahme von f ′ (z)(y − x) folgern wir nun, dass
f (x) − f (y) − f ′ (z)(y − x) =
Z 1
0
f ′ (sx + (1 − s)y) − f ′ (z) (x − y) ds.
Mit Hilfe der Lipschitz-Stetigkeit von f ′ , Bedingung (5.4), folgern wir
kf (y) − f (x) − f ′ (z)(y − x)k ≤ γky − xk
≤
Z 1
0
ks(x − z) + (1 − s)(y − z)k ds
γ
ky − xk kx − zk + ky − zk .
2
Für die Wahl z = x schließen wir damit auf
kf (y) − f (x) − f ′ (x)(y − x)k ≤
γ
ky − xk2 ,
2
∀x, y ∈ D.
(5.7)
∀x, y ∈ Br (x0 ).
(5.8)
Und für die die Wahl z = x0 erhalten wir:
kf (y) − f (x) − f ′ (x0 )(y − x)k ≤ rγky − xk,
(ii) Wir zeigen: alle Iterierten liegen in Br (x0 ) und es gilt die a priori Fehlerabschätzung
für kxk − x0 k. Wir führen den Beweis über vollständige Induktion und zeigen:
kxk − x0 k ≤ r,
kxk − xk−1 k ≤ αq 2
k −1
,
k = 1, 2, . . . .
(5.9)
Wir starten mit k = 1. Es gilt mit Hilfe der Bedingungen (5.5) und (5.6):
kx1 − x0 k = kf ′ (x0 )−1 f (x0 )k = α =
r
< r.
2
Die Aussage ist also wahr.
Induktionsschritt k → k + 1. Nach Induktionsvoraussetzung seien die beiden Gleichungen
(5.9) wahr für k ≥ 1. Das ist aufgrund der Bedingung (5.5) und xk ∈ Br (x0 ) ⊂ D,
die Iterierte xk+1 wohl-definiert. Dann gilt unter Ausnutzung von Bedingung (5.5), der
195
5 Numerische Iterationsverfahren
Newton-Iteration für xk und Abschätzung (5.7), der Induktionsvoraussetzung (5.9) und
der Definition von q folgende Abschätzungskette:
kxk+1 − xk k = kf ′ (xk )−1 f (xk )k
≤ β kf (xk )k
= βkf (xk ) − f (xk−1 ) − f ′ (xk−1 )(xk − xk−1 )k
βγ k
≤
kx − xk−1 k2
2
βγ h 2k−1 −1 i2
αq
≤
2
α k
= q 2 −1
2
k
< αq 2 −1 .
Weiter erhalten wir
kxk+1 − x0 k ≤ kxk+1 − xk k + . . . + kx1 − x0 k
≤ α 1 + q + q3 + q7 + . . . + q2
α
≤
1−q
≤ 2α
k −1
= r.
Damit ist der Induktionsschritt von k → k + 1 gezeigt, d.h., die beiden Ungleichungen
(5.9) sind gültig für k + 1.
(iii) Existenz eines Grenzwertes xk → z durch Nachweis der Cauchy-Eigenschaft:
Es sei m > 0. Unter Ausnutzung von q < 21 (Voraussetzung!) gilt
kxk − xk+m k ≤ kxk − xk+1 k + . . . + kxk+m−1 − xk+m k
≤ α q2
= αq 2
k −1
k −1
≤ 2αq 2
+ q2
k+1 −1
k
+ . . . + q2
k
m+k−1 −1
1 + q 2 + . . . + (q 2 )2
k −1
m−1 −1
(5.10)
Damit ist gezeigt, dass (xk ) ⊂ D0 eine Cauchy-Folge ist, da q < 21 . Da D endlichdimensional (hier ist jeder Raum ein Banachraum - also vollständig!), existiert der Limes
z = lim xk
k→∞
Im Grenzübergang k → ∞ erhalten wir dann in der ersten Ungleichung in (5.9):
kz − x0 k ≤ r,
so dass z ∈ Br (x0 ). Im Grenzübergang m → ∞ in (5.10), verifizieren wir die Fehlerabschätzung des Satzes:
k
kxk − zk ≤ 2αq 2 −1 , k = 0, 1, . . . .
196
5.2 Fixpunkt-Iterationen zum Lösen von nichtlinearen Gleichungen
(iv) Zeige, dass z ∈ Br (x0 ) eine Nullstelle von f ist:
Die Newton-Iterationsvorschrift sowie Bedingung (5.4) liefern
kf (xk )k = kf ′ (xk )(xk − xk−1 )k
≤ kf ′ (xk ) − f ′ (x0 ) + f ′ (x0 )k kxk+1 − xk k
≤ γkxk − x0 k + kf ′ (x0 )k kxk+1 − xk k
→ 0,
k → ∞.
Daher gilt
f (xk ) → 0,
k → ∞.
Die Stetigkeit von f impliziert dann f (z) = 0.
(v) Eindeutigkeit der Nullstelle z ∈ Br (x0 ):
Die Eindeutigkeit wird mit Hilfe der Kontraktionseigenschaft und der Formulierung der
Newton-Iteration als Fixpunktiteration gezeigt. Die gefundene Nullstelle xk → z von f (x)
ist auch Fixpunkt der vereinfachten Iteration:
ḡ(x) := x − f ′ (x0 )−1 f (x).
Diese Iteration ist eine Kontraktion, denn aus
ḡ(x) − ḡ(y) = x − y − f ′ (x0 )−1 f (x) + f ′ (x0 )−1 f (y) = f ′ (x0 )−1 (f (y) − f (x) − f ′ (x0 )(y − x)),
folgt mit den Bedingungen (5.5) und (5.6) sowie (5.8) die Abschätzung:
kḡ(x) − ḡ(y)k ≤ ββγrky − xk ≤ 2qky − xk,
∀x, y ∈ Br (x0 ).
Da q < 12 ist ḡ eine Kontraktion. Eine Kontraktionsabbildung kann höchstens einen
Fixpunkt haben. Da dieser Fixpunkt die Nullstelle von f ist, haben wir die Nullstelle
z ∈ Br (x0 ) eindeutig bestimmt. Damit ist alles gezeigt.
Bemerkung 5.13. Der Satz von Newton-Kantorovich unterscheidet sich in einigen Punkten wesentlich von Satz 2.10 über das eindimensionale Newton-Verfahren. Der wesentliche
Unterschied ist die Regularität von f , welches beim Newton-Kantorovich nur über eine
Lipschitz-stetige Jacobi-Matrix anstelle von zweimal stetiger Differenzierbarkeit verfügen
muss. Ferner muss die Existenz einer Nullstelle nicht vorausgesetzt werden, sie folgt beim
Newton-Kantorovich als Ergebnis des Satzes.
Daher nun eine der Hauptanwendungen des vorherigen Satzes 5.12: das folgende lokale
Konvergenzresultat:
Korollar 5.14. Es sei D ⊂ Rn offen und f : D ⊂ Rn → Rn zweimal stetig-differenzierbar.
Wir nehmen an, dass z ∈ D eine Nullstelle mit regulärer Jacobi-Matrix f ′ (z) ist. Dann
ist das Newton-Verfahren lokal konvergent, d.h. es existiert eine Umgebung B um z, so
dass das Newton-Verfahren für alle Startwerte x0 ∈ B konvergiert.
197
5 Numerische Iterationsverfahren
Beweis: Den Beweis stellen wir als Übungsaufgabe.
Korollar 5.15. Korollar 5.14 stellt den Zusammenhang zu dem ein-dimensionalen Resultat her: Dazu sei z ∈ G eine Nullstelle von f und k · k∞ die Maximumsnorm. Damit
können die Konstanten
1
m= , M =γ
β
bestimmt werden. Dann kann gilt zusätzlich zur a priori Fehlerabschätzung, die a posteriori
Schranke:
kxk − zk∞ ≤
M k
1
kf (xk )k∞ ≤
kx − xk−1 k2∞ ,
m
2m
k = 1, 2, . . . .
Beispiel 5.16. Newton im Rn Wir suchen die Nullstelle der Funktion
f (x1 , x2 ) =
!
1 − x2 − y 2
,
(x − 2y)/(1/2 + y)
mit der Jacobi-Matrix
f ′ (x) =
−2x
2
1+2y
−2y
4+4x
− (1+2y)
2
!
.
Die Nullstellen von f ist gegeben durch:
x ≈ ±(0.894427, 0.447214).
Wir starten die Iteration mit x0 = (1, 1)T und erhalten die Iterierten:
1
x ≈
!
1.14286
,
0.357143
2
x ≈
!
0.92659
,
0.442063
3
x ≈
Nach nur vier Iterationen sind die ersten sechs Stellen exakt.
198
!
0.894935
,
0.447349
4
x ≈
!
0.894427
.
0.447214