1 Grundlagen Themen: ◮ Gleitpunktzahlen und Maschinengenauigkeit Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? 1 Grundlagen Themen: ◮ Gleitpunktzahlen und Maschinengenauigkeit ◮ Vektor- und Matrizennormen Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? 1 Grundlagen Themen: ◮ Gleitpunktzahlen und Maschinengenauigkeit ◮ Vektor- und Matrizennormen ◮ Stabilität linearer Gleichungssysteme Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? 1.1 Gleitpunktarithmetik und Rundungsfehler Eine Gleitpunktzahl, auch Gleitkommazahl genannt, im Dezimalsystem ist von der Form x = 0.d1 d2 . . . dt ×10k , di ∈ {0, 1, . . . , 9}, (= t gültige Stellen) Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? 1.1 Gleitpunktarithmetik und Rundungsfehler Eine Gleitpunktzahl, auch Gleitkommazahl genannt, im Dezimalsystem ist von der Form x = 0.d1 d2 . . . dt ×10k , di ∈ {0, 1, . . . , 9}, (= t gültige Stellen) mit d1 6= 0 für x 6= 0 und − m ≤ k ≤ m. Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? 1.1 Gleitpunktarithmetik und Rundungsfehler Eine Gleitpunktzahl, auch Gleitkommazahl genannt, im Dezimalsystem ist von der Form x = 0.d1 d2 . . . dt ×10k , di ∈ {0, 1, . . . , 9}, (= t gültige Stellen) mit d1 6= 0 für x 6= 0 und − m ≤ k ≤ m. Es gibt also nur endlich viele Gleitpunktzahlen! Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? 1.1 Gleitpunktarithmetik und Rundungsfehler Eine Gleitpunktzahl, auch Gleitkommazahl genannt, im Dezimalsystem ist von der Form x = 0.d1 d2 . . . dt ×10k , di ∈ {0, 1, . . . , 9}, (= t gültige Stellen) mit d1 6= 0 für x 6= 0 und − m ≤ k ≤ m. Es gibt also nur endlich viele Gleitpunktzahlen! Setze m = ∞ voraus. Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Maschinengenauigkeit Es sei Grundlagen M = Menge der Gleitpunktzahlen. Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Maschinengenauigkeit Es sei Grundlagen M = Menge der Gleitpunktzahlen. Die Maschinengenauigkeit eps ist die kleinste positive Zahl in M mit 1. + eps > 1. == true. Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Maschinengenauigkeit Es sei Grundlagen M = Menge der Gleitpunktzahlen. Die Maschinengenauigkeit eps ist die kleinste positive Zahl in M mit 1. + eps > 1. == true. In die Maschinengenauigkeit geht ein: ◮ Zahl t der gültigen Stellen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Maschinengenauigkeit Es sei Grundlagen M = Menge der Gleitpunktzahlen. Die Maschinengenauigkeit eps ist die kleinste positive Zahl in M mit 1. + eps > 1. == true. In die Maschinengenauigkeit geht ein: ◮ Zahl t der gültigen Stellen ◮ Art der Rundung (normales Auf- und Abrunden bzw. Abschneiden) Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Maschinengenauigkeit Es sei Grundlagen M = Menge der Gleitpunktzahlen. Die Maschinengenauigkeit eps ist die kleinste positive Zahl in M mit 1. + eps > 1. == true. In die Maschinengenauigkeit geht ein: ◮ Zahl t der gültigen Stellen ◮ Art der Rundung (normales Auf- und Abrunden bzw. Abschneiden) Beides hängt von der Programmiersprache und/oder dem Rechner ab. Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Maschinengenauigkeit Es sei Grundlagen M = Menge der Gleitpunktzahlen. Die Maschinengenauigkeit eps ist die kleinste positive Zahl in M mit 1. + eps > 1. == true. In die Maschinengenauigkeit geht ein: ◮ Zahl t der gültigen Stellen ◮ Art der Rundung (normales Auf- und Abrunden bzw. Abschneiden) Beides hängt von der Programmiersprache und/oder dem Rechner ab. Vorsicht: Das Rechenwerk arbeitet i.a. genauer. Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Feststellung von eps program eps=1 1 eps=0.99*eps if(masch(1.+eps)==1) goto 1 write eps end Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Feststellung von eps program eps=1 1 eps=0.99*eps if(masch(1.+eps)==1) goto 1 write eps end Das aufgerufene Funktionsunterprogramm ist function masch(q) masch=0 if(q>1.) masch=1 end Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Feststellung von eps program eps=1 1 eps=0.99*eps if(masch(1.+eps)==1) goto 1 write eps end Das aufgerufene Funktionsunterprogramm ist function masch(q) masch=0 if(q>1.) masch=1 end Durch den Aufruf von masch muss 1.+q das Rechenwerk verlassen. Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Resultate für den fortran90 ifort-Compiler Bytelänge 4 8 16 eps 0.6 · 10−7 1.0 · 10−16 1.0 · 10−34 Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Resultate für den fortran90 ifort-Compiler Bytelänge 4 8 16 eps 0.6 · 10−7 1.0 · 10−16 1.0 · 10−34 Diese Werte stimmen genau mit der üblichen Belegung der Speicherplätze überein, wonach ein Byte für den Exponenten und die übrigen Bytes für die Mantisse verwendet wird. Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Resultate für den fortran90 ifort-Compiler Bytelänge 4 8 16 eps 0.6 · 10−7 1.0 · 10−16 1.0 · 10−34 Diese Werte stimmen genau mit der üblichen Belegung der Speicherplätze überein, wonach ein Byte für den Exponenten und die übrigen Bytes für die Mantisse verwendet wird. Für die Numerik sollte man 8 Bytes verwenden, was manchmal als double precision bezeichnet wird. Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Rundungsfehler Es gibt eine Abbildung rd : R → M mit rd (x) = x(1 + ε) mit |ε| ≤ eps. Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Rundungsfehler Es gibt eine Abbildung rd : R → M mit rd (x) = x(1 + ε) mit |ε| ≤ eps. Nach dem oben Gesagten sind Rundungsfehler relative Fehler, was in diesem Modell berücksichtigt wird. Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Gleitpunktoperationen Die Gleitpunktoperationen ◦∗ : M × M → M sind dann definiert durch x ±∗ y = rd (x ± y ), x ·∗ y = rd (x · y ), x x/∗ y = rd ( ). y Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Gleitpunktoperationen Die Gleitpunktoperationen ◦∗ : M × M → M sind dann definiert durch x ±∗ y = rd (x ± y ), x ·∗ y = rd (x · y ), x x/∗ y = rd ( ). y Im Einklang mit dem oben Angeführten wird also angenommen, dass in M exakt gerechnet und anschließend gerundet wird. Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Eigenschaften der Gleitpunktoperationen Die Gleitpunktoperationen sind weder assoziativ noch distributiv. Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Eigenschaften der Gleitpunktoperationen Die Gleitpunktoperationen sind weder assoziativ noch distributiv. Beispiel Wir betrachten die Addition +∗ bei t = 1 und normaler Auf- und Abrundung: (0.8 +∗ 0.6) +∗ 0.3 = 0.1 × 101 0.8 +∗ (0.6 +∗ 0.3) = 0.2 × 101 Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Eigenschaften der Gleitpunktoperationen Die Gleitpunktoperationen sind weder assoziativ noch distributiv. Beispiel Wir betrachten die Addition +∗ bei t = 1 und normaler Auf- und Abrundung: (0.8 +∗ 0.6) +∗ 0.3 = 0.1 × 101 0.8 +∗ (0.6 +∗ 0.3) = 0.2 × 101 Rechenzeiten: Was ist schneller für eine Gleitpunktzahl a 0.5 ∗ a, a ∗ 0.5, a/2, a/2. ? Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Numerische Stabilität R R Die Funktion f : n → sei stetig differenzierbar. Die Auswertung von f heißt numerisch stabil, wenn es eine Konstante K gibt mit für alle ∆x ∈ f (x) − f (x + ∆x) |∆x| ≤K f (x) |x| Rn mit ∆x genügend klein. Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Numerische Stabilität R R Die Funktion f : n → sei stetig differenzierbar. Die Auswertung von f heißt numerisch stabil, wenn es eine Konstante K gibt mit f (x) − f (x + ∆x) |∆x| ≤K f (x) |x| R für alle ∆x ∈ n mit ∆x genügend klein. q |x| = x12 + . . . + xn2 ist hier die euklidische Norm des Vektors x (siehe später). Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Numerische Stabilität R R Die Funktion f : n → sei stetig differenzierbar. Die Auswertung von f heißt numerisch stabil, wenn es eine Konstante K gibt mit f (x) − f (x + ∆x) |∆x| ≤K f (x) |x| R für alle ∆x ∈ n mit ∆x genügend klein. q |x| = x12 + . . . + xn2 ist hier die euklidische Norm des Vektors x (siehe später). In der Regel hängt die Konstante K auch von x selber ab. Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Numerische Stabilität Anschaulich bedeutet die numerische Stabilität, dass die Rundungsfehler bei der Auswertung von f nur kontrolliert verstärkt werden: Die Konditionszahl K sollte möglichst klein sein. Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Numerische Stabilität Anschaulich bedeutet die numerische Stabilität, dass die Rundungsfehler bei der Auswertung von f nur kontrolliert verstärkt werden: Die Konditionszahl K sollte möglichst klein sein. Da Rundungsfehler relative Fehler sind, müssen auch in der Definiton der numerischen Stabilität relative Fehler stehen. Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Beispiel Für die Addition f (x1 , x2 ) = x1 + x2 erhalten wir f (x) − f (x + ∆x) ∆x + ∆x 1 2 ≤? = f (x) x1 + x2 Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Beispiel Für die Addition f (x1 , x2 ) = x1 + x2 erhalten wir Es gilt f (x) − f (x + ∆x) ∆x + ∆x 1 2 ≤? = f (x) x1 + x2 |∆x1 + ∆x2 | ≤ √ 2(∆x12 + ∆x22 )1/2 = √ 2|∆x| Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Beispiel Für die Addition f (x1 , x2 ) = x1 + x2 erhalten wir Es gilt f (x) − f (x + ∆x) ∆x + ∆x 1 2 ≤? = f (x) x1 + x2 |∆x1 + ∆x2 | ≤ √ 2(∆x12 + ∆x22 )1/2 = und (x12 + x22 )1/2 ≤ |x1 | + |x2 |, √ 2|∆x| Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Beispiel Falls x1 , x2 > 0 f (x) − f (x + ∆x) ∆x + ∆x √ |∆x| 1 2 . ≤ 2 = f (x) x1 + x2 |x| Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Beispiel Falls x1 , x2 > 0 f (x) − f (x + ∆x) ∆x + ∆x √ |∆x| 1 2 . ≤ 2 = f (x) x1 + x2 |x| Die Addition zweier positiver Zahlen ist also numerisch stabil und die Subtraktion zweier ungefähr gleich großer Zahlen ist instabil. Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Beispiel Falls x1 , x2 > 0 f (x) − f (x + ∆x) ∆x + ∆x √ |∆x| 1 2 . ≤ 2 = f (x) x1 + x2 |x| Die Addition zweier positiver Zahlen ist also numerisch stabil und die Subtraktion zweier ungefähr gleich großer Zahlen ist instabil. Auf die gleiche Weise leitet man her, dass Multiplikation und Division numerisch stabile Operationen sind. Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Die Differenz als Bösewicht Die Subtraktion zweier ungefähr gleich großer Zahlen ist instabil. Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Die Differenz als Bösewicht Die Subtraktion zweier ungefähr gleich großer Zahlen ist instabil. Vorkommen: ◮ Auswertung eines Polynoms in der Nähe einer Nullstelle Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Die Differenz als Bösewicht Die Subtraktion zweier ungefähr gleich großer Zahlen ist instabil. Vorkommen: ◮ Auswertung eines Polynoms in der Nähe einer Nullstelle ◮ Bestimmung des Skalarprodukts zweier fast orthogonaler Vektoren Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Fazit ◮ Akkumulation von Rundungsfehlern bei der Addition nichtnegativer Zahlen verläuft linear in der Anzahl der Summanden Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Fazit ◮ ◮ Akkumulation von Rundungsfehlern bei der Addition nichtnegativer Zahlen verläuft linear in der Anzahl der Summanden Sie kann durch die Verwendung einer höheren Genauigkeit ausgeglichen werden Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Fazit ◮ ◮ Akkumulation von Rundungsfehlern bei der Addition nichtnegativer Zahlen verläuft linear in der Anzahl der Summanden Sie kann durch die Verwendung einer höheren Genauigkeit ausgeglichen werden Dagegen: Numerische Instabilität aufgrund Auslöschung kann nur durch modifizierte Algorithmen behoben werden. Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? 1.2 Ein Beispiel Für die reellen Zahlen p, q > 0 mit p >> q > 0 soll der Ausdruck p y = −p + p 2 + q in Gleitkommaarithmetik näherungsweise bestimmt werden. Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? 1.2 Ein Beispiel Für die reellen Zahlen p, q > 0 mit p >> q > 0 soll der Ausdruck p y = −p + p 2 + q in Gleitkommaarithmetik näherungsweise bestimmt werden. y ist die kleinere der beiden Nullstellen von y 2 + 2py − q = 0. Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Algorithmus 1 Das Standardverfahren zur Bestimmung von y ist sicherlich die direkte Auswertung der obigen Formel t = p2 + q √ u= t y = −p + u Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Algorithmus 1 Das Standardverfahren zur Bestimmung von y ist sicherlich die direkte Auswertung der obigen Formel t = p2 + q √ u= t y = −p + u Unter der Voraussetzung p >> q > 0 ist p ∼ u, der Algorithmus daher instabil. Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Algorithmus 2 t = p2 + q √ u= t v =p+u y = q/v Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Algorithmus 2 t = p2 + q √ u= t v =p+u y = q/v Liefert das gleiche wegen q p y= p + p2 + q Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Algorithmus 2 t = p2 + q √ u= t v =p+u y = q/v Liefert das gleiche wegen p q q p − p2 + q p p p y= = · p + p2 + q p + p2 + q p − p2 + q p p q(p − p 2 + q) p2 + q = −p + = 2 p − (p 2 + q) Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Algorithmus 2 ist numerisch stabil In v = p + u haben wir nun zwei positive Zahlen addiert. Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Algorithmus 2 ist numerisch stabil In v = p + u haben wir nun zwei positive Zahlen addiert. Die Auswertung der Wurzel ist ebenfalls numerisch stabil. Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Algorithmus 2 ist numerisch stabil In v = p + u haben wir nun zwei positive Zahlen addiert. Die Auswertung der Wurzel ist ebenfalls numerisch stabil. In der Tat erhalten wir bei zwölfstelliger Rechnung für p = 1000, q = 0.018 000 000 081 die Ergebnisse Alg. 1 : 0.900 030 . . . × 10−5 Alg. 2 : 0.899 999 999 999 999 × 10−5 , der exakte Wert ist 0.9 × 10−5 . Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? 1.3 Vektor- und Matrizennormen Sei X ein nicht notwendig endlich dimensionaler linearer Vektorraum über = oder = . K R K C Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? 1.3 Vektor- und Matrizennormen Sei X ein nicht notwendig endlich dimensionaler linearer Vektorraum über = oder = . K R R K C Eine Abbildung k · k : X → heißt Norm, wenn sie den folgenden Bedingungen genügt: (i) kxk ≥ 0 und kxk = 0 ⇔ x = 0 Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? 1.3 Vektor- und Matrizennormen Sei X ein nicht notwendig endlich dimensionaler linearer Vektorraum über = oder = . K R R K C Eine Abbildung k · k : X → heißt Norm, wenn sie den folgenden Bedingungen genügt: (i) kxk ≥ 0 und kxk = 0 ⇔ x = 0 (ii) kαxk = |α| kxk für alle α ∈ K und x ∈ X . Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? 1.3 Vektor- und Matrizennormen Sei X ein nicht notwendig endlich dimensionaler linearer Vektorraum über = oder = . K R R K C Eine Abbildung k · k : X → heißt Norm, wenn sie den folgenden Bedingungen genügt: (i) kxk ≥ 0 und kxk = 0 ⇔ x = 0 (ii) kαxk = |α| kxk für alle α ∈ (iii) kx + y k ≤ kxk + ky k. K und x ∈ X . Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Diskussion der Norm Anschaulich können wir uns vorstellen, dass die Norm von x die Länge des Vektors x angibt oder, falls wir x als Punkt ansehen, die Entfernung dieses Punktes zum Nullpunkt. In dieser Interpretation sind alle Axiome sinnvoll: Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Diskussion der Norm Anschaulich können wir uns vorstellen, dass die Norm von x die Länge des Vektors x angibt oder, falls wir x als Punkt ansehen, die Entfernung dieses Punktes zum Nullpunkt. In dieser Interpretation sind alle Axiome sinnvoll: kxk ≥ 0 und kxk = 0 ⇔ x = 0 Abstände sind positiv, sofern es sich nicht um den Nullvektor handelt. Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Diskussion der Norm Anschaulich können wir uns vorstellen, dass die Norm von x die Länge des Vektors x angibt oder, falls wir x als Punkt ansehen, die Entfernung dieses Punktes zum Nullpunkt. In dieser Interpretation sind alle Axiome sinnvoll: kxk ≥ 0 und kxk = 0 ⇔ x = 0 Abstände sind positiv, sofern es sich nicht um den Nullvektor handelt. kαxk = |α| kxk für alle α ∈ K und x ∈ X . Die Länge eines Vielfachen ist das Vielfache der Länge. Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Diskussion der Norm Anschaulich können wir uns vorstellen, dass die Norm von x die Länge des Vektors x angibt oder, falls wir x als Punkt ansehen, die Entfernung dieses Punktes zum Nullpunkt. In dieser Interpretation sind alle Axiome sinnvoll: kxk ≥ 0 und kxk = 0 ⇔ x = 0 Abstände sind positiv, sofern es sich nicht um den Nullvektor handelt. kαxk = |α| kxk für alle α ∈ K und x ∈ X . Die Länge eines Vielfachen ist das Vielfache der Länge. kx + y k ≤ kxk + ky k. Die Strecke ist die kürzeste Verbindung zweier Punkte. Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Skalarprodukt und euklidische Norm Für x, y ∈ Cn ist das Skalarprodukt definiert durch (x, y ) = n X xj y j . j=1 Die euklidische Norm ist für Vektoren x ∈ definiert durch |x| = n X j=1 |xj |2 1/2 Cn (oder x ∈ Rn ) = (x, x)1/2 . Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Euklidische Norm |x| = n X j=1 Grundlagen |xj | 2 1/2 = (x, x) 1/2 . Aufgrund des Satzes von Pythagoras handelt es sich hierbei in der Tat um die Entfernung des Punktes x zum Nullpunkt. Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Euklidische Norm |x| = n X j=1 Grundlagen |xj | 2 1/2 = (x, x) 1/2 . Aufgrund des Satzes von Pythagoras handelt es sich hierbei in der Tat um die Entfernung des Punktes x zum Nullpunkt. Die Normaxiome (i) und (ii) sind klar, für die Dreiecksungleichung benötigen wir ein Hilfsmittel: Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Die Cauchy-Ungleichung Lemma Für x, y ∈ Cn gilt |(x, y )| ≤ |x| |y |. Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Die Cauchy-Ungleichung Lemma Für x, y ∈ Cn gilt |(x, y )| ≤ |x| |y |. Beweis Für a, b ≥ 0 gilt die Youngsche Ungleichung 1 1 ab ≤ a2 + b2 , 2 2 die man aus der binomischen Formel beweist. Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Beweis der Cauchy-Ungleichung Mit der Youngschen Ungleichung erhalten wir n n X X 1 2 1 2 1 2 1 2 |xj | + |yj | ≤ |x| + |y | . |(x, y )| = xj y j ≤ 2 2 2 2 j=1 j=1 Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Beweis der Cauchy-Ungleichung Mit der Youngschen Ungleichung erhalten wir n n X X 1 2 1 2 1 2 1 2 |xj | + |yj | ≤ |x| + |y | . |(x, y )| = xj y j ≤ 2 2 2 2 j=1 j=1 Für |x| = |y | = 1 ist die Ungleichung damit bewiesen. Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Beweis der Cauchy-Ungleichung Mit der Youngschen Ungleichung erhalten wir n n X X 1 2 1 2 1 2 1 2 |xj | + |yj | ≤ |x| + |y | . |(x, y )| = xj y j ≤ 2 2 2 2 j=1 j=1 Für |x| = |y | = 1 ist die Ungleichung damit bewiesen. Für x, y 6= 0 schreibe wieder x = αx̃, y = βỹ mit |x̃| = |ỹ | = 1 und erhalte die Cauchy-Ungleichung. Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Beweis der Cauchy-Ungleichung Mit der Youngschen Ungleichung erhalten wir n n X X 1 2 1 2 1 2 1 2 |xj | + |yj | ≤ |x| + |y | . |(x, y )| = xj y j ≤ 2 2 2 2 j=1 j=1 Für |x| = |y | = 1 ist die Ungleichung damit bewiesen. Für x, y 6= 0 schreibe wieder x = αx̃, y = βỹ mit |x̃| = |ỹ | = 1 und erhalte die Cauchy-Ungleichung. Beachte das Homogenitätsargument! Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Nun zum Beweis der Dreicksungleichung für die Euklidische Norm: |x + y |2 = (x + y , x + y ) = |x|2 + 2(x, y ) + |y |2 Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Nun zum Beweis der Dreicksungleichung für die Euklidische Norm: |x + y |2 = (x + y , x + y ) = |x|2 + 2(x, y ) + |y |2 ≤ |x|2 + 2|x| |y | + |y |2 = (|x| + |y |)2 . Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Frobenius-Norm Für die euklidische Matrixnorm, auch Frobenius-Norm genannt, schreiben wir entsprechend |A| = n m X X j=1 k=1 |ajk |2 1/2 , A∈ Cm×n oder A ∈ Rm×n . Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Transponierte und adjungierte Matrix Für Matrizen A ∈ Cm×n , A = (ajk )j=1,...,m, k=1,...,n setze AT = (akj )k=1,...,n, j=1,...,m = transponierte Matrix AH = (akj )k=1,...,n, j=1,...,m = adjungierte Matrix Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Transponierte und adjungierte Matrix Für Matrizen A ∈ Cm×n , A = (ajk )j=1,...,m, k=1,...,n setze AT = (akj )k=1,...,n, j=1,...,m = transponierte Matrix AH = (akj )k=1,...,n, j=1,...,m = adjungierte Matrix T A = 1 1 + 2i 1 1 + 2i , 1 + 3i 2 1 + 3i 1 H , A = 2 1 − 2i A= Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Beispiel Grundlagen 1 − 3i 2 Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Notation Ist A ∈ Cn×n regulär, so gilt (AH )−1 = (A−1 )H . Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Notation Ist A ∈ Cn×n regulär, so gilt (AH )−1 = (A−1 )H . Aus AA−1 = I folgt, dass (A−1 )H AH = I H = I . Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Notation Ist A ∈ Cn×n regulär, so gilt Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme (AH )−1 = (A−1 )H . Aus AA−1 = I folgt, dass Direkte Lösung linearer Gleichungssysteme (A−1 )H AH = I H = I . AH Damit ist die Inverse von gerade die Matrix Diese Beziehung rechtfertigt die Schreibweise (A−1 )H . A−H = (A−1 )H sowie A−T = (A−1 )T . Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Alternative Definition Mit dem euklidischen Skalarprodukt (·, ·) gilt Cn , ∀x, y ∈ Cn . (Ax, y ) = (x, AT y ) ∀x, y ∈ (Ax, y ) = (x, AH y ) Grundlagen A reell Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Alternative Definition Mit dem euklidischen Skalarprodukt (·, ·) gilt Cn , ∀x, y ∈ Cn . (Ax, y ) = (x, AT y ) ∀x, y ∈ (Ax, y ) = (x, AH y ) Grundlagen A reell Rechenregeln: (AB)H = B H AH , insbesondere (AH A)H = AH A. Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Skalarprodukt Vektoren werden auch als Spaltenmatrizen aufgefasst, daher: n Zeile mal Spalte X y j xj = (x, y ). yHx = j=1 Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Symmetrische und hermitesche Matrizen Rn×n heißt symmetrisch, wenn A = AT . A ∈ Cn×n heißt hermitesch, wenn A = AH . A∈ Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Symmetrische und hermitesche Matrizen Rn×n heißt symmetrisch, wenn A = AT . A ∈ Cn×n heißt hermitesch, wenn A = AH . A∈ Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Bei hermiteschen Matrizen ist die zugehörige quadratische Form reellwertig q(x) := (Ax, x) = (x, AH x) = (x, Ax) = (Ax, x) ⇒ q(x) ∈ R. Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Äquivalenz der Normen im Endlichdimensionalen Satz Auf endlich dimensionalen Räumen sind alle Normen äquivalent, d.h. zu zwei Normen k · k1 und k · k2 auf einem endlich dimensionalen Raum V gibt es Konstanten m, M > 0 mit mkxk2 ≤ kxk1 ≤ Mkxk2 für alle x ∈ V . Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Äquivalenz der Normen im Endlichdimensionalen Satz Auf endlich dimensionalen Räumen sind alle Normen äquivalent, d.h. zu zwei Normen k · k1 und k · k2 auf einem endlich dimensionalen Raum V gibt es Konstanten m, M > 0 mit mkxk2 ≤ kxk1 ≤ Mkxk2 für alle x ∈ V . Anwendung In der numerischen Mathematik werden eine Vielzahl von Matrixnormen verwendet, die demnach alle äquivalent sind. Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Äquivalenz der Normen im Endlichdimensionalen Satz Auf endlich dimensionalen Räumen sind alle Normen äquivalent, d.h. zu zwei Normen k · k1 und k · k2 auf einem endlich dimensionalen Raum V gibt es Konstanten m, M > 0 mit mkxk2 ≤ kxk1 ≤ Mkxk2 für alle x ∈ V . Anwendung In der numerischen Mathematik werden eine Vielzahl von Matrixnormen verwendet, die demnach alle äquivalent sind. Aber die Konstanten c1 , c2 hängen in der Regel von der Raumdimension ab. Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Inverse Dreiecksungleichung Lemma Für jede Norm gilt die inverse Dreiecksungleichung kx − y k ≥ kxk − ky k für alle x, y ∈ V . Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Inverse Dreiecksungleichung Lemma Für jede Norm gilt die inverse Dreiecksungleichung kx − y k ≥ kxk − ky k für alle x, y ∈ V . Beweis Mit der normalen Dreiecksungleichung folgt kxk = k(x − y ) + y k ≤ kx − y k + ky k, Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Inverse Dreiecksungleichung Lemma Für jede Norm gilt die inverse Dreiecksungleichung kx − y k ≥ kxk − ky k für alle x, y ∈ V . Beweis Mit der normalen Dreiecksungleichung folgt kxk = k(x − y ) + y k ≤ kx − y k + ky k, also kx − y k ≥ kxk − ky k. Vertauschen wir hier die Rollen von x und y , so ist das Lemma bewiesen. Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Beweis des letzten Satzes Es genügt, den Fall V = Cn (oder V = Rn ) zu betrachten. Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Beweis des letzten Satzes Cn (oder V = Rn ) zu betrachten. Jede Norm k · k : Cn → R, x 7→ kxk ist stetig, denn wenn Es genügt, den Fall V = xk → x, so folgt aus dem letzten Lemma kxk k − kxk ≤ kxk − xk → 0. Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Beweis des letzten Satzes Cn (oder V = Rn ) zu betrachten. Jede Norm k · k : Cn → R, x 7→ kxk ist stetig, denn wenn Es genügt, den Fall V = xk → x, so folgt aus dem letzten Lemma kxk k − kxk ≤ kxk − xk → 0. Die Einheitssphäre S = {x ∈ ist kompakt. Cn : |x| = 1} Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Beweis des letzten Satzes Da die Normen k · kj stetig sind, nehmen sie ihr Minimum und Maximum auf S an, also mj ≤ kxkj ≤ Mj für alle x mit |x| = 1. Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Beweis des letzten Satzes Da die Normen k · kj stetig sind, nehmen sie ihr Minimum und Maximum auf S an, also mj ≤ kxkj ≤ Mj für alle x mit |x| = 1. Wegen 0 ∈ / S, sind die mj > 0. Mit x = αx̃, |x̃| = 1, folgt hieraus mj |x| ≤ kxkj ≤ Mj |x| ∀x ∈ n . C Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Nutzen der Homogenität Die Ungleichungen mj |x| ≤ kxkj ≤ Mj |x| ∀x ∈ Grundlagen Cn . sind homogen in x, d.h. sind sie für ein x erfüllt, so auch für alle αx mit α ∈ . C Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Nutzen der Homogenität Die Ungleichungen mj |x| ≤ kxkj ≤ Mj |x| ∀x ∈ Grundlagen Cn . sind homogen in x, d.h. sind sie für ein x erfüllt, so auch für alle αx mit α ∈ . C Es genügt also, die Ungleichung für alle x mit |x| = 1 zu beweisen (=Homogenitätsargument). Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Die p-Normen Die p-Normen auf Cn (oder Rn ) sind definiert durch kxkp = n X j=1 |xj |p kxk∞ = max |xj |. 1≤j≤n 1/p , 1 ≤ p < ∞, Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Die p-Normen Die p-Normen auf Cn (oder Rn ) sind definiert durch kxkp = n X j=1 |xj |p 1/p , 1 ≤ p < ∞, kxk∞ = max |xj |. 1≤j≤n Für die Numerik wichtig sind die Normen X kxk1 = |xj |, kxk2 = |x|, kxk∞ = max(|x1 |, . . . , |xn |). j Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Die induzierte Matrixnorm Sei k · k1 eine Norm auf dem dem m . C Cn und k · k2 eine Norm auf Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Die induzierte Matrixnorm Sei k · k1 eine Norm auf dem dem m . C Cn und k · k2 eine Norm auf Der Ausdruck kAk1→2 = kAxk2 , x∈Cn \{0} kxk1 sup ist eine Norm auf dem Matrizenraum A∈ Cm×n . Cm×n , Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Die induzierte Matrixnorm Sei k · k1 eine Norm auf dem dem m . C Cn und k · k2 eine Norm auf Der Ausdruck kAk1→2 = kAxk2 , x∈Cn \{0} kxk1 sup ist eine Norm auf dem Matrizenraum A∈ Cm×n , Cm×n . kAk1→2 heißt (von k · k1 k und k · k2 ) induzierte Matrixnorm. Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Die induzierte Matrixnorm Sei k · k1 eine Norm auf dem dem m . C Cn und k · k2 eine Norm auf Der Ausdruck kAk1→2 = kAxk2 , x∈Cn \{0} kxk1 sup ist eine Norm auf dem Matrizenraum A∈ Cm×n , Cm×n . kAk1→2 heißt (von k · k1 k und k · k2 ) induzierte Matrixnorm. Die induzierte Matrixnorm auf dem Rm×n ist analog definiert. Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Zwei wichtige Tatsachen Offenbar gilt kAk1→2 Grundlagen kAxk2 = sup kAxk2 . = sup n kxk1 =1 x∈C \{0} kxk1 Homogenitätsargument! Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Zwei wichtige Tatsachen Offenbar gilt kAk1→2 Grundlagen kAxk2 = sup kAxk2 . = sup n kxk1 =1 x∈C \{0} kxk1 Homogenitätsargument! Die Menge {x : kxk1 = 1} ist kompakt, so dass die stetige Funktion x 7→ kAxk2 das Maximum annimmt. Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Zwei wichtige Tatsachen Offenbar gilt kAk1→2 Grundlagen kAxk2 = sup kAxk2 . = sup n kxk1 =1 x∈C \{0} kxk1 Homogenitätsargument! Die Menge {x : kxk1 = 1} ist kompakt, so dass die stetige Funktion x 7→ kAxk2 das Maximum annimmt. Wir können daher auch gleich kAk1→2 = schreiben. max x∈ C n \{0} kAxk2 kxk1 Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Beweis der Normeigenschaft Aufgrund der letzten Darstellung existiert kAk1→2 . Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Beweis der Normeigenschaft Aufgrund der letzten Darstellung existiert kAk1→2 . kAk1→2 = 0 gilt genau dann, wenn Ax = 0 für alle x, also A = 0. Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Beweis der Normeigenschaft Aufgrund der letzten Darstellung existiert kAk1→2 . kAk1→2 = 0 gilt genau dann, wenn Ax = 0 für alle x, also A = 0. Die positive Homogenität folgt aus der positiven Homogenität von k · k2 kαAk1→2 = sup kαAxk2 = |α| sup kAxk2 = |α| kAk1→2 , kxk1 =1 kxk1 =1 Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Beweis der Dreiecksungleichung Die Dreiecksungleichung folgt analog aus der Dreiecksungleichung für kk̇2 kA + Bk1→2 = sup kAx + Bxk2 kxk1 =1 Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Beweis der Dreiecksungleichung Die Dreiecksungleichung folgt analog aus der Dreiecksungleichung für kk̇2 kA + Bk1→2 = sup kAx + Bxk2 kxk1 =1 ≤ sup kAxk2 + sup kBxk2 kxk1 =1 kxk1 =1 = kAk1→2 + kBk1→2 . Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Verträglichkeit Sei k · kM eine Matrixnorm auf Vektornorm auf n . C Cn×n und k · kV eine Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Verträglichkeit Sei k · kM eine Matrixnorm auf Vektornorm auf n . C Cn×n und k · kV k · kM heißt verträglich mit k · kV , wenn kAxkV ≤ kAkM kxkV ∀A ∈ eine Cn×n ∀x ∈ Cn . Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Beispiel 1 Euklidische Normen sind verträglich, |Ax| ≤ |A| |x| Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Beispiel 1 Euklidische Normen sind verträglich, |Ax| ≤ |A| |x| was man mit Hilfe der Cauchy-Ungleichung beweist, 2 X X 2 |Ax| = ajk xk j k Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Beispiel 1 Euklidische Normen sind verträglich, Grundlagen |Ax| ≤ |A| |x| was man mit Hilfe der Cauchy-Ungleichung beweist, 2 X X 2 |Ax| = ajk xk j k ≤ XX |ajk |2 × = X X j j,k k |ajk |2 k X k |xk |2 |xk |2 = |Ax|2 |x|2 . Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Beispiel 2 Die von einer Vektornorm k · kV induzierte Matrixnorm k · kV →V ist mit dieser Vektornorm verträglich kAxkV ≤ kAkV →V kxkV . Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Beispiel 2 Die von einer Vektornorm k · kV induzierte Matrixnorm k · kV →V ist mit dieser Vektornorm verträglich kAxkV ≤ kAkV →V kxkV . Dies folgt aus der Definition der induzierten Norm: kAkV →V ist nämlich die kleinste Konstante c, so dass kAxkV ≤ ckxkV für alle x richtig ist. Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Submultiplikativität Sei k · kM eine Matrixnorm auf Cn×n . Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Submultiplikativität Sei k · kM eine Matrixnorm auf Cn×n . k · kM heißt submultiplikativ, wenn kABkM ≤ kAkM kBkM ∀A, B ∈ Grundlagen Cn×n . Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Beispiel 1 Euklidische Normen sind submultiplikativ |AB| ≤ |A| |B| Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Beispiel 1 Euklidische Normen sind submultiplikativ Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme |AB| ≤ |A| |B| wegen Direkte Lösung linearer Gleichungssysteme 2 X X |AB| = ajk bkl 2 j,l ≤ k XX j,l k |ajk |2 × X k |bkl |2 ) Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Beispiel 1 Euklidische Normen sind submultiplikativ Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme |AB| ≤ |A| |B| wegen Direkte Lösung linearer Gleichungssysteme 2 X X |AB| = ajk bkl 2 j,l ≤ k XX j,l k = |A|2 |B|2 . |ajk |2 × X k |bkl |2 ) Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Beispiel 2 Die von einer Vektornorm k · kV induzierte Matrixnorm k · kV →V ist auch submultiplikativ wegen der Verträglichkeit kABkV →V = sup kABxkV ≤ sup kAkV →V kBxkV kxkV =1 kxkV =1 Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Beispiel 2 Die von einer Vektornorm k · kV induzierte Matrixnorm k · kV →V ist auch submultiplikativ wegen der Verträglichkeit kABkV →V = sup kABxkV ≤ sup kAkV →V kBxkV kxkV =1 kxkV =1 ≤ sup kAkV →V kBkV →V kxkV kxkV =1 = kAkV →V kBkV →V Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Notation Sei A ∈ Cm×n . Wenn nichts anderes gesagt wird, ist |Ax| . kAk = sup x6=0 |x| Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Notation Sei A ∈ Cm×n . Wenn nichts anderes gesagt wird, ist |Ax| . kAk = sup x6=0 |x| d.h. k · k ohne irgendwelche Indizes ist immer die von den euklidischen Normen induzierte Matrixnorm. Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Charakterisierung von k · k Lemma Für A ∈ Cn×n gilt kAk = ρ(AAH )1/2 = ρ(AH A)1/2 , wobei ρ(B) den betragsmäßig größten Eigenwert von B bezeichnet. Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Charakterisierung von k · k Lemma Für A ∈ Cn×n gilt kAk = ρ(AAH )1/2 = ρ(AH A)1/2 , wobei ρ(B) den betragsmäßig größten Eigenwert von B bezeichnet. Ist A ∈ C n×n hermitesch, so gilt kAk = ρ(A). Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Beweis Es gilt Grundlagen (AH Ax, x) (Ax, Ax) = sup . kAk2 = sup (x, x) x6=0 x6=0 (x, x) Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Beweis Es gilt Grundlagen (AH Ax, x) (Ax, Ax) = sup . kAk2 = sup (x, x) x6=0 x6=0 (x, x) Wegen (AH A)H = AH A ist AH A hermitesch und wegen (AH Ax, x) = (Ax, Ax) = |Ax|2 ≥ 0 ist AH A positiv semidefinit. Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Beweis Es gilt Grundlagen (AH Ax, x) (Ax, Ax) = sup . kAk2 = sup (x, x) x6=0 x6=0 (x, x) Wegen (AH A)H = AH A ist AH A hermitesch und wegen (AH Ax, x) = (Ax, Ax) = |Ax|2 ≥ 0 ist AH A positiv semidefinit. Sie besitzt daher einen vollständigen Satz von Eigenvektoren v1 , . . . , vn mit AH Avj = λj vj und λj nichtnegativ. Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Beweis In Grundlagen (AH Ax, x) . kAk = sup (x, x) x6=0 2 P setzen wir x = j cj vj ein und erhalten wegen der Orthogonalität der vj 2 (AH A j cj vj , j cj vj ) j λj |cj | P P . = sup P 2 ( j cj vj , j cj vj ) c6=0 c6=0 j |cj | kAk2 = sup P P P Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Beweis In Grundlagen (AH Ax, x) . kAk = sup (x, x) x6=0 2 P setzen wir x = j cj vj ein und erhalten wegen der Orthogonalität der vj 2 (AH A j cj vj , j cj vj ) j λj |cj | P P . = sup P 2 ( j cj vj , j cj vj ) c6=0 c6=0 j |cj | kAk2 = sup P P P Dieses Optimierungsproblem wird natürlich durch cn = 1, cj = 0 für 1 ≤ j ≤ n − 1 gelöst, wenn λn der größte Eigenwert von AH A ist. Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Beweis Ist A hermitesch, so erhalten wir die Eigenwerte und Eigenvektoren von AH A = A2 aus den Eigenwerten und Eigenvektoren von A: Av = λv ⇒ AH Av = A2 v = λ2 v . Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Weitere Beispiele von Matrizennormen Auf dem Cm×n sind (i) kAkZ = maxj Pn k=1 |ajk | Grundlagen (=Zeilensummennorm), Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Weitere Beispiele von Matrizennormen Auf dem Cm×n sind (i) kAkZ = maxj (ii) kAkS = Pn k=1 |ajk | (=Zeilensummennorm), Pm maxk j=1 |ajk | (=Spaltensummennorm), Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Weitere Beispiele von Matrizennormen Auf dem Cm×n sind (i) kAkZ = maxj (ii) kAkS = Pn k=1 |ajk | (=Zeilensummennorm), Pm maxk j=1 |ajk | (=Spaltensummennorm), (iii) kAk∞ = maxj,k |ajk |. ebenfalls Matrizennormen. Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Weitere Beispiele von Matrizennormen Auf dem Cm×n sind (i) kAkZ = maxj (ii) kAkS = Pn k=1 |ajk | (=Zeilensummennorm), Pm maxk j=1 |ajk | (=Spaltensummennorm), (iii) kAk∞ = maxj,k |ajk |. ebenfalls Matrizennormen. (i) und (ii) sind submultiplikativ. Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? kAk∞ ist nicht submultiplikativ wegen 1 1 1 1 2 2 = . 1 1 1 1 2 2 Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? 1.4 Stabilität linearer Gleichungssysteme C Sei A ∈ n×n (oder A ∈ Gleichungssystem Rn×n ). Wir wollen das lineare Ax = b lösen. für b ∈ Cn Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? 1.4 Stabilität linearer Gleichungssysteme C Sei A ∈ n×n (oder A ∈ Gleichungssystem Rn×n ). Wir wollen das lineare Ax = b für b ∈ Cn lösen. Satz Sei A regulär. Dann gilt für die Lösung x + ∆x des gestörten Problems A(x + ∆x) = b + ∆b Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? 1.4 Stabilität linearer Gleichungssysteme C Sei A ∈ n×n (oder A ∈ Gleichungssystem Rn×n ). Wir wollen das lineare Ax = b für b ∈ Cn lösen. Satz Sei A regulär. Dann gilt für die Lösung x + ∆x des gestörten Problems A(x + ∆x) = b + ∆b die Abschätzung |∆x| |∆b| ≤ kAk kA−1 k . |x| |b| Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Konditionszahl Die Zahl cond (A) = kAk kA−1 k gibt die Verstärkung des relativen Fehlers bei ungenauer Auswertung der rechten Seite an und heißt deshalb Konditionszahl der Matrix A. Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Beweis Aus A∆x = ∆b folgt ∆x = A−1 ∆b ⇒ |∆x| ≤ kA−1 k |∆b|. Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Beweis Aus A∆x = ∆b folgt ∆x = A−1 ∆b ⇒ |∆x| ≤ kA−1 k |∆b|. Aus Ax = b erhalten wir entsprechend die Abschätzung |b| ≤ kAk |x| und damit die Behauptung. Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Anwendung Bei iterativen Verfahren zur Lösung von Ax = b erhalten wir Näherungen x̃, aber kennen den Fehler |x − x̃| nicht. Wann sollen wir abbrechen? Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Anwendung Bei iterativen Verfahren zur Lösung von Ax = b erhalten wir Näherungen x̃, aber kennen den Fehler |x − x̃| nicht. Wann sollen wir abbrechen? Bestimme das Residuums r = b − Ax̃ = A(x − x̃). Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Anwendung Bei iterativen Verfahren zur Lösung von Ax = b erhalten wir Näherungen x̃, aber kennen den Fehler |x − x̃| nicht. Wann sollen wir abbrechen? Bestimme das Residuums r = b − Ax̃ = A(x − x̃). x̃ ist dann die exakte Lösung von Ax̃ = b − r und für den relativen Fehler gilt dann |x − x̃| |r | ≤ cond (A) . |x| |b| Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Anwendung Bei iterativen Verfahren zur Lösung von Ax = b erhalten wir Näherungen x̃, aber kennen den Fehler |x − x̃| nicht. Wann sollen wir abbrechen? Bestimme das Residuums r = b − Ax̃ = A(x − x̃). x̃ ist dann die exakte Lösung von Ax̃ = b − r und für den relativen Fehler gilt dann |x − x̃| |r | ≤ cond (A) . |x| |b| Mit x̃ sind r und b bekannt, die Kondition von A muss allerdings geschätzt werden. Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen? Grundlagen Gleitpunktarithmetik und Rundungsfehler Ein Beispiel Vektor- und Matrizennormen Stabilität linearer Gleichungssysteme Direkte Lösung linearer Gleichungssysteme Gauß Elimination Die CholeskyZerlegung Das HouseholderVerfahren Welches Verfahren ist vorzuziehen?