Analysis und Lineare Algebra für Informatiker Merkblatt 4a Lineare Gleichungen 1. Fragestellung: BEISPIEL Gegeben sei ein System von n linearen Gleichungen in m Unbekannten x1 , ..., xm . (m = 3, n = 3) 6x1 + 2x2 + 4x3 = 1 3x1 + x2 + 2x3 = 2 −3x1 + 7x2 + 2x3 = 3 FRAGEN : (i) Gibt es eine Lösung? (ii) Falls ja, wie findet man eine? (iii) Ist die Lösung eindeutig? (iv) Falls nein, wie findet man alle Lösungen? 2. Gleichungssystem und Vektorgleichung: Man kann die linke Seite“ eines Gleichungssy” stems als lineare Abbildung L : Rm → Rn auffassen. BEISPIEL x1 6x1 + 2x2 + 4x3 L x2 = 3x1 + x2 + 2x3 x3 −3x1 + 7x2 + 2x3 Gegeben ~b ∈ Rn (zum Beispiel ~b = (1, 2, 3)T ) sucht man Lösungen,“ d.h. Vektoren ~a = (x1 , x2 , ..., xm )T ” ~a ∈ Rm mit L~a = ~b. Die Singulärwertzerlegung deckt die geometrische Struktur von L auf und macht das Finden der Lösungen und die Beantwortung der Fragen leicht. 3. Die Singulärwertzerlegung: Die Singulärwertzerlegung von L liefert orthonormale Basen m ~ {~a1 , ...,~am } von A = R und {b1 , ..., ~bn } von B = Rn und Zahlen σ1 ≥ σ2 ≥ ... ≥ σr > 0 mit L~a1 = σ1~b1 , ... L~ar = σr~br und L~ar+1 = ~0, ... L~am = ~0. Damit hat man orthonormale Basen in A für den Nullraum N und sein orthogonales Komplement: N = L(~ar+1 , ...,~am ) N ⊥ = L(~a1 , ...,~ar ) und in B für das Bild LA und sein orthogonales Komplement: LA = L(~b1 , ..., ~br ) (LA)⊥ = L(~br+1 , ..., ~bn ). A ~ar B N⊥ ~br ~a1 LA ~b1 L ~br+1 ~bn ~ar+1 ~am (LA)⊥ N BEISPIEL : (Fortsetzung) √ ~a1 = (1, 1, 1)T / 3 √ ~b1 = (2, 1, 1)T / 6 4. Gibt es eine Lösung? r=2 √ σ1 = 6 2 √ σ2 = 2 15 √ √ ~a2 = (1, −1, 0)T / 2 ~a3 = (1, 1, −2)T / 6 √ √ ~b2 = (2, 1, −5)T / 30 ~b3 = (1, −2, 0)T / 5 Die Gleichung L~a = ~b hat eine Lösung ~a genau dann, wenn ~b ∈ LA, das heißt, genau dann, wenn ~b keine Komponente im orthogonalen Komplement von LA hat: ~b ~ (LA)⊥ = 0. Um das zu prüfen, projiziert man ~b auf (LA)⊥ mit Hilfe der Basis {~br+1 , ...~bn }: ~b ~ ~ (LA)⊥ = βr+1 br+1 + ... + βn bn . Fazit: L~a = ~b hat genau dann eine Lösung, wenn βr+1 = ... = βn = 0. (βi =< ~b, ~bi >) BEISPIEL : (Fortsetzung) Hat das Gleichungssystem in (1.) eine Lösung? ~b = (1, 2, 3)T ~b (LA)⊥ (LA)⊥ = L(~b3 ) −3 ~ ~ ~ ~ ~ = β3 b3 = < b, b3 > b3 = √ b3 = 6 0 5 Also gibt es keine Lösung. Wenn ~b ∈ LA, hat man 5. Die spezielle Lösung ~b = β1~b1 + ... + βr~br (weil βr+1 = ... = βn = 0). In diesem Fall gibt es Lösungen, vielleicht viele, aber es gibt eine eindeutige ausgezeichnete Lösung ~a ∗ , die in N ⊥ liegt: ~a ∗ = BEISPIEL : βr β1 ~a1 + ... + ~ar σ1 σr 7→ ~b = β1~b1 + ... + βr~br . (Fortsetzung) Wenn man die rechte Seite in (1.) durch ~b = (2, 1, 3)T ersetzt, gilt β3 = < ~b, ~b3 >= 0, also gibt es Lösungen. Wie sieht dann die spezielle Lösung ~a ∗ aus? −10 ~ ~b = β1~b1 + β2~b2 =< ~b, ~b1 > ~b1 + < ~b, ~b2 > ~b2 = √8 ~b1 + √ b2 6 30 ~a ∗ = = = = = β2 β1 ~a1 + ~a2 σ σ 1 2 8 1 −10 1 √ √ ~a1 + √ √ ~a2 6 6 2 30 2 15 −10 8 1 (1, 1, 1)T 1 (1, −1, 0)T √ √ √ √ √ + √ 6 6 2 3 30 2 15 2 2 −1 (1, 1, 1)T + (1, −1, 0)T 9 6 1 1 7 18 4 Durch Einsetzen kann man kontrollieren, dass ~a = ~a ∗ tatsächlich eine Lösung ist. 6. Die allgemeine Lösung meine Lösung ist also Die Differenz von zwei Lösungen liegt im Nullraum N . Die allge~a = ~a ∗ + ~n mit ~n ∈ N oder ~a = ~a ∗ + k1 ~ar+1 + k2 ~ar+2 + ... + km−r ~am . BEISPIEL : (Fortsetzung) Der Nullraum N ist N = L(~a3 ) = L((1, 1, −2)T ). Die allgemeine Lösung der Gleichung mit ~b = (2, 1, 3)T ist also 1 1 1/18 + k 1 7 + k 1 = 7/18 + k . ~a = ~a ∗ + k ~n = 18 4 −2 4/18 − 2k