3.2. Wahrscheinlichkeitsmaße auf metrischen Räumen 3.3. Schwache Konvergenz von Wahrscheinlichkeitsmaßen 3.4. Zufallsvariable in metrischen Räumen 11. Folgerung X P vollständiger metrischer Raum Wahrscheinlichkeitsmaß auf (X , B(X )) Dann gilt P ist ein Radon-Maß ⇔ es existiert eine separable Teilmenge X0 ∈ B(X ) mit P(X0 ) = P(X ) = 1 Hans-Jörg Starkloff Wahrscheinlichkeitsmaße auf metrischen Räumen 1 3.2. Wahrscheinlichkeitsmaße auf metrischen Räumen 3.3. Schwache Konvergenz von Wahrscheinlichkeitsmaßen 3.4. Zufallsvariable in metrischen Räumen 1. Definition X metrischer Raum (i) Geg. P, (Pn ; n ∈ N) Wahrscheinlichkeitsmaße auf (X , B(X )) Die Folge (Pn ; n ∈ N) konvergiert schwach gegen P, falls Z Z ∀ f ∈ Cb (X ) : lim fdPn = fdP. n→∞ Bezeichnung: Pn →w P (n → ∞) (ii) Eine Menge M von Wahrscheinlichkeitsmaßen auf (X , B(X )) heißt relativ kompakt bezüglich der schwachen Konvergenz, falls sich aus jeder Folge von Maßen aus M eine schwach konvergente Teilfolge auswählen lässt. Hans-Jörg Starkloff Wahrscheinlichkeitsmaße auf metrischen Räumen 2 3.2. Wahrscheinlichkeitsmaße auf metrischen Räumen 3.3. Schwache Konvergenz von Wahrscheinlichkeitsmaßen 3.4. Zufallsvariable in metrischen Räumen 2. Bemerkung Jedes Wahrscheinlichkeitsmaß P auf (X , B(X )) mit einem metrischen Raum X erzeugt ein stetiges lineares Funktional auf dem Banach-Raum Cb (X ) vermittels Z C(X ) 3 f 7→ f dP ∈ R. Die schwache Konvergenz von Wahrscheinlichkeitsmaßen auf (X , B(X )) entspricht dann der *-schwachen Konvergenz der entsprechenden linearen Funktionale. Hans-Jörg Starkloff Wahrscheinlichkeitsmaße auf metrischen Räumen 3 3.2. Wahrscheinlichkeitsmaße auf metrischen Räumen 3.3. Schwache Konvergenz von Wahrscheinlichkeitsmaßen 3.4. Zufallsvariable in metrischen Räumen 3. Behauptung Geg. X metrischer Raum; P, (Pn ; n ∈ N) Wahrscheinlichkeitsmaße auf (X , B(X )) Dann gilt: Pn →w P (n → ∞) ⇔ aus jeder Teilfolge von (Pn ; n ∈ N) lässt sich eine gegen P schwach konvergente Teilfolge auswählen Hans-Jörg Starkloff Wahrscheinlichkeitsmaße auf metrischen Räumen 4 3.2. Wahrscheinlichkeitsmaße auf metrischen Räumen 3.3. Schwache Konvergenz von Wahrscheinlichkeitsmaßen 3.4. Zufallsvariable in metrischen Räumen 4. Beispiel Geg. (X , %) metrischer Raum (xn ; n ∈ N) Folge in X , x ∈ X Pn := δxn ; P = δx , d.h. Pn (B) = 1, xn ∈ B 0, xn ∈ 6 B Dann gilt: Pn →w P (n → ∞) Hans-Jörg Starkloff ⇔ lim %(xn , x) = 0 n→∞ Wahrscheinlichkeitsmaße auf metrischen Räumen 5 3.2. Wahrscheinlichkeitsmaße auf metrischen Räumen 3.3. Schwache Konvergenz von Wahrscheinlichkeitsmaßen 3.4. Zufallsvariable in metrischen Räumen 5. Portmanteau-Theorem Geg. (X , %) metrischer Raum P, (Pn ; n ∈ N) Wahrscheinlichkeitsmaße auf (X , B(X )) Folgende Bedingungen sind äquivalent: (i) Pn →w P (n → ∞) Z Z fdPn = fdP (ii) ∀ f ∈ Cbuc (X ) : lim n→∞ (iii) ∀ F ⊆ X , F abgeschlossen : P(F ) ≥ lim sup Pn (F ) (iv) ∀ G ⊆ X , G offen : P(G) ≤ lim inf Pn (G) (v) ∀ B ∈ B(X ) mit P(∂B) = 0 : P(B) = lim Pn (B) n→∞ n→∞ n→∞ (vi) für alle beschränkten Borelschen Funktionen f : X → R mit P ({xZ∈ X : f istZnicht stetig in x}) = 0 gilt: lim n→∞ Hans-Jörg Starkloff fdPn = fdP Wahrscheinlichkeitsmaße auf metrischen Räumen 6 3.2. Wahrscheinlichkeitsmaße auf metrischen Räumen 3.3. Schwache Konvergenz von Wahrscheinlichkeitsmaßen 3.4. Zufallsvariable in metrischen Räumen 6. Beispiel Fortsetzung von Beispiel 3. (i) falls ∀ n ∈ N : xn 6= x, lim xn = x n→∞ für F = {x}: Pn (F ) = Pn ({x}) = 0 aber P(F ) = P({x}) = 1, also 0 = lim sup Pn (F ) < P(F ) = 1 n→∞ (ii) falls xn 6= xm , n 6= m, B := {x2k ; k ∈ N} ∈ B(X ) ∀k ∈ N : also Hans-Jörg Starkloff P2k (B) = 1, P2k +1 (B) = 0, lim Pn (B) existiert nicht n→∞ Wahrscheinlichkeitsmaße auf metrischen Räumen 7 3.2. Wahrscheinlichkeitsmaße auf metrischen Räumen 3.3. Schwache Konvergenz von Wahrscheinlichkeitsmaßen 3.4. Zufallsvariable in metrischen Räumen 7. Behauptung Die schwache Konvergenz von Wahrscheinlichkeitsmaßen auf einem metrischen Raum ist ein metrischer Begriff, d.h. man kann eine Metrik d in der Menge aller Wahrscheinlichkeitsmaße auf (X , B(X )) einführen, so dass Pn →w P (n → ∞) genau dann, wenn d(Pn , P) → 0 (n → ∞). (ohne Beweis) Hans-Jörg Starkloff Wahrscheinlichkeitsmaße auf metrischen Räumen 8 3.2. Wahrscheinlichkeitsmaße auf metrischen Räumen 3.3. Schwache Konvergenz von Wahrscheinlichkeitsmaßen 3.4. Zufallsvariable in metrischen Räumen 8. Definition Geg. X metrischer Raum Eine Menge M von Wahrscheinlichkeitsmaßen auf (X , B(X )) heißt straff [engl. tight], falls zu jedem ε > 0 eine kompakte Menge Kε ⊆ X existiert mit P(Kε ) ≥ 1 − ε für alle P ∈ M, d.h. mit inf{P(Kε ); P ∈ M} ≥ 1 − ε. Hans-Jörg Starkloff Wahrscheinlichkeitsmaße auf metrischen Räumen 9 3.2. Wahrscheinlichkeitsmaße auf metrischen Räumen 3.3. Schwache Konvergenz von Wahrscheinlichkeitsmaßen 3.4. Zufallsvariable in metrischen Räumen 9. Satz von Prokhorov Geg. X metrischer Raum M Menge von Wahrscheinlichkeitsmaßen auf (X , B(X )). (i) M straff ⇒ M ist relativ kompakt bezüglich der schwachen Konvergenz von Wahrscheinlichkeitsmaßen (ii) Ist X ein polnischer Raum, gilt auch die Umkehrung von (i), d.h. M straff ⇔ M ist relativ kompakt bezüglich der schwachen Konvergenz von Wahrscheinlichkeitsmaßen (ohne Beweis) Hans-Jörg Starkloff Wahrscheinlichkeitsmaße auf metrischen Räumen 10 3.2. Wahrscheinlichkeitsmaße auf metrischen Räumen 3.3. Schwache Konvergenz von Wahrscheinlichkeitsmaßen 3.4. Zufallsvariable in metrischen Räumen 10. Bemerkung ein häufiges Vorgehen bei der Untersuchung der schwachen Konvergenz von Wahrscheinlichkeitsmaßen: man zeigt, dass eine Folge (Pn ; n ∈ N) straff ist und zeigt zusätzlich, dass ein mögliches Grenzwahrscheinlichkeitsmaß eindeutig bestimmt ist Hans-Jörg Starkloff Wahrscheinlichkeitsmaße auf metrischen Räumen 11 3.2. Wahrscheinlichkeitsmaße auf metrischen Räumen 3.3. Schwache Konvergenz von Wahrscheinlichkeitsmaßen 3.4. Zufallsvariable in metrischen Räumen 1. Definition X metrischer Raum B(X ) σ−Algebra der Borel-Mengen auf X (Ω, A, P) Wahrscheinlichkeitsraum (i) Die Abbildung ξ : Ω → X heißt Zufallsvariable in X (oder in (X , B(X )) oder Zufallselement in X ), falls sie messsbar bezüglich A und B(X ) ist, d.h. falls ∀ B ∈ B(X ) : ξ −1 (B) ∈ A gilt. (ii) Zwei Zufallsvariable ξ1 und ξ2 in X heißen äquivalent (oder fast sicher gleich), falls P(ξ1 = ξ2 ) = 1 gilt. (iii) Eine Zufallsvariable ξ in X heißt diskrete oder elementare Zufallsvariable, falls der Wertebereich ξ(Ω) höchstens abzählbar ist. (iv) Eine Zufallsvariable ξ in X heißt einfache Zufallsvariable, falls der Wertebereich ξ(Ω) endlich ist. Hans-Jörg Starkloff Wahrscheinlichkeitsmaße auf metrischen Räumen 12 3.2. Wahrscheinlichkeitsmaße auf metrischen Räumen 3.3. Schwache Konvergenz von Wahrscheinlichkeitsmaßen 3.4. Zufallsvariable in metrischen Räumen 2. Definition X metrischer Raum B(X ) σ−Algebra der Borel-Mengen auf X (Ω, A, P) Wahrscheinlichkeitsraum (i) Die Verteilung Pξ der Zufallsvariable ξ in X ist das Bildmaß von P in X unter ξ, d.h. Pξ (B) = P({ω : ξ(ω) ∈ B}) =: P(ξ ∈ B) für beliebige B ∈ B(X ). (ii) Zwei Zufallsvariable ξ1 und ξ2 in X heißen identisch verteilt, falls ihre Verteilungen übereinstimmen, d.h. P(ξ1 ∈ B) = Pξ1 (B) = Pξ2 (B) = P(ξ2 ∈ B) für beliebige B ∈ B(X ). Hans-Jörg Starkloff Wahrscheinlichkeitsmaße auf metrischen Räumen 13 3.2. Wahrscheinlichkeitsmaße auf metrischen Räumen 3.3. Schwache Konvergenz von Wahrscheinlichkeitsmaßen 3.4. Zufallsvariable in metrischen Räumen 3. Bemerkungen (i) Jede elementare Zufallsvariable ξ in X kann dargestellt werden durch ξ(ω) = ∞ X xk 1Bk (ω), ω ∈ Ω, k =1 mit xk ∈ X , k ∈ N, und Bk ∈ B(X ), Bk ∩ Bl = ∅, k , l ∈ N, k 6= l. Jede einfache Zufallsvariable kann durch eine solche endliche Summe dargestellt werden. (ii) Äquivalente Zufallsvariable in X sind identisch verteilt. (iii) Im Allgemeinen gibt es auf einem Wahrscheinlichkeitsraum viele nichtäquivalente Zufallsvariable in X , die identisch verteilt sind. Hans-Jörg Starkloff Wahrscheinlichkeitsmaße auf metrischen Räumen 14 3.2. Wahrscheinlichkeitsmaße auf metrischen Räumen 3.3. Schwache Konvergenz von Wahrscheinlichkeitsmaßen 3.4. Zufallsvariable in metrischen Räumen 4. Satz X metrischer Raum P Wahrscheinlichkeitsmaß auf (X , B(X )) Dann existiert ein Wahrscheinlichkeitsraum (Ω, A, PΩ ) und eine Zufallsvariable ξ : Ω → X , so dass die Verteilung von ξ genau P ist. Hans-Jörg Starkloff Wahrscheinlichkeitsmaße auf metrischen Räumen 15 3.2. Wahrscheinlichkeitsmaße auf metrischen Räumen 3.3. Schwache Konvergenz von Wahrscheinlichkeitsmaßen 3.4. Zufallsvariable in metrischen Räumen 5. Satz X metrischer Raum (ξn ; n ∈ N) Zufallsvariable in (X , B(X )), definiert auf einem Wahrscheinlichkeitsraum (Ω, A, P) es existiert ξ(ω) = lim ξn (ω), ω ∈ Ω n→∞ Dann ist die Abbildung ξ : Ω → X messbar bezüglich A und B(X ), d.h. eine Zufallsvariable in X . Hans-Jörg Starkloff Wahrscheinlichkeitsmaße auf metrischen Räumen 16 3.2. Wahrscheinlichkeitsmaße auf metrischen Räumen 3.3. Schwache Konvergenz von Wahrscheinlichkeitsmaßen 3.4. Zufallsvariable in metrischen Räumen 6. Behauptung X separabler metrischer Raum Es existiert eine Folge von Borel-messbaren Abbildungen fn : X → X , n ∈ N, so dass der Wertebereich fn (X ) höchstens abzählbar ist und die Folge (fn ; n ∈ N) gleichmäßig (und monoton) gegen die identische Abbildung konvergiert: lim sup % (fn (x), x) = 0. n→∞ x∈X Ist der Raum X total beschränkt, können die Abbildungen (fn ; n ∈ N) so gewählt werden, dass die Wertebereiche fn (X ) für alle n ∈ N endlich sind. Hans-Jörg Starkloff Wahrscheinlichkeitsmaße auf metrischen Räumen 17 3.2. Wahrscheinlichkeitsmaße auf metrischen Räumen 3.3. Schwache Konvergenz von Wahrscheinlichkeitsmaßen 3.4. Zufallsvariable in metrischen Räumen 7. Behauptung X separabler metrischer Raum Es existiert eine Folge von Borel-messbaren Abbildungen fn : X → X , n ∈ N, so dass der Wertebereich fn (X ) für alle n ∈ N endlich ist und die Folge (fn ; n ∈ N) punktweise und monoton gegen die identische Abbildung konvergiert: ∀x ∈X Hans-Jörg Starkloff lim % (fn (x), x) = 0. n→∞ Wahrscheinlichkeitsmaße auf metrischen Räumen 18 3.2. Wahrscheinlichkeitsmaße auf metrischen Räumen 3.3. Schwache Konvergenz von Wahrscheinlichkeitsmaßen 3.4. Zufallsvariable in metrischen Räumen 8. Behauptung (Ω, A) messbarer Raum X metrischer Raum ξ : Ω → X Abbildung Dann sind folgende Bedingungen äquivalent: (i) ξ ist messbar und ξ(Ω) ist eine separable Teilmenge von X . (ii) Es existiert eine Folge von elementaren Zufallsvariablen (ξn ; n ∈ N) die gleichmäßig bezüglich ω ∈ Ω gegen ξ konvergiert. Ist der metrische Raum total-beschränkt, können einfache Zufallsvariable (ξn ; n ∈ N) gewählt werden. (iii) Es existiert eine Folge (ηn ; n ∈ N) von einfachen Zufallsvariablen in X , so dass ∀ ω ∈ Ω : lim ηn (ω) = ξ(ω) gilt. n→∞ Hans-Jörg Starkloff Wahrscheinlichkeitsmaße auf metrischen Räumen 19 3.2. Wahrscheinlichkeitsmaße auf metrischen Räumen 3.3. Schwache Konvergenz von Wahrscheinlichkeitsmaßen 3.4. Zufallsvariable in metrischen Räumen 9. Behauptung (Ω, A) messbarer Raum X metrischer Raum ξ : Ω → X Abbildung Dann sind folgende Bedingungen äquivalent: (i) ξ ist messbar, d.h. eine Zufallsvariable in X . (ii) Für beliebige f ∈ Cbuc (X ) (oder f ∈ Cb (X ) oder f ∈ C(X )) ist f (ξ) eine reellwertige Zufallsvariable auf (Ω, A). Hans-Jörg Starkloff Wahrscheinlichkeitsmaße auf metrischen Räumen 20 3.2. Wahrscheinlichkeitsmaße auf metrischen Räumen 3.3. Schwache Konvergenz von Wahrscheinlichkeitsmaßen 3.4. Zufallsvariable in metrischen Räumen 10. Bemerkung Für vollständige separable metrische Räume X kann Bedingung (ii) in Behauptung 9 abgeschwächt werden durch: Für beliebige f ∈ M ist f (ξ) eine reellwertige Zufallsvariable, wobei M eine Menge von reellen stetigen Funktionen auf X ist, welche die Punkte von X trennt. (Pettis) Hans-Jörg Starkloff Wahrscheinlichkeitsmaße auf metrischen Räumen 21 3.2. Wahrscheinlichkeitsmaße auf metrischen Räumen 3.3. Schwache Konvergenz von Wahrscheinlichkeitsmaßen 3.4. Zufallsvariable in metrischen Räumen 11. Definition (Ω, A, P) Wahrscheinlichkeitsraum (X , %) separabler metrischer Raum ξ, (ξn ; n ∈ N) Zufallsvariable in (X , B(X )) Pξ , (Pξn ; n ∈ N) Verteilungen von ξ, (ξn ; n ∈ N) entsprechend Die Folge (ξn ; n ∈ N) konvergiert gegen ξ für n → ∞ (i) in Verteilung, falls Pξn →w Pξ (n → ∞) Bez.: ξn →d ξ oder ξn →v ξ, (n → ∞) (ii) fast sicher, falls P ({ω : %(ξn (ω), ξ(ω)) → 0 (n → ∞)}) = 1 Bez.: ξn →a.s. ξ oder ξn →f .s. ξ, (n → ∞) (iii) stochastisch oder in Wahrscheinlichkeit, falls für beliebige ε > 0 gilt: lim P({ω : %(ξn (ω), ξ(ω)) > ε}) = 0 Bez.: Hans-Jörg Starkloff n→∞ ξn →p ξ (n → ∞) Wahrscheinlichkeitsmaße auf metrischen Räumen 22 3.2. Wahrscheinlichkeitsmaße auf metrischen Räumen 3.3. Schwache Konvergenz von Wahrscheinlichkeitsmaßen 3.4. Zufallsvariable in metrischen Räumen 12. Behauptung (Ω, A, P) Wahrscheinlichkeitsraum (X , %) separabler metrischer Raum ξ, (ξn ; n ∈ N) Zufallsvariable in (X , B(X )) Es gelten die allgemeinen Beziehungen zwischen den Konvergenzarten wie für reellwertige Zufallsvariable, d.h. (i) ξn →a.s. ξ (ii) ξn →p Hans-Jörg Starkloff ξ (n → ∞) (n → ∞) ⇒ ⇒ ξn →p ξ ξn →d ξ (n → ∞) (n → ∞) Wahrscheinlichkeitsmaße auf metrischen Räumen 23 3.2. Wahrscheinlichkeitsmaße auf metrischen Räumen 3.3. Schwache Konvergenz von Wahrscheinlichkeitsmaßen 3.4. Zufallsvariable in metrischen Räumen 13. Behauptung (Ω, A, P) Wahrscheinlichkeitsraum (X , %) separabler metrischer Raum (ξn ; n ∈ N) Zufallsvariable in (X , B(X )) ξ(ω) = x0 ∈ X f.s. Dann gilt: ξn →d ξ (n → ∞) Hans-Jörg Starkloff ⇒ ξn →p ξ (n → ∞) Wahrscheinlichkeitsmaße auf metrischen Räumen 24 3.2. Wahrscheinlichkeitsmaße auf metrischen Räumen 3.3. Schwache Konvergenz von Wahrscheinlichkeitsmaßen 3.4. Zufallsvariable in metrischen Räumen 14. Satz (Skorokhod) X Polnischer Raum Pξ , (Pξn ; n ∈ N) Wahrscheinlichkeitsmaße auf (X , B(X )) Pn →w P (n → ∞) Dann existiert ein Wahrscheinlichkeitsraum (Ω, A, PΩ ) und auf ihm X -wertige Zufalllsvariable ξ, (ξn ; n ∈ N), so dass (i) die Verteilungen von ξn bzw. ξ mit Pn bzw. P übereinstimmen und (ii) ξn →a.s. ξ (n → ∞) (d.h. die Verteilungskonvergenz von Zufallsvariablen in X kann durch die fast sichere Konvergenz von (anderen) Zufallsvariablen X realisiert werden, ohne dass die einzelnen Verteilungen der Zufallsvariablen in X geändert werden.) Hans-Jörg Starkloff Wahrscheinlichkeitsmaße auf metrischen Räumen 25