Aufgabensammlung zur Vorlesung Maß- und Wahrscheinlichkeitstheorie für Studierende im Hauptfach Statistik Vorwort Das Geheft umfasst Übungsaufgaben zur Vorlesung Maß- und Wahrscheinlichkeitstheorie. Jedes Übungsblatt deckt ungefähr den Stoff von zwei Semesterwochenstunden Vorlesung ab. Die ersten sieben Übungsblätter, die sich im Wesentlichen auf den Teil “Maßtheorie„der Vorlesung beziehen, wurden freundlicherweise von Herrn Prof. Dr. Fahrmeir, Frau Tamosaityte und Herrn Dr. Hable zur Verfügung gestellt. Allen sei herzlich gedankt. Das Lösen von Übungsaufgaben ist unerlässlich für das Bestehen der Klausur. Oktober 2009 Christina Schneider Übungsblatt 1 Aufgabe 1 Für je zwei Mengen A und B heißt A4B := (A \ B) ∪ (B \ A) die symmetrische Differenz von A und B. Man beweise folgende Rechenregeln: A4B = B4A (1) (A4B)4C = A4(B4C) (2) A4A = ∅ und A4∅ = A ∞ [ ! An (3) ¬A4¬B = A4B (4) (A4B) ∩ C ! ∞ [ 4 Bn = (A ∩ C)4(B ∩ C) ∞ [ (An 4Bn ) (5) n=1 n=1 ⊂ (6) n=1 Aufgabe 2 Für jede natürliche Zahl n ∈ N bezeichne An die vom System E der Mengen {1}, {2}, . . . , {n} und Ω := N erzeugte σ-Algebra. Man zeige, dass An aus allen Mengen A ⊂ N besteht, welche entweder A ⊂ {1, 2, . . . , n} oder m ∈ A für alle m ≥ n + 1 erfüllen. Man zeige, dass An ⊂ An+1 ist. Aufgabe 3 (Vorlesung) Man beweise folgenden Satz: Theorem (Durchschnitt von σ-Algebren). Sei Ω eine Menge, sei I eine Indexmenge und für jedes i ∈ I sei Ai eine σ-Algebra auf Ω. Dann ist auch \ i∈I Ai := {A ⊂ Ω|A ∈ Ai ∀i ∈ I} eine σ-Algebra auf Ω. Aufgabe 4 (Vorlesung) Sei (Ω, A, µ) ein Maßraum. Man beweise folgende Eigenschaften von Maßen: 1. Endliche Additivität: Für ein n ∈ N seien A1 ∈ A, . . . , An ∈ A so dass Ai ∩ Aj = ∅ (für i 6= j). Dann ist µ(A1 ∪ · · · ∪ An ) = µ(A1 ) + · · · + µ(An ) 2. Isotonie: A ∈ A, B ∈ A , A⊂B ⇒ µ(A) ≤ µ(B) 3. Subtraktivität: A ∈ A, B ∈ A , A ⊂ B , µ(A) < ∞ ⇒ µ(B \ A) = µ(B) − µ(A) ∞ [ ! 4. Sub-Additivität: An n∈N ⊂ A ⇒ µ An ≤ n=1 ∞ X µ(An ) n=1 5. Stetigkeit von oben: Sei An n∈N ⊂ A; A1 ⊃ A2 ⊃ A3 ⊃ . . . ⊃ ∞ \ n=1 wobei µ(A1 ) < ∞. Dann gilt lim µ(An ) = µ(A) n→∞ An = A ∈ A Übungsblatt 2 Aufgabe 5 (Vorlesung) Man beweise, dass das Dirac-Maß in x ∈ Ω ein Maß auf (Ω, A) ist. Aufgabe 6 Sei An := σ({{1}, {2}, . . . , {n}, Ω}) eine σ-Algebra auf einer nichtabzählbaren Menge Ω. Man beweise: µ: An −→ [0; ∞] 0 A abzählbar A 7−→ 1 ¬A abzählbar ist ein Maß auf (Ω, An ). Aufgabe 7 Beweisen Sie folgende Beziehungen zwischen allen Wahrscheinlichkeitsmaßen P und dem Dirac-Maß: (a) Alle Wahrscheinlichkeitsmaße P auf ({1, . . . , n}, P({1, . . . , n}) sind von der Form P = n X αk δk , n X αk ∈ [0; 1] ∀ k ∈ {1, . . . , n} , k=1 αk = 1 k=1 wobei δk jeweils das Dirac-Maß an der Stelle k ist. (b) Alle Wahrscheinlichkeitsmaße P auf (N, P(N)) sind von der Form P = ∞ X αk δk , αk ∈ [0; 1] ∀ k ∈ N , k=1 wobei δk jeweils das Dirac-Maß an der Stelle k ist. ∞ X k=1 αk = 1 Aufgabe 8 Beweisen Sie folgenden Satz: Theorem (Eigenschaften von B). • ∅ ∈ B, R ∈ B • {c} ∈ B ∀ c ∈ R • Für alle a ∈ R, b ∈ R mit a < b ist [a, b] ∈ B [a, b) ∈ B (a, b] ∈ B (a, b) ∈ B • N ∈ B, Q ∈ B Natürlich sind auch jeweils die Komplemente, die (abzählbaren) Vereinigungen und die (abzählbaren) Durchschnitte all dieser Mengen in B. Aufgabe 9 (Vorlesung) Beweisen Sie folgenden Satz: Theorem (Translationsinvarianz). Sei B ∈ B, c ∈ B und Bc := c + B = c+b| b∈B Dann ist λ Bc = λ(B) D.h.: Durch verschieben verändert sich nicht die Streckenlänge. Hinweis. Setze λc (B) = λ(Bc ) ∀ B ∈ B und verwende den Eindeutigkeitssatz. Übungsblatt 3 Aufgabe 10 (Vorlesung) Bewiesen Sie folgenden Satz: Theorem. Durch Gleichung (10) wird tatsächlich ein Maß µ0 auf (Ω0 , A0 ) definiert. Außerdem gilt: • µ ist endliches Maß ⇒ T (µ) ist endliches Maß • µ ist Wahrscheinlichkeitsmaß ⇒ T (µ) ist Wahrscheinlichkeitsmaß Aufgabe 11 Sei (Ω, A, µ) der Maßraum mit Ω := R und der von allen abzählbaren Mengen erzeugten σ-Algebra A, sowie µ(A) = 0 wenn A abzählbar ist und µ(A) = 1 wenn ¬A abzählbar ist. Für Ω0 := {0, 1} und A0 := P(Ω0 ) wird die Abbildung T : Ω → Ω0 definiert durch ( T (ω) := 0, falls ω rational; 1, falls ω irrational. Man zeige, dass T A → A0 -messbar ist, und bestimme das Bildmaß T (µ). Aufgabe 12 Sei T die Einheitskreislinie im R2 . Man beweise die Existenz eines Maßes ν 6= 0 auf der σ-Algebra B(T) := T ∩ B 2 , welches bezüglich aller Drehungen von T invariant ist. Hinweis. Man wähle ν als geeignetes Bild von λ1 . Aufgabe 13 (a) Auf einem Messraum (Ω, A) sei die reelle Funktion f : Ω → R A-messbar. Sind dann auch exp f und sin f , d.h. die Funktionen ω 7→ ef (ω) und ω 7→ sin f (ω), A-messbar? (b) Man zeige anhand eines Beispieles, dass aus der Messbarkeit von |f | im allgemeinen nicht die Messbarkeit einer numerischen Funktion f folgt. Übungsblatt 4 Aufgabe 14 (Vorlesung) Sei (Ω, A, µ) ein Maßraum und f : Ω → R und g : Ω → R zwei A - messbare Funktionen. Man zeige, dass die Teilmengen von Ω, die in den Gleichungen µ {ω | f (ω) 6= g(ω)} = 0 µ {ω | f (ω) > g(ω)} = 0 auftreten, tatsächlich in A liegen. Aufgabe 15 (Vorlesung) Bewiesen Sie folgenden Korollar: Korollar (σ-Additivität des Integrals). Sei (Ω, A, µ) ein Maßraum und sei fk Folge von A - messbaren Funktionen fk : Ω → R, so dass fk (ω) ≥ 0 k∈N eine ∀ω ∈ Ω für jedes k ∈ N. Sei außerdem ∞ X fk (ω) < ∞ ∀ω ∈ Ω k=1 Dann ist Z X ∞ k=1 fk (ω) µ(dω) = ∞ Z X fk (ω) µ(dω) k=1 (und die beiden Integrale existieren gemäß (13).) Aufgabe 16 Sei Ω nicht abzählbare Menge und A die σ-Algebra, für welche entweder A oder ¬A abzählbar ist. µ sei ein Zählmaß, ν ist ein Maß mit ν(A) = 0 bzw. ν(A) = +∞, je nach dem ob A abzählbar oder nicht ist. Wird ν von µ dominiert? Besitzt ν eine Dichte bzgl. µ? Aufgabe 17 (Vorlesung) Sei Ω = N, A = P(N) und ] das Zählmaß hierauf (vgl. Abschnitt 4.2.2 abzählbar unendlicher Fall). Beweisen Sie, dass in diesem Fall gilt 1. Für jede ]-messbare nichtnegative Funktion f : N → R+ 0 ist Z f d] = ∞ X f (i) i=1 2. Für jedes Maß ν auf N, P(N) gilt ν ] 3. Für jedes σ-endliche Maß ν auf N, P(N) ist die Dichte von ν bzgl. ] gegeben durch i 7→ ν {i} 4. Für jedes σ-endliche Maß ν auf N, P(N) und jede ν-messbare nichtnegative Funktion g : N → R+ 0 ist Z ∞ X g dν = g(i) · ν {i} i=1 Aufgabe 18 Man zeige, dass das Dirac-Maß δx keine Dichte bezüglich λ besitzen kann. Übungsblatt 5 Aufgabe 19 (a) Man gebe die Dichtefunktion • der Poisson-Verteilung bzgl. ] auf (N, P(N)). • der Binomial-Verteilung bzgl. ] auf ({0, . . . , n}, P({0, . . . , n})). an. (b) Bekanntlich ist N (0, 1) λ Man zeige, dass auch λ N (0, 1) und bestimme die Dichte von λ bzgl. N (0, 1). Aufgabe 20 Sei (Ω, A) = (R, B) und F : t 7→ F (t) mit 0 1 t 32 1 2 F (t) = 16 t 1 t + 8 1 t<0 0≤t<1 1≤t<2 1 4 2≤t<4 t≥4 Sei P das W-Maß auf (R, B) mit Verteilungsfunktion F , d.h. F (t) = P ((−∞, t]). Bestimme die Dichte von P bzgl. λ + δ0 + δ1 + δ2 + δ3 + δ4 + δ5 Aufgabe 21 (a) Man beweise: zwei Ereignisse A und B sind genau dann unabhängig, wenn A und B C unabhängig sind. Sie sind insbesondere dann unabhängig, wenn P (B) ∈ {0, 1}. (b) Man beweise: sind die Ereignisse A, B, C unabhängig, so sind A ∪ B und C unabhängig. (c) Für zwei Mengen E1 und E2 von Ereignissen eines W-Raumes (Ω, A, P ) mit E1 ⊂ E2 zeige man: E1 und E2 sind genau dann unabhängig, wenn P (A) = 0 oder P (A) = 1 für alle A ∈ E1 gilt. Aufgabe 22 Gegeben seien zwei Messräume (Ωi , Ai ), i = 1, 2, wobei ](Ω1 ) = m1 < ∞ und ](Ω2 ) = m2 < ∞ Man zeige, dass die von allen Mengen A1 × A2 mit Ai ∈ Ai erzeugte σ-Algebra in Ω1 × Ω2 aus denjenigen Mengen besteht, welche die Vereinigung jeweils endlich vieler Mengen der Form A1 × A2 , Ai ∈ Ai , sind. Übungsblatt 6 Aufgabe 23 (Vorlesung) Seien (Ω, A), (Ω01 , A01 ), (Ω02 , A02 ) Messräume. Sei P ein W-Maß auf (Ω, A). Sei X1 : Ω → Ω01 eine A01 -messbare Zufallsvariable und sei X2 : Ω → Ω02 eine A02 -messbare Zufallsvariable. Setze X : Ω → Ω01 × Ω02 , ω 7→ (X1 (ω), X2 (ω)) Dann gilt: X1 und X2 sind stochastisch unabhängig, genau dann wenn X(P ) = [X1 (P )] ⊗ [X2 (P )] Aufgabe 24 (Vorlesung) Für i ∈ {1; . . . ; n} sei Pi ein W-Maß auf (R, B) mit Lebesque-Dichte fi . Dann ist f : Rn → R, (x1 , . . . , xn ) 7→ f1 (x1 ) · . . . · fn (xn ) eine Lebesque-dichte von P1 ⊗ . . . ⊗ Pn auf Rn , das heißt d(P1 ⊗ . . . ⊗ Pn ) = f dλn . Aufgabe 25 Seien µ, ν zwei Maße auf (Ω1 × Ω2 , A1 ⊗ A2 ). Seien (Ω1 , A1 , µ1 ) und (Ω2 , A2 , µ2 ) zwei Maßräume, wobei µ1 und µ2 σ-endlich sind. Sei µ(A1 × A2 ) = µ1 (A1 ) · µ2 (A2 ) und ν(A1 × A2 ) = µ1 (A1 ) · µ2 (A2 ) Zeigen Sie mit Hilfe des Eindeutigkeitssatzes (Satz 3.9), dass µ=ν Aufgabe 26 Man betrachte die beiden Maßräume (Ω1 , A1 , µ1 ) und (Ω2 , A2 , µ2 ), wobei Ω1 = Ω2 := R, A1 = A2 := B1 , µ1 := λ1 und µ2 := ] (nicht σ-endliches Zählmaß auf B1 ). Man zeige, dass für die Diagonale D := {(ω, ω) : ω ∈ R} von R × R = Ω1 × Ω2 die Gleichheit Z Z Z Z ID (ω1 , ω2 )µ2 (dω2 )µ1 (dω1 ) = Ω1 Ω2 ID (ω1 , ω2 )µ1 (dω1 )µ2 (dω2 ) Ω2 Ω1 nicht gilt. Was bedeutet das für das Maß µ? Warum ist D ∈ B2 = A1 ⊗ A2 ? Aufgabe 27 Sei (Ω, A, P ) ein Wahrscheinlichkeitsraum und C ∈ A und C = σ({C}) Was ist dann E[X|C] für X ∈ L1 (Ω, A, P ) ? Übungsblatt 7 Aufgabe 28 Seien X und Y zwei reelle Zufallsvariablen, die die 2-dimensionale Standard-Normalverteilung µρ,σ = f λ2 mit ρ ∈ (−1, 1) und σ > 0 besitzen: (1 − ρ2 )1/2 1 2 2 exp − 2 (x − 2ρxy + y ) f (x, y) := 2πσ 2 2σ Wie sieht die bedingte Dichtefunktion f (x|y) aus? Beweisen Sie, dass E(X|Y ) = ρY. Aufgabe 29 Es sei µ ein W-Maß auf B2 ; π1 bzw. π2 bezeichne die kanonische Projektion (x, y) 7→ x bzw. y von R2 auf die x- bzw. y−Achse. Die Bildmaße π1 (µ) bzw. π2 (µ) heißen dann die Marginalmaße zu µ. Man zeige, dass aus der Existenz einer W-Dichte f für µ die Existenz einer W-Dichte für jedes der beiden Marginalmaße folgt. Man gebe diese Dichten an und vergleiche das Resultat mit der Definition von fR : Z fR (y) := f (x, y)dx Aufgabe 30 Sei (Ω, A, P ) ein Wahrscheinlichkeitsraum und sei Cn ∈ Ω ∀n ∈ N so dass Cn ∩ Cm = ∅ für n 6= m und Ω= [ Cn n∈N Sei C die von C1 , C2 , C3 , . . . erzeugte σ-Algebra. Sei X ∈ L1 (Ω, A, P ). Wie sieht dann EP X C aus? Aufgabe 31 Sei (Ω, A, P ) ein Wahrscheinlichkeitsraum. Seien Y1 , Y2 , . . . , Yn ∈ L1 (Ω, A, P ) stochastisch unabhängige Zufallsvariablen mit E(Yi ) = 0. Setze Xn = n P Yj . Beweisen Sie, j=1 dass in diesem Fall gilt: EP Xn X1 , . . . , Xn−1 = Xn−1 fast sicher. Hinweis. Xn = Yn + Xn−1 Aufgabe 32 Seien (Ω, A), (Ω01 , A01 ) und (Ω02 , A02 ) Messräume. Sei P ein W-Maß auf (Ω, A). Seien X1 : (Ω, A) → (Ω01 , A01 ) X2 : (Ω, A) → (Ω02 , A02 ) stochastisch unabhängige Zufallsvariablen. Sei ϕ : Ω01 × Ω02 → R eine A01 ⊗ A02 -messbare Funktion, so dass ! X1 ϕ◦ ∈ L1 (Ω, A, P ) X2 sowie ψ1 : Ω01 −→ R Z x1 7−→ Ep [ϕ(x1 , Y )] = ϕ(x1 , Y (ω))P (dω) Zeigen Sie: Ep [ϕ(X, Y )|X] = ψ1 ◦ X. Übungsblatt 8 Aufgabe 33 Zeigen Sie die folgenden Implikationen: Lp -Konvergenz ⇒ L1 -Konvergenz ⇒ stochastische Konvergenz ⇒ schwache Konvergenz sowie: fast sichere Konvergenz =⇒ stochastische Kovergenz. Aufgabe 34 (Vorlesung) Beweisen Sie den folgenden Satz: Theorem. Sei (Xn ) eine Folge paarweise unkorrelierter Zufallsvariablen mit E(Xn ) = 0 und Var(Xn ) < ∞ für alle n ∈ N. Ist zudem (an ) eine Folge positiver reeller Zahlen, für welche gilt n 1 X n→∞ V (Xi ) −−−→ 0 , 2 an i=1 so folgt p lim d.h. die Folge ( a1n Pn i=1 n 1 X Xi = 0 , an i=1 Xi ) konvergiert stochastisch gegen 0. Aufgabe 35 Zeigen Sie, dass die Bedingung des obigen Satzes mit an = n erfüllt ist, wenn die Zufallsvariablen identisch verteilt sind. Aufgabe 36 Die Bedingung des obigen Satzes ist hinreichend, aber nicht notwendig. Zeigen Sie dies an folgendem Beispiel: (Xn ) sei eine Folge von unabhängigen und identisch Cauchy-verteilten P Zufallsvariablen mit Skalenparameter 1. Dann konvergiert die Folge Sn = a1n ni=1 Xi stochastisch gegen 0, falls lim ann = 0 gilt. Die Bedingung kann aber gar nicht erfüllt sein, da für Cauchy-Verteilungen keine Erwartungswerte existieren. Aufgabe 37 Zeigen Sie: Der Satz von de Moivre-Laplace ist ein Spezialfall des Satzes von LindebergFeller: Theorem. Für jede Folge unabhängiger quadratisch integrierbarer Zufallsvariablen (Xn ) mit Varianzen V (Xn ) > 0 sind die folgenden Aussagen gleichwertig: 1. Es gilt der Zentrale Grenzwertsatz und die Folge genügt der Fellerschen Bedingung. 2. Es gilt der Zentrale Grenzwertsatz und die Folge (Xni ) ist asymptotisch vernachlässigbar. 3. Die Folge genügt der Lindeberg-Bedingung. Übungsblatt 9 Aufgabe 38 Zeigen Sie: Sind X und Y unabhängige reelle Zufallsvariablen auf einem gemeinsamen Wahrscheinlichkeitsraum, dann sind auch die Zufallsvariablen X 2 und Y 2 unabhängig. Folgern Sie (informell), dass ein analoger Zusammenhang auch für n unabhängige Zufallsvariablen und deren Quadrate gilt. Aufgabe 39 Zeigen Sie: Sind X1 , . . . , Xn unabhängige reelle Zufallsvariablen auf einem gemeinsamen Wahrscheinlichkeitsraum mit existierenden Varianzen, dann gilt: Var n X i=1 ! Xi = n X Var(Xi ) i=1 Aufgabe 40 Zeigen Sie: Ist (Xn ) eine Folge unabhängiger und identisch auf dem Intervall [−a, a] gleichverteilter Zufallsvariablen: Xn : (Ω, A) −→ (R, B), dann bildet die Folge (Xn − an) ein Super-Martingal bezüglich der Familie von Sub-σ-Algebren σ(Xm , m ≤ n). Aufgabe 41 Stellen Sie ein Produktmaß µ1 ⊗ µ2 auf einem Produktmessraum (Ω1 × Ω2 , A1 ⊗ A2 ) als gemeinsame Verteilung bezüglich eines Markov-Kernes und eines Wahrscheinlichkeitsmaßes dar. Übungsblatt 10 Aufgabe 42 Es sei P = {Pθ : θ ∈ Θ} eine bezüglich einer Gruppe von Transformationen, G, invariante Verteilungsfamilie. Zeigen Sie, dass aus P g ⊂ P, für alle g ∈ G, die Beziehung P ⊂ P g , für alle g ∈ G, folgt. Aufgabe 43 Man zeige: Die Familie der Normalverteilungen auf (R, B) mit bekanntem Erwartungswert bildet eine Skalenfamilie. Aufgabe 44 Man zeige: Ist P = {Pθ : θ ∈ Θ} eine Lokations- bzw. Skalenfamilie auf (R, B) und ist X verteilt nach Pθ , dann ist Ta (X) = X + a bzw. Tb (X) = bX, b > 0, nach Pθ+a bzw. Pbθ verteilt. Aufgabe 45 Seien X1 , . . . , Xn i.i.d. gemäß der Gleichverteilung auf dem Intervall [0, 1]. Geben Sie die Dichte der k-ten Orderstatistik X(k) , 1 ≤ k ≤ n, an. Übungsblatt 11 Aufgabe 46 (Vorlesung) Man zeige: Die charakteristische Funktion der Einpunktverteilung in a ∈ Rp 1 x = a εa (x) = 0 sonst ist ε̂a (x) = ei hx,ai . Aufgabe 47 (Vorlesung) Man zeige: Die charakteristische Funktion einer diskreten Verteilung µ= ∞ X αn εan n=1 ist µ̂(x) = ∞ X αn ei hx,an i n=1 Aufgabe 48 Wie lautet die Fourier-Transformierte einer B(n, p)-Verteilung?