WR 1 W. Merz Kapitel 5 Stochastische Unabhängigkeit Vorlesung Wahrscheinlichkeitsrechnung I vom SoSe 2009 W. Merz Lehrstuhl für Angewandte Mathematik 1 FAU 5.1 Das Konzept der stochastischen Unabhängigkeit. 1 Herleitung anhand relativer Häufigkeiten 2 Stochastische Unabhängigkeit von zwei Ereignissen 3 Globale stochastische Unabhängigkeit 4 Stochastische Unabhängigkeit von σ-Algebren 5 Stochastische Unabhängigkeit von Zufallsexperimenten WR 1 W. Merz 5.2 Herleitung der Definition. A und B seien Ereignisse aus einem Wahrscheinlichkeitsraum (Ω, A, P) WR 1 W. Merz Relative Häufigkeiten B hat offensichtlich keinen Einfluss auf das Eintreten von A, wenn HN (A|B) ≈ HN (A). Übersetzen in bedingte Wahrscheinlichkeiten A ist stochastisch unabhängig von B, wenn P(A|B) = P(A). Falls P(B) > 0, ist P(A|B) = P(A ∩ B) = P(A) genau dann P(B) wenn P(A ∩ B) = P(A)P(B). Definition Zwei Ereignisse A und B heißen stochastisch unabhängig, wenn P(A ∩ B) = P(A)P(B). 5.3 Achtung! Die Eigenschaften disjunkt und stochastisch unabhängig für zwei Ereignisse schließen sich gegenseitig aus, wenn P(A) > 0 und P(B) > 0! WR 1 W. Merz Sind A und B disjunkt, so ist P(A ∩ B) = P(∅) = 0 6= P(A)P(B) A und B sind dann nicht unabhängig. Sind A und B stochastisch unabhängig, so ist P(A ∩ B) = P(A)P(B) > 0 also A ∩ B 6= ∅, d.h. A und B sind nicht disjunkt. 5.4 Beispiel 1 Zwei reguläre Würfel werden nacheinander geworfen. WR 1 W. Merz A1 : Beim ersten Wurf erscheint eine gerade Zahl. A2 : Beim zweiten Wurf erscheint eine gerade Zahl. Es ist gefühlsmäßig klar, dass diese beiden Ereignisse stochastisch unabhängig sind. Laplace-Experiment mit Ω = {(1, 1), (1, 2), . . . , (i, k ), . . . , (6, 6)} |Ω| = 36 5.5 Beispiel 1 (2, 1) (2, 2) (2, 3) (2, 4) (2, 5) (2, 6) (4, 1) (4, 2) (4, 3) (4, 4) (4, 5) (4, 6) A1 = (6, 1) (6, 2) (6, 3) (6, 4) (6, 5) (6, 6) WR 1 W. Merz |A1 | = 18 (1, 2) (2, 2) (3, 2) (4, 2) (5, 2) (6, 2) (1, 4) (2, 4) (3, 4) (4, 4) (5, 4) (6, 4) A2 = (1, 6) (2, 6) (3, 6) (4, 6) (5, 6) (6, 6) |A2 | = 18 (2, 2) (2, 4) (2, 6) (4, 2) (4, 4) (4, 6) A1 ∩ A2 = (6, 2) (6, 4) (6, 6) |A1 ∩ A2 | = 9 P(A1 ∩ A2 ) = 1 1 1 18 18 9 = = · = · = P(A1 )P(A2 ) 36 4 2 2 36 36 5.6 Beispiel 2 Zwei reguläre Würfel werden nacheinander geworfen. WR 1 W. Merz A: Die Augensumme ist eine gerade Zahl. B: Beim zweiten Wurf erscheint eine gerade Zahl. Hier scheint gefühlsmäßig eine Abhängigkeit zu bestehen. (1, 1) (1, 3) (1, 5) (3, 1) (3, 3) (3, 5) (5, 1) (5, 3) (5, 5) A= (2, 2) (2, 4) (2, 6) (4, 2) (4, 4) (4, 6) (6, 2) (6, 4) (6, 6) (1, 2) (2, 2) (3, 2) (4, 2) (5, 2) (6, 2) (1, 4) (2, 4) (3, 4) (4, 4) (5, 4) (6, 4) B= (1, 6) (2, 6) (3, 6) (4, 6) (5, 6) (6, 6) (2, 2) (2, 4) (2, 6) (4, 2) (4, 4) (4, 6) A∩B = (6, 2) (6, 4) (6, 6) P(A ∩ B) = 9 1 1 1 18 18 = = · = · = P(A)P(B) 36 4 2 2 36 36 5.7 Beispiel 3 Die beiden Würfel seien so gefälscht, dass 2 P(A1 ) = P(A2 ) = . 5 Wir setzen aber sinnvollerweise fest, dass A1 und A2 stochastisch unabhängig sein sollen: P(A1 ∩ A2 ) = P(A1 )P(A2 ). WR 1 W. Merz Wie gleich anschließend gezeigt wird, sind dann auch die Paare A1 , A2 , A1 , A2 und A1 , A2 stochastisch unabhängig. P(A) = P(A1 ∩ A2 + A1 ∩ A2 ) = P(A1 ∩ A2 ) + P(A1 ∩ A2 ) 2 2 2 3 = P(A1 )P(A2 ) + P(A1 )P(A2 ) = + 5 5 13 = 25 5.8 WR 1 Beispiel 3 P(A) = P(B) = P(A2 ) = P(A)P(B) = W. Merz 13 25 2 5 13 2 26 · = 25 5 125 2 2 20 = P(A ∩ B) = P(A1 ∩ A2 ) = P(A1 )P(A2 ) = 5 125 Bei gefälschten Würfeln sind A und B nicht notwendig stochastisch unabhängig. 5.9 Rechenregeln WR 1 W. Merz Satz Mit A, B sind auch die Paare A, B, A, B und A, B stochastisch unabhängig. Beweis. • B = AB + AB • P(B) = P(A)P(B) + P(AB) • P(AB) = (1 − P(A)) P(B) = P(A)P(B) • usw. 5.10 Rechenregeln WR 1 W. Merz Satz Ist P(A) = 0 oder P(A) = 1, so sind A und B für beliebige Ereignisse B stochastisch unabhängig. Beweis. • Ist P(A) = 0, so ist wegen AB ⊂ A auch P(AB) = 0. Daher gilt P(AB) = 0 = P(A)P(B). • Ist P(A) = 1 so ist P(A) = 0, somit A und B und folglich auch das Paar A = A und B stochastisch unabhängig. 5.11 Mehr als zwei Ereignisse Bei mehr als zwei Ereignissen A1 , A2 , A3 , . . . reicht es im allgemeinen nicht aus, nur die stochastische Unabhängigkeit aller Paare Ai , Ak zu fordern. WR 1 W. Merz Beispiel Laplace-Experiment mit Ergebnismenge Ω = {1, 2, 3, 4}. A = {1, 2} B = {2, 3} C = {1, 3} Die Paare A, B, B, C und A, C sind jeweils stochastisch unabhängig: P(A ∩ B) = P{2} = 1 11 = = P(A)P(B) 4 22 usw. A ist aber nicht stochastisch unabhängig vom Verbundereignis B ∩ C, dass B und C gleichzeitig eintreten. Denn A ∩ (B ∩ C) = ∅. 5.12 Globale stochastische Unabhängigkeit WR 1 W. Merz Definition Ereignisse A1 , A2 , . . . An aus einem Wahrscheinlichkeitsraum (Ω, A, P) heißen global stochastisch unabhängig, wenn für jeden der Indizes i = 1, 2, . . . , n gilt: Das Ereignis Ai ist stochastisch unabhängig von allen Verbundereignissen, die man aus den übrigen Ereignissen Aj mit j 6= i bilden kann. Theorem Ereignisse A1 , A2 , . . . An aus einem Wahrscheinlichkeitsraum (Ω, A, P) sind genau dann global stochastisch unabhängig, wenn für jede Teilmenge {i1 , i2 , . . . , im } ⊂ {1, 2, . . . , n} von Indizes gilt P(Ai1 ∩ Ai2 ∩ . . . Aim ) = P(Ai1 )P(Ai2 ) · · · P(Aim ) 5.13 Stochastische Unabhängigkeit von σ-Algebren Die Eigenschaft der globalen stochastischen Unabhängigkeit kann man auch folgendermaßen formulieren: WR 1 W. Merz Theorem Ereignisse A1 , A2 , . . . An aus einem Wahrscheinlichkeitsraum (Ω, A, P) sind genau dann global stochastisch unabhängig, wenn für jede Auswahl von Ereignissen Bi aus den Teil-σ-Algebren Ai = {∅, Ai , Ai , Ω} von A gilt: P(B1 ∩ B2 ∩ . . . Bn ) = P(B1 )P(B2 ) · · · P(Bn ) Daraus ergibt sich als logische Folge eine Definition für die stochastische Unabhängigkeit von σ-Algebren: Definition Sind A1 , A2 , . . . , An Teil-σ-Algebren der σ-Algebra A eines Wahrscheinlichkeitsraums (Ω, A, P), so heißen die Ai stochastisch unabhängig, wenn für jede Auswahl von Ereignissen Bi ∈ Ai gilt P(B1 ∩ B2 ∩ . . . Bn ) = P(B1 )P(B2 ) · · · P(Bn ) 5.14 Produktexperimente Wie beschreibt man die stochastisch unabhängige Durchführung von einzelnen Zufallsexperimenten, die durch Wahrscheinlichkeitsräume (Ω1 , A1 , P1 ), (Ω2 , A2 , P2 ), . . ., (Ωn , An , Pn ) repräsentiert werden? WR 1 W. Merz Damit man die stochastische Unabhängigkeit von Ereignissen aus den verschiedenen Wahrscheinlichkeitsräumen formulieren kann, muss man sie in einen gößeren Wahrscheinlichkeitsraum (Ω, A, P) einbetten. (Ω, A, P) z }| { (Ω1 , A1 , P1 ), (Ω2 , A2 , P2 ) . . . (Ωn , An , Pn ) Diesen Wahrscheinlichkeitsraum werden wir den Produktraum nennen. 5.15 Die Ergebnismenge des Produktraums Liste der Ergebnisse der einzelnen Experimente: Ω WR 1 W. Merz {ω = (ω1 , ω2 , . . . , ωn ) ; ωk ∈ Ωk } Ω1 × Ω2 × · · · × Ωn n Y =: Ωk = = k =1 Ω= Qn k =1 Ωk heißt das kartesische Produkt der Mengen Ωk . 5.16 Die σ-Algebra des Produktraums Ereignisse, die auf jeden Fall in der σ-Algebra enthalten sein müssen, sind: „Beim k -ten Einzelexperiment tritt das Ereignis Ak ∈ Ak ein“: Z (Ak ) WR 1 W. Merz = {ω = (ω1 , ω2 , . . . , ωn ) ; ωk ∈ Ak } = Ω1 × · · · × Ωk −1 × Ak × Ωk +1 × · · · Ωn Bei der Unabhängigkeit muss man Durchschnitte betrachten: Z (A1 ) ∩ Z (A2 ) ∩ . . . ∩ Z (An ) = {ω = (ω1 , ω2 , . . . , ωn ) ; ω1 ∈ A1 , . . . , ωn ∈ An } = A1 × A2 × · · · × An Definition Die kleinste σ-Algebra, die alle Mengen der obigen Form enthält, heißt die Produkt-σ-Algebra und wird mit Nn A = A1 ⊗ A2 ⊗ · · · ⊗ An = k =1 Ak bezeichnet. 5.17 Die Wahrscheinlichkeitsverteilung Die Wahrscheinlichkeitsverteilung P eines Produktexperiments muss zwei Bedingungen erfüllen: 1 2 WR 1 W. Merz Die Wahrscheinlichkeitsgesetze der Einzelexperimente müssen erhalten bleiben, d.h. P(Z (Ak )) = Pk (Ak ) für alle Ereignisse Ak ∈ Ak und alle k . Für beliebige Ak ∈ Ak müssen die Mengen Z (A1 ), Z (A2 ), . . . Z (An ) global stochastisch unabhängig sein. Insbesondere muss also gelten P (Z (A1 ) ∩ Z (A2 ) ∩ . . . ∩ Z (An )) = P (Z (A1 )) P (Z (A2 )) · · · P (Z (An )) Die beiden Formeln kann man zusammenfassen zu P (A1 × A2 × · · · × An ) = P1 (A1 )P2 (A2 ) · · · Pn (An ) 5.18 WR 1 Die Produktwahrscheinlichkeit W. Merz Theorem Es gibt genau eine Wahrscheinlichkeitsverteilung P auf A mit P (A1 × A2 × · · · × An ) = P1 (A1 )P2 (A2 ) · · · Pn (An ) für beliebige Ak ∈ Ak . Diese heißt die Produktwahrscheinlichkeit der Pk und wird mit P = P1 ⊗ P2 ⊗ · · · ⊗ Pn = n O Pi i=1 bezeichnet. Definition Qn Nn Nn Der Wahrscheinlichkeitsraum ( k =1 Ωk , k =1 Ak , k =1 Pk ) heißt der Produktraum der Wahrscheinlichkeitsräume (Ωk , Ak , Pk ). 5.19 Versuchsreihen Ist (Ωk , Ak , Pk ) = (Ω0 , A0 , P0 ) für alle k = 1, 2, . . . , n, so repräsentiert der Produktraum die n-fache unabhängige Wiederholung eines Zufallsexperiments. WR 1 W. Merz Man spricht in diesem Fall von einer Versuchsreihe der Länge n mit dem Experiment (Ω0 , A0 , P0 ). 5.20 Bernoulli-Experimente und -Versuchsreihen WR 1 W. Merz Definition Ein Wahrscheinlichkeitsraum (Ω0 , A0 , P0 ) mit • Ω0 = {0, 1} • A0 = 2Ω0 • P{1} = p heißt ein Bernoulli-Experiment mit Erfolgswahrscheinlichkeit p. P{0} = P{1} = 1 − p. Diese Wahrscheinlichkeit wird in diesem Zusammenhang immer mit q bezeichnet. Definition Eine Versuchsreihe der Länge n mit einem Bernoulli-Experiment heißt eine Bernoulli-Versuchsreihe der Länge n mit Erfolgswahrscheinlichkeit p 5.21 Bernoulli-Versuchsreihen Ist (Ωn , An , Pn ) eine eine Bernoulli-Versuchsreihe der Länge n mit Erfolgswahrscheinlichkeit p, so ist WR 1 W. Merz Ωn = {δ = (δ1 , δ2 , . . . , δn ) ; δi ∈ {0, 1}} Wegen {(δ1 , δ2 , . . . , δn )} = {δ1 } × {δ2 } × · · · × {δn } ist An die Menge aller Teilmengen von Ωn . Für die Wahrscheinlichkeit eines Elementarereignisses erhält man daher Pn {(δ1 , δ2 , . . . , δn )} = P0 {δ1 }P0 {δ2 } · · · P0 {δn } Dieses Produkt enthält so viele Faktoren p, wie es Einsen unter den δi gibt, und so viele Faktoren q, wie Nullen vorhanden sind. 5.22 Bernoulli-Versuchsreihen WR 1 W. Merz Pn {(δ1 , δ2 , . . . , δn )} = P0 {δ1 }P0 {δ2 } · · · P0 {δn } = p(δ1 +δ2 +···δn ) q n−(δ1 +δ2 +···δn ) = p|δ| q n−|δ| mit |δ| = δ1 + δ2 + · · · δn . 5.23 Die Summe der Erfolge Häufigkeit des Eintretens einer Eins bei Durchführung einer Bernoulli-Versuchsreihe. Bei einem schiefen Galton-Brett (Sprung nach rechts mit Wahrscheinlichkeit p) landet die Kugel in Fach Nummer k : WR 1 W. Merz Ak = {δ ; |δ| = k } Pn (Ak ) = X Pn {δ} δ∈Ak = X p|δ| q n−|δ| δ,|δ|=k = X pk q n−k δ,|δ|=k = Ckn pk q n−k wobei Ckn die Anzahl der Elemente der Menge {δ ; |δ| = k } ist: n k n−k Pn (Ak ) = p q k 5.24