1 1. Zufallsexperimente und Wahrscheinlichkeitsräume 1.1 Die Ergebnismenge S Ein Zufallsexperiment (ZE) ist ein Experiment, dessen Ergebnis nicht eindeutig vorhersagbar (determiniert) ist. Solche Experimente treten in vielen Bereichen auf, z.B. Ingenieurwissenschaften: Lebensdauern technischer Bauteile, Verhalten von Signalen in der Nachrichtentechnik, Regelungstechnik (stochastische Filter), Informationstheorie; Biowissenschaften: Entwicklung ökologischer Systeme, Verlauf von Epidemien, Auftreten von Leukämie in der Nähe von Kernkraftwerken; Wirtschaftswissenschaften: Vorausschätzung ökonomischer Kenngrößen, Qualitätskontrolle einer laufenden Produktion, Entwicklung des Arbeitsmarktes, Aktienkurse; Versicherungsmathematik: Lebensdauern von Personen, zukünftige Schadensentwicklungen; Finanzmathematik: Bewertung von Optionen; Demoskopie: Vorhersage von Wahlergebnissen; Meteorologie: das Wettergeschehen, Klimamodelle; Physik: statistisches Verhalten von Gasmolekülen, quantenmechanische Zufallsphänomene, radioaktiver Zerfall; Glückspiele: Münze werfen, würfeln, Karte ziehen, Lotto, Roulett. Um zu einem geeigneten mathematischen Modell zur Behandlung von Zufallsexperimenten zu gelangen, stellt man zunächst fest, welche Ergebnisse in Frage kommen, und faßt diese Ergebnisse zur sogenannten Ergebnismenge (Grundmenge, Stichprobenraum, MIT: Basismenge) zusammen: S = {T | T ist ein mögliches Ergebnis des ZE}. Beispiele 1. ZE: einmal würfeln; S = {1,2,3,4,5,6}. 2. ZE: viermal Münze werfen; S = {0,1}4. 3. ZE: unendlich oft Münze werfen; S = {0,1ù. 4. ZE: drei Kugeln auf vier Urnen verteilen; S = {1,2,3,4}3. 5. ZE = restliche ganzzahlige Lebensdauer eines 40jährigen versicherten Mannes; S = {0,1,...70}. 6. ZE = Ergebnis der CSU bei der Landtagswahl 2008 in % der abgegebenen gültigen Stimmen; S = [0, 100]. 1.2 Ereignis-F-Algebra A Wichtiger als das genaue Ergebnis des ZE ist oft die Frage nach dem Eintreten oder Nichteintreten eines "Ereignisses" E, das als eine Menge von möglichen Ergebnissen aufgefaßt wird, E dS. Ereignisse (meist mit großen lateinischen Buchstaben bezeichnet: A, B, ..., E,...) werden also mit geeigneten Teilmengen von S identifiziert. Sei A = {A | A d S, A ist ein Ereignis}. Sprechweise: Ist E 0 A, so sagt man "das Ereignis E tritt ein", falls das Ergebnis T des ZE in E liegt, also wenn T0E. Wir verlangen, daß A eine F-Algebra über S ist, also ∞ i) S 0 A ; ii) A 0 A Y A = S(A 0 A; iii) A n 0 A , n0ù Y c IA n 0A. n= 1 A heißt Ereignis-F-Algebra, das Paar (S, A) heißt Ereignisraum (MIT: Meßraum). 2 Bemerkungen: Sei (S, A) ein Ereignisraum. 1. i 0 A, A ist abgeschlossen bezüglich endlicher Durchschnitte sowie bezüglich endlicher und auch abzählbar unendlicher Vereinigungen. 2. Mit A und B sind auch die Differenz A(B und damit auch die sogenannte symmetrische Differenz AªB = (A(B) c (B(A) Elemente von A 3. Falls S höchstens abzählbar ist und falls A die Potenzmenge von S ist, also A = -(S), so heißt (S, A) (höchstens abzählbarer) diskreter Ereignisraum. 4. I.a. wird nicht gefordert, daß {T} 0 A für T0S. Ist dies aber der Fall, so nennt man ein solches einelementiges Ereignis ein Elementarereignis. 5. Für disjunkte Ereignisse A, B (also A, B 0 A mit A1B = i) schreibt man auch A+B anstelle von AcB. Beispiele (vgl. Beispiele zu 1.1) In den Beispielen 1, 2, 4 und 5 wähle jeweils A = -(S), in 3 A = -({0,1})qù, in 6 A = B[0,100] (siehe 1.6 und 1.5). 1.3 Vokabular In der Wahrscheinlichkeitsrechnung werden ständig mengentheoretische und stochastische Aussagen über Ereignisse nebeneinander verwendet; es ist daher wichtig, sich über die Beziehungen dieser Aussagen zueinander klar zu sein. Sie seien im folgenden anhand eines kleinen Wörterbuchs zusammengestellt. Bezeichnung Mengenlehre Stochastik S Grundmenge, Gesamtmenge Ergebnismenge, sicheres Ereignis i leere Menge unmögliches Ereignis T Element von S Ergebnis A F-Algebra, A d -(S) Ereignis-F-Algebra A Element von A , Teilmenge von S Ereignis A (tritt ein) AcB Vereinigung A oder B treten ein A1B Durchschnitt A und B treten ein Ac Komplement nicht A; A tritt nicht ein A(B Differenz A tritt ein, aber nicht B AªB symmetrische Differenz genau eines der beiden Ereignisse A und B tritt ein A1B = i A, B disjunkt A, B unvereinbar A=B Gleichheit Gleichwertigkeit AdB Teilmenge A impliziert B; wenn A eintritt, dann auch B 3 1.4 Erzeugung von F-Algebren Sei S irgendeine Grundmenge, E d -(S) ein nichtleeres Mengensystem. Dann ist F(E) := _{A | E d A d -(S), A F-Algebra}die kleinste F-Algebra (über S), die E enthält. F(E) heißt die von E erzeugte F-Algebra. 1.5 Borel-F-Algebra Sei n eine beliebige, feste natürliche Zahl. n 1. E := { ∏ [ai , bi ] | ai < bi, ai, bi 0 Q für i=1,...,n} sei das System aller kompakten Quader im i =1 ún mit rationalen Eckpunkten. B n := F(E) heißt Borelsche F-Algebra auf ún; jedes A 0 B n heißt Borelsche Menge. (ún, B n) ist also ein Ereignisraum; schreibe auch B := B 1. 2. Sei S d ún. Dann ist BnS := {A 1 S | A 0 B n} eine F-Algebra auf S und heißt Borelsche FAlgebra auf S; schreibe auch BS für B1S Bemerkungen 1. Jede offene und jede abgeschlossene Teilmenge des ún ist Borelsch. 2. Sei E' := {<-4, c] | c 0 ú} die Menge aller abgeschlossenen linksseitig unendlichen Teilintervalle von ú. Dann ist B = F(E'). 1.6 Produkt-F-Algebra Sei I eine nichtleere Indexmenge und sei (Si, A i)i0I eine Familie von Ereignisräumen. Sei S = ∏ Ω i der zugehörige Produktraum und für i0I sei pi : S 6 Si die kanonische Projektion; i ∈I 0(I) sei die Menge aller endlichen nichtleeren Teilmengen von I. R := { I pi−1 ( Ai )| J ∈ 0(I), Ai 0 A i , i0J} sei das "System der meßbaren Rechtecke" über S. i ∈J Die von R erzeugte F-Algebra über S heißt Produkt-F-Algebra, genauer: Produkt der F- ⊗ A =:A . Der Ereignisraum (S, A) = (∏ Ω , ⊗ A ) heißt das Produkt der Ereignisräume (S , A ) Algebren A i , i0I: F(R) =: i i ∈I i ∈I i i ∈I i i i i0I . Ist speziell (E, F) ein Ereignisraum, und ist (Si, A i) = (E, F) für alle i0I, schreibe S= ∏Ω i ∈I i = EI , A = ⊗A i ∈I i = F qI; für I = {1,...,n}auch En = EI, F qn = F qI. Bemerkungen und Beispiele 1. Endliche Produkte: Ist I endlich, so ist R = { ∏ Ai | Ai 0 A i für alle i0I}. Ist speziell für i ∈I alle i0I (Si, A i) diskret, so ist auch (S, A) = ( ∏ Ω , ⊗ A ) diskret. i ∈I i i ∈I i Für | I | = 4 trifft dies nicht mehr zu, z.B. ist -({0,1})qù -({0,1}ù). 2. Falls n0ù, (Si, A i) = (ú, B) für i=1,...,n, so ist ( qn B =B. n ∏ Ω , ⊗ A ) = (ú , B n i ∈I i i ∈I i qn ) = (ún, B n), also 4 1.7 Die Wahrscheinlichkeit P Sei (S, A ) ein Ereignisraum. Eine Wahrscheinlichkeit (oder ein Wahrscheinlichkeitsmaß) P ist eine Abbildung P: A 6 [0, 1], welche normiert und F-additiv ist, d.h. (N) P(S) = 1 (Normiertheit) und ∞ (A) P(U An ) = n =1 ∞ ∑ P( A ). für paarweise disjunkte Ereignisse A 0A, n0ù (F-Additivität). n=1 n n Das Tripel (S, A , P) heißt dann ein Wahrscheinlichkeitsraum (W-Raum). Bemerkungen 1. Zur Interpretation der Wahrscheinlichkeit P(A) für ein Ereignis A 0 A a) Häufigkeitsinterpretation (frequentistische Interpretation): P(A) ist die relative Häufigkeit, mit der A unter den gleichen äußeren Bedingungen einzutreten pflegt, d.h. man stelle sich vor, das zugrundeliegende ZE sei beliebig oft unter den gleichen Bedingungen "unabhängig" wiederholbar: Versuchsfolge V1, V2, ..., Vn, ... Für jedes n0ù sei Hn(A) die Anzahl der Versuche V1, ...,Vn, bei denen A eingetreten ist, also die absolute Häufigkeit des Eintretens von A in den ersten n Versuchen. Die relative Häufigkeit hn(A) = Hn(A)/n des Eintretens von A in den ersten n Versuchen ist für großes n ungefähr gleich P(A). b) subjektivistische Interpretation: P(A) ist der Grad der Sicherheit, mit der ich mit dem Eintreten von A rechne, bzw. darauf zu wetten bereit bin, d.h. ich akzeptiere jede Wette auf das Eintreten von A, bei der das Verhältnis von Gewinn zu Verlust mindestens (1-P(A)):P(A) beträgt. 2. Nullmengen und fast sichere Aussagen Eine Menge N 0 A mit P(N) = 0 heißt P-Nullmenge. Ist (’) eine sich auf die Elemente T0S beziehende Aussage, die für alle T außerhalb einer P-Nullmenge N gilt, so sagt man, (’) gelte P-fast sicher (P-f.s.). 1.8 Rechenregeln für Wahrscheinlichkeiten In jedem W-Raum (S, A , P) gilt: 1) P(i) = 0; 2) P ist endlich additiv: P(A1+ ... +An) = P(A1)+ ... +P(An) für pw disjunkte A1, ..., An 0A ; 3) P(B(A) = P(B) - P(A) für A, B 0 A mit A d B; 4) P ist monoton: P(A) # P(B) für A, B 0 A mit A d B; 5) P(Ac) = 1 - P(A) für alle A 0 A ; 6) P(AcB) = P(A) + P(B) - P(A1B) für alle A, B 0 A ; 7) P ist F-stetig von unten: P(An) 6 P(A), für An 8 A, wobei An 0 A für alle n0ù; 8) P ist F-stetig von oben: P(An) 6 P(A), für An 9 A, wobei An 0 A für alle n0ù. 1.9 Zähldichten und diskrete Wahrscheinlichkeitsräume 1. Zähldichten Sei S eine höchstens abzählbare Menge. Eine Funktion f: S 6 ú+ mit Zähldichte (oder Wahrscheinlichkeitsfunktion) auf S. ∑ ω ∈Ω f (ω ) = 1 heißt 5 2. Diskrete Wahrscheinlichkeitsräume Ein W-Raum (S, A , P) heißt diskret, falls S höchstens abzählbar und A = -(S) die Potenzmenge von S ist (d.h. (S, A ) ist ein diskreter Ereignisraum). Man nennt dann auch P ein diskretes W-Maß. Jedes diskrete W-Maß P bestimmt gemäß fP(T) = P({T}) für alle T0S eine Zähldichte fP auf S, die Zähldichte von P. Die Abbildung P 6 fP ist eine Bijektion der Menge alle W-Maße auf (S, -(S)) auf die Menge aller Zähldichten auf S; ist nämlich f eine Zähldichte, so ist P gemäß P( A) = ∑ f (ω ) für alle A d S ein W-Maß auf (S, -(S)), wobei fP = f. ω ∈A Spezialfall: Laplacesche Wahrscheinlichkeitsräume Sei S eine endliche Menge, also | S | < 4; der zur Zähldichte f(T) = | S | -1 ; T0S gehörige diskrete W-Raum (S, -(S), P) heißt Laplacescher W-Raum. | A| und für alle T0S: P({T}) = | S | -1, d.h. alle Für alle A d S gilt dann: P(A) = |Ω | Elementarereignisse sind gleichwahrscheinlich. In Laplaceschen Wahrscheinlichkeitsräumen ist daher die Berechnung von Wahrscheinlichkeiten eine Abzählaufgabe: zähle die Elemente des Ereignisses A, d.h. die Ergebnisse, die für das Eintreten von A "günstig" sind. Das W-Maß P heißt auch diskrete Gleichverteilung (auf S). Der Laplacesche W-Raum (S, -(S), P) beschreibt das ZE: rein zufällige Wahl eines Punktes T 0 S. 1.10 Lebesguedichten und stetige Wahrscheinlichkeitsräume Sei S d ún Borelsch, also S 0 B n. I.f. bezeichne 8n das n-dimensionale Lebesguemaß (auf (ún, B n)); für n=1 auch 8:= 81. Eine nichtnegative Borel-meßbare Funktion f: S 6 ú+ mit ∫ f dλ n = 1 heißt Lebesgue-W- Ω Dichte (oder kurz W-Dichte) auf S. Eine solche W-Dichte bestimmt vermöge P( B):= ∫ f dλ n für alle B 0 B nS B ein W-Maß P auf dem Ereignisraum (S, BnS). Der W-Raum (S, BnS, P) heißt dann stetiger W-Raum mit der Dichte f und P heißt stetiges W-Maß mit der Dichte f (f ist durch P Lebesgue-fast eindeutig bestimmt). Spezialfall: stetige Gleichverteilungen Sei S 0 B n mit 0 < 8n(S) < 4, f: S 6 ú+ gemäß f(T) = 8n(S) -1 ; T0S ist eine W-Dichte auf S. Das zugehörige stetige W-Maß P auf (S, B nS) heißt stetige Gleichverteilung auf S. λn ( B) Für alle B 0 BnS gilt also: P( B) = n . λ (Ω ) Der stetige W-Raum (S, B nS, P) beschreibt das ZE: rein zufällige Wahl eines Punktes T 0 S. 1.11 Verteilungsfunktionen und W-Maße auf (ú, B) 1. Verteilungsfunktionen Eine Funktion F: ú 6 ú heißt Verteilungsfunktion, wenn sie monoton wachsend und 6 rechtsseitig stetig ist und wenn gilt F ( − ∞ ): = lim F ( x ) = 0 , F (∞ ): = lim F ( x ) = 1 . x→ ∞ x → −∞ Insbesondere ist also 0 # F(x) # 1 für alle x0ú. 2. Die Verteilungsfunktion eines W-Maßes auf (ú, B) Jedes W-Maß P auf (ú, B) bestimmt gemäß FP(x) = P(<-4, x]); x0ú eineVerteilungsfunktion, die Verteilungsfunktion von P. Die Abbildung P 6 FP ist eine Bijektion der Menge alle WMaße auf (ú, B) auf die Menge aller Verteilungsfunktionen. Insbesondere gibt es also zu einer Verteilungsfunktion F genau ein W-Maß P auf (ú, B), derart daß FP = F. Für alle x0ú gilt ferner: FP(x-) = P(<-4, x>). 3. Verteilungsfunktionen und Dichten Sei P ein stetiges W-Maß auf (ú, B) mit der Dichte f. Zwischen f und der x Verteilungsfunktion F von P besteht die Beziehung F ( x ) = ∫ f (t ) dt für alle x0ú. −∞ Insbesondere ist dann F stetig und es gilt FN(x) = f(x) in jedem Stetigkeitspunkt x von f. Sei umgekehrt F eine stetige und stückweise stetig differenzierbare Verteilungsfunktion, d.h. es existiere eine endliche Zerlegung der Zahlengeraden -4 = a0 < a1 < ... < an = +4, so daß F für jedes i=1,...,n auf <ai-1, ai> stetig differenzierbar ist. n Setze f(x) := FN(x) für x0 U < ai −1 , ai > , bzw. f(x) := 0 sonst. i =1 Das gemäß 2. zu F gehörige W-Maß P ist dann stetig und f ist eine Dichte von P. 1.12 Produktwahrscheinlichkeiten Sei (Si, A i, Pi) i0I eine Familie von W-Räumen. Sei S = ∏Ω i ∈I i der Produktraum, q A = A i die Produkt-F-Algebra., also (S, A ) der Produktereignisraum gemäß 1.6. Für i0I sei pi : S 6 Si die kanonische Projektion; 0(I) sei die Menge aller endlichen nichtleeren Teilmengen von I (vgl. 1.6). Es existiert dann genau ein W-Maß P auf (S, A ) derart, daß für jedes J 0 0(I), und alle Ai 0 A i , i0J, gilt: P(I pi−1 ( Ai )) = ∏ Pi ( Ai ). i ∈J i ∈J P heißt die zur Familie (Pi) i0I gehörige Produktwahrscheinlichkeit; Bezeichnung: P = q P. i Der W-Raum (S, A, P) = (∏ Ω i , ⊗ A i , ⊗ Pi ) heißt das Produkt der W-Räume (Si, A i, Pi) i0I . i ∈I i ∈I i ∈I Ist speziell (E, F, Q) ein W-Raum, und ist (Si, A i, Pi) = (E, F, Q) für alle i0I, schreibe P = QqI, also (S, A, P) = (EI, F qI, QqI) (vgl. 1.6); für I = {1,...,n}auch Qqn = QqI. Spezialfall endliche Produkte: Sei n0ù fest, I = {1,...,n}. Die Produktwahrscheinlichkeit n n i =1 i =1 P = P1q ... qPn ist das eindeutig bestimmte W-Maß auf (S, A ) = ( ∏ Ω i , ⊗ A i) derart, daß für alle Ai 0 A i, i=1,...,n, gilt: P(A1×...×An) = P1(A1)@...@Pn(An).