Formale Methoden 2 - LS1 - Logik in der Informatik

Formale Methoden 2
Gaetano Geck
Lehrstuhl I – Logik in der Informatik
WS 2015/2016
Teil 5: Wahrscheinlichkeitstheorie
1
Grundlagen
2
Bedingte Wahrscheinlichkeiten
Wahrscheinlichkeitstheorie / Grundlagen
Motivation: Zwei Rätsel
Annahmen im Folgenden:
Kinder werden an jedem Wochentag mit gleicher Wahrscheinlichkeit geboren.
Ein geborenes Kind ist
• mit Wahrscheinlichkeit
• mit Wahrscheinlichkeit
1
2
1
2
ein Mädchen
ein Junge
Erstes Rätsel
Wir erfahren:
Eine Familie hat zwei Kinder.
Mindestens eines der Kinder ist ein Junge.
Frage: Wie wahrscheinlich ist es, dass beide Kinder Jungen sind?
Antwort: Die Wahrscheinlichkeit beträgt 31 ≈ 33, 3 %.
Zweites Rätsel
Wir erfahren:
Eine Familie hat zwei Kinder.
Mindestens eines der Kinder ist ein Junge, der dienstags geboren wurde.
Frage: Wie wahrscheinlich ist es, dass beide Kinder Jungen sind?
13
Antwort: Die Wahrscheinlichkeit beträgt 27
≈ 48, 1 %
FM2 (WS 2015/16, Geck)
3
Wahrscheinlichkeitstheorie / Grundlagen
Ereignisräume (1/2)
Definition 1.1
Ein Ereignisraum Ω ist eine nichtleere Menge.
Ein Ereignis ist eine Teilmenge A ⊆ Ω.
Ein Elementarereignis ist ein einelementiges Ereignis.
Modellierung: Wahl eines „passenden“ Ereignisraumes
Hier: nur endliche Ereignisräume.
Beobachtung
Ereignisse sind Mengen, auf die Mengenoperationen angewendet werden können.
Für einen gegebenen Ereignisraum Ω ist
∅ das unmögliche Ereignis;
Ω das sichere Ereignis;
Ω − A das Gegenereignis zu Ereignis A.
Ferner beschreibt das Ereignis
A1 ∪ A2 , dass Ereignis A1 eingetreten ist oder Ereignis A2 eingetreten ist.
A1 ∩ A2 , dass Ereignis A1 eingetreten ist und Ereignis A2 eingetreten ist.
A1 − A2 , dass Ereignis A1 eingetreten ist, aber nicht Ereignis A2 eingetreten ist.
FM2 (WS 2015/16, Geck)
4
Wahrscheinlichkeitstheorie / Grundlagen
Ereignisräume (2/2)
Beispiel 1.2
Wir betrachten die 32 Karten eines Skatspiels.
Ereignisraum Ωeinzel = {(♣, 7), (♣, 8), . . . , (♣, A), (♠, 7), . . . , (_, A)}:
• Jedes Elementarereignis {(f , w)} beschreibt
das Ziehen einer Karte mit Farbe f und Wert w.
• Das Ereignis {(♣, A), (♠, A), (r, A), (_, A)} beschreibt das Ziehen eines Asses.
Ereignisraum Ωtyp = {7, 8, 9, 10, B, D, K, A, ♣, ♠, r, _}:
• Das Elementarereignis {A} beschreibt das Ziehen eines Asses.
• Das Ereignis {7, 8, 9, 10} beschreibt das Ziehen einer Zahlenkarte.
Frage
Welches Ereignis beschreibt
1
das Ziehen einer Zahlenkarte in Ωeinzel ?
2
das Ziehen der Herzdame in Ωeinzel beziehungsweise in Ωtyp ?
Aufgabe
Gib einen Ereignisraum an, der das Ziehen dreier Karten mit Zurücklegen modelliert
und dafür das Ereignis, dass zwei Asse gezogen wurden.
FM2 (WS 2015/16, Geck)
5
Wahrscheinlichkeitstheorie / Grundlagen
Wahrscheinlichkeitsräume
Definition 1.3
Ein Wahrscheinlichkeitsraum (Ω, P) besteht aus
einem Ereignisraum Ω und
einem Wahrscheinlichkeitsmaß P über Ω;
das ist eine Abbildung P : P(Ω) → [0, 1], mit
• P A1 ∪ · · · ∪ An = P[A1 ] + · · · + P[An ] für disjunkte Ereignisse A1 , . . . , An und
• P[Ω] = 1.
Notation: Wir verzichten auf die Mengenklammern bei Elementarereignissen.
Beispiel 1.4
Wir betrachten das Ziehen einer Karte. Jede Karte wird mit Wahrscheinlichkeit
1
32
gezogen.
W’keitsraum (Ωtyp , Ptyp ) mit Ωtyp = {7, 8, 9, 10, B, D, K, A, ♣, ♠, r, _}:
Eine Sieben wird gezogen: Ptyp 7 =
4
1
32 = 8
8
Eine Karo-Karte wird gezogen: Ptyp _ = 32
= 14
Eine beliebige Farbe wird gezogen: Ptyp {♣, ♠, r, _} =
Eine beliebige Karte wird gezogen: Ptyp Ω = 1.
32
32
= 1.
Frage: Warum gilt in Definition 1.3 stets P[∅] = 0?
FM2 (WS 2015/16, Geck)
6
Wahrscheinlichkeitstheorie / Grundlagen
Laplace’sche Wahrscheinlichkeitsräume
Definition 1.5
Ein Wahrscheinlichkeitsraum (Ω, P) heißt Laplace’scher Wahrscheinlichkeitsraum, falls
P[A] =
|A|
|Ω|
für jedes Ereignis A ⊆ Ω gilt.
Beobachtung: Insbesondere gilt dann P[ωi ] =
1
n
für jedes ωi ∈ Ω = {ω1 , . . . , ωn }.
Beispiel 1.6
W’keitsraum (Ωtyp , Ptyp ) mit Ωtyp = {7, 8, 9, 10, B, D, K, A, ♣, ♠, r, _} ist nicht laplace’sch:
1
1
|{7}|
,
=
8 12
|Ωtyp |
Ptyp [7] =
Beispiel 1.7
W’keitsraum (Ωeinzel , Peinzel ) mit Ωeinzel = (♣, 7), (♣, 8), . . . , (♣, A), (♠, 7), . . . , (_, A) mit
Peinzel (f , w) =
1
32
für jedes Elementarereignis (f , w) ∈ Ωeinzel
ist laplace’sch.
FM2 (WS 2015/16, Geck)
7
Wahrscheinlichkeitstheorie / Grundlagen
Stochastische Unabhängigkeit
Definition 1.8
Ereignisse A1 , . . . , An ⊆ Ω heißen (stochastisch) unabhängig in (Ω, P), falls
P A1 ∩ · · · ∩ An
= P[A1 ] · . . . · P[An ].
Beispiel 1.9
Wir vergleichen zwei Abschlussjahrgänge:
Informatik
Jura
Summe
eingestellt
suchend
Summe
60
20
80
40
30
70
100
50
150
Wir wählen zufällig und gleichverteilt einen Absolventen aus Ω = {a1 , . . . , a150 }.
Wir betrachten folgende Ereignisse:
Aeing und Asuch : eingestellte bzw. arbeitssuchende Absolventen
AInf und AJura : Informatik- bzw. Jura-Absolventen
(Annahme: AInf ∩ AJura = ∅)
Frage
Sind die Ereignisse Aeing und AInf unabhängig?
FM2 (WS 2015/16, Geck)
8
1
Grundlagen
2
Bedingte Wahrscheinlichkeiten
Wahrscheinlichkeitstheorie / Bedingte Wahrscheinlichkeiten
Bedingte Wahrscheinlichkeiten
Gerade beobachtet:
Wenn zwei Ereignisse A und B voneinander abhängig sind,
dann beeinflusst das Eintreten von Ereignis B die W’keit des Eintretens von Ereignis A.
Definition 2.1
Sei (Ω, P) ein W’keitsraum und B ⊆ Ω ein mögliches Ereignis (P[B] > 0).
Ferner sei A ⊆ Ω ein beliebiges Ereignis.
Die bedingte Wahrscheinlichkeit von A unter B ist
P[A | B] =
P[A ∩ B]
.
P[B]
Beispiel 2.2
Die Wahrscheinlichkeit, einen eingestellten Absolventen zu wählen, unter der Bedingung,
dass es sich um einen Informatik-Absolventen handelt, ist:
P Aeing ∩ AInf
=
P AInf
P Aeing | AInf =
60
150
100
150
=
60
= 60 %.
100
Aufgabe
Zeige, dass die in den Rätseln angegebenen Wahrscheinlichkeiten korrekt sind.
FM2 (WS 2015/16, Geck)
10
Wahrscheinlichkeitstheorie / Bedingte Wahrscheinlichkeiten
Zufallsvariablen
Definition 2.3
Sei Ω ein Ereignisraum.
Eine (reellwertige) Zufallsvariable ist eine Abbildung X : Ω → R.
Beispiel 2.4
Bei einem Würfelspiel zahlt ein Spieler 2 Euro Einsatz. Er gewinnt:
nichts, falls er 1, 2 oder 3 würfelt;
1 Euro, falls er 4 würfelt;
2 Euro, falls er 5 würfelt;
5 Euro, falls er 6 würfelt.
Die Zufallsvariable Xabs beschreibt den absoluten Gewinn:

−2





 −1
Xabs (a) = 


+0



+3
FM2 (WS 2015/16, Geck)
falls a ∈ {1, 2, 3}
falls a = 4
falls a = 5
falls a = 6
11
Wahrscheinlichkeitstheorie / Bedingte Wahrscheinlichkeiten
Erwartungswerte (1/3)
Definition 2.5
Sei (Ω, P) ein Wahrscheinlichkeitsraum und X : Ω → R eine Zufallsvariable.
Der Erwartungswert von X ist
E[X] =
X
P[ω] · X(ω).
ω∈Ω
Aufgabe
Bestimme den Erwartungswert von Xabs für den Laplace’schen Wahrscheinlichkeitsraum
über Ω = {1, 2, 3, 4, 5, 6}.
Fakt
Seien X : Ω → R und Y : Ω → R Zufallsvariablen und a ∈ R.
Es gilt E[a · X + Y] = a · E[X] + E[Y].
Der Erwartungswert ist also linear.
FM2 (WS 2015/16, Geck)
12
Wahrscheinlichkeitstheorie / Bedingte Wahrscheinlichkeiten
Erwartungswerte (2/3)
Du bist auf dem Heimweg . . . und nutzt Park’n’Ride.
Die Bahn benötigt mit Verspätung 55 Minuten, ohne nur 40 Minuten.
• Verspätungen kommen in 30 % der Fälle vor;
• Pünktlich ist die Bahn in 70 % der Fälle.
Mit dem Auto brauchst du
• 20 Minuten auf Freier Straße (in 90 % der Fälle), jedoch
• 30 Minuten bei Stau (in 9 % der Fälle) und
• 70 Minuten bei Unfall auf der Strecke (in 1 % der Fälle).
Modellierung:
Ereignisraum Ω = {P, V} × {F, S, U}
Zufallsvariable DAuto : Ω → R (analog: DBahn ) mit
(P, F),
(P, S),
(P, U),
(V, F)
(V, S)
(V, U)
7→
7→
7→
20
30
70
Erwartungswert für die Fahrtdauer mit dem Auto:
E[DAuto ]
=
=
P (P, F) · DAuto (P, F)
P (P, S) · DAuto (P, S)
U) · DAuto (P, U)
P (P,
P (P, F) + P (V, F) · 20
+
+
+
+
P (V, F) · DAuto (V, F)
P (V, S) · DAuto (V, S)
U) · DAuto (V, U)
P (V,
P (P, S) + P (V, S) · 30
P (P, U) + P (V, U) · 70
Also:
E[DAuto ] = 0, 90 · 20 + 0, 09 · 30 + 0, 01 · 70 = 21, 4
FM2 (WS 2015/16, Geck)
13
Wahrscheinlichkeitstheorie / Bedingte Wahrscheinlichkeiten
Erwartungswerte (3/3)
Aufgabe
Bestimme
1
den Erwartungswert für die Fahrtdauer mit der Bahn
2
den Erwartungswert der Gesamtfahrdauer
Zu Ferienbeginn verdoppelt sich die Fahr- und Wartezeit mit dem Auto:
DFerien
Auto (ω) = 2 · DAuto (ω) für jedes Ereignis ω ∈ Ω.
Aufgabe
Bestimme die erwartete Gesamtfahrtdauer zu Ferienbeginn.
FM2 (WS 2015/16, Geck)
14
Wahrscheinlichkeitstheorie / Bedingte Wahrscheinlichkeiten
Gesetz der totalen Wahrscheinlichkeit (1/2)
Semesterabschlussparty:
100 Studenten (du bist einer von ihnen)
100 Studentinnen (Ω = {1, . . . , 100}), davon
• 30 Biologinnen
• 50 Germanistinnen
• 20 Theologinnen
außerdem bekannt:
• 20 % der Biologinnen sind single: P[S | B] = 0, 2
• 50 % der Germanistinnen sind single: P[S | G] = 0, 5
• 90 % der Theologinnen sind single: P[S | T] = 0, 9
Frage
Wie hoch ist die Wahrscheinlichkeit, dass deine (zufällig gewählte) Tanzpartnerin single ist?
Antwort:
P[S]
FM2 (WS 2015/16, Geck)
=
+
+
=
P[S | B] · P[B]
P[S | G] · P[G]
P[S | T] · P[T]
2
10
·
3
10
+
5
10
·
5
10
+
9
10
·
2
10
=
49
100
15
Wahrscheinlichkeitstheorie / Bedingte Wahrscheinlichkeiten
Gesetz der totalen Wahrscheinlichkeit (2/2)
Dieses Ergebnis ergibt sich durch Anwendung des folgenden Satzes:
Satz 2.6 (Gesetz der totalen Wahrscheinlichkeit)
Sei (Ω, P) ein Wahrscheinlichkeitsraum.
Sei B eine Partition von Ω, die nur mögliche Ereignisse enthält.
Für jedes Ereignis A ⊆ Ω gilt das Gesetz der totalen Wahrscheinlichkeit:
P[A] =
X
P[A | B] · P[B].
B∈B
Beweis:
Die Partition B induziert eine Partition A = {A ∩ B | B ∈ B}.
P[A]
=
=
=
X
P[A∗ ]
∗ ∈A
A
X
B∈B
X
(Def. Wahrscheinlichkeitsmaß)
P[A ∩ B]
(Definition von A)
P[A | B] · P[B].
(Def. bedingte Wahrscheinlichkeit)
B∈B
FM2 (WS 2015/16, Geck)
16
Wahrscheinlichkeitstheorie / Bedingte Wahrscheinlichkeiten
Satz von Bayes
Du bist inzwischen überzeugt, dass deine Tanzpartnerin single ist.
Sonntagmorgens wollen Theologinnen zum Gottesdienst; du willst ausschlafen.
Frage
Wie groß ist die Wahrscheinlichkeit, dass ihr harmoniert (also P[Ω − T | S])?
Hier kann folgender Satz helfen:
Satz 2.7 (Satz von Bayes)
Sei (Ω, P) ein Wahrscheinlichkeitsraum.
Sei B eine Partition von Ω, die nur mögliche Ereignisse enthält.
Für jedes Ereignis A ⊆ Ω und jedes Ereignis B∗ ∈ B gilt:
P[B∗ | A] = P
P[A | B∗ ] · P[B∗ ]
.
B∈B P[A | B] · P[B]
Aufgabe
Bestimme
1
zunächst P[T | S],
2
dann P[Ω − T | S].
FM2 (WS 2015/16, Geck)
17