Lösung zu Übung 10 (Diskrete Zufallsgrößen, Markov

Lösungen zu Übungsblatt 10
Höhere Mathematik Master KI
Diskrete Zufallsgrößen/Markov-Ketten
------------------------------------------------------------------------------------------------------------------------------------------------
Hinweise:
•
Die Aufgaben 1-5 beziehen sich auf das Thema Diskrete Zufallsgrößen, Ihre Verteilungen
und Erwartungswerte. Siehe dazu auch das auf der Homepage zur Verfügung gestellte
Skript: Stochastik für Informatiker, Kap. 21.,2.2, 2.4.
•
Die Aufgaben 6 und 7 beziehen sich auf das Thema Markov-Ketten. Siehe dazu auch das
auf der Homepage zur Verfügung gestellte Skript: Stochastik für Informatiker, Kap. 5.1.3.
-----------------------------------------------------------------------------------------------------------------------Zu Aufgabe 1)
Kreuzen Sie alle Zufallsgrößen an, die diskret sind!
Überlegen Sie sich jeweils zuerst, wie der Wertebereich X der betreffenden Zufallsgröße
aussieht!
× a) X = Hersteller einer zufällig aus einer Grundgesamtheit von Platinen ausgewählten
Platine.
Nein b) X = Gewicht eines zufällig aus einer Grundgesamtheit von Bildschirmen
ausgewählten Bildschirms.
x c) X = zufällige Anzahl der eintreffenden Signale pro Minute in einer Vermittlungsstelle.
Nein d) X = zufällige Zeit zwischen dem Eintreffen zweier aufeinanderfolgender Signale in
einer Vermittlungsstelle
x : Der Wertebereich von X ist endlich bzw. abzählbar.
Zu Aufgabe 2)
Welche der folgenden grafischen Darstellungen und Tabellen zeigen keine
(Einzel-)Wahrscheinlichkeitsverteilung? Kreuzen Sie Ihre Antworten an!
p
f X ( x) =  i
0
a)
c)
für
x = ai 

sonst

b)
d)
Lösung:
a) und d) : keine Verteilung, da die Summe der Wahrscheinlichkeiten > 1 ist!
b) : Keine Verteilung, da Wahrscheinlichkeiten nicht negativ sind!
c) : Ist eine Wahrscheinlichkeitsverteilung!
1
Lösungen zu Übungsblatt 10
Höhere Mathematik Master KI
Diskrete Zufallsgrößen/Markov-Ketten
------------------------------------------------------------------------------------------------------------------------------------------------
Zu Aufgabe 3)
Sei X die zufällige Augenzahl bei Durchführung des zufälligen Versuchs V :'Würfeln mit zwei
Würfeln'.
Berechnen Sie die Wahrscheinlichkeiten folgender Ereignisse:
a)' X ≥ 9 ' b)'X = 6'
c)' X ∈{ 2, 12} ' d)' 4 < X ≤ 7 '
Lösung:
Sei Xi = „Augenzahl des i.ten Würfels, i=1,2.
Offensichtlich gilt: P(Xi = j ) = 1/6 für alle j ∈{1,2,...,6}, i=1,2. Aufgrund der stochastischen
Unabhängigkeit der Würfelergebnisse von Würfel 1 und 2 gilt weiterhin:
P(X1 = i ∩ X2 = j) = P(X1 = i)P(X2 = j) = 1/36
Damit können wir alle Einzel-Wahrscheinlichkeiten P(X=i) , i=2,...,12, berechnen.
Z.B. gilt
P(X=3) = P((X1 = 1 ∩X2=2) ∪(X1 = 2 ∩X2=1))
= P(X1 = 1 ∩X2=2)+P(X1 = 2 ∩X2=1)
=1/36 + 1/36 = 2/36
Wir erhalten auf analoge Weise alle anderen Einzelwahrscheinlichkeiten und damit folgende
Verteilungstabelle für X:
X:
i
2
3
4
5
6
7
8
9
10
11
12
X1 X2 1 1 1 2 1 3 1 4 1 5 1 6 2 6 3 6 4 6 5 6 6 6
2 1 2 2 2 3 2 4 2 5 3 5 4 5 5 5 6 5
3 1 3 2 3 3 3 4 4 4 5 4 6 4
4 1 4 2 4 3 5 3 6 3
5 1 5 2 6 2
6 1
P(X=i) 1/36 2/36 3/36 4/36 5/36 6/36 5/36 4/36 3/36 2/36 1/36
Zu a)
P(X ≥ 9) = P(X=9 ∪X=10∪X=11∪X=12)
=P(X=9)+P(X=10)+P(X=11)+P(X=12)
= 10/36
Zu b)
P(X=6) = 5/36
Zu c)
P(X ∈{ 2, 12})=P(X=2∪X=12)=P(X=2) + P(X=12)=2/36
Zu d)
P(4 < X ≤ 7) = P(X=5∪X=6∪X=7) = P(X=5)+P(X=6)+P(X=7) = 15/36
Zu Aufgabe 4)
Die zufällige Anzahl X von Ausfällen eines Servers pro Monat genüge folgender Verteilung:
ai
pi
0
4/10
1
3/10
2
1/10
3
1/10
2
4
1/10
>4
0
Lösungen zu Übungsblatt 10
Höhere Mathematik Master KI
Diskrete Zufallsgrößen/Markov-Ketten
------------------------------------------------------------------------------------------------------------------------------------------------
Ein Ausfall des Servers verursacht Kosten. Fällt der Server 1 mal aus, so kostet das 1000 Euro, bei 2
maligem Ausfall müssen 1500 Euro bezahlt werden. Bei 3 und 4 maligem Ausfall sind es bereits
jeweils 2000 Euro.
a)
Wie groß ist die Wahrscheinlichkeit dafür, dass mehr als 1000 Euro Kosten im Monat wegen
Serverausfalls anfallen?
Wie groß sind die im Monat zu erwartenden Kosten?
b)
Lösung:
Die zufälligen Kosten Y pro Monat wegen Serverausfällen genügt folgender Verteilung:
Ausfall
Kosten
pi
0
0
4/10
1
1000
3/10
2
1500
1/10
3
2000
1/10
4
2000
1/10
>4
0
0
Zu a) P(Y>1000) = P(X>1)=P(X=2∪X=3∪X=4) = P(X=2)+P( X=3)+P( X=4)
=3/10 = 0,3
Zu b) EY = 0 ⋅
4
3
1
1
1
+ 1000 ⋅ + 1500 ⋅ + 2000 ⋅ + 2000 ⋅
= 850 Euro
10
10
10
10
10
Zu Aufgabe 5)
Die zufällige Anzahl der Fahrgäste in einem Bus zwischen je zwei Haltestellen sei eine
Zufallsgröße X mit der folgenden Wahrscheinlichkeitsverteilung:
ai 0 ≤ X ≤ 10 10 < X ≤ 20 20 < X ≤ 30 30 < X ≤ 40 40 < X ≤ 50
pi 0 . 1
0.3
0.4
0 . 15
0 . 05
Es sollen so viele Sitzplätze zur Verfügung stehen, dass in mindestens 80% aller Fahrten alle
Fahrgäste sitzen können. Wie viel Sitzplätze muss man mindestens in den Bus einbauen?
Geben Sie die kleinst mögliche Anzahl von Sitzplätzen an!
Lösung:
Gesucht ist die kleinste Anzahl a mit P(X ≤ a) ≥ 0,8
Offensichtlich ist a = 30. Dann gilt: P(X ≤ a)= 0,8.
Zu Aufgabe 6)
Eine Nachricht der Form „ja“ wird durch mündliche Zwischenträger weitergegeben. Bei jeder
Weitergabe wird „ja“ mit der Wahrscheinlichkeit α1=0,2 in „nein“ und mit der
Wahrscheinlichkeit α2=0,3 in „jein“ abgefälscht; „nein“ wird mit der Wahrscheinlichkeit
β1=0,2 in „ja“ und β2=0,3 in „jein“ verfälscht und ein „jein“ wird mit Wahrscheinlichkeit
γ1=0,3 in „nein“ und mit γ2=0,2 in „ja“ verfälscht. Dieses System wird durch eine homogene
Markov-Kette (X(n))n∈N 1. Ordnung beschrieben, wobei X(n) die Nachricht („ja“=1 oder
„jein“= 2, „nein“=3) im Takt n (vor der n+1.ten Weitergabe) darstellt.
a) Stellen Sie den Markov-Grafen und die Übergangsmatrix auf.
b) Wie groß ist die Wahrscheinlichkeit dafür, dass nach 3 Zwischenträgern der
Empfänger die Nachricht „ja“ erhält?
3
Lösungen zu Übungsblatt 10
Höhere Mathematik Master KI
Diskrete Zufallsgrößen/Markov-Ketten
------------------------------------------------------------------------------------------------------------------------------------------------
c) Wie groß ist die Wahrscheinlichkeit für folgenden Zustandsverlauf
P(X(0)=1∩X(2)=1∩X(4)=1)?
d) Mit welcher Wahrscheinlichkeit ist nach einer sehr langen Reihe von
Zwischenträgern damit zu rechnen, dass die Nachricht „ja“ beim Empfänger
ankommt?
Hinweis zu d)
Die gesuchte Wahrscheinlichkeit ist P(X(n)=1) für n→∞.
Die Zustandswahrscheinlichkeiten P(X(n)=j), j=1,2,3, erfüllen nach Formel der totalen
Wahrscheinlichkeit folgendes Gleichungssystem:
P ( X ( n) = j )
= P( X (n) = j | X (n − 1) = 1) P( X (n − 1) = 1)
+ P( X (n) = j | X (n − 1) = 2) P( X (n − 1) = 2)
+ P( X (n) = j | X (n − 1) = 3) P( X (n − 1) = 3)
1
(1)
j = 1,2,3
= P( X (n) = 1) + P( X (n) = 2) + P( X (n) = 3)
Sei Pj* := lim P ( X (n) = j ) , j=1,2,3. Lassen Sie im obigen GS (1) n gegen ∞ gehen und stellen Sie
n →∞
das entsprechende GS unter Verwendung der Bezeichnung Pj* auf!
Lösen Sie dann dieses GS nach P1* auf!
Lösung:
Zu a) Markovgraf:
Übergangsmatrix: (Matrix der Übergangswahrscheinlichkeiten pij = P(X(n)=j|X(n-1)=i):
Von (i)\nach (j)
Ja (1)
Jein (2)
Nein (3)
Ja (1)
0,5
0,2
0,2
Jein (2)
0,3
0,5
0,3
 0,5 0,3 0,2 


Die Übergangsmatrix ist damit P=  0,2 0,5 0,3  .
 0,2 0,3 0,5 


4
Nein (3)
0,2
0,3
0,5
Lösungen zu Übungsblatt 10
Höhere Mathematik Master KI
Diskrete Zufallsgrößen/Markov-Ketten
------------------------------------------------------------------------------------------------------------------------------------------------
Zu b)
Gesucht P(X(3)= „ja“) bzw. P(X(3)=1)
Lösung:
Die gesuchte Wahrscheinlichkeit berechnen wir rekursiv:
Die Zustandswahrscheinlichkeiten P(X(n)=j), j=1,2,3, erfüllen nach Formel der totalen
Wahrscheinlichkeit folgendes Gleichungssystem:
P ( X ( n) = j )
= P( X (n) = j | X (n − 1) = 1) P( X (n − 1) = 1)
(2)
+ P( X (n) = j | X (n − 1) = 2) P( X (n − 1) = 2)
+ P( X (n) = j | X (n − 1) = 3) P( X (n − 1) = 3)
j = 1,2,3
Wir lösen das einfach für n=3 rekursiv nach P(X(3) =1) auf unter Berücksichtigung von
P(X(0)=1) = 1, P(X(0)=2)=P(X(0)=3)=0 (Am Anfang wird „ja“ gesendet).
Wir erhalten das Ergebnis:
P(X(3)=1) = 0,305
Im folgenden wird dieses Ergebnis (etwas eleganter) unter Verwendung der Matrizenrechnung
hergeleitet:
 P( X (n) = 1) 


Sei P die Transponierte der Übergangs-Matrix P und p (n) =  P ( X (n) = 2  der Vektor der
 P ( X (n) = 3 


T
Zustandswahrscheinlichkeiten im Takt n.
In Matrizenschreibweise hat das obige GS (2) folgende Gestalt:
p (n) = PT p (n − 1) ,
1
 
p(0) =  0 
0
 
Folglich erhalten wir für den Zustandsvektor im Takt n=3:
1
 
p(0) =  0 
0
 
p (3) = PT p(2) = P T P T P T p(0) ,
Weiterhin ist:
 0,5

P p(0) =  0,3
 0,2

 0,5

T T
P P =  0,3
 0,2

T
0,2 0,2  1   0,5 
   
0,5 0,3  0  =  0,3  und
0,3 0,5  0   0,2 
0,2 0,2   0,5 0,2 0,2   0,35 0,26 0,26 

 
 
0,5 0,3  ⋅  0,3 0,5 0,3  =  0,36 0,4 0,36 
0,3 0,5   0,2 0,3 0,5   0,29 0,34 0,38 
5
Lösungen zu Übungsblatt 10
Höhere Mathematik Master KI
Diskrete Zufallsgrößen/Markov-Ketten
------------------------------------------------------------------------------------------------------------------------------------------------
Demzufolge ist
 0,35 0,26 0,26   0,5   0,305 

  

T T T p (3) = P P P p(0) =  0,36 0,4 0,36   0,3  =  0,372 
 0,29 0,34 0,38   0,2   0,323 

  

Demzufolge ist die Wahrscheinlichkeit dafür, dass nach 3 Zwischenträgern der Empfänger die
Nachricht „ja“ erhält, gleich P(X(3)=1) = 0,305. D.h., nur in 30,5% aller Fälle wird ein „ja“
nach 3 Zwischenträgern auch als „ja“ empfangen!
Zu c)
Nach Multiplikationssatz gilt:
P(X(0)=1∩X(2)=1∩X(4)=1)
= P ( X (0) = 1) P ( X (2) = 1 / X (0) = 1) P ( X (4) = 1 / X (2) = 1)
= 1 ⋅ p11 (2) p11 (2)
wobei p11 (2) = P( X (n + 2) = 1 / X (n) = 1) die Übergangswahrscheinlichkeit in 2 Schritten
(2-Schritt-Übergangswahrscheinlichkeit) vom Zustand 1 in den Zustand 1 ist.
In Anwendung der Formel der totalen Wahrscheinlichkeit ergibt sich folgende
Rekursionsformel für die 2-Schritt-Übergangswahrscheinlichkeiten :
3
3
k =1
k =1
p11 (2) = ∑ p1k (1) p k1 = ∑ p1k p k1 = p11 + p12 p 21 + p13 p31
2
= (0,5)2 + 0,3⋅0,2 + (0,2)2
= 0,25 + 0,06 + 0,04
= 0,35
Demzufolge lautet das Ergebnis:
P(X(0)=1∩X(2)=1∩X(4)=1)
= 1 ⋅ p11 (2) p11 (2)
= (0,35)2
=0,1225
Zu d)
Wir folgen dem Hinweis zu d).
Das obige GS (1) hat in Matrizenschreibweise die Gestalt:
p (n)
1
= PT p (n − 1) ,
= P(X(n)=1)+P(X(n)=2)+P(X(n)=3)
Lassen wir in diesem GS n gegen ∞ konvergieren und bezeichnen Pj* := lim P( X (n) = j ) und
n →∞
6
Lösungen zu Übungsblatt 10
Höhere Mathematik Master KI
Diskrete Zufallsgrößen/Markov-Ketten
------------------------------------------------------------------------------------------------------------------------------------------------
 P1* 
 
p* =  P2*  so erhalten wir das GS:
 P* 
 3
p*
= PT p * ,
1
= P1* + P2* + P3*
0
 
0
0
 
= (PT –I) p * ,
1
= P1* + P2* + P3*
bzw.
(I ist die 3-dimensionale Einheitsmatrix)
bzw.
0
 
0
0 =
 
1
 
0,2  *
 0,5 − 1 0,2
 P1 

0,5 − 1 0,3  * 
 0,3
 P2 
 0,2
0,3
0,5 − 1 * 
 P3

 1
1
1  

Das lösen wir mittels Gauss’schem Algorithmus nach P1* , P2* , P3* auf und erhalten:
 P1*   0,2857 
  

p* =  P2*  =  0,375 
 P *   0,3393 

 3 
D.h., nach einer sehr langen Reihe von Zwischenträgern ist mit der Wahrscheinlichkeit von
0,2857 damit zu rechnen, dass die Nachricht „ja“ beim Empfänger ankommt.
Zu Aufgabe 7)
Sei (X(n))n∈N eine Markov-Kette 1. Ordnung.
Was heißt:
a) die Markov-Kette ist homogen?
b) die homogene Markov-Kette ist stationär?
c) die homogene Markov-Kette ist ergodisch?
Zu a)
Die bedingten Wahrscheinlichkeiten
pij (n, n + k ) = P ( X (n + k ) = j / X (n) = i )
heißen Übergangswahrscheinlichkeiten der Markov-Kette (X(n))n∈N, wobei i und j
Zustände aus dem Zustandsraum der Markov-Kette darstellen.
7
Lösungen zu Übungsblatt 10
Höhere Mathematik Master KI
Diskrete Zufallsgrößen/Markov-Ketten
------------------------------------------------------------------------------------------------------------------------------------------------
Eine Markov-Kette heißt homogen, falls die Übergangswahrscheinlichkeiten pij (n, n + k )
nicht vom Zeitpunkt t abhängen, also gilt:
pij (n, n + k ) = p ij (0, k ) =:: p ij (k ). .
pij (k ) wird auch als k-Schritt-Übergangswahrscheinlichkeit bezeichnet. Für die Einschritt-
Übergangswahrscheinlichkeiten verwenden wir die Bezeichnung: pij (1) = p ij .
Die Zustandsübergangswahrscheinlichkeiten in homogenen Markov-Ketten werden grafisch
als sogenannter Markov-Graf dargestellt, wobei die Kreise die Zustände darstellen und an die
gerichteten Kanten von Zustand i nach j die Übergangswahrscheinlichkeiten
pij . rangeschrieben werden, falls diese ungleich Null sind.
Zu b)
Definition: Gilt bei einer festgelegten Anfangsverteilung p (0)
lim p j (n) = p *j
n →∞
für alle j ∈ E,
so heißt die Markov-Kette stationär. Die Verteilung pj*, j ∈ E, heißt stationäre Verteilung
von (X(n))n∈ N bzgl. p (0) .
Die stationäre Verteilung pj* kann also abhängig von der Anfangsverteilung sein.
Interessant ist der Fall, wenn eine Markov-Kette unabhängig davon, in welchem Zustand sie
startet, immer in die gleiche stationäre Zustandsverteilung gelangt. Solche Markov-Ketten
heißen ergodisch.
Zu c)
Definition: Gilt: lim p j (n) = p *j
n →∞
für alle j ∈ E, und sind die stationären Verteilungen für
alle Anfangsverteilungen identisch, so heißt (X(n))n∈ N heißt ergodisch (bzw. stabil). pj*, j
∈ E, wird als ergodische Verteilung von (X(n))n∈ N bezeichnet.
Ergodische Markov-Ketten zeigen nach einer mehr oder weniger langen Anlaufphase ein
typisches Verhalten, das in der in der stabilen Phase. Die Zustandsverteilungen ändert sich
mit wachsendem n nicht mehr.
8