Dr. T. Camps Ausgabe: 03.07.2009 Stochastik I – Zusatzübung Lehramt Übungsblatt 11 Markovketten Aufgabe 1 Ein fairer Würfel wird wiederholt geworfen. Die ZV Xn beschreibe den Rest der Augensumme (der ersten n Würfe) nach Division durch 4. Startwert ist X0 = 0. a) Zeigen Sie, dass (Xn )n∈N0 eine Markov–Kette ist und bestimmen Sie die Übergangsmatrix! b) Angenommen, nach dem 13. Wurf ist die Augensumme ohne Rest durch 4 teilbar. Mit welcher Wahrscheinlichkeit ergibt sich nach zwei weiteren Würfen eine Augensumme, die i) wieder durch 4 teilbar ist, ii) bei Division durch 4 den Rest 3 ergibt, iii) nicht durch 4 teilbar ist? Aufgabe 2 1 2 3 4 5 6 In den durch neben stehendem Plan dargestellten Räumen befindet sich eine Maus, die stündlich ihren Aufenthaltsraum wechselt, wobei sie zufällig einen der möglichen Ausgänge des jeweiligen Raumes wählt. Xn beschreibe den Aufenthaltsort der Maus im Zeitraum [n, n + 1[. a) Zeigen Sie: (Xn )n∈N0 ist eine Markov–Kette. b) Zeichnen Sie den zugehörigen Übergangsgraphen! c) Stellen Sie die Übergangsmatrix auf! d) In welchem Raum stellt man zweckmäßigerweise die Mausefalle auf, wenn man nicht weiß, wo sich die Maus augenblicklich befindet? Aufgabe 3 Ein zerstreuter Professor besitzt zwei Regenschirme, die er auf dem Weg zur bzw. von der Uni benutzt. Regnet es, so nimmt er einen Schirm mit, sofern einer vorhanden ist. Leider achtet der Professor, der jeden Tag zur Uni und wieder nach Hause geht, nicht darauf, stets einen Schirm an jedem Ort zu haben. Es regnet jeweils mit Wahrscheinlichkeit p ∈ (0, 1). a) Es sei Xn : Ω → {0, 1, 2} die Zufallsvariable die angibt, wie viele Schirme sich zum Zeitpunkt n am Aufenthaltsort des Professors befinden. Zeigen Sie, dass (Xn ) eine Markovkette ist und bestimmen Sie den Übergangsgraphen! b) Bestimmen Sie die Übergangsmatrix S und berechnen Sie S 2 . Ist der Satz von Markov anwendbar? c) Bestimmen Sie die invarianten Verteilungen! d) Beim ersten Gang habe der Professor beide Schirme an seinem Aufenthaltsort. Gegen welchen Grenzwert konvergiert die Wahrscheinlichkeit, dass er ohne Schirm unterwegs ist? e) Berechnen Sie den Grenzwert (für n → ∞) für die Wahrscheinlichkeit, dass der Professor nass wird. Aufgabe 4 Die Übergangsmatrix einer zeithomogenen Markovkette auf dem Zustandsraum {1, . . . , n} sei gegeben durch p1 q 1 0 ... 0 .. .. 0 ... ... . . .. S := ... . . . . . . . . 0 .. .. . . pn−1 qn−1 0 ··· ··· 0 1 Dabei seien 0 < pi , qi < 1, pi + qi = 1, 1 ≤ i ≤ n − 1. a) Geben Sie den zugehörigen Übergangsgraphen an! b) Bestimmen Sie die stationären Verteilungen! c) Was lässt sich über das Konvergenzverhalten der Kette aussagen, wenn die Zeit gegen ∞ strebt? Ist der Satz von Markov anwendbar? (Hinweis: Betrachten Sie erst den Fall n = 3, und dann den allgemeinen Fall n ∈ N. d) Es sei die Übergangsmatrix 0 0 R := 0 0 gegeben. Liegt Konvergenz für Rn für n → ∞ vor? 1 1 0 0 0 0 0 1 0 0 1 0