Theoretische Nachrichtentechnik Fakultät Elektrotechnik und Informationstechnik – Institut für Nachrichtentechnik – Lehrstuhl Theoretische Nachrichtentechnik Prof. Eduard A. Jorswieck, Dr. Meik Dörpinghaus, Dr. Anne Wolf, Hans-Georg Engler 06.04.2017 1. Übung zur Lehrveranstaltung Informationstheorie Aufgabe 1: (diskrete Zufallsgröße, Erwartungswert, Transformation von Zufallsgrößen) Gegeben sei die diskrete Zufallsgröße X mit dem Alphabet X = {1, 2, 3, 4} und der Wahrscheinlichkeitsfunktion pX . x 1 2 3 4 pX (x) 1 3 1 2 1 6 0 a) Berechnen Sie für die Zufallsgröße X den Erwartungswert E (X). b) Sei g eine Funktion, die wie folgt definiert ist: g : X → R, x 7→ x2 . Berechnen Sie für die Zufallsgröße Y := g(X) den Erwartungswert E (Y ) = E (g(X)). Berechnen Sie mit Hilfe dieses Erwartungswertes die Varianz var (X) der Zufallsgröße X. c) Sei g̃ eine weitere Funktion, die wie folgt definiert ist: g̃ : X → R, x 7→ − log2 pX (x) . Berechnen Sie für die Zufallsgröße Z := g̃(X) den Erwartungswert E (Z) = E (g̃(X)). Aufgabe 2: (gemeinsame und Randwahrscheinlichkeitsfunktion, Unabhängigkeit von Zufallsgrößen) Gegeben seien die diskreten Zufallsgrößen X und Y mit den Alphabeten X = {1, 2} bzw. Y = {1, 2, 3}. Wir wollen für die gemeinsame Wahrscheinlichkeitsfunktion der Zufallsgrößen X und Y folgende zwei Fälle betrachten. pX,Y (x, y) (1) x 1 2 1 y 2 1 2 1 16 1 8 1 16 3 0 1 4 p̃X,Y (x, y) (2) x 1 2 1 y 2 3 1 9 2 9 1 6 1 3 1 18 1 9 a) Berechnen Sie für die Fälle (1) und (2) die Wahrscheinlichkeitsfunktion der Zufallsgröße X, d. h. pX bzw. p̃X , und die Wahrscheinlichkeitsfunktion der Zufallsgröße Y , d. h. pY bzw. p̃Y , wobei pX,Y bzw. p̃X,Y die gemeinsame Wahrscheinlichkeitsfunktion von X und Y sein soll. b) Berechnen Sie für alle Paare (x, y) ∈ X × Y die Werte pX (x) · pY (y) und p̃X (x) · p̃Y (y) und vergleichen Sie diese mit den entsprechenden Werten der Wahrscheinlichkeitsfunktionen pX,Y bzw. p̃X,Y . In welchem Fall sind die Zufallsgrößen unabhängig? Aufgabe 3: (Rechenregeln für Erwartungswert und Varianz) Seien X1 , X2 , . . ., Xn unabhängige und identisch verteilte Zufallsgrößen mit E (X1 ) = µ und var (X1 ) = σ 2 . Berechnen Sie den Erwartungswert und die Varianz der Zufallsgröße Z := a n X k=1 Xk , a ∈ R. Aufgabe 4: (Konvexität von Mengen) a) In der folgenden Tabelle sind Teilmengen des R2 graphisch dargestellt. Entscheiden Sie jeweils, ob es sich um konvexe Mengen handelt. (1) (2) (3) (4) (5) (6) (7) (8) b) Zeigen Sie, dass die Menge konvex ist. Hinweis: A := x = (xk )nk=1 ∈ Rn : xk ≤ ak mit ak ∈ R (xk )nk=1 ist eine Schreibweise für den Vektor (x1 , x2 , . . . , xn ), siehe Skript Anhang A.2. Aufgabe 5: (Konvexität von Funktionen) Gegeben seien die folgenden reellen Funktionen. Bestimmen Sie die größtmöglichen Intervalle, auf denen die Funktionen konvex oder konkav sind. g1 : g2 : g3 : R → R, x 7→ x2 − 5 R → R, x 7→ x3 − 6x2 + 7x + 3 R∗+ → R, x 7→ ln(x) ∗ := {x ∈ R : x > 0}, siehe Hinweis: R∗+ bezeichnet die Menge der positiven reellen Zahlen, d. h. R+ Skript Anhang A.1.