T(n) ∈ Θ( )

Aufgabe 1
Aufgabe 1
(3+6+7 = 16 P.)
Wichtig: bei dieser Aufgabe sind nur die Antworten, aber keinerlei Begründungen, Herleitungen, Beweise, Rechnungen usw. anzugeben. Die Lösungen bitte in den jeweiligen
Kasten eintragen.
1. Für einen divide-and-conquer -Algorithmus T bezeichne T (n) den Aufwand für Inputs der Grösse n. Es gelte die Rekursionsgleichung
T (n) = a · T (n/2) + b · n, T (1) = c.
mit positiven Konstanten a, b, c.
Welches asymptotische Verhalten hat die Folge (T (n))n≥1 in Abhängigkeit von a:
• falls a < 2:
T (n) ∈ Θ (
)
• falls a = 2:
T (n) ∈ Θ (
)
• falls a > 2:
T (n) ∈ Θ (
)
2. Für einen Algorithmus R bezeichne R(n) den Aufwand für Inputs der Grösse n.
Dabei gelte die Rekursionsgleichung
R(n) = 5R(n − 1) − 6R(n − 2) (n ≥ 3)
mit den Anfangswerten R(1) = 1, R(2) = 5.
Bestimmen Sie die explizite Lösung dieser Rekursion und das asymptotische Verhalten von R(n) für n → ∞.
R(n) ∈ Θ (
R(n) =
)
3. Für einen Algorithmus S bezeichne S(n) den Aufwand für Inputs der Grösse n.
Dabei gelte die Rekursionsgleichung
S(n) = 4S(n − 1) − 4S(n − 2) (n ≥ 3)
mit den Anfangswerten S(1) = 1, S(2) = 6.
Bestimmen Sie die explizite Lösung dieser Rekursion und das asymptotische Verhalten von S(n) für n → ∞
S(n) ∈ Θ (
S(n) =
Aufgabe 1
)
Aufgabe 2
Aufgabe 2
(2+3+6+3+6 = 20 P.)
Diese Aufgabe besteht aus 5 Teilen!
1. Wieviele verschiedene Binärbäume mit 6 Blättern gibt es?
2. Gibt es einen Binärbaum, dessen Blätter die Höhen (2, 2, 3, 3, 3, 4, 4, 4) haben?
Wenn ja, zeichnen Sie ihn. Wenn nein, begründen Sie, warum es keinen solchen
Baum gibt.
3. Es bezeichne bn die Anzahl der Binärbäume mit n + 1 Blättern und n inneren
Knoten.
Geben Sie eine Rekursion für die Folge (bn )n≥0 an, sowie deren asymptotisches Verhalten für n → ∞.
[Wichtig: Erläutern Sie, wie die Rekursionsformel zustande kommt und aus welcher
Aussage man das asymptotische Verhalten herleitet.]
4. Für einen Binärbaum t bezeichne e(t) die Anzahl seiner Blätter (externe Knoten)
und h(t) die mittlere Höhe seiner Blätter.
Welche fundamentale Beziehung (Ungleichung) besteht zwischen den beiden Parametern e(t) und h(t) für jeden Binärbaum?
[Wichtig: Sie sollen diese Beziehung nicht herleiten!]
5. Welche Folgerung ergibt sich aus der fundamentalen Beziehung der vorigen Teilaufgabe für die Komplexität von vergleichsbasierten Sortierverfahren?
[Wichtig: Geben Sie nicht nur eine Formel an, sondern erläutern Sie in einem Text,
was diese Formel besagt und wie diese Formel zustande kommt.]
zu Aufgabe 2
Aufgabe 3
Aufgabe 3
(2+2+6+8+4+2=24 P.)
Diese Aufgabe besteht aus 6 Teilen!
1. Es sei p = (p1 , p2 , . . . , pn ) eine Wahrscheinlichkeitsverteilung auf einer n-elementigen
Menge, z.B. auf {1, 2 . . . , n}.
Was versteht man unter der Entropie H(p) der Verteilung p? Geben Sie die Definition dieses Begriffs an.
2. Berechnen Sie die Entropie für p = ( 21 , 14 , 18 , 81 , 0).
[Es genügt, das Ergebnis der Rechnung – eine rationale Zahl – anzugeben, nicht die
Rechnung selbst.]
3. Welches ist die anschauliche Bedeutung des Begriffes Entropie?
Welche wichtigen Eigenschaften hat diese Größe?
4. Ein Quelle Q = (A, p) besteht aus einem Quellalphabet A und eine Wahrscheinlichkeitsverteilung p =
P(pa )a∈A auf A. Zu einer binären Codierung Φ : A → {0, 1}
bezeichne µ(Q, Φ) = a∈A pa · |Φ(a)| die mittlere Wortlänge.
Welche Aussagen macht das Quellcodierungtheorem von Shannon über den Zusammenhang von mittlerer Wortlänge µ(Q, Φ) von (Präfix-)Codierungen Φ und der
Entropie H(p)?
[Wichtig: Geben Sie nicht nur eine Formel an, sondern erläutern Sie in einem Text,
was diese Formel besagt und wie diese Formel zustande kommt.]
5. Betrachten Sie die Situation A = {00, 01, 10, 11} und die Binomialverteilung bin(p)
mit Parameter p ≥ 1/2 auf A, d.h.
(p)
(p)
(p)
(p)
bin 00 = p2 , bin 10 = bin 01 = p(1 − p), bin 11 = (1 − p)2 .
Für die Quelle (A, bin(p) ) sind im wesentlichen zwei optimale binäre Präfixcodierungen möglich – in Abhängigkeit vom Parameter p – mit den Wortlängenvektoren
(`1 , `2 , `3 , `4 ), wobei `1 ≤ `2 ≤ `3 ≤ `4 sein soll. Welche Vektoren sind dies? Welches
sind die mittleren Wortlängen für diese beiden Codierungen?
[Es genügt, wenn Sie die beiden Vektoren und die zugehörigen mittleren Wortlängen
angeben. Herleitungen sind nicht erforderlich.]
6. Welches ist der “kritische” Wert pkrit von p, der die beiden möglichen Situationen
voneinander trennt? (D.h. für p ≤ pkrit ist die eine Codierung optimal, für p ≥ pkrit
die andere.)
[Geben Sie hier auch die Herleitung mit an!]
zu Aufgabe 3