Fakultät für Informatik Professur Theoretische Informatik und Informationssicherheit Wintersemester 2006/07 Prof. Dr. Hanno Lefmann Theoretische Informatik I Formelsammlung Potenzieren Für a, b ∈ R mit a > 0 ist die b-te Potenz von a, geschrieben ab , gleich eb·ln a (Verallgemeinerung des Potenzierens von ganzzahligen Exponenten auf reelle Exponenten durch Benutzen des natürlichen Logarithmus ln (siehe unten) und der Exponentialfunktion ex . Die Zahl e = 2, 71828 . . . ist die Eulersche Zahl.). Es gelten folgende Identitäten (Rechenregeln): • a0 = 1 • ax · ay = ax+y für x, y ∈ R • (ax )y = ax·y für x, y ∈ R • ax ay = ax−y für x, y ∈ R Logarithmen Der Logarithmus von b zur Basis a, mit a, b ∈ R+ , ist loga b. Dies ist die Zahl x ∈ R, so dass ax = b ist. (Umkehrfunktion der Funktion ax ). Der Logarithmus zur Basis e (Eulersche Zahl) wird mit ln abgekürzt, der Logarithmus zur Basis 2 (2-er Logarithmus) wird häufig einfach log geschrieben. Rechenregeln: • loga b = logc b logc a für jedes c > 0 • aloga b = b • loga (b · b0 ) = loga b + loga b0 • loga (1/b) = − loga (b) • loga (bc ) = c · loga b • loga (b/b0 ) = loga (b) − loga (b0 ) • loga (b) · logb (a) = 1 Fakultät Die Fakultät n! für n ≥ 0 ist das Produkt der Zahlen 1 bis n, also Es gelten die Abschätzungen Qn i=1 i = 1·2·. . .·n. • n! ≤ nn = 2n log n , d. h. also auch log(n!) ≤ n log n n/2 = 2log(n/2)·n/2 , d. h. also auch log(n!) ≥ (n/2) · log(n/2) • n! ≥ n2 • Also log(n!) = Θ(n log n) √ √ • Stirlingformel: nn · e−n · 2πn ≤ n! ≤ nn · e−n · 2πn · e1/(12n) für alle n ∈ N Binomialkoeffizienten Der Binomialkoeffizient nk für ganzzahlige 0 ≤ k ≤ n ist die Anzahl aller kelementigen Teilmengen einer n-elementigen Menge. Es gelten die Identitäten: • n k = • n k = n−1 k • n k = n n−k • n 1 • • n! k!·(n−k)! = n, Pn n k=0 n k = k = + n·(n−1)·...·(n−k+1) k·(k−1)·...·1 n−1 k−1 sowie n n = n 0 =1 n 2 = n·(n−1) 2 = 2n Pn−k+1 i=1 n−i k−1 Folgende Abschätzungen sind hilfreich: • n k ≥ n k k • n k ≤ en k k Summen und Reihen • Die Summe der ersten n natürlichen Zahlen ist • Die Summe der ersten n Quadratzahlen Pn i=1 Pn i=1 i2 = i= n(n+1) . 2 n(n+1)(2n+1) . 6 • Die Summe der ersten n + 1 Potenzen von q ∈ R (einschließlich q 0 ) ist die P n+1 Geometrische Summe ni=0 q i = q q−1−1 . • Die Reihe ist die Summe aller Potenzen von q ∈ (−1, 1), d. h. P∞ Geometrische 1 i q = . i=0 1−q P • Die Summe der Kehrwerte der ersten n natürlichen Zahlen ist ni=1 (n-te Harmonische Zahl). Es gilt ln(n + 1) ≤ H(n) ≤ ln(n) + 1. 1 i = H(n) Abschätzungen der Exponential- und Logarithmusfunktion • Es gilt ex ≥ 1 + x für alle x ∈ R. • Es gilt ln(x) ≤ x − 1 für alle x > 0. Elementare Wahrscheinlichkeitstheorie Ein Wahrscheinlichkeitsraum ist ein Paar (Ω, p), wobei Ω ein Ereignisraum, d. h. eine Menge von sogenannten Elementarereignissen ist, und p : Ω → [0, 1] eine Wahrscheinlichkeitsverteilung auf dem Ereignisraum. Intuitiv ist der Ereignisraum Ω die Menge der möglichen Ausgänge des modellierten Zufallsexperimentes und die Wahrscheinlichkeitsverteilung p gibt die relative Häufigkeit” an, die die einzelnen Ele” mentarereignisse bei vielen (unendlich) Ausführungen des Zufallsexperimentes haben. Es gilt also X p(ω) = 1 . ω∈Ω Ein Ereignis E ist nun eine Teilmenge von Ω, und dieses Ereignis tritt genau dann ein, wenn beim Zufallsexperiment ein Elementarereignis aus E auftritt. Beispielsweise könnte für das Zufallsexperiment Werfen eines Würfels” der Ereignisraum ” Ω = {1, 2, 3, 4, 5, 6} sein (und die Wahrscheinlichkeitsverteilung p(1) = . . . = p(6) = 1/6). Dann wäre das Ereignis Es wird eine gerade Zahl geworfen” das Ereignis ” E = {2, 4, 6}. Die Wahrscheinlichkeit eines Ereignisses E ist Pr[E] = X p(ω) , ω∈E in unserem Beispiel also 3 · 1/6 = 1/2. Bei unabhängigen Ereignissen können wir die Wahrscheinlichkeiten multiplizieren, um die Wahrscheinlichkeit zu erhalten, dass alle Ereignisse eintreten: Pr[A1 ∩ . . . ∩ An ] = n Y Pr[Aj ] . j=1 Eine Zufallsvariable ist formal eine Abbildung X : Ω → R. Damit ordnet sie jedem Ausgang des Zufallsexperimentes einen Wert” zu. Beispielsweise könnte für einen ” Münzwurf Ω = {Kopf, Zahl} sein, und X(Kopf) = 10 sowie X(Zahl) = −10 sein. Dann würde z. B. ein Spieler eine Münze werfen, und X gibt seinen Gewinn an, je nachdem ob Kopf” oder Zahl” erscheint. Jeder Wert von X hat durch die Wahr” ” scheinlichkeitsverteilung eine Wahrscheinlichkeit. Der Erwartungswert einer Zufallsvariable X, d. h. intuitiv ihr Mittelwert bei vielen Ausführungen des Zufallsexperimentes, ist definiert als E[X] = X x · Pr[X = x] . x∈X(Ω) Wir summieren also über alle möglichen Werte der Zufallsvariablen und betrachten die Produkte aus Wert und Wahrscheinlichkeit, dass X den Wert annimmt. Bei unserem Münzwurf wäre bei Gleichverteilung der beiden Seiten der Münze (jeweils Wahrscheinlichkeit 1/2) der Erwartungswert gleich −10 · 1/2 + 10 · 1/2 = 0 , der Spieler wird also im Erwartungswert weder gewinnen noch verlieren.