9. Vorlesung “Systemtheorie für Informatiker”

9. Vorlesung
“Systemtheorie für Informatiker”
Dr. Christoph Grimm
Professur Prof. Dr. K. Waldschmidt, Univ. Frankfurt/Main
Letzte Woche:
Abtastung und Rekonstruktion
Abtastung: Wandelt bandbegrenzte kontinuierliche Signale in zeitdiskrete
Signale.
Abtasttheorem: Abtastrate ω0 mindestens 2ωmax.
Rekonstruktion: si-förmige Verzerrung des Spektrums.
9. Vorlesung “Systemtheorie”
1
Heute:
Quantisierung und Modellierung der Fehler
1. Zahlendarstellung.
2. Quantisierung.
3. Fehler durch Quantisierung und deren formale Modellierung.
9. Vorlesung “Systemtheorie”
2
Darstellung von Signalwerten in der Signalverarbeitung
Allgemein: Reelle Zahl x ∈
xQ = V (A) =
n
X
R lässt sich durch endliche Summe
ai B
i
i=−m
annähern, wobei 0 ≤ ai ≤ B − 1 gilt.
B : Basis (z. B. 10 oder 2 für Darstellung in digitalen Rechnern)
Beispiele:
(132.56)10 = 1 ∗ 102 + 3 ∗ 101 + 2 ∗ 100 + 5 ∗ 10−1 + 6 ∗ 10−2
(1011.01)2 = 1 ∗ 23 + 0 ∗ 22 + 1 ∗ 21 + 1 ∗ 20 + 0 ∗ 2−1 + 1 ∗ 2−2
9. Vorlesung “Systemtheorie”
3
Zahlendarstellungen im Rechner
Computer rechnen im binären Zahlensystem, d. h. B = 2.
Positive und negative Zahlen werden durch Bitvektoren
A = (an−1 an−2 . . . a1 a0) dargestellt.
n ist typischerweise 16 oder 32
Übliche Zahlendarstellungen:
• Vorzeichen-Betrag-Darstellung
• 1-Komplement-Darstellung (K1-Darstellung)
• 2-Komplement-Darstellung (K2-Darstellung)
9. Vorlesung “Systemtheorie”
4
Vorzeichen-Betrag-Darstellung
0-te Ziffer: 0 für Positive Zahl, 1 für negative Zahl.
Ziffern 1 − (n − 1): Betrag der Zahl.
Positive Zahl:
A = 0 an−2 . . . a1a0
Negative Zahl:
A = 1 an−2 . . . a1a0
Wertebereich der Darstellung: −2n−1 + 1 ≤ V (A) ≤ 2n−1 − 1.
9. Vorlesung “Systemtheorie”
5
Negative Zahlen – 1-Komplement-Darstellung
Positive Zahl wie bei Betrags/Vorzeichendarstellung:
A = 0 an−2 . . . a1a0
Negative Zahl durch 1. Stelle = 1 markiert, restliche Bits invertiert:
A = 1ān−2 . . . ā1ā0
Wertebereich der Darstellung: −2n−1 + 1 ≤ V (A) ≤ 2n−1 − 1.
9. Vorlesung “Systemtheorie”
6
Negative Zahlen – 2-Komplement-Darstellung
Positive Zahl:
A = 0 an−2 . . . a1a0
Negative Zahl durch 1. Stelle = 1 markiert, restliche Bits invertier, 1 Addiert.
A = 1 ān−2 . . . ā1ā0 + 1
Wertebereich der Darstellung: −2n−1 ≤ V (A) ≤ 2n−1 − 1
9. Vorlesung “Systemtheorie”
7
Skalierung/Festkommadarstellung
Bei Festkommadarstellungen wird Komma an beliebiger Stelle des Bitvektors
angenommen.
In Signalverarbeitung bequem: Komma unmittelbar vor erster Stelle.
Damit Wertebereiche von −1 bis 1.
Quantisierung Q sei Abstand zwischen zwei darstellbaren Werten Q.
Darstellung
Wertebereich
Quantisierung
Vorzeichen/Betrag
(-1,1)
1/2n−1
K1
(-1,1)
1/2n−1
K2
[-1,1)
1/2n−1
9. Vorlesung “Systemtheorie”
8
AD-Wandler: Quantisierung
Eingabe ist zeitkontinuierliches und wertekontinuierliches Signal.
Ausgabe ist zeitdiskretes (abgetastetes) und wertediskretes Signal.
Untersuchung: Fehler, der durch die (nichtlineare!) Quantisierung entsteht.
Statistisches Modell für Untersuchung (Widrow’61):
Zufälliges Eingabesignal, aber kein Überlauf.
x
Q
xQ
x
xQ
Fehler e:
Zufallsvariable E
9. Vorlesung “Systemtheorie”
9
AD-Wandler: Quantisierung
xQ
2Q
Q
3Q
2Q
Q
Q
2Q
x
Q
2Q
9. Vorlesung “Systemtheorie”
10
AD-Wandler: Quantisierung
e
x
i
Q Q
Quantisierungsfehler: e(t) = x(t) − xQ(t) ∈ − 2 , 2
Verteilungsdichtefunktion:
p (e)
E
1/Q
Q/2
9. Vorlesung “Systemtheorie”
Q/2
e
11
AD-Wandler: Quantisierung
Erwartungswert des Fehlers e: mE =
2
Varianz des Fehlers e: σE
=
x
Q
xQ
R∞
R∞
−∞
e pE (e) de = 0
2
e
pE (e) de =
−∞
x
Q2
12
xQ
F ehler e:
Zufallsvariable E mit
m_E =0
Sigma_E =Q2/12
9. Vorlesung “Systemtheorie”
12
Signal/Rauschabstand
Signal/Rauschabstand (engl.: S/N Ratio, SNR), ist Maß für Abstand zwischen
Nutzsignal und Rauschen (Störungen):
SNR = 10 log10
σx2
2
σE
!
in [dB]
σx2 : Signalleistung.
2
σE
: Fehlerleistung.
Frage: Wie wirkt sich Abtastung mit n Bit auf SNR aus?
9. Vorlesung “Systemtheorie”
13
Signal/Rauschabstand (2)
Frage: Wie wirkt sich Abtastung mit n Bit auf SNR aus?
Hierzu annehmen Spitzenfaktor:
xmax
2w−1Q
PF =
=
σX
σX
Damit:
2
σX
2
σE
=
x2max
PF2
=
Q2
1
x2max
=
12
12 22(n − 1)
=
1/3 xmax 2
9. Vorlesung “Systemtheorie”
2
−2n
14
Signal/Rauschabstand (3)
2
2
Wir setzen σX
und σE
in Formel für SNR ein:
!
2n
2
SNR = 10 log10 3 2
PF
√
Bei einem sinusförmigen Signal ist PF = 2. Damit:
!
2n
2
SNR = 10 log10 3
≈ 6.02 n + 1.76 [db]
2
Bei gaussverteilten Zufallswerten ist PF ≈ 4.61. Damit:
!
2n
2
≈ 6.02 n − 8.5 [db]
SNR = 10 log10 3
2
9. Vorlesung “Systemtheorie”
15
Signal/Rauschabstand – Faustregel
Der durch eine Abtastung mit n Bit entstehende
Signal/Rauschabstand ist in etwa 6 ∗ n dB.
Beispiele:
CD-Spieler. Quantisierung: 16 Bit.
SNR: 6 ∗ 16 = 96 dB
Wahrnehmung bis zu 130 dB, abhängig von Spektrum.
MP2 Layer 3 Audio-Kompression:
Quantisierung abhängig von psychoakustischem Modell.
9. Vorlesung “Systemtheorie”
16
Quantisierungstheorem nach Widrow
Annahme:
Quantisierer habe Eingabe x mit Wahrscheinlichkeitsdichtefkt. pX (x).
Ausgabe y habe Wahrscheinlichkeitsdichtefkt. pY (y).
p (y)
Y
pX (x)
3Q
9. Vorlesung “Systemtheorie”
2Q
Q
0
Q
2Q
3Q
x
y
17
Quantisierungstheorem
Wahrscheinlichkeit W [kQ], dass k-te Quantisierungsstufe ausgegeben wird:
Z
Q/2+kQ
W [kQ] =
pX (x)dx
−Q/2+kQ
alternativ:
Z
∞
pX (x) rect((y − x)/Q) dx = pX (x) ∗ rect(y/Q)
W [kQ] =
−∞
Wahrscheinlichkeitsdichtefunktion pY (y) lässt sich dann als δ -Folge darstellen,
die mit W [kQ] gefaltet ist:
pY (y) =
∞
X
δ(y − kQ)W [kQ]
k=−∞
9. Vorlesung “Systemtheorie”
18
Quantisierungstheorem (2)
P∞
Mit δQ(y) =
k=−∞ δ(y − kQ) erhalten wir für
Verteilungsdichtefunktion pY (y):
pY (y) = δq (y)(rect(y/Q) ∗ pX (x))
Fourier-Transformation davon ergibt charakteristische Funktion PY (ju)
(ohne Herleitung, vgl. nichtideale Abtastung!):
PY (ju) =
∞
X
k=−∞
9. Vorlesung “Systemtheorie”
PX (ju − jk
2π
2π
) si((u − k )Q/2)
Q
Q
19
Quantisierungstheorem (3)
Charakteristische Funktion der Ausgabe:
PY (ju) =
∞
X
k=−∞
PX (ju − jk
2π
2π
) si((u − k )Q/2)
Q
Q
Quantisierungstheorem nach Widrow:
Wenn 2π/Q kleiner als maximale Frequenzkomponente in
der charakteristischen Funktion PX (ju), überlappen sich
die periodisch fortgesetzten Spektren nicht, und eine Rekonstruktion von pX (x) ist möglich.
9. Vorlesung “Systemtheorie”
20
Modell A/D-Wandler mit Quantisierung
Mit Abtastung ergibt sich damit Modell der A/D-Wandlung wie folgt:
u(t)
A/ D
u [ n]
Q
u(t)
kT
u[ n]
u [ n]
Q
Weisses Rauschen
9. Vorlesung “Systemtheorie”
21
Quantisierungsrauschen bei arithm. Rundung
Beispiel:
Multiplikation von 2 Zahlen mit je n bit ergibt Produkt mit 2n bit.
In der Regel dann Rundung auf n bit für weitere Verarbeitung.
Modellierung eines Multiplizierers:
u[ n]
y=u*a
a
9. Vorlesung “Systemtheorie”
y[ n]
u(t)
y[ n]
a
n
22
Reduktion des Quantisierungsrauschens: Dither-Techniken
Dither-Techniken
Anwendungsbereich: Reduktion der Quantisierung.
Problem: Fehlersignal ist mit Nutzsignal korrelliert,
Spektrum von Fehlersignal deshalb nicht weisses Rauschen, einige Fehlerspitzen.
x[ n]
m+r BitSignal
y[ n]
m BitSignal
Q
d[ n]
s Bit, s <=r
Ergebnis: Quantisierungsfehler wird weisses Rauschen, Fehler gleichverteilt.
9. Vorlesung “Systemtheorie”
23
Reduktion des Quantisierungsrauschens: Spektralformung
Quantisierungsfehler kann jederzeit berechnet werden und entsprechende
Korrekturen vorgenommen werden:
u[ n]
Q
y[ n]
H(z)
z. B. H(z) = z −1 Addiert Fehler zu nächsten zu quantisierenden Wert
(Hochpassspektralformung).
z. B. H(z) entsprechend psychoakustischem Modell (27dB Verbesserung!)
9. Vorlesung “Systemtheorie”
24
Zusammenfassung
Heute kennengelernt:
1. Quantisierung kann als weisses Rauschen modelliert werden.
2. Quantisierungstheorem: Verteilungsdichte rekonstruierbar.
3. Modellierung von A/D-Wandler, Multiplizierer.
4. Dithering, Spektralformung.
9. Vorlesung “Systemtheorie”
25
Ausblick
Nächste Woche:
1. Kurzzeit-Fourier-Analyse (STFT)
2. Wavelets
9. Vorlesung “Systemtheorie”
26