Künstliche Intelligenz

TUWIEN
INTELLIGENZ
Ein selbstmodellierendes System
für die Wasserwirtschaft
Dipl.-Ing. Dr. ANDRADE-LEAL
Wien, im Juli 2001
Dr. Andrade
1
TUWIEN
INTELLIGENZ
• Einleitung, Motivation und Voraussetzungen
• Künstliche Intelligenz
– Neuronale Netze
– Experte Systeme
• Intelligenz
–
–
–
–
Dr. Andrade
Der logische Aufbau des Systems
Der physische Aufbau des Systems
Anwendungsmöglichkeiten
Beispiel
2
TUWIEN
INTELLIGENZ
Einleitung, Motivation und
Voraussetzungen
Das Problem
1. Informationsüberschuß
2. Unterschiedliche Datenquellen für eine Eingangsgröße
•Die Datenqualität hängt von Situationen ab
•Die Klassifikation der Situationen hängt von anderen Parametern ab
3. Temporärer Datenausfall einer Datenquelle
4. Fehlerklassifikation
•Fehler der 1. Ordnung (Meßfehler) und Fehler der 2. Ordnung (Prognosenfehler)
•Systematische und unsystematische
5. Das Vorwissen ist nur von Fehler 1. Ordnung beeinflußt
•Die Prognosenwerte werden von Meßwerten überschrieben
6. Das System hat Meßwerte und Prognosenwerte als Eingangsgröße
Dr. Andrade
3
TUWIEN
INTELLIGENZ
Einleitung, Motivation und
Voraussetzungen
Die Lösung soll sein
Ein intelligentes System :
•Die Erkennung und Korrektur der systematischen Fehler
•Die situationsabhängige Kombination der Eingangsquellen
•Die Erkennung und Behandlung der Informationsausfälle
•Die möglichst beste Aussage wird gesucht (Fehler werden minimiert)
•Abschätzungen für Varianzen werden auch geliefert
Das System setzt voraus
Gute Systemarchitektur
Ausreichender Speicherplatz
Dr. Andrade
4
TUWIEN
INTELLIGENZ
Künstliche Intelligenz (Konnektionismus)
1. Definition
Die Modellierung der menschlichen Denkprozesse
„Lernen ohne die vollständige Speicherung des Vorwissens
2. Das Gehirn und seine Elemente
Eingangselemente - Rezeptoren empfangen und setzen Aktionen in elektrische Signale
Ausgangselemente - Reaktionen
Zwischenschicht - Informationen werden verarbeitet
um
3. Die Nervenzelle
• Zellkörper besitzt eine Membran - diese feuert bei der Überschreitung eines
Schwellwertes (Zustandsveränderung)
•Synapsen - Rezeptoren empfangen
•Axone - Ausgangsverbindungen
•Synapsen - positive oder negative Übertragung des Impulses an nachgeschaltete Neuronen
Dr. Andrade
5
TUWIEN
INTELLIGENZ
Künstliche Intelligenz (Konnektionismus)
4. Die Hebb‘sche Hypothese (Donald O. Hebb)
Das menschliche Lernen = Das Wachsen von Synapsen
5. Modellierung der Neuronen
a=f(eog)
e¹
e²
g¹
g²
Dendriten
eog
Zellkörper
Aktivierungsfunktion
Axon
Dr. Andrade
a
6
TUWIEN
INTELLIGENZ
Künstliche Intelligenz (Konnektionismus)
6. Typische Aktivierungsfunktionen
Treppenfunktion
f ( x ) = { ab
Sigmoidfunktion
fa lls x > S c h w e llw e rt
fa lls x < = S c h w e llw e rt
f (x) =
1
1 + e-x
a
a
b
b
Schwellwert
Schwellwert
Dr. Andrade
7
TUWIEN
INTELLIGENZ
Künstliche Intelligenz (Konnektionismus)
7. Einstufige Netze (Perzeptrons) 1950-1965 Frank Rosenblatt
Interpretation visueller Eindrücke
8. Mehrstufige Netze
Eingabeschicht
verbogene Schichten
Ausgabeschicht
Mit oder ohne Rückkopplung
e¹
e²
Verteiler von Eingabewerten
eog
eog
eog
Aktivierungsfunktion
Aktivierungsfunktion
Aktivierungsfunktion
a¹
Dr. Andrade
a²
8
TUWIEN
INTELLIGENZ
Künstliche Intelligenz (Konnektionismus)
9. Tranining Künstlicher Neuronaler Netze
9.1. Eingabe von Testdaten und erwarteten Resultaten
9.2. Verarbeitung der Daten
9.3. Vergleich errechneter Ergebnisse und erwarteter Resultate
9.4. Anpassung der Gewichte
10. Backpropagation
delta = ( RES - AUS ) × f '(G × EIN )
gi = gi + a × delta × EIN j
Dr. Andrade
9
TUWIEN
INTELLIGENZ
Experte Systeme
9. Unterscheidung zwischen Daten und Wissen
Das Wissen ist die Fähigkeit Daten richtig interpretieren zu können
Beispiel:
Daten:
Fritz hat_kinder 5
Monika ist_tochter_von Fritz
Nikolas ist_sohn_von Monika
Sophie ist_tochter_von Monika
Matt ist_sohn_von Fritz
Frieder ist_sohn_von Fritz
Maria ist_tochter_von Fritz
Felix ist_sohn_von Fritz
Dr. Andrade
Fritz
Monika
Nikolas
Matt
Frieder
Felix
Maria
Sophie
10
TUWIEN
INTELLIGENZ
Experte Systeme
Regeln:
X ist_vater_von Y, falls Y ist_sohn_von X
X ist_vater_von Y, falls Y ist_tochter_von X
X ist_bruder_von Y, falls X ist_sohn_von Z und Y ist_sohn_von Z
X ist_bruder_von Y, falls X ist_sohn_von Z und Y ist_tochter_von Z
X ist_großvater_von Y, falls Y ist_sohn_von Z und Z ist_sohn_von X
X ist_großvater_von Y, falls Y ist_tochter_von Z und Z ist_sohn_von X
X ist_großvater_von Y, falls Y ist_tochter_von Z und Z ist_tochter_von X
X ist_großvater_von Y, falls Y ist_sohn_von Z und Z ist_tochter_von X
Dr. Andrade
11
TUWIEN
INTELLIGENZ
Intelligenz
¡ Der logische Aufbau des Systems
– Das Netz
• ist die Menge aller Kenntnis-Zellen
• weder Anzahl oder Architektur des Netzes ist vorgegeben
– Kenntnis-Zellen
•
•
•
•
werden die Systemabhängigkeiten lernen
Zustände dieser Zelle werden mit der Verarbeitung von Daten (Vorwissen) geändert
Durchschnittliche Werte werden gerechnet
für jede Dimension werden Anzahl der Punkte, Abschätzung der Varianz und
Fehlerdiagnose gerechnet
– Die Dimensionen
• sind die Eingangsgröße oder Kombination dessen
– Der Vermehrungsprozeß
• wird für eine Zelle gestartet, wenn die maximale Aufnahmefähigkeit der Zelle erreicht wurde
Dr. Andrade
12
TUWIEN
INTELLIGENZ
Intelligenz
¡ Der physische Aufbau des Systems
– Das Lernen
Das Suchalgorithmus findet die entsprechende Zelle
nach einen Situationskalkül wird der Zustand der Kenntnis-Zelle verändert
diese Veränderung kann einen Vermehrungsprozeß anstoßen
– Die Anzahl der Kenntnis-Zellen
wird von Parametern wie
die minimale sinnvolle Größe einer Zelle in jeder Dimension
maximale Variationen der partiellen Differenzen-Quotienten
die Anzahl der Kenntnis-Zellen selbst
gesteuert
– Das Auswertungstool
ist iterativ
Dr. Andrade
systematische Fehler der 2. Ordnung werden analysiert und
Abschätzungen für die Varianz werden gerechnet
13
TUWIEN
INTELLIGENZ
Intelligenz
¡ Anwendungsmöglichkeiten
– Validieren bzw. Ergänzen von hydrologischen Modellen
Die neuen Zellen werden generiert nur für Situationen wo das Modell versagt
Fehleranalyse wird durchgeführt
– Autonomes System
Datenbanktechnologie ist ein wichtiger Faktor
Dr. Andrade
14
TUWIEN
INTELLIGENZ
Intelligenz
¡ Beispiel
z ( x , y ) = 100 × ( 2 + Sin(3 × x ) + Cos(5 × y ))
1£ x £ 3
2£ y£3
und
Þ 0 £ z ( x , y ) £ 400
400
300
200
100
0
1
3
2.8
2.6
2.4
1.5
2
2.2
2.5
3
Dr. Andrade
2
15
TUWIEN
INTELLIGENZ
Intelligenz
¡ Methode anwenden
1. Das Netz mit 3000 zufällig generierten Werten {x,y,z} lernen lassen.
2. Der Vermehrungsprozeß wurde während des Lernens ausgeschaltet
=> nur eine Kenntnis-Zelle.
3. Zwei Kurven wurden gerechnet, kubische Spline Interpolation wurde angewendet.
4. Für 3000 {x,y} zufällig generierte Werte wurde mit dem Auswertungstool {y} gerechnet.
5. Fehler wurden analysiert.
Dr. Andrade
16
TUWIEN
INTELLIGENZ
Intelligenz
Kurven für Eine Zelle
350
300
250
200
x
y
150
100
50
0
1
ANZAHL
Min
3000 -156,587223
Max
184,668319
2
3
4
5
Mittelwert von
FEHLERPLUS
23,69819197
Mittelwert von FEHLER
-8,5224E-06
Dr. Andrade
6
Mittelwert von
FEHLERMINUS
-23,69820049
Standardabweichung von
FEHLER
58,2681473877
17