Neuronale Netze - Lehrstuhl für Informatik 12
Werbung
Kohonennetze Selbstorganisierende Karten Julian Rith, Simon Regnet, Falk Kniffka Seminar: Umgebungsexploration und Wegeplanung mit Robotern Kohonennetze: Neuronale Netze ● In Dendriten werden die ankommenden Signale von anderen Nervenzellen aufgenommen ● Übersteigt ein Reiz den Schwellenwert, dann ‚feuert‘ das Neuron einen Impuls über seine Ausgänge – Axonen – ab. ● Synapsen bilden die Verbindungsstellen zwischen Axonen und Dendriten. Künstliche Neuronen sind in Anlehnung an natürliche Neuronen modelliert und werden mit einigen derer grundlegenden Eigenschaften versehen. Julian Rith, Simon Regnet, Falko Kniffka Kohonennetze: Neuronale Netze Ausgangsvektor (Output) m Ausgabeschicht Verarbeitung verborgene Schicht(en) Eingabeschicht Eingangsvektor (Input) n Ein neuronales Netz ● hat n≥1 Eingänge und m≥1 Ausgänge ● besitzt mindestens eine, meistens mehre Schichten ▪ meist eine Eingabeschicht ▪ eine Ausgabeschicht ▪ beliebig viele verborgene Schichten Julian Rith, Simon Regnet, Falko Kniffka Kohonennetze: Neuronale Netze Schichten N1 W11 N1 N2 W21 W22 W23 N2 N3 … Wi 3 W33 N3 … Nj Schicht B Wi j Ni Schicht A Wie wird lernen ermöglicht? Den Verbindungen wird eine unterschiedlich große Bedeutung zugewiesen. → Die Informationen werden gewichtet. Die Gewichte werden solange modifiziert, bis eine Eingabe zu der gewünschten Ausgabe führt. Lernen bedeutet also das Verändern von Gewichten. Julian Rith, Simon Regnet, Falko Kniffka Kohonennetze: Neuronale Netze Lernmodi ● assoziatives Lernen (überwachtes Lernen): Hierbei müssen die Eingabedaten und die mit diesen Daten verbundenen Ausgabedaten vorliegen. ● Unüberwachtes Lernen: Es ist nur ein Eingabevektor nötig. Das Netzwerk muß selbständig die relevanten Daten erkennen, intern repräsentieren und klassifizieren. Julian Rith, Simon Regnet, Falko Kniffka Kohonennetze: Self-Organizing Maps (SOM) – Kohonen-Netze • Verwenden unüberwachtes Lernverfahren • Berechnen anhand der Eingabedaten Häufungen • Definiert so eigenständig Klassen oder Partitionen • Abbildung von mehrdimensionalen bzw. komplexen Gebilde Julian Rith, Simon Regnet, Falko Kniffka Kohonennetze: Aufbau von Kohonen-Netze • Nur Eingabeschicht und Ausgabeschicht • Verbindung durch Gewichtsvektoren • Vernetzung von Kohonen-Neuronen untereinander • Kohonen-Schicht: Unterschiedliche Formen in unterschiedlichen Dimension Julian Rith, Simon Regnet, Falko Kniffka Kohonennetze: Das Lernverfahren • Siegerneuron wird durch Euklidische Norm in der Kohonen-Schicht bestimmt • c ist der Index des Kohonen-Neurons, das der Eingabe am ähnlichsten ist. • Trainingsfunktion berechnet alle Gewichtsvektoren neu •η(t) •h(t) monoton fallende Konstante für Trainingsschritte Nachbarschaftsfunktion, beschreibt wie Nachbarneuronen beeinflusst werden •|| X(t) - Wj(t) || Euklidischer Abstand zwischen Eingabeneuron und Kohonen-Neuron Julian Rith, Simon Regnet, Falko Kniffka Kohonennetze: Das Lernverfahren Beispiele für Nachbarschaftsfunktionen Mexican-Hat Funktion Gauß‘sche Glockenfunktion Cosinusfunktion Julian Rith, Simon Regnet, Falko Kniffka Kohonennetze: Das Lernverfahren Ein Adaptionsschritt : m ist Dimension der Eingabeschicht n ist Dimension der Ausgabeschicht t ist die Zeitliche Komponente Julian Rith, Simon Regnet, Falko Kniffka Kohonennetze: Anwendungsbereiche in der Robotik • Signalverarbeitung • Akustik • Visuell • Bewegungssteuerung in unbekannter Umgebung • Optimierungsfragen Julian Rith, Simon Regnet, Falko Kniffka Kohonennetze: Travelling Salesman Problem & Kohonennetze • Kohonennetz wird durch Ring präsentiert • Übertragen der Städte auf das Neuronen-Koordinatensystem Julian Rith, Simon Regnet, Falko Kniffka Kohonennetze: Travelling Salesman Problem & Kohonennetze • Reize von den Städten • Ermittlung eines Winner-Neurons • Verschiebung Richtung Stadt • Löschung der Unbeteiligten Julian Rith, Simon Regnet, Falko Kniffka Kohonennetze: Fazit Einsatz von Kohonennetzen in der Robotik Contra: • Ungültige oder unbrauchbare Zwischenergebnisse • Training Pro: • Unüberwachtes Lernen • Brauchbare Abbildung komplexer Informationen • Robustheit Julian Rith, Simon Regnet, Falko Kniffka Wir danken für Ihre Aufmerksamkeit Julian Rith, Simon Regnet, Falk Kniffka Seminar: Umgebungsexploration und Wegeplanung mit Robotern Kohonennetze: Literaturhinweise • Ritter, Helge: Neuronale Netze: Eine Einführung in die Neuroinformatik selbstorganisierender Netzwerke Addison-Wesley; Bonn/München; 1991 • Scherer, Andreas : Neuronale Netze – Grundlagen und Anwendungen; Vieweg; Wiesbaden; 1997 • Zakharian, Serge: Neuronale Netzt für Ingenieure; Vieweg; Wiesbaden; 1998 • Börner, Sven: Probleme eines Handungsreisenden, HTW Dresden http://www.informatik.htw-dresden.de/~iwe/Belege/Boerner/ • Bourg, David M. & Seemann Glenn: AI for Game Developers; O‘Railly Media, Inc; Sebastolpol; 2004 •Schöneburg, Eberhard: Neuronale Netzwerke : Einführung, Überblick und Anwendungsmöglichkeiten; Markt-u.-Technik; München 1990 • •Zell, A. : Simulation Neuronaler Netze. Addison-Wesley; Bonn/München; 1996 Julian Rith, Simon Regnet, Falko Kniffka
