Chass und Srdnrlrlg - Lehrstuhl für Optik, Uni Erlangen

Werbung
:.:)\:d#
Chaos'Gestaltbildung
und assoziatives
Gedächtnis
in rückgekoppelten
Bildern
Chassund Srdnrlrlg
Von Gerd Häusler
il
il
Wir betrachtendie Welt
meistvereinfachend
schlagenuns in der Welt erfolg<alsSummeihrer Teile>. Wie kommen die Komplexität und die
llfir
!f
reich durch, indem wir uns im GeUnvorhersagbarkeitder Phänomeneum
In Wirklichkeitist sieein uns
hirn ein Modell dieser Welt enrwerfen.
herum überhaupt zustande, wo
Mit seiner Hilfe sagen wir im voraus,
doch die Naturgesetzeso verhältnismäSystem
von
gekoppelten
was passieren wird, und danach haneinfach und deterministisch sind?
deln wir.
Größen,die nichtlinear ßig
Die Newtonschen Axiome der MechaUnsere einfachstenModelle sind linear:
nik kann jedes Schulkind verstehen.
voneinander
abhängen. und
Zwei Arbeiter leisten in der gleichen
dennoch kann man den Lauf einer
Zeit doppelt soviel wie ein Arbeiter. EiSysteme,
die in der nicht- Roulettekugel nicht vorhersagen. Die
nige Tonnen Fluor-Chlor-KohlenwasQuantenmechanikbeschreibtdie Atome
serstoffekönnen der riesigen Masseder linearenDynamik modell- scheinbar vollständig, und doch
versteErdatmosphäre nichts anhaben. Viel
hen wir nicht, warum die Dinge um uns
haft
behandelt
werden,
hilft viel. Das Ganze ist die Summe der
so aussehen,wie sie eben ausseTeile. Das ist lineares Denken. Im Allzeigenein reichhaltiges herum
hen. Ein anderesBeispiel: Das menschtag, in der Politik und auch in der WisEigenleben:oft determini- liche Gehirn besteht aus einer Vielzahl
senschaftwird Linearität meistensvorvon Nervenzellen(Neuronen).Die Bioausgesetzt- bewußt und. öfter noch.
stischesChaoswie zum logen wissen bereits eine ganze Menge
unbewußt. Jede Vorhersage ist damit
darüber. Trotzdem war bis vor kurzem
Beispielin der Hydroeinfacher.
kaum etwas über die Mechanismen der
dynamik,manchmalGe- Informationsspeicherung und die der
DasGanzeist mehr als
höheren Leistungenwie etwa der Assostaltbildungwie in der
ziation oder der Verallgemeinerungbedie SummeseinerEinzelteile
Biologie.Auch höhere kannt.
Allerdings bewahrheitet sich der alte
Allen diesen Systemen ist gemeinsam,
Spruch, daß <Vorhersagen immer
Gehirnfunkdonen- bei- daß die interessierendenGrößen - der
schwierig sind, besonderswenn sie sich
Ort der Roulettekugel, die Kräfte zwidasassoziativeschen
auf die Zukunft beziehen>.Mit linearen spielsweise
den Atomen, die Signalstärkeder
Modellen sind die meisten Prognosen Gedächtnis
- nichtlinear von anderen
Neuronen
oder
das
Abnur für ganz kurze Zeiträume möglich.
Größen - von Ort, Zeit, Signalstärke
- sind anderer Neuronen - abhängen. Wenn
Mit linearen Modellen schließt man zu- straktionsvermögen
dem die interessantestenPhänomene
nichtlinearedynamische dann noch viele solcher nichtlinearer
aus jeder Betrachtungaus. So ist unsere
Komponenten miteinander gekoppelt
Welt nicht zu versrehen;sie ist ebenptPhänomene.
Besonders
werden (Atome, Neuronen). wird es erst
sächlichmehr als die Summe der Teile.
interessant: Nichtlineare Syinteressant
sind Systeme richtig
Darauf hat schon der französischeMasteme zeigen plötzlich ein Eigenleben:
thematiker Henri Poincarö (1854 bis
mit vielengekoppelten sie entwickeln eine (zeitliche)Dynamik.
1912) gegenEnde des vorigen JahrhunUnsere Welt ist dafür ein einzigesgroderts hingewiesen.Aber erst seit etwa 10
Variablen.Als Modelle ßes
Beispiel! Die Wolkenbildung, die
bis 20 Jahren ist diese Tatsachewieder
Strukturbildung in einem Pflanzenblatt,
dafür
eignen
<Bilsich
stärker ins Bewußtsein der Naturwisdie gesamteökologie, Leben überhaupt
senschaftlergedrungen.
der>>,
die in einemnicht- - sie sind alle Ausdrucksformen komDiese Verzögerung hat
sicher mit dem
ungeheuren Erfolg zweier großer linearer Theorien zu tun, die heute unsere
technischeWelt regieren:die Elektrodynamik und die Quantenmechanik. In
der Eleltrodynamik setzen sich die
elektromagnetischenFelder einfach aus
der Summe von Teilfeldern zusammen.
In der Quantenmechanikbesteht Materie aus der Summe der Materiewellen
der Elementarteilchen.
t2
linearen optischenRück-
kopplungssystem
umlaufen.
Prof. Dr. Ceno HÄuslrn, Universität ErlaneenNürnberg,Physikalisches
lnstitut. Angewandtebptik. Erwrn-Rommel-Srraße
l, D-8520 Erlangen.
plizierter nichtlinearer Systememit sehr
vielen gekoppeltenVariablen.
Das klingt zunächst alles sehr abstrakt.
Eine genaue Erklärung der Phänomene
ist aus verschiedenen Gründen noch
nicht möglich: Die lineareAlgebra,mit
der heute die Studenten der Naturwissenschaftgroß werden, ist nicht das geeignete Werkzeug dafür, und die Mathematik für die nichtlineare Dynamik
ist noch nicht sehr weit entwickelt.
TECHIUISCHEruilDSCHIU'
27I9O
Titelbeitrag
Rechts: digitalesRückkopplungssystem.
Bild 1. Links:fernsehoptischesRückkopplungssystem.
Deshalbhat sich neben der Theorie und
neben dem Experiment eine dritte Methode entwickelt: die Numerik. Mit
dem Computer lassensich nichtlineare
Systemesimulieren. Wenn viele gekoppelte Variable betrachtetwerden sollen,
braucht das allerdings auch bei schnellen Rechnern sehr viel Zeit. Mit Hilfe
der Fernsehtechnikkann man den Zeitaufwand für die Untersuchungmancher
dieser Systemeerheblich reduzieren.
lm folgenden sollen einige Phänomene
der nichtlinearen Dynamik anhand der
Entwicklung von Fernsehbildernveranschaulicht werden. die in einem nichtlinearen Rückkopplungskreis umlaufen,
wie er in Bild I skizziert ist.
wir betrachtendie Intensitätjedes Bildpunktes als eine Variabie. In einem
Fernsehbild gibt es etwa 250 000 Bildpunkte. Damit ergibt sich ein sehr hochdimensionalesSystem. Sorgen wir nun
dafür, daß Bildpunkte miteinander
wechselwirken (koppeln), dann zeigt
dieses System tatsächlich viele Phänomene, wie wir sie auch in der Natur beobachten: deterministisches Chaos in
Ort und Zeit, Entstehungvon Ordnung
und Gestalt und schließlich assoziatives
Gedächtnis. Daß die umlaufenden Signale Bilder sind, hat gegenüber abstrakteren Daten den Vorteil, daß wir
die Ergebnissedank unserem hochentwickelten Gesichtssinn interpretieren
können, der Ordnung und Symmetrie
wie von selbst findet.
EtwasChaospraxis
Starten wir also unserc Experimente:
Wir lassen zunächst nur einen Bildpunkt umlaufen, der immer wieder an
den gleichen Ort abgebildet wird. Nach
dem Umlauf mit der Nummer t hat er
eine bestimmte Intensität u(t). Dann
wird die Nichtlinearität NL angewendet, und es ergibt sich die neue Intensität nach dem Umlauf t*1. Wir benutzen die folgende Nichtlinearität:
u(t+l) = au(tXl-u(t)l = 4[u(s)-uz(r)](1)
Die Funktion ist in Bild 2 dargestellt.
TEO{iltSOtEnmrHAl'
27t90
rechnen,könnten wir das Ergebnisauch
gleich auswürf'eln! Die <empfindliche
Abhängigkeit von den Anfangsbedingungen) ist ein wesentlichesKennzeichen von <deterministischemChaos>,
das zuerst (1963) vom Meteorologen
Eoweno N. LoneNz in der Hydrodynamik beschriebenwurde.
Das Beispiei mit der logistischen Parabel stammt von R. M. Mrv [1]. Mnv hat
auch den anschaulichen Begriff vom
Schmetterlingseffektzur Beschreibung
des deterministischen Chaos geprägt:
Wenn man den Ort und die Geschwindigkeit ailer Luftmoleküle zur Zeit
t : 0 genau kennen würde, könnte man
das Wetter im Prinzip mit der klassischen Physik exakt vorhersagen.Allerdings kann theoretischbereits ein einziger Schmetterling in Australien das
Wener am Nordpol völlig durcheinanderbringen, nachdem er einige Tage zuvor mit seinem Flügelschlageinige Luftmoleküle durcheinandergewirbelt hat.
(Eine Einführung in das deterministischeChaos findet man zum Beispiel bei
HelNz-Geonc Scsusren [2], eine einfache Einführung in die nichtlineare Dynamik bei HrRunruu HerrN [3]).
In Bild 3 ist der Effekt noch einmal für
unseren umlaufenden Punkt veranschaulicht: In der ersten Zeile bei t - 0
alle mögPara- sind in horizontaler Richtung
die logistische
Bild 2. Nichtlinearität:
von
u : 0
Eingangsintensitäten
lichen
bel.
(schwarz)bis u : I (weiß) aufgetragen.
I n d e n Z e l l e nd a r u n t e r ,b e i t : 1 , 2 , . . .
sieht man, wie sich die jeweils darüberliegende Intensität entwickelt hat. Zum
Beispiel ntrZeit t : 15 ist die Intensität
in horizontaler Richtung sehr fein strukturiert: Eine sehr kleine Anderung der
Eingangsintensitätführt also bereits zu
einer großen Anderung des Ergebnisses.
Wir sehen, daß bereits das einfache
eindimensionale (1-Punkt-)Rückkoppein sehr komplexesVerhallungssystem
ten zeigen kann. Was Passiert, wenn
man viele Variable koppelt?
Interessantwäre zum Beispiel, die Populationsdichten von Würmern, Kä'
fern, Bakterien und Insekten, die existentiell alle voneinander abhängen, in
Cleichzeitig sind einige Umläufe skizziert, ausgehendvon der Intensität u10)
erhalten wir u(1). u(2) usw. Diese spezielle Nichtlinearität heißt logistische
Parabel und spielt in der Populationsdynamik eine wichtige Rolle, wenn man
der Variablen u beispieisweisedie Populationsdichte von Lebewesen in eiGebiet zuordnet.
nem abgeschlossenen
Die Errechnung des zeitlichen Verhaltens unseresBildpunktes ist offensichtlich ganz einfach mit einem Taschenrechner durchführbar. In der Praxis
aber ist es nicht ganz unproblematisch.
Da wir den Anfangswert u(0) der Funktion nur mit einer begrenztenGenauigkeit (zum Beispiel mit acht Dezimalstellen) eintippen können. wissen wir natürlich, daß die Resultatenicht beliebig
genau sein können. Überraschenderweise wächst diese Ungenauigkeit so
schnell, daß das Ergebnis u(t) bereits
nach wenigen Zyklen t praktisch unvorhersagbar wird. Ein kleiner Fehler am
Anfang explodiert förmiich, er steigtexponentiell mit der Zeit an. Dazu ein
Zahlenbeispiel, das jeder seibst nachrechnen kann: Eine Unsicherheit von
10-Efür u(0) führt bereits nach etwa 30
Iterationen zu einer Unsicherheit von
100 % des möglichen Wertes. Anstatt zu
f3
ihrem Lebensraum zu untersuchen.Eines ist nach dem Gesagtenvorweg klar:
Die Auffassung,wonach es wohl in einem solchen <Käfer-Würmer-Ökosystem> nichts ausmachenwürde, wenn
man einen <schädlichen>Käfer einfach
nach gängiger Praxis ausrottete, ist
zweifellosvermessen.
Ahnlich kompiizierte Probleme werfen
heute zum Beispiei all die Verfrachtungen von Spurengasenaus künstlichen
Prozessen
in der AtmosphäreauL Überhaupt muß man annehmen, daß <fast
alle> Vorgänge in der Natur chaotisch
t:14
sind. Dabei kann der jeweiis gültige
r - l E
Zeitmaßstab wohl sehr unterschiedlich
sein. so daß viele Prozessezunächstkeineswegs chaotisch erscheinen. Aber B i l d 3 . V e r a n s c h a u l i c h u ndge s e i n d i m e n s i o n a l eCnh a o s .I n d e r S p a l t e n r i c h t u nigs t d i e z e i t l i c h eE n t w i c k l u ndge r I n t e n s i t ädt a r g e s t e l fl tü r t : 0 , 1 , 2 , . . .
nachdem bereits das berühmte Dreikörperproblem der Mechanik deterministisches Chaos zeigt, wäre es nicht ver4.
(linke Spalte) und Entwicklungeines stabilen Musters (rechte Spalte) im
wunderiich,wenn selbstim scheinbarso Bild Chaos
fernsehoptischenRückkopplungssystem.In vertikaler Richtung sind die Bilder zu verstabilen Weltall mit seinen Milliarden s c h i e d e n e nZ e i t e nt : . . . d a r g e s t e l l t .
SternenChaos im langen Zeitmaßstab
vorherrschenwürde.
Kehren wir zunächstwieder zu unserem
einfachen,aber hochdimensionalen
optischenModell zurück:
Bild 4 zeigt zwei Arten des möglichen
Verhaltens.In venikaler Richtung sind
Filmbiider von verschiedenen Zeitpunkten angeordnet. Die linke Spalre
zeigt die Entwicklung von Chaos. allerdings nun in Raum und Zeit. Kennzeichnendist. daß sich nie ein stabiles
Bild entwickelt, aber auch kein periodischesVerhalten beobachretwird.
ln der rechten Spalte ist ein ganz anderes Verhalten zu beobachten:Zwar wird
das Eingangsbild sehr verändert, aber
nach etwa 100 Umläufen hat sich ein
stabilesMuster entwickelt. ln der Sprache der nichtlinearen Dynamik ausgedrückt: Es gibt einen stabilen Fixpunkt
im Phasenraumalier möglichenBilder.
Warum gibt es einmal Chaos und einmal Stabilität?Das hängt im wesentlichen von der Koppiung der Variabien
ab. Die lntensität eines Bildpunktes
nach einem Umlauf hängtja wegender
Koppiung von der Intensität der Nachbarpunkteab. Es gilt:
i - O
r - 1 1
r - t ?
I
.
l
l=N
u1(t+1)= NL{ITrr x ur(r)}
(2)
l=l
r i
i
ii
IJ
Dabei ist U1 die Intensität des k-ten
Biidpunktesnach dem Umlauf t+1. Tkr
stellt einen Koeffizientensatz (Kopplungsmatrix) für die Stärke dar, mit der
die Nachbarn des Punkres k in die Berechnung eingehen. Die Summation
muß über alle n Bildpunkte erfolgen.
Die Bedeutungder Gleichung (2) ist in
Bild 5 auf verschiedeneWeise dargestellt:
Oben ist am Beispielvon drei Bildpunkten gezeigt. wie sich die lntensität des
14
TECHilISO{Eft'TTDSTI{AI' 27/90
Titelbeitrag
Biidpunktesmit der Nummer k : 2 aus
d e n d r e i B i l d p u n k t e nI - l , 2 . 3 i m E i n gang errechnet.Unten im Bild ist skizziert, rvie man im Prinzip erreichen
kann, daß die Bildpunkte miteinander
koppeln. Hier wurde einfach die Ferndie auf ihren eigenenMoni:iehkamera,
:or schaut.etwas defokussiert.Dann er-eugt jeder Objektpunkt auf dem Moniror ein Zerstreuungsscheibchen
auf dem
Kameratarget, das sich mit seinen
Nachbarn überlagen. Kompliziertere
Wechselwirkungenlassensich nach verschiedenen Verfahren realisieren, zum
Beispieidurch holographischeFilter vor
der abbildenden Linse. durch elektrischeFiiter im Videosignaloder rechne,'ischim Computer.
im chaotischenFall wurde eine Kopplung gervählt, bei der die Intensität eines Bildpunktes durch unscharfe Abbildung zu den Nachbarn <diffundiert>.
Das Punktbild und damit die KoeffizientenT11sind rein positiv. Im stabilen
Fall ist die Kopplung komplizierter;wir
lassentbrmal auch negativeIntensitäten
des Punktbildes zu. Mit verschiedenen
Kopplungsmatrizenkönnen wir nun
ganz verschiedene Muster erzeugen
lBilder 6 und 7).
Interessantist dabei. daß man in der
Natur ganz ähnliche Muster wiederfinden kann. Gestaltbildung in der Biologie wurde unter anderem von H. MrrNunno [4] untersucht.Sie soll hier jedoch
nicht weiter betrachtetwerden.
Vielmehr wollen wir uns jetzt mit der
Frage beschäftigen,ob digitale Simulationen im Computer überhaupt das
Chaos in kontinuierlichen Syitemen
(der Natur) richtig wiedergeben können. Prinzipiell kann dies nicht gehen,
denn ein Computerist ein endlichesSystem, das nicht aperiodisch sein kann.
Beispielezeigendie Bilder 8 und 9. Die
drei Rechteckein Bild 8 links sind symmetrisch angeordnet. Die Iteration im
Computer muß notwendig die Symmetrie erhalten. In einem kontinuierlichen
System würde die geringste <Symmetriebrechung> des Eingangssignalsdie
Symmetrie sehr bald völlig zerstören.
Dies kann man auch im digitalen System erzrvingen,indem man zum Beispiel die Rechtecks um nur jeweils einen Bildpunkt asymmetrischverschiebt
(Bild 8 rechts).In diesem Fall zeigt das
digitale System <Quasi-Chaos>.(Eine
andere Möglichkeit zur Symmetriebrechung ist das Einbringen von etwas
Rauschen.)
N
u k ( r + 1 )= N L i t I T k t u r ( t ) )
BeispielfürN=3
€ l - , I ' , '
u 3 ( t )+
Bild 5. Oben: vernetzte Systeme. Unten: fernsehoptische Simulation einer einfachen
Kopplung.
höhere menschliche Gehirnleistungen
wie etwa das Assoziations-und das Abstraktionsvermögen oder das sogenannte Lernen am Beispiel nachzubiiden.
Betrachtenwir noch einmal Bild 1 (unten): Um Symmetrien im digitalen Experiment zu brechen,haben wir eine zusätzliche Rauschquellein den Kreis geschaltet. Das Rauschenist auch in Biid
3, zum Beispiel bei t : 7, im Hintergrund zu erkennen. Das Verblüffende
ist nun, daß trotz des in jedem Umlauf
hinzugefügtenRauschensdas Fixpunktbild stabil bteibt.Das Systemist also offenbar in der Lage, fehlerhafteoder unvollständige Information exakt zu restaurieren. Diese Fähigkeit nennt man
Autoassoziation.Dies wird im Beispiel
von Bild 9 noch deutlicher;Oben links
ist ein Fixpunkt nach 2000 Umläufen
abgebildet. Wir stören diesen Fixpunkt
durch einen schwanen Balken (oben
rechts) und lassen dann das gestörte
Bild weiter umlaufen. Nach weiteren 30
Umläufen ist das ursprüngliche Muster
wieder restauriert (untere Bildhälfte).
Im Raum aller möglichen Bilder, im
<Phasenraum>>,
kann man sich das assoziative Gedächtnis als ein Gebirge
vorstellen, in dem wir irgendwo eine
Kugel loslassen.Sie wird zum jeweils
nächstentiefsten Punkt laufen, den das
Getälle zuläßt. Dieser Punkt stellt einen
Fixpunkt (ein gelerntesBiid in unserem
assoziativenGedächtnis)dar. Wenn wir
die Kugel etwasvom tiefsten Punkt entfernen (das Bild stören),wird sie im allgemeinen wieder zunickrollen (assoziative Rekonstruktion). Dies funktioniert,
solangedie Störung nicht zu groß wird.
Bei einer großen Störung kann es pasBild 6. BildungeineskubischenKristallgit- sieren, daß die Kugei ins benachbarte
ters im nichtlinearenfernsehootischenTal (zu einem anderen gelernten Bild)
Rückkopplungssystem.
Die kubischeSymmetrie entsteht,weil die Kopplungzwi- läuft.
schenbenachbarten
Bildounkten
kubische Wenn es uns nun gelänge,ein nichtlineares Systemmit sehr vieien gekoppelten
Svmmetriehat.
Variablen so zu konfigurieren, daß es
als Fixpunkte zu lernende Bilder (und
nicht nur die Mäander aus Bild 9) hat,
dann könnten wir eine wesentlicheLeistung unseres Gehirns nachvollziehen.
Diese Aufgabe haben sich die Wissenschaftler gestellt, die künstliche, sogenannte neuronale Netzwerke erforschen.Neuronale Netzwerkewurden in
DieHirnrindeals Muster
der <Technischen Rundschau> beiDer für die nähere Zukunft vielleicht
spielsweisevon Prrsn Serrz [5] einfühanwendungsträchtigste Aspekt
der
rend dargestellt. Eine weitere, detailnichtlinearenDynamik ist die Möglichlierte Einführung in neuronale Netze
keit, technischin bestimmten Berei-ichen
findet man bei LreeunNN[6].
TECHIIISo{E
RurUrHrU, 27/90
t5
Aber es gibt immerhin eine Möglichkeit, ein neuronalesNetzwerk mit reduzierterKomplexität optisch aufzubauen.
Dies wird im folgenden erklärt [8].
Jedes hochwertige optische System
macht aus einem isolierten Punkt an der
Stelle x6 in der Eingangsebene ein
<Punktbild> h(x1-xs)in der Ausgangsebene. Es ist dort um den Ort x6 zentriert. Die Form dieses Punktbildes
kann man in speziellenFilteraufbauten,
zum Beispiel durch Hologramme, beliebig wählen. Ein anderer Objektpunkt
bei x1 macht das gleiche Punktbild, allerBild 7. Links: Ergebniseines fernsehoptischenRückkopplungsexperiments.
Rechts: madings um xr zentriert. Viele ObjektgnetischeDomänen in einem dünnen Film mit ähnlicherStruktur.
punkte mit der Stärke..u1:u(xr)führen
in der Bildebene zur Uberlagerung von
dern. Wir haben mit unserem optischen vielen verschobenen Punktbildern mit
Im Kontext der nichtlinearen Dynamik
ist es für uns nicht mehr schwer, solche Rückkopplungssystemein Modell eines jeweils verschiedenerStärke.Daraus erNetzwerke zu verstehen: Wir haben recht großen neuronalen Netzwerks mit rechnet sich die Intensität u1 des k-ten
wieder ein nichtlinearesgekoppeltesSy- n : 250 000 Neuronenvor uns, das wir Bildpunktesin der Bildebene:
stem vieler Variablen. Im Falle der neu- einfach realisieren können [7]. Leider
N
ronalen Netzwerke sind die gekoppel- taucht da aber ein großes Problem auf,
(3)
ten Elemente jetzt nicht Bildpunkte, an dem bis jetzt die Realisation großer u * = ? h ( x r - x r ) x u ( x j
sondern Neuronen. Formal hat sich ge- Netzwerke gescheitert ist, das sogegenüber den oben betrachteten Syste- nannte n2-Problem. Um n Neuronen Diese Operation, die als Faltung bemen nach Bild 5 nichts geändert. Die mit n anderen Neuronen zu verbinden zeichnetwird, ist eine <natürliche> opNeuronen führen die Summation durch (zu koppeln), braucht man n2 Leitungen tische Operation, die experimentelloder
und wenden die Nichtiinearität nach und Synapsen. Dementsprechend hat auch rechnerisch,mit Hilfe der FourierGleichung (1) an. Die Neuronen sind die synaptische Matrix auch n2 Ele- transformation, sehr einfach und
durch Leitungen gekoppelt. Die Stärke mente. Wollten wir in unseren Fernseh- schnell durchgeführt werden kann. Alder Kopplung zwischen dem Neuron 1 bildern jeden Bildpunkt mit jedem an- lerdings sieht man, daß die Zahl der
und dem Neuron k wird im Gehirn deren koppeln, so bräuchten wir etwa Freiheitsgradegegenüberdem allgemeidurch die Synapsemit der StärkeT11an- 6x 1010Verbindungenund etwa 60 Gi- nen Systemvon Gleichung (2) geringer
gegeben.In der Synapsenstärkesteckt gabyte Speicherkapazität.Das n2-Pro- ist: Das Punktbild hängt nicht in allgeder Lerninhalt. Wir haben im Gehirn blem verhindert auch die Realisierung meiner Form von den Variablen xr (Obetwa 1010Neuronen.Jedesist mit etwa von großen neuronalen Netzen auf ei- jektebene) und x1 (Bildebene) ab, son104anderen Neuronen verbunden. Was nem ebenen Chip, weil es topologisch dern nur von der Differenz x1-x1.Die nl
wir im Leben gelernt haben, steckt also gar nicht möglich ist, so viele Leitungen unabhängigen Matrixelemente Tkt aus
nach dieser Betrachtung in unseren in der Ebene unterzubringen(unser Ge- Gleichung 1 entarten danach zu T1-1.
etwa 10raSynapsen.
hirn ist ja ein dreidimensionales Ge- Für gleiche Differenzen kl sind die
Zurück zu den rückgekoppelten Bil- bilde).
Kopplungskoeff-rzienten gleich. Das
heißt, es gibt jeut anstelle von n2 Elementen im allgemeinen System nur
Bild 8. Symmetrienoch n verschiedeneElemente. Wir hab r e c h u n g .l m d i g i ben uns also die Möglichkeit der optitalen Exoeriment
schen Realisierung eines Faltungsnetzbleibt die Symmetrie erhalten(linke
werks mit einer Reduktion der FreiS p a l t e ) .U m d a s
heitsgradeerkauft.
Verhaltenim kontiDaß ein solches reduzienes System
nuierlichenSystem
trotzdem
assoziative Bildrestauration
anzunähern,genügt
=
zeigen kann, belegt Bild 10. Wir haben
eine sehr kleine
unser Rückkopplungssystem
mit einem
asymmetrische
Verschiebung
Punktbild ausgerüstet,das das zu ler(Symmetriebrenende Objekt codiert. Die Suche nach
chung) der Rechtso einem Punktbild ist sehr schwierie.
ecke (rechte
Überhaupt ist die Frage, welche LernräSpalte).
gel die Synapsenstärkeoptimal einstellt.
Gegenstandfieberhafter Forschung. In
den Kopplungskoeffrzienten unseres
Punktbildes steckt also der Lerninhalt,
hier der BuchstabeO. Wenn wir in das
System ein {D (obere Bildreihe links)
einspeisen,kommt das gleiche O am
Ausgang heraus, das heißt. der Buchstabeist ein stabilerFixpunkt des nichtlinearen Systems oder des optischen
neuronalen Faltungsnetzwerks. Wenn
E
16
TECHiISCHERtilGCluU
27 tS}
Titelbeitrag
gegenüber dem gelernten Objekt
schobenist (Bild t0).
Absrhied
Yomlinearenllenken
Bild 9. AssoziativeRestaurationeines Fixpunktesnach Störung. Oben links: stabiles Bild
nach 2000Umläufen.Oben rechts: das stabile Bild wird gestört. Unten links: nach weiteren vier Umläufen.Unten rechts: vollständigeRestaurationnach weiteren 30 Umläufen.
Bild lO. AssoziativeRekonstruktiondes gestörtenBuchstabensO. Von oben links nach unnach dem 2. Umlauf, nach dem 10. Umlauf,
tenrechts: gelerntesObiekt, gestörtesÖUiet<t,
nach dem 30. Umlauf, nach dem 50. Umlauf.
''vir ein gestörtesBild eingeben(obere
Reihe.mittleresBild), dann reagiertdas
System autoassoziativ: Nach etwa 50
Iteradonen ist das gelernte Bild restauriert (unten rechts).
Durch die beschriebeneFaltung haben
wir zwar eine große Zahl von Freiheitsgraden vedoren, aber wir haben dafür
-!(Hil|:iof
n ilD:r0{Al, 27/90
einige sehr nützliche Eigenschaftengew o n n e n : W i r k ö n n e ng r o ß e B i l d e r o P tisch oder digital mit Hilfe der Fouriertransformation schnell assoziativrekonstruieren. Eine zusätzlich vorteilhafte
Eigenschaft speziell des Faltungsnetzwerks ist die, daß die Assoziation auch
funktioniert, wenn das Eingangssignal
Es ist zu erwarten, daß die Auffassung
und die Erfahrung der Welt als komplexes nichtlineares dynamisches System
neue Einsichten über das Funktionieren
für uns wichtiger Systeme,zum Beispiel
über ökosysteme. Wirtschaftssysteme,
über das menschlicheGehirn usw., bringen wird. Diese Systeme,das ist schon
jetzt ganz klar, sind so kompliziert und
empfindlich, daß auch kleinste, noch so
unscheinbare Eingriffe zu großen Veränderungen und Wirkungen führen
können.
Die Erkenntnisseder nichtlinearen Dynamik können auch dazu führen, daß
höhere Gehirnleistungen,wie die Assoziation, die Abstraktion und das Lernen
am Beispiel,durch künstliche neuronale
Netze technisch (re)produziert werden
können.
Die Optik kann zum tieferen Verständnis nichtlinearer dynamischer Systeme
beitragen,weil enorme Datenmengenin
leicht interpretierbarer Form vorliegen
und optische Bildverarbeitung manchmal schnell und einfach möglich ist. Für
die Realisation großer Netzwerke hat
die Optik den Vorteil, daß Lichtbündel
sich ohne gegenseitigeStörung im dreidimensionalen Raum ausbreiten können und damit die Herstellung einer
großen Zahl von Verbindungen zwischen Neuronen mögiich ist [9].
Unabhängig von jeder technischenund
wirtschaftlichen Anwendbarkeit der
nichtlinearen Dynamik ist es wichtig,
daß wir uns konsequent vom linearen
Denken lösen: im Alltag, in der Wissenschaft und besondersin der Politik. Der
britische Biologe HuoeNe hat dafür
eine bemerkenswerteFormulierung gefunden:
<Die Welt ist nicht nur komplizierter, als
wir sie uns vorstellen,sie ist auch kompli
zierter, als wir sie uns vorstellenkönnen.>
@@
Liter.tur
I May R. M.: Nature London 761,459 (1976)
2 Schuster H.-G.: Deterministic Chaos, PhysikV e r l a g ,W e i n h e i m( 1 9 8 8 )
der Natur, Deut3 Haken H.: Ertblgsgeheimnisse
sche Verlagsanstalt,Sruttgart(1981)
4 Meinhard H.: Models of Biological Pattern For, ' Y (1982)
m a t i o n .A c a d e m i cP r e s sN
5 Seitz P.: TechnischeRundschau36. 75 (1988)
6 L i p p m a n nR . : I E E E A S S PM A G . A p r i l 1 9 8 75 . 4
7 Häusler G., SeckmeyerC., WeissT.: Appl. Opt.
24, 4656(1986)
8 Häusler C., Lange E.: erscheint in Appl. Opt.
( I 990)
9 Abu-Mostafa Y. S.. Psaltis D.: Spektrum der
Wissenschaft.Mai 1987.5' 54
t7
Herunterladen