Jahrbuch 2015/2016 | Singer, W olf; Lazar, Andreea | Die Großhirnrinde, ein hochdimensionales, dynamisches System Die Großhirnrinde, ein hochdimensionales, dynamisches System The cerebral cortex, a high dimensional, dynamic system Singer, W olf; Lazar, Andreea Assoziierte Einrichtung - Ernst Strüngmann Institute (ESI) for Neuroscience, Frankfurt am Main Korrespondierender Autor E-Mail: w [email protected] Zusammenfassung Theoretische Überlegungen und experimentelle Befunde legen nahe, dass in der Großhirnrinde ein Prinzip der Informationskodierung und Verarbeitung verw irklicht ist, das bisher w enig erforscht w urde. Es basiert auf der hohen Dimensionalität dynamischer Zustände von rekurrierend gekoppelten Netzw erken. Summary Theoretical considerations and experimental findings suggest that the cerebral cortex uses a principle for the encoding and processing of information that is still little explored. It is based on the high dimensionality of dynamic states of recurrent netw orks. Wahrnehmen beruht auf Rekonstruktion Damit Sinnessignale Wahrnehmungen w erden können, müssen sie unter Hinzuziehung von Vorw issen, das im Gehirn gespeichert ist, geordnet und interpretiert w erden. Ein erheblicher Anteil dieser Rekonstruktionen w ird von der Großhirnrinde erbracht. W ie einzigartig diese Leistung ist, w ird deutlich, w enn man bedenkt, dass zum Beispiel auf der Netzhaut des Auges durch den optischen Apparat lediglich eine zw eidimensionale, kontinuierliche Verteilung elektromagnetischer Wellen erzeugt w ird, die sich in ihrer Intensität und Wellenlänge unterscheiden. Aus dieser Information, die über die Nervenzellen in der Netzhaut in neuronale Erregungen verw andelt und an die Hirnrinde w eitergeleitet w ird, erzeugt das Gehirn dann das, w as w ir w ahrnehmen: dreidimensionale Objekte, die voneinander und dem Hintergrund deutlich abgegrenzt und damit identifizierbar sind. Es ist dies eine Leistung, die selbst von den besten derzeit verfügbaren technischen Mustererkennungssystemen nur unter eingeschränkten und relativ stereotypen Bedingungen erbracht w erden kann. Unser Gehirn löst diese Aufgabe mühelos und in Bruchteilen einer Sekunde. Eine notw endige Voraussetzung für diesen Verarbeitungsschritt, der als Szenen- oder Bildsegmentierung benannt w ird, ist der Vergleich der einlaufenden Sinnessignale mit gespeicherten Modellen über die Struktur der Sehw elt. Das Gehirn w eiß bereits, w ie Objekte beschaffen sind und nutzt dieses Vorw issen, um die verfügbaren Sinnessignale zu ordnen und miteinander so zu verbinden, dass voneinander abgegrenzte Gestalten erkennbar w erden. © 2016 Max-Planck-Gesellschaft Schon in den Dreißigerjahren w w w .mpg.de des letzten Jahrhunderts haben 1/7 Jahrbuch 2015/2016 | Singer, W olf; Lazar, Andreea | Die Großhirnrinde, ein hochdimensionales, dynamisches System Gestaltpsychologen w ie Wertheimer, Koffka und Köhler, die unter anderem in Frankfurt tätig w aren, diejenigen Gestaltprinzipien herausgearbeitet, nach denen unsere Gehirne Objekte voneinander abgrenzen. So zeichnet sich ein Objekt dadurch aus, dass es eine kontinuierliche, geschlossene Umrandung aufw eist, dass sich alle seine Konturen mit der gleichen Geschw indigkeit in die gleiche Richtung bew egen, w enn sich das Objekt bew egt, dass seine Bestandteile gew isse Merkmale gemein haben, beispielsw eise miteinander verbunden zu sein, oder die gleiche Farbe oder Textur zu haben. Viele psychophysische Experimente verw eisen darauf, dass diese Regeln im Gehirn abgespeichert sind und über alle Spezies hinw eg große Ähnlichkeiten aufw eisen. Letzteres ist nicht verw underlich, da w ir alle in der gleichen Welt leben, mit den gleichen Wahrnehmungsproblemen konfrontiert sind und sich im Laufe der Evolution der Arten eine optimale Strategie herausgebildet hat. Das W issen über Gestaltprinzipien ist zum großen Teil angeboren und in der Verschaltung der Großhirnrindenareale niedergelegt, die sich mit der Verarbeitung von Sinnessignalen befassen. Uns ist nicht bew usst, dass w ir über diese Regeln verfügen, da sie über evolutionäre Ausleseprozesse optimiert, in den Genen gespeichert und in der Architektur unseres Nervensystems niedergelegt w urden. Ein Teil der Gestaltkriterien w ird jedoch im Laufe der frühen Hirnentw icklung durch Erfahrung erlernt und ebenfalls durch strukturelle Veränderungen in den entsprechenden Neuronennetzen gespeichert und steht dann genauso w ie das angeborene Vorw issen für die Interpretation von Sinnessignalen zur Verfügung. Eine zentrale und noch w eitestgehend ungelöste Frage ist nun, w ie die Verrechnung der eingehenden Sinnessignale mit dem gespeicherten Vorw issen erfolgt. Einige Randbedingungen, die im Folgenden erläutert w erden, lassen erahnen, dass es sich hier um einen ganz außergew öhnlichen Vorgang handeln muss, für den es keine triviale Erklärung geben kann. Ein geheimnisvolles Speichermedium Zur Veranschaulichung des Problems muss in Erinnerung gerufen w erden, dass Menschen, aber das gilt auch für die meisten anderen Tierarten mit hoch differenzierten Sehsystemen, etw a viermal in der Sekunde die Blickrichtung w echseln, um die Sehw elt zu erkunden oder Bilder auf ihren Gehalt hin abzutasten. Dies bedeutet, dass die Vergleichsoperationen zw ischen einlaufenden Sinnessignalen und dem gespeicherten Vorw issen in etw a 200 Millisekunden erfolgen muss. Wenn der Segmentierungsprozess ein vertrautes Objekt isoliert, ist auch der Erkennungsprozess innerhalb von w enigen hundert Millisekunden abgeschlossen. Dies bedeutet, dass auch das gesamte im Gehirn gespeicherte W issen über Objekte, denen man im Laufe des Lebens begegnet ist, in einem Speicher abgelegt sein muss, der es erlaubt, auf beliebige Inhalte innerhalb von Bruchteilen einer Sekunde zuzugreifen. In den heute für die Musterverarbeitung verw endeten Computersystemen ist für jeden gespeicherten Inhalt ein adressierbarer Speicherplatz reserviert und die Suche nach dem gew ünschten, für den Abgleich erforderlichen Speicherinhalt erfolgt im Wesentlichen seriell. Diese einfache Strategie ist hoch effizient, w eil Elektronenrechner mit sehr hoher Taktfrequenz arbeiten können und deshalb die Suchzeiten erträglich sind. Im Gehirn kann eine solche Strategie keinesfalls realisiert sein, da die Zeitkonstanten, mit denen Neuronen arbeiten, um viele Größenordnungen länger sind als die von Transistoren. Es muss also ein anderes Prinzip verw irklicht sein. Es muss ein Speicherplatz konfiguriert w erden, in dem eine unvorstellbare Zahl von Inhalten so gestapelt w erden kann, dass auf sie ein parallel strukturierter Suchprozess angew andt w erden kann, sodass die Zugriffszeit nur unw esentlich von der Lage des zu suchenden Inhaltes abhängt. Bei einer seriellen Anordnung w ie in den Speichern von Elektronenrechnern dauert die Suche nach Inhalten am Ende der Liste naturgemäß länger als für solche, die am Anfang stehen. Dies scheint bei dem im Gehirn realisierten Speicherprozess nicht der Fall zu sein. Es muss also ein Raum geschaffen w erden, der die Überlagerung einer © 2016 Max-Planck-Gesellschaft w w w .mpg.de 2/7 Jahrbuch 2015/2016 | Singer, W olf; Lazar, Andreea | Die Großhirnrinde, ein hochdimensionales, dynamisches System sehr großen Zahl von Inhalten erlaubt und es ist leicht zu sehen, dass ein solcher Raum eine sehr hohe Dimensionalität aufw eisen muss. Der dreidimensionale kartesianische Raum, in diesem Fall also eine anatomisch segregierte Anordnung von Inhalten, scheidet aus. Hochdimensionale Räume können jedoch erschlossen w erden, w enn die Zeit als Kodierungsdimension hinzugezogen w ird und der Raum durch distinkte Zustände eines dynamischen Systems definiert w ird. In diesem Fall muss dafür gesorgt w erden, ein dynamisches System zu erzeugen, dass eine sehr, sehr große Zahl unterschiedlicher Zustände annehmen kann. Jedem dieser Zustände könnte dann ein ganz bestimmter Inhalt zugeordnet w erden. Es muss dann lediglich eine Möglichkeit gefunden w erden, dass dieses System beim Eintreffen der Suchsignale, in unserem Fall der Signale von Sinnesorganen, sehr schnell in den Zustand einschw ingt, der einem gespeicherten Inhalt entspricht. Die Arbeitshypothese, die w ir in Frankfurt seit geraumer Zeit verfolgen, geht davon aus, dass die Großhirnrinde als ein dynamisches System verstanden w erden kann, das die geforderten Eigenschaften aufw eist. Eines der dominierenden Verschaltungsprinzipien ist, dass Neuronengruppen in der Großhirnrinde reziprok miteinander verbunden sind, sich also gegenseitig beeinflussen können. Wegen der riesigen Zahl von Neuronen, die in einem bestimmten Hirnrindenareal miteinander w echselw irken können, entsteht eine ungeheuer komplexe, hochdimensionale Dynamik, die den erforderlichen Kodierungsraum bereitstellen könnte. Hinzukommt, und das ist eine Entdeckung, die w ir in Frankfurt vor mehr als zw anzig Jahren machten, dass lokale Gruppen von Neuronen – die Knoten im Netzw erk – w ie Oszillatoren schw ingen können (Abb. 1). Dies erhöht noch einmal mehr die Komplexität der möglichen Dynamik, da auch der Phasenraum zur Kodierung mit genutzt w erden kann. A bb. 1: (A ) Ein k la ssische s ne urona le s Ne tz, wie e s in vie le n Muste re rk e nnungssyste m e n ve rwe nde t wird. Einga ngssigna le we rde n a uf e ine Schicht von Ne urone n ve rte ilt und durch dive rge nte Ve rscha ltunge n in Zie lne urone n re k om binie rt. Da durch e ntste ht e in spe zifische s Ak tivitä tsm uste r, da s da nn von Ausga ngsne urone n k la ssifizie rt wird. Die Ve rbindunge n von de r Zwische nschicht a uf die Ausga ngsne urone we rde n durch e ine n m a schine lle n Le rnvorga ng so ge wichte t, da ss a uf e in ge ge be ne s Muste r in de r Zwische nschicht nur e in be stim m te s Ne uron in de r Ausga ngsschicht e rre gt wird. (B) Die Zwische nschicht wurde durch e in re k urrie re nd ge k oppe lte s Ne tzwe rk e rse tzt. Die se s e ntwick e lt hoch k om ple x e , dyna m ische Zustä nde , die je doch na ch wie vor für die Einga ngsm uste r spe zifisch sind. Die Ak tivitä t e inige r die se r Ne tzwe rk k note n wird wie de rum a uf Ausga ngsne urone ve rte ilt, die da nn e be nfa lls übe r e ine n Le rnvorga ng zu Kla ssifik a tore n für die k om ple x e n Muste r a usge bilde t we rde n. © Ernst-Strüngm a nn Institut/Singe r, La za r, Be nza id Falls die Großhirnrinde tatsächlich hochdimensionale Dynamik nutzt, um den Abgleich von einlaufenden Signalen mit gespeicherten Inhalten vorzunehmen, dann müssen eine Reihe von überprüfbaren Voraussagen zutreffen. Bei der Formulierung dieser Voraussagen standen die Ergebnisse von theoretischen Arbeiten und Simulationsstudien über künstliche neuronale Netzw erke Pate. © 2016 Max-Planck-Gesellschaft w w w .mpg.de 3/7 Jahrbuch 2015/2016 | Singer, W olf; Lazar, Andreea | Die Großhirnrinde, ein hochdimensionales, dynamisches System Die Eigenschaften solcher Netzw erke w erden seit etw a einer Dekade untersucht, w eil sie w egen ihrer hochdimensionalen Dynamik bestimmte Vorteile für die maschinelle Klassifizierung von raumzeitlich strukturierten Mustern aufw eisen. Diese informationsverarbeitende Strategie w urde unter dem Namen reservoir computing bekannt. Wenn raumzeitlich strukturierte Eingangssignale an einige Knoten solcher Netzw erke verteilt w erden, findet man, dass aufgrund der Wechselw irkungsdynamik die Information über den verw endeten Reiz eine Weile gespeichert bleibt und dass sich die Aktivitätsmuster von sequenziell dargebotenen Reizen überlagern, sodass zu einem bestimmten Zeitpunkt die Informationen über mehrere Reize gleichzeitig verfügbar ist. Und schließlich erw eist sich, dass solche Systeme w egen der hohen Dimensionalität ihres Zustandsraumes die Trennung und Klassifizierung von Eingangsmustern sehr erleichtern. Bestätigte Voraussagen und Überraschungen Ein Schw erpunkt unserer Arbeiten lag in den vergangenen Jahren darauf, die oben aufgeführten Voraussagen zu testen. Hierzu ist es erforderlich, die Aktivität einer großen Zahl (>50) von Neuronen (Knoten) der Großhirnrinde gleichzeitig zu erfassen, Sinnesreize darzubieten, die resultierende Netzw erkdynamik zu analysieren und mit Hilfe von Methoden aus dem Bereich des maschinellen Lernens dahingehend zu prüfen, ob reizspezifische Informationen in der raumzeitlichen Verteilung der neuronalen Aktivitätsmuster zu finden sind. Um diese Messungen durchführen zu können, w erden Tieren in Vollnarkose haarfeine Elektroden in die Großhirnrinde implantiert, über die später die Aktivität der Nervenzellen registriert w erden kann. Die hierbei eingesetzten Verfahren ähneln im Detail jenen, die bei Patienten angew andt w erden, die aus diagnostischen Gründen Elektroden implantiert bekommen oder um Hirnstrukturen zu reizen, w ie das bei der Therapie der Parkinsonschen Erkrankung routinemäßig erfolgt. Die Messungen selbst sind schmerzfrei und bedeuten für die Tiere keine w esentliche Einschränkung, da das Gehirn schmerzunempfindlich ist und die sehr feinen und flexiblen Elektroden bei sachgemäßer Implantation keine Schäden verursachen. Mit Hilfe solcher Untersuchungen konnten w ir im Laufe der letzten Jahre die oben aufgeführten Voraussagen bestätigen und die eingangs formulierte Hypothese stützen (Abb. 2). A bb. 2: Hie r wurde übe rprüft, ob sich a us de r Ak tivitä t von 60 zufä llig a usge wä hlte n Ne urone n de r Se hrinde e ine r Ka tze rück schlie ße n lä sst, we lche r R e iz (A ode r D) zu Be ginn e ine r Se rie von R e ize n (A/D, B, C ) da rge bote n wurde . R e chte O rdina te : P roze ntsa tz de r richtige n Kla ssifizie runge n (durchge zoge ne Linie ); Link e O rdina te : Ge m itte lte Ak tivitä t de r Ne urone n (ge striche lte Linie ); Abszisse : Ze itve rla uf de r R e izda rbie tung. Etwa 100 Millise k unde n na ch Da rbie tung de s e rste n R e ize s lä sst sich m it fa st 100%ige r Siche rhe it a us de m Erre gungsm uste r de r Ne urone n fe stste lle n, we lche s de r e rste R e iz (A ode r D) wa r, und die se Inform a tion ist a uch na ch Da rbie tung de s zwe ite n R e ize s (B) noch fa st vollstä ndig e rha lte n. Erst na ch de m dritte n R e iz (C ) sink t die Kla ssifizie rba rk e it a uf da s Zufa llsnive a u a b (gra ue s Ba nd). © Ernst-Strüngm a nn Institut/Singe r, La za r, Be nza id © 2016 Max-Planck-Gesellschaft w w w .mpg.de 4/7 Jahrbuch 2015/2016 | Singer, W olf; Lazar, Andreea | Die Großhirnrinde, ein hochdimensionales, dynamisches System W ie so oft in der Grundlagenforschung zeigten die Daten aber auch vollkommen Unerw artetes. Es stellte sich heraus, dass es im Verlauf der Untersuchungen zunehmend leichter w urde, die von den dargebotenen Reizen erzeugten Aktivitätsmuster zu klassifizieren und den Reizen zuzuordnen (Abb. 3). Dies konnte nur bedeuten, dass das kortikale Netzw erk bestimmte, reizspezifische Merkmalskombinationen gelernt und dem Fundus von Vorw issen hinzugefügt hat. Offenbar bew irkte die w iederholte Darbietung der Reizmuster eine Veränderung der Netzw erkeigenschaften, die ihrerseits dafür sorgten, dass die entstehenden hochdimensionalen Muster im Netzw erk w eniger überlappten und deshalb besser voneinander unterscheidbar w urden. Diese Vermutung erhält ihre direkte Bestätigung durch eine mathematische Analyse der respektiven Muster. Es zeigte sich tatsächlich, dass sich die durch verschiedene Reize erzeugten Muster immer w eiter voneinander entfernten, je öfter die Reize dargeboten w urden. A bb. 3: Ve rgle ich de r Kla ssifizie rungsle istung zwische n frühe n (dunk le Kurve ) und spä te n (he lle Kurve ) P ha se n de s Ex pe rim e nte s. (#1-#3): Ve rschie de ne Tie re . Die Kla ssifizie rungsle istung ve rbe sse rt sich, na chde m die R e ize öfte r da rge bote n wurde n. © Ernst-Strüngm a nn Institut/Singe r, La za r, Be nza id Als Mechanismus für diese lernbedingten Veränderungen vermuten w ir eine aktivitätsabhängige Veränderung der Effizienz der reziproken Verbindungen zw ischen den Knoten. Hinw eise für solche erfahrungsabhängigen Veränderungen der synaptischen Effizienz eben dieser Verbindungen hatten w ir bereits vor Jahren in Experimenten erhalten, bei denen die Ausw irkung von Umw eltreizen auf die Ausreifung der Großhirnrinde untersucht w urde. Einen direkten und komplementären Hinw eis für das Vorliegen eines solchen Mechanismus lieferte schließlich die Beobachtung, dass die neuronalen Netzw erke auch spontan und ohne jede Reizung die Aktivitätsmuster erzeugen, die von oft gesehenen Reizen hervorgerufen w erden. Obgleich w eder antizipiert noch gezielt gesucht, bilden diese zusätzlichen Befunde eine starke Stütze für die Hypothese, dass die hochdimensionale Dynamik kortikaler Netzw erke tatsächlich genutzt w ird, um sensorische Signale mit gespeicherten Vorw issen zu vergleichen und im Falle der Stimmigkeit zu klassifizieren. Plausibilitätskontrollen durch Simulationen Jetzt stand es an zu klären, ob reizspezifische Veränderungen in der Stärke der reziproken Koppelungsverbindungen zw ischen den Knoten tatsächlich eine Verbesserung der Klassifizierungsleistungen solcher Netzw erke mit sich bringen. Hierzu haben Andreea Lazar und Jochen Triesch auf konventionellen Rechnern rekurrent gekoppelte Netzw erke simuliert und die Koppelverbindungen mit adaptiven Synapsen ausgestattet, die ihre Effizienz in Abhängigkeit von der Struktur der auftretenden Aktivierungsmuster verändern können (Abb. 4). © 2016 Max-Planck-Gesellschaft w w w .mpg.de 5/7 Jahrbuch 2015/2016 | Singer, W olf; Lazar, Andreea | Die Großhirnrinde, ein hochdimensionales, dynamisches System A bb. 4: Sche m a tische Da rste llung de s Effe k te s wie de rholte r R e izda rbie tung in e ine m sim ulie rte n Ne tzwe rk . Die ursprünglich gle ich e ffizie nte n Ve rbindunge n zwische n de n Ne urone n im Ne tzwe rk we rde n e ntspre che nd de r ve rschie de ne n R e ize ve rstä rk t (dick e Ve rbindunge n) ode r a bge schwä cht (dünne ode r fe hle nde Ve rbindunge n), wodurch die von ve rschie de ne n R e ize n induzie rte n, dyna m ische n Muste r sich zune hm e nd vone ina nde r unte rsche ide n und be sse r k la ssifizie rba r we rde n. © Ernst-Strüngm a nn Institut/Singe r, La za r, Be nza id Diese Modifikationen erfolgten nach Regeln, die bereits bei Untersuchungen von Lernvorgängen an realen neuronalen Strukturen erarbeitet w orden w aren. Die simulierten Netzw erke mit adaptiven Verbindungen w urden daraufhin mit unterschiedlichen Reizsequenzen aktiviert und es zeigte sich, dass sich die Klassifizierungsleistung dieser sich selbst adaptierenden Netzw erke mit w iederholter Reizdarbietung, man könnte auch sagen mit zunehmender Erfahrung, deutlich verbesserte und w eit über das hinaus ging, w as konventionelle rekurrierende Netzw erke zu leisten vermögen. Diese Kongruenz von experimentellen und simulierten Daten macht es in unseren Augen sehr w ahrscheinlich, dass in der Großhirnrinde ein Kodierungsprinzip verw irklicht ist, das sich deutlich von allen bisher entw eder postulierten oder in künstlichen Systemen realisierten Musterverarbeitungsprozessen unterscheidet. Sollte sich diese Vermutung in zukünftigen Untersuchungen bestätigen, w ären w ir einen Schritt w eiter im Verständnis der nach w ie vor rätselhaften Funktion der Großhirnrinde. Vielleicht, so die Hoffnung, w ird uns das helfen, die ebenfalls rätselhaften Mechanismen besser zu verstehen, die jenen psychischen Erkrankungen zu Grunde liegen, die auf Störungen von Großhirnrindenfunktionen beruhen. Mit Sicherheit w ird es möglich sein, die gew onnenen Erkenntnisse für die Entw icklung völlig neuartiger informationsverarbeitender Systeme zu nutzen. Literaturhinweise [1] Lazar, A.; Pipa, G., Triesch, J. SORN: a self-organizing recurrent neural network Frontiers in Computational Neuroscience 3:23 (2009) [2] Nikolic, D.; Häusler, S.; Singer, W.; Maass, W. Distributed fading memory for stimulus properties in the primary visual cortex PLOS Biology 7: e1000260 (2009) [3] Singer, W. Cortical dynamics revisited Trends in Cognitive Sciences 17: 616-626 (2013) © 2016 Max-Planck-Gesellschaft w w w .mpg.de 6/7 Jahrbuch 2015/2016 | Singer, W olf; Lazar, Andreea | Die Großhirnrinde, ein hochdimensionales, dynamisches System © 2016 Max-Planck-Gesellschaft w w w .mpg.de 7/7