Gedächtnis und synaptische Plastizität: Modelle und Experimente WP 2-13 powered by Prof. Dr. W. Senn written by Alvin Chesham, Katrin Feller, Pascal Haefeli, Mira Hintermann, Lenka Rados, Christoph Saner, Eva Visth and Pascal Jerney Gehirnsysteme für Funktion des Deklarativen Gedächtnisses Beobachtung: Neuronen antworten sowohl auf die Musterfarbe wähKortizes in unmittelbarer Nähe des Hippocampus sind für das Derend der Präsentation als auch danach. klarative Gedächtnis noch wichtiger als der Hippocampus selbst Kurzzeitgedächtnis: dient der temporären Speicherung von Infor- Erkenntnis: Neuronale Aktivität des Frontalkortex während Verzögemation. Wird weiter unterteilt in: rungszeit besonders wichtig, um Information auch bei Ablenkung im ArIm Langzeitgedächtnis unterscheidet man: Unmittelbares Gedächtnis: beinhaltet diejenigen Informatiobeitsgedächtnis zu behalten. Eine Pause unterbricht zwar die Aktivität der episodisches oder autobiographisches Gedächtnis speichert nen, auf die sich im Moment die Aufmerksamkeit richtet. Limitiertes Neuronen im visuellen Areal, nicht aber diejenige im Frontalkortex chronologisch geordnet alle persönlichen Erlebnisse, verbunden mit Fassungsvermögen mit Dauer von weniger als 30 sec. Durch aktives starken Emotionen Wiederholen gelangt die Information in das Arbeitsgedächtnis. Figur 1: Neuronale Aktivität und Arbeitsgedächtnis das Wissenssystem, welches Welt- und Faktenwissen umfasst Arbeitsgedächtnis: umfasst die zeitliche Ausdehnung des unprozedurales Gedächtnis, mit Mustern von Handlungs- und mittelbaren Gedächtnisses. Besteht aus einer Vielzahl temporärer Langzeitgedächtnis: Bewegungsabläufen Kapazitäten. Damit Objekt im Langzeitgedächtein „Priming“, welches Sinneseindrücke festhält und bei Reizen Unmittelbares Gedächtnis und Arbeitsgedächtnis arbeiten stets parallel, nis bleibt, ist der mediale Tempogewisse Erinnerungen hervorruft machen zusammen die temporäre Gedächtniskapazität aus. rallappen entscheidend, allerdings nicht allein: Langzeiterinnerung durch Figur 2: Stärkere synaptische Verbindungen nach InformationsWie organisiert das Gehirn die vorübergehenden GedächtnisNeuronengruppen im jeweiligen sen- speicherung im Langzeitgedächtnis Funktionen? sorischen Feld durch Verstärkung der Verbindungen (synaptische Neurophysiologische Studien an Affen testen Zusammenhang zwischen Stärke) zwischen den Neuronen. neuronaler Aktivität und Arbeitsgedächtnis: Studien an hirnverletzten Patienten Affe muss sich an Musterfarbe erinnern. Beispiel: man zeigt ihm und an Affen zeigen, dass allgemein bilateraler Schaden des media„rot“, 16 Sekunden Pause (Verzögerungszeit); danach erscheinen len Temporallappens das Gedächtnis behindert: rot und grün → Affe erinnert sich und wählt rot Hippocampus ist Teil des deklarativen Gedächtnisses Während Experiment Registrierung der neuronalen Aktivität Amygdala hat keine Funktion für Deklaratives Gedächtnis, ist aim visuellen Areal (TE) und im Frontalkortex ber wichtig für emotionales Gedächtnis Gehirn vs. Computer heit und des Gewichts der Verbindung zwischen den beiden Einheiten. Das Gewicht entspricht der synaptischen Stärke (Amplitude des Exzitatorischen Postsynaptischen Potential EPSP) zwischen zwei Neuronen. Ein McCulloch-Pitts-Neuron kann jede Berechnung durchführen, zu der ein Mikroprozessor fähig ist, jedoch nicht so schnell. Durch die hohe Vernetzung der Einheiten werden einzelne Fehler irrelevant. Dies trifft auch auf das Gehirn zu. Das Hirn ist dem Computer in vielen Bereichen überlegen. So: - ist es robust und fehlertolerant. - tägliche Verluste von Nervenzellen haben keine signifikanten Auswirkungen auf die Leistungsfähigkeit - ist es flexibel. Es kann sich durch Lernen einer neuen Umgebung schnell anpassen; es muss nicht programmiert werden. Echtes Neuron vs. Modell - kann es mit diffusen, probabilistischen und inkonsistenten In- Echte Neuronen antworten oft konformationen umgehen. tinuierlich auf die eingegangenen - arbeitet es parallel. Reize, welche fortlaufend und asyn- ist es klein, kompakt und verbraucht wenig Energie. chron eintreffen. Nur simple arithmetische Aufgaben löst der Computer schneller als das - Sie sind zu logischen Operationen menschliche Gehirn. (and, or, not, xor etc.) innerhalb des dendritischen Baumes fähig, Das McCulloch-Pitts-Neuron wogegen das McCulloch-PittsNeuron solche Operationen nur als ganze Einheit erledigen kann. Das McCulloch-Pitts-Neuron ist ein einfaches Modell eines Neurons als - Der Ausgang besteht nicht aus einem einzigen Signal, sondern binäre Einheit. Es berechnet die Summe aller Eingänge und „entscheidet“ aus einer Sequenz von Aktionspotentialen. darüber, ob es ein Signal weitergibt oder nicht. Das Signal kann entweder - Der limitierende Faktor für ein neuronales Netzwerk ist der Raum, hemmend oder stimulierend sein. der für die Verbindungen benötigt wird. Die Eingänge sind das Produkt aus Zustand der vorgeschalteten Ein- Durch die selektive Aktivierung von stark verbundenen Nervenzellen Langzeitpotenzierung (LTP) - Der Mechanismus des Langzeitge(Hebb‘schen Zellverbänden) kann der entsprechende Gedächtnisinhalt dächtnisses abgerufen werden. Die Rolle der NMDA-Rezeptoren bei der Induktion von LTP: Die molekularen Mechanismen einfacher Assoziationsbildung bestehen Links: Während der normain einer Verstärkung der synaptischen Verbindungen zwischen denjenigen len synaptischen Transmission sensorischen Neuronen, die Reize an die efferenten Neuronen leiten. Dafeuert die Präsynapse mit einer bei löst die Gleichzeitigkeit der beiden ankommenden Erregungen eine tiefen Frequenz, dabei bleiben Kaskade intrazellulärer Vorgänge aus, die zu verstärkter Ca2+Konzentration und erhöhter Transmitterausschüttung führen. Für die Üdie NMDA Kanäle von den Mg2+ berführung der einmal gelernten Information ins Langzeitgedächtnis wird Ionen blockiert. Na+ und K+ Iodie Langzeitpotenzierung (LTP) im Hippocampus und Kortex verantnen können jedoch über die wortlich gemacht. Gedächtnis ist demNon-NMDA Kanäle in die nach in den synaptischen Verbindungen Postsynapse eintreten und so abgelegt. Dabei wird am NMDA-Rezeptor eine einfache synaptische der postsynaptischen Membran der am Transmission auslösen. Lernen beteiligten Neuronen die LeitfäRechts: Ein LTP ist induziert, wenn die Präsynapse mit einer hohigkeit zwischen prä- und postsynaptihen Frequenz (Tetanus) aktiviert wird. So wird die postsynaptische scher Membran erhöht. Diese erhöhte ErMembran genug stark depolarisiert, um die NMDA-Kanäle zu debloregbarkeit kann über Minuten bis Stunckieren, damit das Ca2+ einfliessen kann. Experiment am Nagetiergehirn: den nach Darbietung von Lernmaterial bestehen bleiben. Die abschliesEine einzige kurze Folge von elektrischen Stimuli (1s 100Hz) an sende Fixierung der Information im Langzeitgedächtnis erfolgt durch Ander Präsynapse erhöht die synaptischen Stärke der Postsynapse für regung oder Hemmung der vom genetischen Apparat gesteuerten Synüber eine Stunde (= LTP). thesen von Kanalproteinen der Zellmembran. Simple Perceptron Das Perceptron ist ein einfaches Neuronenmodell. Die Neuronenschichten summieren und gewichten Inputs und generieren einen Output, wobei der letzte Output das Resultat der gesamten Netzwerkberechnung darstellt. Im Weiteren betrachten wir ein einfaches Perceptron, bestehend aus zwei Schichten, einer Input- und einer Ausgangsschicht. Bei diesem Modell werden innerhalb dieser Schichten Informationen nur unidirektional weitergeleitet. ξ1 ξ2 Oi Resultat Peter hat keine Lust auf Ausgang. Petra auch nicht. Sie schauen -1 -1 -1 fern. Peter ist krank (Pneumothorax). Petra hat ein Date. Die Mutter -1 +1 -1 lässt sich nicht erweichen. Peter will an eine WG-Party. Petra will Sissy gucken. Wiederum +1 -1 -1 bleiben beide zu Hause. Peter und Petra gehen ans Medifest. Mutter kann nicht Nein sa+1 +1 +1 gen. ξ1+2 steht für den Wunsch von Peter bzw. Petra auszugehen (+1) oder zu Hause zu bleiben (-1). Die Gewichtung (w) ist in diesem Beispiel soWir verwenden die bereits oben genannte Formel, jedoch vereinfacht, wohl für Peter wie auch für Petra gleich, da die Mutter beide gleich gerne um logische Operationen durchzuführen. hat. Für dieses alltägliche Problem reicht unser ‚simple perceptron’ vollständig aus, um den Entscheidprozess der Mutter zu simulieren. Was nicht O i = sgn( w ik k ) heissen soll, dass die Mutter nur aus einem Neuron besteht… k Bei komplizierteren Aufgaben wird natürlich auch das Netzwerk komplexer. Es braucht sowohl mehrere Schichten (Mutter und Grossmutter), Beispiel: als auch Bidirektionalität (Rücksprache der Eltern mit den Kindern = ‚recurrent network’). AND-Funktion: Sohn Peter (16) und Tochter Petra (15) möchten in Je mehr Inputs und Schichten ein Netzwerk hat, desto komplexere den Ausgang und fragen Mutter Therese Oi (41) um Erlaubnis. Probleme sind lösbar. Das Multi-Layer-Perceptron kann sogar lernen. ∑ ξ Das Hopfield-Modell Das Problem: Wie erkennt ein Netzwerk ein gezeigtes als gelerntes Muster wieder? Kann ein Netzwerk aus einer gelernten Anzahl an Mustern das Ähnlichste auswählen, wenn ihm ein neues Muster gezeigt wird? Die gespeicherten Muster kann man als „Attraktoren“ bezeichnen, da ein Muster jeweils zum ähnlichsten gespeicherten „herangezogen“ wird. Das Modell: Gegeben sind McCulloch-Pitts-Neuronen, die entweder „feuern“ (das Signal ist +1) oder „nicht feuern“ (das Signal ist -1). Die Summe aller Eingänge errechnet sich durch: S i := sgn( ∑ wij S j − θ i ) j i ist das zu betrachtende Neuron, j das oder die vorhergehenden. Si ist das Signal, das vom betrachteten Neuron ausgegeben wird. sgn() ist die Aktivierungsfunktion signum, welche ein +1 ausgibt, wenn der Term innerhalb der Klammer grösser oder gleich null ist, oder ein -1, wenn der Term kleiner als null ist. w ist das Gewicht der Verbindung zwischen i und (mehreren) j. Sj ist das Signal des vorhergehenden/der vorhergehenden Neuron/e. θi ist der Schwellenwert des betrachteten Neurons, wobei dieser bei einfachen Aufgaben meist vernachlässigt wird. LTP und räumliches Gedächtnis Räumliches Gedächtnis braucht LTP. In diesem Versuch wurde einer Maus (Mutant) die Entwicklung der LTP verunmöglicht, indem ihre NMDA-Rezeptoren durch Gen-Knockout verändert wurden und somit ihr räumliches Gedächtnis beeinträchtigt. Im Experiment geht es darum, dass die Maus in einem Bassin eine versteckte Plattform finden soll. Die wild-type-Maus sowie die Mutant-Maus finden nach anfänglicher Suche diese Plattform. Werden die Mäuse nun erneut ins Bassin gegeben, schwimmt die wild-type-Maus direkt in Richtung Plattform. Sie hat sich also erinnert, wohingegen die Mutant-Maus die Plattform erneut suchen muss, als wäre sie das erste Mal im Wasser. Die Mutant-Maus zeigt nach mehrmaliger Übung eine gewisse Verbesserung bei der Plattformsuche. Sie würde jedoch auch bei sehr intensivem Training nie die Zeit der wild-typeMaus erreichen. Anwendungsbeispiel Erlernen von handgeschriebenen Zahlen 0-9. In unzähligen Trainingsschritten werden dem Netzwerk Zahlen vorgelegt, die es dann schliesslich mit hoher Wahrscheinlichkeit zu unterscheiden vermag. Aktivitaet der Ausgangsneuronen 0.7 0.6 0.5 0.4 0.3 0.2 0.1 Figur 1: erstes Konfrontieren mit einer noch unbekannten Ziffer 0 1 2 3 4 5 6 7 8 9 10 Stimulus (Ziffer 7) 5 10 Aktivitaet der Ausgangsneuronen 15 1 20 0.8 25 0.6 5 10 15 20 25 0.4 0.2 0 1 2 3 4 5 6 7 8 9 10 Figur 2: Erlernte Ziffer wird erkannt Stimulus (Ziffer 7) 5 10 15 20 25 5 10 15 20 25