Professur für Allgemeine Psychologie Vorlesung im WS 2011/12 Lernen und Gedächtnis Klassisches Konditionieren Teil 2 Prof. Dr. Thomas Goschke Überblick zum Klassischen Konditionieren 2 Standardparadigma des Klassischen Konditionierens Grundlegende Phänomene: Akquisition, Extinktion, Spontanerholung, Disinhibition und Rekonditionierung Varianten: Lidschlagkonditionierung und konditionierte emotionale Reaktionen Effekte der zeitlichen Relation zwischen CS und US Generalisierung und Diskrimination Was ist die konditionierte Reaktion? S-R Lernen oder S-S Lernen? Kontiguität oder Kontingenz? Konditionierte Inhibition Blockierung und konfigurale Cues Das Rescorla-Wagner-Modell Biologische Einschränkungen und angeborene Lerndispositionen Zeitliche Relation zwischen CS und US 1. Effekt der zeitlichen Relation zwischen CS und US 2. Merkmale des CS: Generalisierung und Diskrimination 3. Merkmale der CR 4 Zeitliche Relation zwischen CS und US CS-US Intervall und Lidschlagkonditionierung Optimales CS-US-Interval variiert je nach Stimuli, Reaktionen und Lebewesen zwischen 0,5 bis > 30 sec 5 McAllister, W. R. (1953). Eyelid conditioning as a function of the CS-UCS interval. Journal of Experimental Psychology, 45, 417-422. Zeitliche Relationen zwischen CS und US CS Verzögerte Kond. US Starke Konditionierung CS Spurenkond. US CS Simultane Kond. US CS Rückwärtskond. 6 US schwächere Konditionierung schwache oder keine Konditionierung Überblick zum Klassischen Konditionieren 7 Standardparadigma des Klassischen Konditionierens Grundlegende Phänomene: Akquisition, Extinktion, Spontanerholung, Disinhibition und Rekonditionierung Varianten: Lidschlagkonditionierung und konditionierte emotionale Reaktionen Effekte der zeitlichen Relation zwischen CS und US Generalisierung und Diskrimination Was ist die konditionierte Reaktion? S-R Lernen oder S-S Lernen? Kontiguität oder Kontingenz? Konditionierte Inhibition Blockierung und konfigurale Cues Das Rescorla-Wagner-Modell Biologische Einschränkungen und angeborene Lerndispositionen Generalisierung und Diskrimination 8 Reizgeneralisierung • Auch ein dem CS ähnlicher Reiz löst die CR aus • Bsp.: Summton statt Glockenton als CS • Stärke der CR hängt von Ähnlichkeit der Reize ab Reizdiskrimination • Nur ganz bestimmter CS wird von US gefolgt • Ähnliche CS kein US • Lebewesen lernt, immer feiner zwischen Reizen zu unterscheiden Reizgeneralisierung Lidschlussreaktion beim Kaninchen wurde auf Ton einer bestimmten Frequenz konditioniert Wird CR auch durch Töne einer anderen Frequenz ausgelöst? Ergebnis: Generalisierungsgradienten Siegel et al. (1968). Generalization gradients obtaine from individual subjects following classical conditioning. Journal of Experimental Psychology, 78, 171-174. 9 Generalisierungsgradienten 11 © Zimbardo & Gerrig (2004) Reizdiskrimination 12 CR wird nur durch ganz spezifischen CS ausgelöst (Bsp. Kreis vs. Ellipse) Grenzen der Diskriminationsfähigkeit: Experimentelle Neurose Überblick zum Klassischen Konditionieren 13 Standardparadigma des Klassischen Konditionierens Grundlegende Phänomene: Akquisition, Extinktion, Spontanerholung, Disinhibition und Rekonditionierung Varianten: Lidschlagkonditionierung und konditionierte emotionale Reaktionen Effekte der zeitlichen Relation zwischen CS und US Generalisierung und Diskrimination Was ist die konditionierte Reaktion? S-R Lernen oder S-S Lernen? Kontiguität oder Kontingenz? Konditionierte Inhibition Blockierung und konfigurale Cues Das Rescorla-Wagner-Modell Biologische Einschränkungen und angeborene Lerndispositionen Was ist die konditionierte Reaktion? Hypothese 1: Reizsubstitution Reiz-Substitutions-Hypothese (Pawlow) • auf den CS wird so reagiert, als ob er der US wäre • CS aktiviert eine neuronale Repräsentation des US, die reflexhaft die UR (=CR) auslöst US (Futter) USZentrum CS (Ton) CSZentrum 15 Reaktionszentrum Reaktion (Speicheln) Was ist die konditionierte Reaktion? Probleme der Reiz-Substitutions-Theorie CR und UR sind oft unterschiedlich (Stärke, zeitliches Muster) • CR umfasst nicht alle Komponenten der UR • Z.B. reagiert Hund auf Futter (US) nicht nur mit Speichelfluss, sondern Kauen und Schlucken ist nicht Bestandteil der CR CR kann Komponenten beinhalten, die nicht Teil der UR sind • Z.B. konditionierte Lidschlussreaktion oft schwächer und langsamer als UR Z.B. reagieren Hunde auf Glocke oft mit Kopfdrehung und Hinschauen ist nicht Bestandteil der UR auf das Futter CR ist manchmal sogar das Gegenteil der UR Z.B. steigt bei Meerschweinchen Herzfrequenz als Reaktion auf Elektroschock, aber sinkt in Reaktion auf den CS (Black, 1965) „konditionierte kompensatorische Reaktion“ • 16 Was ist die konditionierte Reaktion? Alternative Hypothese: Vorbereitende Reaktion 20 Hypothese: Die CR ist eine Vorbereitung auf den US • CS liefert Information über den US und ermöglicht dem Organismus, das Auftreten des US zu antizipieren (Rescorla, 1988) • CR ist eine Vorbereitung auf den US, nicht eine Reaktion auf ihn • Z.B. ist konditionierte Speichelreaktion eine Vorbereitung auf das Fressen und die Lidschluss-CR eine Vorbereitung auf den Luftstoß Überblick zum Klassischen Konditionieren 21 Standardparadigma des Klassischen Konditionierens Grundlegende Phänomene: Akquisition, Extinktion, Spontanerholung, Disinhibition und Rekonditionierung Varianten: Lidschlagkonditionierung und konditionierte emotionale Reaktionen Effekte der zeitlichen Relation zwischen CS und US Generalisierung und Diskrimination Was ist die konditionierte Reaktion? S-R Lernen oder S-S Lernen? Kontiguität oder Kontingenz? Konditionierte Inhibition Blockierung und konfigurale Cues Das Rescorla-Wagner-Modell Biologische Einschränkungen und angeborene Lerndispositionen Was wird beim klassischen Konditionieren gelernt? S-R-Lernen US (Futter) UR (Speicheln) US (Futter) UR (Speicheln) CS (Ton) S-S-Lernen CS (Ton) 22 Was wird beim Klassischen Konditionieren gelernt? 1. S-R-Lernen: Assoziation zwischen CS und CR Glocke Speicheln oder 2. S-S-Lernen: Assoziation zwischen CS und US Glocke 23 „Antizipation“ von Futter Speicheln Was wird beim Klass. Kond. gelernt? Empirische Untersuchungen 1. 2. 3. 4. 24 Response-Prevention Paradigm US Devaluationsparadigma Sensorische Präkonditionierung Konditionierung zweiter Ordnung Was wird beim Klassischen Konditionieren gelernt? 1. Response-Prevention Paradigm 1. Lernphase: Paarung des CS mit US, Verhinderung der UR (z.B. durch Drogen; temporäre Curare-Lähmung) Ton Schock Reaktion nicht möglich 2. Testphase: Absetzen der Droge, Präsentation des CS Ton Vermeidungsverhalten • Spricht für S-S Lernen, da CS nie mit UR gemeinsam auftrat • Aber: vielleicht wurde zwar die motorische Reaktion blockiert, aber der CS nach wie vor mit einer zentralnervösen Repräsentation der Reaktion assoziiert 25 Fitzgerald et al., 1973; Leaf, 1964 Was wird beim Klassischen Konditionieren gelernt? 2. US Devaluation Paradigm 1. Lernphase: Klassische Konditionierung von CS mit US bis der CS die CR auslöst. Licht Futter Erhöhte Aktivität 2. Sättigungsphase: Ratten werden so lange gefüttert, bis Futter (US) keine UR mehr auslöst. 3. Testphase: Löst Präsentation von CS die CR aus? Licht Keine erhöhte Aktivität Wird der US „entwertet“, löst auch der CS keine Reaktion mehr aus. Spricht für S-S Lernen. 26 Holland & Rescorla, 1975 Was wird beim Klassischen Konditionieren gelernt? 3. Sensorische Präkonditionierung 1. Präkonditionierungsphase: Paarung zweier neutraler Reize CS1 + CS2 Licht (CS2) Ton (CS1) 2. Konditionierungsphase: Paarung von CS1 (Ton) mit US (Schock) bis CS1 die CR (Vermeidungsverhalten) auslöst. Ton Schock Ton Vermeidungsverhalten Vermeidungsverhalten 3. Testphase: Löst CS2 die CR aus? Licht Vermeidungsverhalten • Spricht für S-S Lernen (da CS2 nie mit UR gepaart wurde) • CS2 löst Antizipation des CS1 aus, der Antizipation des US auslöst 27 Rizley & Rescorla, 1972 Was wird beim Klassischen Konditionieren gelernt? 4. Konditionierung zweiter Ordnung 1. Lernphase: Paarung von CS1 mit US bis CS1 die CR auslöst Licht Futter CR Licht CR 2. Lernphase: Paarung von CS2 mit CS1 Ton Licht 3. Testphase: CS2 löst die CR aus Ton CR Spricht für S-S-Lernen (CS2-CS1-> Erwartung des US) (Mögliche alternative Interpretation: S-R-Lernen (CS1 wird zum neuen US für die UR; in Phase 2 führt dann CS2-CS1-Paarung dazu, dass CS2-CR-Assoziation gelernt wird) 28 Holland & Rescorla, 1975 Was wird beim Klassischen Konditionieren gelernt? 4. Konditionierung zweiter Ordnung und US-Entwertung Nach Konditionierung zweiter Ordnung wurde US entwertet, indem Ratten gesättigt wurden, so dass CS1 nicht länger UR auslöst Licht Keine CR Löst CS2 die CR aus? Ton CR Spricht dafür, dass Assoziation zwischen CS2 und CR gelernt wurde 29 Holland & Rescorla, 1975 Was wird beim Klassischen Konditionieren gelernt? Drei Paradigmen und die erworbenen Assoziationen 2 30 Was wird beim Klassischen Konditionieren gelernt? Schlussfolgerungen 31 Reiz- und reaktionsbezogene Aspekte von Ereignissen konkurrieren darum, mit dem neutralen Reiz assoziiert zu werden Verschiedene Paradigmen führen zu S-S oder S-R-Assoziationen, je nachdem welcher Aspekt (S oder R) salienter ist Sensorische Vorkonditionierung: • S-S-Lernen, weil keine salienten Reaktionen mit dem CS1 assoziiert werden Konditionierung 1. Ordnung • Führt meist zu S-S-Lernen, weil der US meist sehr salient ist Konditionierung 2. Ordnung • S-R-Lernen, weil die vorhergehende Konditionierung 1. Ordnung dem CS1 reaktionsbezogene Merkmale verleiht, die salienter sind als seine reizbezogenen Merkmale Holland, 1985 Was wird beim Klassischen Konditionieren gelernt? Bedeutung der Konditionierung höherer Ordnung Durch Kond. höherer Ordnung werden neutrale Reize zu konditionierten Reizen, ohne direkt mit einem US gepaart werden zu müssen Beispiel: Evaluative Konditionierung • • • 32 CS 1.Ordnung: z.B. positive oder negative Wörter CS 2.Ordnung: z.B. Gesichter, die mit den Wörtern gepaart werden CR: Gesichter werden nach Kond. Positiver bzw. negativer bewertet (selbst wenn sich die Versuchspersonen nicht daran erinnern, welche Wörter mit welchen Gesichtern gepaart wurden) Findet häufig Anwendung in der Werbung Überblick zum Klassischen Konditionieren 34 Standardparadigma des Klassischen Konditionierens Basisphänomene: Akquisition, Extinktion, Spontanerholung Disinhibition und Rekonditionierung Varianten: Lidschlagkonditionierung und konditionierte emotionale Reaktionen Effekte der zeitlichen Relation zwischen CS und US Generalisierung und Diskrimination Was ist die konditionierte Reaktion? S-R Lernen oder S-S Lernen? Kontiguität oder Kontingenz? Konditionierte Inhibition Blockierung und konfigurale Cues Das Rescorla-Wagner-Modell Biologische Einschränkungen und angeborene Lerndispositionen Was ist entscheidend für die Verknüpfung von CS und US? Kontiguität Ereignisse werden assoziiert, wenn sie in raum-zeitlicher Nähe auftreten Pro: oft ist Konditionierung bei kurzem CS-US-Intervall optimal Contra: mitunter erfolgt Konditionierung auch bei sehr langen CS-US-Intervallen! Kontingenz Zwei Ereignisse werden assoziiert, wenn das eine das andere Ereignis vorhersagt Raum-zeitliche Nähe ist nicht hinreichend für Konditionierung Entscheidend ist, ob der CS ein valider Prädiktor des US ist Kontiguität (raum-zeitliche Nähe von CS und US) oder Kontingenz (Vorhersagekraft des CS)? 36 Kontiguität oder Kontingenz? Das Experiment von Rescorla (1968) 37 Ratten lernten, Hebel zu drücken, um Futter zu bekommen Danach wurde ab und zu ein Ton für 2 Minuten dargeboten (CS) Während des Tons erhielten Ratten mit einer bestimmten Wahrscheinlichkeit einen Elektroschock (US) Mit einer bestimmten Wahrscheinlichkeit trat ein Elektroschock auch in Phasen ohne Ton auf Abhängige Variable: Ausmaß der Unterdrückung des Hebeldrückens während des Tons (= konditionierte emotionale Reaktion) (Stärkere Konditionierung stärkere Unterdrückung) Rescorla, R. A. (1968). Probability of shock in the presence and absence of CS in fear conditioning. Journal of Comparative and Physiological Psychology, 66, 1-5. Kontiguität oder Kontingenz? Das Experiment von Rescorla (1968) Variiert wurde: 1. Die Wahrscheinlichkeit, mit der der Stromschlag während des Tons auftrat: P(US|CS) = CS-US-Kontiguität 2. Wahrscheinlichkeit, mit der der Stromschlag in Abwesenheit des Tons auftrat: P(US|¬CS) = Basisrate des US 38 Kontingenz zwischen CS und US = P(US|CS) - P(US|¬CS) Rescorla, R. A. (1968). Probability of shock in the presence and absence of CS in fear conditioning. Journal of Comparative and Physiological Psychology, 66, 1-5. Kontiguität oder Kontingenz? Das Experiment von Rescorla (1968) P(US|CS) = 1 und P(US|¬CS) > 0 (d.h. CS liefert weniger Information über das Auftreten des US, da der US häufig auch ohne CS auftritt) P(US|CS) = 1 und P(US|¬CS) = 0 (perfekte Kontingenz) 39 Kontiguität oder Kontingenz? Das Experiment von Rescorla (1968) Gruppe A: P(US|CS) = 1 aber P(US|¬CS) > 0 Gruppe B: P(US|CS) = 1 und P(US|¬CS) = 0 40 Kontiguität oder Kontingenz? Das Experiment von Rescorla (1968) Bedingte Wahrscheinlichkeiten im Experiment von Rescorla p(US|CS) 0 0 .1 .2 .4 0 .1 .2 .4 0 .1 .3 0 .2 p(US|¬CS) .1 .2 .4 0 In den Zellen steht jeweils die Kontingenz = p(US|CS) - p(US|¬CS) 42 Kontiguität oder Kontingenz? Ergebnisse von Rescorla (1968) 0 = Verhalten wird während des CS vollständig unterdrückt p(US|¬CS) = 0 p(US|¬CS) = .1 p(US|¬CS) =.2 p(US|¬CS) = .4 0.5 = Reaktionshäufigkeit wird nicht durch CS beeinflusst p(US|CS) 43 Kontiguität oder Kontingenz? Ergebnisse von Rescorla (1968) 46 Erhöhung der Kontiguität hatte keinen Einfluss auf das Lernen, wenn die US-Basisrate im gleichen Maß erhöht wurde ( CS vermittelte keine Information über das Auftreten des US) Bei gegebener Kontiguität führt jede Verringerung der Basisrate zu einer Erhöhung der Kontingenz Verbesserung der Konditionierung Das Ausmaß der Konditionierung hängt davon ab, wie gut der CS den US vorhersagt Klass. Kond. kann als eine Art statistischer Inferenz betrachtet werden Überblick zum Klassischen Konditionieren 48 Standardparadigma des Klassischen Konditionierens Basisphänomene: Akquisition, Extinktion, Spontanerholung Disinhibition und Rekonditionierung Varianten: Lidschlagkonditionierung und konditionierte emotionale Reaktionen Effekte der zeitlichen Relation zwischen CS und US Generalisierung und Diskrimination Was ist die konditionierte Reaktion? S-R Lernen oder S-S Lernen? Kontiguität oder Kontingenz? Konditionierte Inhibition Blockierung und konfigurale Cues Das Rescorla-Wagner-Modell Biologische Einschränkungen und angeborene Lerndispositionen Konditionierte Inhibition Was passiert, wenn der US nie zusammen mit dem CS auftritt (Kontiguität = 0), aber die US-Basisrate hoch ist? Schock ¬Schock Ton 0 8 8 ¬Ton 6 2 8 6 49 10 Kontiguität: p(US|CS) = 0/8= .0 Kontingenz: p(US|CS) - p(US|¬CS) = 0 – 6/8 = -.8 Negative CS-US Relation wird gelernt CR wird seltener oder schwächer gezeigt als es ansonsten der Fall wäre CS wird zum Signal dafür, dass kein US folgt: CS = „conditioned inhibitor“ Konditionierte Inhibition, „Compound CS“ und Summationstest 1. Training Klick Schock Klick CER Keine CER Licht 2. Summationstest Ton Ton Schock CER reduzierte CER Licht 50 Pawlow, 1927; Zimmer-Hart & Rescorla, 1974 Konditionierte Inhibition: Verzögerungstest 1. Training Klick Schock Klick CER Keine CER Licht 2. Verzögerungstest Licht 51 Schock Verzögerter Erwerb der CER Pearce, Nicholas und Dickinson (1982) Konditionierte Inhibition: Schlussfolgerungen Ein CS, der die Abwesenheit des US vorhersagt, führt zu einer Inhibition der CR Kontingenz (in diesem Fall negative Korrelation) ist entscheidend für klassisches Konditionieren 52 Überblick zum Klassischen Konditionieren 54 Standardparadigma des Klassischen Konditionierens Basisphänomene: Akquisition, Extinktion, Spontanerholung Disinhibition und Rekonditionierung Varianten: Lidschlagkonditionierung und konditionierte emotionale Reaktionen Effekte der zeitlichen Relation zwischen CS und US Generalisierung und Diskrimination Was ist die konditionierte Reaktion? S-R Lernen oder S-S Lernen? Kontiguität oder Kontingenz? Konditionierte Inhibition Blockierung und konfigurale Cues Das Rescorla-Wagner-Modell Biologische Einschränkungen und angeborene Lerndispositionen Blocking (Kamin, 1969) 16 Durchgänge 8 Durchgänge Licht Kontrollgruppe Test Schock CER Licht CER Schock CER Licht Keine CR Ton Ton Experimentalgruppe Schock Licht CER Ton Das Licht erhöht in der Exp-Gruppe nicht die Vorhersagbarkeit des US und wird auch nicht gelernt 56 Blocking (Kamin, 1969) 57 Blocking und relativer Informationsgehalt (Wagner, 1969) Gruppe 1 Licht Ton Schock (200 x) Ton CR Ton Keine CR Licht Gruppe 2 Ton Schock (200 x) gemischt mit Licht Schock (200 x) Licht ist besserer Prädiktor Licht Gruppe 3 Ton Schock (200 x) Ton gemischt mit 58 Licht Kein Schock (200 x) Stärkere CR Licht ist kein guter Prädiktor Schlussfolgerung 59 Wenn CS1 ein besserer Prädiktor des US ist als ein CS2, dann blockiert der CS1 die Konditionierung des CS2 Ausmaß der Konditionierung hängt vom relativen Vorhersagewert des CS ab Überblick zum Klassischen Konditionieren 60 Standardparadigma des Klassischen Konditionierens Basisphänomene: Akquisition, Extinktion, Spontanerholung Disinhibition und Rekonditionierung Varianten: Lidschlagkonditionierung und konditionierte emotionale Reaktionen Effekte der zeitlichen Relation zwischen CS und US Generalisierung und Diskrimination Was ist die konditionierte Reaktion? S-R Lernen oder S-S Lernen? Kontiguität oder Kontingenz? Konditionierte Inhibition Blockierung und konfigurale Cues Das Rescorla-Wagner-Modell Biologische Einschränkungen und angeborene Lerndispositionen Die Rescorla-Wagner-Theorie 61 Ziel: möglichst viele Phänomene beim Klassischen Konditionieren durch einen einheitlichen Lernmechanismus zu erklären Mathematische Formalisierung Die von Rescorla & Wagner angenommene Lernregel entspricht der sog. Delta-Regel in Lernmodellen auf der Basis neuronaler Netze Rescorla, R. A. & Wagner, A. R. (1972). A theory of Pavlovian conditioning: Variations on the effectiveness of reinforcement and nonreinforcement. In A. H. Black & W. F. Prokasy (Eds.), Classical conditioning: II. Current research and theory (pp. 64-99). New York: Appleton-Century-Crofts. Die Rescorla-Wagner-Theorie Grundannahmen 1. Ist die Intensität des US größer als erwartet, werden alle CS, die mit dem US gepaart werden, exzitatorisch konditioniert 2. Ist die Intensität des US geringer als erwartet, werden alle CS, die mit dem US gepaart werden, inhibitorisch konditioniert 3. Ist die Intensität des US so wie erwartet, findet keine Konditionierung statt 4. Je größer die Diskrepanz zwischen erwarteter und tatsächlicher Intensität des US (der Vorhersagefehler), desto stärker ist die Konditionierung 5. Je auffälliger (salienter) ein Reiz ist, desto schneller wird er konditioniert 6. Werden zwei oder mehr CS präsentiert, werden die mit diesen verbundenen Erwartungen des US zu einer Gesamterwartung summiert 62 Die Rescorla-Wagner-Theorie Mathematische Fomulierung V = ( - V) V =Veränderung der CS-US-Assoziationsstärke im aktuellen Lerndurchgang V = erwartete Stärke des US (spiegelt die aktuelle Stärke der CSUS-Assoziation, die bestimmt wie stark der CS die Repräsentation des US aktiviert) = tatsächliche Stärke/Intensität des US -V = Vorhersagefehler (prediction error) = konstante Lernrate (Funktion der Salienz des CS; 0 ≤ K ≤ 1) Die Änderung der Assoziationsstärke als Folge einer einzelnen CS-USPaarung ist proportional zur (mit der Lernrate gewichteten) Differenz zwischen erwarteter und tatsächlicher US-Intensität Lernen findet statt, wenn die erwartete und tatsächliche Stärke des US voneinander abweichen: ( - V) > 0 63 Die Rescorla-Wagner-Theorie Ein Beispiel V = ( - V) = 100, = .2 Stärke der CS-US-Assoziation = 0 100 90 V = .2 x (100 - 0) = 20 Assoziationsstärke: V = 0 + 20 = 20 Nach 2. Lerndurchgang: V = .2 x (100 - 20) = 16 Assoziationsstärke: V = 20 + 16 = 36 Assoziationsstärke Nach 1. Lerndurchgang: 80 70 60 50 40 30 20 10 0 1 64 3 5 7 9 11 13 15 17 19 Lerndurchgänge Die Rescorla-Wagner-Theorie [Gluck, Mercado & Myers: Learning and Memory, 1st ed.] Copyright © 2008 by Worth Publishers Überblick zum Klassischen Konditionieren 69 Standardparadigma des Klassischen Konditionierens Basisphänomene: Akquisition, Extinktion, Spontanerholung Disinhibition und Rekonditionierung Lidschlusskonditionierung u. konditionierte emotionale Reaktionen Effekte der zeitlichen Relation zwischen CS und US Generalisierung und Diskrimination Was ist die konditionierte Reaktion? S-R Lernen oder S-S Lernen? Kontiguität oder Kontingenz? Konditionierte Inhibition Blockierung Das Rescorla-Wagner-Modell Anwendungen des Rescorla-Wagner-Modells Occasion setting und Kontextkonditionierung Biologische Einschränkungen und angeborene Lerndispositionen Neurobiologische Gundlagen Klassisches Konditionieren im Alltag Vorhersagen des R-W-Modells für mehrere CS US: Futter, CSA: Ton, CSB: Licht Die Gesamtassoziationsstärke beider CS ist gleich der Summe der einzelnen Assoziationsstärken des CSA und CSB mit dem US Bei gleicher Lernrate (Salienz) für CSA und CSB ergibt sich: VAB = VA + VB VA = ( - VAB) VB = ( - VAB) 71 für beliebig viele CSN gilt: V = ( - VN) Vorhersagen des R-W-Modells für mehrere CS Compound conditioning und kompetitives Lernen V = ( - VN) Trial 1: VA = VB = .20(100 – 0) = 20 VAB = 40 Trial 2: VA = VB = .20(100 – 40) = 12 (statt: VA = .20(100 – 20) = 16 bei einem CS) 100 CS allein Assoziationsstärke 90 80 CS zusammen mit zweitem CS 70 60 50 40 30 20 10 0 1 72 2 3 4 5 6 7 8 Lerndurchgänge 9 10 Vorhersagen des R-W-Modells für mehrere CS Compound conditioning und kompetitives Lernen Copyright © 2008 by Worth Publishers Vorhersagen des R-W-Modells für mehrere CS Compound conditioning und kompetitives Lernen 74 Die einzelnen CS müssen sich die maximale Assoziationsstärke teilen (d.h. sie „konkurrieren“ darum, mit dem US assoziiert zu werden) Ein CS, der zusammen mit einem weiteren CS dargeboten wird, kann daher nur noch einen Teil der maximalen Stärke erreichen Das Modell sagt eine Reihe von Effekten vorher: • Überschattung • Blocking • Konditionierte Inhibition Anwendungen des Rescorla-Wagner-Modells Überschattung Zwei CS mit unterschiedlicher Salienz: Trial 1: VA = .40(100 – 0) = 40 VB = .10(100 – 0) = 10 VAB = 50 Trial 2: VA = .40(100 – 50) = 20 VB = .10(100 – 50) = 5 100 90 80 70 60 50 40 30 20 10 0 salient wenig salient 1 75 2 3 4 5 6 Lerndurchgang 7 8 Anwendungen des Rescorla-Wagner-Modells Blocking 16 Durchgänge 8 Durchgänge Licht Kontrollgruppe Test Schock CER Licht CER Schock CER Licht Keine CR Ton Ton Experimentalgruppe Schock Licht CER Ton Nach ersten 16 Durchgängen hat Ton (CSA) nahezu maximale Assoziationsstärke erreicht (VA = = 100), daher wird Licht (CSB) nicht mehr konditioniert VA = 100 VB = 0 VAB = VA + VB = 100 VB = ( - VAB) = (100 - 100) = 0 76 Anwendungen des Rescorla-Wagner-Modells Blocking 77 Copyright © 2008 by Worth Publishers Blockierungseffekte bei Menschen Kategorien-Lern-Experiment (Bower & Trabasso, 1964) 78 Konditionierte Inhibition: Verzögerungstest 1. Training Klick Schock Klick CER Keine CER Licht 2. Verzögerungstest Licht 80 Schock Verzögerter Erwerb der CER Pearce, Nicholas und Dickinson (1982) Konditionierte Inhibition im Rescorla-Wagner-Modell 82 Zusammenfassung des Rescorla-Wagner-Modells 84 Lernzuwachs ist proportional zur Differenz der aktuellen Assoziationsstärke und der erwarteten Assoziationsstärke Lernen findet nur statt, wenn es eine Diskrepanz zwischen erwarteter und tatsächlicher US-Intensität gibt (entspricht der sog. Delta-Regel in neuronalen Netzwerkmodellen) Mehrere CS konkurrieren darum, mit dem US assoziiert zu werden R-W-Regel sagt viele Befunde zum klass. Kond. korrekt vorher (Überschattung, Blockierung, kond. Inhibition) Probleme des Rescorla-Wagner-Modells 1. Latente Inhibition Wiederholte Darbietung des CS vor der Lernphase („preexposure“) führt zu langsamerer Konditionierung Lidschlagkonditionierung bei Kaninchen Gluck, Mercado and Myers: Learning and Memory, First Edition 85 Copyright © 2008 by Worth Publishers Probleme des Rescorla-Wagner-Modells 1. Latente Inhibition Wiederholte Darbietung des CS vor der Lernphase („preexposure“) führt zu langsamerer Konditionierung Wird nicht durch Rescorla-Wagner vorhergesagt Kann durch Zusatzannahme erklärt werden, dass vorherige Darbietung die Salienz des CS und damit die Lernrate reduziert = .2 V = ( - V) Vor der Darbietung des CS: VA = 0 Trial 1: Klick allein, d.h. = 0 VA = .20(0 – 0) = 0 VA = 0 86 Eine alternative Theorie: Aufmerksamkeitstheoretischet Ansatz von Mackintosh 87 Hypothese von Mackintosh (1975): Salienz () ändert sich mit dem Informationswert des CS Je besser CS den US vorhersagt, umso größer wird seine Salienz umso mehr Aufmerksamkeit wird ihm zugewendet Erklärt latente Inhibition: Während Präexposition lernt Lebewesen, dass der CS keinen Informationsgehalt hat und beachtet ihn daher nicht mehr Erklärt Blocking-Effekt: • Phase 1: CS1 gewinnt an Informationswert (sagt US vorher) Salienz steigt wird stärker beachtet • Phase 2: CS2 hat keinen zusätzlichen Informationswert geringe Salienz wird nicht beachtet keine Konditionierung Mackintosh, N.J. (1975). A theory of attention: Variations in the associability of stimuli with reinforcement. Psychological Review, 82, 276-298. Probleme des Rescorla-Wagner-Modells 2. Lernen von Reizkonfigurationen (Patterning) Rescorla-Wagner: bei zusammengesetzten Reizen (compound stimuli) ist die Assoziationsstärke für die Kombination (CS1+CS2) gleich der Summe der Assoziationsstärken der einzelnen CS Aber: viele Befunde sprechen dafür, dass bei zusammengesetzten Reizen die einzelnen CS nicht isoliert voneinander konditioniert werden (z.B. Pearce, 1994) Z.B. positives und negatives Patterning [CS1+CS2 US] aber [CS1 ¬US] und [CS2 ¬US] [CS1 US] or [CS2 US] aber [CS1+CS2 ¬US] 88 Probleme des Rescorla-Wagner-Modells 2. Lernen von Reizkonfigurationen (Patterning) Positive patterning Licht Ton Schock Negative patterning Licht Schock Ton Schock Aber: Licht Ton Kein Schock Kein Schock CR wenn Licht+Ton Keine CR, wenn Licht oder Ton allein Aber: Licht Ton Kein Schock CR wenn Licht oder Ton allein Keine CR, wenn Licht+Ton Ist nicht durch Bildung isolierter CS-US-Assoziationen zu erklären! Gelernt werden Assoziationen auf Reizkonfigurationen! 89 Probleme des Rescorla-Wagner-Modells 2. Lernen von Reizkonfigurationen (Patterning) 90 Negatives Patterning bei der Lidschlag-Konditionierung von Kaninchen (Kehoe, 1988) Überblick zum Klassischen Konditionieren 92 Standardparadigma des Klassischen Konditionierens Basisphänomene: Akquisition, Extinktion, Spontanerholung Disinhibition und Rekonditionierung Lidschlusskonditionierung u. konditionierte emotionale Reaktionen Effekte der zeitlichen Relation zwischen CS und US Generalisierung und Diskrimination Was ist die konditionierte Reaktion? S-R Lernen oder S-S Lernen? Kontiguität oder Kontingenz? Konditionierte Inhibition Blockierung und konfigurale Cues Das Rescorla-Wagner-Modell Anwendungen des Rescorla-Wagner-Modells Occasion setting und Kontextkonditionierung Biologische Einschränkungen und angeborene Lerndispositionen Neurobiologische Gundlagen Klassisches Konditionieren im Alltag Occasion setting • • Reize können beeinflussen, ob ein Lebewesen auf einen anderen CS reagiert oder nicht Ross & Holland (1981): Zwei Arten von Konditionierungsdurchgängen 50% Durchgänge: Licht Ton Futter Ton Kein Futter Ton CR Ton Keine CR Lernphase 50% Durchgänge: Licht Testphase • • 93 Das Licht wird zu einem “occasion setter”, der jene Gelegenheiten anzeigt, in denen der Ton mit dem Futter kombiniert wurde Reize können auch negative occasion setter werden, wenn sie anzeigen, dass auf einen anderen CS kein US folgt Occasion setting Modell von Holland (1983) Licht Ton CR Vorhersage: Occasion setter (OS) sollte nur CR auf den Ton beeinflussen, nicht aber CR auf andere CS, die mit dem US kombiniert wurden Rescorla (1985): OS erleichtert die Aktivierung der USRepräsentation durch jeden beliebigen CS (nicht nur den, mit dem er während des Trainings auftrat) Davidson & Rescorla (1986): • • • 94 Futter Ton als OS für Lichtblitz Dauerhaftes Licht als OS für Klicken In Testphase wurden Rollen der beiden OS vertauscht: Ton kontrollierte nun die Reaktion auf das Klicken und das dauerhafte Licht die Reaktion auf den Lichtblitz Kontextkonditionierung 96 CS als auch US können mit Kontextreizen assoziiert werden (z.B. Käfigumgebung, Gerüche, Hintergrundgeräusche) Evidenz für Kontext-CS-Assoziation • CS löst stärkere CR aus, wenn er im gleichen Kontext dargeboten wird wie bei der Konditionierung (Bouton & Bolles, 1985) Evidenz für Kontext-US-Assoziation • Ortspräferenz: Wenn Ratten in einem bestimmten Teil eines Labyrinths Futter erhalten, halten sie sich länger dort auf • US-Präexpositionseffekt: Konditionierung eines CS ist langsamer, wenn der US wiederholt vor der Konditionierung allein im Kontext präsentiert wurde US wird bereits aufgrund des Kontexts erwartet nach R-W geringes Lernen (Domjan & Best, 1980) 98 Überblick zum Klassischen Konditionieren 99 Standardparadigma des Klassischen Konditionierens Basisphänomene: Akquisition, Extinktion, Spontanerholung Disinhibition und Rekonditionierung Lidschlusskonditionierung u. konditionierte emotionale Reaktionen Effekte der zeitlichen Relation zwischen CS und US Generalisierung und Diskrimination Was ist die konditionierte Reaktion? S-R Lernen oder S-S Lernen? Kontiguität oder Kontingenz? Konditionierte Inhibition Blockierung und konfigurale Cues Das Rescorla-Wagner-Modell Anwendungen des Rescorla-Wagner-Modells Occasion setting und Kontextkonditionierung Biologische Einschränkungen und angeborene Lerndispositionen Neurobiologische Gundlagen Klassisches Konditionieren im Alltag Angeborene Lerndispositionen Kontiguität und Geschmacks-Aversions-Lernen 100 Um 1960: Annahme, dass Lernen nicht möglich, wenn zwischen CS und US mehr als einige Sekunden liegen (Kimble, 1961) Aber: Garcia, Ervin & Koelling (1966) • Ratten erhielten Wasser mit Saccharingeschmack (CS) • Danach Injektion, die Übelkeit verursacht (US) • CS-US-Intervall: zwischen 5 – 22 Minuten (über 100 mal so lang wie üblicherweise beim K.K.) • Ratten lernten dennoch, Wasser nicht mehr zu trinken • Spätere Experimente: Ratten lernen selbst bei 24 Std. CS-USIntervall Ist evolutionär betrachtet adaptiv: • vergiftete Nahrung führt oft erst nach längerer Zeit zu Übelkeit etc. • Lebewesen, die Übelkeit auch über längere Zeitintervalle mit Nahrung assoziieren, haben höhere Überlebenschance Angeborene Lerndispositionen Preparedness Dogma der klassischen Lerntheorie: Beliebige CS können mit beliebigen US assoziiert werden • 101 Pawlow (1928): „Jedes natürliche… Phänomen kann zu einem konditioniertem Stimulus werden… jeder optische Reiz, jedes beliebige Geräusch, jeder Geruch und die Stimulation beliebiger Hautregionen“ Aber: Leichtigkeit, mit der verschiedene CS mit einem bestimmten US assoziiert werden können, kann stark variieren Ist Hinweis auf angeborene Lernbereitschaften Angeborene Lerndispositionen Experiment von Garcia & Koelling, 1966 Gruppe 1 Gruppe 2 CS Geschmack (Zuckerwasser) + Lichtblitz + Klick Geschmack (Zuckerwasser) + Lichtblitz + Klick US Gift Übelkeit Elektroschock ZuckerWasser Neutral schmeckendes Wasser + Lichtblitz + Klick ZuckerWasser CR = konsumierte Wassermenge 103 Neutral schmeckendes Wasser + Lichtblitz + Klick Angeborene Lerndispositionen Experiment von Garcia & Koelling, 1966 Geschmacksreiz ist ein besseres Signal für Übelkeit Geräusch+Lichtreiz ist ein besseres Signal für Schmerz 104 Angeborene Lerndispositionen Schlussfolgerung • Wie leicht ein CS mit einem US assoziiert wird, hängt von angeborenen Lernbereitschaften ab, die durch natürliche Selektion entstanden sind • • 106 „the organism brings an associative apparatus, which has a long and specialized evolutionary history… The organism may be more or less prepared by the evolution of the species to associate a given CS and US or a given response with an outcome.“ (Seligman, 1970, p. 407) Erklärt Befunde von Garcia & Koelling • Übelkeit wird meist durch schlechtes Essen verursacht, aber praktisch nie durch akustische Reize • Schmerz und Verletzungen sind häufig mit audio-visuellen Reizen assoziiert Weitere Beispiele • Spinnen oder Schlangen sind häufiger Objekte von Phobien als z.B. Steckdosen oder Autos (Öhman, Dimberg & Öst, 1985) • Affen lernen schneller, auf Schlangen als auf Blumen mit konditionierter Furcht zu reagieren (Cook & Mineka, 1990) Angeborene Lerndispositionen Experimente von Öhman et al. Zur Furchtkonditionierung CS 107 US CER (elektrodermale Reaktion) + leichte Elektroschocks CS ohne US: CER bleibt lange Zeit erhalten (hohe Löschungsresistenz) + leichte Elektroschocks CS ohne US: CER wird schnell reduziert (geringe Löschungsresistenz) Angeborene Lerndispositionen Präattentive Verarbeitung und unbewusste Furchtkonditionierung 108 Annahme angeborener Überwachungs- und Abwehrfunktionen für furchtrelevante Reize Ermöglichen schnelle und präattentive Identifikation gefährlicher Reize Läuft unbewusst ab und kann zu Schreckreaktion führen, ohne dass Reiz bewusst erkannt wird Reize, die aufgrund dieses präattentiven Mechanismen als bedrohlich eingestuft wurden, werden danach bevorzugt weiter verarbeitet / ziehen Aufmerksamkeit auf sich Experimentelle Evidenz: Furchtkonditionierung auf unterschwellig (maskiert) dargebotene Reize (z.B. Bilder von Schlangen) Öhman, A., & Soares, J. J. F. (1998). Emotional conditioning to masked stimuli: Expectancies for aversive outcomes following nonrecognized fear-relevant stimuli. Journal of Experimental Psychology: General, 127, 69-82 Angeborene Lernbereitschaften vs. allgemeine Lernprinzipien Ratten lernten, Hebel zu drücken um Futter zu erhalten Schocks sollten Verhalten unterdrücken U.V. Zeitabstand zwischen Verhalten und Schock a) nach Baron, Kaufman & Fazzini, 1969 b) nach Andrews & Braveman, 1975 100 10 50 5 0 0 20 40 60 Verzögerung des Elektroschocks (Sekunden) 112 Geschmacks-Aversions-Lernen bei Ratten Saccharinlösung -> Übelkeit U.V. Zeitabstand zwischen Verhalten und Schock 0 0 5 10 15 20 Verzögerung der Giftgabe (Stunden) 25 Klassisches Konditionieren außerhalb des Labors K.K. spielt wichtige Rolle beim Erwerb emotionaler Reaktionen ( Phobien) K.K. liegt bestimmten verhaltenstherapeutischen Interventionen zugrunde • systematische Desensibilisierung: - durch allmähliche Annäherung an eine furchtauslösende Situation bei gleichzeitiger Entspannung soll Furcht gelöscht werden - Angsthierarchie – Entspannungstraining - allmähliche Annäherung • Aversive Gegenkonditionierung: - unerwünschtes Verhalten (z.B. übermäßiger Alkoholkonsum) soll durch Assoziation mit einer unvereinbaren aversiven Reaktion unterdrückt werden - CS(Alkohol) + US(Übelkeit) CR(Ekel) • Exposition: - Konfrontation mit einer furchtauslösenden Situation (z.B. hoher Turm, Fahrstuhl, belebter Platz) ohne dass negative Konsequenz eintritt Löschung 113 Klass. Konditionierung des Immunsystem