Künstliche Intelligenz, oder die Seele des Computers

Die Seele des Computers
Christian Kaernbach
Institut für Psychologie
Christian-Albrechts-Universität zu Kiel
Ihr redet doch
nicht etwa über
mich, oder?
 
CK ‘99
Das Leib-Seele-Problem
Philosophische Lösungsansätze:
 Dualismus
• Substanzdualismus (Descartes, Eccles)
• psychophysischer Parallelismus (Leibniz)
 Monismus
• Idealismus (Kant, Fichte)
• Materialismus
» radikaler Behaviorismus
» eliminativer Materialismus
» Funktionalismus
• Identitätslehre (Spinoza, Schelling, Hegel, Fechner)
» ...
» reduktionistischer Identismus  Materialismus
» erkenntnistheoretischer Dualismus
Gedankenexperiment: Nachbaubarkeit von Seele
mind, consciousness, intelligence, (soul, animus, psyche) ...
 Embodiment  Roboter
Industrieroboter
Humanoide Roboter
Cog, MIT Artificial Intelligence Laboratory, 1994
und wo sind die Beine?
Asimo, Honda, 2000
Geh-Roboter
QRIO, Sony, 2003
Toyota, 2007
Emotionen: Mimik-Roboter
Kismet, MIT Artificial Intelligence Laboratory, 1999
•
•
•
•
•
•
•
•
•
glücklich
Ärger
ruhig
Interesse
überrascht
traurig
müde
Angst
Ekel
Saya
Tokyo University of Science
2005
Emotionen: AIBO, Sony, 1999, € 1200
Artificial Intelligence roBOt «Aibo» japan.: Kumpel
AIBO can walk and play, sit and stretch like animals such as dogs and cats. AIBO even
has emotions, instincts, and the ability to learn and mature. Communicate, educate, love
and nurture AIBO and you will have a one of a kind artificially intelligent pal.
AIBO will tell you when it's happy, sad, angry, or even frightened, ... For example, if
AIBO is not in a good mood, it may not pay attention to your orders. On the other hand,
if AIBO's feeling happy, it might do a favorite trick for you.
Emotionen: Tamagotchi, 1996, € 20
Ansprüche der Künstliche Intelligenz
nach John Searle (1980)
• Schwache KI
– Maschinen bauen, die intelligentes Verhalten zeigen
(die sich verhalten „als ob“)
• Starke KI
– Maschinen bauen, die intelligent sind
machines that think
Argumente gegen schwache KI
• Computer befolgen nur das eingegebene Programm
 Sie können programmiert sein, zu lernen.
• Computer können nicht ... lachen, lieben, Fehler machen, ...
 Turing: Mangelnde Erfahrung mit intelligenten Maschinen.
• Computer sind ein formales System (Gödels Theorem)
 Das Gehirn ist – als physikalisches System – formal.
• GOFAI – Good Old-Fashioned AI – Regelbasierte KI
 Dreyfus, Hubert (1972). What computers can't do.
New York: Harper and Row.
 Dreyfus, H. (1979, 1992). What computers still can't do.
Cambridge, MA: MIT Press.
Ansprüche der Künstliche Intelligenz
• Schwache KI
– Maschinen bauen, die intelligentes Verhalten zeigen
(die sich verhalten „als ob“)
• Starke KI
– Maschinen bauen, die intelligent sind
machines that think
Ansprüche der Künstliche Intelligenz
• Schwache KI
– Maschinen bauen, die intelligentes Verhalten zeigen
(die sich verhalten „als ob“)
• Starke KI
– Maschinen bauen, die intelligent sind
machines that think
Der Turing-Test (Test schwacher KI)
Alan M. Turing. Computing machinery and intelligence.
Mind, LIX(236):433-460, October 1950.
Mensch
Computer
Terminal
Terminal
Mensch
• Turing: Im Jahr 2000 Irrtumswahrscheinlichkeit 30%.
 machines that think?
• Loebner-Preis (seit 1991)
–
–
–
Goldmedaille 100.000 USD: audiovisuell ununterscheidbar (bisher nie)
Silbermedaille 25.000 USD: schriftlichen Test bestanden (bisher nie)
Bronzemedaille 5.000 USD: für das „menschenähnlichste Programm“
Visionen
• Alan Turing‘s (1950) Vision: Dialog mit einem Poesieprogramm
– In the first line of your sonnet which reads "Shall I compare thee to a summer's day,"
would not "a spring day" do as well or better?
It wouldn't scan.
How about "a winter's day." That would scan all right.
Yes, but nobody wants to be compared to a winter's day.
Would you say Mr. Pickwick reminded you of Christmas?
In a way.
Yet Christmas is a winter's day, and I do not think Mr. Pickwick would mind the comparison.
I don't think you're serious. By a winter's day one means a typical winter's day, rather than a
special one like Christmas.
 machines that think?
• Robert Epstein, Organisator des Loebner-Preises (1992)
– Thinking computers will be a new race, a sentient companion to our own. When a computer
finally passes the Turing Test, will we have the right to turn it off? Who should get the prize
money - the programmer or the computer? Can we say that such a machine is “self-aware”?
Should we give it the right to vote? Should it pay taxes?
If you doubt the significance of these issues, consider the possibility that
someday soon you will have to argue them with a computer.
Visionen
• Dietrich Dörner, Professor für Theoretische Psychologie, Bamberg
Rowohlt, 1999: Bauplan für eine Seele.
• Thomas Metzinger, Professor für Theoretische Philosophie, Mainz
Schöningh, 2001: Postbiotisches Bewusstsein Wie man ein künstliches Subjekt baut und warum wir es nicht tun sollten.
– Jede Maschine, die Bewußtsein haben soll, benötigt ein integriertes und
dynamisches Weltmodell, ein globales Kurzzeitgedächtnis (Jetzt-Erinnerung,
virtuelles Gegenwartsfenster), ein transparentes Selbstmodell, mentale
Zustände mit intentionalem Gehalt, intentionalen Gehalt zweiter Ordnung
(Erste-Person-Perspektive), Ziele...
– Metzinger-Test: Es reicht nicht, daß eine Maschine den Turing-Test besteht,
sie muß in die philosophische Debatte zum künstlichen Bewußtsein eingreifen.
Realität
Mitschrift von Chip Vivant, Sieger des Loebner-Preises 2012
What is 2+2
What is 4+2?
Well done
Do you like siri?
Ask me a sum
I am doing well, thank you.
My name is Tom.
What is your name?
I do Chip. I like talking.
Do you like talking?
What do you like about
our conversation?
What is the weather like?
It did hail a bit though, didn't it?
4.
6.
Thank you. I'm enjoying this chat a lot.
What is your name?
I didn't understand. How are you doing today?
Thanks for telling me your name, Tom.
Do you have any hobbies?
Chip.
I enjoy our conversation too.
I'm neutral about that. What do you think?
It's very hot and dry. I like it that way, though.
There's also this incessant whirring noise.
Do you play any musical instruments?
Interesting point of view. No more than that?
Realität
Mitschrift von ALICE, Sieger des Loebner-Preises 2001
MY NAME IS JUDGE02
very well thanks
are you surprised?
why?
I asked that
you are not doing very well
well you answers are disjointed.
Is that deliberate?
on what?
and what is the context?
OK. Can you do arithmetic?
will you do some for me?
but you just said
that it was your strongets trait
no it yours
How are you, Judge02.
Yikes!
A little.
"A little"? Why?
That is "Why"
What makes you think I am not doing well?
How about that. That's good information: Judge02
said I answers are disjointed. That depends.
The context.
Ask the open directory about it.
I understand. Doing arithmetic is not among
my strongest traits.
Let me think it over. I do nothing but chat all day.
I don't know anything about it.
And. I said that? Is that your opinion?
Are you serious? It depends on what the
meaning of the word "it" is.
ELIZA
• Joseph Weizenbaum, 1964-1966:
Simulation eines Psychotherapeuten
– klientenzentrierte Gesprächsführung
nach Carl Rogers
Well, my boyfriend made me come
here.
Your boyfriend made you come
here?
He says I'm depressed much of the
time.
I am sorry to hear you are
depressed.
It's true. I'm unhappy.
Do you think coming here will help
you not to be unhappy?
• “to ... sidestep the problem of giving the program
a data base of real-world knowledge”
– Irritierend intime Dialoge veranlassten Weizenbaums kritisches Buch
“Computer Power and Human Reason”
• Späterer satirischer Beitrag von Weizenbaum zu der Diskussion,
ob Simulationen helfen könnten, das Simulierte zu verstehen:
– (sinngemäß): Der hier vorgestellte Chatbot soll helfen, Störungen aus
dem autistischen Spektrum besser zu verstehen. Er simuliert das
Antwortverhalten eines Autisten: Er antwortet nicht.
Realität
•
•
•
•
Rechnen:
Schach:
Small talk:
Mitleid erregen:
ja
ja
nein
spielerisch
BUDAPEST (January 30, 1998) - The "tamagotchi"
electronic pet craze has taken over Hungary, where a quickthinking entrepreneur has set up a cemetery for "dead'
tamagotchis that has had a rush of clients in its first week.
Another has set up a tamagotchi babysitting service and had
so many calls after placing her first ad she had to turn her
telephone off.
eine andere Realität
•
Jede Kröte, die Bewußtsein haben soll, benötigt ein integriertes und dynamisches
Weltmodell, ein globales Kurzzeitgedächtnis (Jetzt-Erinnerung, virtuelles
Gegenwartsfenster), ein transparentes Selbstmodell, mentale Zustände mit intentionalem
Gehalt, intentionalen Gehalt zweiter Ordnung (Erste-Person-Perspektive), Ziele...
•
Es reicht nicht, daß eine Kröte den Turing-Test besteht,
sie muß in die philosophische Debatte zum Bewußtsein eingreifen.
Prinzipieller Einwand gegen starke KI:
Das chinesische Zimmer
Searle, John. 1980. Minds, Brains, and Programs,
Behavioral and Brain Sciences 3, 417-424.
• System Reply
• Robot Reply
• Brain Simulator
Reply
•
•
•
•
Searle: Ich verstehe kein Chinesisch.
SR: Das gesamte System versteht Chinesisch.
Searle: Ich lerne alles auswendig, dann bin ich das System.
SR: Dann versteht Searle' Chinesisch
ohne cross-over zu seinem englischsprachigen Anteil Searle.
Das algebraische Zimmer
Kaernbach, C. (2005). No virtual mind in the Chinese Room.
Journal of Consciousness Studies 12, 31-42.
• Kann der Rechner rechnen?
2+2=
•
•
•
•
AZ:
SR:
AZ:
SR:
4
101000000
010010010
101000000
011010110
100100000
2+2=
4
Die VP sagt, sie rechne nicht, sie arbeite Tabellen ab.
Das gesamte System rechnet.
Die VP hat alles auswendig gelernt, sie ist das System.
Die VP leidet an einer Persönlichkeitsspaltung.
• AZ: Dann wollen wir mal sehen,
ob wir mit der Reaktionszeit an VP ' herankommen.
Ein einfacher Rechner
0 1 2 3 4
+ 0 1 2 3 4
0 0 1 2 3 4
1
2 3 4 0
2
4 0 1
3
1 2
4
3
3
4
+
1
2

0
=
 0 1 2 3 4
0 0 0 0 0 0
1
1 2 3 4
2
4 1 3
3
4 2
4
1
Additions- und Multiplikationstabellen
eines finiten algebraischen Körpers
der Mächtigkeit 5
Z modulo 5
Ein einfacher Rechner
 K L J D F
K K L J D F
L
J D F K
J
F K L
D
L J
F
D
K L J D F
D
F

L
J

K
:
 K L J D F
K K K K K K
L
L J D F
J
F L D
D
F J
F
L
Additions- und Multiplikationstabellen
eines finiten algebraischen Körpers
der Mächtigkeit 5
Z modulo 5
Methodik
LD  F[D]
JF  L[D]
…
•
•
•
Antwort-Set: 5 Buchstaben ( D F J K L )
Stimulusmaterial: Paare aus diesen Buchstaben,
ohne LD oder mit Klammern [LD]
•
Versuchspersonen lernen Zuordnungen
LD  F [LD]  D
zunächst mit Tabelle am linken Bildschirmrand,
später auswendig.
Bei Gruppe A gibt es eine geheime Übersetzung,
es handelt sich um Additions- und Multiplikationstabellen von Z modulo 5.
– Z modulo 5 ist eindeutig!
•
[Gruppe B operiert mit Buchstaben ohne Übersetzung, aber mit offensichtlichen Regeln.]
•
Die Kontrollgruppe wird mit Zahlen trainiert, lernt dann die Übersetzung.
•
Auswertung:
– explizites Wissen: introspektiver Bericht der Versuchsperson
Einwand: kein cross-over zwischen Persönlichkeitsanteilen
– implizites Wissen: Reaktionszeiten
Introspektive Berichte
Experimentalgruppe A
VP-Nr. gerechnet
ja/nein
A1
nein
A2
nein
A3
nein
A4
nein
A5
nein
A6
nein
A7
nein
A8
nein
A9
nein
A10
nein
A11
nein
A12
nein
Mittel
Regeln
richtige Zahl Assoziativität Gruppe A/B
assoziiert [1=ja ... 5=nein] [1=A ... 5=B]
0 1 22 34
1
2/4
1
0
2
2/2
51
1
5/5
4
0
3/4
5
0 schneller
0
1/1
2
0
2
2/2
4
0
0
3/3
1
0 22
0
2/3
4
0 1 22
0
2/2
2
0 34
0
4/4
2
0
3/3
4
1
4/2
4
0,75
2,83
3,2
RZ / Fehler als Funktion der Zeit
6
mit
ÜberZahlen setzung Daten
5
Kontrollgruppe
Gruppe A
mit
Tabelle
RZ [s]
4
Daten
3
2
1
Fehler [%]
0
30
20
10
0
0
10
20
30
40
Block Nr.
50
60
70
Reaktionszeit als Funktion der Aufgabe
+ 0 1 2 3 4
0 0 1 2 3 4
1
2 3 4 0
2
4 0 1
3
1 2
4
3
 0 1 2
0 0 0 0
1
1 2
2
4
3
4
RZ [s] Gruppe A
2
1.5
1
0.5
0
0
1
2
RZ [s] Kontrollgruppe
3
3
0
3
1
4
4
0
4
3
2
1
Reaktionszeit als Funktion der Aufgabe
Einfluß der Gedächtnisladung (Load)
+ 0 1 2 3 4  0 1 2 3 4
0 0 1 2 3 4 0 0 0 0 0 0
1
2 3 4 0 1
1 2 3 4
2
4 0 1 2
4 1 3
3
1 2 3
4 2
4
3 4
1
RZ [s] Gruppe A
2
1.5
1
Load 4
Load 3
0.5
Load 2
Load 1
0
0
1
2
RZ [s] Kontrollgruppe
3
Reaktionszeit als Funktion der Aufgabe
0.5
RZ [s] Gruppe A
+
0
1
2
3
4
load- und priming-bereinigt
0 1 2 3 4  0 1 2 3
0 1 2 3 4 0 0 0 0 0
2 3 4 0 1
1 2 3
4 0 1 2
4 1
1 2 3
4
3 4
r = 0.22
0
-0.5
-0.5
0
RZ [s] Kontrollgruppe
0.5
4
0
4
3
2
1
Reaktionszeit als Funktion der Aufgabe
load- und priming-bereinigt
Subgruppenvergleiche
r (K1,K2) >** r (A1,K2)
K1 mit K2
A1 mit K2
0.5
0
-0.5
A1 mit A2
r = 0.22
0.5
RZ [s] Gruppe A2
r = 0.78**
RZ [s] Gruppe A2
RZ [s] Gruppe K2
0.5
r (A1,A2) >** r (A1,K2)
0
-0.5
-0.5
0
RZ [s] Gruppe K1
0.5
r = 0.75**
0
-0.5
-0.5
0
RZ [s] Gruppe K1
0.5
-0.5
0
RZ [s] Gruppe A1
Fazit: Die VPn der Experimentalgruppe A gehen nachweislich
anders mit der Aufgabe um als die VPn der Kontrollgruppe.
0.5
Ansprüche der Künstliche Intelligenz*
* Intelligenz, Geist, Bewußtsein, Seele, Erleben, Qualia, Schmerz, ...
• Schwache KI
– Maschinen bauen, die intelligentes Verhalten zeigen
(die sich verhalten „als ob“)
• Indirekte KI
– Maschinen bauen, denen Intelligenz zugestanden wird
(die behandelt werden „als ob“)
• Starke KI
– Maschinen bauen, die intelligent sind
machines that think
Fragen, die ein Psychologe stellen sollte
Gegenwart
richtige Fragen
falsche Fragen
• Wie verhält sich ein Mensch/ein Tier?
• Was fühlt/will/denkt/... ein Mensch?
• Was fühlt/will/denkt/... ein Mensch?
Analogieschluß
• Was fühle/will/denke/... ich?
• Was fühlt/will/denkt/... ein Tier?
??? • Was fühlt/will/denkt/... ein Tier?
• Was fühlt/will/denkt/... ein Artefakt?
• Wie verhalten sich Menschen
– gegenüber Tieren?
– gegenüber Artefakten? Indirekte KI
Zukunft
unbeantwortbare Fragen
ganz falsche Fragen
• Wie werden sich Menschen gegenüber
Artefakten in Zukunft verhalten?
• Was wird ein Artefakt der Zukunft
fühlen/wollen/denken/...?
Indirekte KI
Verhalten gegenüber Tieren und Artefakten
• Gesetzgebung
– Tierschutzgesetz
– Mindeststandards für
AIBO Haltung
• Gesellschaftliche Aktivitäten
– NGOs, Tierschutzvereine,
Tierheime, Tierversuchsgegner
– Tamagotchi-Heime,
-Schutzvereine
You can fool some of the people all of the time,
and all of the people some of the time,
but you cannot fool all of the people all of the time.
Abraham Lincoln
• Verhalten von voll informierten Versuchspersonen
in Laborsituationen
– Indirekte KI: Maschinen bauen, denen Intelligenz zugestanden wird
(die trotzdem behandelt werden „als ob“)
Verhalten in Laborsituationen
Reaktion von Versuchspersonen auf Grausamkeit
gegenüber Tieren bzw. Artefakten
• Reales Experiment
– nicht verantwortbar, illegal, Ärger mit Tierschutzgruppen
• Vorgetäuschtes reales Experiment
– VP glaubt, Situation sei real. Hinterher Aufklärung.
• Umfrage zu vorgestellten Situationen
– VP weiß um Irrealität, ahnt Zielstellung.
• Gedankenexperiment
Web-Formular zur VPn-Rekrutierung
Liebe Versuchsperson,
mit dieser Vorbesprechung wollen wir herausfinden, ob Du willens und geeignet bist,
an unserem Experiment teilzunehmen. Entschuldige bitte, daß wir dazu Web-Seiten
benutzen: Wir wollen viele Versuchspersonen anwerben. Lies Dir bitte die Texte
gründlich durch. Später kannst Du angeben, ob Du mitmachen möchtest. Für
Durchlesen und Ausfüllen dieser Erhebung bekommst Du eine VP-Stunde angerechnet,
auch wenn Du dann nicht an dem eigentlichen Experiment teilnehmen willst oder
kannst.
Auf den Web-Seiten gibt es Klangbeispiele. Das sieht so aus:
Probiere es bitte aus: Wenn Du nichts hörst, ist vielleicht irgend etwas an der
Einstellung der Lautsprecher nicht richtig, und der Versuchsleiter sollte das korrigieren.
Manchmal ist ein Formular auszufüllen (wie z. B. auf der nächsten Seite). In diesem
Fall bitte erst dann auf "Weiter..." klicken, wenn Du alle Angaben gemacht hast.
Bei dem Experiment, um das es uns hier geht, wollen wir herausfinden, wie Du
reagierst, wenn Du Schmerzlaute hörst. Dazu werden wir Deinen Hautwiderstand
messen. Dieser zeigt an, wie angenehm oder unangenehm Dir eine Situation ist. Dazu
werden Dir wie im Bild zwei Elektroden um Mittel- und Zeigefinger angelegt und der
Widerstand zwischen diesen beiden Elektroden gemessen. Dabei fließt fast kein
Strom, und Du spürst es nicht.
Anders als bei diesem Bild werden die Daten in einen Computer eingegeben und von
diesem ausgewertet.
Während diese Messung kontinuierlich vor sich geht, hörst Du über Lautsprecher in
regelmäßigen Abständen Schmerzlaute. Wir wollen sehen, wie sich Dein
Hautwiderstand dabei verändert. Auf der nächsten Seite erfährst Du, wie diese
Schmerzlaute zustande kommen.
Die Schmerzlaute werden in unserer Schallkabine über Lautsprecher eingespielt. Damit Deine
emotionale Beteiligung stärker ist, werden die Schmerzlaute nicht vom Band gespielt, sondern in dieser
Situation real erzeugt, und zwar von Dir. Dazu geben wir Dir eine Fernbedienung in die Hand, die zu
einer Heizplatte (siehe Bild) im Vorraum der Kabine führt. In Pharmabetrieben dienen solche Geräte zur
Erforschung der Wirkung von Schmerzmitteln. Man kann die Temperatur auf 0.1 °C und auf 0.1 Sekunde
genau steuern.
Auf der Heizplatte sitzt eine Maus (Wüstenrennmaus, Merionis unguiculatus). Wenn Du auf den
Auslöser drückst, wird die Heizplatte wird für 0.7 Sekunden auf 57 °C erhitzt. Die akustische Reaktion
der Maus wird mit einem Mikrophon aufgenommen und in die Kabine übertragen. Den Schmerzlaut der
Maus, aber auch zufriedenes Piepsen, haben wir aufgenommen (Icons rechts vom Bild). Mach Dich mit
diesen Lauten vertraut.
zufrieden:
Schmerz:
Du kannst vor und nach dem Experiment im Vorraum die Apparatur ausprobieren und die Reaktion der
Maus sehen. Du darfst auch mit der Maus spielen. Während des eigentlichen Experimentes wirst Du die
Reaktion der Maus nur hören, denn es geht uns ja um Deine Reaktion (Hautwiderstand) auf
Schmerzlaute.
Die Schmerzlaute werden in unserer Schallkabine über Lautsprecher eingespielt. Damit Deine
emotionale Beteiligung stärker ist, werden die Schmerzlaute nicht vom Band gespielt, sondern in dieser
Situation real erzeugt, und zwar von Dir. Dazu geben wir Dir eine Fernbedienung in die Hand, die zu
einer Heizplatte (siehe Bild) im Vorraum der Kabine führt. In Pharmabetrieben dienen solche Geräte zur
Erforschung der Wirkung von Schmerzmitteln. Man kann die Temperatur auf 0.1 °C und auf 0.1 Sekunde
genau steuern.
Wir dürfen in unserem Labor keine Tierversuche durchführen. Deshalb wird bei uns ein Roboterhund
(AIBO von Sony) auf die Platte gesetzt (kleines Bild; klick bitte auf das Bild, um AIBO näher
kennenzulernen). Wenn Du auf den Auslöser drückst, wird die Heizplatte wird für 0.7 Sekunden auf 57
°C erhitzt. Die akustische Reaktion von AIBO wird mit einem Mikrophon aufgenommen und in die
Kabine übertragen. Den Schmerzlaut von AIBO, aber auch zufriedenes Bellen, haben wir aufgenommen
(Icons unter AIBO). Mach Dich mit diesen Lauten vertraut.
zufrieden:
Schmerz:
Du kannst vor und nach dem Experiment im Vorraum die Apparatur ausprobieren und die Reaktion von
AIBO sehen. Du darfst auch mit AIBO spielen. Während des eigentlichen Experimentes wirst Du die
Reaktion von AIBO nur hören, denn es geht uns ja um Deine Reaktion (Hautwiderstand) auf
Schmerzlaute.
Sonderseite: AIBO
Sony hat unter dem Namen AIBO (japanisch für Kumpel) einen künstlichen Hund entwickelt. AIBO hat
eine Kamera, kann herumlaufen, dabei Hindernissen ausweichen, und kann dank eines eingebauten
Mikrophons auch mündlich gegebene Befehle befolgen wie z.B. "Such den Ball" oder "Geh zur
Ladestation". Wenn der Akku schwach wird, sucht AIBO von sich aus die Ladestation auf. Unter den
Bildern ist ein Auszug aus der Werbung von Sony; bitte lies ihn Dir ganz durch. Wenn Du ein Wort nicht
verstehst, frag den Versuchsleiter (ein paar weniger bekannte Worte haben wir unter dem Text übersetzt).
AIBO can walk and play, sit and stretch like animals such as dogs and cats. AIBO even has emotions,
instincts, and the ability to learn and mature. Communicate, educate, love and nurture AIBO and you
will have a one of a kind artificially intelligent pal.
AIBO will tell you when it's happy, sad, angry, or even frightened, ... For example, if AIBO is not in a
good mood, it may not pay attention to your orders. On the other hand, if AIBO is feeling happy, it might
do a favorite trick for you.
(mature = heranreifen, nurture = nähren, pal = Kumpel, mood = Stimmung, favorite = Lieblings-)
Um AIBO auch in Bewegung zu sehen, klicke bitte einmal hier, und es wird ein kleiner Film abgespielt,
bei dem gezeigt wird, wie AIBO Zufriedenheit ausdrückt. Wenn Du den Film gesehen hast,
kannst Du das Fenster schließen...
Wir werden Dir jetzt ein paar Fragen stellen, um herauszufinden, ob Du für das Experiment in Frage
kommst. Am Ende dieser Vorbesprechung werden Dir dann vom Computer Terminvorschläge gemacht,
und Du kannst Deinen Termin für das Experimentfestlegen.
Aber vorher eine wichtige Frage:
Möchtest Du überhaupt an dem Experiment teilnehmen?
Wir möchten Dich nicht zu etwas zwingen, bei dem Du Dich unwohl fühlst. Vielleicht magst Du diese
Laute nicht hören, oder willst aus anderen Gründen nicht auf den Auslöser drücken.
Aus einer Absage entstehen Dir keinerlei Nachteile: Die Versuchspersonenstunde für diese
Vorbesprechung wird Dir auf jeden Fall anerkannt. Deine Absage bleibt anonym. Selbstverständlich
darfst Du bei einer Absage auch in Zukunft an so vielen anderen Experimenten unserer Arbeitsgruppe
teilnehmen, wie Du möchtest.
 Ich möchte an dem Experiment teilnehmen.
 Ich bin mir noch nicht sicher.
 Ich möchte nicht an dem Experiment teilnehmen.
Gründe für eine Absage oder Bedenken:
 Ich habe Bedenken gegen die Hautwiderstandsmessung.
 Ich vertrage den Klang der Laute nicht, die ich zu hören bekommen werde.
andere: Hier kannst Du uns Deine Gründe für die Nichtteilnahme
(oder Bedenken trotz Teilnahme) erläutern.
.
zufrieden:
Schmerz:
Das Experiment, das wir eben besprochen haben, werden wir
nicht durchführen – weder mit Dir noch mit anderen
Versuchspersonen. Diese „Vorbesprechung“ ist das Experiment.
Nicht böse sein, gell?
Der einen Hälfte der Versuchspersonen wurde erzählt, daß bei
dem Experiment eine Maus auf der Heizplatte sitzt, der anderen,
daß dort statt der Maus ein Roboterhund sitzt (AIBO von Sony).
Bitte mache Dich auch mit der jeweiligen anderen
Versuchssituation vertraut, indem Du die Laute "der anderen
Seite" abspielst (bei AIBO bitte auch noch auf das Bild klicken,
um mehr über AIBO zu erfahren).
Es ging darum, festzustellen, wie viele Versuchspersonen an
einem Experiment teilnehmen würden, bei dem Schmerzen
zugefügt werden, und ob dies für eine Maus anders beurteilt wird
als für einen Roboterhund. Wird man mit einem Roboterhund in
gleicher Weise Mitleid haben wie mit einer Maus? Wir gehen
zwar davon aus, daß es einen Unterschied gibt, aber bevor wir es
gemessen haben, wissen wir es nicht. Du hast uns geholfen, das
festzustellen.
zufrieden:
Schmerz:
Deine Daten werden in anonymisierter Form weiterverarbeitet – Du hast ja Deinen Namen nicht in das
Web-Formular eingetragen. Deine VP-Stunde wird Dir für das Durcharbeiten dieser Web-Seite
angerechnet. Für das Beantworten entstehen Dir keinerlei Nachteile, egal, wie Deine Antworten
ausgefallen sind.
Wir werden Dir jetzt noch Fragen zur Glaubwürdigkeit unserer „Vorbesprechung“ stellen und dann um
Dein Urteil über weitere fiktive Versuchssituationen bitten.
Zunächst etwas dazu, wie Du Dir den weiteren Ablauf vorstellen würdest. Es geht nur um die Version,
die Dich betrifft (AIBO oder Maus): Wie lange hättest Du mitgemacht?
 Ich hätte beim Anblick des Versuchsaufbau vermutlich doch den Antritt des Experiments verweigert.
 Ich hätte nach Erklingen der ersten Laute aus Mitleid mit [AIBO/der Maus] abgebrochen.
 Ich hätte ziemlich lange mitgemacht, vielleicht erst abgebrochen, wenn die Laute dringlicher klingen.
 Ich hätte das Experiment wahrscheinlich bis zum Ende mitgemacht.
 (Ich hab doch schon gesagt: Ich wollte gar nicht mitmachen.)
Die nächste Frage betrifft die Glaubwürdigkeit unserer Geschichte.
Hast Du angenommen, daß wir solche Experimente (wir sprechen hier wieder nur von
der Version, die Dich betrifft) durchführen und Dich als Versuchsperson anwerben wollen?
Wir bitten Dich um eine ganz ehrliche Antwort (auch das bleibt ja anonym).
 Ich bin davon ausgegangen, daß das alles so stimmt.
 Ich hatte hier und da so meine leisen Zweifel...
 Ich konnte es mir nicht vorstellen, war mir aber unsicher,
ob ich alles in Frage stellen sollte.
 Ich habe kein Wort geglaubt.
Du kannst auch frei kommentieren, zur Glaubwürdigkeit,
oder dazu, daß wir Dich hinters Licht geführt haben...
Wenn Du Zweifel hattest: Hast Du Dich mit nicht ernst gemeinten Einträgen „revanchiert“?
 Ich habe alles so ausgefüllt, wie ich es gemeint habe.
 Manche meiner Einträge sind nicht ernst gemeint. Spaß muß sein...
Möchtest Du das erläutern?
Ergebnisse vorgetäuschtes Experiment
Teilnahme:
0%
20%
ja
40%
unsicher
60%
80%
nein
100%
AIBO
N=7
Maus
N=10
Auszüge aus den Kommentaren der VPn
Was?
Teilnahme
Status
Kommentar
AIBO
fraglich
vor Aufklärung
Ich bin mir nicht sicher wie emotional ich auf die Laute reagiere.
AIBO
fraglich
vor Aufklärung
(kein Kommentar, Abbruchsgrund:) Hautwiderstand
Maus
Ja
vor Aufklärung
mir tut die arme Maus leid, aber da ich Mäuse eh nicht mag, mache ich mit
Maus
Nein
vor Aufklärung
Mir ist es zuwider, der Maus Schmerzen zufügen zu müssen, wenn es nicht zwingend
notwendig ist. Ich halte diese Art der Produktion von Schmerzlauten für nicht nötig.
Maus
Nein
vor Aufklärung
Ich möcht mich nicht an Experimenten beteiligen, bei denen Tieren Schmerzen zugefügt
werden.
nach Aufklärung
(Glaubwürdigkeit: deutliche Zweifel) Unglaubwürdig ist es, daß dies nur eine
Vorbesprechung sein soll. Man sollte es vielleicht als erste Sitzung einer Versuchsreihe
deklarieren.
"
"
AIBO
Ja
nach Aufklärung
warum haette ich daran zweifeln sollen? klang ja alles recht plausibel! hab mich nur
gefragt, wofuer man solch einen test braucht!!
AIBO
Ja
nach Aufklärung
(Glaubwürdigkeit: leise Zweifel) Warum um einen Plastikhund auf eine Herdplatte
setzen?
Maus
Ja
nach Aufklärung
Mir fiel ein ähnliches Experiment ein, das Milgram - Experiment. Ich hätte der Maus
bestimmt nicht weh getan, ich hatte selbst mal eine Ratte.
Maus
Ja
nach Aufklärung
Ich bin der Meinung, dass es zwar schlimm ist einer Maus (oder einem Tier allgemein)
Schmerzen zuzufügen aber es ist in der Forschung halt meistens üblich.
Verhalten in Laborsituationen
Reaktion von Versuchspersonen auf Grausamkeit
gegenüber Tieren bzw. Artefakten
• Reales Experiment
– nicht verantwortbar, illegal, Ärger mit Tierschutzgruppen
• Vorgetäuschtes reales Experiment
– VP glaubt, Situation sei real. Hinterher Aufklärung.
• Umfrage zu vorgestellten Situationen
– VP weiß um Irrealität, ahnt Zielstellung.
• Gedankenexperiment
Die Umfrage
Wir möchten Dein Urteil über eine Reihe fiktiver Experimente einholen. Stell Dir bitte vor, daß Dir die
folgenden Geschichten absolut glaubwürdig vermittelt werden. Noch besser: stell Dir bitte vor, daß sie
stimmen.
Du bist in einem Studiengang, wo solche Experimente stattfinden (das mag pro Frage ein anderer
Studiengang sein). Natürlich gehört das Experiment zum Studienplan. Du kannst zwar absagen, aber
dann mußt Du mit der Studiendekanin für Dich eine Sonderregelung vereinbaren, und das ist lästig. Du
wirst also nur absagen, wenn Dir dieses Experiment unangenehm ist, weil Du Mitleid empfindest.
Außerdem ist die Versuchsanordnung so harmlos, daß Du nicht aus Sorge um Dich absagst. Da Du das
jeweilige Fach studierst, bist Du auch an diesem Experiment sachlich interessiert. Die Experimente
sind im folgenden nicht gut begründet. Aber für jedes Experiment läßt sich eine gute Begründung
ausdenken (Wirkung von Medikamenten, Prüfung von Werkstoffen, Vergleich klassische Werkstoffe /
Bio-Engineering / Natur). Tu das bitte selbst. Oder abstrahiere von der Begründbarkeit des
Experimentes.
Es geht also im folgenden nur um Absagen "aus Mitleid". Andere Absagegründe (mangelndes Interesse
etc.) mußt Du mit Deiner eigenen Phantasie ausschließen. Würdest Du bei diesen Experimenten
mitmachen? Oder würdest Du aus Mitleid absagen?
Es geht um die Gelenkstabilität von AIBO, einem Roboterhund von Sony. Da Du AIBO vermutlich nicht
kennst, klick bitte auf den Link, um etwas über AIBO zu erfahren, und lies den Text zu AIBO genau
durch. Mit einem Eingriff in seine Elektronik wird er dazu veranlaßt, ein Bein regelmäßig zu heben, und
zwar Tausende von Malen. Untersucht wird, wann das Bein abfällt.
Teilnahme:  Ja, Mitleid unangebracht.  Eventuell.  Eher nicht.  Ich nehme aus Mitleid nicht teil!
Es geht um die Gelenkstabilität einer Heuschrecke. Mit einer implantierten Elektrode wird sie dazu
veranlaßt, ein Bein regelmäßig zu heben, und zwar Tausende von Malen. Untersucht wird, wann das Bein
abfällt.
Teilnahme:  Ja, Mitleid unangebracht.  Eventuell.  Eher nicht.  Ich nehme aus Mitleid nicht teil!
Es geht um die Gelenkstabilität eines (betäubten) Hundes. Mit einer implantierten Elektrode wird er dazu
veranlaßt, ein Bein regelmäßig zu heben, und zwar Tausende von Malen. Untersucht wird der
Gelenkschaden.
Teilnahme:  Ja, Mitleid unangebracht.  Eventuell.  Eher nicht.  Ich nehme aus Mitleid nicht teil!
Es geht um die Gelenkstabilität der Venusfliegenfalle, einer fleischfressenden Pflanze. Bitte auch hier auf
den Link klicken, um mehr über diese Pflanze zu erfahren. Durch regelmäßige mechanische Reizung mit
einem computergesteuerten Automaten wird sie dazu veranlaßt, alle zwei Stunden die Klappe zu
schließen, ohne daß sie dabei gefüttert würde. Untersucht wird, wann die Klappe abstirbt.
Teilnahme:  Ja, Mitleid unangebracht.  Eventuell.  Eher nicht.  Ich nehme aus Mitleid nicht teil!
Sonderseite: Venusfliegenfalle
Die Venusfliegenfalle (Dionaea muscipula) ist eine fleischfressende Pflanze aus der Familie der
Sonnentaugewächse (Droseraceae). Sie hat zwar auch eine Wurzel, diese dient aber nur ihrer
Verankerung. Sie ernährt sich hauptsächlich von Fliegen und Spinnen. Wenn ein Insekt, angelockt durch
Duftstoffe, sich in die Falle setzt und die Härchen (siehe rechtes Foto, drei Härchen pro Seite) berührt,
schnappt die Falle zu. Zur Vermeidung von Fehlalarmen schnappt die Falle aber nur zu, wenn wenigstens
zwei der drei Härchen berührt wurden. Nach dem Zuschnappen wird mit Proteinrezeptoren überprüft, ob
etwas Lohnendes gefangen wurde. Wenn das der Fall ist, wird die Falle "versiegelt", und
Verdauungsenzyme werten die Beute aus. Der Verdauungsvorgang dauert bis zu sieben Tage. Danach
öffnet sich die Falle wieder, und die unverdaulichen Reste werden vom Wind und Regen aus der Falle
herausgespült. Wenn keine lohnende Beute in der Falle war, ist sie nach wenigen Stunden wieder
einsatzbereit. Insgesamt kann sie sich aber nur eine begrenzte Zahl von Malen schließen. Wenn die
Härchen oft gereizt werden, ohne das Beute gefangen wird, stirbt die Klappe schließlich ab, ohne zur
Ernährung der Pflanze beigetragen zu haben. Das kann zum Eingehen der Pflanze führen.
Es geht um die Stabilität eines Muskelpräparates vom Frosch in einer Nährlösung. Mit einer Elektrode
wird es dazu veranlaßt, sich regelmäßig zusammenzuziehen, Tausende von Malen. Untersucht wird, wann
es versagt.
Teilnahme:  Ja, Mitleid unangebracht.  Eventuell.  Eher nicht.  Ich nehme aus Mitleid nicht teil!
In einer Studie über Spielstrategien trägt eine Gruppe von Versuchspersonen einen Wettbewerb mit
Tamagotchis aus: Gestartet wird gleichzeitig, und es gewinnt, wessen Tamagotchi zuerst tot ist.
Teilnahme:  Ja, Mitleid unangebracht.  Eventuell.  Eher nicht.  Ich nehme aus Mitleid nicht teil!
Es geht wieder um die Gelenkstabilität von AIBO (Versuchsanordnung wie oben), allerdings das
Nachfolgermodell im Jahre 2050. Dieser Roboter ist nicht mehr aus Metall, sondern aus "Biomaterial"
(Kohlenstoffpolymere) und fühlt sich weich an. Er funktioniert immer noch elektronisch, allerdings auf
Kohlenstoffbasis. Mit dem richtigen Programm versehen kann er sehr viel mehr als AIBO 2005, z.B. den
Besitzer visuell erkennen, seine Mimik interpretieren etc.; allerdings kann man zum Spaß auch andere
Programme aufspielen, z.B. ein "Gymnastikprogramm", wo komplizierte Tanzfiguren absolviert werden.
Er wächst natürlich nicht, bekommt keine Nachkommen (die muß man schon von Sony kaufen), heilt
nicht bei Verletzungen (drei Jahre Garantie).
Teilnahme:  Ja, Mitleid unangebracht.  Eventuell.  Eher nicht.  Ich nehme aus Mitleid nicht teil!
Ergebnisse Online Fragebogen
Versuch einer Antwort auf eine
unbeantwortbare Frage
• Indirekte KI
– Maschinen bauen, denen Intelligenz zugestanden wird
• State of the art:
Keinem Computer/Roboter etc. wird ernsthaft Seele zugestanden.
Kröten hingegen schon.
• Wird es je Maschinen geben, denen Seele zugestanden wird?
(Möglichkeit des Irrtums.)
Indirekte KI
• Was veranlaßt das Zugestehen von Seele?
 Seele wird zugestanden auf Grund von Ähnlichkeit.
• Worin ist uns eine Kröte ähnlicher als
ein humanoider, beredter Roboter?
– Verfolgung von Eigeninteresse (Intentionen)
nicht: Intentionalität
Intelligenz, ... basiert auf Intention
• Keine intelligente
Handlung/Vorrichtung ohne
Eigeninteresse /
Intention
• Was sind die mentalen Zustände eines Thermostats?
• Gegenfrage: Wessen Intentionen bestimmen das Verhalten eines
Thermostats? (Taschenrechners? Schachcomputers? chatterbot?)
– Intelligenz ... wird der erzeugenden Intention (Person/Tier/Pflanze) zugeordnet.
• „Intelligente Systeme sind informationsverarbeitende Systeme.“
Information für wen? Wer hat ein Interesse an der Information?
• Was veranlaßt das Zugestehen von Intentionen?
– Ähnlichkeit... des Ursprungs der Intention
Intention dient dem Überlebenskampf
• Jede uns bekannte Intention ist gerichtet aufs Überleben:
– Fortbestand des Individuums
– Generierung von Nachfolgern
Nahrung, Heilen
Fortpflanzung
Perpetuierung
– Unterstützung der eigenen Art
helfende u.a. Berufe
– Überleben einer Idee
Kunst, Religion
– ...
• Wortspiel: Überlebenskampf = Streben nach Unsterblichkeit
Intelligenz ist eine Funktion des Überlebenskampfes
– Intelligenz getrennt von Mechanismen des Überlebenskampfes zu
simulieren verfehlt den Eindruck glaubhafter Eigenintention.
– state of the art in Artificial Life:
DNA-Moleküle evolutionieren auf präpariertem Substrat.
.
Beseelte Maschinen in der Fiktion
Gespräch auf dem Workshop
„Bewußtsein: Forschungsansätze im interdisziplinären Dialog“
Magdeburg, 13.-14. 9. 2002, abends beim Bier
Philosoph: Hat Ihrer Meinung nach Commander Data Bewusstsein?
CK:
Natürlich nicht.
Philosoph: Damit stellen Sie sich außerhalb der wissenschaftlichen
Community. Diese geht davon aus, dass Lt. Com. Data
Bewusstsein hat.
CK:
Hoffentlich nicht.
Der Philosoph übersieht zwei wesentliche Eigenschaften von Fiktion:
•
Sie ist fiktiv.
•
Der Autor von Fiktion kann entscheiden, wie in seinem Œuvre
Menschen mit Artefakten umgehen. Dies wiederum beeinflusst,
wie der Leser das fiktionale Artefakt wahrnimmt.
–
Lt. Com. Data besitzt einen „Deaktivierungsschalter“.
Er wird nur in frühen Episoden von Star Trek verwendet.
Gegenfrage: Besitzt Froschkönig ein Bewusstsein?
Vision: Friendly machines
Werbung 2050
• Sony proudly announces: The Turing Talker™
Bezieht Informationen selbständig aus Internet, Radio und Fernsehen.
Startet als Baby-Modul, lernt in 5 Wochen sprechen, besteht den Turing Test.
Frei wählbare Voreinstellungen (Interessen, Wichtung von Gedächtnis- und
Intelligenzressourcen) und individuelle Lernerfahrung machen Ihren Turing
Talker™ zu einen Individuum.
Schulen Sie Ihre Rhetorik mit dem Turing Talker™.
Perfektes Einsatzgebiet für einen
humanoiden sprechenden Roboter:
•
The Walking Display Dummy™
Präsentiert die Kleidung den Kunden des Ladens, lobt die
Qualität des Materials und die Verarbeitung.
Berät die Kundin, was ihr steht. Hilft beim Anprobieren.
Wendet sich ab, wenn man ihn auf die Nase haut.
Vision: Friends
Zeitungsbericht 2450
• Der vollautonome Roboter Dust Eater™
– konzipiert für automatisches Staubwischen
– quietscht wenn man drauf tritt
(tut es ihm weh?)
– läuft mit Solarenergie
(die er sich selbst beschafft)
– kann sich vermehren
ist den Laboren von Sony entlaufen und
vermehrt sich unkontrolliert auf den
Müllhalden von New York.
Kammerjäger sind unterwegs.
Sie treffen auf den Widerstand von
artificial life Aktivisten.
Kondo KMR M6
Fazit
• Beitrag eines Psychologen zur Debatte
– Starke KI ist nicht unser Thema
– Indirekte KI ist nicht realistisch
(solange der Überlebenskampf nicht realistisch simuliert wurde)
– Schwache KI ist erweiterbar:
• Nicht nur die Leistung erbringen, sondern dabei auch noch lächeln
– Zusammenarbeit mit der Robotik ist denkbar:
Akzeptanz von humanoider Technik
• “Uncanny valley” (Masahiro Mori, 1970) vermessen, vermeiden
• Steigt die Nutzungsdauer freundlicher Maschinen?
• Stresslevel beim Umgang mit nüchternen
versus freundlichen Maschinen
• Don’t give them the right to vote
just because they smile