Document

αὐτὸς – Auto – Automatik – Autonomie
Ethische Anmerkungen zu einer Konfusion
Frank Mathwig, Bern
I. Einleitung
Den wissenschaftlichen und technologischen Entwicklungen nach dem Zweiten Weltkrieg verdankt die Ethik ihren Dauerboom. Überall wo etwas entdeckt, erfunden oder entwickelt wird,
taucht sie auf – je nachdem zur Freude oder zum Leidwesen der Beteiligten. Gegenüber einem
in den Natur- und Technikwissenschaften lange kultivierten Misstrauen, die Aufgabe der Ethik
bestünde im Wesentlichen darin, ihnen um jeden Preis in die Suppe zu spucken, hat sich der
Ruf der Ethik in den letzten Jahrzehnten aus zwei Gründen nachhaltig gebessert: 1. sind manche Folgen und Wirkungen der umwälzenden wissenschaftlich-technologischen Entwicklungen inzwischen so dramatisch – ich nenne nur die Stichwörter Klimawandel und Biotechnologien –, dass allein die Ratlosigkeit und manchmal auch die Verzweiflung Ethik wieder salonfähig gemacht hat. Und 2. konnte der Soziologe Ulrich Beck die nach wie vor ethikkritisch
gestimmten Gemüter mit der Bemerkung beruhigen, dass ihr Einfluss in der Technologiegesellschaft ungefähr den Wirkungen einer Fahrradbremse im Interkontinentalflugzeug entsprechen würde. Aus technischer Sicht handelt es sich bei der Ethik also eher um eine harmlose,
um nicht zu sagen armselige Veranstaltung.
Die kürzeste mir bekannte Ethikdefinition stammt von Johann Wolfgang Goethe, der sich dabei
auf ein holländisches Sprichwort bezogen hat. Sie lautet: «Stolpern fördert.»1 Ethisches Nachdenken beginnt dort, wo die üblichen Verhaltensweisen, die gewohnheitsmässig und mehr
oder weniger automatisch abgespult werden, ins Stocken geraten, wo sich also – zunächst
intuitiv – Zweifel anmelden oder Widerstand spürbar wird: Ist das, wie es ist, vielleicht doch
nicht so, wie es sein sollte? Der Impuls hinter der Frage besteht in der jedem Techniker und
jeder Erfinderin vertrauten Einsicht, dass Fehler dazu da sind, um aus ihnen zu lernen (wobei
offen bleibt, was aus ihnen gelernt werden kann). Edison hat einer Anekdote zufolge 250 Glühbirnen gebraucht, bevor er die erste zum Leuchten brachte. Aber er habe, wie er einem Journalisten erklärte, aus jedem Fehlversuch etwas gelernt. In diesem Sinne geht es in den folgenden Bemerkungen um ein begleitetes Stolpern über den ethisch schillernden Begriff der
Autonomie.

1
Vortrag anlässlich der Bad Herrenalber Gespräche ‹autonom – vernetzt – gesteuert. Steuerungstechnik verändert die Gesellschaft›, 29. bis 31. Januar 2016, Bad Herrenalb
Johann Wolfgang von Goethe, Goethes Gespräche. Eine Sammlung zeitgenössischer Berichte aus
seinem Umgang, hg. v. Wolfgang Herwig, Bd. 5, Zürich, München 1972, 103; zur Geschichte des
Sprichworts vgl. Peter Matussek, «Stolpern fördert.» Störfälle als Inspirationsquelle: Zeitschrift für
Kulturwissenschaften 2/2011, 63–71 (63).
1
II. Über die Verhexung des Verstandes durch die Sprache
Wenn es zutrifft, dass wir falsch handeln, weil wir falsch denken – wie der Philosoph Georg
Picht behauptet hat – dann muss ethische Reflexion über das Handeln bei den Gedanken
ansetzen, die einem solchen Handeln vorausgehen und es begleiten. Das Nachdenken über
das Denken folgt einem kritischen Motiv, das der Beobachtung des Philosophen Ludwig Wittgenstein von der «Verhexung des Verstandes durch die Mittel unserer Sprache»2 geschuldet
ist. Moralphilosophisch gewendet geht es um Ethik als Sprachkritik. Kommunikation ist eine
Form intentionalen und interessengebundenen sozialen Handelns. Im Zentrum des ethischen
Interesses an der Sprache stehen zwei Fragen: 1. Wie verwenden wir bestimmte Begriffe?
Und 2. Warum – d. h. zu welchem Zweck und mit welchem Interesse – verwenden wir die
Ausdrücke so, wie wir sie benutzen?
Die drei Begriffe des Tagungstitels – «autonom», «vernetzt», «gesteuert» – haben es in sich.
Sie begegnen als Schlagwörter nicht nur in Technologie-, sondern auch in Ethikdiskussionen.
Allein dieser Zusammenhang verdient Beachtung, denn traditionellerweise beschäftigen sich
Technik und Ethik gerade nicht mit den gleichen Gegenständen. Für den Erfinder der wissenschaftlichen Ethik, den griechischen Philosophen Aristoteles, gibt es keine Schnittmenge zwischen technischem Herstellen und praktischem Handeln. Technisches Herstellen (poiesis –
vgl. Poetik oder Autopoiesis) liefert Mittel für andere Zwecke. Der Zweck des Hausbaus besteht nicht darin, ein Gebäude zu errichten, sondern um ein Dach über dem Kopf zu haben.
Der Hausbau ist lediglich ein probates Mittel für diesen Zweck. Technik ist in diesem Sinne ein
instrumentelles Handeln, mit dem kein Selbstzweck verfolgt wird. Praktisches – d.h. ethisch
relevantes Handeln – hat dagegen den Zweck in dem Handeln selbst. Aristoteles verdeutlicht
das an dem für uns eher befremdlich anmutenden Beispiel des Leierspielens. Der Zweck des
Musizierens liegt im Musizieren selbst. Das Bedienen des Instruments und der Zweck Musik
zu machen fallen zusammen. Bezeichnenderweise ist diese Unterscheidung aus dem dritten
vorchristlichen Jahrhundert nach wie vor aktuell und bildet die Hintergrundannahme jeder
Technikethik.
Unter dieser Voraussetzung stellt sich die Frage, wie Autonomie, Vernetzung und Steuerung
zugleich technische und ethische Begriffe sein können. Angesichts der Kürze der Zeit beschränke ich mich auf den ersten und spannendsten Begriff – die Autonomie. Wer in den letzten Jahren einmal in einem Krankenhaus war, hat die immense Bedeutung der Autonomie am
eigenen Leib erfahren. Jede medizinische Intervention bedarf der ausdrücklichen Zustimmung
durch die Patientin und den Patienten – zumindest der Theorie nach, dem ersten der Principles
of Biomedical Ethics von Tom L. Beauchamp und James F. Childress: «respect for autonomy».3 Das Autonomieprinzip ist ein ethisch kontroverser Dauerbrenner. Ursprünglich aus
menschenrechtlicher Sicht allen Menschen als Menschen kontrafaktisch zugeschrieben, läuft
2
3
Ludwig Wittgenstein, Philosophische Untersuchungen: ders., Werkausgabe, Bd. 1, Frankfurt/M.
1984, § 109.
Vgl. Tom L. Beauchamp/James F. Childress, Principles of Biomedical Ethics, New York, Oxford
62009.
2
die Autonomie der Menschenwürde zunehmend den Rang ab.4 Entsprechend stehen heute
Debatten über mögliche Einschränkungen oder den Verlust von Autonomie im Zentrum. Weil
Autonomie als Kriterium für besondere Achtung und Schutzwürdigkeit gilt, hat die Behauptung
eines Autonomieverlustes handfeste Konsequenzen für die davon Betroffenen, etwa Ungeborene, Menschen mit Behinderungen, Alzheimer oder Demenzerkrankungen. Wir haben es also
mit einer reichlich paradoxen Ausgangssituation zu tun: Auf der einen Seite wird Autonomie
zu einer knappen Ressource in den Humanwissenschaften, auf der anderen Seite begegnet
eine Ausweitung der bislang ausschliesslich anthropologischen Kategorie in den Technologiebereich.
III. Autonomie und Selbstbestimmung
Wenn ich Sie jetzt auffordere, sofort aufzustehen und unter den Stuhl zu kriechen, um dort
meinen weiteren Ausführungen zu folgen, werden Sie sich wahrscheinlich weigern. Und wenn
ich versuchen würde, Sie unter die Stühle zu zwingen, käme es entweder zu Handgreiflichkeiten oder Sie würden in die Rolle der Ethikerin oder des Ethikers schlüpfen und mir erklären,
dass wir in einer zivilisierten, möglichst gewaltfreien Gesellschaft nur zusammenleben können,
wenn wir uns wechselseitig als freie Mitglieder anerkennen. Sie könnten mich an den kategorischen Imperativ von Immanuel Kant oder die viel ältere Goldene Regel erinnern: «Was du
nicht willst, was man dir tu‘, das füg auch keinem andern zu.» Und wenn ich unbeeindruckt
davon auf meine Machtposition verweisen würde – «dann beende ich eben meinen Vortrag»
–, könnten sie entgegnen, dass es die Autonomie und Würde eines Menschen verletzt, wenn
er der Willkür anderer Menschen schutzlos ausgeliefert wird. Ein Staat – so könnten Sie etwas
mit Thomas Hobbes fortfahren –, der einfach dem Stärkeren die Macht überlässt, unterwirft
alle Schwächeren dessen Herrschaft und erklärt sie damit für unfrei und fremdbestimmt. Und
da niemand sicher sein kann, ob sie oder er nicht einmal auf eine oder einen Stärkeren trifft,
wäre es darüber hinaus auch irrational, sich auf das Prinzip von der Macht des Stärkeren zu
verlassen. Die Pointe der Begründung Ihrer Weigerung, unter die Stühle zu kriechen, besteht
in der Behauptung des menschenrechtlich fundamentalen Prinzips, dass sie freie und deshalb
selbstbestimmte Personen sind.
Im Grossen und Ganzen fahren liberale demokratische Rechtsstaaten mit dem Autonomieprinzip ganz gut. Wir erkennen uns wechselseitig als freie und autonome Bürgerinnen und
Bürger an. Seine erste Hochkonjunkturphase erlebte der Autonomiebegriff in der Aufklärung,
vor allem bei dem Philosophen Immanuel Kant. In seiner bekannten knappen Definition zur
Aufklärung hat er das Wesentliche zum Autonomiebegriff auf den Punkt gebracht: «Aufklärung
ist der Ausgang des Menschen aus seiner selbst verschuldeten Unmündigkeit. [...] Sapere
aude! [Horaz: Entschliess dich zur Einsicht] Habe Mut dich deines eigenen Verstandes zu
bedienen!»5 Selbst denken! – Dieses Motto wurde zum revolutionären Befreiungsschlag gegen menschliche Entmündigung, Fremdbestimmung und Unterdrückung. Autonomie darf nicht
4
5
Vgl. programmatisch Ruth Macklin, Dignity is a useless concept. It means no more than respect for
persons or their autonomy: BMJ 327/2003, 1419–1420.
Immanuel Kant, Beantwortung der Frage: Was ist Aufklärung? (1783), in: ders., Werke, Ed. Weischedel, Bd. VI, Darmstadt 1983, A 482.
3
– wie heute üblich – auf schlichte Selbstbestimmung reduziert werden, im Sinne eines zwanglosen und gewaltfreien selbst wählen, urteilen und entscheiden Könnens. Im gleichen Atemzug
geht es auch um die Freiheit, die Massstäbe und Kriterien für das eigene Wählen, Urteilen und
Entscheiden, selbst zu setzen. Autonomie beinhaltet also zweierlei: Selbstbestimmung als
Handlungsfreiheit und Selbstgesetzgebung (autos = selbst; nomos = Gesetz, Regel, Norm)
als Willensfreiheit. Nur wenn beide Bedingungen erfüllt sind, kann aus ethischer Sicht von
einer freien Person gesprochen werden. Zusammenfassend kann formuliert werden:
«– Der Mensch wird bestimmt als Vernunft- und Freiheitswesen,
– das befähigt ist zu einer umfassenden Selbstverfügung aus eigenem Urteil.
– Dies begründet zum einen seine Verantwortung,
– zum andern seine Unverfügbarkeit und damit
– die Unantastbarkeit seiner Würde als Person.»6
Soviel zunächst zum ethischen Autonomiebegriff. Wie passen diese Vorstellungen zu der
Rede von autonomen Techniken, Maschinen oder dem autonomen Fahren?7 Bekannt sind die
selbstfahrenden Google-Autos, aber auch auf deutschen Strassen sind Prototypen im Rahmen
von Forschungsprojekten unterwegs. Im Geleitwort der von der Daimler und Benz-Stiftung geförderten Studie von Maurer et al. zum Autonomen Fahren werden die «mittelbare[n] Wirkungen auf unsere Gesellschaft» betont, die zahlreiche kritische Fragen aufwerfen würden: «[…]
Wie werden wir mit weitreichenden Eingriffen in unsere mobile Autonomie umgehen? […] In
welcher Form haften künftig Versicherungen bei Unfällen durch autonome Fahrzeuge? Oder
umgekehrt gefragt: Dürfen wir überhaupt noch Menschen ans Steuer lassen, sollten Fahrroboter die Sicherheit im Strassenverkehr nachweislich erhöhen?»8 Die Autoren kommen zu
dem Schluss, dass «ethischen Fragen eine Klammerfunktion zukommen [wird]. Erst wenn es
gelingt, autonom agierenden Fahrzeugen eine Art von Entscheidungsethik mitzugeben, vermag sich die Fahrrobotik auch in der Praxis zu behaupten. Dies gilt insbesondere für sogenannte Dilemma-Situationen, in denen eine Abwägung getroffen werden muss, welches Verhalten im Falle einer unvermeidbaren Kollision den beteiligten Personen innerhalb und außerhalb des Fahrzeugs den geringsten Schaden zufügt.»9
Vergleicht man die Bemerkungen zur integralen Funktion der Ethik mit den nachfolgenden
Ausführungen zeigt sich ein inzwischen gewohntes Bild: Längst nicht überall, wo Ethik draufsteht, ist auch Ethik drin. Denn in der eben genannten, 732 Seiten umfassenden, ausdrücklich
interdisziplinär angelegten Studie über Autonomes Fahren werden auf ganzen zwei Seiten in
der Einleitung autonomieethische Fragen diskutiert. Die beiden Ethikkapitel im Grundlagenteil
6
7
8
9
Johannes Eurich, Eingeschränkte Menschenwürde. Unterschiedliche Menschenbilder in der Pflege
und ihre Folgen für Menschen mit Demenzerkrankung: Pflege&Gesellschaft 13/2008, 350–362
(353).
Vgl. Markus Maurer et al. (Hg.), Autonomes Fahren. Technische, rechtliche und gesellschaftliche
Aspekte, Heidelberg 2015.
Eckard Minx/Rainer Dietrich, Geleitwort: Mauerer, et al. (Hg.), Autonomes Fahren, a.a.O., V–VII
(V).
Minx/Dietrich, Geleitwort, a.a.O., VI.
4
von Patrick Lin und J. Christan Gerdes/Sarah M. Thornton10 interessieren sich nicht für das
Autonomiethema, sondern fokussieren auf Entscheidungsdilemmata und ihre Programmierung – etwa: Sollen autonome Fahrzeuge so programmiert werden, dass sie bei Tieren bremsen und damit einen Unfall riskieren oder sollen sie so reagieren, dass im ungünstigen Fall
eher die Grossmutter überfahren wird als das Kind neben ihr? Aber zurück zum Thema: Was
ist ein «autonomes Fahrzeug» bzw. «autonomes Fahren» und worin besteht die beiden attestierte «Autonomie»?
Von autonomem Fahren wird dann gesprochen, wenn die «Fahraufgabe […] ‹vollautomatisiert› ausgeführt [wird, … wobei] die Ausführung der Fahraufgabe auf Basis maschinell autonomen Verhaltens, innerhalb eines vorher festgelegten Verhaltensrahmens geschieht». Ein
vollautonomes Fahrzeug «kann auf gleichem Niveau wie ‹Driveronly›-Fahrzeuge nahezu alle
Strecken autonom fahren. Diese Definition geht über die Unterteilung des Automatisierungsgrads des Fahrers hinaus und beschreibt das Fahrzeug selbst.»11 In dieser Definition wird der
Autonomiebegriff in dreierlei Weise verwendet: 1. als Synonym zum Ausdruck «vollautomatisiert»; 2. zur Attributierung eines Vorgangs (das Fahren) und 3. zur Kennzeichnung einer komplexen Technologie (das Fahrzeug). Bereits an dieser Stelle drängt sich die Frage auf, warum
von dem unspektakulären Begriff der Vollautomatisierung auf den für technische Zusammenhänge ungewöhnlichen Begriff der Autonomie umgestellt wird.
IV. Pferd versus Chip
Ein Aspekt von Autonomie begegnet bereits in dem Ausdruck «Automobil» aus der Anfangsphase der Geschichte der Mobilitätstechnologien. Der Begriff setzt sich zusammen aus dem
schon erwähnten griechischen Wort autos (selbst) und dem lateinischen mobilis (beweglich)
und bezeichnet entsprechend die Selbstbeweglichkeit des Autos. Das Automobil wurde unabhängig von einem externen Antrieb – in der Regel von einem Zugtier – und bewegte sich ganz
aus eigener Kraft. Diese Emanzipation des Fahrzeugs von einer fremden Instanz hatte aber
einen Haken. Ein gut dressiertes Pferd konnte das Fuhrwerk auch mit einem sternhagelvollen
Kutscher selbstständig und sicher nach Hause manövrieren. Das Gespann besass eine Fähigkeit, die einem Autofahrer in einem dem Kutscher vergleichbaren Zustand nicht attestiert
werden sollte. Dieser genusstechnische Nachteil des Automobils gegenüber dem Pferdefuhrwerk hat nicht nur anekdotisches Potential, sondern führt mitten in das Thema «autonomes
Fahren». Nach der oben genannten Definition macht das Pferd genau das, was in einem autonomen Fahrzeug der Chip erledigt: Auf einen entsprechenden Impuls hin, setzen beide auf
konditionierte Weise ein Fahrzeug in eine koordinierte Bewegung. Aus der Sicht des fahrun-
10
11
Vgl. Patrick Lin, Why Ethics Matters for Autonomous Cars: Mauerer, et al. (Hg.), Autonomes Fahren, a.a.O., 69–86; J. Christian Gerdes/Sarah M. Thornton, Implementable Ethics for Autonomous
Vehicles: ebd., 87–102; vgl. auch Armin Grunewald, Gesellschaftliche Risikokonstellation für autonomes Fahren – Analyse, Einordnung und Bewertung: ebd., 661–685.
Walther Wachenfeld et al., Use-Cases des autonomen Fahrens: Mauerer, et al. (Hg.), Autonomes
Fahren, a.a.O., 9–37 (34.37).
5
tüchtigen Kutschers wie der modernen Fahrgäste geschieht alles vollautomatisiert. Den heimischen Stallgeruch haben heute lediglich programmierbare GPS-Daten ersetzt. Würden wir
aber deshalb einem Pferd Autonomie zuschreiben?
Eher nicht, denn wir können dem Pferd weder Absichten noch ein planvolles Handeln unterstellen. Es verhält sich schlicht seinen andressierten Routinen gemäss. Würde dieses Pferd
auf dem Heimweg einen Unfall verursachen, hätte es – im Gegensatz zum Kutscher – keine
strafrechtlichen Massnahmen zu befürchten. Vor Gericht gälte der Gaul als unzurechnungsfähig und wäre weder verantwortlich, noch schuldfähig. Auch die Behauptung des schlagartig
ernüchterten Kutschers, sein Pferd habe sich von selbst in Bewegung gesetzt, würde an dem
Sachverhalt nichts ändern. An dieser Stelle zeigt sich der tiefere Sinn der oben erwähnten
Zwei-Ebenen-Struktur der Autonomie: Es geht nicht nur um ein Verhalten, sondern dieses
Verhalten muss einer frei gewählten Absicht zugeschrieben werden können. Eine Absicht zu
verfolgen bedeutet, das eigene Verhalten an den selbstgesetzten Normen und Zielsetzungen
zu orientieren. Gelingt diese Koordination sprechen wir von einem – im weitesten Sinne –
freiwilligen Handeln.
An dieser Stelle beginnen die ethischen Probleme des autonomen Fahrens: Wie kommen Absichten, Gründe, Zurechnungsfähigkeit und Verantwortung in das autonome Fahrzeug? Wer
baut sie ein? Wer ist anschliessend die Instanz, die auf etwas verpflichtet und dafür verantwortlich gemacht werden kann? Und wem können die konkret getroffenen Entscheidungen
und daraus resultierenden Folgen zugerechnet werden? Wer ist das freie Subjekt, das zwar
nicht mehr hinter dem Steuer sitzt, aber trotzdem steuert? Die Suche nach dem Kopf, der im
Zweifelsfall hingehalten werden muss oder kann, beschäftigt diverse Wissenschaften. Selbstverständlich ist die Herausforderung nicht neu. Sie stellt sich bei jeder Grosstechnologie, deren
Nebenfolgen und Fernwirkungen zur Zeit ihrer Implementierung und auch bei ihrem Einsatz
gar nicht oder nur sehr eingeschränkt bekannt und prognostizierbar sind. Die ethische und
rechtliche Zuschreibung der Verantwortung für technische Pannen und Havarien gehört zu
den anspruchsvollsten Herausforderungen, wie die Palette der in der Technology AssessmentLiteratur diskutierten Fälle zeigt: die kalkulierten Sicherheitsmängel beim Ford Pinto in den
1970er Jahren, die Chemieunfälle von Seveso 1976 und Bhopal 1984, die Reaktorhavarie von
Tschernobyl 1986, das Unglück der Raumfähre Challanger von 1986, die Software-Fehler
beim Linearbeschleuniger Therac-25, der 1985 bis 1987 in der Strahlentherapie eingesetzt
wurde, das Space Shuttle Columbia Unglück von 2003 oder der Untergang der Estonia 2009.
In allen Fällen waren die Verantwortungsverhältnisse diffus und die systemisch-komplexen
12
Ereignisse nicht einzelnen Handlungssubjekten zurechenbar.
Worin besteht nun das Neuartige an dem Verantwortungsproblem bei autonomen Fahrzeugen? Neu erscheint zunächst eine Wahrnehmungsirritation: Es ist niemand vorhanden, dem
wir gemäss unserer vertrauten Reaktionsmuster Verantwortung aufbürden, Nachlässigkeit an-
12
Vgl. Frank Mathwig, Technikethik – Ethiktechnik. Was leistet Angewandte Ethik?, Stuttgart 2000,
93–128; ders., Engineering – Technology – Responsibility. Anmerkungen zur Ingenieurethik: VSHBulletin Nr. 2, August 2013, 35–42.
6
kreiden und Fehler vorrechnen können. Zwar befinden sich Passagiere im Auto, aber von diesen ist nachweislich niemand gefahren. Auch kann niemand dafür haftbar gemacht werden,
dass sie oder er das Fahrzeug fahrlässig sich selbst überlassen hat. Denn eine Fahrzeugführerin oder ein Fahrzeugführer sind nicht vorgesehen. Bei einem Verkehrsunfall ohne Verletzte
lautet die erste Frage: Wer ist gefahren? Meist gefolgt von der zweiten Frage: Wer ist schuld?
Vorausgesetzt wird dabei, dass die Schuld- resp. Verantwortungsfrage sinnvoll nur Personen
gestellt werden kann, die aktiv an dem Ereignis beteiligt waren. Sind keine Handlungssubjekte
vorhanden, denen das Ereignis direkt oder indirekt zugeschrieben werden kann, haben wir es
– gemäss einer in der Handlungstheorie üblichen Unterscheidung – nicht mit Handlungen zu
tun, sondern mit Naturereignissen. Erdbeben und Flutkatastrophen sind keine Handlungen,
weil die Natur – entgegen einer unsauberen metaphorischen Sprache – nicht handelt. Naturereignisse sind zweifellos kausal verursacht, aber sie haben weder einen Akteur, noch sind
sie intendiert oder verfolgen bestimmte Zwecke. Deshalb käme niemand auf die Idee, die Natur für ein geschehenes Unglück verantwortlich zu machen – abgesehen vielleicht von Hilary
Putnams zwei Marswesen, die auf der Erde landen und einen Waldbrand beobachten. «Einer
von ihnen sagt, ‹Ich weiss, was das verursacht hat – die Atmosphäre des verfluchten Planeten
ist mit Sauerstoff gesättigt.›»13
Grundsätzlich können nur Handlungssubjekte auch Verantwortungssubjekte sein. Diese ethische Faustregel – die für den Alltag vollständig ausreicht – scheint allerdings in manchen komplexeren Systemzusammenhängen an ihre Grenzen zu stossen. Genau besehen sind autonome Fahrzeuge ein Unding für die Ethik, denn Autonomie ohne ein dazugehöriges Subjekt
kann es für sie per definitionem nicht geben. Autonomie ist kein Merkmal von Handlungen,
sondern von Subjekten, die freiwillig und absichtlich, also auf der Grundlage eigener Motive,
Gründe und Zielsetzungen handeln. Der Wellensittich, der durch das geöffnete Fenster fliegt,
ist zwar frei, aber nicht autonom. Er mag einem Impuls gefolgt sein, kann aber keine Gründe
für seine Flucht angeben, weil er keine Idee davon hat, seinen Ausflug vor dem Hintergrund
irgendwelcher Normen oder Prinzipien zu rechtfertigen. Insofern wäre es falsch, ihm überhaupt
ein Handeln zu unterstellen, er verhält sich schlicht instinktgemäss.
V. Moralische Maschinen?
Um Autos sinnvoll Autonomie zuschreiben zu können, muss ihnen ein Handeln unterstellt werden, also genau das, was wir Erdbeben, Pferden und Wellensittichen aus guten Gründen absprechen. Tatsächlich gibt es – mehr oder weniger ernst gemeinte – Versuche, nicht nur eine
solche Begründung zu liefern, sondern darüber hinaus auch noch eine Maschinenmoral zu
etablieren.14 Ich muss mich auf eine kurze Kostprobe beschränken. Vor dem Hintergrund der
13
14
Hilary Putnam, Warum es keine Fertigwelt gibt: ders., Von einem realistischen Standpunkt. Schriften zur Sprache und Wirklichkeit, Reinbek 1993, 174–202 (184).
Vgl. Michael Baumann, Auto mit Moral: Schweiz am Sonntag, Nr. 20, 17. Mai 2015, 50; Martin
Randelhoff, Fahrzeugethik und moralische Fahrzeuge: http://www.zukunft-mobilitaet.net/147239/
zukunft-des-automobils/automatisiertes-fahren-ethik-fahrzeugethik-moralische-fahrzeuge/;
Andreas Spahn, Moralische Maschinen? – ‹Persuasive Technik› als Herausforderung für rationalistische Ethiken: https://pure.tue.nl/ws/files/3656712/ 378245999587846.pdf (28.01.2016); Oliver
Bendel, Die Industrie 4.0 aus ethischer Sicht: HMD 52/2015, 739–748; Bruno Gransche/Erduana
7
oben skizzierten Zweistufigkeit definiert Markus Maurer «Autonomie als ‹Selbstbestimmung
im Rahmen eines übergeordneten (Sitten)-Gesetzes›».15 Der kantische Ausdruck des Sittengesetzes entspricht unserer zweiten Ebene der Selbstgesetzgebung. Wie kommt nun diese
Autonomie ins autonome Fahrzeug? Mauerers Vorschlag lautet: «Im Fall des autonomen
Fahrzeugs gibt der Mensch dieses Sitten-Gesetz vor, indem er das Verhalten des Fahrzeugs
programmiert: Immer wieder muss das Fahrzeug im Verkehr Verhaltensentscheidungen treffen – bzw. werden Entscheidungen ausgeführt, die zuvor von Menschen für alle erdenklichen
Fälle programmiert wurden. […] Konfrontiert mit dieser Definition konnten Studierende der Ingenieurwissenschaften in Braunschweig und München bereits in den letzten zehn Jahren erkennen, dass sie bei der Entwicklung autonomer Fahrzeuge nicht nur Technik erforschen und
entwickeln sollen, sondern in aller Konsequenz auch ‹Sittengesetze› implementieren werden.»16
Der Autor ist sich der Steilheit seiner These durchaus bewusst, aber er hält an ihr fest, weil sie
die Möglichkeit böte, «die unmittelbare Verknüpfung von technischer Entwicklung und ethischen Überlegungen aufzuzeigen».17 Der springende Punkt betrifft die Frage der unmittelbaren Verknüpfung. Wie lässt sich ein moralisches Orientierungsraster (das Sittengesetz) in Entscheidungsalgorithmen transformieren und auf einen Chip programmieren? Die Antwort lautet:
in genau entgegengesetzter Richtung zur Kantischen Architektur des Sittengesetzes. Der Königsberger Philosoph war überhaupt nicht an konkreten Handlungen interessiert. Sein kategorischer Imperativ zielt nicht auf Handlungen, sondern – wie er es nannte – auf «Maximen des
Handelns», also jene Normen und Regeln, an denen ein autonomes Subjekt sein Handeln
orientiert.18 Kategorisch heisst der Imperativ, weil er – wie Kant – im Vorfeld ausführt, unbedingt gilt und nicht nur hypothetisch oder konditional. Maurer und mit ihm jede Programmiererin
folgen einer präzise entgegengesetzten Strategie: Sie haben konditionale Wenn-Dann-Algorithmen im Blick, bei denen bestimmte Reaktionen genau definierten Bedingungen zugeordnet
werden – also etwa die Regel: Wenn eine Kollision mit zwei Motoradfahrern, von denen einer
mit und der andere ohne Helm unterwegs ist, nicht abgewendet werden kann, dann steuere
auf den Fahrer mit Helm zu. Patrick Lin diskutiert diesen Fall. Für die Entscheidung, im Zweifelsfall einen Unfall mit dem behelmten Fahrer zu riskieren, sprechen dessen weitaus grössere
Chancen, den Crash zu überleben. Bei dieser Option wird der Lebensschutz priorisiert. Gegen
diese Entscheidung kann argumentiert werden, dass der Fahrer mit Helm für seine korrekte
Sicherheitsausstattung bestraft, während die Ordnungswidrigkeit des anderen Fahrers auch
noch sozusagen honoriert würde, weil er als Unfallkandidat verschont wird. Interessant ist
15
16
17
18
Shala/Christoph Hubig et al., Wandel von Autonomie und Kontrolle durch neue Mensch-TechnikInteraktionen. Grundsatzfragen autonomieorientierter Mensch-Technik-Verhältnisse, Stuttgart
2014; Erduana Shala, Die Autonomie des Menschen und der Maschine. Gegenwärtige Definitionen
von Autonomie zwischen philosophischem Hintergrund und technologischer Umsetzbarkeit, Hochschulschrift des Karlsruher Instituts für Technologie (KIT), Karlsruhe 2014.
Markus Maurer, Einleitung: ders., et al. (Hg.), Autonomes Fahren, a.a.O., 1–8 (3).
Ebd.
Ebd.
Vgl. die bekannteste Formulierung des kantischen Sittengesetzes: «Handle nur nach derjenigen
Maxime, durch die du zugleich wollen kannst, dass sie ein allgemeines Gesetz werde.» (Immanuel
Kant, Grundlegung der Metaphysik der Sitten, Ed. Weischedel, Bd. IV, Darmstadt 1984, BA 52).
8
diese Begründung, weil sie mit unseren moralischen Intuitionen spielt und die Entscheidungsmatrix autonomer Fahrzeuge mit der political correctness einer Sozialdisziplinierung verbindet
– das autonome Fahrzeug wird sozusagen zum Dirty Harry der Sozialhygiene. Lin gibt allerdings Entwarnung wenn er betont, dass Programmierer für solche Szenarien Kostenkalkulationen vornehmen mit der Zielvorgabe: «selecting the one with the lowest costs», freilich mit der
Konsequenz, potentiell darüber zu entscheiden, «who gets to live and who gets to die».19 Die
Entscheidungslogik ist aus der Triagemedizin seit langem bekannt.20 Im Feldzug gegen Rommel in Nordafrika verfügte das amerikanische Oberkommando, das knappe Penicillin aus Effizienzgründen im Blick auf eine möglichst schnelle Einsatzbereitschaft, nicht den Schwerverletzten zu verabreichen, sondern den Soldaten, die sich beim Bordellbesuch eine Geschlechtskrankheit eingefangen hatten.21
VI. Diesseits und jenseits der Normen
Spannend ist an dieser Stelle die Frage, was – sofern wir solche Gefühle haben – unser Unbehagen an solchen Szenarien provoziert. Natürlich darf Autofahren nicht mit einem militärischen Feldzug gleichgesetzt werden (auch wenn die Grenzen im realen Strassenverkehr
manchmal verschwimmen). Aber was folgt daraus? Dass wir unser Verhalten nicht an rationalen Effizienzkriterien orientieren sollten? Oder dass wir überhaupt auf Strategien beim Autofahren verzichten sollten? Weder noch! Vielmehr kommt es darauf an, in den entsprechenden
Situationen die angemessenen Fragen zu stellen. Entgegen seiner Behauptung, plädiert Maurer gar nicht für die Implementierung des kantischen Sittengesetzes, sondern für die Algorithmisierung eines Moralautomatismus nach behavioristischem Muster:22 Immer wenn der Fall X
eintritt, tue Y – immer wenn etwas von oben herabfällt, zieh den Kopf ein!
Maurer übersieht, dass das von ihm ins Auge gefasste Sittengesetz gerade die kritische Kontrollinstanz zu seiner Chip-Moral bilden würde. Kant hätte den Programmierer Maurer, der gerade dabei ist, den Motorradfahrer-Algorithmus einzugeben gefragt: Kannst Du wollen, dass
diese Entscheidung zu einem allgemeinen Gesetz erhoben wird? Willst du, dass diese Entscheidung generellen Charakter hat und nicht nur aus ökonomischer Sicht gelten soll? Soll sie
auch in dem Fall gelten, wenn hinter dem Fahrer mit Helm seine 10 jährige Tochter sitzt oder
der Fahrer als Kurier ein Transplantationsorgan auf dem Gepäckträger transportiert oder sich
unter dem Helm das schöne Gesicht deiner geliebten Ehefrau verbirgt? Würdest du auch dann
19
20
21
22
Lin, Ethics, a.a.O., 73.
Vgl. die wichtigen Texte von John M. Taurek, Should the Numbers Count?: Philosophy & Public
Affairs 6/1977: 293–316; Gilbert Harman; Das Wesen der Moral, Frankfurt/M. 1981; Weyma Lübbe,
Wirtschaftlichkeit und Gerechtigkeit: zwei ethische Gebote? Eine Grundlagenreflexion: Bettina
Schöne-Seifert/Alena M. Buyx/Johann S. Ach (Hg.), Gerecht behandelt? Rationierung und Priorisierung im Gesundheitswesen, Paderborn 2006, 17–30. Gegenüber quantitativen Güterabwägungen von Menschenleben gibt Lübbe in Auseinandersetzung mit Taurek zu bedenken: «Die Summe
der Verluste ist dann niemandes Verlust. Niemand stirbt fünf Mal, wenn fünf Menschen sterben.
Weit und breit gibt es nur einzelne Menschen, die um ihr einzelnes Leben fürchten.» (ebd., 21).
Vgl. Theo Junginger et al. (Hg.), Grenzsituationen in der Intensivmedizin. Entscheidungsgrundlagen, Heidelberg 2008, 101.
Vgl. die alte aber nach wie vor brillante Kritik von Amartya Sen, Rational Fools. A Critique of the
Behavioural Foundations of Economic Theory: Philosophy and Public Affairs, VI/1977, 317–344.
9
so programmieren? Abgesehen davon, dass keiner Frau ein solcher Programmierer als Ehemann zu wünschen wäre, zeigt sich hier ein in Philosophie und Ethik seit langem intensiv
diskutiertes Thema: die Frage nach der Generalisierbarkeit von Normen und Gründen.23 Generalisiertes Verhalten lässt keine Ausnahmen zu. Ein algorithmisiertes Verhalten entspricht
der perfekten Dressur, die für jede Situation nur eine einzige beste Begründung und entsprechend nur eine einzige Option gelten lässt.
Autonome Wesen zeichnen sich dadurch aus, dass sie Gründe nicht nur kritisch prüfen, sondern ihnen widersprechen können. Autonomie rechnet immer mit dem Widerstand gegenüber
der Norm. Die Perfektion autonomer Fahrzeuge besteht nicht darin, dass sie im Gegensatz zu
herkömmlichen Autos immer gleich reagieren (denn das Gleiche ist unter den Bedingungen
historischer Kontingenz niemals das Gleiche), sondern darin, dass sie einer programmierten
Norm weder «widersprechen» noch «zuwiderhandeln» können. Sie haben den Menschen den
perfekten Regelgehorsam voraus. Wären Sie autonom im Sinne von autonomen Fahrzeugen,
würde ich Sie jetzt bitten, wieder unter ihren Stühlen hervorzukommen.
___________________
Frank Mathwig
30.01.2016
[email protected]
23
Vgl. dazu Frank Mathwig, Riskante Freundschaft. Zur Rolle der Freundschaft in der Ethik: Marco
Hofheinz/Frank Mathwig/Matthias Zeindler (Hg.), Freundschaft. Zur Aktualität eines traditionsreichen Begriffs, Zürich 2014, 263–277.
10