Zur ethischen Bewertung sicherheitsrelevanter

Reinhard Merkel
Universität Hamburg
Zur ethischen Bewertung
sicherheitsrelevanter Forschung
Objekte einer möglichen Zuschreibung
von Dual-Use-Eigenschaften
1. Forschung: Formen wissenschaftlichen Handelns
2. Technologien: Formen verfügbaren Wissens
2.1 propositionales Wissen (“knowing that”)
2.2 praktisches Wissen (“knowing how”)
3. Materielle Produkte: verwendbare Gegenstände
Diese drei Sphären haben jeweils unterschiedliche Distanz zu
einem potentiellen Missbrauch durch Dritte: (1.) ist davon weiter
entfernt als (2.) und dieses weiter als (3.).
Auf der Hand liegt ein einfacher systematischer Zusammenhang:
Forschung zielt (meist) auf die Entwicklung verfügbaren Wissens
und dieses (sehr oft ) auf die Erzeugung bestimmter Produkte.
Kriterien der Ermittlung bzw. Zuschreibung
von Dual-Use-Eigenschaften
In den „Empfehlungen“ von DFG und Leopoldina werden solche
Kriterien nicht formuliert. Dort heißt es nur ganz allgemein:
„Der Forscher soll […] bei missbrauchsgefährdeten Arbeiten
auch die Folgen seiner Forschung berücksichtigen, deren nützliche Ergebnisse von anderen Personen zu schädlichen Zwecken
missbraucht werden können.“
So formuliert kann das als Dual-Use-Kriterium nicht gut gemeint
sein. Die bei jedem neuen Forschungsergebnis bestehende und
gänzlich triviale Möglichkeit eines Missbrauchs durch andere ruft
keine Dual-Use-Bedenken auf den Plan.
Bedingung jeder normativen Maßgabe ist es aber, dass ihr Anwendungsbereich hinreichend genau bestimmt werden kann.
Die Definition des Ethikrats …
... bezogen auf „Dual Use Research of Concern“ (DURC) „in Anlehnung an die international anerkannte Definition des NSABB“:
„…lebenswissenschaftliche Arbeiten, bei denen anzunehmen ist,
dass sie Wissen, Produkte oder Technologien hervorbringen, die
unmittelbar von Dritten missbraucht werden könnten, um das
Leben oder die Gesundheit einer Vielzahl von Menschen, die
Umwelt oder sonstige bedeutsame Rechtsgüter zu schädigen.“
Auch das ist als Definition nicht hinzureichend. Es erfasst (1.) nur
den potentiellen Missbrauch durch Dritte, lässt (2.) zahlreiche
schwierige Fragen offen und erfordert (3.) eine Reihe von Klarstellungen.
Hier einige davon:
Offene Fragen, notwendige Präzisierungen
 Erfassen die DURC-Kriterien auch Forschungen, für deren
Ziele zu befürchten ist, dass zwar nur der intendierte, also „richtige“ Gebrauch (primary use) davon gemacht wird, aber ggf. von
den „falschen“ Personen oder Institutionen?
Beispiel: Hightech-Massenvernichtungswaffen – „gebraucht“,
wenn sie von den USA, aber ipso facto „missbraucht“, wenn sie
von China (oder Nordkorea) eingesetzt würden?
M.E. ja – und zwar nicht wegen China oder Nordkorea, sondern
weil allen Kriegswaffen das erhebliche Risiko ihrer Verwendung
unter Verletzung des humanitären Völkerrechts anhaftet.
Zur Abgrenzung: kein DURC-relevantes Forschungsergebnis
war aber Einsteins Formel e = mc2. (Frage: warum genau ?)
Fragen, Präzisierungen (II)
 Erfassen die Kriterien auch Fälle als „Missbrauch“, in denen
die ggf. katastrophal destruktive Verwendung (v.a. von Technologien) nicht auf vorsätzliches, sondern auf fahrlässiges Verhalten zurückgeht?
Beispiel: Reaktorkatastrophe von Tschernobyl.
M.E. nein; das ist kein Umstand, durch den die Reaktorforschung
sozusagen ex post als DURC identifiziert worden wäre. Die
Möglichkeit, ja Absehbarkeit von Unfällen, und würden sie durch
noch so gravierend verwerfliches Verhalten herbeigeführt, macht
neue Technologien nicht zu DURC-relevanten Gegenständen.
Die Frage der DURC-Relevanz kann also nicht allein mit Blick
auf mögliche katastrophale Folgen beantwortet werden.
Fragen, Präzisierungen (III)
 Erfassen die Kriterien Fälle, in denen das Forschungsergebnis
selbst als direkte schwere Schädigung eines „sonstigen bedeutsamen Rechtsguts“ qualifiziert wird, aber
1. nicht von allen Beurteilern und
2. nicht im Modus einer schnellen massenhaften Wirkung an
einer „Vielzahl von Menschen“, sondern erst über eine zeitlich lang ausgedehnte Wirkung in fernerer Zukunft?
Beispiel: „Genome Editing“ (durch CRISPR/Cas) zur „Verbesserung“ des Genoms menschlicher Embryonen in vitro – also als
Keimbahneingriff mit Wirkung für alle künftigen Generationen.
M.E. nein, wiewohl viele das als gravierende Verletzung der
Menschenwürde beurteilen. (Erneut Frage: warum genau nicht?)
Abschließender Hinweis: aus
einem Report der Nationalen Geheimdienste der USA von vor drei Monaten
CRISPR/Cas ist also sehr wohl DURC-relevant – aber nicht, weil
man damit das menschliche Genom gezielt verändern, sondern
weil man neue, ggf. extrem gefährliche Viren erzeugen kann
Zur Frage der Verantwortung: Wissenschaftler
und andere an der Wissenschaft Beteiligte
Die Bestimmung konkreter Verantwortlichkeiten bedarf einer
Unterscheidung und jeweils funktionsspezifischen Beurteilung
der an Forschung und Wissenschaft Beteiligten; das sind v.a.
- die Wissenschaftler;
- die Institutionen, in denen sie tätig sind;
- die für die Publikation wissenschaftlicher Ergebnisse
Zuständigen;
- die Institutionen der Forschungsförderung;
- die Wissenschaftspolitik;
- die wissenschaftlich interessierte Öffentlichkeit.
Mit den unterschiedlichen Zuständigkeiten dieser Gruppen sind
jeweils spezifische Verantwortlichkeiten verbunden.
Zur Frage der Verantwortung: Wissenschaftler
und andere an der Wissenschaft Beteiligte
Die Bestimmung konkreter Verantwortlichkeiten bedarf einer
Unterscheidung und jeweils funktionsspezifischen Beurteilung
der an Forschung und Wissenschaft Beteiligten; das sind v.a.
- die Wissenschaftler;
- die Institutionen, in denen sie tätig sind;
- die für die Publikation wissenschaftlicher Ergebnisse
Zuständigen;
- die Institutionen der Forschungsförderung;
- die Wissenschaftspolitik;
- die wissenschaftlich interessierte Öffentlichkeit.
Mit den unterschiedlichen Zuständigkeiten dieser Gruppen sind
jeweils spezifische Verantwortlichkeiten verbunden.
„Verantwortung“: einige grundlegende Unterscheidungen
Verantwortung
kausale V.
„Rollen“-V.
Schuld
kollektive V.
Handlungs- / Verhaltensbeitrag des Verantwortlichen:
bloße Verursachung
Innehaben
bestimmter
Position
vorwerfbarer
Bruch einer anerkannten Verhaltensnorm
individ. Beitrag zu gemeinschaftl.
Unternehmen
zeitliche Orientierung:
zurückschauend
primär
voraussch.
zurückschauend
voraus- oder
zurücksch.
11
Gegenstände der Verantwortung des
Forschers (Pflichten) im Kontext von DURC
Die Empfehlungen von DFG und Leopoldina skizzieren dafür
einen groben Rahmen, den ich als Grundlage nehme:
I. Grundsatz: nicht nur rechtliche, auch ethische Pflichten
II. Risikoanalyse
III. Risikominimierung
IV. Abwägungen:
- zu erwartender Nutzen
- Höhe und Wahrscheinlichkeit eventuellen Schadens
(unter Berücksichtigung der Schwierigkeit einer Umsetzung der Forschungsergebnisse für destruktive Zwecke)
- Grad der Beherrschbarkeit der Schadensfolgen
V. Eigenes angemessenes Reagieren auf Ergebnis der
Abwägung: Entscheidungen
Gegenstände der Verantwortung des
Forschers (Pflichten) im Kontext von DURC
Die Empfehlungen von DFG und Leopoldina skizzieren dafür
einen groben Rahmen, den ich als Grundlage nehme:
I. Grundsatz: nicht nur rechtliche, auch ethische Pflichten
II. Risikoanalyse
III. Risikominimierung
IV. Abwägungen:
- zu erwartender Nutzen
- Höhe und Wahrscheinlichkeit eventuellen Schadens
(unter Berücksichtigung der Schwierigkeit einer Umsetzung der Forschungsergebnisse für destruktive Zwecke)
- Grad der Beherrschbarkeit der Schadensfolgen
V. Eigenes angemessenes Reagieren auf Ergebnis der
Abwägung: Entscheidungen
Ethische Pflichten: zur Klassifizierung moralischer Normen
nach dem Gewicht
ihrer Gebote
nach der Reichweite
ihrer Anerkennung
Einhaltung Einhaltung Individual
geboten erwünscht -moral
Pflichtmoral
Tugendmoral
Sozialmoral
von Ein- von Gezelperson sellschaft
anerkannt anerkannt
nach dem Grund
ihrer Geltung
nicht-ratio- rationanale Grdl. le Grdl.
z.B.
Religion
z.B. Sozialkontrakt
-Modelle
Wechselbeziehungen
„Nicht-rational“ heißt nicht „irrational“ oder „unvernünftig“; es heißt
14
nur: ohne genuinen Anspruch auf rationale Begründung!
Ethische Prinzipien: Maßgaben
für die Abwägungsentscheidung
Die Gefahr besonders gravierender Schadensfolgen als (begriffliches) Kriterium für DURC verweist auf die Notwendigkeit,
jedenfalls Prinzipien einer konsequentialistischen Ethik anzuwenden: interpersonale Maximierung des positiven Outcomes.
Das ist aber nicht ausreichend. Wie für jede vernünftige Ethik
müssen außerdem sog. deontologische (pflichtenethische) Prinzipien herangezogen werden: als normative Grenzkriterien.
Das bedeutet insbesondere, dass eine verrechnende Abwägung
noch so großer potentieller Vorteile für viele mit dem Opfer des
Lebens (auch nur weniger) Dritter ausgeschlossen ist.
Im Zusammenhang mit DURC wird dieses Prinzip oft missverstanden, meist in best. Fassungen des sog. Vorsorgeprinzips.
Precautionary Principle: Vorsorgeprinzip
Das Vorsorgeprinzip kursiert in zahlreichen unterschiedlichen
Varianten. Eine davon hat Hans Jonas (sinngemäß) so formuliert:
Handle so, dass du den Fortbestand der Menschheit nicht gefährdest, vermeide den größtmöglichen vorstellbaren Schaden,
und versuche nicht, ihn mit denkbaren Vorteilen abzuwägen.
Das ist hinreichend vage, um auch auf DURC projiziert und dort
für sämtliche Forschungen, zu deren möglichen Schadensfolgen
der Tod vieler Menschen gehören könnte, als Abwägungsverbot
und kategorische Unterlassungspflicht gedeutet zu werden.
Das ist eine sehr starke und dezidiert risiko-averse Deutung des
Vorsorgeprinzips: Tue nichts, was die Gefahr der (Mit-)Verursachung solcher katastrophalen Folgen mit sich bringt.
Diese Deutung ist freilich verfehlt.
Missverstandenes Vorsorgeprinzip
Im Zusammenhang von DURC geht es für den Forscher nicht um
die Frage, ob sein Handeln für künftige katastrophale Folgen, die
Dritte herbeiführen, kausal werden könnte.
Vielmehr geht es um Zurechnung: darum, ob sein Tun bösartigen
Dritten so in die Hände spielt, dass deren von ihm ermöglichtes
destruktives Handeln auch ihm selbst noch zugerechnet werden
kann.
Das erfordert in jedem Einzelfall eine komplexe normative Analyse. Mit ihr wird die Grenze dessen bestimmt, was in der Diktion
des Rechts, aber auch der Ethik, „erlaubtes Risiko“ heißt.
Dem kann ich hier nicht genauer nachgehen. Einige knappe (und
apodiktische) Anmerkungen:
Erlaubtes Risiko
Die (Rollen-)Verantwortung des Forschers ist in solchen Fällen
die eines Beteiligten am Gesamtbetrieb seiner jeweiligen Wissenschaft; damit wird ihm auch ein (schwaches) Element kollektiver
Verantwortung zugewiesen.
Für viele Formen (schwach) kollektiven Handelns akzeptieren
wir dessen einzelne Handlungsbeiträge als erlaubtes Risiko, auch
wenn gravierend destruktive Folgen des Gesamthandelns genau
bekannt und statistisch sicher sind. Beispiel: Straßenverkehr.
Wann und wodurch ein (kollektives) Risikohandeln, das zu einer
Art objektiver Kooperation mit Schurken werden kann, unerlaubt
wird, hängt von diversen normativen Kriterien ab. Abstrakt sind
sie leicht zu benennen (zB das der „erkennbaren Tatgeneigtheit“
der Dritten); ihr konkreter Inhalt ist aber oft sehr schwer zu bestimmen. Für DURC gilt das in ganz besonderem Maß.
Abschließend
Aus dem bisher Gesagten lässt sich als ein erstes risikoethisches
und ethik-didaktisches Gebot das Folgende ableiten:
1. Das oben skizzierte grundbegriffliche Schema (Risikoanalyse,
Risikominimierung, Abwägungen, Gegenmaßnahmen) ist in
Unterkategorien auszudifferenzieren, die normativ relevante
Unterschiede widerspiegeln –
hier ein schlichtes Beispiel 
2. Diese Unterkategorien sind
mit Modellszenarien zu veranschaulichen.
3. Daraus sind in der Perspektive der hier dargelegten ethischen Prinzipien Maßgaben für
DURC zu entwickeln.
Vielen Dank!