MEESTAR – ein Modell angewandter Ethik im Bereich assistiver Technologien München, 9. März 2017 Prof. Dr. theol. habil. Arne Manzeschke Wie ist MEESTAR entstanden? Was ist MEESTAR? •M •E •E •S •T • AR Modell Ethischen Evaluation SozioTechnischer Arrangements Arne Manzeschke, Anthropologie und Ethik, Evangelische Hochschule Nürnberg 3 /32 Was sind sozio-technische Arrangements? Arne Manzeschke, Anthropologie und Ethik, Evangelische Hochschule Nürnberg 4 /32 Ethik im Bereich von AAL • Deutsche AAL-Kongresse seit 2008 • Workshop »Ethik und Recht« auf dem AAL-Kongress 2009 • 2011 Ausschreibung einer Ethischen Begleitforschung zu AAL • Oktober 2012 Vorstellung der Projektergebnisse beim VDI/VDE-IT • November 2012 Auftrag für 12 Begleitworkshops in der Förderlinie »Assistierte Pflege von morgen« • »European Workshop on Ethical Issues in Human-Machine-Interaction and Service-Robotics«, Brüssel 5. Mai 2015 • Seit 2014 ELSI-Aspekte in BMBF-Förderprojekten obligatorisch • MEESTAR ist eines unter anderen Modellen, ethische Aspekte in Forschung und Entwicklung zu reflektieren und produktiv zu machen • Rund 35 MEESTAR-Workshops in den Feldern Pflege, Medizin, Arbeitsunterstützung, intelligente Lernwelten Arne Manzeschke, Anthropologie und Ethik, Evangelische Hochschule Nürnberg 5 /32 Hilfe zur ethischen Urteilsbildung Die ethische Reflexion im MEESTAR-Workshop soll den Akteuren in diesem Feld (Forschung & Entwicklung, Anbieter und Nutzer) in einer strukturierten Weise Reflexionsräume eröffnen, um die eigene ethische Urteilskraft zu stärken. Es geht darum, die in den Förderprojekten zum Teil sehr weitreichenden Eingriffe in die Privatsphäre und Lebensführung von Menschen als moralische Probleme sichtbar und bearbeitbar werden zu lassen. Dabei sollten die moralischen Intuitionen und Erfahrungen der Projektpartner den Ausgangspunkt für eine strukturierte ethische Reflexion bilden. Arne Manzeschke, Anthropologie und Ethik, Evangelische Hochschule Nürnberg 6 /32 Hilfe zur ethischen Urteilsbildung Die ethische Reflexion im MEESTAR-Workshop soll den Akteuren in diesem Feld (Forschung & Entwicklung, Anbieter und Nutzer) in einer strukturierten Weise Reflexionsräume eröffnen, um die eigene ethische Urteilskraft zu stärken. Es geht darum, die in den Förderprojekten zum Teil sehr weitreichenden Eingriffe in die Privatsphäre und Lebensführung von Menschen als moralische Probleme sichtbar und bearbeitbar werden zu lassen. Dabei sollten die moralischen Intuitionen und Erfahrungen der Projektpartner den Ausgangspunkt für eine strukturierte ethische Reflexion bilden. Arne Manzeschke, Anthropologie und Ethik, Evangelische Hochschule Nürnberg 7 /32 Hilfe zur ethischen Urteilsbildung Die ethische Reflexion im MEESTAR-Workshop soll den Akteuren in diesem Feld (Forschung & Entwicklung, Anbieter und Nutzer) in einer strukturierten Weise Reflexionsräume eröffnen, um die eigene ethische Urteilskraft zu stärken. Es geht darum, die in den Förderprojekten zum Teil sehr weitreichenden Eingriffe in die Privatsphäre und Lebensführung von Menschen als moralische Probleme sichtbar und bearbeitbar werden zu lassen. Dabei sollten die moralischen Intuitionen und Erfahrungen der Projektpartner den Ausgangspunkt für eine strukturierte ethische Reflexion bilden. Arne Manzeschke, Anthropologie und Ethik, Evangelische Hochschule Nürnberg 8 /32 Technik und Ethik Technisches Handeln … • … gehört zum Menschen konstitutiv hinzu • … setzt spezifische technische Mittel, Verfahren, Institutionen ein, um zunächst außertechnische, später auch technische Ziele zu erreichen • … schafft Ordnungsstrukturen von großer Penetranz und Reichweite • … führt neben den erwünschten Zielen auch unerwünschte Nebenfolgen mit sich, die •… schwer zu prognostizieren sind (Collingridge-Dilemma) •… nach Risikoabwägungen eingegangen werden (oder nicht) • …erweckt Erwartungen und Hoffnungen, die im Bereich von Gesundheit und Krankheit leicht inflationär und unerfüllbar sind, aber gleichwohl hohe Investitionen rechtfertigt • … bedarf aufgrund seiner weitreichenden Folgen und oft unklaren moralischen Konstellationen einer ethischen Reflexion, die möglichst frühzeitig in Forschungs- und Entwicklungsprozessen einsetzt Arne Manzeschke, Anthropologie und Ethik, Evangelische Hochschule Nürnberg 10 /32 Ethik: Die Reflexion moralischer Fragen »Ernste moralische Fragen sind solche, mit denen entschieden wird, wer und was wir als Mensch sind und in welcher Gesellschaft wir als Menschen miteinander leben wollen«. G. Böhme: Ethik im Kontext. Über den Umgang mit ernsten Fragen, Frankfurt (Suhrkamp) 1997, S.17. »Die Angewandte Ethik bildet den Versuch, mit den Mitteln der Ethik Menschen dabei zu helfen, sich in bestimmten Situationen moralisch richtig zu verhalten, in denen Unklarheit darüber herrscht, was in dieser Situation moralisch richtig wäre«. Ralf Stöcker, Christian Neuhäuser und Marie-Luise Raters: Einleitung. In: Dies. (Hrsg.): Handbuch für Angewandte Ethik, Stuttgart/Weimar 2011, S. 1–11; S. 4. Arne Manzeschke, Anthropologie und Ethik, Evangelische Hochschule Nürnberg 11 /32 Ethische Reflexion moralischer Probleme Moral leitet das Handeln von Menschen anhand von Tugenden, Gütern, Regeln oder Normen. Moral kann ihre Orientierungsfunktion einbüßen: • moralische Normen- oder Güterkonflikte (z.B. Freiheit vs. Sicherheit) • Differenz zwischen dem moralisch als richtig Erkannten und diesem entgegen stehenden Interessen (z.B. CO2-Fußabdruck) • moralisch unklarer Status eines Aspekts (z.B. Verpflichtung gegenüber nachfolgenden Generationen) Vgl. Kurt Bayertz, Praktische Philosophie als angewandte Ethik. In: Ders. (Hrsg.): Praktische Philosophie. Grundlagen angewandter Ethik, Reinbek (Rowohlt) 1991, S. 7–47, bes. S. 27–33 Arne Manzeschke, Anthropologie und Ethik, Evangelische Hochschule Nürnberg 12 /32 Einführung in Modell und Szenario Ethik heißt: die Moral reflektieren • Lebensqualität erhöhen • Menschenwürde in allen Alterslagen • Selbstbestimmung und gesellschaftliche Teilhabe • Technik strukturiert gesellschaftliche Ordnung • Technik soll menschliche Fürsorge nicht ersetzen Ethik reflektiert die moralischen Urteile und analysiert die Entwicklung und Anwendung technischer Artefakte mit Blick auf den Einzelnen und die Gesellschaft insgesamt und fragt nach einem Ausgleich zwischen Machenkönnen und verantwortlichem Wollen und Tun. Arne Manzeschke, Anthropologie und Ethik, Evangelische Hochschule Nürnberg 14 /32 Ethische Perspektive auf Technik •Technik verstehen und mit ihr umgehen, erschöpft sich nicht im Aufzählen und Begreifen ihrer Merkmale •Analyse und Bewertung von technischen Arrangements erfordert die Reflexion auf die Bedingungen der Strukturprinzipien von Technik •Technik im AAL-Kontext ist normativ aufgeladen •Anders als die Ingenieurs-Perspektive, die Technik strategisch zur Lösung von Problemen einsetzt, fragt die ethische Perspektive nach dem Ausgleich zwischen Machbarkeit und Verantwortlichkeit •Diese Unterscheidung schafft Freiheit im Denken und im (technischen) Handeln Arne Manzeschke, Anthropologie und Ethik, Evangelische Hochschule Nürnberg 15 /32 Ethik sozio-technischer Arrangements • Keine Technikfolgenabschätzung • Keine Professionsethik • Keine Prinzipienethik • Betrachtung der konkreten sozialen Situation und ihre Veränderung durch Technik • Evaluation durch die Betroffenen • Evaluation über verschiedene Ebenen • Analyse der Handlungsreichweite und akteursspezifischen Verantwortung • Synopse von individuellen Präferenzen und gesellschaftspolitischen Zielen • Ethik ≠ mehrheitsfähige Moral Arne Manzeschke, Anthropologie und Ethik, Evangelische Hochschule Nürnberg 16 /32 Systemtechnologischer Ansatz Markt Arbeitgeber Personalrat Technische Assistenzsysteme Unterstützte Person Kolleg/innen Arne Manzeschke, Anthropologie und Ethik, Evangelische Hochschule Nürnberg Betriebsrat 17 /32 Systemtechnologischer Ansatz Tech. Ass.System Tech. Ass.System Tech. Ass.System informatorisch erschlossene Lebenswelt: assistiert, adaptiv, virtuell, augmentiert, Tech. Ass.System Tech. Ass.System Tech. Ass.System Tech. Ass.System Tech. Ass.System Tech. Ass.System Tech. Ass.System Arne Manzeschke, Anthropologie und Ethik, Evangelische Hochschule Nürnberg 18 /32 Technische Koppelung von Körper und Welt • Die Koppelung von Körper und Umgebung via IKT bedeutet eine technische Normierung des Körpers • Diese Normierung ist direkter, subtiler und objektiver als bestehende soziale Normierungen • Langfristig ist eine Verschmelzung von innerer und äußerer Natur via IKT vorstellbar • Die Technik tilgt die Spuren ihres Einsatzes • Der Verlust dieser Spuren führt zu einem Verlust an Selbsterfahrung (leibliches Spüren) • Der Verlust der Selbsterfahrung bedingt einen Verlust an intellektueller Reflexion und Deliberation Arne Manzeschke, Anthropologie und Ethik, Evangelische Hochschule Nürnberg 19 /32 Was leistet MEESTAR? Ziele der Begleitforschung •Ethisches Evaluationsinstrument (MEESTAR) •Ethisch-normative Leitlinien für den Einsatz von altersgerechten Assistenzsystemen •Umfassender Abschlussbericht: http://www.ttninstitut.de/node/1581 Arne Manzeschke, Anthropologie und Ethik, Evangelische Hochschule Nürnberg 21 /32 Ethisch-normative Leitlinien Im Rahmen der Begleitstudie wurden 15 Leitlinien erstellt: •Bezogen auf die sieben ethischen Dimensionen •Differenziert nach •Forschung & Entwicklung •Anbieter •Anwender •Adressaten sind vorrangig Anbieter, die ein AAL-System einsetzen wollen – Gestaltungsauftrag •Die Mehrzahl der Leitlinien konzentriert sich auf die individuelle Ebene – konsequente Nutzerorientierung Arne Manzeschke, Anthropologie und Ethik, Evangelische Hochschule Nürnberg 22 /32 MEESTAR: Modell zur Evaluation SozioTechnischer ARrangements g nis un t i d t t e m i i n e k rge tim ab the rhe stä tig s o a r h e h l e s v e i h c r tb Te Pri stv Fü Sic ere b lbs l G e S Se Gesellschaftliche Ebene Stufe III Anwendung ist ethisch äußerst sensibel und bedarf entweder permanenter Aufmerksamkeit oder Abstand von ihrer Einführung Individuelle Ebene Stufe II Anwendung weist ethische Sensibilität auf, was aber in der Praxis entsprechend berücksichtigt werden kann Organisationale Ebene Stufe I Anwendung ist aus ethischer Sicht völlig unbedenklich Stufe IV Anwendung ist aus ethischer Sicht abzulehnen Arne Manzeschke, Anthropologie und Ethik, Evangelische Hochschule Nürnberg 23 /32 MEESTAR: Stufen ethischer Sensibilität Stufe 1 Anwendung ist aus ethischer Sicht völlig unbedenklich Stufe 2 Stufe 3 Anwendung weist ethische Sensibilität auf, was aber in der Praxis entsprechend berücksichtigt werden kann Anwendung ist ethisch äußerst sensibel und bedarf entweder permanenter Aufmerksamkeit oder Abstand von ihrer Einführung Stufe 4 Anwendung ist aus ethischer Sicht abzulehnen Arne Manzeschke, Anthropologie und Ethik, Evangelische Hochschule Nürnberg 24 /32 MEESTAR: Moralische Dimensionen is ng n u t i t d i m e it e e e k e än m b g i g h t h r i t a t r s t s o a r e h h l e s v e i h c i r b v e r c t i T re P st s Fü S e b b l l G Se Se Arne Manzeschke, Anthropologie und Ethik, Evangelische Hochschule Nürnberg 25 /32 MEESTAR: Moralische Dimensionen Fürsorge: Hilfsbereitschaft, Uneigennützigkeit, Solidarität, menschliche ›Nähe‹ Selbstbestimmung: Kontrolle, Entscheidungsfähigkeit, Eigenverantwortung Sicherheit: Monetäre S.; Soziale S.; Körperliche S.; Technische S.; Datensicherheit; Gerechtigkeit: Verteilungs-G.; Leistungs-G.; Intergenerationelle G.; Zugangsbarrieren (ökon., sozial, intellektuell, körperlich); Privatheit: Intimität; Entblößung; Schamgefühl; Kontrolle über den Eigenbereich Teilhabe: Kommunikation; soziale Akzeptanz; respektvoller Umgang; Einbindung ins soziale Leben Selbstverständnis: Identität; Persönlichkeit, Eigenmaß; Gestaltbarkeit des Lebens; Grenzziehung Arne Manzeschke, Anthropologie und Ethik, Evangelische Hochschule Nürnberg 26 /32 MEESTAR: Ebenen der Beobachtung Gesellschaftliche Ebene Organisationale Ebene Individuelle Ebene Arne Manzeschke, Anthropologie und Ethik, Evangelische Hochschule Nürnberg 27 /32 Modell zur ethischen Evaluation soziotechnischer Arrangements (MEESTAR) Arne Manzeschke, Anthropologie und Ethik, Evangelische Hochschule Nürnberg 28 /32 Identifizieren ethischer Probleme • Assoziieren moralischer Gefühle • Beschreiben moralischer Probleme – d. h. Zuordnen des Problem zu einer oder mehreren moralischen Dimensionen (Fürsorge … ) Evaluieren ethischer Probleme • Einschätzen und Begründen des Grades an ethischer Sensibilität bzgl. eines Problems • Zusammenhang und Wechselwirkung von verschiedenen Faktoren für die Evaluierung berücksichtigen Arne Manzeschke, Anthropologie und Ethik, Evangelische Hochschule Nürnberg 29 /32 Evaluation eines Szenarios Arne Manzeschke, Anthropologie und Ethik, Evangelische Hochschule Nürnberg 30 /32 MODELL ZUR ETHISCHEN EVALUATION SOZIOTECHNISCHER ARRANGEMENTS (MEESTAR) Was MEESTAR leistet Was MEESTAR nicht leistet • Viele Perspektiven eröffnen • Sensibilität für ethische Problemfelder im Kontext von altersgerechten Assistenzsystemen schaffen • Sich gemeinsam über ethische Probleme verständigen • Ein konkretes Szenario mit altersgerechter Assistenztechnik bewerten • Lösungsansätze für ethische Probleme entwickeln • Eine quantitative Bewertung vollziehen • Eine ethische Bewertung liefern, die eine unbegrenzte Gültigkeit beansprucht • Eine eigenständige Urteilsbildung abnehmen Arne Manzeschke, Anthropologie und Ethik, Evangelische Hochschule Nürnberg 31 /32 Literaturhinweise Arne Manzeschke und Fabian Karsch (Hrsg.): Roboter – Computer – Hybride. Was ereignet sich zwischen Menschen und Maschinen?, Baden Baden (Nomos) erscheint im Winter 2016. Arne Manzeschke, Galia Assadi und Willy Viehöver: The Role of Big Data in Ambient Assisted Living. In: International Review of Information Ethics, 24 /2016, http://i-r-i-e.net/current_issue.htm. Arne Manzeschke, Karsten Weber, Elisabeth Rother and Heiner Fangerau: Results of the Study »Ethical Questions in the Area of Age Appropriate Assisting Systems«, Berlin (VDI/VDE) 2015. Karsten Weber, Deborah Frommeld, Arne Manzeschke und Heiner Fangerau (Hrsg.): »Technisierung des Alters – Beitrag zu einem guten Leben?«, Stuttgart (Steiner) 2015. Arne Manzeschke: »MEESTAR – ein Modell angewandter Ethik im Bereich assistiver Technologien«. In: Karsten Weber, Deborah Frommeld, Arne Manzeschke und Heiner Fangerau (Hrsg.): »Technisierung des Alters – Beitrag zu einem guten Leben?«, Stuttgart (Steiner) 2015, S. 263–283. Arne Manzeschke: »Angewandte Ethik organisieren: MEESTAR – ein Modell zur ethischen Deliberation in sozio-technischen Arrangements«. In: Matthias Maring (Hrsg.): Vom Praktischwerden der Ethik in interdisziplinärer Sicht: Ansätze und Beispiele der Institutionalisierung, Konkretisierung und Implementierung der Ethik, Karlsruhe (KIT Scientific Publishing) 2015, S. 315–330 (Schriftenreihe des Zentrums für Technik- und Wirtschaftsethik Bd. 7). »Telemedizin und AAL aus ethischer Perspektive«. In: Bayerisches Ärzteblatt 9/2014, S. 480–482. Arne Manzeschke, Karsten Weber, Elisabeth Rother und Heiner Fangerau: Ergebnisse der Studie »Ethische Fragen im Bereich Altersgerechter Assistenzsysteme«, Berlin (VDI/VDE) 2013. Arne Manzeschke, Anthropologie und Ethik, Evangelische Hochschule Nürnberg 32 /32 Prof. Dr. theol. habil. Arne Manzeschke Anthropologie und Ethik für Gesundheitsberufe Evangelische Hochschule Nürnberg Bärenschanzstr. 4 90429 Nürnberg 0049 – 911 – 25273-864 [email protected] http://www.evhn.de