Ethische Probleme in der Informatik - FB3

Karl-Heinz Rödiger
Fachbereich 3
Mathematik/Informatik
Ethische Probleme in der Informatik
Erstsemester-Lecture
Bremen, 21. Oktober 2008
Fachbereich 3
Mathematik/Informatik
Karl-Heinz Rödiger
Prof. Dr. Karl-Heinz Rödiger
Angewandte Informatik
MZH 3320
Tel. -64351
[email protected]
http://www.informatik.uni-bremen.de/~roediger
(zzt. im Forschungssemester)
Karl-Heinz Rödiger
Fachbereich 3
Mathematik/Informatik
Ethische Probleme in der Informatik
Gliederung
1
2
3
4
Ethische Probleme in der Informatik
Was ist, was will Ethik?
Berufsethik für Informatiker - Zur Genuität einer Computerethik
Die Ethischen Leitlinien der Gesellschaft für Informatik (GI)
Karl-Heinz Rödiger
Fachbereich 3
Mathematik/Informatik
Ethische Probleme in der Informatik
•
•
•
•
•
•
•
•
•
•
•
Fundus.org, gute-noten.de, Hausarbeiten.de, ... Plagiat, Fälschung, Betrug Urheberrecht vs. eMule, BitTorrent, RapidShare
W32.Blaster, Netsky, Sasser, Sober, MyDoom
Hacking (white hats)
Video-/ Telefon-/ Computer-Überwachung, Rasterfahndung
(unmerkbare) Leistungs- und Verhaltenskontrolle
Militärische Anwendungen, dual use
Pornographie, Extremismus: Zensur vs. Informationsfreih.
Bananen-Software, Umgang mit Benutzer/innen, DAU
BPEL4People
Rationalisierung
Karl-Heinz Rödiger
Fachbereich 3
Mathematik/Informatik
Fundus.org, gute-noten.de, Hausarbeiten.de
Täuschung ist ein altes Problem in der Bildung, mit dem
Aufkommen des Internets jedoch weiter verbreitet.
Täuschung ist auch ein ethisches Problem, jedoch längst
rechtlich geregelt:
Täuschungen (-versuche) werden mit Verweigerung des
Leistungsnachweises geahndet.
In anderen Ländern: Vorübergehender Ausschluss vom Studium
Karl-Heinz Rödiger
Fachbereich 3
Mathematik/Informatik
Fundus.org, gute-noten.de, Hausarbeiten.de
Karl-Heinz Rödiger
Fachbereich 3
Mathematik/Informatik
Plagiat, Fälschung, Betrug
Plagiat
Mangelhafte Kennzeichnung eines Zitats, Aneignung fremder
Texte durch Kopie, unzitierte Übernahme von Ideen
Fälschung
Verfälschung von Daten im Experiment, in der Datenerhebung,
in Lebensläufen, in Publikationslisten etc.
Betrug
Urkundenfälschung bei Prüfungen, Abschlüssen, Zeugnissen
Karl-Heinz Rödiger
Fachbereich 3
Mathematik/Informatik
Prinzipien der Wissenschaftsordnung nach Wilhelm von Humboldt:
•
strenge Ehrlichkeit
•
Offenheit und Freigebigkeit (Publikationen)
•
Geschenkökonomie (Weitergabe von Ergebnissen)
•
Selbstverwaltung
Jedoch
Freigebigkeit und Geschenkökonomie sind vom Verlangen
nach Patenten und schneller Verwertung bedroht.
Grundgesetz Art.5 Abs. 3
Kunst und Wissenschaft, Forschung und Lehre sind frei. Die
Freiheit der Lehre entbindet nicht von der Treue zur Verfassung.
Fachbereich 3
Mathematik/Informatik
Karl-Heinz Rödiger
Urheberrecht
Urheberrechtsverletzungen
•
Plagiate
•
‚schwarze‘ Kopien von Büchern, Software,
Videos
•
Benutzung von Texten, Abbildungen etc.
ohne Quellenangabe
•
Tauschbörsen wie eMule, BitTorrent, RapidShare
Karl-Heinz Rödiger
Fachbereich 3
Mathematik/Informatik
W32.Blaster, Netsky, Sasser, Sober, MyDoom
Viren, Würmer, Trojaner
•
falsch verstandener „Sportsgeist“
•
falsch eingesetzte Informatik-Fähigkeiten
Auch ein ethisches Problem, jedoch rechtswidrig
und damit zu ahnden.
Fachbereich 3
Mathematik/Informatik
Karl-Heinz Rödiger
Hacking (white hats)
Hacker ethic
•
•
•
•
•
•
Access to computers should be unlimited and total.
All information should be free.
Mistrust authority - Promote decentralization
Hackers should be judged by their hacking.
You can create art and beauty on a computer.
Computers can change your life for the better.
(Levy 1984)
Hacken zum Aufdecken von Sicherheitslücken:
•
unter normativen Gesichtspunkten verwerflich
•
unter utilitaristischen akzeptabel
Maxime: Better to ask forgiveness than permission
Karl-Heinz Rödiger
Fachbereich 3
Mathematik/Informatik
Video-/ Telefon-/Computer-Überwachung, Rasterfahndung
Unter dem Vorwand der Verbrechens- / Terrorismus-Bekämpfung
werden zunehmend Informatik-Systeme eingesetzt, obwohl
• der Einsatz rechtlich vielfach fragwürdig,
+ Video-Überwachung von KfZ-Kennzeichen
• nachweislich kaum Verbrechen verhindert werden,
• unschuldige Personen ins Visier geraten,
• wegen Einzelner die Persönlichkeitsrechte Vieler verletzt werden,
+ Video-Überwachung von öffentlichen Räumen
Karl-Heinz Rödiger
Fachbereich 3
Mathematik/Informatik
(Unmerkbare) Leistungs- und Verhaltenskontrolle
Jedes nennenswert große Softwaresystem
protokolliert Benutzerdaten aus:
•
•
•
•
Abrechnungsgründen: Betriebssysteme, BDE-Geräte
rechtlichen Gründen: GoBS, Geldwäsche, Compliance, BDSG
Sicherheitsgründen: Firewalls
Authentisierungsgründen: Zugriffsschutz
Die Verwendung dieser Daten muss in einer Betriebs-/
Dienstvereinbarung geregelt werden.
Fachbereich 3
Mathematik/Informatik
Karl-Heinz Rödiger
Das erste Opfer eines jeden
Krieges ist die Wahrheit.
Militärische Anwendungen, dual use
•
Alle wesentlichen Entwicklungen in der Informatik sind vom
Militär angestoßen und finanziert worden.
•
Nahezu jede Informatik-Innovation kann auch militärisch
genutzt werden: Bilderkennung und -verarbeitung, Robotik,
maschinelles Lernen, Planspiele, Kryptographie ...
Der Held des Golfkriegs ist
der Computer-Chip (FAZ 23.1.91).
Fachbereich 3
Mathematik/Informatik
Karl-Heinz Rödiger
Militärische Anwendungen
Von Feuertafeln zu C3I-Systemen und Drohnen
(C3I: Communications, Command, Control and Intelligence)
Anfänge im 2. Weltkrieg
• Flügelvermessung der V1 und V2
==> Z 3 1941
• Dechiffrierung des Codes der Enigma ==> COLOSSUS 1943
• Ballistische und Großkreisberechnungen ==> ENIAC 1945
Fachbereich 3
Mathematik/Informatik
Karl-Heinz Rödiger
Militärische Anwendungen
Heute: Automatisches Schlachtfeld
• Globale und taktische Frühwarnsysteme
• Geländeüberwachung mit seismischen, akustischen
und Radar-Sensoren
• „Intelligente“ Waffen, Kampfroboter
• Funkpeilung und Abhören gegnerischer Nachrichten
• Unterdrücken all dieser Mittel beim Gegner durch
Störsender (information warfare)
Fachbereich 3
Mathematik/Informatik
Karl-Heinz Rödiger
Militärische Anwendungen, dual use
Die Gefechts- und Übungsfelder
Korea-Krieg
Vietnam-Krieg
Golf-Krieg
Serbien-Krieg
Kossovo-Krieg
Afghanistan-Krieg
Irak-Krieg
Vorderer Orient
???
1950 - 1953
1964 - 1973
1991
1994 - 1995
1999 - ?
2001 - ?
2003 - ?
2006 - ?
Fachbereich 3
Mathematik/Informatik
Karl-Heinz Rödiger
Militärische Anwendungen Sprachspiele
•
•
•
•
Der saubere, gerechte Krieg
Chirurgische Kriegsführung
Kollateral-Schäden
Namen der Kriege:
+ desert storm
+ infinite justice
+ enduring freedom
+ ...
Karl-Heinz Rödiger
Fachbereich 3
Mathematik/Informatik
Pornographie, Extremismus: Zensur vs. Informationsfreiheit
Grenzbereiche, die u.U. noch vom Grundgesetz geschützt werden,
jedoch ethisch verwerflich sind.
Informationsfreiheit ist im Fachbereich das höhere Gut.
Jedoch:
Wir setzen auf die Moral und die ethischen Maximen der Angehörigen
des Fachbereichs.
Karl-Heinz Rödiger
Fachbereich 3
Mathematik/Informatik
Bananen-Software, Umgang mit Benutzer/innen, DAU
Software, die
• nicht vollständig,
• nicht fehlerfrei,
• nicht ausreichend getestet ist,
soll ausgeliefert werden.
Der Umgang mit Benutzer/innen zeigt sich
•
an der Benutzungsschnittstelle
•
in Fehlermeldungen und Hilfesystemen
•
am Help-Desk
Fachbereich 3
Mathematik/Informatik
Karl-Heinz Rödiger
BPEL4People
Business Processes Execution Language: XML-basierte Sprache zur
Beschreibung von Geschäftsprozessen, die in Form von Web-Services
implementiert werden (IBM, BEA, Microsoft).
BPEL4People: Erweiterung der BPEL zur (deterministischen) Modellierung von menschlichen Tätigkeiten als Web-Service (IBM, SAP).
Karl-Heinz Rödiger
Fachbereich 3
Mathematik/Informatik
Gleichsetzung menschlicher und maschineller Intelligenz
Einsatz von Robotern für ungeliebte Tätigkeiten
Der Alten-Roboter: Fifth Generation Computer Systems
Künstliche Intelligenz, Neuroinformatik und Robotik modellieren
menschliche Intelligenz mit Maschinenmodellen
(z.B. GOMS von Card, Moran & Newell).
SFB 588: Humanoide Roboter
Fachbereich 3
Mathematik/Informatik
Karl-Heinz Rödiger
Rationalisierung
Informatik: Rationalisierungs-Disziplin par excellence
Die Informatik hat in 50 Jahren mehr Arbeitsplätze
wegrationalisiert als alle Ingenieursdisziplinen in 150 Jahren.
Der nächste Schub:
Auflösung des größten Teils aller kommunalen und
privatwirtschaftlichen Verwaltungen durch
• Self-Service-Zugang zu kommunalen Dienstleistungen
• Employee Self Service (ESS) in den Betrieben
Karl-Heinz Rödiger
Fachbereich 3
Mathematik/Informatik
Ethische Probleme in der Informatik
Arbeitsverträge (und die persönlichen Verhältnisse) zwingen zu
Projekten, die man aus religiösen, politischen, ökologischen o.a.
Gründen ablehnt.
•
•
•
•
•
•
•
Militärische Anwendungen
Überwachungstechniken
Rationalisierungsvorhaben
Verletzung des informationellen Selbstbestimmungsrechts
Projekte mit überflüssiger Komplexität: DB-/NV-Tarife,
Steuersystem
Gesellschaftsmodelle, Planspiele
Unnütze Lehrsysteme
Karl-Heinz Rödiger
Fachbereich 3
Mathematik/Informatik
Was ist, was will Ethik?
Moral <== mores
Mit Moral bezeichnet man eine Sammlung von Sitten, Gebräuchen oder
Verhaltensnormen, anhand derer man erkennen kann, ob eine Handlung gut oder böse, geboten oder verboten ist. Moral hat mit Handeln zu
tun.
Ethik <== ethos
Mit Ethik bezeichnet man das argumentative, systematische Reden und
Begründen von Dingen, die wertbehaftet oder moralisch relevant sind.
Ethik hat mit der Begründung moralischer Grundsätze zu tun.
Karl-Heinz Rödiger
Fachbereich 3
Mathematik/Informatik
Karl-Heinz Rödiger
Fachbereich 3
Mathematik/Informatik
Karl-Heinz Rödiger
Fachbereich 3
Mathematik/Informatik
Was ist, was will Ethik?
Grundkonzepte
• Kants kategorischer Imperativ
„Handle so, dass die Maxime Deines Willens zugleich als
Prinzip einer allgemeinen Gesetzgebung gelten könne.“
• Nutzenprinzip des Utilitarismus
„Handle so, dass die Folgen Deiner Handlungen die
Gesamtmenge an Glückszuständen maximieren und die
der Unglückszustände minimieren.“
Karl-Heinz Rödiger
Fachbereich 3
Mathematik/Informatik
Was ist, was will Ethik?
Grundkonzepte
• Diskursprinzip der Diskursethik
„Gültig sind genau die Handlungsnormen, denen alle
möglicherweise Betroffenen als Teilnehmer an rationalen
Diskursen zustimmen können“ (Habermas 1992)
• Menschenrechte, Grundnormen
Freiheitsrechte, Statusrechte, Rechtsschutz, Teilnahmerechte, Teilhaberechte (Habermas 1992)
Fachbereich 3
Mathematik/Informatik
Karl-Heinz Rödiger
Technikethik
Neutralitätsthese
Nicht Messer und Gewehr töten, sondern der Mörder.
Technik ist nicht neutral, wegen
• der benötigten logistischen Infrastrukturen,
• der verbrauchten Ressourcen
• der Umweltauswirkungen
• ihrer Verbindung mit Berufen und Sozialcharakteren und
• all der sonstigen Verhaltens prägenden Wirkungen
(Rapp 1996)
Fachbereich 3
Mathematik/Informatik
Karl-Heinz Rödiger
Technikethik
Sinndimension der Technik
„Der Sinn des technischen Objekts ist Dienst am Mitmenschen“
(Dessauer 1927)
Verträglichkeitsdimensionen
• Sozialverträglichkeit
• Umweltverträglichkeit
• Verfassungsverträglichkeit
Handlungsempfehlung des VDI
„Sozialverträgliche Gestaltung von Automatisierungsvorhaben“
Fachbereich 3
Mathematik/Informatik
Karl-Heinz Rödiger
Berufsethik für Informatiker
Was ist Informatik?
• Analyse
• Spezifikation
• Design
• Programm-/Systementwicklung
• Customizing
• Consulting
• Information Management
Was ist der Gegenstand der
Informatik?
• Problem
• Algorithmus
• Programm/System
• Hardware / IT-Infrastruktur
• Arbeits-/ Organisationsgestaltung
• Beratungsleistung
• Wirkungen der IT
Karl-Heinz Rödiger
Fachbereich 3
Mathematik/Informatik
Berufsethik für Informatiker
Karl-Heinz Rödiger
Fachbereich 3
Mathematik/Informatik
Karl-Heinz Rödiger
Fachbereich 3
Mathematik/Informatik
Berufsethik für Informatiker
„Aufgabe von Informatikern ist es, funktionsfähige Systeme zu entwikkeln; wie sie später eingesetzt werden, entzieht sich ihrer Verantwortung“
(Wedekind 1987).
„Der Informatiker ist für alle Folgen, die sein Tun unmittelbar oder
mittelbar auslöst, verantwortlich. D.h. grundsätzlich auch dafür, was
andere mit den von ihm entwickelten Produkten oder von ihm erdachten
Konzepten tun oder tun können“
(Schefe 1992).
Karl-Heinz Rödiger
Fachbereich 3
Mathematik/Informatik
Zur Genuinität einer Computerethik
Invisibility factors of computing (J. Moor 1985):
• invisible abuse unsichtbarer Miｧbrauch
• invisible biases unsichtbare Wertentscheidungen
• invisible complexity - undurchschaubare Komplexität
==> Sorgfaltspflicht des Informatikers / der Informatikerin
Die Artefakte der Informatik sind immateriell,
erzeugen jedoch materielle Wirkungen.
Karl-Heinz Rödiger
Fachbereich 3
Mathematik/Informatik
Karl-Heinz Rödiger
Fachbereich 3
Mathematik/Informatik
Karl-Heinz Rödiger
Fachbereich 3
Mathematik/Informatik
Karl-Heinz Rödiger
Fachbereich 3
Mathematik/Informatik
Karl-Heinz Rödiger
Fachbereich 3
Mathematik/Informatik
Karl-Heinz Rödiger
Fachbereich 3
Mathematik/Informatik
Fachbereich 3
Mathematik/Informatik
Karl-Heinz Rödiger
Literatur
Capurro, R.
Leben im Informationszeitalter, Akademie Vlg., Berlin 1995
Johnson, D. G.
Computer Ethics. 3rd ed., Prentice Hall, Upper Saddle River, N.J.
2001
Kuhlen, R.
Informationsethik. UTB, Stuttgart 2004
Quinn, M.J.
Ethics for the Information Age. 2nd ed., Pearson, Boston 2006
Spinello, R. A.
Case Studies in Information Technology Ethics. 2nd ed., Prentice
Hall, Upper Saddle River, N.J. 2003