Computertechnologien und das Verhältnis von Sicherheit, Vertrauen
Werbung
Computertechnologien und das Verhältnis von Sicherheit, Vertrauen & Wissen ITAS (Institut für Technikfolgenabschätzung und Systemanalyse) Judith Simon KIT – Universität des Landes Baden-Württemberg und nationales Forschungszentrum in der Helmholtz-Gemeinschaft www.kit.edu Struktur ! Vertrauen, Wissen und Sicherheit – Einleitung ! Vertrauen in der Wissenschaft – Ein Exkurs in die Philosophie ! Vertrauen und Computertechnologien ! Unsicherheiten & (In-)Transparenz ! Vertrauen und Informations- und Kommunikationstechnologien ! Konklusionen 2 ITAS Vertrauen, Wissen und Sicherheit 3 ITAS Das Problem des Vertrauens 4 ITAS Wissen, Vertrauen & Sicherheit ! Vertrauen ist allgegenwärtig, wir vertrauen permanent Personen, Dingen, Technologien, Institutionen, Prozessen ! Nicht zu vertrauen würde unsere Handlungsfähigkeit enorm einschränken ! Meistens ist uns gar nicht bewusst, dass wir vertrauen. Das Bewusstwerden von Vertrauen ist oft ein Zeichen des Zweifels: “Vertrau mir!” ! Manchmal vertrauen wir, um etwas zu wissen: dies ist epistemisches Vertrauen 5 ITAS Wissen, Vertrauen & Sicherheit ! Epistemisches Vertrauen beschreibt die Tatsache, dass ein Großteil unseres Wissens auf den Aussagen anderer Personen basiert, auf deren Zeugenschaft. ! Ohne anderen Personen zu vertrauen, wüßten wir weder die grundlegensten Fakten unseres Lebens (z.B. Geburtstag & -ort), noch würden wir über wissenschaftliches Wissen verfügen. ! Darüber hinaus vertrauen wir nicht nur anderen Personen, sondern auch nicht-menschlichen Entitäten wie Institutionen, Prozessen oder Technologien, um zu wissen. ! Wir können nicht wissen, ohne zu vertrauen! 6 ITAS Wissen, Vertrauen & Sicherheit Wo ist das Problem? 7 ITAS Wissen, Vertrauen & Sicherheit ! Vertrauen beinhaltet inhärent das Risiko enttäuscht zu werden, es ist per definitionem nicht Sicherheit. ! Und in Bezug auf epistemisches Vertrauen: sollte Wissen nicht sicher sein? Wie kann ich wissen, wenn ich mir nicht sicher bin, ob mich jemand angelogen hat? Wie kann ich wissen, wenn ich nicht sicher sein kann, ob eine Berechnung korrekte Resultate geliefert hat, wenn ich eine Berechnung nicht nachvollziehen kann? ! Die grundlegende philosophische Frage ist: unter welchen Bedingungen ist (epistemisches) Vertrauen gerechtfertigt? 8 ITAS Vertrauen in der Wissenschaft 9 ITAS Vertrauen & Wissen in der Philosophie ! In der Erkenntnistheorie ist das Thema Vertrauen im Diskurs um Zeugenschaft verankert ! Zeugenschaft (testimony) als vierte Wissensquelle neben Wahrnehmung, Gedächtnis und logischem Schließen ! Allerdings wird Zeugenschaft häufig als minderwertige Wissensquelle angesehen, weil sie als fehlbarer gilt ! Epistemischer Individualismus der Westlichen Philosophie: Wissende als isolierte Denker ! Annahme: Um zu wissen, müssen wir Beweise anführen können, wir müssen Wissensansprüche rechtfertigen können. Wir können nicht einfach wissen indem wir dem vertrauen, was andere uns erzählen. 10 ITAS Vertrauen in der Wissenschaft I Hardwig (1991): "The role of trust in knowledge" ! Es wird normalerweise angenommen, dass Wissenschaft auf Beweisen (Evidence) basiert und nicht auf Vertrauen = antithetische Konzeptualisierung von Wissen und Vertrauen ”[w]e can not know by trusting in the opinion of others; we may have to trust those opinions when we do not know” (Hardwig 1991: 693) 11 ITAS Vertrauen in der Wissenschaft I Hardwig (1991): "The role of trust in knowledge" Aber: Moderne Wissenschaft ist kollaborativ ! ! ! Fallstudien in Nuklearphysik und Mathematik Aufgrund von Spezialisierung und Zeitdruck gilt: “[m]odern knowers cannot be independent and self-reliant, not even in their own fields of specialization” Hardwig 1991, p.693 Wissenschaftler müssen sich gegenseitig vertrauen hinsichtlich ihrer a) b) c) 12 Kompetenz Ehrlichkeit Adäquater epistemischer Selbsteinschätzung Diese Beurteilung ist epistemisch und moralisch! ITAS Vertrauen in der Wissenschaft II Shapin (1994): „A social history of truth“ ! Historische Analyse der Rolle der Zeugenschaft von Gentlemen für die Entwicklung der Experimentalphilosophie als Vorgänger der experimentellen Wissenschaften im England des 17. Jahrhunderts 13 http://images2.fanpop.com/image/photos/13000000/So-called-gentlemen-looking-at-the-undies-image-LOLvintage-13055407-975-1200.jpg ITAS Vertrauen in der Wissenschaft II Shapin (1994): „A social history of truth“ ! Historische Analyse der Rolle der Zeugenschaft von Gentlemen für die Entwicklung der Experimentalphilosophie als Vorgänger der experimentellen Wissenschaften im England des 17. Jahrhunderts 14 ! “[k]nowledge is a collective good. In securing our knowledge we rely upon others, and we cannot dispense with that reliance. That means that the relations in which we have and hold our knowledge have a moral character, and the word I use to indicate that moral relation is trust” (Shapin: XXV) ! Wenn unser Wissen über die Welt vom Wissen anderer abhängt, sollten wir diese sorgsam auswählen: Vertrau den Vertrauenswürdigen! Aber wie findet man diese? ITAS Vertrauen in der Wissenschaft II Shapin (1994): „A social history of truth“ ! Vertrauenswürdig = unparteiisch & frei = Gentlemen 15 ! Gentlemen waren ökonomisch frei, sie mußten nicht arbeiten ! Ökonomische Freiheit als Voraussetzung für moralische Freiheit ! Sozialer Status Moralischer Status Epistemischer Status von Aussagen ! Frauen waren entsprechend nicht vertrauenswürdig, weil sie ökonimisch abhängig waren! ! Plus: Gentlemen vertrauten sich nicht nur aufgrund Ihrer vorgeblichen ökonomischen Unabhängigkeit, sondern auch weil: “they belonged to the same club” (Lipton 1998: 12). ITAS Vertrauen in der Wissenschaft II Feministische Kritik an epistemischem Vertrauen ! Wenn soziale Kriterien verwendet werden, um epistemische Vertrauenswürdigkeit abzuschätzen öffnet dies Tür & Tor für Ungerechtigkeiten und Diskriminierung Fricker (2007) „Epistemic Injustice: Power and the Ethics of Knowing“ ! ! “testimonial injustice occurs when prejudice causes a hearer to give a deflated level of credibility to a speaker’s word” (Fricker 2007: 1).” β-Fehler des Vertrauens: Vertrauenswürdigen misstrauen α-Fehler des Vertrauens: Nicht-Vertrauenswürdigen vertrauen 16 ITAS Vertrauen & Computertechnologien 17 ITAS Vertrauen & Computertechnologien MacKenzie (2001): Mechanizing proof: computing, risk, and trust ! Die meisten Aspekte unseres Lebens hängen mittlerweile von Computertechnologien ab: wie können wir sicher sein, wie können wir wissen, dass diese Technologien vertrauenswürdig sind? ! MacKenzie vergleicht menschliche mathematische Beweisführung mit formaler automatisierter Beweisführung (Vier-Farben-Satz) in den Anfängen der KI und schließt : „Yet the human community is now not the only ‚trustworthy agent‘ to which to turn: it has been joined by the machine. […] Modernity‘s‚ trust in numbers can, it appears, lead back to a grounding not in trust in people, but trust in machines.“ (Mackenzie 2001:12) 18 ITAS Vertrauen & Computertechnologien Humphreys (2004): Extending Ourselves: Computational Science, Empiricism, and Scientific Method ! ! ! Wissenschaft nicht limitiert durch menschliche Sinneswahrnehmung: Ergänzung durch Instrumente & neue mathematische Verfahren wie Simulationen Komplexe Berechnung (z.B. in Physik) bedürfen Computer. Das Problem "epistemischer Opazität“: ! 19 ein Rechenprozess ist zu schnell/komplex um von Menschen nachvollzogen zu werden, es gibt keinen expliziten Algorithmus der Input und Output verknüpft, etc. Wo beginnen wir zu vertrauen in der Nutzung von Simulationen und komplexer mathematischer Verfahren? Welche Auswirkungen hat diese Unsicherheit, dieses Vertrauen auf das so generierte Wissen? ITAS Vertrauen & Sicherheit in der Wissenschaft 20 ITAS Vertrauen, Wissen & Sicherheit In der Wissenschaft ist Vertrauen in andere Personen ebenso unumgänglich wie das Vertrauen in andere Entitäten: ! ! ! ! ! Das Vertrauen zwischen diesen Entitäten ist verbunden ! ! ! ! 21 Trust Propagation: Ich vertraue den Daten von Forscherin X, weil sie an einer anerkannten Institution arbeitet, bzw. die Ergebnisse in einem renommierten Journal publiziert wurden... Heuristiken spielen große Rolle in der Abschätzung von Vertrauenswürdigkeit ! ! Prozesse und Methoden Institutionen und Organisationen Bestehendes Wissen Instrumente und Technologien, besonders Computertechnologien Heuristiken sind häufig epistemisch vorteilhaft, bergen jedoch epistemische und ethische Risiken (α & β-Fehler des Vertrauens) Prinzipiell nicht zu vertrauen ist unmöglich: endloser Regress & inhärente Unsicherheit an den Grenzen des Wissens Daher sind Wissensprozesse fundamental unsicher & riskant ITAS Beispiel: Energieszenarien 22 ITAS Vertrauen, Wissen und Vertrauenswürdigkeit Bsp: Energieszenarien Quelle: Keles et al. , 2009 Percentage of the German Primary Energy Demand (PED) for 2050 in Different Scenarios 23 ITAS Vertrauen, Wissen und Vertrauenswürdigkeit Bsp: Energieszenarien ! Wem vertrauen? Vertrauen den Gentlemen & mistraue allen mit persönlichem Interesse! Steven Shapin (1994) „A social history of truth“ Überprüfe aber nicht nur, wer ehrlich ist (bzw. zumindest keinen Grund hat zu lügen), sondern auch wer kompetent ist und die Grenzen der eigenen Kompetenz kennt! 24 ITAS Vertrauen, Wissen und Vertrauenswürdigkeit Bsp: Energieszenarien ! Wem vertrauen? Den Vertrauenswürdigen! Und denen, die Ihre Methoden, Prozesse, Daten und Interessen transparent machen. ! Vertrauenswürdigkeit als epistemische und moralische Leistung ! Transparenz ermöglicht prinzipielle Überprüfung von Vertrauenswürdigkeit auch wenn tatsächliche Überprüfung ausbleibt 25 ITAS Unsicherheiten und (In)Tranparenz 26 ITAS Unsicherheiten & Strategien der Transparenz ! Unsicherheit von Wissen I: Vertrauen in Ehrlichkeit & Kompetenz anderer ! Verwendung (fehlbarer) Heuristiken & Track Records ! Transparenz von Forschungsprozessen um checks & balances zu ermöglichen (Stichwort: open data, Zugang zu Forschungsdaten) ! Offenlegungen von Interessen, Affiliationen, Finanzierungen, ... ! Unsicherheit von Wissen II: Vertrauen in Prozesse & Methoden (Messunsicherheit, Biases, statistische Artefakte, ...) ! Angaben von Konfidenzintervallen, Replizierbarkeit, Transparenz über Methoden, ... ! Unsicherheit von Wissen II: Vertrauen in Computertechnologien – Epistemische Opazität komplexer Berechnungen ! Transparenz als epistemisches Ziel, Erkundung der Grenzen des Wissens (Noch-Nichtwissen – Nicht-wissen-können) 27 ITAS Vertrauen, Wissen & IKT im Alltag 28 ITAS Vertrauen, Wissen & IKT 29 ITAS Vertrauen, Wissen & IKT ! Auch hier ist Vertrauen in andere Agenten (menschliche wie nichtmenschliche) zentral für Wissensakquise ! Auch hier ist Transparenz zentral um epistemisch verantwortlich zu handeln, um zu wissen wann man wem in welchem Ausmaß vertrauen kann ! Diese Transparenz ist aber meist nicht gegeben ! a) willentliche und schwer umgehbare Intransparenz (z.B. Geschäftsgeheimnisse bei Suchalgorithmen) ! b) unwillentlichen und auflösbare Intransparenz : wie genau kann/soll man Prozesse transparent machen (intelligente Visualisierungen, etc)? 30 ITAS Vertrauen, Wissen & IKT ! Smart Environments „What is new here is that the computational layer that mediates our access to knowledge and information is anticipating us, creating a single contingency: whereas it has access to the data to make its inferences, we have no such access and no way of guessing how we are being ‘read’ by our novel smart environments.“ (...) first, to develop human machine interfaces that give us unobtrusive intuitive access to how we are being profiled, and, second, a new hermeneutics that allows us to trace at the technical level how the algorithms can be ‘read’ and contested. Mireille Hildebrandt (2013:4) 31 ITAS Konklusionen 32 ITAS Offene Fragen - anstelle von Konklusionen ! Wie/Wem vertrauen wir in Wissensprozessen – und wie/wem sollten wir vertrauen in sozio-technischen epistemischen Systemen? ! Was sind die (epistemischen) Verantwortlichkeiten von verschiedenen Akteuren ! Wissenschaft: Forschung, Lehre, Politik, Wirtschaft, … ! Alltag: Nutzer oder Designer von Suchmaschinen, RS, etc. ! Wie kann man Konzepte wie, Vertrauen, Wissen, Sicherheit, Verantwortung und Verantwortlichkeit in sozio-technischen Systemen überhaupt verstehen? ! TA ! Wie kann & soll verantwortlich mit politisch nachgefragtem Wissen (Stichwort: Energiewende & Rohstoffprognosen; Klimaszenarien; Machbarkeitsstudien; Simulationen, etc.) unter der Bedingung von Vertrauen und Unsicherheit umgegangen werden? ! Welche neuen (Design)aufgaben ergeben sich ggf. für TA (Stichwort privacy-by-design transparency-by-design)? 33 ITAS Vielen Dank für die Aufmerksamkeit! [email protected] 34 07.06.2013 ITAS
