Nationaler Digital-Gipfel 2017 1 Diskussionspapier

Nationaler Digital-Gipfel 2017
Diskussionspapier der Plattform „Verbraucherpolitik in der Digitalen Welt“
Künstliche Intelligenz und automatisierte Entscheidung – Regeln für eine vernetzte Welt
Der vermehrte Einsatz algorithmen-basierter automatisierter Systeme, die einzelfallbezogen
und teilweise auch schon selbstlernend Prozesse steuern, führt zu einer Debatte über den
generellen Umgang mit und Einsatz von künstlicher Intelligenz.
Hintergrund ist, dass bei solchen Algorithmen unter Nutzung von Big Data eine weitere
erhebliche Erosion der Privatsphäre, das Risiko menschlichen Kontrollverlusts und
manipulativer Fremdsteuerung drohen können. Zudem gehen Algorithmen von bestehenden
gesellschaftlichen Verhältnissen aus, was potentiell diskriminierende Wirkungen haben
kann. Gleichwohl kann ein transparenter und kontrollierter Einsatz künstlicher Intelligenz
ebenso Alltagsdiskriminierung überwinden bzw. aufdecken.
Die mit der Einführung von Systemen künstlicher Intelligenz notwendige Debatte müssen wir
deshalb auch unter ethischen Gesichtspunkten führen, ohne uns jedoch der erheblichen
Innovations- und Anwendungspotentiale dieser Technologie zu berauben. Wie bei jeder
Technologie ist der Nutzen künstlicher Intelligenz eng an ihr Einsatzfeld gebunden. Wir
wollen deshalb eine risikobezogene, gleichwohl aber innovationsoffene und differenzierte
gesellschaftliche Diskussion auf breiter Grundlage führen, was schon damit beginnt, dass
unterstrichen werden muss, dass es nicht eine Art oder einen Anwendungsbereich
künstlicher Intelligenz gibt. So reicht die Spannbreite von ausgereiften Data Analytics
Lösungen, die auch zur menschlichen Spracherkennung genutzt werden, über begrenzt
selbstlernende Systeme bis hin zu neuronalen Netzwerken, die menschliche Synapsen
nachbilden können.
Vielen Systemen inhärent ist die Zielrichtung, den Nutzer zu besseren Entscheidungen
kommen zu lassen, sei es den Arzt bei der Auswahl der erfolgsversprechensten Therapie,
den Autofahrer bei der Wahl der sichersten Strecke und Fahrweise, den Bankkunden bei der
richtigen Anlagestrategie, oder den Konsumenten bei einer zielgerichteten Produktauswahl.
Hierbei gilt einerseits: Je sensibler, komplexer und intransparenter die Einsatzgebiete sind,
umso eher birgt künstliche Intelligenz das Risiko von Fehleinschätzungen, Ungenauigkeiten
und manipulativen Einflüssen. Andererseits kann künstliche Intelligenz menschlichen
Fehlentscheidungen und Diskriminierungen vorbeugen helfen.
Wenn künstliche Intelligenz aber vermehrt die Entscheidungsfindung prägt, kommt
insbesondere den Programmierern eine besonders verantwortungsvolle Rolle zu.
Algorithmen müssen – insbesondere wenn sie Aussagen über menschliches Handeln
beinhalten – durch adäquate Kontrollinstrumente und -prozesse überprüfbar sein. Hierfür ist
ein ausreichendes Maß an Nachvollziehbarkeit und Transparenz unter Berücksichtigung der
Schutzbedürftigkeit von Betriebs- und Geschäftsgeheimnissen notwendig: Wie
interpretieren Algorithmen etwas, wie verarbeiten sie es und wie schlussfolgern sie? Mit
welcher Datengrundlage wurden die Algorithmen trainiert? Privacy by Design, wie es die
Europäische Datenschutzgrundverordnung vorsieht, sollte um Ethical by Design ergänzt
werden. Ethische Aspekte müssen Bestandteil der Ausbildung von Programmierern und
Ingenieuren sein.
1
Nationaler Digital-Gipfel 2017
Wir starten hier nicht bei Null. Überall im Bereich der Datenverarbeitung gibt es
grundrechtlich intendierte Grundsätze, die gleichfalls ethisch begründet sind
(Datensparsamkeit, Zweckbindung, Einwilligungserfordernis, Verhältnismäßigkeit,
Transparenz etc.); sie gilt es der Technik entsprechend zu untersetzen. Trotzdem bedarf es
zum Schutz von Verbrauchern und aus Gründen der Rechtssicherheit für wirtschaftlich
Tätige eines darüberhinausgehenden verlässlichen rechtlichen Ordnungsrahmens, der einen
Korridor für Innovationen erhält, jedoch künstlicher Intelligenz auch klare Grenzen setzt.
Grundsätzlich sollten dabei alle Systeme künstlicher Intelligenz sich an denselben Werten
orientieren, die menschliche Interaktion auch in der analogen Welt prägen (das ist gerade
bei Mensch-Maschine Interaktion zentral). Dies verlangt jedoch, dass Ethik differenziert
gedacht und dynamisch weiterentwickelt wird. Eine verallgemeinerte Ethik für Künstliche
Intelligenz ist hierbei nicht zielführend.
2