Stellungnahme - Deutscher Bundestag

Deutscher Bundestag
Verteidigungsausschuss
Ausschussdrucksache
18(12)148
23.06.2014 - 18/743
5410
Öffentliche Anhörung des Verteidigungsausschusses, 30. Juni 2014
„Völker-, verfassungsrechtliche sowie sicherheitspolitische und
ethische Fragen im Zusammenhang mit unbemannten Luftfahrzeugen, die über Aufklärung hinaus auch weitergehende Kampffähigkeiten haben“
Schriftliche Stellungnahme von Dr. Marcel Dickow,
Forschungsgruppe Sicherheitspolitik, Stiftung Wissenschaft und Politik
Einleitung
Unbemannte Luftfahrzeuge (UAS oder UAV, Unmanned/Unpiloted Aerial
Systems/Vehicles oder auch RPAS, Remotely Piloted Aerial Systems) haben
sich zu einem bevorzugten Mittel der militärischen Aufklärung entwickelt.
Sie können unter bestimmten Voraussetzungen (Wetter, Luftraumbeherrschung) die Lücke zwischen taktischer Aufklärung am Boden und strategischer Aufklärung durch Satelliten schließen und dabei einige Nachteile von
Satellitendaten (kurze Überflugszeiten, geringe Revisit-Frequenz von
einigen Tagen) ausgleichen. Als von besonderem Interesse für Streitkräfte
haben sich in den vergangenen Jahren dabei die sogenannten MALESysteme (Medium Altitude, Long Endurance) herausgestellt. Die Bundeswehr nutzt solche MALE-Aufklärungssysteme vom Typ Heron 1
(CASSIDIAN/Israel Aerospace Industries) im Rahmen der SAATEGZwischenlösung („System Abbildende Aufklärung in der Tiefe des Einsatzgebiets“) für den Einsatz in Afghanistan. Die dort eingesetzten drei Systeme
sind seit 2009 geleast und ausschließlich für den Einsatz im afghanischen
Luftraum zugelassen. Der mittlerweile mehrfach verlängerte Vertrag endet
im April 20151. Die Bundesregierung erwägt trotz Abzugs eines Großteils
des Bundeswehrkontingents aus Afghanistan eine Vertragsverlängerung für
1
siehe Thomas Wiegold, „DroneWatch: Leasingvertrag für Heron-Drohnen verlängert“, Augen
geradeaus, 10. Januar 2014, http://augengeradeaus.net/2014/01/dronewatch-leasingvertrag-furheron-drohnen-verlangert/.
1
ein mögliches Nachfolgemandat "Resolute Support Mission" bis 20162. Um die
Fähigkeit SAATEG aufrechtzuerhalten, plant das Bundesministerium der
Verteidigung (BMVg) im aktuellen Einzelplan 14 zudem Mittel für eine
Beschaffung von industriell verfügbaren MALE-UAS3 in der zweiten Hälfte
des Jahrzehnts ein und schließt darüber hinaus eine anschließende Beteiligung an einem europäisch entwickelten System4 im Zeitraum 2020-2025
nicht aus. Die Fähigkeit zur Bewaffnung dieser Plattform ist dabei Teil der
von Mitgliedern der Luftwaffe5 geforderten, militärischen Spezifikation.
Definitionen und Begriffe
Während die technologische Entwicklung und entsprechende Forschung im
Bereich unbemannter Flugsysteme voranschreitet, verschieben sich zunehmend Begrifflichkeiten. Generell wird in der (nicht-wissenschaftlichen)
Öffentlichkeit von Drohnen oder bewaffneten Drohnen gesprochen, wenn
unbemannte, also (teilweise) ferngesteuerte oder (teilweise) autonome Luft-,
seltener auch Wasser- oder Bodenfahrzeuge gemeint sind. Im Englischen
werden, bezogen auf die fliegende Systeme, die Abkürzungen UAV/UAS
(Unmanned Aerial Vehicle/System), RPAS (Remotely Piloted Air System) oder
UCAV (Unmanned Combat Aerial Vehicle) benutzt. Schon der Begriff RPAS
definiert nicht die Fähigkeit, Waffen (Wirkmittel) zu tragen oder einzusetzen. UCAV schließlich wird in der Literatur unterschiedlich verwendet:
einige engen die Bezeichnung auf die kommende Generation luft- und
bodenkampffähiger Systeme (X-47B, nEURon, Taranis) ein, die auch in
Gebieten ohne Lufthoheit eingesetzt werden sollen. Sie werden schneller
und besser getarnt sein und besitzen gegebenenfalls die Fähigkeit zum
2
3
4
5
2
Deutscher Bundestag, „Kleine Anfrage - Drohnen im Einsatzspektrum der Bundeswehr“, 9. Mai
2014, http://dipbt.bundestag.de/extrakt/ba/WP18/595/59546.html.
siehe „Bundestag Plenarprotokoll 18/38 - 18038.pdf“, S. 3295, zugegriffen 20. Juni 2014,
http://dip21.bundestag.de/dip21/btp/18/18038.pdf.
siehe EDA, „Defence Ministers Commit to Capability Programmes“, 19. November 2013,
http://www.eda.europa.eu/info-hub/news/2013/11/19/defence-ministers-commit-to-capabilityprogrammes.
Karl Müllner, „Ferngesteuerte Luftfahrzeuge – maßgeschneiderter und besserer Schutz für unsere
Soldaten im Einsatz“, Ethik und Militär, Anonymes Töten durch neue Technologien? Der Soldaten zwischen Gewissen und Maschine, Nr. 2014/1 (2014): S. 27ff,
http://www.ethikundmilitaer.de/fileadmin/Journale/201406/Gesamtausgabe_2014_1_Anonymes_Toeten_durch_neue_Technologien_Der_Soldat_zwisc
hen_Gewissen_und_Maschine.pdf.
Selbstschutz. Andere subsummieren hier auch die bewaffnungsfähigen
Aufklärungssysteme (Heron TP, MQ-9, usw.).
Einschätzung
Richtig ist, dass der Einsatz bewaffneter, unbemannter Luftfahrzeuge im
sogenannten close-air-support-Szenario (Luft-Nahunterstützung, vgl. Müllner6) im internationalen und nicht-internationalen bewaffneten Konflikt
im Sinne des Völkerrechts legal ist, wenn die vorgeschriebenen Vorsichtsmaßnahmen und Einsatzbeschränkungen (Verhältnismäßigkeit, Unterscheidungsgebot) eingehalten werden (vgl. z.B. Marauhn7, Frau8). Richtig ist
auch, dass Fragen der Legalität und Legitimität alleine aber noch keinen
ausreichenden Bewertungsmaßstab abgeben, um über die Beschaffung
solcher Systeme für die Bundeswehr zu entscheiden. Es ist auch Aufgabe der
Wissenschaft und letztendlich der Politik, die weiterführenden Konsequenzen der Technologie und ihres Einsatzes durch deutsche Streitkräfte zu
analysieren und zu bewerten. Dafür sollen an dieser Stelle insbesondere
zwei der Technologie inhärente Trends – Verführungen – beleuchtet werden: erstens die räumliche und zeitliche Entgrenzung von militärischer
Gewaltausübung durch unbemannte, bewaffnete Flugsysteme in der
Grauzone von Mandatierungen; und zweitens, der technologische Pfad von
ferngesteuerten Systemen und ihrer Assistenzsysteme in die funktionale
Autonomie. Zuvor jedoch gilt es einige korrekte und einige fälschlich
angenommene Kausalzusammenhänge zu analysieren.
Kausalitäten
Vertreter der Luftwaffe der Bundeswehr und Befürworter der Beschaffung
und des Einsatzes bewaffneter, unbemannter Luftfahrzeuge argumentieren
überwiegend im Szenario der Luft-Nahunterstützung für Bodentruppen der
Bundeswehr in asymmetrischen Konfliktszenarien. Sie stellen den Schutzaspekt für die eingesetzten Bodentruppen und die fehlende Gefährdung für
6
7
Ebd., S. 30.
Jürgen Altmann, Michael Brzoska, und Thilo Marauhn, Unbemannte bewaffnete Systeme:
Verändert der rüstungstechnologische Wandel den Umgang mit Konflikten? : eine friedenspolitische Perspektive ; Beiträge zum Parlamentarischen Abend der DSF am 25. September 2012
in Berlin (Dt. Stiftung Friedensforschung, 2013), S. 26ff.
8
Robert Frau, Drohnen und das Recht: Völker- und verfassungsrechtliche Fragen automatisierter
und autonomer Kriegführung, Auflage: 1 Tübingen: Mohr Siebeck, 2014).
3
das Bedienpersonal, sowie die ausdauernde Beobachtung und persistente
Bedrohung des Gegners durch solche Systeme in den Vordergrund. Diese
Annahmen sind in ihrer Allgemeinheit nicht begründet. Sie werfen insbesondere bei drei Aspekten Fragen auf:

Ohne Frage sind Informationen durch optische Aufklärung hilfreich zur
Erstellung eines Lagebilds, ihnen wohnt das Potential inne, es zu bereichern. Allerdings gibt es keine Kausalität zwischen mehr Aufklärungsdaten und einem besseren, das heißt konsistenteren Lagebild. Rein statistisch gesehen müssen Informationen aus unterschiedlicher
Aufklärungssensorik einander nämlich nicht bestätigen. Messfehler,
Rauschen, Fehlinterpretation und stochastische Schwankungen wachsen mit steigender Quantität der Sensordaten ebenso. Hinzu kommt,
dass die angenommene lange Beobachtungszeit zwar in der Tat mehr
Messdaten erzeugt, die von einigen als Vorteil beschriebene spontane
Flexibilität bei der Zielauswahl (das kurzfristige Wechseln zu einem anderen Ziel, vgl. Müllner9) aber diesen Effekt konterkariert. In der Realität
des close-air-support-Szenarios spielen tatsächlich kurzfristige Entscheidungen eine maßgebliche Rolle. Dies lässt sich aus der Argumentation
ableiten, dass die Wartezeit auf bemannte Luft-Nahunterstützung zu
lang sei, dagegen das bewaffnete, unbemannte Flugsystem schon in der
Luft sein und sofort wirken könne.

Insbesondere in Kreisen der U.S.-amerikanischen Administration wird
im Zusammenhang mit dem Anti-Terror-Kampf argumentiert, dass
durch das punktgenaue Wirken mit Hilfe von Präzisionswaffen (z.B.
Hellfire-Raketen) von unbemannten Luftfahrzeugen aus das Unterscheidungsgebot des Humanitären Völkerrechts besser berücksichtigt werden
kann. Diese Schlussfolgerung ist schon formal-logisch unzulässig und
bleibt auch für das close-air-support-Szenario falsch: die Präzision eines
Wirkmittels schafft noch keine Legitimität für seinen Einsatz. Die Zielpersonen können zwar ohne oder mit verringertem Schaden für
umherstehende Dritte getroffen worden sein, sie werden dadurch aber
nicht automatisch zu legitimen und legalen Zielen.

Bislang sind keine Belege dafür bekannt, dass eine persistente, unberechenbare Bedrohung durch bewaffnete, unbemannte Luftfahrzeuge in
9
Müllner, „Ferngesteuerte Luftfahrzeuge – maßgeschneiderter und besserer Schutz für unsere
Soldaten im Einsatz“, S. 29 unten.
4
Stabilisierungsmissionen oder bei der Aufstandsbekämpfung asymmetrische Gegner von Angriffen abhält. Obwohl ein solcher Effekt nicht
auszuschließen ist, wird er doch von konterkarierenden Begleiterscheinungen bei der Zivilbevölkerung flankiert. Diese sieht sich nämlich
ebenfalls einer ständigen, latenten Gefahr ausgesetzt, selbst wenn sie
nicht mit dem Gegner sympathisiert. Untersuchungen 10 von Menschenrechtsorganisationen legen nahe, dass die sehr wohl hör- und sichtbaren, bewaffneten, unbemannten Luftfahrzeuge z.B. im afghanischpakistanischen Grenzgebiet die Ziele der ISAF-Stabilisierungsoperation
in Afghanistan unterlaufen, indem sie die Zivilbevölkerung unter einen
"akustisch vorgebrachten Generalverdacht" stellen und so gegen die
Mitglieder der "Schutztruppe" aufbringen. So würde der Drohneneinsatz
letztlich seine Ziele selber erschaffen – zusätzliche Gegner.
Der Entgrenzungstrend
Neben diesen offenen Fragen verfügen bewaffnete, unbemannte Luftfahrzeuge auch über das Potential, gewaltsame Auseinandersetzungen schneller/dynamischer in räumliche und zeitliche Bereiche zu projizieren, die im
Graubereich vorgegebener Mandate und völkerrechtlicher Bestimmungen
liegen. Um dies zu verdeutlichen soll folgendes Szenario betrachtet werden:
Das Land X befindet sich in einem nicht-internationalen, bewaffneten
Konflikt. Nach einem gescheiterten Angriff auf eine UN (oder
NATO/EU/AU)-Patrouille der UN-mandatierten Stabilisierungsmission im
Dorf A fliehen die Angreifer in einem zivilen Fahrzeugkonvoi in Richtung
der nächst größeren Stadt B, die einige Dutzend Kilometer entfernt in
einer bislang nicht von Kriegshandlungen betroffenen Region liegt. Ein
bewaffnetes, unbemanntes Luftfahrzeug über dem Gebiet der ursprünglichen Auseinandersetzung kann die angenommenen Fahrzeuge der
Flüchtenden mit optischer Sensorik erfassen und verfolgen. Obwohl die
Angreifer keine unmittelbare Gefahr für die Patrouille, andere Einsatzkräfte oder die Bevölkerung vor Ort darstellen, sollen mittelbare Gefahren für die Zukunft ausgeschlossen und die Angreifer bekämpft werden.
Wegen zivilen Straßenverkehrs auf dem Weg nach B ist eine Bekämpfung
aus der Luft durch das beobachtende, bewaffnete, unbemannte Luftfahr10
vergl. Living Under Drones: Death, Injury and Trauma to Civilians from US Drone Practices in
Pakistan, zugegriffen 20. Juni 2014, http://www.livingunderdrones.org/report/.
5
zeug nicht sofort möglich. Erst vor der Stadt B nimmt der Verkehr ab und
ein Waffeneinsatz erscheint dem Führungsoffizier vertretbar, bevor die
Angreifer in der Stadt untertauchen können.
Was ist die neue Qualität dieser Situation im Vergleich zum close-airsupport-Szenario mit bewaffneten, bemannten Flugsystemen und einem
unbewaffneten, unbemannten Luftfahrzeug zur Beobachtung?
Erstens kommt eine Bekämpfung auch nach Beendigung der direkten
gewaltsamen Auseinandersetzung durch das unbemannte Luftfahrzeug
noch in Frage. Bemannte Luft-Nahunterstützung könnte nicht rechtzeitig
genug eintreffen oder würde zu viel Zeit für Einweisung und Zielauffassung
benötigen. Zweitens kann die Bekämpfung an einem räumlich entfernten
Ort durchgeführt werden, der nicht im Zusammenhang mit der ursprünglichen gewaltsamen Auseinandersetzung steht. Ohne an dieser Stelle die
Legalität einer solchen Bekämpfung zu bewerten (und die Frage zu klären,
ob die fliehenden Angreifer legitime Ziele darstellen), lässt sich feststellen,
dass bewaffnete, unbemannte Luftfahrzeuge das Potential besitzen, gewaltsame, militärische Auseinandersetzungen räumlich und zeitlich zu
entgrenzen und dieser Entgrenzung eine bislang nicht bekannte Dynamik
zu ermöglichen. Solche Entgrenzungstendenzen lassen sich zudem nur
bedingt durch Rules of Engagement (ROE) einhegen, insbesondere dann,
wenn andere als akute militärische Entscheidungszwänge11 gegeben sind.
Das angenommene Szenario zeigt auch, dass die häufig angeführten langen
Beobachtungszeiten durch unbemannte Luftfahrzeuge zwar zutreffen,
Entscheidungen zum Einsatz von direkter militärischer Gewalt (Wirkmittel)
dann aber doch unter hohem Zeitdruck und aufgrund beschränkter Aufklärungsdaten getroffen werden müssen. In diesem Fall könnte eine ausreichende Lagebeurteilung wahrscheinlich nicht in der zur Verfügung stehenden Zeit durchgeführt werden12. Es lässt sich abschließend feststellen, dass
der Vorteil eines potentiell verbesserten Schutz eigener Bodenkräfte durch
das bewaffnete, unbemannte Luftfahrzeug mit einer räumlichen und
zeitlichen Entgrenzungstendenz der Auseinandersetzung einhergeht oder
erkauft wird.
11
12
6
Nicht akute militärische oder aber auch politische Entscheidungskontexte können zum Beispiel
durch die wahrgenommene gesamtmilitärische Lage im Einsatzgebiet gegeben sein.
Eine Einsatzentscheidung müsste kurzfristig dann gefällt werden, wenn die Verkehrssituation auf
der Straße eine Vermeidung von zivilen Opfern begünstigt. Es bliebe zum Beispiel keine Zeit
zu überprüfen, ob der Fahrzeugkonvoi noch mit dem ursprünglich identifiziertem Ziel identisch
ist und ob Personen zu- oder ausgestiegen sind.
Der Autonomietrend
Die Fernsteuerung von bewaffneten, unbemannten Luftfahrzeugen, die
sogenannte Teleoperation, bringt erhebliche Nachteile für die militärische
Operationsführung mit sich. Zwar ist der Bediener nicht mehr der unmittelbaren Gefahr für Leib und Leben im Einsatzgebiet ausgesetzt und leidet
auch nicht unter möglichen physischen Folgen des Flugbetriebs (z.B. Fliehkräfte, Lautstärke, zeitlich begrenzte Aufmerksamkeitsspannen usw.),
dennoch macht sich der Bediener auf entscheidende Weise abhängig von
der Kommunikation mit seinem ferngesteuerten Luftfahrzeug. Weil dieser
Kommunikationsflaschenhals störbar und verfälschbar ist und zudem
Latenzzeiten von mehreren Sekunden aufweisen kann - insbesondere bei
Teleoperation über Satellitenverbindungen -, arbeiten bereits heute Entwickler der Industrie an autonomen Funktionen für den Flugbetrieb.
Zukünftige, schnelle, unbemannte Luftfahrzeuge sollen stärker als bisher
unabhängig von Kommunikation mit Bodenstationen operieren können.
Für Start und Landung (sogar auf Flugzeugträgern), Luftbetankung, Operationen im Schwarm und spezielle Flugmanöver sind solche autonomen
Funktionsweisen bereits im Testbetrieb oder werden erforscht. Autonomie
für Teile des Missionssmanagements bildet den nächsten Schritt. Diese
Form der Autonomie wird stärker als bisher Flugbetrieb und
Missionssensorik verzahnen. Für die Aufklärungsfunktionen unbemannter
Luftfahrzeuge werden solche Assistenzsysteme entwickelt, um z.B. den
optimalen Flugorbit für die Beobachtung multipler Ziele zu ermöglichen.
Dabei kommt Bildauswertungssoftware mit Musterkennung entweder auf
der Plattform oder in der Bodenstation zum Einsatz. Auch diese technologischen Möglichkeiten sind in der Entwicklung13.
Wegen der technologischen und militärischen Einschränkungen der Fernsteuerung führt diese Übergangslösung zwangsläufig auf den Pfad zur
funktionalen Autonomie14. Dies gilt auch für unbemannte Systeme am
Boden und im Wasser. Weitere Faktoren verstärken diese Entwicklung. So
lassen sich militärische Vorteile im Bezug auf Reaktionsgeschwindigkeit
13
14
vergl. z.B. das DARPA-Projekt "Gorgon Stare" in Ellen Nakashima und Craig Whitlock, „With
Air Force’s Gorgon Drone ‚We Can See Everything‘“, The Washington Post, 2. Januar 2011,
Abschn.
Nation,
http://www.washingtonpost.com/wpdyn/content/article/2011/01/01/AR2011010102690.html.
siehe auch Marcel Dickow und Hilmar Linnenkamp, „Kampfdrohnen – Killing Drones: Ein
Plädoyer gegen die fliegenden Automaten“, SWP Aktuell, Nr. 2012/A 75 Dezember 2012),
http://www.swp-berlin.org/fileadmin/contents/products/aktuell/2012A75_dkw_lnk.pdf.
7
unbemannter Luftfahrzeuge nur dann ausspielen, wenn sie autonom oder
teilautonom agieren. Die elektronische Signatur von Luftfahrzeugen lässt
sich zudem deutlich reduzieren, wenn sie nicht teleoperiert sondern
autonom ihre Mission erfüllen. Mit zunehmender Sensorik auf der fliegenden Plattform werden die Grenzen der Übertragungsbandbreite für Satellitenkommunikation erreicht. Dies macht eine Sensordatenverarbeitung an
Bord erforderlich, die letztendlich Assistenzsysteme der Plattform für den
Operateur am Boden darstellen.
So wie sich der Trend zur Bewaffnung unbemannter Luftfahrzeuge in den
vergangenen Jahren nicht hat aufhalten lassen15, so wird ihr Pfad in die
Autonomie - nach derzeitigem Kenntnisstand - nicht zu stoppen sein. Die
Kombination aus zunehmender Autonomie und Bewaffnung verdrängt den
Menschen aus dem Entscheidungsprozess zum operativen Gewalteinsatz.
Wenngleich technisch-operative Konzepte entwickelt werden, um den
Bediener in der Entscheidungsschleife ("on-the-loop") zu halten, so verliert
er dennoch die Fähigkeit, die Kontrolle vollständig auszuüben. Zu sehr wird
er auf Assistenzsysteme angewiesen sein, um die Komplexität des Gesamtsystems und der Lageanalyse zu beherrschen. Diese Assistenzsysteme
werten z.B. Video-Material aus, identifizieren und priorisieren Personen
und Objekte, organisieren die Verfolgung dieser Personen und Objekte über
mehrere Sensordatenquellen hinweg oder vereinigen heterogene Datenquellen zu einem gemeinsamen Lagebild. Damit geht einher, dass der
Operateur in Echtzeit nicht mehr nachvollziehen kann, wie das Assistenzsystem zu Vorschlägen für z.B. Handlungsoptionen kommt und welche
dabei von vorneherein ausgefiltert werden. Auch wenn der verantwortliche
Offizier jeden Einsatz von Waffengewalt im Sinne einer on-the-loop-Logik
bestätigen müsste, so wären softwarebasierte Assistenzsysteme in Waffensystemen bereits dann als (teil-)autonom zu betrachten, wenn sie selbstständig Ziele und Mittel vorschlagen oder, nicht (in Echtzeit) nachvollziehbar, das Lagebild wesentlich berechnen. Wer glaubt solche autonomen oder
teilautonomen Funktionen mit Verbindung zum Waffeneinsatz durch eine
definitorische Grenze ausschließen zu können, verkennt die bereits heute
stattfindende Nutzung von Assistenzsystemen in der Militärtechnologie.
Schon wegen der zivilen Technologieentwicklung (zum Beispiel bei auto15
8
Mindestens ein Dutzend Staaten streben nach bewaffneten, unbemannten Luftfahrzeugen, u.a.
auch China und die Türkei. Bisher verfügen aber nur die USA, Israel und Großbritannien über
bewaffnete, unbemannte Luftfahrzeuge der MALE-Klasse, die nachweislich einsatzfähig sind.
nom fahrenden PKWs) ist maschinelle (Teil-)Autonomie im Bereich militärischer Anwendung nicht aufzuhalten. Sie sollte sich aber nicht auf den
Bereich bewaffneter Systeme ausdehnen (vergl. Koalitionsvereinbarung16).
Weil sich aber der technologische Trend nicht stoppen lassen wird, ist von
der Bewaffnung solcher Systeme abzuraten.
Schlussbetrachtung
Bewaffnete, unbemannte Luftfahrzeuge stehen am Beginn einer Kette
zukünftiger Entwicklungen, die einerseits die räumliche und zeitliche
Entgrenzung der Gewaltausübung begünstigen, andererseits zum Einsatz
zunehmend autonomer Plattformen führen werden. Auch wenn sich die
Bundesregierung und der Bundestag kritisch mit diesen Entwicklungen
auseinandersetzt, wird die Bundeswehr durch Interoperabilitätsanforderungen ihrer Bündnispartner zukünftig einem Anpassungsdruck ausgesetzt
sein. Diesem Druck kann politisch glaubwürdig und praktisch umsetzbar
nur dann begegnet werden, wenn der Einstieg in die Bewaffnung bei eben
jenen Systemen unterbunden wird, die einen vorgezeichneten Pfad zur
Autonomie aufweisen. Unbemannte Luftfahrzeuge fallen unter diese
Kategorie, weshalb von einer Bewaffnung abzusehen ist.
16
„Der Koalitionsvertrag von CDU, CSU und SPD“, Christlich Demokratische Union Deutschlands, S. 124, zugegriffen 20. Juni 2014, http://www.cdu.de/artikel/der-koalitionsvertrag-voncdu-csu-und-spd.
9
Literaturverzeichnis:
Altmann, Jürgen, Michael Brzoska, und Thilo Marauhn. Unbemannte
bewaffnete Systeme: Verändert der rüstungstechnologische Wandel
den Umgang mit Konflikten?  : eine friedenspolitische Perspektive  ;
Beiträge zum Parlamentarischen Abend der DSF am 25. September
2012 in Berlin. Dt. Stiftung Friedensforschung, 2013.
„Bundestag Plenarprotokoll 18/38 - 18038.pdf“. Zugegriffen 20. Juni 2014.
http://dip21.bundestag.de/dip21/btp/18/18038.pdf.
„Der Koalitionsvertrag von CDU, CSU und SPD“. Christlich Demokratische
Union Deutschlands. Zugegriffen 20. Juni 2014.
http://www.cdu.de/artikel/der-koalitionsvertrag-von-cdu-csu-und-spd.
Deutscher Bundestag. „Kleine Anfrage - Drohnen im Einsatzspektrum der
Bundeswehr“, 9. Mai 2014.
http://dipbt.bundestag.de/extrakt/ba/WP18/595/59546.html.
Dickow, Marcel, und Hilmar Linnenkamp. „Kampfdrohnen – Killing Drones:
Ein Plädoyer gegen die fliegenden Automaten“, SWP Aktuell, Nr.
2012/A 75 (Dezember 2012). http://www.swpberlin.org/fileadmin/contents/products/aktuell/2012A75_dkw_lnk.pdf.
EDA. „Defence Ministers Commit to Capability Programmes“, 19. November
2013. http://www.eda.europa.eu/info-hub/news/2013/11/19/defenceministers-commit-to-capability-programmes.
Frau, Robert. Drohnen und das Recht: Völker- und verfassungsrechtliche
Fragen automatisierter und autonomer Kriegführung. Auflage 1.
ubingen: Mohr Siebeck, 2014.
Living Under Drones: Death, Injury and Trauma to Civilians from US Drone
Practices in Pakistan. Zugegriffen 20. Juni 2014.
http://www.livingunderdrones.org/report/.
Müllner, Karl. „Ferngesteuerte Luftfahrzeuge – maßgeschneiderter und
besserer Schutz für unsere Soldaten im Einsatz“, Ethik und Militär,
Anonymes Töten durch neue Technologien? Der Soldaten zwischen
Gewissen und Maschine, Nr. 2014/1 (2014).
http://www.ethikundmilitaer.de/fileadmin/Journale/201406/Gesamtausgabe_2014_1_Anonymes_Toeten_durch_neue_Technolo
gien_Der_Soldat_zwischen_Gewissen_und_Maschine.pdf.
Nakashima, Ellen, und Craig Whitlock. „With Air Force’s Gorgon Drone ‚We
Can See Everything‘“. The Washington Post, 2. Januar 2011, Abschn.
Nation. http://www.washingtonpost.com/wpdyn/content/article/2011/01/01/AR2011010102690.html.
Wiegold, homas. „DroneWatch Leasingvertrag für Heron-Drohnen verlängert“. Augen geradeaus, 10. Januar 2014.
http://augengeradeaus.net/2014/01/dronewatch-leasingvertrag-furheron-drohnen-verlangert/.
10