Offener Brief: Europa als Vorreiter für den Frieden statt Nachzügler im Wettrüsten - “Nein” zu FCAS!

FCAS NGF Le Bourget 2019
FCAS NGF Le Bourget 2019
Foto: Ibex73, CC BY-SA 4.0, via Wikimedia Commons
Sehr geehrte Mitglieder des deutschen Bundestags,

als Forscher der künstlichen Intelligenz (KI) warnen wir Sie ausdrücklich vor den Risiken der autonomen Kriegsführung.Wir rufen Sie auf, alles dafür zu unternehmen, dass am 23. Juni im Haushalts- und Finanzausschuss gegen die weitere Finanzierung des Future Combat Air Systems (FCAS) und für globale Zusammenarbeit, Stabilität und Frieden entschieden wird.

Das französisch-deutsch-spanische Rüstungsprojekt “FCAS” ist geplant als ein auf künstlicher Intelligenz und, teils bewaffneten, Drohnenschwärmen 1 2 3 basierendes Waffensystem. Im Zentrum steht ein Kampfflugzeug, das laut Planungen des französischen Senats auch ferngelenkt oder autonom gesteuert und atomar bewaffnet werden soll. Allein die Entwicklungskosten werden auf 100 Milliarden Euro, die Kosten für das gesamte Projekt auf bis zu 500 Milliarden Euro geschätzt.

So verwundert es nicht, dass selbst der Bundesrechnungshof 4 und das Bundesamt für Ausrüstung, Informationstechnik und Nutzung der Bundeswehr 5 die Bundesrepublik vor der Unterzeichnung des Vertrages warnen, weil FCAS unberechenbare Kosten verursachen würde und bei seiner Fertigstellung bereits veraltet sei: Die Vorstellung, Europa könnte mit FCAS im technologischen Wettrüsten der Supermächte mithalten, ist weder realistisch noch verantwortlich gegenüber dieser und künftigen Generationen. Die weitere Entwicklung des Projekts würde die Rüstungsspirale verschärfen und es der Bundesrepublik unmöglich machen, sich auf internationaler Ebene glaubhaft für die Abrüstung und die notwendige Ächtung autonomer Waffen einzusetzen.

Die Entwicklung von FCAS wird vom französischen Senat mit dem Argument begründet: „Wir dürfen nicht wie der weltbeste Schachspieler sein, der einen Computer nicht mehr schlagen kann!“. 6 Diese Argumentation unterschlägt, dass im Frieden alle gewinnen, während es in dem zukünftigen, automatisiertem Krieg hochgerüsteter Staaten nur Verlierer geben wird. Dieses technologische “Wahnrüsten” würde unweigerlich zur Entwicklung gewaltiger, gegenseitiger, automatisierter Vernichtungspotentiale führen. Unser Kollege Stewart Russell hat daher schon 2015 autonome Waffen als die Massenvernichtungswaffen der Zukunft und eine der größten Gefahren für die Zukunft der Menschheit benannt.

Während KI Algorithmen in einer Vielzahl ziviler Anwendungen Menschen helfen können, ist deren Anwendung in militärischen Bereichen unverantwortlich. Zwar können moderne KI Algorithmen aus Daten “lernen”, aber nicht im menschlichen Sinn. Sie verfügen über keine moralische Vorstellung, keinen eigenen Willen, keine Möglichkeit einer aus Vernunft begründeten Entscheidung. Mit der voranschreitenden Automatisierung der Kriegsführung wird die Möglichkeit zur bewussten Verweigerung und Beendigung der Gewalt durch den Menschen sukzessive reduziert, die Schwelle zum Angriff und einem vorprogrammierten Gegenangriff gesenkt (siehe s.g. “Flash Wars”). Der atomare Krieg ist in der Geschichte wiederholt verhindert worden, weil Menschen sich entschieden haben, entgegen der Anweisungen, einen vermeintlichen atomaren Erstschlag des Gegners als “Fehlalarm” einzuordnen.

In der “Logik” technologischen Hochrüstens würde diese Möglichkeit in absehbarer Zukunft nicht mehr existieren, aber es ist noch nicht zu spät. Mit einem “Nein” zu FCAS am 23. Juni kann ein klares Signal gegen diese gefährliche Entwicklung gesetzt werden.

Der Vorsitzende der Vereinten Nationen, Antonio Guterres, hat in seiner Rede auf der Münchener Sicherheitskonferenz im Februar diesen Jahres ausgeführt:

„„[…] Es [ist] an der Zeit, die Weltordnung für das 21. Jahrhundert neu zu definieren.

Das vor mehr als 75 Jahren vereinbarte System der kollektiven Sicherheit hat einen dritten Weltkrieg verhindert. Unsere gemeinsamen Grundsätze müssen auch in diesem Jahrhundert fortbestehen. Das bedeutet, für neue Wege zur Erbringung globaler öffentlicher Güter, zu einer fairen Globalisierung und zur Lösung gemeinsamer Probleme zu sorgen.

Wir brauchen keine neuen Bürokratien. Aber wir müssen den Multilateralismus stärken, damit die Welt …

  • einen Multilateralismus hat, der globale und regionale Organisationen vernetzt,

  •  einen inklusiven Multilateralismus, der Unternehmen, Städte, Universitäten und Bewegungen für die Gleichstellung der Geschlechter, den Klimaschutz und ein Ende des Rassismus mobilisiert,

  • und einen Multilateralismus, der die Rechte kommender Generationen achtet. Viele glauben, dass eine zunehmend multipolare Welt Frieden garantieren wird.

Doch lernen wir aus der Geschichte. Vor mehr als 100 Jahren war Europa multipolar, hatte jedoch keine multilateralen Ordnungsmechanismen. Der Erste Weltkrieg war die Folge.

Heute bedarf es der Solidarität und internationalen Zusammenarbeit, damit wir unsere immer größeren und komplexeren Probleme bewältigen können. Ich bin überzeugt, dass wir mit Entschlossenheit unsere gemeinsamen Ziele erreichen können.“ 7

Als Menschen und als Forscher der Künstlichen Intelligenz wissen wir: Es gibt zu einem solchen Weg gemeinsamer Sicherheit keine Alternative, um ein menschenwürdiges Leben auf diesem Planeten zu ermöglichen. Keine Regierung und kein Militär wird die politische und technologische Entwicklung kontrollieren können, die sich aus gegenseitigem Hochrüsten mit autonomen Waffen ergibt. Schon jetzt entwickeln sich die zivilen Anwendungen der KI (e.g. Gesichtserkennung, Empfehlungssysteme, Bildgeneration) so rasant, dass die Regierungen der Welt Probleme haben sie effektiv zu regulieren. Würde der Pfad der Hochrüstung verfolgt, könnten zudem aufgrund des Ressourcenverschleißes die Verwirklichung der Menschenrechte, die Überwindung des Hungers und die Bekämpfung des Klimawandels nicht realisiert werden.

Auf der anderen Seite sind die wissenschaftlich-technologischen Möglichkeiten internationaler Kooperation, Abrüstung und ziviler Zusammenarbeit heute besser denn je. Um von der “Logik” des Wettrüstens zu einer Logik der Kooperation zu gelangen, bedarf es der Initiative seitens der Zivilgesellschaft wie der Regierung. Ein Großteil der weltweit vernetzten Forscher der Künstlichen Intelligenz lehnen autonome Waffen ab, wir wissen darin eine Mehrheit der Bevölkerung an unserer Seite.

Gerade Deutschland hat aufgrund seiner Geschichte die Verpflichtung, Krieg und Nationalismus entgegenzuwirken und im Rahmen der EU und der Vereinten Nationen eine positive Rolle für den Frieden einzunehmen.

Der Abbruch des FCAS Projekts kann (wird!) den Beginn einer neuen Ära der Entspannungspolitik einleiten - als Friedensmacht muss Europa hierfür eine zentrale, leitenden Rolle spielen.

Wir rufen Sie als Parlamentarier, Ihre Fraktion und Ihre Partei auf: Sprechen Sie sich gegen FCAS aus. Setzen Sie sich zusammen dafür ein, dass am 23. Juni die weitere Finanzierung des FCAS in den zuständigen Ausschüssen des Bundestages abgelehnt wird und ergreifen Sie die Initiative für die dringend notwendige Ächtung autonomer Waffen.

Gerne stehen wir für Nachfragen bereit.

Mit freundlichen Grüßen

Dr. Jakob Foerster, Maximilian Igl, Luisa Zintgraf, Christian Schroeder de Witt

Die Unterzeichner*innen sind ehemalige bzw. aktuelle Doktoranden/Professoren in der KI an der University of Oxford. Sie organisierten den Event “What can AI researchers do to help prevent Lethal Autonomous Weapons?”, bei der International Conference on Learning Representations, einer der weltweit größten KI Konferenzen.