KI und Bundeswehr: Auf dem Weg zu autonomen Waffensystemen

KI und Bundeswehr: Auf dem Weg zu autonomen Waffensystemen

KI wird das Kriegsgeschehen beschleunigen, sagen Experten – unter anderem durch autonome Waffensysteme, über die auch die Bundeswehr nachdenkt.

Die Bundeswehr strebt die Entwicklung tödlicher autonomer Waffensysteme an. Das geht aus einem kürzlich veröffentlichten Positionspapier des Amts für Heeresentwicklung hervor. Die Autoren des Papiers stufen die darin beschriebenen Systeme allerdings selbst als lediglich „automatisch“ ein. Sogenannte Taktische unbemannte Flugsysteme (TaUAS) sollen Aufgaben „von der Aufklärung über Sperren bis hin zu offensiven Wirkmitteln“ übernehmen.

Waffen als „Wirkmittel“

In dem Positionspapier Künstliche Intelligenz in den Landstreitkräften [1], das auf der Tagung Künstliche Intelligenz – Chancen und Risiken für die Bundeswehr [2] in Bonn verteilt wurde, wird ein Aufgabenszenario folgendermaßen beschrieben: „Die TaUAS sind mit Wirkmitteln ausgerüstet, die Gefechtsfahrzeuge oder empfindliche Komponenten von leichten gepanzerten Fahrzeugen bekämpfen können. Hierbei wird ein Schwarmverhalten genutzt, um die relativ geringe Nutzlast sowie die hohe Verwundbarkeit der einzelnen TaUAS durch Übersättigungsangriffe zu kompensieren.“ 

Waffen, die Gefechtsfahrzeuge wirksam bekämpfen können, sind aber zum einen zweifellos potenziell tödlich. Zum anderen sind solche Einsätze nicht per Fernsteuerung zu betreiben: Die Drohnen müssen ihre Waffen bei Bedarf selbstständig auslösen können. Ein solches System nicht als „autonom“ zu bezeichnen folgt der bereits mehrfach kritisierten Taktik [3], autonome Waffensysteme so zu definieren, dass sie öffentlich abgelehnt werden können, ohne eigene Entwicklungen zu beeinträchtigen.

Was heißt „autonom“?

So definiert das Positionspapier ein tödliches autonomes Waffensystem als ein „allein gegen Personen“ gerichtetes System, das zudem lernfähig sein müsse und „ohne jegliche menschliche Einflussnahme“ handle. Insbesondere letztere Bedingung kann eigentlich nur als absurd bezeichnet werden: Schließlich würden autonome Systeme wie Soldaten auch Befehlen, also menschlicher Einflussnahme, folgen – die sie dann mehr oder weniger flexibel der jeweiligen Situation anpassen.

Einer Definition des US-Militärs zufolge, wonach autonome Waffensysteme, einmal aktiviert, ihre Ziele ohne weitere Einwirkung durch Menschen auswählen und bekämpfen können, müssen die vom Amt für Heeresentwicklung angestrebten Drohnensperren in diese Kategorie eingeordnet werden. Die Bundeswehr dreht damit weiter an einer gefährlichen Rüstungsspirale, während die Bemühungen des für Rüstungskontrolle zuständigen Auswärtigen Amtes bei entsprechenden UN-Verhandlungen in Genf [4] als eher zaghaft eingestuft werden müssen und bislang auch keine greifbaren Ergebnisse erzielen konnten. Um solchen Debatten zu entgehen, wurde auf der Bonner Tagung vorgeschlagen, auf Begriffe wie „Autonomie“ oder „Intelligenz“ ganz zu verzichten.

KI beschleunigt Krieg

Aber auch jenseits solcher Definitionsfragen gab es keinen Zweifel, dass KI das Kriegsgeschehen massiv beschleunigt. Björn Pötter (ESG GmbH) erörterte das am Beispiel des Battle Management Systems Adler III, das derzeit gerade ausgeliefert werde. Es soll Entscheidungsprozesse im Verlauf der Kette Aufklärung-Führung-Wirkung unterstützen und verkürzen. Das gehe bis hin zu einer proaktiv wirkenden KI, die Bewegungen des Gegners vorhersehen soll. Trainiert werden könnte sie mithilfe von Simulationen und Wargaming. Pötter nannte beispielhaft das Spiel Boom Beach.

Ingo Kraft vom TÜV Nordrhein-Westphalen verwies darauf, dass KI sich schneller entwickle als jede andere Innovation. Dabei gäben andere Länder das Tempo vor: Chinesische Städte wie Shenzhen allein investierten ein Mehrfaches der drei Milliarden Euro, die von der Bundesregierung bereitgestellt wurden und kaum mehr als der „Tropfen auf dem heißen Stein“ seien. Kraft verwies auf die Entstehungsgeschichte des TÜV, der 1870 gegründet worden sei, „als reihenweise Dampfmaschinen explodierten.“ „Uns werden demnächst die ersten KI-Algorithmen um die Ohren fliegen“, vermutete er.

Neues Wettrüsten

Auch Manfred Hiebl (Airbus Defence and Space) erwartet, dass „KI ein Wettrüsten hervorrufen wird, das kaum zu stoppen ist“. Dem wäre allenfalls entgegenzusetzen, dass dieses Wettrüsten längst im Gange ist – wie unter anderem das Positionspapier des Amts für Heeresentwicklung zeigt.

Über die damit verbundenen ethischen Fragen wurde in Bonn ebenfalls ausführlich diskutiert. So stellte Christiane Woopen (Uni Köln) das erst in der vergangenen Woche an die Bundesregierung überreichte Gutachten der Datenethikkommission [5] vor. Militärische Aspekte streifte sie dabei nur am Rande. Allerdings dürften Leitgedanken wie „menschengerechte Gestaltung von Technik“, „Schutz persönlicher Freiheit und Selbstbestimmung“ oder „Gemeinwohlverträglichkeit“ übergreifend für den zivilen Bereich ebenso gelten wie für den militärischen. Bedenkenswert ist in diesem Zusammenhang auch die Beobachtung von Wolfgang Koch (Fraunhofer FKIE), der sagte: „In militärischen Anwendungen zeigen sich generelle Probleme der KI wie in einem Brennglas.“ (vbr [6])


URL dieses Artikels:
http://www.heise.de/-4572744

Links in diesem Artikel:
[1] https://www.deutschesheer.de/portal/a/heer/start/aktuell/nachrichten/jahr2019/oktober2019/!ut/p/z1/hVDRasJAEPyavN5uWk1i3xK0GlHbGtqYeylncl4i5104z6SUfnxPBKFQcR8GdnZmGBYobIAq1jWC2UYrJt1e0OAzGA3S6UOGy5cgneBbFryH0TJGXCB8QH5PQt0Zb0yMkFUcCpcR3s7wIQMKdM869kVabazklrDy3BGKmqlK8lddxhfCCStOSq2cxqHlyjYOhWFWm6u7PBnjLqSpoEB_nODw2sn_SabrWT6IwtE4TdYwByqk3l6-EavtYySAGr7jhhtyMo6urW2PTx562Pc9EVoLeW5w8PA_S62PFjZ_ldAenqPVath9L3j-C1LcHHs!/dz/d5/L2dBISEvZ0FBIS9nQSEh/#Z7_694IG2S0MO6IE0QS6U78MA00L1
[2] https://www.dwt-sgw.de/veranstaltungen/veranstaltungen-der-sgw/detail/?tx_dwtevents%5Bevent%5D=489&cHash=3621bbcfec1afc63e1315531b6786239
[3] https://www.heise.de/meldung/KI-2019-Zuege-die-aufeinander-zurasen-KI-Entwicklungen-fuers-Militaer-im-Fokus-4538451.html
[4] https://www.unog.ch/80256EE600585943/(httpPages)/5535B644C2AE8F28C1258433002BBF14?OpenDocument
[5] https://datenethikkommission.de
[6] mailto:vbr@ct.de

Copyright © 2019 Heise Medien

Kommentar verfassen

Trage deine Daten unten ein oder klicke ein Icon um dich einzuloggen:

WordPress.com-Logo

Du kommentierst mit Deinem WordPress.com-Konto. Abmelden /  Ändern )

Google Foto

Du kommentierst mit Deinem Google-Konto. Abmelden /  Ändern )

Twitter-Bild

Du kommentierst mit Deinem Twitter-Konto. Abmelden /  Ändern )

Facebook-Foto

Du kommentierst mit Deinem Facebook-Konto. Abmelden /  Ändern )

Verbinde mit %s