Titelthema

30. Okt. 2023

Weiter denken!

Die Diskussion um die Entwicklung und den Einsatz Künstlicher Intelligenz für Streitkräfte wird verengt geführt. Fünf Punkte sind wichtig, um den Handlungsrahmen zu erweitern.

Wozu nutzen Streitkräfte Künstliche Intelligenz (KI)? Diese Frage berührt den Mehrwert einer Technologie, um die sich ein regelrechter Hype entwickelt hat. Dieser befördert ein Narrativ, das dem militärischen KI-Einsatz von der Entwicklung omnipotenter militärischer Effizienzmaschinen bis hin zu Endzeitfantasien alles zutraut.

Diese Zerrbilder werden der Realität nicht gerecht. Das zeigen die Fallstudien zu derzeit 24 Ländern, die wir mit Forscherinnen und Forschern aus Nordamerika, Europa, dem Nahen und Mittleren Osten sowie der Asien-Pazifik-Region zum aktuellen Stand der militärischen KI-Nutzung erarbeiten. Das Zerrbild resultiert aus einer unpräzisen Erwartungshaltung gegenüber militärischer KI. Das ist ein Problem, wenn – wie in Deutschland – eine nationale Strategie für militärische KI gefordert wird. Um das Bild geradezurücken, sind vor allem fünf Aspekte wichtig: die Erwartungshaltung und Zielvorstellung zu präzisieren; sich von der dominierenden Datenzentriertheit zu lösen; den breiten militärischen Einsatz von KI zur Kenntnis zu nehmen; Monopolstrukturen im industriellen Ökosystem zu vermeiden und schließlich ethische Anforderungen zu konkretisieren.

 

Ziele präzisieren

Drei strategische Motive prägen das Denken zu militärischer KI: Die USA, China und Israel agieren bedrohungsorientiert. Washington und Peking sehen im jeweils anderen Land die größte Gefahr, und Tel Aviv will seinen militärischen Handlungsspielraum angesichts regionaler Bedrohungen bewahren. Frankreich, Italien und Russland setzen auf militärische KI, um nicht den Anschluss zu verlieren. Australien, Deutschland, Großbritannien, Kanada, Schweden oder die Türkei sehen militärische KI vorwiegend als Fähigkeitsmulti­plikator. Andere militärische Fähigkeiten sollen dadurch gestärkt werden. Aber was soll militärische KI genau erreichen?

Es gibt gute Gründe, auf diese Frage nur vage zu antworten, weil Ambiguität strategische Vorteile mit sich bringen kann. Aber vage Vorstellungen sind keine Basis für militärische Fähigkeitsentwicklung. So beschreiben zum Beispiel die Grundlagendokumente der Bundeswehr die Absicht des KI-Einsatzes generell und umfassend, aber der konkrete Fähigkeitszuwachs, den KI leisten soll, bleibt undefiniert. Damit kann das Erreichte kaum bewertet werden. Wichtig für den Ausbau ist daher ein Entwicklungsplan, der benennt, wie Führung, Aufklärung, Wirkung und Unterstützung mit KI konkret verbessert werden, was dazu mit welchem Ansatz bis wann erreicht wird, und wie KI-Projekte der Luftwaffe, des Heeres, der Marine sowie des Kommandos Cyber- und Informationsraum so aufeinander abgestimmt werden, dass der Fähigkeitszuwachs einer Teilstreitkraft die Bundeswehr als Gesamtsystem stärkt.

 

Daten sind nicht alles

Die unklare Zieldefinition birgt das Risiko, dass die kommerzielle Digitalisierungslogik weitgehend unverändert auf die Streitkräfte übertragen wird. Impliziter Bezugspunkt sind digitale Geschäftsmodelle für Konsumentenmärkte. Diese sind datenzentriert, weil Anwender ihre Daten im Tausch für digitale Produkte und Dienstleistungen bereitstellen. Zudem wollen Digitalunternehmen „modellfrei“ arbeiten. Dies bedeutet, dass KI-Systeme jene Handlungsschritte ersetzen und skalieren sollen, die bislang mit Fachexpertise und Engineering-Kunst entwickelt wurden. Dazu sollen Systeme maschinellen Lernens große Datenmengen verarbeiten, um daraus ein gewünschtes Verhaltensmuster zu reproduzieren.

Diese datenzentrierte Logik prägt das militärische Denken. Alle untersuchten Länder bezeichnen Daten als ihr wichtigstes strategisches Gut und richten ihre Datenstrategie darauf aus, diesen „Datenschatz“ zu heben, unter anderem mit Investitionen in leistungsfähige Hardware.

Streitkräfte bewegen sich aber nicht in einem Verbraucherumfeld mit „Datenüberfluss“, sondern kämpfen mit Datenknappheit. Datenzentrierte Ansätze sind ressourcenintensiv und benötigen Personal, Rechnerleistung, Energie, Infrastruktur, Bandbreite und Aufzeichnungszeit, die im Kriegsfall noch knapper werden. Paradoxerweise sind sie auch vergangenheitsorientiert, denn Streitkräfte können nur auswerten, was gesammelt wurde. Gesammelte Daten können zwar die Dynamik der Vergangenheit beschreiben, nicht aber die dynamischen Wirkprinzipien der physischen Umgebung, in der Streitkräfte agieren. Zudem stärken datenzentrierte Ansätze oft eine hierarchische und zentralistische Führungsphilosophie. Dies hat meist eine Gesamtkonformität des digitalen Systems zur Folge, die der Unberechenbarkeit und Unvorhersehbarkeit moderner Konflikte nicht entspricht.

Mehr Agilität ist mit KI-Ansätzen der dritten Welle möglich. Die Defense Advanced Research Projects Agency (DARPA), die Forschungseinrichtung des US-Verteidigungsministeriums, versteht darunter kognitive Systeme, die im Unterschied zu programmiertem Verhalten (erste Welle) und statistischem Lernen auf Datenbasis (zweite Welle) die Fähigkeit eines Systems betont, kontextuelle Begründungen und Schlussfolgerungen selbst zu entwickeln und zu vollziehen. Ziel ist die „Emergenz“: Eigenschaften eines militärischen Systems werden nicht deterministisch für den Einsatz vorbestimmt. Vielmehr orientiert sich das Zusammenspiel der Elemente am Missionsverlauf, an den Missionszielen, dem Verhalten des Gegners und den eigenen Fähigkeiten, die für eine Aufgabe zur Verfügung stehen. In den USA, Israel und der Türkei gibt es erste Entwicklungsschritte in diese Richtung, und auch in Deutschland gibt es Technologieunternehmen, die solche Lösungen entwickeln und betreiben.



Nicht nur unbemannte Systeme

Eine dritte Verengung resultiert aus der Omnipräsenz unbemannter Systeme in ­aktuellen Konflikten. Richtig ist, dass ein Bilderkennungsalgorithmus in Kombination mit einer Drohne zur Feuerleitunterstützung der Artillerie genutzt werden kann, wie sich derzeit bei der Verteidigung der Ukraine gegen die russischen Invasoren zeigt. Ebenso ist es möglich, die gleiche Kombination zu nutzen, um zum Beispiel feindliche Stellungen aufzuklären. Diese KI-Anwendungen sind populär, decken aber nur ein Teilsegment eines wesentlich breiteren Einsatzspektrums ab.

 

Die Omnipräsenz von Drohnen hat den Blickwinkel verengt: KI hat ein viel breiteres Einsatzspektrum als Aufklärung und Feuerleitunterstützung

 

Aus dem Datenfokus folgt, dass viele Länder einen zentralen Nutzen der KI darin sehen, ein für alle Streitkräfte entwickeltes, gemeinsames Lagebild zu erstellen und zu aktualisieren, Handlungsoptionen für Kommandeure vorzubereiten und gegnerische Verhaltensweisen zu bewerten. Australien, Finnland, Italien, die USA sowie Russland und China sehen einen Wert darin, KI zur logistischen Unterstützung und zur vorausschauenden Wartung zu nutzen. Der Schutz – wie zum Beispiel der Einsatz von KI in der Flugabwehr – ist ein weiteres Anwendungsfeld, mit dem sich Israel, Deutschland, die USA und Russland befassen. Zudem spielt KI eine Rolle, wenn es um präzise Wirkung geht. Dazu forscht die Türkei genauso wie Frankreich, Großbritannien und die USA.

Wichtig ist mit Blick auf den konkreten KI-Einsatz die Einsicht, dass Streitkräfte unterschiedliche Entwicklungsrichtungen einschlagen können. Wer bestehende Missionen besser erfüllen will, der setzt auf KI für mehr Tempo, mehr Effektivität und mehr Effizienz. Wer Missionen anders oder andere Missionen durchführen will, weil er oder sie sich beispielsweise ein Überraschungsmoment erhofft, um im Gefecht die Initiative an sich zu ziehen, setzt auf KI für neues, unbekanntes Verhalten. Kürzlich machte das unbemannte Flugsystem XQ-58A Valkyrie von Kratos von sich reden, weil seine KI die Plattform während des Fluges mehrere Rollen hintereinander fliegen ließ. Was die Beobachter zuerst überraschte, erwies sich in der Auswertung als kluges Manöver, weil die an Bord befindliche Sensorik dadurch Ziele besser erkennen konnte.

Emergenz wird für die Bundeswehr immer wichtiger, wenn es an der NATO-Ostflanke darum geht, ein Flugabwehrsystem dimensionsübergreifend optimal auf gegnerische Lenkflugkörper auszurichten. Folgerichtig fördert das Zentrum für Digitalisierungs- und Technologieforschung der Bundeswehr Technologievorhaben, die emergentes Verhalten als souveräne deutsche Fähigkeit sicherstellen.

 

Keine „Winner Takes It All“-Logik

Souveräne Technologieentwicklung für KI bedingt ein zukunftsrobustes digitales Ökosystem. Geht es um das optimale Zusammenwirken von Rüstungsunternehmen mit kommerziellen Technologie- beziehungsweise Digitalunternehmen, beklagen alle Länder den Umstand, dass die bisherigen Prozesse der Forschungsförderung und Beschaffung ein mäßig agiles Umfeld geschaffen haben, in dem wenige Akteure dominieren. Gleichzeitig kämpfen traditionelle Rüstungsunternehmen mit der Digitalisierung bestehender Geschäftsmodelle.

„Nur Verlierer setzen auf Wettbewerb“, lautet ein geflügeltes Wort des Digital­unternehmers Peter Thiel. Seiner Meinung nach liegt der eigentliche Wert digitaler Geschäftsmodelle in der Monopolposition, die zentrale digitale Plattformen ermöglichen. Ein datenzentrierter Digitalisierungsansatz der Streitkräfte läuft Gefahr, diese Logik zu verstärken. Richtet sich das Augenmerk vorwiegend auf das Sammeln und Auswerten von Daten, werden Digitalunternehmen versuchen, militärische Wertschöpfungsprozesse an dieser Stelle aufzubrechen. Dabei bringen sie ihre Digitalkompetenz als Differenzierungsmerkmal gegenüber traditionellen Akteuren ins Spiel – mit der möglichen Folge, dass digitale Monopolanbieter entstehen, die sich zwischen militärische Anwender und Rüstungsanbieter schieben.

Aus Sicht der Bundeswehr und der deutschen Industrie ist daher eine ordnungspolitische Diskussion überfällig. Diese muss thematisieren, dass die Bundeswehr in die souveräne Softwareentwicklung einsteigen will – so wie es zum Beispiel die niederländischen Streitkräfte bei besonders missionskritischen Funktionen für unbemannte Landfahrzeuge schon tun. Dies führt zur Grundsatzfrage, wann der Staat der bessere Softwareentwickler für militärische Aufgaben ist als die Industrie. Parallel geht es darum, proprietäre Daten der Bundeswehr und der Industriepartner auszutauschen. Analog zur Idee des OpenAI Gym, einem Baukasten für das Nutzen frei verfügbarer Software, könnte die Bundeswehr eine digitale Allmende schaffen, die militärische und industrielle Anwender nur nutzen können, wenn sie im Gegenzug zu den Daten, die sie dort beziehen, auch selbst Daten bereitstellen. So könnte unter hoheitlicher Aufsicht eine militärische Daten-Ko-Evolution entstehen. Ebenso böte dieser Ansatz die Möglichkeit, neue KI-Lösungen systematisch auf ihre Leistungsfähigkeit zu testen.

 

Ethik umsetzen

Leistungsfähigkeit berührt auch die ethische Dimension, die in vielen Ländern eine zentrale Rolle spielt. Frankreich hat als einzige westliche Nation 2020 einen Ethikausschuss im Verteidigungsministerium etabliert, der vom ehemaligen Generalstabschef und dem Ehrenpräsidenten des Staatsrats geleitet wird, eine beratende Funktion hat und darüber wacht, dass KI den Menschen nicht ersetzt.

Dieses zentrale „Man in the Loop“-Prinzip ist Gegenstand vieler internationaler KI-Prinzipienkataloge. Die Herausforderung besteht darin, diese für KI-Entwickler operationalisierbar zu machen. Daraus eröffnet sich eine Chance. Die Niederlande haben 2022 mit dem ELSA Lab Defence einen Forschungsschwerpunkt geschaffen, der ethische, rechtliche und gesellschaftliche Fragestellungen des KI-Einsatzes gemeinsam mit den Streitkräften beantworten soll. In Deutschland werden KI-basierte Ansätze der analytischen Simulation entwickelt, die helfen, solche Fragestellungen im digitalen Zwilling des Gefechtsfelds zu simulieren und auf die Implikationen für Soldatinnen und Soldaten sowie militärische Systeme zu untersuchen. Gemeinsam könnten beide Länder ihre Ansätze zu einem umfassenden multinationalen Instrument der Fähigkeits- und Technologieentwicklung im EU- und NATO-Rahmen ausbauen

Für Vollzugriff bitte einloggen.
Bibliografische Angaben

Internationale Politik 6, November/Dezember 2023, S. 46-49

Teilen

Themen und Regionen

Mehr von den Autoren

Dr. Heiko Borchert ist Ko-Direktor des Defense AI Observatory an der Helmut-Schmidt-

Universität in Hamburg. Die Arbeit des DAIO wird durch das dtec.bw – Zentrum für Digitalisierungs- und Technologieforschung der Bundeswehr gefördert.



Torben Schütz ist wissenschaftlicher Mitarbeiter des Defense AI Observatory an der Helmut- Schmidt-

Universität in Hamburg und Associate Fellow im Zentrum für Sicherheit und Verteidigung der DGAP.

 

Joseph Verbovzsky ist wissenschaftlicher Mitarbeiter des Defense AI Observatory an der Helmut-Schmidt-Universität in Hamburg.

0

Artikel können Sie noch kostenlos lesen.

Die Internationale Politik steht für sorgfältig recherchierte, fundierte Analysen und Artikel. Wir freuen uns, dass Sie sich für unser Angebot interessieren. Drei Texte können Sie kostenlos lesen. Danach empfehlen wir Ihnen ein Abo der IP, im Print, per App und/oder Online, denn unabhängigen Qualitätsjournalismus kann es nicht umsonst geben.