Außenpolitik ist kein Brettspiel

Sie schmieden geheime Bündnisse und brechen sie anschließend wieder, versuchen, die Züge ihrer Gegner vorherzusehen und täuschen sich gegenseitig.

Es ist ein komplexes Strategiespiel, das Taktik und Verhandlungsgeschick erfordert. Jahrzehntelang biss sich die Wissenschaft die Zähne daran aus, Computern beizubringen, „Diplomacy“ auf menschlichem Niveau zu spielen – bis ein neues KI-System, entwickelt vom amerikanischen Tech-Giganten Meta, in der Online-Version des Spieles gegen menschliche Kontra­henten antrat.

Ende vergangenen Jahres veröffentlichten die Forschenden ihre Ergebnisse und verblüfften damit die Fachwelt: Nur einer von 82 Mitspielern hatte den Verdacht geäußert, dass Metas System „Cicero“, ­benannt nach dem römischen Staatsmann, kein Mensch sein könnte. Darüber hinaus hatte die Software „über das Doppelte der durchschnittlichen Punktzahl“ aller Spieler erzielt.

Auch in der Welt der echten Diplomatie schlug der Triumph von Maschine über Mensch Wellen: Vielen Diplomaten machte er deutlich, dass Teile ihrer Arbeit – ganz wie die Jobs anderer Wissens­arbeiter wie Anwälte, Übersetzer oder Journalisten – mithilfe von KI automatisiert werden ­können. Dies, so hoffen sie, wird ihnen helfen, sich auf die zentralen Aspekte ihrer Arbeit zu konzentrieren. Aber es wirft auch grundlegende Fragen dazu auf, wann ­diplomatische Entscheidungen an Künstliche Intelligenz delegiert werden sollten, und wann nicht.

Gleichzeitig illustriert die Diskussion, wie sehr der Zugang zu Spitzentechnologie zum entscheidenden Faktor auf dem diplomatischen Parkett wird und wie diese Entwicklung das Feld kalt erwischt. „Viele von uns haben noch nicht verstanden, was auf uns zukommt“, sagte ein deutscher Diplomat, der nicht namentlich genannt werden wollte, weil er nicht autorisiert war, öffentlich zu sprechen.

Konkrete Hilfe im echten Alltag

Anders als das, was Fernsehserien wie das Netflix-Politdrama „Diplomatische Beziehungen“ vermuten lassen, verbringen viele Diplomaten ihren beruflichen Alltag vor allem mit recht banalen Aufgaben. Besonders in den unteren Rängen sind ihre Tage vollgepackt mit zeitraubenden Jobs: Sie verbringen Stunden damit, nach Kooperationspartnern im Gastland zu suchen, Nachrichten und soziale Medien zu lesen oder Berichte für ihre Kollegin zu Hause zu tippen. Schon heute können KI-Systeme viele dieser repetitiven Aufgaben in einem Bruchteil der Zeit erledigen.

Aber auch in noch anspruchsvolleren Bereichen kann Künstliche Intelligenz eine Hilfe sein. Denn viele Diplomaten wühlen sich in der Vorbereitung auf schwierige Verhandlungen noch selbst wochenlang durch wissenschaftliche, politische und kulturelle Analysen, um die Interessen ihres Gegenübers zu verstehen. Dabei könnten sie einen Großteil dieser Arbeit längst an KI auslagern und mithilfe der Systeme auch Zusammenhänge, potenzielle Konflikte und Trends erkennen, die ihnen sonst verborgen geblieben wären.

Und das ist noch nicht alles: Andere KI-Software, die in Spieltheorie trainiert wurde, kann auch maßgeschneiderte Vorschläge zur Verhandlungsführung generieren. Computerprogramme können zur Vorbereitung verschiedene Verlaufsszenarien simulieren. Selbst während laufender Gespräche können sogenannte „Hagglebots“ (Roboter, die feilschen) Diplomaten Ratschläge in Echtzeit geben, was sie als Nächstes tun oder sagen sollten.

Der Einsatz solcher KI-Tools ist heute noch die Ausnahme. Viele Diplomaten rechnen damit, dass sich das in den nächsten Jahren ändern wird. Und sie hoffen, dadurch Zeit für andere Aufgaben zu gewinnen – Zeit, die dringend nötig sei, um sich mit einer der größten Herausforderungen ihrer Zunft zu beschäftigen: Online-­Desinformation.

 

Propaganda und Desinformation

Schon lange vor Anbruch des digitalen Zeitalters haben Länder versucht, die öffentliche Meinung anderswo durch das Streuen irreführender Narrative zu beeinflussen. Diese zu entlarven und zu widerlegen, sowohl öffentlich als auch hinter verschlossenen Türen, ist seit jeher der Job von Diplomaten.

Heute sieht diese Aufgabe jedoch anders aus als noch vor ein paar Jahrzehnten: Früher waren Desinformationskampagnen teuer und erforderten umfangreiche Fachkenntnisse und Planung. In den vergangenen zwei Jahrzehnten ist ihre Verbreitung durch soziale Medien einfacher und billiger denn je geworden. Seit Kurzem erlauben generative KI-Anwendungen wie ChatGPT, Bard und Midjourney zusätzlich jedem, überzeugende Texte oder Bilder in wenigen Sekunden scheinbar aus dem Nichts zu erschaffen.

Vor diesem Hintergrund rechnen Diplomaten in den nächsten Jahren mit einem sprunghaften Anstieg KI-generierter Desinformation. „Den ganz großen Knall gab es noch nicht“, sagte ein anderer deutscher Diplomat: „Aber man kann sich tausend Szenarien vorstellen, wie er kommt.“

Seine Sorgen scheinen begründet. Für russische Diplomaten etwa ist die Verbreitung von Online-Desinformation längst „Teil ihrer Arbeit“ geworden, wie die Nachrichtenagentur AP berichtet. Ein Verständnis dafür, wie KI-generierte Inhalte für Desinformationskampagnen missbraucht werden können, ist so eine wichtige Fähigkeit für Diplomaten geworden. Außenministerien rund um die Welt haben das erkannt und Taskforces eingerichtet, um entsprechende Richtlinien zu erarbeiten.

Diese allein werden jedoch nicht aus­reichen, um ihre Diplomaten für das Zeit­alter der KI fit zu machen. Genauso wichtig ist, sie mit soliden Grundkenntnissen darin auszustatten, wie die KI-Systeme unserer Zeit überhaupt im Kern funktionieren, wo ihre Potenziale liegen und wo ihre Grenzen sind.

Wenn Diplomaten beispielsweise generative KI nutzen, um den ersten Entwurf einer Festrede oder einer Beileidsbekundung zu schreiben, müssen sie sich im Klaren sein, dass diese Systeme – so überzeugend sich die Texte auch lesen mögen – Fakten erfinden, wann immer sie keine Antworten in den Daten finden, mit denen sie trainiert wurden. Gleichzeitig sollten sie verstehen, dass diese Systeme dazu neigen, diskriminierende Vorurteile aus der analogen Welt zu replizieren. ­Deshalb sollten Regierungen ihre Diplomaten entsprechend weiterbilden und die Vermittlung von KI-Kompetenz zum Bestandteil ihrer Standardausbildung ­machen, die neue Diplomaten beim Eintritt in das Corps durchlaufen.

 

Die Grenzen der KI

Und wie sieht die Zukunft KI-basierter ­Diplomatie aus? Wo stößt die Technologie an ihre Grenzen? „In der Diplomatie geht es grundsätzlich darum, andere Menschen zu überzeugen“, erklärte der deutsche Diplomat. In ihrem Kern, betonte er, sei Diplomatie oft mehr Kunst denn Wissenschaft. So beruhe der Erfolg oder Misserfolg von Verhandlungen oft auf Einfühlungsvermögen und dem Aufbau persönlicher Beziehungen. „Ich kann mir nicht vorstellen, dass Maschinen das ­können“, fügte er hinzu.

Tatsächlich fällt es KI-Systemen bisher schwer, diese durch und durch menschlichen Eigenschaften zu imitieren, geschweige denn zu replizieren. Aber auch das kann sich ändern, und die rasanten Fortschritte, dank derer KI uns Menschen in immer komplexeren Brettspielen geschlagen hat, zeigen eindrucksvoll, wie schnell das gehen könnte. Als KI 1997 einen menschlichen Schachweltmeister besiegte, schienen Spiele wie „Diplomacy“, bei denen es auf Intuition ankommt und darauf, die Gedanken des Gegners zu erahnen, in weiter Ferne. Ein Jahrzehnt später gewannen Computer gegen Menschen in „Dame“; weniger als zehn Jahre später, 2016, im chinesischen „Go“. Als die Forschenden vergangenes Jahr ihren „Diplomacy“-Triumph vorstellten, betonte Andrew Goff – dreimaliger „Diplomacy“-Weltmeister, der an der Forschung beteiligt war –, wie gut das System darin war, „mit Empathie zu kommunizieren und Beziehungen aufzubauen“.

 

Rote Linien definieren

Vor diesem Hintergrund scheint es überfällig, dass Länder rote Linien definieren, wo sie KI in der Diplomatie einsetzen und wo nicht. Denn selbst wenn man auch die komplexesten Aufgaben von Diplomaten irgendwann automatisieren kann, heißt das nicht, dass man das auch tun sollte. Vielmehr sollten KI-Tools – so hilfreich sie auch sind, um Prozesse zu beschleunigen – genau das bleiben: Hilfsmittel, die den Menschen nicht ersetzen, sondern ­unterstützen.

Außenpolitik ist kein Brettspiel. Entscheidungen, die von Diplomaten getroffen werden, können Beziehungen zwischen Ländern retten oder internationale Krisen auslösen. Sie können Märkte bewegen und Kriege verhindern. Und sie haben oft sehr reale Folgen für echte Menschen. Auch deshalb sollte KI in bestimmten Momenten niemals das Urteilsvermögen menschlicher Diplomaten ersetzen. Als hilfreicher Leitsatz ließe sich formulieren: Wann immer Entscheidungen das Leben von Menschen einschneidend verändern können, sollten Menschen auch das letzte Wort haben.

Bei einschneidenden Entscheidungen sollten auch weiterhin immer Menschen das letzte Wort haben

Gleichzeitig gilt es für Länder, jede Software sorgfältig zu prüfen, bevor sie in kritischen Bereichen der Diplomatie zum Einsatz kommt – nicht zuletzt wegen eines anderen Faktors, der in der Diskus­sion bisher wenig Beachtung gefunden hat: Die meisten Modelle wie „Cicero“, die die theoretische Grundlage für viele KI-­Diplomatie-Tools bilden, werden nicht von Forschungsgruppen an Universitäten oder Regierungen entwickelt, sondern hinter verschlossenen Türen in den Grundlagenforschungsabteilungen der größten Technologiekonzerne der Welt, von den USA bis nach China. Bei der Entwicklung solcher Systeme kodieren diese Unternehmen auch ihre Ideale und ethischen Standards, wie „gute Diplomatie“ aussieht, in die Programme.

Regierungen sollten gründlich prüfen, ob diese mit ihren Standards übereinstimmen, bevor sie die Programme einsetzen. Dafür ist auch eine technische Analyse der Software erforderlich. Inwieweit sie diese durchführen können, steht allerdings auf einem anderen Blatt. Um Transparenz zu schaffen, hat Meta (das sei lobend erwähnt) vergangenes Jahr den Quellcode seines „Cicero“-Modells veröffentlicht, sodass sich auch andere Forschende ein eigenes Bild machen können. Aber es ist zu erwarten, dass nicht jede Firma dazu bereit sein wird.