Desinformation zum Selbermachen

Um diese Art der Einflussnahme zu verstehen, reicht es daher nicht mehr aus, allein die Angreifer und ihre Mittelsmänner ins Visier zu nehmen. Bei der von der russischen Internet Research Agency (IRA) – auch bekannt als „Trollfabrik“ der russischen Regierung – durchgeführten Kampagne zur US-Wahl 2016 kamen die wenigsten Amerikanerinnen und Amerikaner direkt mit den Original-Posts in Kontakt. Entscheidend war vielmehr, dass inländische Netzwerke und Medien sie aufgegriffen und verbreitet haben.

Partizipative Propaganda geht jedoch über das Teilen falscher und tendenziöser Informationen hinaus. Sie verläuft idealerweise in drei Schritten. Zunächst teilen Nutzerinnen und Nutzer manipulierte Informationen über ihre eigenen Online-Konten. Dieser erste Schritt wird in aktuellen Schutzmaßnahmen gegen hybride Angriffe häufig schon sehr gut berücksichtigt – mit dem Ziel, dass Falsch­nachrichten gar nicht erst viral gehen. 

Im zweiten Schritt werden Nutzer dazu motiviert, selbstständig nach weiteren ­Falschinformationen zu suchen. Durch eigene Recherche finden sie in diversen Formaten – Blogs, Podcasts, seriös erscheinenden Nachrichtenseiten oder dezidierten Telegram-Kanälen – sorgfältig vorbereitete Falschinformationen. Forschende vergleichen diesen Prozess des eigenständigen Zusammensuchens von Desinformation mit dem sogenannten Ikea-Effekt: Dinge, die wir teils selbst zusammengebaut oder mitgestaltet haben, schätzen wir mehr als solche, die uns fertig geliefert wurden. Im dritten Schritt beteiligen sich Nutzerinnen dann idealerweise noch aktiver an der Kampagne, indem sie selbst neue, themenbezogene Inhalte erstellen und in ihren Netzwerken teilen.

Die Logik hinter „Stop the Steal“

Ein Paradebeispiel hierfür ist die „Stop the Steal“-Kampagne: Sie verbreitete die Behauptung eines groß angelegten Wahlbetrugs bei den US-Präsidentschaftswahlen im November 2020 und mobilisierte Menschen bis hin zum gewaltsamen Sturm auf das Kapitol am 6. Januar 2021. 

Auch wenn ausländische Akteure hier vermutlich keine treibende Rolle spielten, zeigt dieser Fall, wie komplex erfolgreiche Desinformationskampagnen sein können. Ein Forschungsteam um die US-Informatikerin Kate Starbird zeigte, dass die Kampagne zwei Dinge kombinierte: Donald Trump und sein Umfeld gaben den Deutungsrahmen von oben vor, während Anhängerinnen und Anhänger dazu ermutigt wurden, nach eigenen Beweisen für einen Betrug zu suchen. Innerhalb kürzester Zeit füllten sich die sozialen Medien mit Hunderten falschen Behauptungen. So verbreitete sich am Wahltag etwa die Erzählung, mit Filzstift ausgefüllte Wahlzettel würden nicht gezählt – eine Geschichte, die besonders dort Aufmerksamkeit erzielte, wo behauptet wurde, vor allem Trump-­Anhänger seien davon betroffen. 

Bemerkenswert an „Stop the Steal“ ist die Art und Weise, wie das übergeordnete Narrativ des Wahlbetrugs durch eine breite Mobilisierung von Nutzern und eine Vielzahl fragwürdiger kleinteiliger „Belege“ unterfüttert wurde. Diese wurden dann von parteiischen Medien verstärkt und mitunter sogar von Trump und anderen hochrangigen Persönlichkeiten weiterverbreitet. Viele dieser Narrative beruhten auf der Vorstellung, dass einzelne Personen aufgerufen seien, eine ansonsten verborgene Wahrheit im Kollektiv zusammenzutragen. So ist es nicht verwunderlich, dass sich Wahlbetrug, antisemitische Verschwörungen oder andere gängige rechte Narrative dafür besonders gut instrumentalisieren lassen.

Die aktive Beteiligung der anvisierten Zielgruppe sorgt auch dafür, dass diese Geschichten in den schnelllebigen sozialen Netzwerken nicht untergehen. Die auf ständige Aufmerksamkeit ausgerichtete Architektur sozialer Medien begünstigt und verstärkt partizipative Inhalte besonders. Denn um Nutzerinnen länger an ihre Plattformen zu binden, motivieren die von Tech-Konzernen entwickelten Algorithmen uns dazu, unsere Gedanken mit anderen zu teilen, deren Ideen aufzugreifen und weiterzuentwickeln. Auf TikTok und Instagram fügen Accounts Videos ­zusammen („Stitchen“), nutzen Audioclips als Memes oder erstellen Antwortvideos auf Kommentare, um sich aufeinander zu beziehen.

Kein Einfluss ohne Nährboden

Ausländische Manipulationsversuche haben zwei zentrale Erfolgsbedingungen. Sie fruchten dann, wenn sie erstens an bereits bestehende Ängste, Spaltungen, Frustrationen und Skepsis gegenüber den Mainstream-Medien anknüpfen und wenn sie es zweitens schaffen, den richtigen ­Moment abzupassen.

Der erste Faktor zeigt sich besonders deutlich an Russlands Vorgehen: Das Land verfolgt die politischen Geschehnisse innerhalb Europas genau. Sei es die Gesundheits- und Sozialpolitik, Migration oder regionale Wahlkämpfe: Wann immer sich die Möglichkeit ergibt, einen Bogen zu den übergeordneten russischen Zielen zu spannen, werden gezielte Informationskampagnen gestartet.

Durch Chatbots gewinnt das partizipative Element von Desinformation eine neue Dimension

Auf den zweiten Faktor – das richtige Timing – kommt es an, wenn etwas Unvorhergesehenes passiert und Menschen nach neuen Informationen suchen. Wenn beispielsweise ein Messerangriff in einer deutschen Stadt passiert, berichten seriöse Medien meist schnell, spekulieren jedoch nicht über die Ursachen oder die Herkunft des Täters. Viele Menschen suchen dann nach Antworten, die mehr liefern, als die aktuelle Informationslage hergibt. Diese Informationslücken – die Kluft zwischen dem, was wir gerne wissen wollen, und dem, was im Informationsraum verfügbar ist – sind ein idealer Eintrittspunkt für Manipulation. Wenn die Antwort auf eine brennende Frage zeitweilig nur durch zweifelhafte Quellen untermauert werden kann, bekommen wir sehr wahrscheinlich Falschinformationen serviert.

Informationslücken entstehen manchmal spontan, sie können aber auch gezielt geschaffen werden. Konventionelle militärische Kriege liefern dafür eine Vielzahl an Angriffspunkten. So bieten die tägliche russische Bombardierung und Besetzung der Ukraine Anlass und Gelegenheit für neue Desinformation. Eilmeldungen und Bilder von Tod und Zerstörung haben häufig zur Folge, dass Menschen schnell und emotionsgeladen nach Updates suchen. In dem Moment, in dem wir uns über Themen informieren wollen, die noch nicht vollständig von Qualitätsmedien abgedeckt sind, ist die Wahrscheinlichkeit am größten, dass wir Desinformation begegnen.

Den Chatbot um Hilfe bitten

Durch Chatbots gewinnt das partizipative Element von Informationsoperationen eine neue Dimension. KI-Produkte wie ChatGPT werden von großen Teilen der Bevölkerung als ausreichend objektiv wahrgenommen und bieten Angreifern somit neue Möglichkeiten, Einfluss zu nehmen. In diesem Zusammenhang bedeutet „sich selbst informieren“ nicht mehr ausschließlich, das Internet oder die sozialen Medien zu durchforsten. Nun wird ein KI-System befragt, das bereits bestimmte Deutungsrahmen mitträgt und in seinen Antworten anwendet. Chatbots beziehen sich auf die ihnen verfügbaren Informationen, zu denen auch staatlich kontrollierte und andere Propagandamedien gehören. Es ist deshalb nicht verwunderlich, dass Narrative und Perspektiven von autokratischen Staatsmedien in den Antworten von Chatbots zu ganz unterschiedlichen Themen auffindbar sind. 

Außerdem reagieren Sprachmodelle empfindlich auf subtile Veränderungen, sowohl in der Formulierung als auch im Emotionsgrad der Anfragen. Wenn Nutzer also im Nachgang zu aufwühlenden Eilmeldungen ihren Chatbot um Hilfe zur Einordnung bitten, beeinflussen die genaue Suchanfrage und der emotionale Gehalt die Art der Antwort. Je obskurer das Thema, desto wahrscheinlicher ist es, dass Chatbots platzierte Propaganda oder ­Desinformation wiedergeben.

Zu einer proaktiven Bekämpfung von Desinformation gehört auch, das Zusammenspiel von Gesellschaft und Technologie besser zu verstehen

KI-Produkte vereinfachen auch die aktive Erstellung und Reproduktion von manipulierten Inhalten, was die Hürden zur Beteiligung an Informationskampagnen weiter senkt. Das zeigt sich etwa an der Flut neuer KI-generierter Inhalte zum Krieg in der Ukraine oder zum Iran-Krieg. Wenn solche Inhalte, die einer Kriegspartei helfen, ihr Image zu verbessern, plötzlich im gesamten Netz kursieren, wird es immer schwieriger zu sagen, wer eigentlich für ihre Erstellung und Verbreitung verantwortlich ist. Die Folge ist ein Attributionsverlust, der es erschwert zu unterscheiden, ob ein Inhalt von einem ausländischen Angreifer oder einem inländischen Nutzer stammt.

Abwehr ganzheitlich denken  

Wer ausländische Manipulationsversuche effektiv und proaktiv bekämpfen will, muss antizipieren können, in welchen Situationen Desinformation am ehesten verfängt. Eine solche Vorhersage erfordert eine systematische Analyse: von außenpolitischen Ereignissen, die sich für Informationsmanipulation instrumentalisieren lassen; von bestehenden innenpolitischen und gesellschaftlichen Spannungen, die ein Interesse an Falschinformationen begünstigen; und von den aktuell meistgenutzten Informationstechnologien und digitalen Resonanzräumen.

Europäische Öffentlichkeiten konsumieren Desinformation nicht einfach nur passiv. Im Gegenteil: Sie nehmen aktiv an einem Informationsökosystem teil, das sich aus staatlichen und nichtstaatlichen Angreifern sowie aus inländischen und ausländischen Nutzern zusammensetzt und durch sich ständig verändernde Algorithmen strukturiert wird. Um hybride Bedrohungen abzuwehren, genügt es deshalb nicht, allein die ausländischen Akteure zu verstehen, die solche Operationen anstoßen. Politikerinnen und Politiker sowie Forschende müssen ihr Augenmerk auch auf den innenpolitischen Kontext richten, der diese Kampagnen erst ermöglicht.

Zu einer proaktiven Bekämpfung von Desinformation gehört daher auch, das Zusammenspiel von Gesellschaft und Technologie besser zu verstehen. Das setzt eine präzise soziologische Analyse voraus: Welche Gruppen und Konfliktthemen lassen sich durch Desinformation besonders leicht aktivieren? Außerdem braucht es ein klareres Bild davon, wie Gesellschaften und Algorithmen einen gemeinsamen Nährboden für Desinformation schaffen. Die fortschreitende Entwicklung von KI macht diese Aufgabe noch dringlicher: Menschen wenden sich verstärkt an „Black Boxes“, häufig ohne ein Bewusstsein dafür, dass sie dabei verzerrte oder falsche Informationen suchen und mitproduzieren.

Abwehrversuche, die sich allein auf externe Inhalte konzentrieren und die innenpolitischen Voraussetzungen ausblenden, werden Einflussoperationen weder zuverlässig erkennen noch wirksam eindämmen können.