Das Recht auf die digitale Identität

Keine Frage: Die neue Technologie hat Vorteile. In der Medizin etwa können Deepfakes dazu beitragen, anonymisierte Patientendaten für Schulungs- und Therapiezwecke zu erstellen. In Schulen und an Universitäten können KI-generierte Avatare historischer Persönlichkeiten das Lernen interessanter machen. Und im Journalismus wie auch im politischen Aktivismus können synthetische Avatare zum Schutz von Menschen in Situationen eingesetzt werden, bei denen Gefahr für Leib und Leben besteht. 

All diese Fortschritte haben jedoch auch eine Schattenseite. Die Zugänglichkeit von Deepfake-Tools wie der AI-Twin-Funktion („Digitaler Zwilling“) des Meta-Konzerns hat die Hürden für Missbrauch gesenkt und ermöglicht potenziell Betrug, Belästigung und Desinformationskampagnen in der gesamten digitalen Landschaft.
 

Millionenüberweisungen an digitale Fakes

So nutzen Cyberkriminelle Deepfakes gezielt für ihre Angriffe. Ein Deepfake-Videoanruf, bei dem sich der Anrufer als leitender Angestellter ausgab, verursachte 2024 beim britischen Ingenieurkonzern Arup einen Verlust von 25 Millionen Dollar. Die niedrigen Einstiegshürden für die Erstellung solcher Medien tragen dazu bei, dass derartige Betrügereien immer häufiger vorkommen – mit weitreichenden Folgen für globale Finanzsysteme. 

In der Politik untergraben Deepfakes die demokratische Integrität – etwa bei Wahlen, wenn KI-generierte Unterstützungsbekundungen historischer Persönlichkeiten für bestimmte Kandidaten veröffentlicht werden. Diese Manipulationen verzerren den politischen Diskurs, untergraben das Vertrauen der Öffentlichkeit, vergiften das Informationsökosystem und fördern eine anhaltende Skepsis gegenüber jeglichen Inhalten.
 

Alarmierende Trends

Die Verbreitung der Deepfake-Technologie unter Minderjährigen hat zu alarmierenden Trends in Sachen digitale Belästigung geführt. Kinder im schulpflichtigen Alter nutzen leicht zugängliche KI-Tools, um Bilder von Gleichaltrigen zu erstellen, durch die sie bloßgestellt und erniedrigt werden. Welch tiefgreifende psychische Schäden das bewirken kann, liegt auf der Hand.

Pädagogen und politische Entscheidungsträger sollten sich für eine digitale Ethikausbildung einsetzen, um dieses Problem proaktiv anzugehen. Dabei sollte Prävention den Vorrang vor Bestrafung haben. 

In den Vereinigten Staaten verzeichnete das „National Center for Missing & Exploited Children“ (NCMEC) allein in der ersten Hälfte des Jahres 2025 rund 485 000Meldungen über KI-generiertes Material über sexuellen Kindesmissbrauch – ein deutlicher Anstieg gegenüber den 67 000 Fällen im gesamten Jahr 2024. Die britische „Internet Watch Foundation“ bestätigte in den ersten sechs Monaten des Jahres 2025 1286 illegale KI-generierte Videos mit sexuellem Missbrauch von Kindern – im gleichen Zeitraum des Vorjahres waren es nur zwei. 

In Konfliktgebieten tragen Deepfakes zur Destabilisierung bei, indem sie militärische Kommunikation fälschen und die öffentliche Meinung manipulieren. Während der jüngsten Spannungen zwischen Israel und dem Iran sowie zwischen Indien und Pakistan wurden synthetische Medien im Krieg der Narrative eingesetzt, um Verwirrung zu stiften und authentische Informationen zu diskreditieren.
 

Dänemark versus Deepfakes

Wie der Gesetzgeber den Missbrauch von Deepfakes bekämpfen kann, zeigt das Beispiel Dänemark. Voraussichtlich im Herbst stimmt das dänische Parlament über einen Gesetzentwurf ab, der anderen Ländern als Blaupause dienen könnte. Dieser sieht vor, dass für die Verwendung digitaler Abbilder eine ausdrückliche Zustimmung erforderlich ist und dass Einzelpersonen das Eigentumsrecht an ihrer digitalen Identität erhalten. Verstöße sollen rechtliche Konsequenzen nach sich ziehen. 

Die Gesetzgebung umfasst Schutzmaßnahmen, mit denen Einzelpersonen gegen die unbefugte Nachbildung ihrer Abbildung oder Stimme klagen können. Sie soll außerdem vor geskripteten oder nonverbalen Manipulationen schützen und Personen des öffentlichen Lebens vor KI-basierter Nachahmung bewahren.

Plattformen wie Meta und TikTok könnten mit Geldstrafen belegt werden, wenn sie sich weigern, nicht genehmigte Deepfakes von dänischen Bürgern zu entfernen. Dies könnte einen globalen Standard für den Schutz der digitalen Identität setzen und die Aktualisierung des KI-Gesetzes der EU beeinflussen. 
 

Potenziale fördern, Schaden minimieren

Der Aufstieg der Deepfake-Technologie erfordert eine vielschichtige Reaktion, um ihr transformatives Potenzial zu fördern und ihr Schadenspotenzial zu minimieren. Eine wirksame Politik muss technische, pädagogische und regulatorische Maßnahmen beinhalten. Technische Schutzmaßnahmen wie Wasserzeichen, Zertifizierung der Herkunft von Inhalten und automatisierte Erkennungssysteme sind entscheidend für die Überprüfung digitaler Inhalte und die Einhaltung der Rechenschaftspflicht. 

Gleichzeitig sind Initiativen zur Förderung der digitalen Kompetenz, die den ethischen Umgang mit synthetischen Medien in den Vordergrund stellen, unerlässlich, um jüngere Generationen zu befähigen, sich verantwortungsbewusst in der heutigen digitalen Landschaft zu bewegen. Soziale Plattformen müssen ebenfalls einer strengen Rechenschaftspflicht unterliegen – mit klaren rechtlichen Rahmenbedingungen, die eine rasche Entfernung rechtswidriger Inhalte vorsehen.