Goldene Zukunft mit roten Linien

Von einer Höchstleistungs-KI versprechen sich die USA eine dauerhafte Hegemonie

Während der Aktionsplan „umfassende wirtschaftliche und militärische Vorteile“ betont, ­steigen im Silicon Valley die Einsätze. Die führenden KI-Unternehmen konzentrieren sich darauf, Systeme einer Artificial General Intelligence (AGI) zu erreichen: Systeme, die fast alle menschlichen kognitiven Fähigkeiten automatisieren können, einschließlich wissenschaftlicher Forschung, strategischer Planung und der KI-Entwicklung selbst. CEOs wie Sam Altman (OpenAI) prophezeien, dass dieser Meilenstein noch in der Amtszeit von Donald Trump erreicht wird, und warnen vor einer existenziellen Bedrohung für die Zukunft der USA, sollte China zuerst an dieses Ziel gelangen.

Dario Amodei, CEO des Unternehmens Anthropic, bringt eine in diesen Kreisen weit verbreitete Ansicht zum Ausdruck: Eine so leistungsfähige KI würde die wissenschaftlichen, wirtschaftlichen und militärischen Fähigkeiten der Nation so stark verbessern, dass sie einen „dauerhaften Vorteil“ gegenüber rivalisierenden Nationen weltweit erzielen könnte. Mit anderen Worten: eine dauerhafte Hegemonie. Der jüngste Bericht der US-China Economic and Security Review Commission empfiehlt dem Kongress für den Komplex GenAI denn auch die Einrichtung eines „Manhattan-Projekts“, analog zu jenem Programm, in dem die USA ab 1942 die Forschung, Entwicklung und Produktion von Atomwaffen zusammenfassten.

Das soll dazu dienen, die KI-Entwicklung der USA auf einem Niveau zu sichern, das außergewöhnliche Maßnahmen rechtfertigt. In seiner Stellungnahme an das Weiße Haus fordert Anthropic einen ambitionierten Ausbau der Energieinfrastruktur für Rechenzentren und die rasche Beschaffung von KI in allen Bereichen der Regierung. OpenAI will, dass eine Regulierung „freiwillig und locker“ bleibt, und dass „für Schulungszwecke“ freier Zugang auch zu urheberrechtlich geschütztem Material gewährt wird. American Edge, eine Lobbyorganisation, die kräftig von Schwarzgeld aus dem Meta-Umfeld finanziert werden soll, veröffentlicht regelmäßig Artikel in Newsweek und ähnlichen Medien, in denen man sich gegen eine staatliche Regulierung der KI ausspricht: Man dürfe den Wettlauf um die Superintelligenz gegen China keinesfalls verlieren.

Erfolgreicher Lobbyismus 

Diese Botschaften finden Gehör. Der ursprünglich von der US-Regierung unterstützte Versuch, ein zehnjähriges Moratorium für staatliche Regulierung aufzunehmen, wurde diesen Sommer nach heftigen Debatten abgelehnt. Und mehr noch: Der Aktionsplan vom Juli betont den Ausbau der Energieversorgung, den Zugang zu urheberrechtlich geschützten Daten und erklärt, dass Bundesmittel für KI nicht an Bundesstaaten mit „belastenden“ KI-Vorschriften fließen sollten.

Meine Forschungen und die anderer zeigen allerdings, dass es kaum Anzeichen dafür gibt, dass China derzeit ernsthaft um die Entwicklung einer AGI wetteifert. Einzelne Unternehmen wie DeepSeek haben zwar solche Ambitionen geäußert, aber sie verfügen über weniger Ressourcen als ihre westlichen Konkurrenten und spielen eher die Rolle des schnellen Nachahmers als die des Wegbereiters. Auch deuten Reden der Führung der Kommunistischen Partei und Dokumente nicht darauf hin, dass AGI im Fokus steht. Der Schwerpunkt liegt weiterhin auf zwei Aspekten: erstens auf der Verbreitung und Einführung der heutigen KI-Systeme in der gesamten chinesischen Wirtschaft und Industrie als Teil eines anhaltenden „technologischen Wunders“; und zweitens auf der Ausweitung der wirtschaftlichen Verbindungen und des internationalen Einflusses Chinas durch die Verbreitung chinesischer Technologie, insbesondere über das Belt-and-Road-Netzwerk.

Die meisten Tech-Propheten sehen eine Welt, in der die Mehrzahl der Arbeitsplätze automatisiert ist

Es gibt also keine Belege für ernsthafte chinesische AGI-Ambitionen. Und doch wird der „Wettlauf zwischen den USA und China um AGI“ im Silicon Valley und in Washington zu einem Glaubensbekenntnis und verknüpft sich mit einer breiteren geopolitischen Erzählung. Ezra Klein in der New York Times: „KI hat genau in dem Moment ihre Reife erreicht, in dem sich die USA und China in einem Wettlauf um die Vorherrschaft als Supermacht befinden, der an die Thukydides-Falle erinnert“ (die eine hohe Wahrscheinlichkeit für einen Krieg beschreibt, wenn eine aufstrebende Macht eine bestehende Großmacht als regionalen oder internationalen Hegemon zu verdrängen droht). Da China den US-Diskurs aufmerksam verfolgt, könnte dieses Narrativ ironischerweise dazu beitragen, China überhaupt erst zu einem konzertierteren Vorstoß in Richtung AGI zu bewegen.

In diesem volatilen Umfeld versucht nun die EU, ihre Rolle zu finden. Ihr AI Act beinhaltet die ersten verbindlichen Rechtsvorschriften für Künstliche Intelligenz. Durch hektische Lobbyarbeit von Technologieunternehmen im Laufe des Jahres 2023 wäre es beinahe dazu gekommen, dass Bestimmungen für allgemeine KI-Systeme während der Ausarbeitung gestrichen worden wären, doch letztlich wurde die Regulierungskategorie „allgemeine KI“ in die endgültige Fassung aufgenommen. In der Zwischenzeit geraten die Regulierungsversuche der EU allerdings unter Druck, sowohl in Europa selbst als auch außerhalb. 

Französische, deutsche und italienische Politiker argumentierten, dass ­strenge Vorschriften die Wettbewerbsfähigkeit Europas untergraben könnten. Das kam zum Beispiel auf dem Pariser KI-Gipfel zum Ausdruck, auf dem Präsident Macron eine Vereinfachung der Vorschriften forderte und EU-Kommissionspräsidentin von der Leyen sagte, der KI-Wettlauf habe gerade erst begonnen. Als prominenteste nichteuropäische Stimme kritisierte US-Vizepräsident J.D. Vance „aufwändige internationale Vorschriften“ scharf und erklärte, Amerika könne und werde es nicht akzeptieren, dass ausländische Regierungen US-Technologieunternehmen Daumenschrauben anlegen.

Der EU-Verhaltenskodex wurde entwickelt, um KI-Unternehmen Leitlinien für die Einhaltung des Gesetzes an die Hand zu geben. Er wurde mehrfach überarbeitet, bis seine endgültige Fassung vorlag. Damit wurde die Unterstützung einer Reihe von Spitzenunternehmen gesichert, während zivilgesellschaftliche Gruppen Kritik äußerten, weil wichtige Bestimmungen zur Transparenz und Aufsicht abgeschwächt oder gestrichen worden waren.

Wie bald kommt eine AGI?

Die Expertenmeinungen darüber, ob eine AGI in naher Zukunft plausibel ist, gehen stark auseinander. Viele Wissenschaftler halten die Ankündigungen der Tech-CEOs nach wie vor für eine Fantasievorstellung des Silicon Valley. Dennoch teilen diese Prognose mittlerweile die CEOs von ­Google, OpenAI, Anthropic, Meta, xAI und anderen führenden KI-Unternehmen. Die KI-Investitionsausgaben dieser Unternehmen und ihrer Partner, die überwiegend für den Ausbau von Rechenzentren verwendet werden, belaufen sich auf Hunderte von Milliarden Dollar und sollen in der ersten Hälfte des Jahres 2025 mehr zum Wachstum des US-BIP beigetragen haben als alle Konsumausgaben. Dies ist ein Investitionsniveau, das ohne beispiellos hohe Renditen in der KI-Zukunft nicht nachhaltig erscheint.

Was erhoffen sich die CEOs davon? ­Demis Hassabis von Google DeepMind sieht „gigantischen Überfluss“ und „Reisen zu den Sternen“. In seinem Essay „Machines of Loving Grace“ malt Dario Amodei von Anthropic eine Zukunft in den rosigsten Farben: Alle Krankheiten würden geheilt oder durch Technik be­seitigt, die entwickelte Welt werde viel ­reicher und ihren Wohlstand sodann global weitergeben. Außerdem werde die liberale Demokratie weltweit vorangetrieben, und zwar durch das „Zuckerbrot“-Angebot, an den Vorteilen der KI teilzuhaben, und die „Peitsche“ einer KI-gestützten Militärmacht.

Die meisten dieser Tech-Propheten sehen eine Welt kommen, in der die Mehrzahl der Arbeitsplätze automatisiert ist. Die meisten erkennen auch das Risiko einer globalen Katastrophe oder sogar der Auslöschung der Menschheit durch KI an; 20 Prozent für Amodei, eine immerhin „nicht unerhebliche“ Chance für Hassabis.

In einer vernunftbasierten Welt, in der glaubwürdige Anführer aus Tech und Politik solche Aussichten für unmittelbar bevorstehend halten, würde die öffentliche Debatte von einer einzigen Frage dominiert: Wollen wir das, und wenn ja, wie soll es gehen? Es gäbe Umfragen, Bürgerjurys, Diskussionen und Treffen des UN-Sicherheitsrats, in denen verschiedene Aspekte der Wünschbarkeit dieser Perspektive diskutiert würden. Wollen wir eine Welt, in der es für die meisten Menschen keine Arbeit gibt? Wie können wir sicherstellen, dass die beschriebenen Entwicklungen allen zugutekommen, und dass eine solche Macht nicht in den Händen weniger konzentriert wird? Sind die Risiken wirklich gerechtfertigt? Grundsätzlicher gefragt: Wie können wir sicherstellen, dass die Menschen weltweit Einfluss auf solch weitreichende Entscheidungen haben?

Ein schmales Zeitfenster

Diskussionen dieser Art gibt es kaum. Das ist zum Teil ein Problem des Timings. Wie in einer extremen Version des Collingridge-Dilemmas gibt es möglicherweise nur ein schmales Zeitfenster, in dem solche Diskussionen möglich sind. Ist es zu früh, spekulieren wir über eine abwegige Zukunft, die leicht als Science-Fiction oder Silicon-Valley-Hype abgetan werden kann. Ist es zu spät, ist der Kurs bereits festgelegt. Von der Leyen stellte kürzlich fest: „Als der aktuelle (EU-)Haushalt verhandelt wurde, gingen wir davon aus, dass KI erst um 2050 annähernd menschliches Denkvermögen erreichen würde. Jetzt erwarten wir, dass dies bereits im nächsten Jahr der Fall sein wird.“ Trotz dieses und ähnlicher Standpunkte aber scheinen Governance-Diskussionen düstere Aussichten selten ernst zu nehmen.

Der „KI-Wettlauf“ könnte solche Diskussionen noch weiter verhindern. Im Namen der nationalen strategischen Vorherrschaft könnte es zu weiteren demokratischen Erosionen kommen, weil KI mehr und mehr sicherheitspolitisch instrumentalisiert wird. Im Laufe der Jahre 2024 und 2025 haben OpenAI, Anthropic und andere Unternehmen ihre Verbindungen zum US-Verteidigungs- und -Sicherheitsapparat sowohl auf Produkt- als auch auf Governance-Ebene verstärkt; China hat ebenfalls seine Initiativen zur zivil-militärischen Fusion fortgesetzt. Da der „KI-Wettlauf“ immer enger mit den sich verschärfenden Spannungen zwischen den USA und China verflochten ist, werden die Aussichten auf eine sinnvolle demokratische Governance noch schwieriger.

Wissenschaft und Zivil­gesellschaft sind für den Druck der Unternehmen schlecht gerüstet

Wissenschaft und Zivilgesellschaft sind schlecht gerüstet, um dem Druck der Unternehmen entgegenzuwirken, insbesondere was die Sicherheit und Governance der fortschrittlichsten Systeme angeht. Viele der führenden Wissenschaftler, die über das Fachwissen verfügen, um die Fortschritte auf dem Weg zur AGI zu bewerten und Regierungen zu beraten, arbeiten mittlerweile selbst in AGI-Unternehmen. Diejenigen, die geblieben sind, sehen sich mit finanziell weitaus besser ausgestatteten Lobbyisten der Unternehmen konfrontiert, deren Botschaften von kostensparenden und wachstumsfördernden Technologien äußerst attraktiv für ­finanzschwache Regierungen sind.

Dennoch: Die Weltgemeinschaft könnte noch einmal Glück haben. Das hochgesteckte Ziel der AGI könnte sich vorerst als unerreichbar erweisen, und wir könnten ein Abkühlen der KI-Entwicklung erleben, wenn nämlich Investoren sich aus den massiven Investitionen zurückziehen, die den Fortschritt aktuell vorangetrieben haben.

Oder die Welt erlebt eine KI-bezogene Krise, die ausreicht, um den Fortschritt ihrer sinnvollen Regulierung auf nationaler und internationaler Ebene ­voranzutreiben. Beispielsweise wird KI immer besser in der Lage sein, Aufgaben im Zusammenhang mit Cyberangriffen zu bewältigen; ein künftiger internationaler Vorfall von ausreichendem Ausmaß ­könnte ein starker Weckruf sein.

Wir müssen jedoch auch die Möglichkeit in Betracht ziehen, dass eine technologische Entwicklung, die Demis Hassabis als „zehnmal größer als die industrielle Revolution“ bezeichnet hat, innerhalb des nächsten Jahrzehnts eben ohne Abkühlung oder Warnschüsse eintreten könnte. Wenn die politische Debatte um den „KI-Wettlauf“ die Politik dominiert, sind die Aussichten für eine risikobewusste Regulierung und eine sinnvolle demokratische Mitgestaltung dieser technologischen Revolution fragil.

 
Druck auf die KI-Supermächte

Zwischen den USA und China könnten die Mittelmächte im Bereich KI und die Regulierungs-Supermacht EU noch eine entscheidende Rolle spielen. Wichtige Schritte wurden bereits vom Vereinigten Königreich unternommen, das 2023 in Bletchley die AI Safety Summit Series ins Leben gerufen hat. Damit wurden die globale Zusammenarbeit bei extremen Risiken ganz oben auf die internationale Agenda gesetzt und die Einrichtung eines Netzwerks von KI-Sicherheitsinstituten vorangetrieben. Nachdem der Schwerpunkt auf dem Pariser Gipfel von der KI-Sicherheit weg verlagert worden war, organisierte Singapur die Singapore Conference on AI mit einem direkten Fokus auf die Sicherheit von Höchstleistungs-KI und AGI. Beide Events brachten Experten aus den USA und China sowie internationale Spezialisten zusammen. Mit dem KI-Gesetz spielt die EU weltweit die wichtigste Rolle bei der Festlegung verbindlicher Vorschriften für Hochleistungs-KI, einschließlich spezifischer Bestimmungen für Systeme mit besonderem Risiko. Für diejenigen aber, die einem „KI-Wettlauf“ das Wort reden, ist es schwierig, sich von diesem Narrativ zu lösen.

Es ist entscheidend, dass die Regierungen sich für globale rote Linien und Standards in der KI-Sicherheit einsetzen – aber das Zeitfenster dafür wird ­immer schmaler

Die EU, das Vereinigte Königreich, Kanada, Singapur und andere verfügen über wirtschaftliches und politisches Gewicht, Einfluss auf die KI-Lieferketten sowie das technologische Wissen, das für ein intensives KI-Engagement erforderlich ist. Das hat es ihnen ermöglicht, eine Brücke zwischen den Rivalen zu schlagen – eine Rolle, die noch an Bedeutung gewinnen wird. Mit ausreichendem Willen könnten sie auch Druck auf die beiden KI-Supermächte ausüben, um globale Standards und globale rote Linien für die KI-Sicherheit durchzusetzen. Solche Koalitionen könnten auch darauf dringen, dass alle Nationen weltweit in einen globalen Dialog einbezogen werden, der keine Auseinandersetzung zwischen Gegnern sein darf. Das Zeitfenster, in dem die Narrative eines „KI-Wettlaufs“ infrage gestellt und ein sicherer, kooperativerer Weg eingeschlagen werden können, wird immer kleiner. Es ist entscheidend, dass wir un­sere Regierungen dazu drängen, innerhalb dieses Zeitfensters zu handeln.

Aus dem Englischen von Martin Bialecki