Das KI-Dilemma

Der Historiker Yuval Noah Harari wählt in seinem neuen Buch „Nexus“ einen ambitionierten Ansatz: Er will die KI-Revolution durch das Prisma der Menschheitsgeschichte betrachten. Seine These: Die Geschichte der Zivilisation lässt sich als Evolution von Informationsnetzwerken verstehen – von den ersten Höhlenmalereien bis zu modernen KI-Systemen. Diese Verbindungen zwischen zwei Punkten, die Harari als „Nexus“ bezeichnet, bilden für ihn den roten Faden der Menschheitsgeschichte.

Doch was zunächst vielversprechend klingt, verliert sich über weite Strecken in langatmigen historischen Exkursen. Die spannende Frage nach der Bedeutung historischer Entwicklungen für unser Verständnis von KI tritt dabei in den Hintergrund.

Der erste Teil des Buches widmet sich der grundlegenden Frage, was Information eigentlich ist und welche Aufgaben sie erfüllt. Harari entwickelt dabei ein komplexes Argumentationsgebäude, das die Rolle von Informationsnetzwerken in der menschlichen Evolution nachzeichnet. Doch trotz der beeindruckenden historischen Bandbreite bleiben viele seiner Erkenntnisse erstaunlich oberflächlich. Hararis Warnungen vor den Gefahren der KI – etwa dem digitalen Totalitarismus oder der Manipulation durch Social Media – sind zwar berechtigt, bieten aber wenig Neues für Leser, die mit der aktuellen Debatte vertraut sind.

Hararis Kernthese, dass technologischer Fortschritt nicht automatisch zu ethischem Fortschritt führt, ist richtig, aber wenig originell. Auch seine Ausführungen zu Themen wie Social Scoring oder Überwachungskapitalismus bleiben an der Oberfläche und wiederholen größtenteils bekannte Argumente. Die historischen Parallelen, die Harari zieht – etwa zum Stalinismus oder zu früheren Überwachungsregimen – sind interessant, tragen aber wenig zum Verständnis der spezifischen Herausforderungen moderner KI bei.

Spannender wird das Buch da, wo Harari KI als eigenständigen Akteur beschreibt. Seine Analyse der Besonderheiten von KI als „Agent“ im historischen Prozess eröffnet neue Perspektiven auf die Mensch-Maschine-Beziehung. Gerade Hararis Plädoyer für Selbstkorrekturmechanismen in KI-Systemen verdient Beachtung: Wenn wir die Kontrolle über diese Technologie behalten wollen, so die These des Autors, müssen wir sie von Anfang an mit entsprechenden Sicherheitsverfahren ausstatten. Doch auch diese potenziell fruchtbaren Gedankengänge werden nicht konsequent zu Ende geführt.

Am Ende bleibt der Eindruck eines Buches, das aus der Vogelperspektive des Universalhistorikers große Linien zeichnet, aber dafür die entscheidenden Details der aktuellen KI-Entwicklung aus dem Blick verliert. Hararis Versuch, die KI-Revolution in einen größeren historischen Kontext einzuordnen, ist löblich, aber die Ausführung bleibt hinter den Erwartungen zurück. Wo konkrete Analysen und neue Erkenntnisse nötig wären, bietet der Autor oft nur vertraute Warnungen und allgemeine historische Parallelen.

Konkurrenz oder Ergänzung?

Deutlich konkreter wird die Analyse von Miriam Meckel und Lea Steinacker in „Alles überall auf einmal“. Die Autorinnen richten den Blick auf die unmittelbare Gegenwart und identifizieren dabei ein zentrales Paradoxon: KI-Systeme haben zwar gelernt, uns nahezu perfekt zu imitieren, verstehen uns deswegen aber noch lange nicht. Sie sind keine Faktensuchmaschinen, sondern trainierte Wortwahrscheinlichkeitsvorhersager – eine wichtige Unterscheidung, die in der öffentlichen Debatte oft untergeht und fundamentale Auswirkungen auf unseren Umgang mit dieser Technologie hat.

Besonders erhellend ist Meckels und Steinackers Analyse der (nach dem britischen Mathematiker Alan Turing benannten) „Turing-Falle“: Während wir uns darauf konzentrieren, KI-Systeme zu entwickeln, die menschliche Fähigkeiten replizieren und automatisieren, verlieren wir die eigentliche Chance aus dem Blick. Statt „maschineller Intelligenz“ bräuchten wir „maschinelle Nützlichkeits-Systeme“, die menschliche Fähigkeiten ergänzen. 

Es geht um eine fundamentale Paradigmenentscheidung: Entwickeln wir KI als Konkurrenz zum Menschen oder als komplementäre Kraft? Während die reine Imitation menschlicher Fähigkeiten zur Redundanz eben dieser führt, könnte eine komplementäre Entwicklung uns in die Lage versetzen, Grenzen zu überwinden, die wir allein nie hätten überschreiten können. 
Diese grundlegende Weichenstellung, so argumentieren die Autorinnen, wird entscheidend dafür sein, ob wir eine Gesellschaft entwickeln, die den Menschen und seine Bedürfnisse schützt, oder eine, die ihn schrittweise ersetzt.

Die detaillierte Betrachtung der Meilensteine in der KI-Entwicklung ermöglicht es auch Leserinnen und Lesern, die sich zum ersten Mal mit diesem Thema beschäftigen, die einzelnen Schritte und damit die Grundlagen der Funktionsweise heutiger KI-Anwendungen nachzuvollziehen. Dabei wird deutlich, dass wir es mit einer Technologie zu tun haben, deren Potenzial wir gerade erst zu verstehen beginnen. Die Autorinnen zeigen überzeugend, wie KI bereits heute tief in unser Leben eingreift – von der Art, wie wir kommunizieren, über die Weise, wie wir arbeiten, bis hin zu den Methoden, mit denen wir Entscheidungen treffen.

Digitaler Humanismus

Meckel und Steinacker warnen zudem vor einem weiteren fundamentalen Missverständnis: Die KI-Revolution sei keine rein technische Herausforderung, sondern ein tiefgreifender organisatorischer Wandel mit komplexen psychologischen Dynamiken. Die entscheidende Frage sei dabei ontologischer Natur: Werden wir es schaffen, uns als Menschen neu zu bestimmen und unseren Selbstwert zu bewahren, wenn Maschinen immer mehr unserer bisherigen Aufgaben übernehmen? 

Diese Frage gewinnt besondere Brisanz vor dem Hintergrund, dass sich menschlicher Selbstwert oft aus der Arbeit und einer Selbstwahrnehmung speist, die von der Einzigartigkeit der menschlichen Gattung ausgeht. 

Besonders wertvoll ist Meckels und Steinackers differenzierte Betrachtung der sozialen und wirtschaftlichen Auswirkungen. Die Autorinnen vermeiden dabei sowohl technikfeindlichen Alarmismus als auch naive Zukunftseuphorie. Stattdessen zeigen sie, wie Künstliche Intelligenz zu einem zweischneidigen Schwert werden könnte: Einerseits könnte sie es Menschen mit niedrigem Bildungsstand ermöglichen, sich professioneller auszudrücken und neue Chancen zu erschließen. Andererseits besteht die Gefahr, dass die KI bestehende soziale Klüfte vertieft, wenn der Zugang zur ­Technologie ­privilegierten Gruppen vorbehalten bleibt. 

Ein besonderes Augenmerk legen Meckel und Steinacker auf die Einflussfaktoren, die die Entwicklung von KI derzeit prägen. Die Autorinnen machen überzeugend deutlich, dass wir uns an einem entscheidenden Wendepunkt befinden. Jetzt werden die Weichen gestellt, ob KI zukünftig der Allgemeinheit dient oder den Einfluss und Reichtum einiger Weniger vermehrt. Meckel und Steinacker plädieren dabei für einen „digitalen Humanismus“, der jenseits von Untergangsszenarien und Techno-Utopien darauf abzielt, den Menschen durch KI zu unterstützen und zu stärken – und nicht, ihn zu ersetzen.

Technologischer Tsunami

Eine ebenso fundierte wie beunruhigende Analyse, die weit über die übliche KI-Diskussion hinausgeht, legen Michael Bhaskar und Mustafa Suleyman mit „The Coming Wave“ vor. Ihre zentrale These: Wir stehen nicht nur vor einer KI-Revolution, sondern vor einem sich selbst verstärkenden technologischen Tsunami. Dieser Prozess entziehe sich immer mehr der direkten menschlichen Kontrolle. Die Autoren zeichnen ein Bild der kommenden KI-Revolution, das weit über die üblichen Spekulationen hinausgeht.

Diese Entwicklung ist Bhaskar und Suleyman zufolge nicht mehr aufzuhalten, und wir begännen gerade erst, ihr disruptives Potenzial zu begreifen. Während die technologische Entwicklung exponentiell voranschreite, entwickelten sich unsere Kontrollmechanismen und ethischen Rahmenbedingungen nur linear. 

Die wachsende Kluft zwischen technischen Möglichkeiten und gesellschaftlicher Steuerungs­fähigkeit sehen die Autoren als das größte Risiko der kommenden Jahre. Dabei gehe es nicht nur um wirtschaftliche Dominanz, sondern um die grundlegende Frage, wer die Spielregeln der neuen KI-getriebenen Weltordnung bestimmt. 

Besonders wertvoll ist die Kombination aus technischem Insiderwissen und ethischer Reflexion, die Suleyman und Bhaskar bieten. Die Autoren verfallen weder in naive Technikbegeisterung noch in apokalyptische Schwarzmalerei. Sie identifizieren vier kritische Charakteristika, die diese neue Generation von Technologien so schwer kontrollierbar machen: den universellen Einsatzbereich dieser Techniken, ihre hyper-evolutionäre Entwicklungsgeschwindigkeit, ihre asymmetrischen Auswirkungen und ihre wachsende Autonomie in Kombination mit starken Entwicklungsanreizen durch geopolitischen Wettbewerb und massive finanzielle Belohnungen. 

Die Lösung sehen die Autoren im Konzept der „Eindämmung“. Darunter verstehen Suleyman und Bhaskar ein komplexes Geflecht aus technischen, gesellschaftlichen und rechtlichen Mechanismen, die auf verschiedenen Ebenen ineinandergreifen müssen, um KI oder ähnlich transformative Technologien wie etwa die synthetische Biologie einzuhegen. 

Es geht den Autoren nicht um das Verhindern von Innovation, sondern um Kontrolle. Die dafür benötigten „Governance“-Strukturen müssten weit über klassische Regulierung hinausgehen und Normen, Eigentumsstrukturen, ungeschriebene Gesetze der Regelbefolgung sowie robuste Aufsichtsmechanismen umfassen. Suleyman und Bhaskar plädieren für eine parallele Entwicklung von Kontrollfähigkeiten und technischen Möglichkeiten – ein Ansatz, der angesichts der exponentiellen Entwicklung so dringlich wie herausfordernd erscheint. 

Am Wendepunkt

Die KI-Revolution stellt uns vor beispiellose Herausforderungen, die weit über technische Fragen hinausgehen. Wie die besprochenen Bücher zeigen – von Hararis ausschweifender, aber wichtiger historischer Einordnung bis hin zu Meckel und Steinackers präziser Gegenwartsanalyse –, steht nichts Geringeres auf dem Spiel als die Zukunft menschlicher ­Autonomie und gesellschaftlicher Ordnung. 

Die eigentliche Gefahr liegt dabei nicht in der oft beschworenen Superintelligenz, sondern in unserer mangelnden Fähigkeit, mit dem Tempo der exponentiellen Entwicklung Schritt zu halten. Während die technologischen Möglichkeiten sich nahezu täglich erweitern, entwickeln sich unsere ethischen Rahmenbedingungen und Kontrollmechanismen nur langsam – eine Diskrepanz, die Bhaskar und Suleyman mit Recht als sehr kritisch einstufen.

Was alle drei Bücher eint, ist die Erkenntnis, dass wir uns an einem kritischen Wendepunkt befinden. Die Entscheidungen, die wir heute über den Einsatz und die Kontrolle von KI treffen, werden unsere Zukunft fundamental prägen. 

Dabei kristallisieren sich drei zentrale Herausforderungen heraus: Erstens müssen wir, darauf weist Harari hin, technologischen Fortschritt von ethischem Fortschritt zu unterscheiden lernen. Zweitens gilt es, wie Meckel und Steinacker überzeugend darlegen, KI so zu entwickeln, dass sie menschliche Fähigkeiten ergänzt statt ersetzt. Und drittens ist es höchste Zeit, wie Bhaskar und Suleyman mahnen, globale Mechanismen zur Kontrolle dieser mächtigen Technologie zu entwickeln.

Was wir jetzt brauchen, ist keine weitere Debatte über hypothetische Zukunftsszenarien, sondern konkretes Handeln. Die Weichen für den Umgang mit Künstlicher Intelligenz werden heute gestellt, in Unternehmen, Forschungseinrichtungen und politischen Institutionen. Die zentrale Herausforderung wird es sein, internationale Mechanismen zu entwickeln, die Innova­tion ermöglichen und gleichzeitig ethische Grenzen setzen. Nur so können wir sicherstellen, dass KI dem Menschen dient – und nicht umgekehrt.

Yuval Noah Harari: Nexus. Eine kurze Geschichte der Informationsnetzwerke von der Steinzeit bis zur künstlichen Intelligenz. München: Penguin 2024.  656 Seiten, 28,00 Euro

Miriam Meckel und Lea Steinacker: Alles überall auf einmal. Wie Künstliche Intelligenz unsere Welt verändert und was wir dabei gewinnen können. Hamburg: Rowohlt 2024. 400 Seiten, 26,00 Euro

Michael Bhaskar und Mustafa Suleyman: The Coming Wave. Künstliche Intelligenz, Macht und das größte Dilemma des  21. Jahrhunderts. München: C.H. Beck 2024. 377 Seiten, 28,00 Euro