Buchkritik

25. Juni 2021

Zwischen Angst und Achselzucken

Werden wir künftig alle ausspioniert, überwacht oder gar durch intelligente Maschinen ersetzt? Und, wenn ja: Wie sollen, wie können wir darauf reagieren? Zur Zukunft von Digitalisierung und künstlicher Intelligenz.

Bild
Bild: Illustration eines Buches auf einem Seziertisch
Lizenz
Alle Rechte vorbehalten
Kostenpflichtig

„Das Zeitalter des Überwachungskapitalismus“ lautete der Titel eines Buches, das im Oktober 2018 in Deutschland erschien und ziemlich hohe Wellen schlug. Shoshana Zuboff, Sozialwissenschaftlerin, Ökonomin und emeritierte Harvard-Professorin, nahm darin die Digitalkonzerne ins Visier.

Wie Google, Facebook, Apple, Microsoft und Amazon private Daten sammeln und nutzen, um das Verhalten der Mensche vorherzusagen und zu manipulieren, wie sie daraus Profit schlagen und das Internet zum Ort totaler Kontrolle ausbauen – all das nannte Zuboff „Überwachungskapitalismus“. Dieser Kapitalismus bedrohe die Demokratie, aber er sei menschengemacht, also nicht unvermeidbar. Man könne durchaus dagegen aufbegehren.
Was Armin Nassehi von Zuboffs Analyse und den „meisten Diagnosen eines Überwachungskapitalismus, einer Kolonisierung der Welt durch Zahlen oder des Zwangs zur Selbstoptimierung“ hält, sagt er im vorletzten Kapitel seines Buches „Muster. Theorie der digitalen Gesellschaft“: Sie seien alle „hoffnungslos naiv“.

 

Schon immer digital

In seinem Buch hat sich Nassehi, Professor für allgemeine Soziologie und Gesellschaftstheorie an der Ludwig-Maximilians-Universität München, nichts Geringeres vorgenommen als „die erste Gesellschaftstheorie der digitalen Gesellschaft“ vorzulegen. Seine wichtigste These: Die gesellschaftliche Moderne sei immer schon digital gewesen; die Digitaltechnik also lediglich „die logische Konsequenz einer in ihrer Grundstruktur digital gebauten Gesellschaft“. Die digitale Technik ist also nicht etwas, das von außerhalb der Gesellschaft kommt und von irgendjemandem, von profitgierigen Konzernen etwa, gesteuert wird, sondern der Gesellschaft inhärent. Damit entfällt auch die Möglichkeit, sich dagegen aufzulehnen.


Angesichts einer so provokanten These würde man erwarten, dass der Autor in den folgenden neun Kapiteln jede Menge Argumente zur Untermauerung seiner These vorlegte. Aber offenbar gelten in Nassehis Theorie apodiktische Aussagen als Beweise; von „zirkulären Beweisführungen“ spricht Rudolf Walther in seiner Rezension des Buches in der taz.


Auszüge aus Werken anderer Autoren werden mit eigenen Kommentaren versehen und müssen als Argumente herhalten. De Saussure, Heidegger, Husserl und Derrida: Genau besehen klopft Nassehi die ganze Geschichte der Soziologie auf ihre Thesenunterstützungstauglichkeit ab.


Doch um seine Theorie zu verstehen, ist es noch wichtiger, Niklas Luhmanns Systemtheorie zu kennen. Für Luhmann wie für Nassehi ist die Gesellschaft das umfassende System, „das alle weltweite Kommunikation in sich vereinigt“. Im Laufe der Moderne habe sich die Gesellschaft in Funktionssysteme (Politik, Wirtschaft, Recht, Wissenschaft, Medizin, etc.) ausdifferenziert. Sie sei dadurch immer komplexer geworden.


Hatten vormoderne Gesellschaften eine stabile Struktur, die auf dem Oben-Unten-Schema basierte, also auf Ständen und Schichten, so sei in der Moderne alles unübersichtlicher geworden. Hier knüpft Nassehi an, um uns den Nutzen der Digitalisierung zu enthüllen: Sie mache die unter der scheinbaren Komplexität und Vielfalt liegenden Schemata, die Schicht- und dazugehörigen Verhaltensmuster, sichtbar. Das nennt Nassehi „die dritte Entdeckung der Gesellschaft“.


Kapitel für Kapitel versucht er, Parallelen zwischen Digitalisierung sowie philosophischen und soziologischen Gesellschaftsdiagnosen des 20. Jahrhunderts freizulegen. Seine Argumentation kulminiert in der Mitte des 352 Seiten starken Wälzers in der Entdeckung der Ähnlichkeit zwischen der Binarität, auf der die Digitaltechnik gründet, und der Binarität der Codes der Medien, die nach Luhmann die Kommunikation innerhalb von Funktionssystemen ermöglichen.


An dieser Stelle meint man den Zeilen einen Jubelschrei zu entnehmen: Das Medium moderner Funktionssysteme ist ebenso gebaut wie die technische Digitalisierung! Auf der „binären Einfachkeit“ beruhen sowohl die Vielfalt und Komplexität der modernen Gesellschaft als auch „der Formenreichtum und die geradezu ubiquitäre Möglichkeit des Digitalen“! Die Digitaltechnik „kann ihren Formenreichtum und damit auch ihren Siegeszug in fast alle Praktiken der modernen Gesellschaft nur erreichen, weil sie strukturell ebenfalls um das Verhältnis von Einfalt und Vielfalt gebaut ist. Ihre brutal einfache Codierung und Medialität in binären Mustern ist der Boden für den vielfältigen, kaum begrenzbaren Einsatz in allen Bereichen der Gesellschaft.“


Warum also regen wir uns über Überwachungskapitalismus, Big Data und Ausbeutung privater Daten auf? Das Ganze ist sowieso unaufhaltsam. Zumal moderne Funktionssysteme, wie der Autor achselzuckend feststellt, „innerhalb ihrer selbst so gut wie keine Stoppregeln kennen, denn der einzige limitierende Faktor ist ja die Anwendung des Codes“.


Nassehi liefert den Beleg für eine alte Weisheit: Es gibt Bücher, die die Welt braucht, und Bücher, die der akademische Betrieb und allenfalls noch das deutsche Feuilleton brauchen. Die „Theorie der digitalen Gesellschaft“ gehört zur zweiten Kategorie.

 

KI auf menschlichem Niveau

Nach einer solchen Lektüre ist es ein wahres Labsal, im Geiste den Ärmelkanal zu überqueren. Im Vereinigten Königreich ist man immer noch so höflich, wissenschaftliche Erkenntnisse für eine breite Öffentlichkeit stringent und allgemein verständlich darzulegen. Murray Shanahan, Professor für Kognitive Robotik am Imperial College London, hat sein Buch „Die technologische Singularität“ sogar mit einem Glossar versehen.


Der Begriff „Singularität“, so erfahren wir da, stammt aus der Physik und bezeichnet einen Punkt in Zeit und Raum, an dem die Mathematik, also auch das menschliche Verständnis, kollabiert, wie etwa den Urknall oder das Zentrum eines Schwarzen Lochs. Eine solche „Singularität“ träte ein, wenn es dank des technologischen Fortschritts möglich wäre, eine künstliche Intelligenz auf menschlichem Niveau zu produzieren, der unvermeidlich eine KI auf übermenschlichem Niveau auf dem Fuß folgen würde – was man „technologische Singularität“ nennt.


Noch sind wir weit davon entfernt, erklärt Shanahan, doch seien Wissenschaft und Technologien in den vergangenen Jahrzehnten dermaßen schnell vorangeschritten, dass das Thema nun in Fachkreisen ernsthaft diskutiert werde. Vor allem die Entwicklungen in der KI-Forschung und auf dem Gebiet der Neurotechnologie lassen es aus Sicht des Autors ratsam erscheinen, sich grundlegende Gedanken zu machen.


Denn in einem solchen Fall würden die „Institutionen, die wir heute für selbstverständlich halten – die Wirtschaft, die Regierung, das Rechtssystem und der Staat“, in ihrer jetzigen Form nicht überleben, „die fundamentalsten menschlichen Werte – die Unantastbarkeit des Lebens, das Streben nach Glück, die Entscheidungsfreiheit – würden verdrängt. Unsere ganze Auffassung davon, was es heißt, ein Mensch zu sein, wäre radikal infrage gestellt, „und das nicht etwa im Modus einer distanzierten philosophischen Betrachtung, sondern durch die Wucht der Umstände, ganz unmittelbar und real.“


Ohne Rücksicht auf Verluste

Ein Grund, weiche Knie zu bekommen? Shanahan tritt durchaus nicht als Mahner auf, der die Entwicklung verhindern möchte. Teilweise liest sich sein Buch sogar eher wie eine Bauanleitung. Der Robotik-Professor erklärt, wie man, bestimmte technologische Fortschritte vorausgesetzt, eine künstliche Intelligenz schaffen und worauf man dabei achten sollte.    


Es gibt zwei aus der wissenschaftlichen Praxis hergeleitete Prinzipien, die für das Eintreten der technologischen Singularität sprechen: Erstens das von Ray Kurzweil formulierte Gesetz vom steigenden Ertragszuwachs, demzufolge Verbesserungen einer Technologie eine Beschleunigung ihrer Verbesserung ermöglichen. Zweitens das auf Beobachtungen des Intel-Mitarbeiters Gordon Moore zurückgehende Mooresche Gesetz, wonach die Anzahl der Transistoren, die auf einer Silizium-Fläche verbaut werden können, sich alle 18 Monate verdoppelt – was zu einem exponentiellen Wachstum der Rechengeschwindigkeit führen kann.


Auch in der Medizin hat es in den vergangenen Jahren außergewöhnliche Fortschritte gegeben: Die Geschwindigkeit der DNA-Sequenzierung hat stetig zugenommen; die Hirnscan-Technologie konnte eine exponentielle Erhöhung der Bildauflösung verzeichnen. Alles hängt nun davon ab, ob das Wachstum des Wissensschatzes in bestimmten Bereichen weiterhin exponentiell wächst oder gebremst wird.


In seinem Buch geht Shanahan methodisch vor. Er erklärt zunächst, was eine KI benötigen würde, damit man ihr eine Intelligenz auf menschlichem Niveau unterstellen könnte. Dem Computer Deep Blue, der 1997 den Schachweltmeister Garry Kasparow besiegte, fehlten dazu etliche Eigenschaften. Er war programmiert, um eine einzige Art von Operation durchzuführen: Er konnte nur Schach spielen. Eine „allgemeine künstliche Intelligenz“ müsste aber wie der Mensch ein „Generalist“ sein: Sie müsste verschiedene Tätigkeiten ausüben, und sie müsste auch imstande sein, sich Dinge selbst beizubringen. Außerdem müsste sie über eine Reihe anderer Fähigkeiten verfügen, die dem Menschen eigen sind.


Shanahan weist darauf hin, dass es zwar bereits spezialisierte KI-Formen gibt, die bestimmte Aufgaben besser erfüllen als Menschen. Aber von einer „allgemeinen künstlichen Intelligenz“ seien wir noch weit entfernt. Was uns davon trenne, sei für den Wissenschaftler allerdings nur ein technologisches Problem, kein konzeptuelles. Eine Optimierung bereits vorhandener Technologien dürfte reichen, um den Bau einer allgemeinen künstlichen Intelligenz möglich zu machen.


Seien einmal die biologischen Beschränkungen der Rechengeschwindigkeit aufgehoben, stehe einer weiteren Beschleunigung nichts mehr im Wege. Doch ob man eine menschenähnliche KI per Gehirnemulation erzeuge, sprich: eine exakte elektronische Kopie des Gehirns, oder eine KI-Maschine, die nach autonomen Prinzipien funktioniere: Es dürfte schwierig bis unmöglich sein, sie mit so etwas wie Empathie oder moralischem Empfinden auszustatten.


Das könnte die Auslöschung der Menschheit zur Folge haben, nicht etwa deshalb, weil eine KI-Maschine böse sein könnte, sondern weil sie nur auf die Maximierung des Nutzens hinarbeiten würde, für den sie programmiert wurde – ohne Rücksicht auf Verluste. Shanahan plädiert dafür, in die erste KI-Generation auf menschlichem Niveau jene Werte einzuprogrammieren, die zerstörerische Handlungen ausschließen, und zwar so, dass diese an die nachfolgenden KI-Generationen weitergegeben würden. Denn es stehe außer Frage, dass die nächste Generation allgemeiner künstlicher Intelligenz nicht mehr von Menschen erschaffen werden würde.


Szenarien, die zunächst absurd wirken. Doch bedenkt man, dass bereits darüber diskutiert wird, ob man im militärischen Bereich Drohnen und Roboter entwickeln und einsetzen dürfe, die selbst entscheiden, wen sie töten sollen, dann kommen einem Shanahans Überlegungen nicht mehr so abwegig vor. Er selbst rät nachdrücklich davon ab, solche Maschinen zu erschaffen.


Visionär statt wissenschaftlich

Für James Lovelock steht die technologische Singularität schon vor der Tür. Aus denselben Gründen wie Shanahan – der exponentiellen Beschleunigung des Wissens und der Rechengeschwindigkeit von Computern – hält er sie für unabwendbar. Er nennt sie bloß anders: „Novozän“ – wie das jüngste Buch des Wissenschaftlers, Erfinders und Ökologen betitelt ist.
Novozän ist für Lovelock das Zeitalter, in dem die Menschen als Spezies aufhören werden, die einzigen Versteher des Kosmos zu sein und ihren bisherigen Platz auf der Erde an ihre Nachfahren abgeben werden: die hyperintelligenten Maschinen, die sich dann selbst reproduzieren würden. „Wir bereiten uns vor, das Geschenk des Wissens an die neuen Formen intelligenten Lebens zu übergeben.“


Es ist unklar, was Lovelock zuversichtlich macht, dass diese elektronische Intelligenz geneigt sein sollte, mit uns zu koexistieren. Und wenn nicht? Nun, Lovelock wird in diesem Sommer 102 Jahre alt. Er hat Atmosphäre- Untersuchungsgeräte erfunden, die seit 1977 auf dem Mars stehen. Mit anderen Worten: Der Mann denkt eher „sub specie aeternitatis“, als dass er sein Denken und Handeln auf das vergängliche Diesseits ausrichten würde. Ob die Menschheit von der Erdoberfläche verschwindet – wen kümmert es? Im Vergleich zum Alter des Kosmos ist ihre Erscheinung ein Augenblick.


„Novozän“ stellt die Ankunft der neuen Ära in einen kosmischen Zusammenhang. Das 160 Seiten schmale Büchlein ist ein Ritt durch die Geschichte des Kosmos, der Erde und der Menschheit. Trotz aller Details über wissenschaftliche und technische Meilensteine ist Lovelocks Buch eher eine Vision denn eine populärwissenschaftliche Schrift. Unverschämt teleologisch, religiös und voller Poesie.


Aureliana Sorrento lebt und arbeitet als freie Autorin, u. a. für Deutschlandfunk, WDR, SWR und SRF, in Berlin.

 

Armin Nassehi: Muster. Theorie der digitalen Gesellschaft. München: C.H.Beck 2019. 352 Seiten, 26 Euro

Murray Shanahan: Die technologische Singularität. Berlin: Matthes & Seitz 2020. 253 Seiten, 20 Euro

James Lovelock: Novozän. Das kommende Zeitalter der Hyperintelligenz. München: C.H. Beck 2020. 160 Seiten, 18 Euro

Für Vollzugriff bitte einloggen.
Bibliografische Angaben

Internationale Politik 4, Juli/August 2021, S. 120-123

Teilen

0

Artikel können Sie noch kostenlos lesen.

Mehr Zugriff? Kein Problem. Für nur 9,80 Euro pro Monat können Sie auf sämtliche Artikel der Internationalen Politik jederzeit und bequem zugreifen – Online, im Print und per App. Studierende zahlen nur 73,00 Euro im Jahr.