Digitale Mündigkeit

Digitales Zeitalter“, „Vierte Industrielle Revolution“, „technologischer Transformationsprozess“ – wie immer man es nennen mag, dies ist der Beginn eines gesellschaftlichen Umbruchs. Das verunsichert, verwirrt und verängstigt sowohl den Normalbürger als auch politische und wirtschaftliche Entscheidungsträger. Aufklärung tut not, Handeln ist gefordert. Zumindest auf dem Buchmarkt geht man schon mal mit gutem Beispiel voran: Die Flut von Neuerscheinungen ist jedenfalls beeindruckend.

Mensch und Maschine

Es verwundert nicht, dass mit Jörg Dräger und Ralph Müller-Eiselt zwei ausgewiesene Experten von der Bertelsmann Stiftung sich dieser Aufgabe angenommen haben. Denn die in Gütersloh ansässige Stiftung hat sich auf die Fahnen geschrieben, den digitalen Wandel verständlich zu vermitteln und gemeinwohlfördernd zu gestalten. „Wir und die intelligenten Maschinen“ heißt das Buch, das die Leserinnen und Leser tief in die Welt der Algorithmen eintauchen lässt.

Gleich zu Beginn legen die Autoren entschlossen die Marschroute des Buches fest – der hierzulande herrschenden Unkenntnis, Unentschlossenheit und dem Unbehagen in Bezug auf Algorithmen ein Ende zu setzen. Dräger und Müller-Eiselt setzen auf eine Versachlichung der Debatte: Algorithmen seien weder ein universelles Heilmittel für die kognitiven menschlichen Begrenzungen noch dystopisches Hexenwerk.

Gegen Irrtümer seien weder Mensch noch Maschine gefeit; der Unterschied bestehe in den Ursachen dafür. Menschliches Versagen lasse sich etwa auf Überlastung oder inkonsistentes Denken zurückführen, das der Algorithmen auf diskriminierendes Denken oder falsche Schlüsse. Anhand von Stichworten wie Personalisierung, Verteilung oder Gerechtigkeit zeigen die Autoren eindrucksvoll, wie ein sinnvolles Zusammenspiel von Mensch und Maschine Fehldeutungen von beiden Seiten vermeiden kann.

Die Algorithmen kontrollieren

Auch wenn einige Beispiele sich wiederholen (wie das „Predictive Policing“, vorausschauende Polizeiarbeit), so zeigt doch die Fülle der skizzierten algorithmischen Spielarten, wie intensiv sich die Autoren mit den möglichen positiven und negativen Auswirkungen auf alle Gesellschaftsbereiche beschäftigt haben.

So schildern sie etwa, dass die auf einem hoch entwickelten Algorithmus basierende Bilderkennungssoftware Aipoly Vision sehbehinderte Menschen darin unterstützt, mithilfe ihres Handys Gegenstände zu identifizieren. Doch was passiert, wenn algorithmische Systeme den Menschen dabei helfen, „technisch aufzurüsten“, ein Teil dieser Personen aber seine Seh- oder Hörbehinderung gar nicht als Manko ansieht? Führt dies dann nicht dazu, dass durch technologische Innovationen die Mehrheit bestimmt, welche vermeintlichen Mängel beseitigt werden sollen?

Hinzu kommt, dass auch gut gemeinte algorithmische Systeme im Justiz- oder Personalwesen Gefahr laufen, bestimmte Personengruppen zu diskriminieren. Auf der anderen Seite kann die sinnvolle Nutzung von Algorithmen Menschenleben retten, etwa bei der Vorhersage von Herzinfarkten und Sterberisiken.

Bei Betrachtungen wie diesen zeigt sich die große Stärke des Werkes: Anstatt sich hilflos und gleichsam grollend den Algorithmen zu ergeben, sind es die Menschen, die die Algorithmen kontrollieren und nutzen können. Damit die Dystopie eines „Orwellschen Alptraums“ abgewendet und die Maschinen zu Dienern gemacht werden können, müssen den Autoren zufolge in einem ständigen Kontroll- und Aushandlungsprozess Maßnahmen wie eine „Risiko- und Relevanzabschätzung von algorithmischen Systemen“ oder die Überprüfung von Quellcodes unternommen werden.

Dabei gilt es, Algorithmen nicht nur als Geschäfts-, sondern als Teil eines Gesellschaftsmodells zu betrachten und aktiv an der Verwirklichung dieses Modells mitzuwirken. Dann lassen sich in der Gemeinschaft von Mensch und Maschine auch Algorithmen für das Wohl des Einzelnen und für die Gesellschaft zunutze machen.

Der digitale Marx

Nach seinem preisgekrönten Buch „Zur Kritik der digitalen Ökonomie“ widmet sich Timo Daum der Künstlichen Intelligenz und bettet sie in seine bereits bekannte Kritik am (digitalen) Kapitalismus ein. In seinem Buch „Die Künstliche Intelligenz des Kapitals“ entmystifiziert der Autor in einer stets klar und sehr gut nachvollziehbaren Beweisführung den KI-Begriff.

Was die menschliche Intelligenz überhaupt sei, was sie besonders auszeichne, sei gar nicht definiert und nur schwer modellierbar. Daher sei der Begriff der Künstlichen Intelligenz nichts weiter als ein „medienwirksamer Marketingbegriff“, der den Kern dieses Phänomens überhöhe: Im Grunde gehe es um das maschinelle Lernen, das in Software-Form mit programmierten Algorithmen riesige Datenmengen analysiere, Muster erstelle und daraus Schlussfolgerungen ziehe. Allein die Herleitung dieser Feststellung hilft der derzeitigen Gesellschaftsdebatte über neuartige Technologien, die allzu häufig auf falschen Annahmen beruht.

Für die immer datenhungriger werdende Wirtschaft komme die Algorithmen-Flut wie gerufen. Daum zufolge sind diese Algorithmen mittlerweile das zentrale Herrschafts- und Ausbeutungsinstrument. Dabei gehe es, wie der Autor mit Rückgriff auf die Marxsche These des sich stets wandelnden Kapitalismus feststellt, nicht mehr um Lohnarbeit, sondern um die Extraktion der Daten. Letztere werfe mehr Nutzen ab, sei es, weil sie mit Empfehlungs-Algorithmen arbeite, wie es die Techgiganten praktizierten, oder sei es dank der zunehmenden Automatisierung mit KI-Robotern.

Mulmiges Gefühl

Insgesamt gelingt dem Autor der nicht ganz einfache Balanceakt zwischen Wissensvermittlung und Plädoyer ausgezeichnet. Wenn Daum allerdings den Wunsch nach einem „Datenkommunismus“ äußert, so scheint das angesichts der von ihm selbst beschriebenen Marktmacht von Tech-Konzernen unrealistisch. Und obgleich das Buch als kritischer Appell gedacht ist, so hätte man sich doch an der einen oder anderen Stelle eine stärkere Würdigung der positiven Seiten von KI- und Roboter-Technologien gewünscht.

Daum ist recht sparsam, wenn es darum geht, die in Deutschland herrschende Skepsis gegenüber Technologien abzubauen, sodass die Leserinnen und Leser – im Vergleich zu anderen Werken zu dem Thema – eher mit einem mulmigen Gefühl über die Zukunft zurückbleiben.

Zoom in, Zoom out

Die ganz großen Linien des digitalen Wandels zeichnet Klaus Schwab, Gründer und Vorsitzender des Weltwirtschaftsforums, in seinem Werk „Die Zukunft der Vierten Industriellen Revolution“. Für diese Revolution, die gerade beginne, seien aus den drei vorherigen Lehren zu ziehen. Dabei gälte es vor allem, drei zentrale Herausforderungen zu bewältigen: eine gerechte Verteilung des Nutzens sicherzustellen, die Auswirkungen auf Sozial- und Ökosysteme zu beachten und eine menschenorientierte Entwicklung zu gewährleisten.

Hierbei zeigt Schwab richtigerweise einen Punkt auf, der in einer Debatte, die gespickt mit Buzzwords und gefährlichem Halbwissen ist, häufig zu kurz kommt: Um solchen Herausforderungen erfolgreich begegnen zu können, ist es zunächst einmal notwendig, sich einen Mindesteindruck über die Potenziale der Technologien zu verschaffen („Zoom in“) und zu verstehen und einzuordnen, welche systematischen Veränderungen sie zur Folge haben („Zoom out“).

Darauf aufbauend empfiehlt der Autor einen Multi-Stakeholder-Ansatz, der darauf zielt, alle relevanten Beteiligten aus Politik, Zivilgesellschaft und Privatwirtschaft mit einzubeziehen. Dieser Ansatz gründet auf Werten und orientiert sich am Menschen; er wird seit Langem vom Weltwirtschaftsforum propagiert und umgesetzt.

Dieser „Zoom in, Zoom out“-Strategie folgt auch die anschließende Darstellung Schwabs. Er klopft zwölf Technologiegruppen auf ihre Anwendungsmöglichkeiten und ihre Effekte auf wirtschaftliche und gesellschaftliche Prozesse ab.

Ganz vollständig ist die ­Liste nicht; darauf weist der Autor eigens hin. Doch ist positiv anzumerken, dass auch Technologiecluster wie Neurotechnologien oder Geoengineering behandelt werden, die sonst im Zuge des Hypes um KI oder Big Data eher vernachlässigt werden. Die Kehrseite der Medaille: Auch wenn am Ende jedes Kapitels die fünf zentralen Ideen zu diesen digitalen Technologien leserfreundlich aufbereitet werden, so sind die Abschnitte am Ende doch zu kurz, um sich wirklich ein abschließendes Bild von diesen Innovationen zu machen.

Den Wandel gestalten

Die Chancen und Gefahren der technologischen Umwälzungen nur zu erkennen, reicht aus Sicht des Autors nicht aus. Schwab richtet an Regierungen, Unternehmen und Individuen den Appell, sich mit diesen Veränderungen konstruktiv auseinanderzusetzen und gemeinsam nach Lösungen zu suchen, damit man sich in einer immer virtueller werdenden Welt nicht verliere. Es gelte, Verantwortung in Form einer „Systemführerschaft“ zu übernehmen. Das betreffe nicht nur neue Ansätze für Technologien, etwa mehr und strukturiertere Zusammenarbeit in Innovationsprozessen, sondern auch ihre politische Gestaltung und den Einsatz für Werte. Wie sich das in konkrete Strategien umsetzen lässt, das beschreibt Schwab allerdings nur knapp.

Insgesamt ist sein Buch vor allem für die deutsche Diskussion ein wichtiger Beitrag, da die Digitalisierungsdebatte hierzulande von einem deutlichen Mangel an strategischer Weitsicht geprägt ist. Schwab zeigt informativ und nachvollziehbar auf, welche Wirkungsmacht die Technologien in den kommenden Dekaden haben werden. Er mahnt alle Beteiligten eindringlich, diese digitale Zukunft wertebasiert zu gestalten. Die wichtigste Nachricht ist hierbei, dass es größtenteils in der Macht jedes Einzelnen liegt, die bevorstehenden Umwälzungen für sämtliche Lebensbereiche in die richtigen Bahnen zu lenken.

Digitales Wirrwarr

Eine werte- und gemeinwohlorientierte Einbettung der neuen Technologien, das wird in allen hier besprochenen Büchern deutlich, ist unabdingbar. Dass dies ein schwieriges Unterfangen sein wird, lässt sich allein daran ausmachen, dass die Autoren der drei Werke untereinander vermutlich selbst große Probleme hätten, sich in ihren Feinheiten auf gemeinsame Werte und Gestaltungsformen der digitalen Zukunft zu einigen.

Doch auch wenn zu Recht vor den negativen Auswüchsen der technologischen Entwicklungen gewarnt wird, so verlangen alle Autoren eines gleichermaßen: im digitalen Wirrwarr mündig zu handeln – und sich Maschinen und Algorithmen nicht einfach zu ergeben.

Kaan Sahin ist Research Fellow für Technologie und Außenpolitik bei der DGAP.

Timo Daum: Die Künstliche Intelligenz des Kapitals. Hamburg: Nautilus Flugschrift 2019. 192 S., 16,00 Euro

Jörg Dräger und Ralph Müller-Eiselt: Wir und die intelligenten Maschinen. Wie Algorithmen unser Leben bestimmen und wir sie für uns nutzen können. München: DVA 2019. 272 Seiten, 20,00 Euro

Klaus Schwab: Die Zukunft der Vierten Industriellen Revolution. Wie wir den digitalen Wandel gemeinsam gestalten. München: DVA 2019. 400 Seiten, 26,00 Euro