Digitaler Big Brother

Wie Orwell und Black Mirror – so wird Chinas gesellschaftliches Bonitätssystem häufig beschrieben. Die Realität ist bürokratischer und komplexer, aber nicht unbedingt weniger bedenklich. Vieles von dem, was in China derzeit entsteht, knüpft an globale Trends an. Gerade deshalb lohnt es sich, genauer hinzuschauen. Nur dann können wir an den richtigen Stellen ein Gegenmodell entwickeln, bevor sich das chinesische Großprojekt zum internationalen Vorreiter entwickelt.

Seit 2014 arbeitet China intensiv am Aufbau eines gesellschaftlichen Bonitätssystems. Der Plan: Das Verhalten von Bürgern wie auch von Unternehmen soll umfassend dokumentiert und bewertet werden. Vieles wird, so die Vision der Regierung, in Zukunft per Fernüberwachung, mithilfe von Big Data und automatisiert stattfinden. Wer die internationale Debatte zum Thema verfolgt, weiß: Chinas Pläne sind für uns der Inbegriff der Dystopie. Nicht selten werden sie verglichen mit Szenarien aus George Orwells 1984 und der düsteren britischen Science-Fiction-Serie „Black Mirror“.

Die Angst vor einem neuen Überwachungsstaat ist nicht unberechtigt: Wenn Künstliche Intelligenz in den Dienst eines autoritären Regimes gestellt wird, entsteht im schlimmsten Fall ein digitaler Big Brother, der fast alles über den Menschen weiß, der mit intransparenten Algorithmen eine Punktzahl errechnet und die schlecht Bewerteten gnadenlos aus der Gesellschaft ausstößt.

Fragt man Chinesen zu diesem Thema, stößt man überraschenderweise jedoch häufig auf eine gegenteilige Einschätzung: Viele finden es gut, dass „den Unehrlichen“ jetzt endlich Schranken gesetzt würden, denn nach offizieller chinesischer Darstellung soll das Sozialkreditsystem“ dabei helfen, Gesetzesverstöße oder betrügerisches Verhalten zu entdecken und zu sanktionieren. In einer Umfrage der China-Expertin Genia Kostka von der Freien Universität Berlin befürworten im vergangenen Jahr circa 80 Prozent der Chinesen das Projekt. Andere haben von dem System noch nie gehört – und das, obwohl die Regierung fast all ihre Pläne öffentlich zur Verfügung stellt. Dieser Widerspruch in der Wahrnehmung wird in westlichen Ländern häufig darauf zurückgeführt, dass Chinesen eben kein Konzept von Privatsphäre hätten oder aber systematisch fehlinformiert seien.

Diese Erklärung mag in Teilen stimmen, ist aber unbefriedigend. Um die Diskrepanz besser zu verstehen, ist es nötig, das Bonitätssystem genauer unter die Lupe zu nehmen. Was also passiert in China? Müssen wir uns vor einem digitalen Big Brother fürchten? Und: Wie betrifft uns das System eigentlich genau?

Viele Systeme, nicht eines

Das Wichtigste: Das eine gesellschaftliche Bonitätssystem gibt es nicht und wird es auch in Zukunft erst einmal nicht geben. Diese Erkenntnis steckt bereits im chinesischen Begriff: Shehui xinyong tixi wird häufig wörtlich als „Sozialkreditsystem“ übersetzt. Der Begriff „tixi“ (System) bezieht sich jedoch explizit nicht auf ein in sich geschlossenes Programm, sondern auf einen institutionellen und regulatorischen Rahmen, der weitere Untersysteme und -projekte umfasst.

Das gesellschaftliche Bonitätssystem muss also in erster Linie als ein politischer Rahmen verstanden werden. Allein auf zentraler Ebene sind über 40 einzelne Ministerien und Abteilungen involviert, die unterschiedliche Interessen verfolgen und an diversen Mechanismen und Maßnahmen arbeiten. Dies beinhaltet den Auf- und Ausbau von schwarzen Listen für Gesetzesverstöße, separate Bonitätssysteme für einzelne Branchen und Berufsgruppen, finanzielle Bonitätsauskunftsdienste von Dritt­anbietern, ähnlich der deutschen Schufa, sowie tatsächliche Bürgerbewertungspiloten, die bisher jedoch nur lokal an einem kleinen Teil der Bevölkerung getestet werden. Neben den Plänen und Piloten der Regierung beteiligen sich außerdem diverse privatwirtschaftliche Unternehmen, deren Rolle in den Plänen der Regierung nicht genau definiert ist. Hierzu später mehr.

Häufig liest man, das System solle bis 2020 fertig sein. Zwar hat die Regierung in ihrem 2014 veröffentlichten Hauptplan einige Meilensteine bis 2020 definiert, diese sind jedoch größtenteils entweder sehr vage formuliert oder haben wenig mit einer digitalen Dystopie zu tun.

Dort stehen zum Beispiel Ziele wie „Unternehmen dazu anleiten, die Selbstdisziplin bei der Preisfestlegung zu stärken“ oder „den Aufbau einer Kultur der Ehrlichkeit fördern“. Fest steht: Eine einheitliche Bürgerbewertung auf nationaler Ebene, die für alle Chinesen gleichermaßen gilt und zentral gelenkt ist, wird es bis 2020 nicht geben. Stattdessen können wir dann mit einem weiteren Regierungsdokument rechnen, das neue Ziele ­definiert.

In China selbst ist die Berichterstattung zum gesellschaftlichen Bonitätssystem überwiegend positiv, was angesichts der starken staatlichen Kontrolle über fast sämtliche Medien wenig überrascht. Die chinesische Regierung will ihrer Bevölkerung das System schmackhaft ­machen. Hier lohnt es sich, auf die offizielle Begründung zu schauen. Denn es ist zu erwarten, dass China auch versuchen wird, sein System international zu vermarkten und dabei ähnliche Argumente anführen könnte.

Ursprünglich inspiriert ist die Idee eines Bonitätssystems zumindest teilweise von Auskunftsdiensten wie der Schufa in Deutschland und FICO in den USA. Der Grundgedanke: Es herrscht zu wenig Vertrauen auf dem chinesischen Markt, weil über die Kreditwürdigkeit von Marktteilnehmern kaum etwas bekannt ist. Dementsprechend waren die ersten Pilotprojekte, die China Anfang der 2000er Jahre anstieß, konzentriert auf die Landbevölkerung und Mikrounternehmen, also genau jene Gruppen, über die besonders wenige finanzielle Transaktionsdaten vorlagen.

Seitdem wurde die Begründung für die Notwendigkeit des gesellschaftlichen Bonitätssystems bedeutend erweitert. In chinesischen Medien wird das System als Allheilmittel für sämtliche „Vertrauensprobleme“ in China angepriesen. Es soll zum Beispiel verhindern, dass Firmen bewusst Geldstrafen in Kauf nehmen, weil es für sie günstiger ist, diese zu zahlen als gesetzeskonform zu handeln. Hier argumentiert die chinesische Regierung, dass man ohne das System Verstöße gegen Umweltauflagen, Arbeits- und Markenrecht oder aber Lebensmittelskandale nicht in den Griff bekommen könne. Das kommt in der Bevölkerung natürlich erst einmal gut an.

Das wichtigste Ziel sämtlicher unter dem Etikett „gesellschaftliches Bonitätssystem“ laufenden Initiativen ist die effizientere Durchsetzung von Regierungsvorgaben und -vorschriften. Der Weg dahin ist die stärkere Selbstregulierung auf Seiten der Bürger und Unternehmen. Anreize und Strafen sollen sie dazu bewegen, ihr Verhalten eigenständig zu kontrollieren und anzupassen.

Die Anstrengungen sind in erster Linie noch wirtschaftlich motiviert. Das System hat jedoch durchaus eine politische Dimension, denn die Instrumente verschaffen der Regierung auch neue Möglichkeiten, politische Abweichler abzustrafen. Aus chinesischer Sicht steht die Nutzung des Systems für politische Zwecke nicht im Widerspruch zur Durchsetzung von Umweltstandards oder Arbeitsrecht. Schließlich handelt es sich ja in allen Fällen um geltendes Recht – auch die „Gefährdung der nationalen Sicherheit“ oder „der nationalen Einheit“ sind in China strafbar.

Bürokratie und Big Data

Schnell vermischt sich die westliche Berichterstattung zu Chinas gesellschaftlichem Bonitätssystem mit allgemeinem Unbehagen gegenüber den neuen Möglichkeiten, die Künstliche Intelligenz (KI) und Big Data eröffnen. Regierungsdokumente bezeugen, dass Peking der vermeintlichen Objektivität fortschrittlicher Technologie wie KI und komplexen Algorithmen große Bedeutung beimisst. Gerade in den Bereichen, in denen Chinas große IT-Unternehmen mitmischen, wird der Einsatz von KI bereits fleißig getestet.

Andererseits fallen einige der derzeit landesweit umgesetzten Maßnahmen, wie die Einführung einer „einheitlichen gesellschaftlichen ­Bonitätsnummer“ für alle Bürger und Unternehmen eher in die Kategorie der Grundlagenarbeit. Diese Nummer ist zunächst einmal Voraussetzung für die behördenübergreifende Zusammenführung von Daten, denn bis vor Kurzem haben sich chinesische Ministerien nur selten ausgetauscht.

Schwarze Listen als Vorreiter

Landesweit gibt es in China noch keine Bürgerbewertungen. Stattdessen experimentiert die Regierung mit diversen schwarzen Listen. Darauf landen zum Beispiel Chinesen, die einen Gerichtsbescheid mit Zahlungsaufforderung ignorieren. Die Idee erinnert an einen Schufa-Eintrag, die Folgen sind jedoch schwerwiegender: Wer auf der Liste steht, darf keine Flugtickets buchen, keine Hochgeschwindigkeitszüge nutzen und nicht mehr in Hotels der gehobenen Klasse übernachten. Das System nimmt sogar ganze Familien in Sippenhaft: Kinder, deren Eltern auf der schwarzen Liste stehen, dürfen zum Beispiel keine Privatschulen mehr besuchen. Bedenklich ist auch die Praxis, die Namen und Fotos von Individuen auf schwarzen Listen öffentlich bekanntzugeben.

Auch für Unternehmen werden schwarze Listen geführt. Darauf landet, wer zum Beispiel drei Jahre in Folge seinen Jahresbericht nicht abliefert. Ebenso geahndet werden zwei Markenrechtsverletzungen binnen fünf Jahren, der Katalog an Vergehen wird beständig ausgeweitet. Sanktionen betreffen sowohl die Firma als auch den Geschäftsführer.

Neben den schwarzen Listen arbeiten außerdem diverse Behörden an internen Ratings für Unternehmen. Wer gut bewertet ist, profitiert von finanziellen Vorteilen und vereinfachten Verfahren. Schlecht bewertete Unternehmen werden mit zusätzlichen Kontrollen, Einschränkungen für die Geschäftsführung und weiteren Nachteilen bestraft.

Auch wenn die meisten Chinesen noch nicht bewertet werden, gibt es Dutzende Städte, in denen Bürgern bereits Punktzahlen zugewiesen werden, die ihre „Vertrauenswürdigkeit“ messen. Provinzregierungen und Pilotstädte müssen sich grob an den von der Zentralregierung vorgegebenen Rahmen halten, können ihre Tests aber durchaus flexibel gestalten. Dementsprechend unterschiedlich sind die Pilotprojekte für die Bewertung der Bürger denn auch gestaltet.

Öffentliche Pilotprojekte

In der Stadt Rongcheng zum Beispiel existieren sehr genau ausformulierte Kataloge mit Kriterien für Pluspunkte oder Punktabzug. Bei der Überwachung setzt die Kommune in der Provinz Shandong bisher eher auf traditionelle Methoden als auf Künstliche Intelligenz: Die Bürger sollen sich gegenseitig überwachen und „Fehlverhalten“ melden.

Neben diesen offiziellen Regierungspiloten gibt es Testprojekte von Privatunternehmen. Das bekannteste Beispiel hierfür ist die App Sesame Credit, die einer Tochterfirma des chinesischen IT-Giganten Alibaba gehört. Die App bewertet ihre Nutzer mit zwischen 350 und 950 Punkten, basierend auf einer Reihe von Kriterien, darunter Online-Käufe, demografische Angaben, die pünktliche Bezahlung von Rechnungen sowie das soziale Netzwerk.

Auch die chinesischen Tech-Riesen – neben Alibaba auch der Internetkonzern Tencent – tragen dazu bei, den digitalen Big Brother Wirklichkeit werden zu lassen. Sie wissen, wo ihre Kunden sich wann aufgehalten haben und können Rückschlüsse ziehen, wen sie getroffen haben. Durch die in China weitverbreitete Nutzung von mobiler Zahlung können sie außerdem ein detailliertes Profil des Konsumverhaltens eines jeden Nutzers erstellen. Der genaue Algorithmus ist, wenig überraschend, Betriebsgeheimnis.

Diese Projekte der privaten Konzerne sind jedoch selbst in China umstritten. So war sich Alibaba 2015 noch sicher, dass es schnell eine Lizenz erhalten würde. 2017 verweigerte die chinesische Zentralbank diese unter Verweis auf mögliche Interessenkonflikte. Das Projekt besteht weiter, eine schlechte Punktzahl bringt jedoch, zumindest offiziell, derzeit keinerlei Nachteile.

Fluchen bringt schlechte Werte

Konkrete Folgen für Kunden haben die großen Datensammlungen privater IT-Unternehmen vor allem da, wo Lokalregierungen mit Firmen kooperieren. In der Stadt Suzhou in der Provinz Jiangsu zum Beispiel schlägt sich die Intransparenz der kommerziellen Piloten bereits auf Regierungsprojekte nieder: Während in Rongcheng die zu Punktabzug führenden „Vergehen“ relativ klar benannt werden, sind bei den öffentlich-privaten Kooperationen in Suzhou die Bewertungskriterien teils sehr vage gehalten.

So heißt es zum Beispiel: „Fluchen in Computerspielen oder eine nicht eingehaltene Online-Bestellung eines Taxis könnte Ihren Score beeinflussen.“ Wenn sich diese Art der Kooperation im ganzen Land durchsetzt, ist die furchterregende Vision einer ­vollständigen Überwachung nicht mehr fern.

Noch ist das Großprojekt eines gesellschaftlichen Bonitätssystems in China nur in kleinen Teilen umgesetzt und unfertig. Es ist jedoch falsch zu glauben, dass die Dystopie eines totalen Überwachungsstaats nur in literarischen und filmischen Vorbildern – oder eben eines Tages in der Volksrepublik – real wird. Denn zum einen werden auch ausländische Bürger und Unternehmen in China in das System integriert. Dass schwarze Listen ebenfalls für Ausländer gelten, zeigt die chinesische Regierung offen in einem von vielen Cartoons, mit denen sie das System bewirbt. Darauf ist zu sehen, wie ein Japaner, der ­China verlassen hat, ohne seine Schulden zu begleichen, direkt nach seiner Wiedereinreise aufgegriffen wird.

Bei Bürgerbewertungen und der Aufzeichnung von Informationen über einen längeren Zeitraum gestaltet sich die Lage derzeit noch etwas schwieriger, denn Ausländer erhalten bisher keine lebenslang gültige „einheitliche gesellschaftliche Bonitätsnummer“, die das System zur Zuordnung der Daten braucht. Doch eines Tages könnten dazu auch Techniken der Gesichtserkennung dienen oder die Fingerabdrücke, die inzwischen bei jeder Einreise nach China genommen werden.

Politische Zensur

Ausländische Unternehmen mit Sitz in China werden wie jedes chinesische Unternehmen in das System integriert. Dies kann auch dazu genutzt werden, politisch motivierte Gesetze weltweit durchzusetzen. So drohte Chinas Regierung Anfang des Jahres ausländischen Airlines mit Konsequenzen im Rahmen des Bonitätssystems, sollten sie sich weigern, „Taiwan“ fortan als „Taiwan, China“ in ihrem Angebot aufzulisten. Deutschen Stiftungen in China wurde ebenfalls angedroht, sie müssten sich dem gesellschaftlichen Bonitätssystem unterwerfen. Dies scheint nun abgewendet. Bereits jetzt hat der chinesische Staat auch andere Mittel, um politische Vorgaben durchzusetzen. Was also ist der Vorteil eines gesellschaftlichen Bonitätssystems?

In erster Linie schafft es Spielraum für den Parteistaat, subtil und kontinuierlich Druck auszuüben. Man muss ausländischen Firmen nicht mehr mit dem Ausschluss vom chinesischen Markt oder gravierenden Strafen drohen, sondern hat ein flexibleres Instrument zur Hand. Das ist besonders dann von Vorteil, wenn nicht nur bei Chinas traditionell sensiblen Themen wie Taiwan oder Tibet, sondern auch im Kleineren beeinflusst werden soll, ob und wie ausländische Firmen und NGOs sich ­äußern dürfen.

Internationaler Exportschlager?

Die chinesische Regierung ist bereits seit einigen Jahren bemüht, ihr politisches System vor allem in Entwicklungsländern als Alternative zu westlichen Demokratien und Wirtschaftsordnungen zu bewerben. Schon seit Jahren wirbt die Volksrepublik unter dem Label „Internetsouveränität“ für ihr Zensursystem. Für viele, besonders autoritär regierte Länder ist chinesische Hilfe bei der Unterdrückung unliebsamer Nachrichten attraktiv. Da liegt es nahe zu vermuten, dass auch Teile des gesellschaftlichen Bonitätssystems auf diesem Weg in andere Länder exportiert werden könnten.

Bisher scheint dies nicht zu geschehen. Der Grund liegt vor allem darin, dass das System in China selbst noch nicht weit genug fortgeschritten ist, um es im Ausland zu verkaufen. Es steht jedoch außer Frage, dass ein solches System, wenn es sich als erfolgreich herausstellt, auch für andere autokratische Länder interessant wäre. Zumindest für chinesische Überwachungstechnologie, die unabhängig von dem gesellschaftlichen Bonitätssystem entwickelt wird, gibt es bereits einen Markt: Gesichtserkennungskameras chinesischer Firmen sind als Teil so genannter Smart Cities in Ländern wie Russland, Kasachstan und der Ukraine schon verbreitet.

Teil eines globalen Trends

Was China derzeit aufbaut, kann und sollte als Extrem benannt werden. Gleichzeitig gilt es zu verstehen, dass das Großprojekt nicht in einem Vakuum entsteht, sondern in vielerlei Hinsicht einem globalen Trend folgt. Aussagen, dass ein System wie in China in demokratischen Ländern niemals entstehen könnte, erscheinen beim Blick auf die Details wenig zutreffend, denn die Verwendung intransparenter, automatisierter Bewertungen hat auch in westlichen Ländern teils gravierende Auswirkungen für jene, denen der allmächtige Algorithmus ein schlechtes Zeugnis ausstellt. In den USA geriet ein Algorithmus namens COMPAS in die Kritik, mit dem die Rückfallwahrscheinlichkeit von Straftätern vorhergesagt werden soll. Das Problem: programmierter Rassismus. Verwendet werden dieses und ähnliche Programme trotzdem noch.

Der Glaube, dass Algorithmen objektiv, fair und somit unantastbar sind, ist nicht nur in China verbreitet. Zu Recht hat deshalb die gemeinnützige Organisation Algorithm Watch die Initiative OpenSCHUFA ­gestartet, die das Bewertungsverfahren der Schufa rekonstruieren und Aufmerksamkeit auf das Problem intransparenter Algorithmen lenken soll.

Attraktive Einzelteile des Systems

Eine differenzierte Debatte über das gesellschaftliche Bonitätssystem, die Chinas Ambitionen weder übertreibt noch verharmlost und die ins Detail geht, ist dringend notwendig.

Möglicherweise wird ein in sich geschlossenes, einheitliches Bürgerbewertungssystem in ein paar Jahren zum Exportschlager werden. Wahrscheinlicher ist es, dass China andere Länder oder die Privatwirtschaft inspiriert, Einzelkomponenten des Systems für sich nutzbar zu machen. Dies würde wiederum Chinas Behörden helfen, das System zu rechtfertigen und weiter auszubauen. Deshalb ist es unverzichtbar, gerade die kleineren Entwicklungen mit Blick auf das gesellschaftliche Bonitätssystem weiterzuverfolgen.

Wenn China sich entscheidet, mit dem Äquivalent eines Schufa-Eintrags Betroffene durch Bloßstellen und Kritisieren zu bestrafen oder wenn es seine Bürger zu mehr gegenseitiger Überwachung anhält, dann ist das verstörend, aber von Europa aus schwer zu verhindern. Auf die Verwertung großer Datenmengen oder die algorithmische Bewertung von chinesischen Bürgern können europäische Akteure nicht direkt Einfluss nehmen. Dringend notwendig ist es aber, im eigenen Einfluss­bereich bessere Standards zu setzen und zu versuchen, diese durch Austausch und Dialog zu verbreiten.

Auch vielen Chinesen ist nicht völlig egal, was in Punkto Überwachung ihrer Privatsphäre durch den Aufbau des gesellschaftlichen Bonitätssystems passiert. Aber diejenigen, die entscheidende Bestandteile des Systems kritisch sehen, haben keine Möglichkeit, sich zu vernetzen. Der europäische Vorteil ist hier die funktionierende Zivilgesellschaft, die sich für die Belange von Bürgerinnen und Bürgern sowie für mehr Transparenz einsetzen kann.

Diesen Vorteil und diese Verantwortung sollten europäische Akteure nutzen, um weiterhin an den richtigen Stellen Standards für den ethischen und transparenten Umgang mit Daten und Künstlicher Intelligenz zu schaffen. Nur so können sie dazu beitragen zu verhindern, dass die Überwachungsszenarien, die sich in ­China mit Macht und Akribie andeuten, eines Tages auch weltweit salonfähig werden.

Dr. Mareike Ohlberg ist wissenschaftliche Mitarbeiterin des ­Mercator Institute for China Studies (MERICS) in Berlin.