Falsches Lächeln

Faszinierend ist das schon und auch ein wenig gruselig: Die chinesische App Zao lässt einen in wenigen Sekunden zum Filmstar werden. Ein Selfie genügt, und schon stülpt der Algorithmus das eigene Gesicht über das eines anderen Menschen, zum Beispiel über das von Schauspieler Leonardo DiCaprio in einer Szene des Blockbusters "Titanic".

Die Technologie hinter Zao ist auch als Deep Fake bekannt - eine Wortschöpfung aus "Fälschung" und "Deep Learning", also der Fähigkeit Künstlicher Intelligenz, technische Aufgaben selbstlernend zu perfektionieren. Bislang ist die werbefinanzierte Gratis-Anwendung nur in China erhältlich. Dort hat sie aber bereits innerhalb kürzester Zeit einen Hype ausgelöst. Vergangenes Wochenende wurde sie zur am häufigsten heruntergeladenen Smartphone-App des Landes. Social-Media-Kanäle wie Weibo und WeChat wurden für kurze Zeit von Zao-Videos geradezu überflutet.

Noch ist der Betrug sofort zu erkennen

Zao sei die bislang beste Deep Fake-KI-App auf dem Markt, ließen Experten wissen. Allerdings erkennt man den Betrug in der Regel sofort. Die Gesichter wirken maskenhaft und verschwommen. Außerdem ist der Gesichtstausch-Algorithmus derzeit noch auf einige wenige Filmszenen in der App-Library optimiert. Man kann sein Gesicht also noch nicht per Smartphone jeder beliebigen Person "überziehen". Noch nicht.

Professionelle Studios haben mit gefälschten Politikerreden bereits bewiesen, wozu die Technologie eines Tages in der Lage sein wird. Die Möglichkeiten des Missbrauchs sind beunruhigend: Fälle von Wahlmanipulation oder Erpressung, etwa mit gefälschter Pornographie, könnten sprunghaft ansteigen und auch allerhand Fake-News in der Masse außer Kontrolle geraten. Mit Deep-Fake-Videos hätten wir ein "komplett neues Level an Desinformation" erreicht, warnt sogar Facebook-Chef Mark Zuckerberg.

Selbst im technologiefreundlichen China sind die User der Deep Fake-Algorithmen inzwischen beunruhigt. Nachdem Journalisten einiger Tech-Zeitschriften die Nutzungsbedingungen von Zao studiert hatten, fiel ihnen auf, wie lax dort mit privaten Daten umgegangen wird. Ihre Beobachtungen wurden nicht zensiert und verbreiteten sich schnell. Die Entwicklerfirma Momo, die an der Nasdaq gelistet ist und mit Tantan bereits eine der beliebtesten Dating-Apps des Landes besitzt, ließ sich dort sämtliche Rechte an den hochgeladenen Fotos zusichern. Sie durfte die Fälschungen sogar an Dritte weitergeben, ohne die User, die sie hochgeladen haben, zu fragen.

Zurückrudern unter öffentlichem Druck

Innerhalb weniger Stunden fluteten Nutzer die Kommentarspalte des App-Stores mit wütenden Beiträgen. "Nehmt die App aus dem Netz, bevor sie unserer Gesellschaft schadet" schrieb einer. Und noch bevor sich die Behörden mit dem Datenschutz-Risiko beschäftigen konnten, ruderte die Firma unter dem öffentlichen Druck von selbst zurück: Die Nutzungsbedingungen wurden geändert. Diejenigen, die ihre Gesichter bereitstellen, müssen nun zustimmen, wenn ihr manipulierter Film oder ihr Bild weiter verwendet werden darf.  

Bisher war in China die Lust an neuer Technik viel dominierender als die Sorge um den Datenschutz. Das ändert sich nun langsam. Noch geht es dabei jedoch weniger um den "gläsernen Bürger", sondern vor allem um die Sorge um das eigene Geld beziehungsweise um den Zugang zum eigenen Smartphone per Gesichtserkennung: In keinem anderen Land ist Gesichtserkennung so fortgeschritten wie in China mit seinen 800 Millionen Internetnutzern und einer Smartphone-Dichte von 1,4 Milliarden. Mit dem eigenen Gesicht Geld abzuheben oder online Rechnungen zu bezahlen ist für viele Menschen bereits Alltag. Das Risiko eines Identitätsdiebstahls, das Apps wie Zao in einem automatisierten Umfeld wie diesem darstellen, haben viele Nutzer instinktiv erkannt. Bei aller Offenheit für neue Technologien hört hier der Spaß für viele auf.

Und die User regen sich nicht zum erstem Mal auf: Vergangenes Jahr geriet zum Beispiel Robin Li, der Gründer der bekanntesten chinesischen Suchmaschine Baidu in die Kritik, nachdem er in einem Interview erklärt hatte, die Chinesen würden ihre Privatsphäre gerne zugunsten von mehr Bequemlichkeit und Effizienz hintanstellen. Tausende Bürger widersprachen ihm, nannten ihn schamlos und forderten ihn in Sozialen Netzwerken auf, nicht in ihrem Namen zu sprechen. Recht hatte Robin Li mit seiner Einschätzung bislang dennoch meistens. Den Usern wird allerdings auch die endlose Werbung zu viel. Die personalisierten Push-Nachrichten auf dem Smartphone nerven und verraten Dritten zu viel über das eigene Konsumverhalten, finden immer mehr Menschen.  

Ärger über immer mehr Online-Betrug

Hinzu kommen zahlreiche Fälle von Online-Betrügereien, die die Behörden nur schwer in den Griff bekommen. Die User sind sauer darüber und machen das in den Sozialen Medien immer deutlicher. Auch unter diesem Druck ist das bereits im Sommer 2017 in Kraft getretene chinesische Cybersicherheitsgesetz entstanden. Es soll Unternehmen und Netzwerkbetreiber verpflichten, die Daten ihrer Nutzer zu schützen, rechtsverletzende Inhalte zu löschen, die Beweise zu sichern und gegebenenfalls an die Behörden weiterzugeben. Ein massives Selbstüberwachungssystem, das in der Praxis schon gut funktioniert. Das Gesetz hat mit 79 Artikeln nur zwanzig weniger als das Europäische Datenschutzgesetz, ist allerdings viel schwammiger - vor allem wenn es darum geht, ob und wie der Staat auf die Daten zugreifen kann.

Der Druck der neuen Datenschutzbewegung wird das Gesetz verfeinern und die Firmen stellen sich lieber schon gleich darauf ein: Alipay, der größte Dienstleister im Bereich des Mobilen Bezahlens, hat beispielsweise umgehend versichert, dass man mit der Zao-App nicht die eigene Gesichtserkennung überlisten kann, damit sich die Kunden nicht unnötig sorgen. WeChat hat Videos, die mit Zao erstellt wurden, sogar gleich mit einem Warnhinweis blockiert.

Wachsendes Gespür für Datenschutz

Die Regierung möchte einerseits schon wissen, was ihre Bürger so treiben. Andererseits machen sie mit Firmen gemeinsame Sache, indem sie ihnen ermöglichen, die Daten zur Weiterentwicklung der Künstlichen Intelligenz oder von E-Commerce-Plattformen zu nutzen. Denn sie sollen China technisch und wirtschaftlich zur internationalen Führung verhelfen. Eine Weltmacht, die in diesen Technologien nicht fortschrittlich ist, ist heute nicht mehr denkbar. Und so ringen sie nun auch in China miteinander: die Neugier auf Fortschritt und die Sorge um Datenschutz. Wobei das Gewicht in China weiterhin noch viel stärker auf der Neugier liegt. Aber immerhin: Die Sorge nimmt zu. Vor allem deshalb wird das Datenschutzgesetz derzeit ergänzt. Es soll vor allem biometrische Nutzerdaten innerhalb von KI-Anwendungen besser schützen. Inwiefern es allerdings den Staat mit in die Verantwortung zieht, seinen Zugang einschränkt oder in der Praxis haftbar macht, ist noch unklar.

Sicher ist hingegen: Viele neue Technologien in China werden weiterhin zunächst mit großer Begeisterung getestet. Das Gespür für Datenschutz folgt dieser Begeisterung erst mit einigem Abstand. Dass es dabei auch um Daten geht, die die Regierung gerne nutzen möchte, wird sich nicht verhindern lassen. Dass es kontraproduktiv ist, die Datenschutzdebatte von der Zensur komplett unterdrücken zu lassen, ist auch der Regierung inzwischen klar. Das war schon beim Umweltschutz so. Wenn ein Großteil der Menschen glaubt, das Maß ist voll, muss auch die Regierung in China handeln - obwohl sie nicht demokratisch gewählt ist.

Unser Kolumnist Frank Sieren lebt seit über zwanzig Jahren in Peking.