die heutige Ausgabe steht ganz im Zeichen der KI. In unserer ersten Analyse geht es um Pekings Kampf gegen Deepfakes, also Video-und Bildfälschungen, mit deren Hilfe auch in China noch raffinierter und glaubwürdiger Falschnachrichten verbreitet werden können. Das ist natürlich überhaupt nicht im Sinne der Zensur- und Regulierungsbehörden, die aus Angst vor Macht- und Kontrollverlust seit jeher gegen Inhalte im Internet vorgehen, die aus Sicht der KP-Führung “nicht im Einklang mit den sozialistischen Grundwerten der Partei” stehen.
Zugleich soll das Land bei der Entwicklung von KI-Technologien aber nicht hinten anstehen. Und zu viel Kontrolle könnte die KI-Entwicklung hemmen. Mehr denn anderswo ist ein Wettrüsten zwischen Anbietern und Regulatoren in China denn auch längst im Gange, beobachtet Fabian Peltsch.
Zugutekommt der KI-Entwicklung in der Volksrepublik, dass dort so viele Daten von jeder und jedem einzelnen gesammelt werden können wie in kaum einem anderen Land. Denn Gesichtserkennungskameras sind in chinesischen Städten allgegenwärtig. Dahinter steckt allerdings kein Mensch mehr, sondern Künstliche Intelligenz, der kein subversives Verhalten mehr durchrutscht. Welche Schlussfolgerungen sie aus den Bildern bereits ziehen kann, beschreibt Marcel Grzanna in unserer heutigen zweiten Analyse.
Viele Erkenntnisse beim Lesen!
Im Mai meldete die Polizei der Stadt Baotou in der inneren Mongolei, dass ein Mann mithilfe von Deepfake-Technologie um umgerechnet 622.000 US-Dollar betrogen wurde. Ein Hacker hatte ihn mit einem täuschend echten KI-Klon eines Freundes hinters Licht geführt, der ihm in einem Video-Call erklärte, dringend Geld zu benötigen. Dabei handelte es sich nicht um das naive Opfer eines Enkel-Tricks. Der betrogene Mann ist leitender Angestellter einer Tech-Firma aus Fuzhou. Trotzdem hat ihn die lebensechte Körpersprache und Stimme seines falschen Freundes so sehr getäuscht, dass er umgehend den Geldbeutel zückte.
Lippensynchrone Bild- und Videofälschungen mit künstlicher Intelligenz, sogenannte “Deepfakes” können dank wachsender Rechenleistung und Speicherkapazitäten immer müheloser umgesetzt werden. Die Ergebnisse, die mit preiswerter Software erstellt werden können, sind für den Laien kaum noch vom Original zu unterscheiden – das beweisen gefälschte Reden von Politikern wie Putin oder Trump. Die Technik wird zum Beispiel eingesetzt, um im Internet Clickbait zu generieren, etwa indem berühmte Schauspieler in Filme versetzt werden, in denen sie niemals mitgespielt haben.
Deepfake-Technologie birgt große Gefahren, etwa wenn gefälschte Politiker-Reden für bare Münze genommen oder gezielt in politischen Verleumdungskampagnen eingesetzt werden. Schon jetzt wird der digitale Identitätsklau massiv für pornografische Videos und zunehmend auch für Erpressungen eingesetzt. Weltweit haben die Fälle von Deepfake-Betrug in den vergangenen drei Jahren massiv zugenommen, wie das auf KI-Sicherheit spezialisierte Unternehmen Sumsub errechnet hat. In Australien (5,3 %), Argentinien (5,1 %) und China (4,9 %) war der Anteil von Deepfakes an Betrugsverbrechen in den Jahren 2022 und 2023 demnach besonders hoch.
Obwohl der betrogene Tech-Executive in der Inneren Mongolei den Großteil seines Geldes durch die Hilfe der Polizei zurückbekam, löste der Fall in China hitzige Diskussionen über Online-Sicherheit aus. Die Internet Society of China gab eine Warnung heraus, in der sie die Öffentlichkeit zu erhöhter Wachsamkeit aufruft. In China, dessen Medienwelt von professionellen Live-Streamern durchdrungen ist, ist die Angst vor Online-Betrug realer als in Deutschland. So kam es in den vergangenen Monaten zum Beispiel immer häufiger vor, dass unbekannte Online-Influencer sich auf Video-Seiten wie Bilibili mit Faceswap-Technik als Celebrities ausgaben und Klicks und Geld generierten.
Peking bewertet Deepfake-Technik als hochriskant, nicht zuletzt da sie das Potenzial hat, die öffentliche Ordnung zu untergraben. Schon im Januar hatte Chinas Cyberspace-Verwaltung (CAC) eine Reihe von Regularien zur sogenannten “Technologie der Tiefensynthese” erlassen. Inhalte, die “die nationale Sicherheit und die nationalen Interessen gefährden und das nationale Image schädigen” sind laut den “Vorschriften für die Verwaltung von Internet-Informationsdiensten in der Tiefensynthese” von Vornherein verboten.
Von Anbietern harmloserer Inhalte verlangt die Behörde eine “auffällige Kennzeichnung” von KI-generierten Inhalten, da sie sonst “in der Öffentlichkeit Verwirrung stiften oder zu einer falschen Identifizierung führen können”. Nutzer müssten authentische Medieninhalte sofort von Fälschungen unterscheiden können. Genannt werden etwa Wasserzeichen. Zuwiderhandlung der Kennzeichnung steht unter Strafe. Alle Produzenten von Deepfakes und Nutzer von Deepfake-Dienstleistungen wie Faceswap-Apps müssen sich gemäß der neuen Regeln zudem mit echtem Namen registrieren. Ein Kalkül ist, dass bestimmte Deepfakes bei diesem Aufwand gar nicht erst entstehen. Chinas Cyberspace-Verwaltung (CAC) bekräftigte diesen Monat zudem, dass alle generativen KI-Dienste im Einklang mit den sozialistischen Grundwerten der Partei stehen müssen.
China ist eines der ersten Länder, das umfassende Regeln zum Umgang mit Deepfake-Technologie vorgelegt hat. Andere wie Taiwan, England und einige US-Staaten wie Florida gehen bereits gesetzlich gegen bestimmte Teilbereiche wie künstlich erstellte Pornos und gefälschte Politiker-Reden vor. Andernorts arbeitet man daran, bestehende Regelwerke an die neuen Gefahren anzupassen, zum Beispiel in Singapur, wo der Personal Data Protection Act (PDPA), der die Erhebung, Verwendung und Weitergabe personenbezogener Daten regelt, hinsichtlich Deepfake-Risiken erweitert wird.
Auch die Europäische Union will mit einem Regelwerk zur künstlichen Intelligenz, dem “AI Act”, Deepfakes eindämmen. Demnach soll eine Kennzeichnung betreffender Inhalte aber bis auf Weiteres auf freiwilliger Basis geschehen. Kritiker dieser Lösung, etwa SPD-Chefin Saskia Esken, finden, das sei das zu wenig, um echten Schaden abzuwehren.
Schnelles Handeln ist in jedem Fall angesagt. Mit immer größeren Bandbreiten können schon bald nicht mehr nur Personen, sondern ganze Szenarien so realistisch gefälscht werden, dass man sie nicht von tatsächlichen Ereignissen unterscheiden kann. Der KI-Experte Kai-Fu Lee schreibt in seinem jüngsten Buch, einem Zukunftsausblick ins Jahr 2041, dass Anti-Deepfake-Programme bald so normal sein werden wie Anti-Viren-Software.
Sowohl Facebook als auch Google haben bereits Preise für die beste Deep-Fake-Erkennungssoftware ausgelobt. Doch auch die Fälschungen dürften dabei immer besser werden. Ein Katz-und-Maus-Spiel mit unbekanntem Ausgang, glaubt Lee. Er sagt: Wir müssen uns an eine Welt gewöhnen, in der wir noch mehr als heute alles hinterfragen müssen, was uns im Netz serviert wird. Auch deshalb wird es ohne verbindliche Gesetze und entsprechende Strafen nicht gehen.
Die Texte der Table.Media-Serie “Der Globale Wettlauf um Künstliche Intelligenz” finden Sie hier.
Technologie zur Gesichtserkennung ist in China ein lukrativer Markt. Etwa 8.000 Firmen sind in den vergangenen zehn Jahren gegründet worden. Der Kuchen war bislang ausreichend groß genug, um alle Wettbewerber zu versorgen. Drei Millionen öffentliche Aufträge waren im gleichen Zeitraum ausgeschrieben. Die Nachfrage wird in naher Zukunft weiter steigen. Chinas Überwachungsnetz wird immer enger, der Kontrollwahn der Partei immer größer.
Die Covid-19-Pandemie hat Peking konsequent dazu genutzt, immer schärfere Maßnahmen mit Verweis auf gesundheitspolitische Dringlichkeit zu rechtfertigen. Gesichtserkennung zählt zu den zentralen Elementen der staatlichen chinesischen Überwachung. Mit Hilfe Künstlicher Intelligenz (KI) wird sie immer ausgeklügelter und präziser.
Wie raffiniert die Software inzwischen ist, die chinesische Behörden zur Überwachung einsetzen, macht die Technologie “one person, one file” deutlich. Sie ist eine Weiterentwicklung herkömmlicher Software-Systeme und ist in der Lage, Personen mit einem Minimum an biometrischen Daten zu identifizieren und sie in Echtzeit mit anderen Datensätzen zu verknüpfen. Selbst Masken über Mund und Nase reichen nicht mehr aus, um sich der Identifikation durch die Technik zu entziehen.
Aber auch sie ist nur eine Komponente eines technologischen Ökosystems, das der autokratischen Regierung in Peking dabei helfen soll, ihre autoritäre Politik langfristig durchzusetzen. Peking behauptet, die Überwachung sei für die Verbrechensbekämpfung von entscheidender Bedeutung. Menschenrechtsorganisationen wie Human Rights Watch behaupten dagegen, das Land baue einen Überwachungsstaat auf, der tief in die Privatsphäre der Bürger eindringe und beispielsweise ethnische Gruppen wie die Uiguren engmaschig überwachen soll.
Big Data ist der Schlüssel. Nirgendwo sonst auf der Welt fallen so große Mengen an Daten und Informationen über Bürger in die Hände einer Regierung wie in China. Menschen werden zu komplett gläsernen Akteuren, deren Verhalten nicht nur in gewissem Umfang vorhergesagt, sondern auch manipuliert werden kann.
Das erinnert an Science Fiction, ist aber schon verblüffend real. “Durch Vorhersagen darüber, wie Personen auf Anreize reagieren könnten, können Autokraten die KI-Technologie zur Verhaltensmanipulation einsetzen”, sagte David Yang von der Harvard Universität bei einer Podiumsdiskussion in Washington. Yang ist einer der Autoren der Studie AI-tocracy, die sich mit der Nutzung von KI durch autokratische Systeme beschäftigt.
Politischer Dissens, soziale Unruheherde oder die Entwicklung bürgerlicher Bewegungen sollen bereits im Frühstadium ermittelt und eliminiert werden. All das hilft einer Elite, ihr Machtmonopol über mehr als eine Milliarde Menschen zu verteidigen.
Beispiel: Proteste. Kamerasysteme der Firma Dahua Technology namens “Jinn” sind jetzt in der Lage, die Behörden zu alarmieren, wenn eine Person beim Entrollen eines Transparents entdeckt wird. Seit Mai ist die Software verfügbar. Und sie trifft einen Nerv, nachdem es im Vorjahr einem Mann gelungen war, ein Banner an einer Pekinger Autobahnbrücke zu befestigt, auf dem er das Ende der Diktatur gefordert hatte.
Die stete Optimierung der Überwachungssysteme ist das Resultat einer engen Zusammenarbeit zwischen Staat und Technologie-Unternehmen. Die Firmen versorgen die Behörden mit der nötigen Software, um ihre Kontrollkapazitäten auszuweiten. Im Gegenzug versorgt der Staat seine Zulieferer mit Datensätzen, zu denen sonst niemand Zugang bekommt.
“Das Unternehmen, das KI-Dienstleistungen für die Regierung erbringt, kann diese Daten nutzen, um neue Technologien zu entwickeln, wobei die Daten der Regierung als Input für Innovationen dienen”, sagt der Co-Autor der Harvard-Studie, Noam Yuchtman. Die Unternehmer wollen einen Staat nicht untergraben, der ihnen Zugang zu wertvollen Daten für ihre Innovationen verschafft. Beide Seiten profitieren davon.
Beunruhigend für jeden Demokraten sollte die Tatsache sein, dass chinesische KI-Technologien bereits ein Exportschlager sind. Die Hälfte der weltweiten Handelsgeschäfte mit KI-Technologie zur Gesichtserkennung werden mit Lieferungen aus China getätigt. “Chinas Export ist in hohem Maße auf schwache Demokratien oder starke Autokratien ausgerichtet. Das ist ein ganz anderes Muster als bei den traditionellen Grenztechnologien, bei denen demokratische Länder zu den Käufern dieser Technologien gehören”, sagt Yuchtman.
Die Texte der Table.Media-Serie “Der globale Wettlauf um Künstliche Intelligenz” finden Sie hier.
Der Fall des Menschenrechtsanwalts Lu Siwei könnte eine alarmierende Serie von chinesischer Einflussnahme auf die Justiz anderer Staaten fortsetzen. Lu war Ende Juli in Laos festgenommen worden. Aktivisten und Verwandte des Anwalts fürchten jetzt um seine illegale Auslieferung an die Behörden der Volksrepublik China.
“Wir sind sehr besorgt darüber, dass er ernsthaft Gefahr läuft, nach China zwangsrückgeführt zu werden, wo ihm mit hoher Wahrscheinlichkeit Folter und andere Misshandlungen drohen”, heißt es in einem Aufruf von 79 Menschenrechtsorganisationen, die internationale politische Unterstützung für Lu fordern. Die Regierungen von Drittstaaten sollten umgehend handeln, um Lu den Kontakt zu zuständigen UN-Behörden und einem Anwalt seiner Wahl zu ermöglichen.
Lu hatte es Mitte vergangenen Monats trotz Ausreiseverbots in China nach Laos geschafft. Von dort aus wollte er mit dem Zug weiter nach Thailand reisen, um schließlich ein Flugzeug in Richtung USA zu besteigen. Begleitet wurde er von zwei Freunden, die in den USA leben, und seine Festnahme durch die laotische Polizei publik machten. Mehr als zehn Beamte hatten Lu vor Besteigen des Zuges abgefangen, ihn in ein Auto gezwängt und an einen vorerst unbekannten Ort verschleppt.
Lu Siwei wollte in den USA zu seiner Ehefrau und seiner Tochter, die dort seit zwei Jahren leben, um möglichen Gängelungen durch die chinesischen Sicherheitsbehörden zu entgehen. Im Januar 2021 war ihm die Anwaltslizenz entzogen und die Ausreise aus China verboten worden. Wenige Monate zuvor hatte er die Verteidigung der verfassungsgemäßen Rechte von zwölf Hongkonger Aktivisten in China vertreten. Die jungen Leute gehörten zu den treibenden Kräften der Hongkonger Protestbewegung der Jahre 2019 und 2020. Sie hatten versucht, aus der Stadt per Boot in Richtung Taiwan zu fliehen, wurden dabei aber gefasst und nach China gebracht.
Bereits in den Jahren zuvor war er den Behörden negativ aufgefallen, weil er als Anwalt seiner chinesischen Kollegen auftrat, die im Rahmen der 709-Säuberung festgenommen worden waren. Das politisch motivierte Vorgehen gegen Chinas Bürgerrechtsbewegung hatte am 9. Juli 2015 begonnen und dadurch seine numerische Kennzeichnung erhalten. Im Rahmen dieser Säuberung wurden Dutzende Anwälte verhaftet und verurteilt. Die Jagd auf die Anwälte ist seitdem nie eingestellt worden. Lu Siwei ist nun der nächste, der für sein bürgerliches Engagement einen hohen Preis zahlen könnte.
Seine Auslieferung dürfte nur eine Frage von kurzer Zeit sein, wenn sich das Muster der vergangenen Fälle wiederholt. Denn China nutzt seine politische und wirtschaftliche Bedeutung gerne dazu, kleinere Partnerstaaten zu Zugeständnissen zu bewegen. Zuletzt war beispielsweise der Demokratieaktivist Dong Guangping in Vietnam verschwunden und wenig später in chinesischem Gewahrsam wieder aufgetaucht. Ein extremer Fall war der des schwedischen Buchhändlers Gui Minhai, der aus Thailand verschleppt wurde und jetzt eine lange Haftstrafe in China absitzt. Schon 2009 stand Kambodscha Pate, als das Land chinesische Uiguren ohne Berücksichtigung juristischer Prozedere nach China auslieferte.
Menschenrechtsorganisationen erinnern die laotische Regierung jetzt daran, dass sie nach internationalem Gewohnheitsrecht und als Vertragsstaat der UN-Konvention gegen Folter seit 2012 verpflichtet ist, die Auslieferung zu verhindern, wenn einem Betroffenen die Folter droht. Ob das ausreicht, um jüngste chinesisch-laotische Treueschwüre zu überwinden, ist fraglich.
Im April war Außenminister Wang Yi in seiner damaligen Funktion als Chinas Chef-Diplomat mit dem laotischen Premierminister Saleumxay Kommasith zusammengetroffen. “Das laotische Volk schätzt von ganzem Herzen die starke Unterstützung und selbstlose Hilfe der Kommunistischen Partei Chinas, der chinesischen Regierung und des chinesischen Volkes. Laos ist bereit, mit China zusammenzuarbeiten, um den Austausch und die Zusammenarbeit zu stärken”, sagte Kommasith damals.grz
die heutige Ausgabe steht ganz im Zeichen der KI. In unserer ersten Analyse geht es um Pekings Kampf gegen Deepfakes, also Video-und Bildfälschungen, mit deren Hilfe auch in China noch raffinierter und glaubwürdiger Falschnachrichten verbreitet werden können. Das ist natürlich überhaupt nicht im Sinne der Zensur- und Regulierungsbehörden, die aus Angst vor Macht- und Kontrollverlust seit jeher gegen Inhalte im Internet vorgehen, die aus Sicht der KP-Führung “nicht im Einklang mit den sozialistischen Grundwerten der Partei” stehen.
Zugleich soll das Land bei der Entwicklung von KI-Technologien aber nicht hinten anstehen. Und zu viel Kontrolle könnte die KI-Entwicklung hemmen. Mehr denn anderswo ist ein Wettrüsten zwischen Anbietern und Regulatoren in China denn auch längst im Gange, beobachtet Fabian Peltsch.
Zugutekommt der KI-Entwicklung in der Volksrepublik, dass dort so viele Daten von jeder und jedem einzelnen gesammelt werden können wie in kaum einem anderen Land. Denn Gesichtserkennungskameras sind in chinesischen Städten allgegenwärtig. Dahinter steckt allerdings kein Mensch mehr, sondern Künstliche Intelligenz, der kein subversives Verhalten mehr durchrutscht. Welche Schlussfolgerungen sie aus den Bildern bereits ziehen kann, beschreibt Marcel Grzanna in unserer heutigen zweiten Analyse.
Viele Erkenntnisse beim Lesen!
Im Mai meldete die Polizei der Stadt Baotou in der inneren Mongolei, dass ein Mann mithilfe von Deepfake-Technologie um umgerechnet 622.000 US-Dollar betrogen wurde. Ein Hacker hatte ihn mit einem täuschend echten KI-Klon eines Freundes hinters Licht geführt, der ihm in einem Video-Call erklärte, dringend Geld zu benötigen. Dabei handelte es sich nicht um das naive Opfer eines Enkel-Tricks. Der betrogene Mann ist leitender Angestellter einer Tech-Firma aus Fuzhou. Trotzdem hat ihn die lebensechte Körpersprache und Stimme seines falschen Freundes so sehr getäuscht, dass er umgehend den Geldbeutel zückte.
Lippensynchrone Bild- und Videofälschungen mit künstlicher Intelligenz, sogenannte “Deepfakes” können dank wachsender Rechenleistung und Speicherkapazitäten immer müheloser umgesetzt werden. Die Ergebnisse, die mit preiswerter Software erstellt werden können, sind für den Laien kaum noch vom Original zu unterscheiden – das beweisen gefälschte Reden von Politikern wie Putin oder Trump. Die Technik wird zum Beispiel eingesetzt, um im Internet Clickbait zu generieren, etwa indem berühmte Schauspieler in Filme versetzt werden, in denen sie niemals mitgespielt haben.
Deepfake-Technologie birgt große Gefahren, etwa wenn gefälschte Politiker-Reden für bare Münze genommen oder gezielt in politischen Verleumdungskampagnen eingesetzt werden. Schon jetzt wird der digitale Identitätsklau massiv für pornografische Videos und zunehmend auch für Erpressungen eingesetzt. Weltweit haben die Fälle von Deepfake-Betrug in den vergangenen drei Jahren massiv zugenommen, wie das auf KI-Sicherheit spezialisierte Unternehmen Sumsub errechnet hat. In Australien (5,3 %), Argentinien (5,1 %) und China (4,9 %) war der Anteil von Deepfakes an Betrugsverbrechen in den Jahren 2022 und 2023 demnach besonders hoch.
Obwohl der betrogene Tech-Executive in der Inneren Mongolei den Großteil seines Geldes durch die Hilfe der Polizei zurückbekam, löste der Fall in China hitzige Diskussionen über Online-Sicherheit aus. Die Internet Society of China gab eine Warnung heraus, in der sie die Öffentlichkeit zu erhöhter Wachsamkeit aufruft. In China, dessen Medienwelt von professionellen Live-Streamern durchdrungen ist, ist die Angst vor Online-Betrug realer als in Deutschland. So kam es in den vergangenen Monaten zum Beispiel immer häufiger vor, dass unbekannte Online-Influencer sich auf Video-Seiten wie Bilibili mit Faceswap-Technik als Celebrities ausgaben und Klicks und Geld generierten.
Peking bewertet Deepfake-Technik als hochriskant, nicht zuletzt da sie das Potenzial hat, die öffentliche Ordnung zu untergraben. Schon im Januar hatte Chinas Cyberspace-Verwaltung (CAC) eine Reihe von Regularien zur sogenannten “Technologie der Tiefensynthese” erlassen. Inhalte, die “die nationale Sicherheit und die nationalen Interessen gefährden und das nationale Image schädigen” sind laut den “Vorschriften für die Verwaltung von Internet-Informationsdiensten in der Tiefensynthese” von Vornherein verboten.
Von Anbietern harmloserer Inhalte verlangt die Behörde eine “auffällige Kennzeichnung” von KI-generierten Inhalten, da sie sonst “in der Öffentlichkeit Verwirrung stiften oder zu einer falschen Identifizierung führen können”. Nutzer müssten authentische Medieninhalte sofort von Fälschungen unterscheiden können. Genannt werden etwa Wasserzeichen. Zuwiderhandlung der Kennzeichnung steht unter Strafe. Alle Produzenten von Deepfakes und Nutzer von Deepfake-Dienstleistungen wie Faceswap-Apps müssen sich gemäß der neuen Regeln zudem mit echtem Namen registrieren. Ein Kalkül ist, dass bestimmte Deepfakes bei diesem Aufwand gar nicht erst entstehen. Chinas Cyberspace-Verwaltung (CAC) bekräftigte diesen Monat zudem, dass alle generativen KI-Dienste im Einklang mit den sozialistischen Grundwerten der Partei stehen müssen.
China ist eines der ersten Länder, das umfassende Regeln zum Umgang mit Deepfake-Technologie vorgelegt hat. Andere wie Taiwan, England und einige US-Staaten wie Florida gehen bereits gesetzlich gegen bestimmte Teilbereiche wie künstlich erstellte Pornos und gefälschte Politiker-Reden vor. Andernorts arbeitet man daran, bestehende Regelwerke an die neuen Gefahren anzupassen, zum Beispiel in Singapur, wo der Personal Data Protection Act (PDPA), der die Erhebung, Verwendung und Weitergabe personenbezogener Daten regelt, hinsichtlich Deepfake-Risiken erweitert wird.
Auch die Europäische Union will mit einem Regelwerk zur künstlichen Intelligenz, dem “AI Act”, Deepfakes eindämmen. Demnach soll eine Kennzeichnung betreffender Inhalte aber bis auf Weiteres auf freiwilliger Basis geschehen. Kritiker dieser Lösung, etwa SPD-Chefin Saskia Esken, finden, das sei das zu wenig, um echten Schaden abzuwehren.
Schnelles Handeln ist in jedem Fall angesagt. Mit immer größeren Bandbreiten können schon bald nicht mehr nur Personen, sondern ganze Szenarien so realistisch gefälscht werden, dass man sie nicht von tatsächlichen Ereignissen unterscheiden kann. Der KI-Experte Kai-Fu Lee schreibt in seinem jüngsten Buch, einem Zukunftsausblick ins Jahr 2041, dass Anti-Deepfake-Programme bald so normal sein werden wie Anti-Viren-Software.
Sowohl Facebook als auch Google haben bereits Preise für die beste Deep-Fake-Erkennungssoftware ausgelobt. Doch auch die Fälschungen dürften dabei immer besser werden. Ein Katz-und-Maus-Spiel mit unbekanntem Ausgang, glaubt Lee. Er sagt: Wir müssen uns an eine Welt gewöhnen, in der wir noch mehr als heute alles hinterfragen müssen, was uns im Netz serviert wird. Auch deshalb wird es ohne verbindliche Gesetze und entsprechende Strafen nicht gehen.
Die Texte der Table.Media-Serie “Der Globale Wettlauf um Künstliche Intelligenz” finden Sie hier.
Technologie zur Gesichtserkennung ist in China ein lukrativer Markt. Etwa 8.000 Firmen sind in den vergangenen zehn Jahren gegründet worden. Der Kuchen war bislang ausreichend groß genug, um alle Wettbewerber zu versorgen. Drei Millionen öffentliche Aufträge waren im gleichen Zeitraum ausgeschrieben. Die Nachfrage wird in naher Zukunft weiter steigen. Chinas Überwachungsnetz wird immer enger, der Kontrollwahn der Partei immer größer.
Die Covid-19-Pandemie hat Peking konsequent dazu genutzt, immer schärfere Maßnahmen mit Verweis auf gesundheitspolitische Dringlichkeit zu rechtfertigen. Gesichtserkennung zählt zu den zentralen Elementen der staatlichen chinesischen Überwachung. Mit Hilfe Künstlicher Intelligenz (KI) wird sie immer ausgeklügelter und präziser.
Wie raffiniert die Software inzwischen ist, die chinesische Behörden zur Überwachung einsetzen, macht die Technologie “one person, one file” deutlich. Sie ist eine Weiterentwicklung herkömmlicher Software-Systeme und ist in der Lage, Personen mit einem Minimum an biometrischen Daten zu identifizieren und sie in Echtzeit mit anderen Datensätzen zu verknüpfen. Selbst Masken über Mund und Nase reichen nicht mehr aus, um sich der Identifikation durch die Technik zu entziehen.
Aber auch sie ist nur eine Komponente eines technologischen Ökosystems, das der autokratischen Regierung in Peking dabei helfen soll, ihre autoritäre Politik langfristig durchzusetzen. Peking behauptet, die Überwachung sei für die Verbrechensbekämpfung von entscheidender Bedeutung. Menschenrechtsorganisationen wie Human Rights Watch behaupten dagegen, das Land baue einen Überwachungsstaat auf, der tief in die Privatsphäre der Bürger eindringe und beispielsweise ethnische Gruppen wie die Uiguren engmaschig überwachen soll.
Big Data ist der Schlüssel. Nirgendwo sonst auf der Welt fallen so große Mengen an Daten und Informationen über Bürger in die Hände einer Regierung wie in China. Menschen werden zu komplett gläsernen Akteuren, deren Verhalten nicht nur in gewissem Umfang vorhergesagt, sondern auch manipuliert werden kann.
Das erinnert an Science Fiction, ist aber schon verblüffend real. “Durch Vorhersagen darüber, wie Personen auf Anreize reagieren könnten, können Autokraten die KI-Technologie zur Verhaltensmanipulation einsetzen”, sagte David Yang von der Harvard Universität bei einer Podiumsdiskussion in Washington. Yang ist einer der Autoren der Studie AI-tocracy, die sich mit der Nutzung von KI durch autokratische Systeme beschäftigt.
Politischer Dissens, soziale Unruheherde oder die Entwicklung bürgerlicher Bewegungen sollen bereits im Frühstadium ermittelt und eliminiert werden. All das hilft einer Elite, ihr Machtmonopol über mehr als eine Milliarde Menschen zu verteidigen.
Beispiel: Proteste. Kamerasysteme der Firma Dahua Technology namens “Jinn” sind jetzt in der Lage, die Behörden zu alarmieren, wenn eine Person beim Entrollen eines Transparents entdeckt wird. Seit Mai ist die Software verfügbar. Und sie trifft einen Nerv, nachdem es im Vorjahr einem Mann gelungen war, ein Banner an einer Pekinger Autobahnbrücke zu befestigt, auf dem er das Ende der Diktatur gefordert hatte.
Die stete Optimierung der Überwachungssysteme ist das Resultat einer engen Zusammenarbeit zwischen Staat und Technologie-Unternehmen. Die Firmen versorgen die Behörden mit der nötigen Software, um ihre Kontrollkapazitäten auszuweiten. Im Gegenzug versorgt der Staat seine Zulieferer mit Datensätzen, zu denen sonst niemand Zugang bekommt.
“Das Unternehmen, das KI-Dienstleistungen für die Regierung erbringt, kann diese Daten nutzen, um neue Technologien zu entwickeln, wobei die Daten der Regierung als Input für Innovationen dienen”, sagt der Co-Autor der Harvard-Studie, Noam Yuchtman. Die Unternehmer wollen einen Staat nicht untergraben, der ihnen Zugang zu wertvollen Daten für ihre Innovationen verschafft. Beide Seiten profitieren davon.
Beunruhigend für jeden Demokraten sollte die Tatsache sein, dass chinesische KI-Technologien bereits ein Exportschlager sind. Die Hälfte der weltweiten Handelsgeschäfte mit KI-Technologie zur Gesichtserkennung werden mit Lieferungen aus China getätigt. “Chinas Export ist in hohem Maße auf schwache Demokratien oder starke Autokratien ausgerichtet. Das ist ein ganz anderes Muster als bei den traditionellen Grenztechnologien, bei denen demokratische Länder zu den Käufern dieser Technologien gehören”, sagt Yuchtman.
Die Texte der Table.Media-Serie “Der globale Wettlauf um Künstliche Intelligenz” finden Sie hier.
Der Fall des Menschenrechtsanwalts Lu Siwei könnte eine alarmierende Serie von chinesischer Einflussnahme auf die Justiz anderer Staaten fortsetzen. Lu war Ende Juli in Laos festgenommen worden. Aktivisten und Verwandte des Anwalts fürchten jetzt um seine illegale Auslieferung an die Behörden der Volksrepublik China.
“Wir sind sehr besorgt darüber, dass er ernsthaft Gefahr läuft, nach China zwangsrückgeführt zu werden, wo ihm mit hoher Wahrscheinlichkeit Folter und andere Misshandlungen drohen”, heißt es in einem Aufruf von 79 Menschenrechtsorganisationen, die internationale politische Unterstützung für Lu fordern. Die Regierungen von Drittstaaten sollten umgehend handeln, um Lu den Kontakt zu zuständigen UN-Behörden und einem Anwalt seiner Wahl zu ermöglichen.
Lu hatte es Mitte vergangenen Monats trotz Ausreiseverbots in China nach Laos geschafft. Von dort aus wollte er mit dem Zug weiter nach Thailand reisen, um schließlich ein Flugzeug in Richtung USA zu besteigen. Begleitet wurde er von zwei Freunden, die in den USA leben, und seine Festnahme durch die laotische Polizei publik machten. Mehr als zehn Beamte hatten Lu vor Besteigen des Zuges abgefangen, ihn in ein Auto gezwängt und an einen vorerst unbekannten Ort verschleppt.
Lu Siwei wollte in den USA zu seiner Ehefrau und seiner Tochter, die dort seit zwei Jahren leben, um möglichen Gängelungen durch die chinesischen Sicherheitsbehörden zu entgehen. Im Januar 2021 war ihm die Anwaltslizenz entzogen und die Ausreise aus China verboten worden. Wenige Monate zuvor hatte er die Verteidigung der verfassungsgemäßen Rechte von zwölf Hongkonger Aktivisten in China vertreten. Die jungen Leute gehörten zu den treibenden Kräften der Hongkonger Protestbewegung der Jahre 2019 und 2020. Sie hatten versucht, aus der Stadt per Boot in Richtung Taiwan zu fliehen, wurden dabei aber gefasst und nach China gebracht.
Bereits in den Jahren zuvor war er den Behörden negativ aufgefallen, weil er als Anwalt seiner chinesischen Kollegen auftrat, die im Rahmen der 709-Säuberung festgenommen worden waren. Das politisch motivierte Vorgehen gegen Chinas Bürgerrechtsbewegung hatte am 9. Juli 2015 begonnen und dadurch seine numerische Kennzeichnung erhalten. Im Rahmen dieser Säuberung wurden Dutzende Anwälte verhaftet und verurteilt. Die Jagd auf die Anwälte ist seitdem nie eingestellt worden. Lu Siwei ist nun der nächste, der für sein bürgerliches Engagement einen hohen Preis zahlen könnte.
Seine Auslieferung dürfte nur eine Frage von kurzer Zeit sein, wenn sich das Muster der vergangenen Fälle wiederholt. Denn China nutzt seine politische und wirtschaftliche Bedeutung gerne dazu, kleinere Partnerstaaten zu Zugeständnissen zu bewegen. Zuletzt war beispielsweise der Demokratieaktivist Dong Guangping in Vietnam verschwunden und wenig später in chinesischem Gewahrsam wieder aufgetaucht. Ein extremer Fall war der des schwedischen Buchhändlers Gui Minhai, der aus Thailand verschleppt wurde und jetzt eine lange Haftstrafe in China absitzt. Schon 2009 stand Kambodscha Pate, als das Land chinesische Uiguren ohne Berücksichtigung juristischer Prozedere nach China auslieferte.
Menschenrechtsorganisationen erinnern die laotische Regierung jetzt daran, dass sie nach internationalem Gewohnheitsrecht und als Vertragsstaat der UN-Konvention gegen Folter seit 2012 verpflichtet ist, die Auslieferung zu verhindern, wenn einem Betroffenen die Folter droht. Ob das ausreicht, um jüngste chinesisch-laotische Treueschwüre zu überwinden, ist fraglich.
Im April war Außenminister Wang Yi in seiner damaligen Funktion als Chinas Chef-Diplomat mit dem laotischen Premierminister Saleumxay Kommasith zusammengetroffen. “Das laotische Volk schätzt von ganzem Herzen die starke Unterstützung und selbstlose Hilfe der Kommunistischen Partei Chinas, der chinesischen Regierung und des chinesischen Volkes. Laos ist bereit, mit China zusammenzuarbeiten, um den Austausch und die Zusammenarbeit zu stärken”, sagte Kommasith damals.grz
