zwischen deutschen und chinesischen Hochschulen gibt es aktuell rund 1.400 Kooperationen. Doch welche Forschungsprojekte können in Zukunft noch gemeinsam mit den chinesischen Partnern verfolgt werden und wo ist Vorsicht geboten? Wie soll dies bewertet werden und von wem? An den Hochschulen herrscht Verunsicherung und die Debatte über chinesischen Einfluss ist emotional aufgeladen. Finn Mayer-Kuckuk hat mit Matthias Stepan von der Ruhr-Uni Bochum gesprochen, um Orientierung in die Diskussion zu bringen.
Chinas Zensur- und Regulierungsbehörden sind das Katz- und Maus-Spiel im Internet gewohnt. Sie gehen schon seit Jahren gegen Inhalte vor, die aus Sicht der kommunistischen Führung “nicht im Einklang mit den sozialistischen Grundwerten der Partei” stehen. Und das ist aus ihrer Sicht bekanntlich weit gefasst.
Und doch stellt künstliche Intelligenz auch die KP vor neue Herausforderungen. Denn einerseits soll das Land bei der Entwicklung dieser Zukunftstechnologie nicht hinten anstehen. Andererseits möchte China auch zum Vorreiter im Kampf gegen Deepfakes, also Video- und Bildfälschungen werden – aus Angst vor Macht- und Kontrollverlust. Und das könnte wiederum die KI-Entwicklung hemmen. Mehr denn anderswo ist ein Wettrüsten zwischen Anbietern und Regulatoren in China denn auch längst im Gange, beobachtet Fabian Peltsch.
Ich wünsche Ihnen einen guten Start in die Woche!
Die Universität Erlangen-Nürnberg hat sich als erste deutsche Hochschule entschieden, CSC-Stipendiaten nur noch anzunehmen, wenn diese auch vom DAAD ausgewählt wurden. Was sagt das über die Haltung zu Hochschulkooperationen mit China?
Diese Entscheidung ist ein klares Signal, dass es bei der Kooperation mit China seitens deutscher Hochschulen kein Weiter so geben wird. Sie wird sicher kein Einzelfall bleiben und andere Hochschulen werden folgen oder haben bereits stillschweigend ihre Politik geändert.
Welches Signal sendet die Entscheidung?
Hinsichtlich der Signalwirkung geht es aus meiner Sicht nicht um die Aufnahme oder Ablehnung von einzelnen Nachwuchswissenschaftler:innen mit Stipendium der chinesischen Regierung. Die Entscheidung der Universität reicht viel weiter: Es geht um den Umgang mit sicherheitsrelevanter Forschung und welche Forschungsprojekte in Zukunft mit chinesischen Partnern noch verfolgt werden können.
Die China-Strategie der Bundesregierung spricht diese Sprache noch nicht. Es findet sich darin vor allem Ermutigung für weitere Zusammenarbeit. Können Forschende nun weiter unbesorgt Kooperationen mit China anleiern oder nicht?
Die Strategie selbst ist diesbezüglich nur wenig konkret. Eine erste Klarstellung der Regierung kam aber schon kurz nach Veröffentlichung der Strategie in Form einer Pressemitteilung des Bundesministeriums für Bildung und Forschung (BMBF). Gesundheits- und Klimaforschung seien in Zukunft weiterhin gern gesehen. Aber alles, was außerhalb dieser Bereiche liege, soll kritisch auf Technologieabfluss oder militärische Nutzung geprüft werden.
Die Umsetzung durch das BMBF soll also strenger ausfallen als die Umrisse, die in der Strategie erkennbar sind.
Das BMBF hat nur eine geringe Handhabe, was Verbote für Akteure in der Wissenschaft und Forschung angeht – Wissenschaftsfreiheit ist ein hohes Gut und Hochschulen sind Ländersache. Das BMBF wird sicher die Sensibilisierung weiter vorantreiben und Informationsangebote machen.
Werden die Unis auf die Ratschläge hören?
Die Aktivitäten der vergangenen Jahre erreichen aus meiner Sicht in erster Linie die International Offices an Hochschulen. Leider lassen sich gerade Leute mit Seniorität in der Forschung nicht immer etwas von der Unileitung sagen. Um diese zu erreichen, müsste man ganz konkret an die Fachgesellschaften herantreten. Also beispielsweise die Deutsche Physikalische Gesellschaft. Diese könnten Formate anbieten, über die man die Wissenschaftler erreicht. Für viele Wissenschaftler ist die Strategie selbst zwar weit weg. Doch die Auswirkungen der China-Debatte kommen den Akteuren näher, wie jetzt das Beispiel der Universität Nürnberg-Erlangen zeigt.
Die Diskussion wird zum Teil sehr aufgeladen geführt. Können Sie die beiden Pole beschreiben, die sich da gebildet haben in der Bewertung von China-Kooperationen?
In den vergangenen fünf Jahren haben sich an den extremen Rändern zwei Camps gebildet. Die eine Seite sagt, verkürzt ausgedrückt: Macht nichts mehr mit China. Und die andere Seite sagt: Macht auf jeden Fall weiter. Tatsächlich ist vielen der Akteure in der Mitte klar, dass es Zeit für ein Umdenken ist und wir in der Kooperation mit China anders agieren müssen. Weder das Weiter so noch der Kontaktabbruch haben in Wirklichkeit eine große Mehrheit hinter sich.
Die extremen Stimmen sind zuweilen recht laut.
Es sind oft Einzelkämpfer, die sich dann gegenseitig als naiv oder als dumm bezeichnen. Ich denke, wir sollten uns hier an einen Tisch setzen und uns nicht noch weiter gegenseitig aufstacheln. Es ist wichtig, die Risiken konkret zu benennen, sie zu bewerten und einzuordnen. Die überladenen Diskussionen führen aber nirgendwohin.
Kann man festmachen, ab wann China sich so verändert hat?
Das war 2017/18, als die offiziellen Ankündigungen Chinas kamen, die zivil-militärische Integration voranzutreiben. Die Forschung ist Teil davon. Wir haben zugleich gesehen, dass viele davor eher liberal aufgestellte Universitäten in China für die Themen kritisiert wurden, an denen sie forschen. In informierten Kreisen war das ein Weckruf. Seither haben das BMBF und andere Stellen darüber informiert und sensibilisiert, sie sind mit verschiedenen Akteuren in die Diskussion eingestiegen. Viele Einrichtungen haben darauf basierend schon ihre Kooperation mit China angepasst.
Diese Debatte wird vor allem von Sozialwissenschaftlern und Sinologen geführt. Nur gibt es da draußen viele Naturwissenschaftler, die ganz praktisch mit chinesischen Unis Kooperieren.
Der öffentliche Schlagabtausch ist klar von Sinolog:innen dominiert – sie sind aber was die Kooperationen angeht lediglich eine kleine Teil-Gruppe. Wir müssen gemeinhin zwei Gruppen unterscheiden. Erstens, diejenigen, die China als Forschungsgegenstand haben – seien es Sozialwissenschaftler oder Ökonomen. Für sie ist es zentral, dass sie Zugang zum Land haben, dass sie dort Feldforschung machen können. Deren öffentlich geführte Debatte ist weit weg von der zweiten Gruppe.
Den Naturwissenschaftlern.
Das müssen nicht bloß Naturwissenschaftler sein, das können beispielsweise auch Philosophen sein. Sie kooperieren mit der chinesischen Seite, weil sie die Grenze des Wissens in ihrem Fachgebiet nach vorne schieben wollen. Für beide Gruppen spielen aber die immer schärferen Datenschutz- oder generell Datentransfer-Gesetze eine steigende Rolle. Den Chinaforschern sind die Risiken bereits bewusst. Doch auch für die Naturwissenschaftler sollten die Datentransfer-Regeln große Alarmlichter zum Leuchten bringen, weil eben große Datenmengen ausgetauscht werden, die nun ebenfalls Kontrollen von chinesischer Seite unterworfen sind.
Brauchen wir eine Zentralstelle für die Bewertung von China-Projekten?
Wir brauchen neue Strukturen und Prozesse für die Bewertung. Eine Zentralstelle halte ich hierbei allerdings für wenig praktikabel. Es gibt allein rund 1.400 Kooperationen zwischen deutschen und chinesischen Hochschulen. Stellen Sie sich vor, jede der beteiligten deutschen Hochschulen würde einmal im Jahr einen Antrag an diese Zentralstelle senden. Auch den Fokus auf China fände ich unglücklich.
Es wäre ein Bürokratie-Monster.
Ja. Eine Alternative wäre ein dezentraler Ansatz mit Kommissionen für Ethik in der sicherheitsrelevanten Forschung an den Hochschulen. Obwohl die DFG und Leopoldina bereits vor Jahren einen Ausschuss eingesetzt haben, der die Bewertungskompetenz der Hochschulen stärken will, hat der Großteil der deutschen Hochschulen weiterhin keine entsprechenden Kommissionen eingerichtet. Das wäre aber ein gangbarer Weg. Spätestens mit der Zeitenwende und dem Abbruch der Wissenschaftskooperationen mit Einrichtungen in Russland sollte klar sein, Hochschulen müssen sich den Fragen zum Umgang mit sicherheitsrelevanter Forschung stellen. Nicht nur bei Kooperationen mit Einrichtungen in China. Was die spezifische Länderkompetenz angeht, könnten die lokalen Kommissionen Unterstützung von Sinologen aber auch Experten zu Ausfuhrkontrollen erhalten.
Matthias Stepan forscht an der Ruhr-Uni Bochum zur Politik Ostasiens. Dort hat er die inhaltliche Leitung des Forschungsprojekts “Hochschulen als Akteure im Dialog mit China” inne und ist im EU-geförderten Projekt “China Horizons – Dealing with a Resurgent China” (DWARC) für Wissensmanagement verantwortlich. Stepan war zuvor Leiter des Pekinger Büros der Stiftung Mercator und im Management-Team des Mercator Institute for China Studies (Merics).
Im Mai meldete die Polizei der Stadt Baotou in der inneren Mongolei, dass ein Mann mithilfe von Deepfake-Technologie um umgerechnet 622.000 US-Dollar betrogen wurde. Ein Hacker hatte ihn mit einem täuschend echten KI-Klon eines Freundes hinters Licht geführt, der ihm in einem Video-Call erklärte, dringend Geld zu benötigen. Dabei handelte es sich nicht um das naive Opfer eines Enkel-Tricks. Der betrogene Mann ist leitender Angestellter einer Tech-Firma aus Fuzhou. Trotzdem hat ihn die lebensechte Körpersprache und Stimme seines falschen Freundes so sehr getäuscht, dass er umgehend den Geldbeutel zückte.
Lippensynchrone Bild- und Videofälschungen mit künstlicher Intelligenz, sogenannte “Deepfakes” können dank wachsender Rechenleistung und Speicherkapazitäten immer müheloser umgesetzt werden. Die Ergebnisse, die mit preiswerter Software erstellt werden können, sind für den Laien kaum noch vom Original zu unterscheiden – das beweisen gefälschte Reden von Politikern wie Putin oder Trump. Die Technik wird zum Beispiel eingesetzt, um im Internet Clickbait zu generieren, etwa indem berühmte Schauspieler in Filme versetzt werden, in denen sie niemals mitgespielt haben.
Deepfake-Technologie birgt große Gefahren, etwa wenn gefälschte Politiker-Reden für bare Münze genommen oder gezielt in politischen Verleumdungskampagnen eingesetzt werden. Schon jetzt wird der digitale Identitätsklau massiv für pornografische Videos und zunehmend auch für Erpressungen eingesetzt. Weltweit haben die Fälle von Deepfake-Betrug in den vergangenen drei Jahren massiv zugenommen, wie das auf KI-Sicherheit spezialisierte Unternehmen Sumsub errechnet hat. In Australien (5,3 %), Argentinien (5,1 %) und China (4,9 %) war der Anteil von Deepfakes an Betrugsverbrechen in den Jahren 2022 und 2023 demnach besonders hoch.
Obwohl der betrogene Tech-Executive in der Inneren Mongolei den Großteil seines Geldes durch die Hilfe der Polizei zurückbekam, löste der Fall in China hitzige Diskussionen über Online-Sicherheit aus. Die Internet Society of China gab eine Warnung heraus, in der sie die Öffentlichkeit zu erhöhter Wachsamkeit aufruft. In China, dessen Medienwelt von professionellen Live-Streamern durchdrungen ist, ist die Angst vor Online-Betrug realer als in Deutschland. So kam es in den vergangenen Monaten zum Beispiel immer häufiger vor, dass unbekannte Online-Influencer sich auf Video-Seiten wie Bilibili mit Faceswap-Technik als Celebrities ausgaben und Klicks und Geld generierten.
Peking bewertet Deepfake-Technik als hochriskant, nicht zuletzt da sie das Potenzial hat, die öffentliche Ordnung zu untergraben. Schon im Januar hatte Chinas Cyberspace-Verwaltung (CAC) eine Reihe von Regularien zur sogenannten “Technologie der Tiefensynthese” erlassen. Inhalte, die “die nationale Sicherheit und die nationalen Interessen gefährden und das nationale Image schädigen” sind laut den “Vorschriften für die Verwaltung von Internet-Informationsdiensten in der Tiefensynthese” von Vornherein verboten.
Von Anbietern harmloserer Inhalte verlangt die Behörde eine “auffällige Kennzeichnung” von KI-generierten Inhalten, da sie sonst “in der Öffentlichkeit Verwirrung stiften oder zu einer falschen Identifizierung führen können”. Nutzer müssten authentische Medieninhalte sofort von Fälschungen unterscheiden können. Genannt werden etwa Wasserzeichen. Zuwiderhandlung der Kennzeichnung steht unter Strafe. Alle Produzenten von Deepfakes und Nutzer von Deepfake-Dienstleistungen wie Faceswap-Apps müssen sich gemäß der neuen Regeln zudem mit echtem Namen registrieren. Ein Kalkül ist, dass bestimmte Deepfakes bei diesem Aufwand gar nicht erst entstehen. Chinas Cyberspace-Verwaltung (CAC) bekräftigte diesen Monat zudem, dass alle generativen KI-Dienste im Einklang mit den sozialistischen Grundwerten der Partei stehen müssen.
China ist eines der ersten Länder, das umfassende Regeln zum Umgang mit Deepfake-Technologie vorgelegt hat. Andere wie Taiwan, England und einige US-Staaten wie Florida gehen bereits gesetzlich gegen bestimmte Teilbereiche wie künstlich erstellte Pornos und gefälschte Politiker-Reden vor. Andernorts arbeitet man daran, bestehende Regelwerke an die neuen Gefahren anzupassen, zum Beispiel in Singapur, wo der Personal Data Protection Act (PDPA), der die Erhebung, Verwendung und Weitergabe personenbezogener Daten regelt, hinsichtlich Deepfake-Risiken erweitert wird.
Auch die Europäische Union will mit einem Regelwerk zur künstlichen Intelligenz, dem “AI Act”, Deepfakes eindämmen. Demnach soll eine Kennzeichnung betreffender Inhalte aber bis auf Weiteres auf freiwilliger Basis geschehen. Kritiker dieser Lösung, etwa SPD-Chefin Saskia Esken, finden, das sei das zu wenig, um echten Schaden abzuwehren.
Schnelles Handeln ist in jedem Fall angesagt. Mit immer größeren Bandbreiten können schon bald nicht mehr nur Personen, sondern ganze Szenarien so realistisch gefälscht werden, dass man sie nicht von tatsächlichen Ereignissen unterscheiden kann. Der KI-Experte Kai-Fu Lee schreibt in seinem jüngsten Buch, einem Zukunftsausblick ins Jahr 2041, dass Anti-Deepfake-Programme bald so normal sein werden wie Anti-Viren-Software.
Sowohl Facebook als auch Google haben bereits Preise für die beste Deep-Fake-Erkennungssoftware ausgelobt. Doch auch die Fälschungen dürften dabei immer besser werden. Ein Katz-und-Maus-Spiel mit unbekanntem Ausgang, glaubt Lee. Er sagt: Wir müssen uns an eine Welt gewöhnen, in der wir noch mehr als heute alles hinterfragen müssen, was uns im Netz serviert wird. Auch deshalb wird es ohne verbindliche Gesetze und entsprechende Strafen nicht gehen.
Die Texte der Table.Media-Serie “Der Globale Wettlauf um Künstliche Intelligenz” finden Sie hier.
Bei den schweren Überschwemmungen im Nordosten Chinas sind in der Nähe von Peking weitere zehn Menschen ums Leben gekommen. Die Behörden veröffentlichten am Samstag eine Bilanz für die Stadt Baoding rund 150 Kilometer südwestlich der Hauptstadt Peking. Damit stieg die Zahl der Todesopfer in der Region infolge der schweren Überschwemmungen auf insgesamt mindestens 30, wie die Nachrichtenagentur AFP berichtete. Die extremen Regenfälle sind eine Folge des Tropensturms Doksuri.
In der Stadt Boading mit ihren rund 11,5 Millionen Einwohnern wurden den Behörden zufolge 18 Menschen noch vermisst, mehr als 600.000 Menschen wurden evakuiert. In Peking wurde die Warnung für die Bevölkerung wegen der Risiken durch Erdrutsche aufrechterhalten. Die Aufräumarbeiten in der Region liefen weiter, nachdem durch die Überschwemmungen ganze Bezirke überflutet und Infrastruktur zerstört worden waren.
In der Stadt Shulan in der Provinz Jilin regnete es den fünften Tag in Folge. Sechs Menschen seien gestorben und vier Menschen würden vermisst, berichten staatliche Medien. Nach Angaben der örtlichen Katastrophenschutzbehörde wurden rund 19.000 Menschen aus der 700.000 Einwohner zählenden Stadt evakuiert. Die staatliche Nachrichtenagentur China News Service zeigt Bilder von überschwemmten Straßen.
In der Stadt Zhouzhou in der Provinz Hebei verwandelten sich Einkaufsstraßen in braune Flüsse. Auch die Felder in der Gegend standen komplett unter Wasser. Die Überschwemmungen erstreckten sich kilometerweit. Rettungskräfte brachten nach AFP-Informationen Nudeln, Brot und Trinkwasser zu den Betroffenen, die ihre Häuser nicht verlassen konnten oder wollten.
In sozialen Medien verbreiteten sich Videos von einer Demonstration in Bazhou in der Provinz Hebei. Die Protestierenden warfen den Behörden den Postings zufolge vor, Flutwasser von Peking weg und in ihre Richtung geleitet zu haben, um die Hauptstadt zu schützen.
Nach Angaben des chinesischen Wetterdienstes waren es in Peking die heftigsten Regenfälle seit Beginn der Wetteraufzeichnungen vor 140 Jahren. ari
Der Fall des Menschenrechtsanwalts Lu Siwei könnte eine alarmierende Serie von chinesischer Einflussnahme auf die Justiz anderer Staaten fortsetzen. Lu war Ende Juli in Laos festgenommen worden. Aktivisten und Verwandte des Anwalts fürchten jetzt um seine illegale Auslieferung an die Behörden der Volksrepublik China.
“Wir sind sehr besorgt darüber, dass er ernsthaft Gefahr läuft, nach China zwangsrückgeführt zu werden, wo ihm mit hoher Wahrscheinlichkeit Folter und andere Misshandlungen drohen”, heißt es in einem Aufruf von 79 Menschenrechtsorganisationen, die internationale politische Unterstützung für Lu fordern. Die Regierungen von Drittstaaten sollten umgehend handeln, um Lu den Kontakt zu zuständigen UN-Behörden und einem Anwalt seiner Wahl zu ermöglichen.
Lu hatte es Mitte vergangenen Monats trotz Ausreiseverbots in China nach Laos geschafft. Von dort aus wollte er mit dem Zug weiter nach Thailand reisen, um schließlich ein Flugzeug in Richtung USA zu besteigen. Begleitet wurde er von zwei Freunden, die in den USA leben, und seine Festnahme durch die laotische Polizei publik machten. Mehr als zehn Beamte hatten Lu vor Besteigen des Zuges abgefangen, ihn in ein Auto gezwängt und an einen vorerst unbekannten Ort verschleppt.
Lu Siwei wollte in den USA zu seiner Ehefrau und seiner Tochter, die dort seit zwei Jahren leben, um möglichen Gängelungen durch die chinesischen Sicherheitsbehörden zu entgehen. Im Januar 2021 war ihm die Anwaltslizenz entzogen und die Ausreise aus China verboten worden. Wenige Monate zuvor hatte er die Verteidigung der verfassungsgemäßen Rechte von zwölf Hongkonger Aktivisten in China vertreten. Die jungen Leute gehörten zu den treibenden Kräften der Hongkonger Protestbewegung der Jahre 2019 und 2020. Sie hatten versucht, aus der Stadt per Boot in Richtung Taiwan zu fliehen, wurden dabei aber gefasst und nach China gebracht.
Bereits in den Jahren zuvor war er den Behörden negativ aufgefallen, weil er als Anwalt seiner chinesischen Kollegen auftrat, die im Rahmen der 709-Säuberung festgenommen worden waren. Das politisch motivierte Vorgehen gegen Chinas Bürgerrechtsbewegung hatte am 9. Juli 2015 begonnen und dadurch seine numerische Kennzeichnung erhalten. Im Rahmen dieser Säuberung wurden Dutzende Anwälte verhaftet und verurteilt. Die Jagd auf die Anwälte ist seitdem nie eingestellt worden. Lu Siwei ist nun der nächste, der für sein bürgerliches Engagement einen hohen Preis zahlen könnte.
Seine Auslieferung dürfte nur eine Frage von kurzer Zeit sein, wenn sich das Muster der vergangenen Fälle wiederholt. Denn China nutzt seine politische und wirtschaftliche Bedeutung gerne dazu, kleinere Partnerstaaten zu Zugeständnissen zu bewegen. Zuletzt war beispielsweise der Demokratieaktivist Dong Guangping in Vietnam verschwunden und wenig später in chinesischem Gewahrsam wieder aufgetaucht. Ein extremer Fall war der des schwedischen Buchhändlers Gui Minhai, der aus Thailand verschleppt wurde und jetzt eine lange Haftstrafe in China absitzt. Schon 2009 stand Kambodscha Pate, als das Land chinesische Uiguren ohne Berücksichtigung juristischer Prozedere nach China auslieferte.
Menschenrechtsorganisationen erinnern die laotische Regierung jetzt daran, dass sie nach internationalem Gewohnheitsrecht und als Vertragsstaat der UN-Konvention gegen Folter seit 2012 verpflichtet ist, die Auslieferung zu verhindern, wenn einem Betroffenen die Folter droht. Ob das ausreicht, um jüngste chinesisch-laotische Treueschwüre zu überwinden, ist fraglich.
Im April war Außenminister Wang Yi in seiner damaligen Funktion als Chinas Chef-Diplomat mit dem laotischen Premierminister Saleumxay Kommasith zusammengetroffen. “Das laotische Volk schätzt von ganzem Herzen die starke Unterstützung und selbstlose Hilfe der Kommunistischen Partei Chinas, der chinesischen Regierung und des chinesischen Volkes. Laos ist bereit, mit China zusammenzuarbeiten, um den Austausch und die Zusammenarbeit zu stärken”, sagte Kommasith damals.grz
Bis zu den Hüften im Wasser steht diese Erntehelferin, die in Taizhou in der Provinz Jiangsu Wasserkastanien pflückt. Die Knollen, aber auch das Stroh der aquatisch lebenden Pflanze, werden in China vielfältig verwendet, zum Beispiel als Grundlage für Erfrischungsgetränke.
zwischen deutschen und chinesischen Hochschulen gibt es aktuell rund 1.400 Kooperationen. Doch welche Forschungsprojekte können in Zukunft noch gemeinsam mit den chinesischen Partnern verfolgt werden und wo ist Vorsicht geboten? Wie soll dies bewertet werden und von wem? An den Hochschulen herrscht Verunsicherung und die Debatte über chinesischen Einfluss ist emotional aufgeladen. Finn Mayer-Kuckuk hat mit Matthias Stepan von der Ruhr-Uni Bochum gesprochen, um Orientierung in die Diskussion zu bringen.
Chinas Zensur- und Regulierungsbehörden sind das Katz- und Maus-Spiel im Internet gewohnt. Sie gehen schon seit Jahren gegen Inhalte vor, die aus Sicht der kommunistischen Führung “nicht im Einklang mit den sozialistischen Grundwerten der Partei” stehen. Und das ist aus ihrer Sicht bekanntlich weit gefasst.
Und doch stellt künstliche Intelligenz auch die KP vor neue Herausforderungen. Denn einerseits soll das Land bei der Entwicklung dieser Zukunftstechnologie nicht hinten anstehen. Andererseits möchte China auch zum Vorreiter im Kampf gegen Deepfakes, also Video- und Bildfälschungen werden – aus Angst vor Macht- und Kontrollverlust. Und das könnte wiederum die KI-Entwicklung hemmen. Mehr denn anderswo ist ein Wettrüsten zwischen Anbietern und Regulatoren in China denn auch längst im Gange, beobachtet Fabian Peltsch.
Ich wünsche Ihnen einen guten Start in die Woche!
Die Universität Erlangen-Nürnberg hat sich als erste deutsche Hochschule entschieden, CSC-Stipendiaten nur noch anzunehmen, wenn diese auch vom DAAD ausgewählt wurden. Was sagt das über die Haltung zu Hochschulkooperationen mit China?
Diese Entscheidung ist ein klares Signal, dass es bei der Kooperation mit China seitens deutscher Hochschulen kein Weiter so geben wird. Sie wird sicher kein Einzelfall bleiben und andere Hochschulen werden folgen oder haben bereits stillschweigend ihre Politik geändert.
Welches Signal sendet die Entscheidung?
Hinsichtlich der Signalwirkung geht es aus meiner Sicht nicht um die Aufnahme oder Ablehnung von einzelnen Nachwuchswissenschaftler:innen mit Stipendium der chinesischen Regierung. Die Entscheidung der Universität reicht viel weiter: Es geht um den Umgang mit sicherheitsrelevanter Forschung und welche Forschungsprojekte in Zukunft mit chinesischen Partnern noch verfolgt werden können.
Die China-Strategie der Bundesregierung spricht diese Sprache noch nicht. Es findet sich darin vor allem Ermutigung für weitere Zusammenarbeit. Können Forschende nun weiter unbesorgt Kooperationen mit China anleiern oder nicht?
Die Strategie selbst ist diesbezüglich nur wenig konkret. Eine erste Klarstellung der Regierung kam aber schon kurz nach Veröffentlichung der Strategie in Form einer Pressemitteilung des Bundesministeriums für Bildung und Forschung (BMBF). Gesundheits- und Klimaforschung seien in Zukunft weiterhin gern gesehen. Aber alles, was außerhalb dieser Bereiche liege, soll kritisch auf Technologieabfluss oder militärische Nutzung geprüft werden.
Die Umsetzung durch das BMBF soll also strenger ausfallen als die Umrisse, die in der Strategie erkennbar sind.
Das BMBF hat nur eine geringe Handhabe, was Verbote für Akteure in der Wissenschaft und Forschung angeht – Wissenschaftsfreiheit ist ein hohes Gut und Hochschulen sind Ländersache. Das BMBF wird sicher die Sensibilisierung weiter vorantreiben und Informationsangebote machen.
Werden die Unis auf die Ratschläge hören?
Die Aktivitäten der vergangenen Jahre erreichen aus meiner Sicht in erster Linie die International Offices an Hochschulen. Leider lassen sich gerade Leute mit Seniorität in der Forschung nicht immer etwas von der Unileitung sagen. Um diese zu erreichen, müsste man ganz konkret an die Fachgesellschaften herantreten. Also beispielsweise die Deutsche Physikalische Gesellschaft. Diese könnten Formate anbieten, über die man die Wissenschaftler erreicht. Für viele Wissenschaftler ist die Strategie selbst zwar weit weg. Doch die Auswirkungen der China-Debatte kommen den Akteuren näher, wie jetzt das Beispiel der Universität Nürnberg-Erlangen zeigt.
Die Diskussion wird zum Teil sehr aufgeladen geführt. Können Sie die beiden Pole beschreiben, die sich da gebildet haben in der Bewertung von China-Kooperationen?
In den vergangenen fünf Jahren haben sich an den extremen Rändern zwei Camps gebildet. Die eine Seite sagt, verkürzt ausgedrückt: Macht nichts mehr mit China. Und die andere Seite sagt: Macht auf jeden Fall weiter. Tatsächlich ist vielen der Akteure in der Mitte klar, dass es Zeit für ein Umdenken ist und wir in der Kooperation mit China anders agieren müssen. Weder das Weiter so noch der Kontaktabbruch haben in Wirklichkeit eine große Mehrheit hinter sich.
Die extremen Stimmen sind zuweilen recht laut.
Es sind oft Einzelkämpfer, die sich dann gegenseitig als naiv oder als dumm bezeichnen. Ich denke, wir sollten uns hier an einen Tisch setzen und uns nicht noch weiter gegenseitig aufstacheln. Es ist wichtig, die Risiken konkret zu benennen, sie zu bewerten und einzuordnen. Die überladenen Diskussionen führen aber nirgendwohin.
Kann man festmachen, ab wann China sich so verändert hat?
Das war 2017/18, als die offiziellen Ankündigungen Chinas kamen, die zivil-militärische Integration voranzutreiben. Die Forschung ist Teil davon. Wir haben zugleich gesehen, dass viele davor eher liberal aufgestellte Universitäten in China für die Themen kritisiert wurden, an denen sie forschen. In informierten Kreisen war das ein Weckruf. Seither haben das BMBF und andere Stellen darüber informiert und sensibilisiert, sie sind mit verschiedenen Akteuren in die Diskussion eingestiegen. Viele Einrichtungen haben darauf basierend schon ihre Kooperation mit China angepasst.
Diese Debatte wird vor allem von Sozialwissenschaftlern und Sinologen geführt. Nur gibt es da draußen viele Naturwissenschaftler, die ganz praktisch mit chinesischen Unis Kooperieren.
Der öffentliche Schlagabtausch ist klar von Sinolog:innen dominiert – sie sind aber was die Kooperationen angeht lediglich eine kleine Teil-Gruppe. Wir müssen gemeinhin zwei Gruppen unterscheiden. Erstens, diejenigen, die China als Forschungsgegenstand haben – seien es Sozialwissenschaftler oder Ökonomen. Für sie ist es zentral, dass sie Zugang zum Land haben, dass sie dort Feldforschung machen können. Deren öffentlich geführte Debatte ist weit weg von der zweiten Gruppe.
Den Naturwissenschaftlern.
Das müssen nicht bloß Naturwissenschaftler sein, das können beispielsweise auch Philosophen sein. Sie kooperieren mit der chinesischen Seite, weil sie die Grenze des Wissens in ihrem Fachgebiet nach vorne schieben wollen. Für beide Gruppen spielen aber die immer schärferen Datenschutz- oder generell Datentransfer-Gesetze eine steigende Rolle. Den Chinaforschern sind die Risiken bereits bewusst. Doch auch für die Naturwissenschaftler sollten die Datentransfer-Regeln große Alarmlichter zum Leuchten bringen, weil eben große Datenmengen ausgetauscht werden, die nun ebenfalls Kontrollen von chinesischer Seite unterworfen sind.
Brauchen wir eine Zentralstelle für die Bewertung von China-Projekten?
Wir brauchen neue Strukturen und Prozesse für die Bewertung. Eine Zentralstelle halte ich hierbei allerdings für wenig praktikabel. Es gibt allein rund 1.400 Kooperationen zwischen deutschen und chinesischen Hochschulen. Stellen Sie sich vor, jede der beteiligten deutschen Hochschulen würde einmal im Jahr einen Antrag an diese Zentralstelle senden. Auch den Fokus auf China fände ich unglücklich.
Es wäre ein Bürokratie-Monster.
Ja. Eine Alternative wäre ein dezentraler Ansatz mit Kommissionen für Ethik in der sicherheitsrelevanten Forschung an den Hochschulen. Obwohl die DFG und Leopoldina bereits vor Jahren einen Ausschuss eingesetzt haben, der die Bewertungskompetenz der Hochschulen stärken will, hat der Großteil der deutschen Hochschulen weiterhin keine entsprechenden Kommissionen eingerichtet. Das wäre aber ein gangbarer Weg. Spätestens mit der Zeitenwende und dem Abbruch der Wissenschaftskooperationen mit Einrichtungen in Russland sollte klar sein, Hochschulen müssen sich den Fragen zum Umgang mit sicherheitsrelevanter Forschung stellen. Nicht nur bei Kooperationen mit Einrichtungen in China. Was die spezifische Länderkompetenz angeht, könnten die lokalen Kommissionen Unterstützung von Sinologen aber auch Experten zu Ausfuhrkontrollen erhalten.
Matthias Stepan forscht an der Ruhr-Uni Bochum zur Politik Ostasiens. Dort hat er die inhaltliche Leitung des Forschungsprojekts “Hochschulen als Akteure im Dialog mit China” inne und ist im EU-geförderten Projekt “China Horizons – Dealing with a Resurgent China” (DWARC) für Wissensmanagement verantwortlich. Stepan war zuvor Leiter des Pekinger Büros der Stiftung Mercator und im Management-Team des Mercator Institute for China Studies (Merics).
Im Mai meldete die Polizei der Stadt Baotou in der inneren Mongolei, dass ein Mann mithilfe von Deepfake-Technologie um umgerechnet 622.000 US-Dollar betrogen wurde. Ein Hacker hatte ihn mit einem täuschend echten KI-Klon eines Freundes hinters Licht geführt, der ihm in einem Video-Call erklärte, dringend Geld zu benötigen. Dabei handelte es sich nicht um das naive Opfer eines Enkel-Tricks. Der betrogene Mann ist leitender Angestellter einer Tech-Firma aus Fuzhou. Trotzdem hat ihn die lebensechte Körpersprache und Stimme seines falschen Freundes so sehr getäuscht, dass er umgehend den Geldbeutel zückte.
Lippensynchrone Bild- und Videofälschungen mit künstlicher Intelligenz, sogenannte “Deepfakes” können dank wachsender Rechenleistung und Speicherkapazitäten immer müheloser umgesetzt werden. Die Ergebnisse, die mit preiswerter Software erstellt werden können, sind für den Laien kaum noch vom Original zu unterscheiden – das beweisen gefälschte Reden von Politikern wie Putin oder Trump. Die Technik wird zum Beispiel eingesetzt, um im Internet Clickbait zu generieren, etwa indem berühmte Schauspieler in Filme versetzt werden, in denen sie niemals mitgespielt haben.
Deepfake-Technologie birgt große Gefahren, etwa wenn gefälschte Politiker-Reden für bare Münze genommen oder gezielt in politischen Verleumdungskampagnen eingesetzt werden. Schon jetzt wird der digitale Identitätsklau massiv für pornografische Videos und zunehmend auch für Erpressungen eingesetzt. Weltweit haben die Fälle von Deepfake-Betrug in den vergangenen drei Jahren massiv zugenommen, wie das auf KI-Sicherheit spezialisierte Unternehmen Sumsub errechnet hat. In Australien (5,3 %), Argentinien (5,1 %) und China (4,9 %) war der Anteil von Deepfakes an Betrugsverbrechen in den Jahren 2022 und 2023 demnach besonders hoch.
Obwohl der betrogene Tech-Executive in der Inneren Mongolei den Großteil seines Geldes durch die Hilfe der Polizei zurückbekam, löste der Fall in China hitzige Diskussionen über Online-Sicherheit aus. Die Internet Society of China gab eine Warnung heraus, in der sie die Öffentlichkeit zu erhöhter Wachsamkeit aufruft. In China, dessen Medienwelt von professionellen Live-Streamern durchdrungen ist, ist die Angst vor Online-Betrug realer als in Deutschland. So kam es in den vergangenen Monaten zum Beispiel immer häufiger vor, dass unbekannte Online-Influencer sich auf Video-Seiten wie Bilibili mit Faceswap-Technik als Celebrities ausgaben und Klicks und Geld generierten.
Peking bewertet Deepfake-Technik als hochriskant, nicht zuletzt da sie das Potenzial hat, die öffentliche Ordnung zu untergraben. Schon im Januar hatte Chinas Cyberspace-Verwaltung (CAC) eine Reihe von Regularien zur sogenannten “Technologie der Tiefensynthese” erlassen. Inhalte, die “die nationale Sicherheit und die nationalen Interessen gefährden und das nationale Image schädigen” sind laut den “Vorschriften für die Verwaltung von Internet-Informationsdiensten in der Tiefensynthese” von Vornherein verboten.
Von Anbietern harmloserer Inhalte verlangt die Behörde eine “auffällige Kennzeichnung” von KI-generierten Inhalten, da sie sonst “in der Öffentlichkeit Verwirrung stiften oder zu einer falschen Identifizierung führen können”. Nutzer müssten authentische Medieninhalte sofort von Fälschungen unterscheiden können. Genannt werden etwa Wasserzeichen. Zuwiderhandlung der Kennzeichnung steht unter Strafe. Alle Produzenten von Deepfakes und Nutzer von Deepfake-Dienstleistungen wie Faceswap-Apps müssen sich gemäß der neuen Regeln zudem mit echtem Namen registrieren. Ein Kalkül ist, dass bestimmte Deepfakes bei diesem Aufwand gar nicht erst entstehen. Chinas Cyberspace-Verwaltung (CAC) bekräftigte diesen Monat zudem, dass alle generativen KI-Dienste im Einklang mit den sozialistischen Grundwerten der Partei stehen müssen.
China ist eines der ersten Länder, das umfassende Regeln zum Umgang mit Deepfake-Technologie vorgelegt hat. Andere wie Taiwan, England und einige US-Staaten wie Florida gehen bereits gesetzlich gegen bestimmte Teilbereiche wie künstlich erstellte Pornos und gefälschte Politiker-Reden vor. Andernorts arbeitet man daran, bestehende Regelwerke an die neuen Gefahren anzupassen, zum Beispiel in Singapur, wo der Personal Data Protection Act (PDPA), der die Erhebung, Verwendung und Weitergabe personenbezogener Daten regelt, hinsichtlich Deepfake-Risiken erweitert wird.
Auch die Europäische Union will mit einem Regelwerk zur künstlichen Intelligenz, dem “AI Act”, Deepfakes eindämmen. Demnach soll eine Kennzeichnung betreffender Inhalte aber bis auf Weiteres auf freiwilliger Basis geschehen. Kritiker dieser Lösung, etwa SPD-Chefin Saskia Esken, finden, das sei das zu wenig, um echten Schaden abzuwehren.
Schnelles Handeln ist in jedem Fall angesagt. Mit immer größeren Bandbreiten können schon bald nicht mehr nur Personen, sondern ganze Szenarien so realistisch gefälscht werden, dass man sie nicht von tatsächlichen Ereignissen unterscheiden kann. Der KI-Experte Kai-Fu Lee schreibt in seinem jüngsten Buch, einem Zukunftsausblick ins Jahr 2041, dass Anti-Deepfake-Programme bald so normal sein werden wie Anti-Viren-Software.
Sowohl Facebook als auch Google haben bereits Preise für die beste Deep-Fake-Erkennungssoftware ausgelobt. Doch auch die Fälschungen dürften dabei immer besser werden. Ein Katz-und-Maus-Spiel mit unbekanntem Ausgang, glaubt Lee. Er sagt: Wir müssen uns an eine Welt gewöhnen, in der wir noch mehr als heute alles hinterfragen müssen, was uns im Netz serviert wird. Auch deshalb wird es ohne verbindliche Gesetze und entsprechende Strafen nicht gehen.
Die Texte der Table.Media-Serie “Der Globale Wettlauf um Künstliche Intelligenz” finden Sie hier.
Bei den schweren Überschwemmungen im Nordosten Chinas sind in der Nähe von Peking weitere zehn Menschen ums Leben gekommen. Die Behörden veröffentlichten am Samstag eine Bilanz für die Stadt Baoding rund 150 Kilometer südwestlich der Hauptstadt Peking. Damit stieg die Zahl der Todesopfer in der Region infolge der schweren Überschwemmungen auf insgesamt mindestens 30, wie die Nachrichtenagentur AFP berichtete. Die extremen Regenfälle sind eine Folge des Tropensturms Doksuri.
In der Stadt Boading mit ihren rund 11,5 Millionen Einwohnern wurden den Behörden zufolge 18 Menschen noch vermisst, mehr als 600.000 Menschen wurden evakuiert. In Peking wurde die Warnung für die Bevölkerung wegen der Risiken durch Erdrutsche aufrechterhalten. Die Aufräumarbeiten in der Region liefen weiter, nachdem durch die Überschwemmungen ganze Bezirke überflutet und Infrastruktur zerstört worden waren.
In der Stadt Shulan in der Provinz Jilin regnete es den fünften Tag in Folge. Sechs Menschen seien gestorben und vier Menschen würden vermisst, berichten staatliche Medien. Nach Angaben der örtlichen Katastrophenschutzbehörde wurden rund 19.000 Menschen aus der 700.000 Einwohner zählenden Stadt evakuiert. Die staatliche Nachrichtenagentur China News Service zeigt Bilder von überschwemmten Straßen.
In der Stadt Zhouzhou in der Provinz Hebei verwandelten sich Einkaufsstraßen in braune Flüsse. Auch die Felder in der Gegend standen komplett unter Wasser. Die Überschwemmungen erstreckten sich kilometerweit. Rettungskräfte brachten nach AFP-Informationen Nudeln, Brot und Trinkwasser zu den Betroffenen, die ihre Häuser nicht verlassen konnten oder wollten.
In sozialen Medien verbreiteten sich Videos von einer Demonstration in Bazhou in der Provinz Hebei. Die Protestierenden warfen den Behörden den Postings zufolge vor, Flutwasser von Peking weg und in ihre Richtung geleitet zu haben, um die Hauptstadt zu schützen.
Nach Angaben des chinesischen Wetterdienstes waren es in Peking die heftigsten Regenfälle seit Beginn der Wetteraufzeichnungen vor 140 Jahren. ari
Der Fall des Menschenrechtsanwalts Lu Siwei könnte eine alarmierende Serie von chinesischer Einflussnahme auf die Justiz anderer Staaten fortsetzen. Lu war Ende Juli in Laos festgenommen worden. Aktivisten und Verwandte des Anwalts fürchten jetzt um seine illegale Auslieferung an die Behörden der Volksrepublik China.
“Wir sind sehr besorgt darüber, dass er ernsthaft Gefahr läuft, nach China zwangsrückgeführt zu werden, wo ihm mit hoher Wahrscheinlichkeit Folter und andere Misshandlungen drohen”, heißt es in einem Aufruf von 79 Menschenrechtsorganisationen, die internationale politische Unterstützung für Lu fordern. Die Regierungen von Drittstaaten sollten umgehend handeln, um Lu den Kontakt zu zuständigen UN-Behörden und einem Anwalt seiner Wahl zu ermöglichen.
Lu hatte es Mitte vergangenen Monats trotz Ausreiseverbots in China nach Laos geschafft. Von dort aus wollte er mit dem Zug weiter nach Thailand reisen, um schließlich ein Flugzeug in Richtung USA zu besteigen. Begleitet wurde er von zwei Freunden, die in den USA leben, und seine Festnahme durch die laotische Polizei publik machten. Mehr als zehn Beamte hatten Lu vor Besteigen des Zuges abgefangen, ihn in ein Auto gezwängt und an einen vorerst unbekannten Ort verschleppt.
Lu Siwei wollte in den USA zu seiner Ehefrau und seiner Tochter, die dort seit zwei Jahren leben, um möglichen Gängelungen durch die chinesischen Sicherheitsbehörden zu entgehen. Im Januar 2021 war ihm die Anwaltslizenz entzogen und die Ausreise aus China verboten worden. Wenige Monate zuvor hatte er die Verteidigung der verfassungsgemäßen Rechte von zwölf Hongkonger Aktivisten in China vertreten. Die jungen Leute gehörten zu den treibenden Kräften der Hongkonger Protestbewegung der Jahre 2019 und 2020. Sie hatten versucht, aus der Stadt per Boot in Richtung Taiwan zu fliehen, wurden dabei aber gefasst und nach China gebracht.
Bereits in den Jahren zuvor war er den Behörden negativ aufgefallen, weil er als Anwalt seiner chinesischen Kollegen auftrat, die im Rahmen der 709-Säuberung festgenommen worden waren. Das politisch motivierte Vorgehen gegen Chinas Bürgerrechtsbewegung hatte am 9. Juli 2015 begonnen und dadurch seine numerische Kennzeichnung erhalten. Im Rahmen dieser Säuberung wurden Dutzende Anwälte verhaftet und verurteilt. Die Jagd auf die Anwälte ist seitdem nie eingestellt worden. Lu Siwei ist nun der nächste, der für sein bürgerliches Engagement einen hohen Preis zahlen könnte.
Seine Auslieferung dürfte nur eine Frage von kurzer Zeit sein, wenn sich das Muster der vergangenen Fälle wiederholt. Denn China nutzt seine politische und wirtschaftliche Bedeutung gerne dazu, kleinere Partnerstaaten zu Zugeständnissen zu bewegen. Zuletzt war beispielsweise der Demokratieaktivist Dong Guangping in Vietnam verschwunden und wenig später in chinesischem Gewahrsam wieder aufgetaucht. Ein extremer Fall war der des schwedischen Buchhändlers Gui Minhai, der aus Thailand verschleppt wurde und jetzt eine lange Haftstrafe in China absitzt. Schon 2009 stand Kambodscha Pate, als das Land chinesische Uiguren ohne Berücksichtigung juristischer Prozedere nach China auslieferte.
Menschenrechtsorganisationen erinnern die laotische Regierung jetzt daran, dass sie nach internationalem Gewohnheitsrecht und als Vertragsstaat der UN-Konvention gegen Folter seit 2012 verpflichtet ist, die Auslieferung zu verhindern, wenn einem Betroffenen die Folter droht. Ob das ausreicht, um jüngste chinesisch-laotische Treueschwüre zu überwinden, ist fraglich.
Im April war Außenminister Wang Yi in seiner damaligen Funktion als Chinas Chef-Diplomat mit dem laotischen Premierminister Saleumxay Kommasith zusammengetroffen. “Das laotische Volk schätzt von ganzem Herzen die starke Unterstützung und selbstlose Hilfe der Kommunistischen Partei Chinas, der chinesischen Regierung und des chinesischen Volkes. Laos ist bereit, mit China zusammenzuarbeiten, um den Austausch und die Zusammenarbeit zu stärken”, sagte Kommasith damals.grz
Bis zu den Hüften im Wasser steht diese Erntehelferin, die in Taizhou in der Provinz Jiangsu Wasserkastanien pflückt. Die Knollen, aber auch das Stroh der aquatisch lebenden Pflanze, werden in China vielfältig verwendet, zum Beispiel als Grundlage für Erfrischungsgetränke.
