Heute Vormittag kommt es in Straßburg zum Showdown: Um kurz vor 9 Uhr soll Polens Ministerpräsident Mateusz Morawiecki vor dem Europäischen Parlament vorfahren und sich direkt in den Plenarsaal begeben. Dort werden ihm zunächst Kommissionspräsidentin Ursula von der Leyen und anschließend die Vertreter der Fraktionen wissen lassen, was sie von der Justizreform seiner Regierung und besonders dem jüngsten Urteil des polnischen Verfassungsgerichts halten: überwiegend sehr wenig.
Das auf fragwürdige Weise besetzte Verfassungsgericht hatte die Vorrangigkeit von EU-Recht offen infrage gestellt und von der Leyen damit unter Zugzwang gesetzt. Sie wird im Parlament nun die Handlungsalternativen der Kommission darlegen, von einem neuerlichen Vertragsverletzungsverfahren bis hin zur Auslösung des neuen Rechtsstaatsmechanismus. Welche Option(en) die Kommission ziehen wird, hat sie aber noch nicht entschieden.
Einen längeren Prozess läutet auch die Konsultation zum Euro-Stabilitätspakt ein, die die Behörde am Nachmittag vorstellen wird. Die Vorlage mit ihren elf Fragen ist recht neutral formuliert, die entsprechenden Reformvorschläge werden erst im kommenden Frühjahr oder Sommer folgen. Der CSU-Europaabgeordnete Markus Ferber warnt aber bereits vor dem, was Wirtschaftskommissar Paolo Gentiloni im Schilde führe: “die EU-Fiskalregeln zu verwässern”.
ESM-Chef Klaus Regling hatte schon am Wochenende klargemacht, dass er die Dinge etwas anders sieht. Man könne seine Glaubwürdigkeit auch einbüßen, wenn man an Regeln festhalte, die “wirtschaftlich widersinnig sind“, sagte er. Denn die Schuldenstände sind Pandemie-bedingt stark gestiegen. Italien etwa müsste sein Verschuldungsniveau um fünf Prozentpunkte pro Jahr senken, wenn der Stabilitätspakt ab 2023 wieder regulär greift. Das aber erscheint unrealistisch und würde erhebliche Verwerfungen verursachen.
Die Schattenberichterstatterin der Grünen/EFA-Fraktion im Binnenmarktausschuss (IMCO), Kim Van Sparrentak, betont, dass die Wahrung von Grundrechten bei den Verhandlungen über die KI-Verordnung im Vordergrund stehen müsse. Ob das Parlament sich wirklich dazu entscheide, sei aber noch nicht abzusehen. “Das fordert harte Entscheidungen, auch wenn diese gegen die Interessen von Big Tech oder einiger Mitgliedstaaten gehen”, so die Niederländerin. Das Verbot von automatisierter Gesichtserkennung in öffentlich zugänglichen Räumen, für das sich die Europaabgeordneten am 6. Oktober innerhalb des Initiativberichts zu Künstlicher Intelligenz im Strafrecht ausgesprochen hatten, zeige immerhin, dass es in der Debatte Fortschritt gebe.
Auch die Schattenberichterstatterin von Renew Svenja Hahn (FDP) pocht auf einen besseren Schutz von Grundrechten: “Wir müssen die Hintertüren für biometrische Überwachung im öffentlichen Raum schließen, die der Kommissionsvorschlag öffnet”, fordert sie.
Der Berichterstatter Brando Benifei (IT, S&D) will das Verbot von automatisierter Gesichtserkennung in öffentlich zugänglichen Räumen auch in die KI-Verordnung aufnehmen und hatte bereits eine Mehrheit hinter seinem Änderungsvorschlag versammelt. Es ist jedoch fraglich, ob sich Benifei mit seiner Forderung durchsetzen kann, wenn die Federführung tatsächlich zwischen dem IMCO und dem Rechtsausschuss (JURI) aufgeteilt werden sollte (Europe.Table berichtete).
Beobachter vermuten, dass der JURI-Ausschuss in diesem Fall auch die exklusive Kompetenz für den Artikel 5 der KI-Verordnung bekommen könnte, der regeln soll, welche KI-Anwendungen verboten werden. Sollte der CDU-Europaabgeordnete Axel Voss zum JURI-Berichterstatter ernannt werden, wovon viele Parlamentarier ausgehen, könnte es zu einer schwierigen Kompromissfindung kommen. Denn die EVP lehnt das Verbot von automatisierter Gesichtserkennung in öffentlich zugänglichen Räumen ab.
Der europäische Verbraucherverband BEUC plädiert in einem aktuellen Positionspapier dafür, die Liste der verbotenen KI-Anwendungen zu erweitern. Nicht nur Anwendungen, die physische oder psychische Schäden verursachen können, sondern auch solche, die wirtschaftlichen Schaden anrichten können, sollen demnach untersagt werden. Zudem fordert BEUC, KI-Systeme zu verbieten, die temporäre Schwächen wie Trauer oder emotionalen Stress von Nutzer:innen ausnutzen.
Der Vorschlag der Kommission führt lediglich die Schutzbedürftigkeit von Personen aufgrund ihres Alters oder ihrer körperlichen oder geistigen Behinderung auf. Das sogenannte Social Scoring will BEUC in der Verordnung nicht nur für Behörden verbieten, sondern auch für private Akteure. Dabei führt der Verband das Beispiel Airbnb an: Das Unternehmen hat vor kurzem ein System für Künstliche Intelligenz patentieren lassen, das durch Social Scoring die Vertrauenswürdigkeit von Nutzer:innen ermittelt.
Zudem kritisiert der Verband, dass der Kommissionsvorschlag KI-Emotionserkennungssysteme nur Transparenzvorschriften unterwerfen will. Er pocht darauf, die Nutzung dieser Systeme ganz zu verbieten – außer es handelt sich um äußerst spezifische Umstände in den Bereichen Gesundheit oder Forschung. Auch Schattenberichterstatterin Van Sparrentak setzt sich für diese Forderung ein und weist darauf hin, dass Menschen auch in anderen Bereichen wie auf der Arbeit oder in der Universität vor Überwachung durch intrusive emotions- oder geschlechterbasierte Erkennungssoftware geschützt werden müssten.
Welche Systeme sollen unter die Künstliche Intelligenz-Verordnung fallen? Auch in dieser Frage herrscht Uneinigkeit. Während zum Beispiel die Grünen/EFA den breit gezogenen Anwendungsbereich des Kommissionsvorschlags befürworten, fordert die EVP-Fraktion, diesen enger zu fassen. Auch Renew-Schattenberichterstatterin Hahn sieht Nachbesserungsbedarf: “Der Anwendungsbereich muss für mehr Klarheit nachgeschärft werden, insbesondere die Definition von KI ist ein Knackpunkt“. Die “Go’s und No-Go’s” müssten noch klarer definiert werden, um KI-Entwicklern, Anbietern und Anwendern größtmögliche Rechtssicherheit zu geben.
Laut Vorschlag würden zwar fast alle KI-Systeme sowie deren Anbieter und Nutzer unter die Verordnung fallen. BEUC kritisiert jedoch, dass sich, abgesehen von Artikel 5, der Großteil der Verordnung allein auf Pflichten für Hochrisiko-KI-Systeme bezieht – also solche Systeme Künstlicher Intelligenz, die große Risiken für Gesundheit, Sicherheit oder die Grundrechte darstellen. Die Forderung des Verbands: Die KI-Verordnung muss Pflichten für alle KI-Systeme schaffen.
Der Kommissionsvorschlag sieht vor, eine Konformitätsbewertung (Risiko-Bewertung) durch Dritte nur für solche Hochrisiko-KI-Systeme vorzuschreiben, die mit Produkten in Verbindung stehen (also Sicherheitskomponenten von Produkten sind oder ein eigenständiges Produkt darstellen). Andere Hochrisiko-KI-Systeme, die große Risiken zum Beispiel für Grundrechte darstellen könnten, müssten demnach nur eine Selbstbewertung durchführen. IMCO-Berichterstatter Benifei will dafür eintreten, dass eine Konformitätsbewertung durch Dritte (wie durch TÜV-Süd) für alle Hochrisiko-KI-Systeme verpflichtend wird. Auch BEUC unterstützt diese Forderung.
Der Kommissionsvorschlag sieht Transparenzvorschriften für bestimmte KI-Systeme vor, jedoch nicht für die Nutzer:innen dieser KI-Systeme. Das ist aus Perspektive der Grünen/EFA problematisch. So könne zum Beispiel ein Arbeitgeber eine KI-basierte Entscheidung fällen, ohne dass der betroffene Arbeitnehmer davon wisse.
Chinesische Unternehmen in Europa sehen ihre Geschäfte generell optimistisch – geplante neue Regularien aus Brüssel und zunehmend schwierige politische Fahrwasser trüben aber die Aussichten. Das geht aus einem Bericht der chinesischen Handelskammer in der Europäischen Union (CCCEU) hervor, der am Montag gemeinsam mit der Beratungsfirma Roland Berger in Brüssel vorgestellt wurde. Vor allem im Bereich des 5G-Ausbaus fühlen sich die Unternehmen aus der Volksrepublik gegängelt. Großes Potenzial für Kooperation zwischen China und der EU sieht der Kammer-Bericht bei grünen und digitalen Themen. Was bei der Vorstellung, und in dem Papier selbst, mehrfach betont wird: Es muss “gegenseitiges Vertrauen” geschaffen werden.
Brüssel wird in dem CCCEU-Report dazu angehalten, einen “offenen, fairen und diskriminierungsfreien Markt für Chinas Telekommunikationsunternehmen” zu schaffen. Der Ausschluss von Anbietern wie Huawei und ZTE habe primär politische Gründe, kritisierte Kammer-Präsident Xu Haifeng. Dass die Telekommunikationsriesen aus der Volksrepublik beim 5G-Ausbau in mehreren EU-Staaten gar nicht mitmischen dürften, basiere nicht auf technischen Problemen. “Sondern weil es chinesische Unternehmen sind”, kritisierte Xu. Im Bericht werden “klare Vorschriften, Standards und Umsetzungsrichtlinien für Cybersicherheit” verlangt. “Wir wollen mit Europäern zusammenarbeiten, um Cybersicherheitsstandards und -verfahren zu schaffen“, betonte der Kammer-Präsident.
Helfen soll dabei auch: vertieftes Vertrauen von beiden Seiten. Nur so könnten die Schwierigkeiten gelöst werden, betonte Xu. Brüssel und Peking blicken auf schwierige Monate zurück, in der Handelspolitik sowie in der Diplomatie. Gegenseitige Sanktionen und das Einfrieren des Investitionsabkommen CAI wurden laut CCCEU-Bericht als Hauptpunkte genannt, die die Stimmung im Handel zwischen EU und China trübten. Auch, dass Brüssel bei ausländischen Direktinvestitionen im Oktober 2020 abermals die Regeln verschärfte, kam bei chinesischen Unternehmen laut Umfrage nicht gut an.
Aber auch Falschinformationen machen den Konzernen aus der Volksrepublik zu schaffen. Laut der Umfrage der CCCEU glauben 59 Prozent der befragten chinesischen Unternehmen, dass Desinformation “eine Bedrohung für ihre Geschäftstätigkeit darstellt”. Einige Unternehmen erklärten, dass Zweifel und Spekulationen über Sicherheit und Wettbewerbsgeist chinesischer Unternehmen konkrete Auswirkungen auf ihre wirtschaftlichen Aktivitäten hätten. Die CCCEU vertritt nach eigenen Angaben rund 1.000 chinesische Unternehmen in den 27 EU-Mitgliedstaaten.
Als konkrete Beispiele für “Unwahrheiten” wurden die Weitergabe von verbraucherbezogenen Daten und Technologie-Aneignung genannt. Die “negative öffentliche Meinung” habe einige der befragten Unternehmen in Bedrängnis gebracht, einigen bereits die Zusammenarbeit mit lokalen Partnern gekostet. Das habe wiederum “zum Verlust von Verbrauchern und höheren Betriebskosten” geführt – und mache das Geschäftsumfeld in der EU weniger attraktiv und rentabel, warnt der Bericht.
Trotz allem: Die meisten chinesischen Unternehmen in der EU sind zuversichtlich ob der Kooperation und Entwicklung in den Wirtschafts- und Handelsbeziehungen. 86 Prozent der befragten Unternehmen waren der Meinung, dass die EU für chinesische Unternehmen deutlich an Bedeutung gewonnen habe. Vor allem aufgrund der Corona-Pandemie seien die Ergebnisse der chinesischen Firmen im vergangenen Jahr jedoch “bescheiden” gewesen:
Rund 44 Prozent der befragten Unternehmen gaben dem Bericht zufolge an, dass ihre Umsätze in der EU im Jahr 2020 unverändert geblieben sind. Rund 33 Prozent verzeichneten eine Umsatzsteigerung. Knapp mehr als die Hälfte (52 Prozent) der Befragten wollen ihre Geschäftsaktivitäten in der EU wie bisher fortführen. Gut 44 Prozent beabsichtigen, ihre Investitionen in der EU sogar auszuweiten. Der Gesamtumsatz chinesischer Firmen belief sich dem Papier zufolge in den 27 Mitgliedstaaten der Europäischen Union auf 150,3 Milliarden Euro. Das entspricht 1,4 Prozent mehr als im Vorjahr.
Der Optimismus wird jedoch wegen neuer EU-Regelungen geschmälert: Rund 68 Prozent der befragten Unternehmen gehen dem Bericht zufolge davon aus, dass neue EU-Regularien gegen ausländische Subventionen (China.Table berichtete) “erhebliche oder eher negative Auswirkungen” auf ihr Tagesgeschäft und ihre Bietertätigkeit haben werden. In diesem Sinne fordert der Bericht die EU auf, negative Auswirkungen dieser europäischen Instrumente zu beseitigen und eine Überregulierung zu vermeiden.
Ansätze für mehr Zusammenarbeit sieht die chinesische Kammer bei grünen und digitalen Bereichen: Diese könnten ein Motor für die Geschäftsaktivitäten chinesischer Unternehmen in der EU sein. 30 Prozent der befragten Unternehmer sehen hier vor allem eine Chance. 46 Prozent sind der Umfrage zufolge jedoch noch skeptisch und sehen sowohl Chancen als auch Herausforderungen. Ähnlich sieht es im Digitalen aus. Hier sehen dem Report zufolge rund 60 Prozent der befragten Unternehmen neue Möglichkeiten, aber auch gleichzeitig Herausforderungen für ihre Geschäfte.
Die Kooperation der EU mit anderen Partnern kommt hingegen weniger gut an: Die chinesischen Unternehmen warnen, dass das “EU-US Trade and Technology Council” (kurz TTC) negative Auswirkungen haben könnte. Die Zusammenarbeit zwischen Brüssel und Washington bei Standards in Bereichen wie der Telekommunikation oder Lieferketten könnte durch den Ausschluss Chinas zu einer globalen Fragmentierung führen.
Es war 1985. Das Jahr der Kinderschuhe, in denen die innovative Technik von heute noch steckte. Das PDF war eher ein Versprechen als ein echtes Format. Da stürzte sich Andreas Dengel in eine Diplomarbeit für Siemens. Es ging darum, dass der Computer gescannte Dokumente analysieren und relevante Inhalte auslesen sollte. Sein Heureka-Moment. Die künstliche Intelligenz dahinter konnte das, was wir beim Menschen “lesen” nennen würden.
Sprung ins Jahr 2021. Andreas Dengel ist heute Professor und geschäftsführender Direktor des Deutschen Forschungszentrums für Künstliche Intelligenz (DFKI). Auch wenn er das selbst nicht aussprechen würde, ist er eine Koryphäe auf dem Gebiet. “Ich habe schon viele schöne Orte erlebt, an denen ich Ehrungen bekommen habe, aber die Ehrenprofessur in Japan ist sicherlich eine ganz besondere.” Gemeint ist der Titel “Distinguished Honorary Professor” (tokubetu eiyo kyoju) an der Osaka Prefecture University. In 135 Jahren Uni-Geschichte bekamen den Titel nur fünf Personen.
Das DFKI ist eine GmbH. Ein “Transfer-Institut”, wie es Dengel nennt, das als Schnittstelle zwischen der Wirtschaft und der Universität arbeite. Etwa 740 Angestellte und 510 studentische Mitarbeiter:innen arbeiten an rund 250 Forschungsprojekten. Dengel führt und moderiert, übersetzt die Erkenntnisse aber auch. Denn es gibt oft Missverständnisse beim Thema KI. “Wir Menschen neigen dazu, wenn wir KI oder Künstliche Intelligenz hören, sie mit unserer eigenen Intelligenz zu vergleichen und gewisse Fantasien zu entwickeln. Dadurch wird die KI oft überschätzt“, beschreibt er das Problem.
KI sei vielmehr ein Werkzeugkasten, der helfen könne, die Komplexität bestimmter Themen zu reduzieren. Das kann in der Medizin genauso helfen wie in der Verkehrs- und Energiesteuerung oder der Kriminalitätsbekämpfung – von Finanzverbrechen bis zur Kinderpornografie.
Eine Gefahr der KI sei jedoch die Abhängigkeit von ihr, glaubt Dengel: “In der Verkehrssteuerung, in der Versorgungssteuerung, überall ist KI mit drin. Fallen diese Systeme aus, fällt es uns schwer, aus dem Stand heraus Auswege aus dem Schlamassel zu finden.”
Die Frage ist also, was Nutzer:innen aus der Hand geben wollen. In diesem Kontext muss jede:r für sich entscheiden, welche Aspekte des Lebens man für sich alleine wolle. Das hat Dengel privat auch getan. “Mir ist es wichtig, meine eigenen Grenzlinien zu ziehen. Zu wissen, was ich preisgeben möchte und was nicht. In dem Sinne habe ich weder Instagram noch einen Facebook-Account.”
Um solche Fragen auch in der Politik zu diskutieren, gibt es unter anderem die Global Partnership on AI (GPAI). Hier werden Grenzen besprochen, ab denen die KI nicht mehr ohne Kontrollen alleine agieren darf. Kein leichtes Unterfangen. Dengel verweist auf das Problem der unterschiedlichen Wertesysteme von KI-Großmächten wie Europa, China und den USA. Auf europäischer Ebene gelte es, Ängste zu nehmen und passende Rahmenbedingungen zu definieren – wie Daten erhoben und verwendet würden. Ein Punkt, bei dem es mehr Dynamik bräuchte. Christian Domke Seidel
Heute Vormittag kommt es in Straßburg zum Showdown: Um kurz vor 9 Uhr soll Polens Ministerpräsident Mateusz Morawiecki vor dem Europäischen Parlament vorfahren und sich direkt in den Plenarsaal begeben. Dort werden ihm zunächst Kommissionspräsidentin Ursula von der Leyen und anschließend die Vertreter der Fraktionen wissen lassen, was sie von der Justizreform seiner Regierung und besonders dem jüngsten Urteil des polnischen Verfassungsgerichts halten: überwiegend sehr wenig.
Das auf fragwürdige Weise besetzte Verfassungsgericht hatte die Vorrangigkeit von EU-Recht offen infrage gestellt und von der Leyen damit unter Zugzwang gesetzt. Sie wird im Parlament nun die Handlungsalternativen der Kommission darlegen, von einem neuerlichen Vertragsverletzungsverfahren bis hin zur Auslösung des neuen Rechtsstaatsmechanismus. Welche Option(en) die Kommission ziehen wird, hat sie aber noch nicht entschieden.
Einen längeren Prozess läutet auch die Konsultation zum Euro-Stabilitätspakt ein, die die Behörde am Nachmittag vorstellen wird. Die Vorlage mit ihren elf Fragen ist recht neutral formuliert, die entsprechenden Reformvorschläge werden erst im kommenden Frühjahr oder Sommer folgen. Der CSU-Europaabgeordnete Markus Ferber warnt aber bereits vor dem, was Wirtschaftskommissar Paolo Gentiloni im Schilde führe: “die EU-Fiskalregeln zu verwässern”.
ESM-Chef Klaus Regling hatte schon am Wochenende klargemacht, dass er die Dinge etwas anders sieht. Man könne seine Glaubwürdigkeit auch einbüßen, wenn man an Regeln festhalte, die “wirtschaftlich widersinnig sind“, sagte er. Denn die Schuldenstände sind Pandemie-bedingt stark gestiegen. Italien etwa müsste sein Verschuldungsniveau um fünf Prozentpunkte pro Jahr senken, wenn der Stabilitätspakt ab 2023 wieder regulär greift. Das aber erscheint unrealistisch und würde erhebliche Verwerfungen verursachen.
Die Schattenberichterstatterin der Grünen/EFA-Fraktion im Binnenmarktausschuss (IMCO), Kim Van Sparrentak, betont, dass die Wahrung von Grundrechten bei den Verhandlungen über die KI-Verordnung im Vordergrund stehen müsse. Ob das Parlament sich wirklich dazu entscheide, sei aber noch nicht abzusehen. “Das fordert harte Entscheidungen, auch wenn diese gegen die Interessen von Big Tech oder einiger Mitgliedstaaten gehen”, so die Niederländerin. Das Verbot von automatisierter Gesichtserkennung in öffentlich zugänglichen Räumen, für das sich die Europaabgeordneten am 6. Oktober innerhalb des Initiativberichts zu Künstlicher Intelligenz im Strafrecht ausgesprochen hatten, zeige immerhin, dass es in der Debatte Fortschritt gebe.
Auch die Schattenberichterstatterin von Renew Svenja Hahn (FDP) pocht auf einen besseren Schutz von Grundrechten: “Wir müssen die Hintertüren für biometrische Überwachung im öffentlichen Raum schließen, die der Kommissionsvorschlag öffnet”, fordert sie.
Der Berichterstatter Brando Benifei (IT, S&D) will das Verbot von automatisierter Gesichtserkennung in öffentlich zugänglichen Räumen auch in die KI-Verordnung aufnehmen und hatte bereits eine Mehrheit hinter seinem Änderungsvorschlag versammelt. Es ist jedoch fraglich, ob sich Benifei mit seiner Forderung durchsetzen kann, wenn die Federführung tatsächlich zwischen dem IMCO und dem Rechtsausschuss (JURI) aufgeteilt werden sollte (Europe.Table berichtete).
Beobachter vermuten, dass der JURI-Ausschuss in diesem Fall auch die exklusive Kompetenz für den Artikel 5 der KI-Verordnung bekommen könnte, der regeln soll, welche KI-Anwendungen verboten werden. Sollte der CDU-Europaabgeordnete Axel Voss zum JURI-Berichterstatter ernannt werden, wovon viele Parlamentarier ausgehen, könnte es zu einer schwierigen Kompromissfindung kommen. Denn die EVP lehnt das Verbot von automatisierter Gesichtserkennung in öffentlich zugänglichen Räumen ab.
Der europäische Verbraucherverband BEUC plädiert in einem aktuellen Positionspapier dafür, die Liste der verbotenen KI-Anwendungen zu erweitern. Nicht nur Anwendungen, die physische oder psychische Schäden verursachen können, sondern auch solche, die wirtschaftlichen Schaden anrichten können, sollen demnach untersagt werden. Zudem fordert BEUC, KI-Systeme zu verbieten, die temporäre Schwächen wie Trauer oder emotionalen Stress von Nutzer:innen ausnutzen.
Der Vorschlag der Kommission führt lediglich die Schutzbedürftigkeit von Personen aufgrund ihres Alters oder ihrer körperlichen oder geistigen Behinderung auf. Das sogenannte Social Scoring will BEUC in der Verordnung nicht nur für Behörden verbieten, sondern auch für private Akteure. Dabei führt der Verband das Beispiel Airbnb an: Das Unternehmen hat vor kurzem ein System für Künstliche Intelligenz patentieren lassen, das durch Social Scoring die Vertrauenswürdigkeit von Nutzer:innen ermittelt.
Zudem kritisiert der Verband, dass der Kommissionsvorschlag KI-Emotionserkennungssysteme nur Transparenzvorschriften unterwerfen will. Er pocht darauf, die Nutzung dieser Systeme ganz zu verbieten – außer es handelt sich um äußerst spezifische Umstände in den Bereichen Gesundheit oder Forschung. Auch Schattenberichterstatterin Van Sparrentak setzt sich für diese Forderung ein und weist darauf hin, dass Menschen auch in anderen Bereichen wie auf der Arbeit oder in der Universität vor Überwachung durch intrusive emotions- oder geschlechterbasierte Erkennungssoftware geschützt werden müssten.
Welche Systeme sollen unter die Künstliche Intelligenz-Verordnung fallen? Auch in dieser Frage herrscht Uneinigkeit. Während zum Beispiel die Grünen/EFA den breit gezogenen Anwendungsbereich des Kommissionsvorschlags befürworten, fordert die EVP-Fraktion, diesen enger zu fassen. Auch Renew-Schattenberichterstatterin Hahn sieht Nachbesserungsbedarf: “Der Anwendungsbereich muss für mehr Klarheit nachgeschärft werden, insbesondere die Definition von KI ist ein Knackpunkt“. Die “Go’s und No-Go’s” müssten noch klarer definiert werden, um KI-Entwicklern, Anbietern und Anwendern größtmögliche Rechtssicherheit zu geben.
Laut Vorschlag würden zwar fast alle KI-Systeme sowie deren Anbieter und Nutzer unter die Verordnung fallen. BEUC kritisiert jedoch, dass sich, abgesehen von Artikel 5, der Großteil der Verordnung allein auf Pflichten für Hochrisiko-KI-Systeme bezieht – also solche Systeme Künstlicher Intelligenz, die große Risiken für Gesundheit, Sicherheit oder die Grundrechte darstellen. Die Forderung des Verbands: Die KI-Verordnung muss Pflichten für alle KI-Systeme schaffen.
Der Kommissionsvorschlag sieht vor, eine Konformitätsbewertung (Risiko-Bewertung) durch Dritte nur für solche Hochrisiko-KI-Systeme vorzuschreiben, die mit Produkten in Verbindung stehen (also Sicherheitskomponenten von Produkten sind oder ein eigenständiges Produkt darstellen). Andere Hochrisiko-KI-Systeme, die große Risiken zum Beispiel für Grundrechte darstellen könnten, müssten demnach nur eine Selbstbewertung durchführen. IMCO-Berichterstatter Benifei will dafür eintreten, dass eine Konformitätsbewertung durch Dritte (wie durch TÜV-Süd) für alle Hochrisiko-KI-Systeme verpflichtend wird. Auch BEUC unterstützt diese Forderung.
Der Kommissionsvorschlag sieht Transparenzvorschriften für bestimmte KI-Systeme vor, jedoch nicht für die Nutzer:innen dieser KI-Systeme. Das ist aus Perspektive der Grünen/EFA problematisch. So könne zum Beispiel ein Arbeitgeber eine KI-basierte Entscheidung fällen, ohne dass der betroffene Arbeitnehmer davon wisse.
Chinesische Unternehmen in Europa sehen ihre Geschäfte generell optimistisch – geplante neue Regularien aus Brüssel und zunehmend schwierige politische Fahrwasser trüben aber die Aussichten. Das geht aus einem Bericht der chinesischen Handelskammer in der Europäischen Union (CCCEU) hervor, der am Montag gemeinsam mit der Beratungsfirma Roland Berger in Brüssel vorgestellt wurde. Vor allem im Bereich des 5G-Ausbaus fühlen sich die Unternehmen aus der Volksrepublik gegängelt. Großes Potenzial für Kooperation zwischen China und der EU sieht der Kammer-Bericht bei grünen und digitalen Themen. Was bei der Vorstellung, und in dem Papier selbst, mehrfach betont wird: Es muss “gegenseitiges Vertrauen” geschaffen werden.
Brüssel wird in dem CCCEU-Report dazu angehalten, einen “offenen, fairen und diskriminierungsfreien Markt für Chinas Telekommunikationsunternehmen” zu schaffen. Der Ausschluss von Anbietern wie Huawei und ZTE habe primär politische Gründe, kritisierte Kammer-Präsident Xu Haifeng. Dass die Telekommunikationsriesen aus der Volksrepublik beim 5G-Ausbau in mehreren EU-Staaten gar nicht mitmischen dürften, basiere nicht auf technischen Problemen. “Sondern weil es chinesische Unternehmen sind”, kritisierte Xu. Im Bericht werden “klare Vorschriften, Standards und Umsetzungsrichtlinien für Cybersicherheit” verlangt. “Wir wollen mit Europäern zusammenarbeiten, um Cybersicherheitsstandards und -verfahren zu schaffen“, betonte der Kammer-Präsident.
Helfen soll dabei auch: vertieftes Vertrauen von beiden Seiten. Nur so könnten die Schwierigkeiten gelöst werden, betonte Xu. Brüssel und Peking blicken auf schwierige Monate zurück, in der Handelspolitik sowie in der Diplomatie. Gegenseitige Sanktionen und das Einfrieren des Investitionsabkommen CAI wurden laut CCCEU-Bericht als Hauptpunkte genannt, die die Stimmung im Handel zwischen EU und China trübten. Auch, dass Brüssel bei ausländischen Direktinvestitionen im Oktober 2020 abermals die Regeln verschärfte, kam bei chinesischen Unternehmen laut Umfrage nicht gut an.
Aber auch Falschinformationen machen den Konzernen aus der Volksrepublik zu schaffen. Laut der Umfrage der CCCEU glauben 59 Prozent der befragten chinesischen Unternehmen, dass Desinformation “eine Bedrohung für ihre Geschäftstätigkeit darstellt”. Einige Unternehmen erklärten, dass Zweifel und Spekulationen über Sicherheit und Wettbewerbsgeist chinesischer Unternehmen konkrete Auswirkungen auf ihre wirtschaftlichen Aktivitäten hätten. Die CCCEU vertritt nach eigenen Angaben rund 1.000 chinesische Unternehmen in den 27 EU-Mitgliedstaaten.
Als konkrete Beispiele für “Unwahrheiten” wurden die Weitergabe von verbraucherbezogenen Daten und Technologie-Aneignung genannt. Die “negative öffentliche Meinung” habe einige der befragten Unternehmen in Bedrängnis gebracht, einigen bereits die Zusammenarbeit mit lokalen Partnern gekostet. Das habe wiederum “zum Verlust von Verbrauchern und höheren Betriebskosten” geführt – und mache das Geschäftsumfeld in der EU weniger attraktiv und rentabel, warnt der Bericht.
Trotz allem: Die meisten chinesischen Unternehmen in der EU sind zuversichtlich ob der Kooperation und Entwicklung in den Wirtschafts- und Handelsbeziehungen. 86 Prozent der befragten Unternehmen waren der Meinung, dass die EU für chinesische Unternehmen deutlich an Bedeutung gewonnen habe. Vor allem aufgrund der Corona-Pandemie seien die Ergebnisse der chinesischen Firmen im vergangenen Jahr jedoch “bescheiden” gewesen:
Rund 44 Prozent der befragten Unternehmen gaben dem Bericht zufolge an, dass ihre Umsätze in der EU im Jahr 2020 unverändert geblieben sind. Rund 33 Prozent verzeichneten eine Umsatzsteigerung. Knapp mehr als die Hälfte (52 Prozent) der Befragten wollen ihre Geschäftsaktivitäten in der EU wie bisher fortführen. Gut 44 Prozent beabsichtigen, ihre Investitionen in der EU sogar auszuweiten. Der Gesamtumsatz chinesischer Firmen belief sich dem Papier zufolge in den 27 Mitgliedstaaten der Europäischen Union auf 150,3 Milliarden Euro. Das entspricht 1,4 Prozent mehr als im Vorjahr.
Der Optimismus wird jedoch wegen neuer EU-Regelungen geschmälert: Rund 68 Prozent der befragten Unternehmen gehen dem Bericht zufolge davon aus, dass neue EU-Regularien gegen ausländische Subventionen (China.Table berichtete) “erhebliche oder eher negative Auswirkungen” auf ihr Tagesgeschäft und ihre Bietertätigkeit haben werden. In diesem Sinne fordert der Bericht die EU auf, negative Auswirkungen dieser europäischen Instrumente zu beseitigen und eine Überregulierung zu vermeiden.
Ansätze für mehr Zusammenarbeit sieht die chinesische Kammer bei grünen und digitalen Bereichen: Diese könnten ein Motor für die Geschäftsaktivitäten chinesischer Unternehmen in der EU sein. 30 Prozent der befragten Unternehmer sehen hier vor allem eine Chance. 46 Prozent sind der Umfrage zufolge jedoch noch skeptisch und sehen sowohl Chancen als auch Herausforderungen. Ähnlich sieht es im Digitalen aus. Hier sehen dem Report zufolge rund 60 Prozent der befragten Unternehmen neue Möglichkeiten, aber auch gleichzeitig Herausforderungen für ihre Geschäfte.
Die Kooperation der EU mit anderen Partnern kommt hingegen weniger gut an: Die chinesischen Unternehmen warnen, dass das “EU-US Trade and Technology Council” (kurz TTC) negative Auswirkungen haben könnte. Die Zusammenarbeit zwischen Brüssel und Washington bei Standards in Bereichen wie der Telekommunikation oder Lieferketten könnte durch den Ausschluss Chinas zu einer globalen Fragmentierung führen.
Es war 1985. Das Jahr der Kinderschuhe, in denen die innovative Technik von heute noch steckte. Das PDF war eher ein Versprechen als ein echtes Format. Da stürzte sich Andreas Dengel in eine Diplomarbeit für Siemens. Es ging darum, dass der Computer gescannte Dokumente analysieren und relevante Inhalte auslesen sollte. Sein Heureka-Moment. Die künstliche Intelligenz dahinter konnte das, was wir beim Menschen “lesen” nennen würden.
Sprung ins Jahr 2021. Andreas Dengel ist heute Professor und geschäftsführender Direktor des Deutschen Forschungszentrums für Künstliche Intelligenz (DFKI). Auch wenn er das selbst nicht aussprechen würde, ist er eine Koryphäe auf dem Gebiet. “Ich habe schon viele schöne Orte erlebt, an denen ich Ehrungen bekommen habe, aber die Ehrenprofessur in Japan ist sicherlich eine ganz besondere.” Gemeint ist der Titel “Distinguished Honorary Professor” (tokubetu eiyo kyoju) an der Osaka Prefecture University. In 135 Jahren Uni-Geschichte bekamen den Titel nur fünf Personen.
Das DFKI ist eine GmbH. Ein “Transfer-Institut”, wie es Dengel nennt, das als Schnittstelle zwischen der Wirtschaft und der Universität arbeite. Etwa 740 Angestellte und 510 studentische Mitarbeiter:innen arbeiten an rund 250 Forschungsprojekten. Dengel führt und moderiert, übersetzt die Erkenntnisse aber auch. Denn es gibt oft Missverständnisse beim Thema KI. “Wir Menschen neigen dazu, wenn wir KI oder Künstliche Intelligenz hören, sie mit unserer eigenen Intelligenz zu vergleichen und gewisse Fantasien zu entwickeln. Dadurch wird die KI oft überschätzt“, beschreibt er das Problem.
KI sei vielmehr ein Werkzeugkasten, der helfen könne, die Komplexität bestimmter Themen zu reduzieren. Das kann in der Medizin genauso helfen wie in der Verkehrs- und Energiesteuerung oder der Kriminalitätsbekämpfung – von Finanzverbrechen bis zur Kinderpornografie.
Eine Gefahr der KI sei jedoch die Abhängigkeit von ihr, glaubt Dengel: “In der Verkehrssteuerung, in der Versorgungssteuerung, überall ist KI mit drin. Fallen diese Systeme aus, fällt es uns schwer, aus dem Stand heraus Auswege aus dem Schlamassel zu finden.”
Die Frage ist also, was Nutzer:innen aus der Hand geben wollen. In diesem Kontext muss jede:r für sich entscheiden, welche Aspekte des Lebens man für sich alleine wolle. Das hat Dengel privat auch getan. “Mir ist es wichtig, meine eigenen Grenzlinien zu ziehen. Zu wissen, was ich preisgeben möchte und was nicht. In dem Sinne habe ich weder Instagram noch einen Facebook-Account.”
Um solche Fragen auch in der Politik zu diskutieren, gibt es unter anderem die Global Partnership on AI (GPAI). Hier werden Grenzen besprochen, ab denen die KI nicht mehr ohne Kontrollen alleine agieren darf. Kein leichtes Unterfangen. Dengel verweist auf das Problem der unterschiedlichen Wertesysteme von KI-Großmächten wie Europa, China und den USA. Auf europäischer Ebene gelte es, Ängste zu nehmen und passende Rahmenbedingungen zu definieren – wie Daten erhoben und verwendet würden. Ein Punkt, bei dem es mehr Dynamik bräuchte. Christian Domke Seidel
