Timmermans-Interview + Ratschläge von Fr • Table.Briefings

Liebe Leserin, lieber Leser,

seit Sonntagabend weilt Frans Timmermans bei der COP26, und er will persönlich zum Gelingen der Weltklimakonferenz beitragen. Der Kritik nach der ersten Woche mag sich der Vizepräsident der EU-Kommission nicht anschließen: “Die Dinge sind besser gelaufen als viele erwartet hätten”, sagte er im Interview mit Timo Landenberger und Lukas Scheid. Aber natürlich gebe es noch viele Fragen zu klären. Auch die EU und andere Industriestaaten stünden in der Pflicht: “Entwicklungsländer müssen sich darauf verlassen können, dass es die reichen Staaten ernst meinen mit der Solidarität“.

Mancher Beobachter hatte sich wenig Neues versprochen vom Auftritt von Frances Haugen im Europaparlament. Doch die einstige Facebook-Mitarbeiterin hatte sich intensiv vorbereitet und hielt konkrete Ratschläge für die Arbeit am Digital Services Act parat. Dieser habe “das Potenzial zum globalen Goldstandard zu werden”, sagte sie. Was die Whistleblowerin den Abgeordneten genau empfahl und ob das zu Last-Minute-Änderungen führen könnte, analysieren wir weiter unten.

Mit der Regulierung Künstlicher Intelligenz hat sich ein Sonderausschuss des Europaparlaments seit 2020 beschäftigt. Der finale Entwurf seines Berichts wird heute vorgestellt, Falk Steiner hat ihn bereits angesehen. Die Verfasser fordern unter anderem eine strikte Haftung für die Betreiber von Hochrisiko-Systemen. Die Strafverfolgungsbehörden sollen das Potenzial hingegen voll ausschöpfen dürfen, inklusive Real-Time-Gesichtserkennung. Der Streit ist programmiert.

Ihr
Till Hoppe

Frans Timmermans: “Der CBAM war nie ein Streitthema”

UN-Klimakonferenz: Frans Timmermans, Vize-Präsident der Europäischen Kommission, im Interview über Emissionen. — Frans Timmermans ist Vize-Präsident der Europäischen Kommission und zuständig für den Green Deal.

Herr Timmermans, die Klimakonferenz geht in die zweite Halbzeit. Mit welchen Erwartungen gehen Sie in diese entscheidende Woche?

Am Ende der Konferenz wollen wir uns auf dem Pfad des Pariser Klimaabkommens befinden. Das heißt, dass wir die Erderwärmung auf deutlich unter zwei Grad begrenzen und auch die 1,5 Grad noch in Reichweite sind.

Die Ziele sind klar. Aber können sie auch erreicht werden?

In der vergangenen Woche sind die Dinge besser gelaufen als viele erwartet hätten. Es gibt also mehr Optimismus, als ich das selbst gedacht hätte. Klar ist aber auch: Es gibt noch einige Fragen zu klären.

Die da wären?

Das Regelbuch muss endlich abgeschlossen werden. Dazu gehört die Diskussion um Artikel 6 (Europe.Table berichtete). Die Klimafinanzierung und die Klimaanpassung sind ebenfalls sehr wichtig. Entwicklungsländer müssen sich darauf verlassen können, dass es die reichen Staaten ernst meinen mit der Solidarität. Wir müssen das 100-Milliarden-Dollar-Versprechen erfüllen, aber der Bedarf für Klimaanpassung wird weiterwachsen. Hier brauchen wir ein System, das über freiwillige Ankündigungen hinaus geht.

Bei ihren eigenen Klimaschutz-Maßnahmen setzt die EU stark auf das Emissionshandelssystem. Wie wollen Sie andere Staaten überzeugen, dem Weg zu folgen?

China hat das für den Energiesektor bereits getan und plant, das System auf andere Sektoren auszuweiten. In Teilen der USA gibt es auch schon einen Emissionshandel, und Kanada hat ebenfalls ein vergleichbares System. Sie alle haben erkannt: Man kann den Markt die Arbeit erledigen lassen, wenn man ein Emissionshandelssystem einführt.

Für alle anderen soll ein Grenzausgleichsmechanismus gelten. Etliche Staaten hatten hier bereits Bedenken geäußert. Ist der CBAM ein Streitthema auf der COP?

Der CBAM war nie ein Streitthema. Er ist Teil der Debatte, aber zumeist eher positiv.

Inwiefern?

Natürlich wollen die Staaten wissen, wie sie davon betroffen sein werden, vor allem aber, wie der CBAM funktioniert. Denn klar ist: Jedes Land, dass seine CO₂-Emissionen senken will, wird diese mit einem Preis versehen müssen. Das wiederum geht einher mit dem Risiko des Carbon Leakage. Also bedarf es eines Weges, dieses Risiko zu vermeiden. Der CBAM ist so ein Weg.

Viel Gesprächsbedarf also. Wer sind die wichtigsten Gesprächspartner auf der COP?

Ich bin Sonntagabend angereist und hatte bereits Treffen mit John Kerry und den Delegationen aus China, Bhutan und Neuseeland. Viele weitere Gespräche werden folgen. Darum geht es ja.

Mehr zum Thema

Haugen-Anhörung im EP: Ein Snowden-Moment für den DSA?

Es hat schon einige Befragungen im Europaparlament gegeben, die eher der Selbstdarstellung der Abgeordneten dienten als dem Erkenntnisgewinn. Der Auftritt von Facebook-Chef Mark Zuckerberg zählte etwa dazu. Nicht so am Montagabend, als Zuckerbergs größte Kritikerin im Binnenmarktausschuss Rede und Antwort stand: Frances Haugen.

Viele der Fragenden zeigten ernsthaftes Interesse an den Einschätzungen der Whistleblowerin, die tausende interne Dokumente veröffentlicht hat. Und die einstige Facebook-Produktmanagerin hatte konkrete Antworten parat. Antworten, die das zentrale EU-Gesetzesvorhaben für die Grundregeln im Internet betreffen: den “Digital Services Act”. Der DSA wird derzeit intensiv in Parlament und Rat verhandelt (Europe.Table berichtete).

Es wäre nicht das erste Mal, dass Enthüllungen eines Whistleblowers ein wichtiges Regulierungsvorhaben noch einmal entscheidend beeinflussen: 2013 gab Edward Snowden den Verhandlungen um die Datenschutz-Grundverordnung einen entscheidenden Schub.

Haugens Empfehlungen zum Digital Services Act

Haugens Urteil über ihren bisherigen Arbeitgeber fiel vernichtend aus: “Jeden einzelnen Tag zieht Facebook seinen Profit der Sicherheit der Nutzer vor”, sagte sie. Wenn die Gesetzgeber nicht einschritten, werde sich daran auch nichts ändern. Mit Blick auf den Digital Services Act richtete Frances Haugen eine Reihe von Empfehlungen an die Abgeordneten:

Volle Transparenz: Bislang gleiche die Funktionsweise Facebooks einer Black Box. Um das zu ändern, müssten externe Experten vollen Zugang zu den relevanten Daten des Konzerns erhalten. Von unspezifischen Ausnahmen im Digital Services Act für Geschäftsgeheimnisse rät Haugen dringend ab – diese würde Facebook ausnutzen, um alles Mögliche zur Verschlusssache zu erklären.
Keine Beschränkung auf illegale Inhalte: Die Verpflichtungen zur Moderation dürften nicht nur für illegale Inhalte gelten, fordert Frances Haugen, sondern auch für solche, die zur Desinformation, Wahlmanipulation oder Beeinflussung von Minderjährigen dienten. Inhalte also, die nach den AGBs der Plattformen nicht erlaubt, von Vorschriften wie dem Netzwerkdurchsetzungsgesetz aber ausgenommen sind.
Keine Ausnahmen: Die Verpflichtungen sollten umfassend sein, fordert Haugen. Dringend rät sie besonders von Ausnahmen für Inhalte von Medien ab, wie sie aktuell diskutiert wird: Nahezu jede Desinformationskampagne nutze gefakte Nachrichtenwebsites, um ihre irreführenden Inhalte zu verbreiten.
Umfassende Risikobewertung: Eine Bewertung der gesellschaftlichen Risiken durch die Unternehmen reiche ebenso wenig aus wie die von der Kommission vorgeschlagene Bewertung durch vom Unternehmen beauftragten Prüfunternehmen, argumentiert Haugen. “Prüfer wollen wieder beauftragt werden”, warnt sie, und schauten daher voraussichtlich nicht genau genug hin. Frances Haugen schlägt stattdessen ein dreistufiges Audit-Verfahren vor: durch das Unternehmen selbst; durch die Einbindung einer Vielzahl von zivilgesellschaftlichen Organisationen und Experten, die die Diversität der Gesellschaft abbilden; und durch veröffentlichte Fortschrittsberichte mitsamt nachvollziehbarer Statistiken.
Eine starke Aufsicht: Haugen rät dringend davon ab, die Durchsetzung des Digital Services Act den Mitgliedstaaten zu übertragen. Es gebe weltweit nur wenige Experten, die die Algorithmen der Unternehmen und deren Wirkung beurteilen könnten, sagte sie. Über 27 Mitgliedstaaten verteilt, werde sich kaum die kritische Masse erreichen lassen.
Gegen Interoperabilität: Haugen warnt davor, Interoperabilität im DSA oder DMA festzuschreiben, wie es unter anderem von S&D und Grünen/EFA gefordert wird. Das Problem: Wenn Nutzer:innen eigene Inhalte wie Fotos löschen wollten, die sie vorher über einen Messenger-Dienst an ihre Kontakte (mit anderen interoperablen Messenger-Diensten) verschickt hätten, sei es nur sehr schwer sicherzustellen, dass das Foto auch wirklich von den Servern aller Dienste gelöscht werde. Dazu bräuchte es eine “extrem invasive Regulierung”, so Frances Haugen.
Individuelle Verantwortung: Bislang begehre bei Facebook kaum jemand gegen die Missstände auf, da niemand befürchten müsse, zur Verantwortung gezogen zu werden. Frances Haugen empfiehlt daher, für Änderungen am System jeweils Verantwortliche zu benennen. Dies würde “die Kultur bei Facebook radikal verändern”.

Haugens Credo in Bezug auf Online-Plattformen: “Vertrauen muss man sich erst verdienen“. Ihr Auftritt dürfte diejenigen im Europaparlament stärken, die sich in den Verhandlungen für besonders scharfe Bestimmungen im Digital Services Act starkmachen. Das sind vor allem Abgeordnete aus den Fraktionen S&D, Grüne/EFA und der Linken.

Teil der Parlamentarier sieht sich bestätigt

Die Schattenberichterstatterin der Grünen/EFA im Binnenmarktausschuss, Alexandra Geese, sieht in Haugens Aussage eine wichtige Chance, die Verhandlungen noch einmal zu beleben: “Frances ist die Lichtgestalt, die im richtigen Moment für die europäische Gesetzgebung die Black Box der Algorithmen öffnet”, sagt sie. Geese kämpft für eine stärkere Transparenz für algorithmische Systeme. Sie setzt sich dafür ein, dass der Zugang zu Daten von “sehr großen Online-Plattformen” für die Untersuchung von systemischen Risiken nicht nur auf zugelassene Forscher beschränkt (Artikel 31) wird, sondern auch für Wissenschaftler:innen, NGOs und Journalist:innen geöffnet wird. Haugens Plädoyer dafür könnte dieser Forderung nun mehr Kraft verleihen.

Geese sieht sich von der Whistleblowerin auch in ihrer Forderung nach einer unabhängigen europäischen Behörde bestätigt, die für die Durchsetzung des DSA für “sehr große Online-Plattformen” zuständig sein soll. Der Kommissionsvorschlag schreibt diese Rolle den nationalen Aufsichtsbehörden (DSC) und der Kommission zu. Auch Geese weist hier auf einen Kompetenz- und Ressourcenmangel hin. Die geforderte neue Behörde solle dann auch die unabhängigen Audits und Risikobewertungen der Online-Plattformen kontrollieren.

Tiemo Wölken, S&D-Schattenberichterstatter für den Digital Services Act im Rechtsausschuss, betont die Relevanz transparenter Empfehlungssysteme: “Es gilt, das Monopol der großen Plattformen über unsere Aufmerksamkeit zu brechen. Dazu schlage ich vor, dass Drittanbieter eigene Empfehlungsalgorithmen für Plattformen anbieten dürfen und so die Nutzerin entscheidet, was ihr wichtig ist, nicht die Plattform selbst.”

Im Bundesministerium der Justiz und für Verbraucherschutz (BMJV) sieht man dagegen aufgrund der Enthüllungen keinen Anlass für Nachbesserungen im DSA-Gesetzestext. “Die Vorgaben des DSA-Entwurfs in Bezug auf Transparenz und Risikoermittlung sind durchaus vielversprechend”, sagt eine BMJV-Sprecherin auf Anfrage von Europe.Table. Das “Engagement Based Ranking”, eines der von Frances Haugen identifizierten Kernprobleme, werde bereits im Digital Services Act adressiert.

Einfluss auf KI-Verordnung und Regulierung politischer Online-Werbung

Staatssekretär Christian Kastrop teilt aber den Wunsch nach mehr Transparenz für Algorithmen: “An einigen Stellen greift der DSA alleine noch zu kurz: Beim Einsatz von Künstlicher Intelligenz muss transparent und überprüfbar sein, wie die eingesetzten Algorithmen großer Plattformen funktionieren”, bestätigt er. Diese Transparenz sei aber nicht durch den Digital Services Act alleine zu erreichen, sondern zum Beispiel mit klareren Regeln, wie sie in der neuen KI-Verordnung angedacht seien. Auch beim Zugang zu den KI-Systemen über zugelassene Forscher hinaus stimmt er mit den Empfehlungen Haugens überein.

Der Europaabgeordnete Wölken kann sich in seiner Forderung bestärkt fühlen, die KI-Verordnung zu verschärfen und die Zertifizierung den Unternehmen nicht selbst zu überlassen (Europe.Table berichtete). Der Berichterstatter im Sonderausschuss für Künstliche Intelligenz, Axel Voss (CDU/EVP), warnt davor, die Zertifizierung allein dem Staat zu überlassen: “Die Vergangenheit hat uns gelehrt, dass eine solche Aufgabe öffentliche Behörden zum einen massiv überlastet und zum anderen oft zu innovationsfeindlichen und marktfremden Lösungen führt”, so Voss. Staat und Wirtschaft müssten in diesem Bereich eng zusammenarbeiten, die Grundprinzipien der freien Marktwirtschaft müssten aber weiter geachtet werden.

Für Andreas Schwab, Berichterstatter für den “Digital Markets Act” (DMA), legen die Enthüllungen der Whistleblowerin auch den dringenden Bedarf einer Regulierung politischer Online-Werbung offen – über DMA und DSA hinaus. Laut aktuellem Arbeitsplan will die Kommission am 23. November einen entsprechenden Gesetzesvorschlag vorstellen. “Wir brauchen strenge Regeln dafür, welche Art von politischer Werbung große Online-Plattformen betreiben dürfen, und wir brauchen mehr Transparenz darüber, wer dafür bezahlt”, so Schwab. Besonders wichtig seien auch Instrumente, die sogenanntes Microtargeting und psychologisches Profiling im politischen Kontext eindämmten. Es dürfe kein “Cambridge Analytica 2.0” geben, bei dem persönliche Nutzerdaten für politische Zwecke missbraucht werden, warnt Schwab.

Auf Haugen hören könnte Verzögerungen bedeuten

Ob Haugens Anhörung vor dem Europäischen Parlament aber wirklich zum “Gamechanger” für ein progressiveres Gesetz werden kann, wie es sich viele Abgeordnete aus S&D und Grünen/EFA wünschen? Die politischen Widerstände sind groß – und einige der angesprochenen Punkte galten bislang bereits als abschließend diskutiert.

Wölkens Vorschläge etwa, die viele Schnittmengen mit Haugens Empfehlungen zeigen, seien im Rechtsausschuss am Widerstand der EVP gescheitert, berichtet der Niedersachse. “Ich hoffe wirklich, dass die eindrücklichen Enthüllungen von Frances Haugen hier zu einem Umdenken führen. Die Vorschläge liegen auf dem Tisch”, sagt Wölken.

Thierry Breton will schnell agieren

EU-Binnenmarktkommissar Thierry Breton, der Haugen gestern bereits zum zweiten Mal traf, betont die Wichtigkeit der Enthüllungen und ging ganz konkret auf die Empfehlung nach individueller Verantwortung ein: “Letztendlich liege die Verantwortung für das Handeln eines Unternehmens beim Geschäftsführer und dem Vorstand” – sprich: Mark Zuckerberg. Die digitale Sphäre sei dabei keine Ausnahme.

Gleichermaßen macht der Franzose Druck, jetzt keine Zeit zu verlieren: “Geschwindigkeit ist alles. Das DSA-DMA-Paket muss in der ersten Jahreshälfte 2022 verabschiedet werden“, so Breton. Vor dem Hintergrund der massiven Lobbyversuche der Big Tech betont er: “Wir werden es nicht zulassen, dass Unternehmensinteressen die bedeutsameren Interessen der europäischen Bürger:innen beeinträchtigen”. Till Hoppe / Jasmin Kohl

Mehr zum Thema

AIDA-Bericht zu KI: Streitpotenzial vorhanden

Der Sonderausschuss des Europäischen Parlaments für Künstliche Intelligenz im Digitalen Zeitalter (AIDA) debattiert heute den finalen Entwurf seines Berichts, der Europe.Table vorliegt. Der Ausschuss, der im Juni 2020 eingesetzt wurde, gibt darin seine Empfehlungen für die zukünftige politische Behandlung algorithmischer Entscheidungssysteme ab. Während viele Punkte wenig strittig sind, dürften einige Empfehlungen großes Debattenpotenzial bergen.

Der Bericht spart nicht an harter europäischer Selbstkritik. So heißt es darin: “Die EU erfüllt keine der Voraussetzungen um das Potenzial von KI vollständig auszuschöpfen, insbesondere im Vergleich zu […] China und den USA”. Es gebe einen “Mangel an Rechtssicherheit, Zugang und dem Teilen von hochqualitativen Daten, harmonisierten Regeln und Standards, Finanzierung, Forschung, Fähigkeiten und Infrastruktur für Kerntechnologien”. Dem müsse die EU auf mehreren Ebenen entgegenwirken – mit einem klaren Rechtsrahmen, mit Forschungsförderung, der strategischen Abstimmung mit Verbündeten und vielen einzelnen Instrumenten.

So empfiehlt die Schlussfassung unter anderem die Einführung eines begrenzten neuen Haftungsmechanismus für den Betreiber. Hochrisiko-Systeme sollen dabei einer strikten Haftung mit Versicherungspflicht unterliegen; bei Systemen mit geringerer Risikoklassifizierung soll hingegen eine Mangelvermutung zulasten des Betreibers gelten.

Strafverfolger sollen Potenzial von Künstlicher Intelligenz ausschöpfen

Auch bei der Frage des Einsatzes von KI-Systemen durch Strafverfolgungsbehörden ist der AIDA-Ausschuss durchaus auf Konfrontationskurs zu anderen Akteuren: Entscheidend für die Sicherheit der Bürger sei, dass die Behörden bei der KI-Entwicklung möglichst weit vorne lägen – weshalb “das volle Potenzial digitaler Technologien zur Vorbeugung und Verfolgung schwerer Straftaten durch den Einsatz von Real-Time-Gesichtserkennung an ausgewählten Orten” genutzt werden sollte.

Gleiches gilt dem Berichtsentwurf zufolge für “sorgfältig entwickelte Algorithmen zur Kriminalitätsvorbeugung und -untersuchung, basierend auf hochqualitativen Daten”. Diese könnten “ein höheres Maß an Effizienz, Neutralität und Rechtssicherheit als menschliche Strafverfolger” bieten und sollten daher unterstützt werden.

Viele der sonstigen Empfehlungen dürften aber auch in die legislative Arbeit an der Künstliche Intelligenz-Verordnung Eingang finden. Dazu zählt zum Beispiel die Frage der Cybersicherheitsanforderungen an KI-Produkte unter der EU-Cybersicherheitsverordnung. Hier schlagen die Autoren vor, dass auch nationale Initiativen wie das deutsche AIC4 des BSI oder das maltesische KI-Zertifizierungsprogramm berücksichtigt werden sollen.

Insgesamt dürften einige Wünsche des Berichts allerdings unerfüllt bleiben – selbst in den eigenen parlamentarischen Reihen: Dass das EP ein “ad-hoc-Digitalkommittee mit Gesetzgebungsbefugnis” erhält, gilt derzeit als unwahrscheinlich, so wie auch die Empfehlung, einen dem NASDAQ nachempfundenen europäischen Börsenindex aufzubauen. fst

Paris startet neuen Vorstoß für Energiemarkt-Reform

Die französische Regierung drängt angesichts gestiegener Preise erneut auf Änderungen im europäischen Energiemarkt. Der Großhandelsmarkt funktioniere zwar gut, sagte Wirtschafts- und Finanzminister Bruno Le Maire vor einem Treffen der Euro-Gruppe in Brüssel. Doch die Endkunden, Unternehmen und Verbraucher, müssten vor steigenden Preisen besser geschützt werden.

Drei konkrete Maßnahmen schlägt Frankreich vor: Ein “automatischer Stabilisierungsmechanismus” soll dafür sorgen, dass die Gewinne, die ein Erzeuger bei hohen Energiepreisen auf dem Markt erzielt, an den Versorger weitergegeben werden müssen. Dieser reiche diese dann wiederum an die Endkunden weiter.

Zweitens sollen Unternehmen langfristige Lieferverträge über fünf bis zehn Jahre abschließen können, so Le Maire, die eine Versorgung mit “erneuerbarer, dekarbonisierter Energie” zu einem festen Preis garantieren. Die Regierung in Paris dürfte dabei nicht zuletzt die Kernenergie im Sinn haben.

Dieselbe Möglichkeit solle es, drittens, auch für private Haushalte geben. Le Maire argumentierte, der Strompreis müsse von den Preisen für fossile Energien entkoppelt werden. Denn Letztere würden sich auch strukturell verteuern, etwa durch das Aufschlagen eines CO2-Preises.

Andere Staaten halten Energiemarkt-Reform für übereilt

Andere Mitgliedsstaaten sehen die jüngste Preisentwicklung hingegen als vorübergehendes Phänomen und stehen dem Drängen insbesondere Frankreichs und Spaniens skeptisch gegenüber. “Ich glaube nicht, dass das unsere unmittelbaren Probleme lösen wird”, sagte der niederländische Finanzminister Wopke Hoekstra. Auch EU-Wirtschaftskommissar Paolo Gentiloni geht davon aus, dass sich das Problem und damit die zuletzt gestiegene Inflation abschwächen werden. Die Behörde glaube, dass “das Phänomen ein vorübergehendes ist und wahrscheinlich in der ersten Hälfte des kommenden Jahres nachlassen wird”. Die Kommission wird am Donnerstag ihre Sicht in der neuen Konjunkturprognose darlegen. tho

Frankreich: CBAM als Priorität der Ratspräsidentschaft

Die französische Regierung will den CO2-Grenzausgleichmechanismus während ihres Ratsvorsitzes in der ersten Jahreshälfte 2022 energisch vorantreiben.

“CBAM wird sicherlich eine Priorität während der französischen Präsidentschaft sein”, sagte Europastaatssekretär Clément Beaune auf einer Konferenz der EU-Kommission. Viele Mitgliedsstaaten unterstützten das Vorhaben, das etwa europäische Stahlproduzenten vor Konkurrenz aus anderen Ländern schützen soll, in denen keine vergleichbare CO₂-Bepreisung existiert.

Einnahmen aus dem CBAM umstritten

Strittig sei aber, inwieweit die Einnahmen aus dem Grenzausgleich in den EU-Haushalt fließen sollten, so Beaune. Frankreich werde sich dafür einsetzen, die Einnahmen als Eigenmittel der EU zu behandeln. Das Gleiche gelte für eine EU-Digitalsteuer.

Der Generaldirektor für das EU-Budget Gert-Jan Koopman sagte, die Kommission wolle bis Jahresende Vorschläge zu den Eigenmitteln vorlegen. Die EU sucht neue Einnahmequellen, um den anleihefinanzierten Corona-Aufbaufonds zu refinanzieren. tho

Deutschland gibt 150 Millionen Euro für Betroffene des Klimawandels SPIEGEL

Deutschland will EU-Empfehlung für Atomkraft verhindern FAZ

Deutschland zögert beim Stopp der Finanzierung fossiler Brennstoffe SPIEGEL

Dutch join COP26 deal to end financing of fossil fuels abroad REUTERS

Einfach, energiearm, sicher – Ein neuer 5G-Standard eröffnet Europas Industrie eine neue Zeitrechnung HANDELSBLATT

Migranten zwischen Belarus und Polen: Dramatische Lage an der Grenze TAGESSCHAU

EU-Abgeordnete: Zu strenge grüne Kriterien für Biokraftstoffe werden Angebot einschränken EURACTIV

Why remote working in Spain is once again a thing of the future ELPAIS

French couple who said windfarm affected health win legal fight GUARDIAN

Künstliche Intelligenz intelligenter regulieren

Von Seda Gürses und Agathe Balayn

KI: Debiasing-Ansätze nur begrenzt wirksam:
Seda Gürses ist Associate Professor an der Fakultät für Technologie, Politik und Management der TU Delft. Agathe Balayn promoviert in der Web Information Systems-Gruppe der Fakultät für Ingenieurwesen der TU Delft. — Seda Gürses ist Associate Professor an der Fakultät für Technologie, Politik und Management der TU Delft. Agathe Balayn promoviert in der Web Information Systems-Gruppe der Fakultät für Ingenieurwesen der TU Delft.

Gesetzgeber reagieren auf schädliche Einflüsse von KI, indem sie ihren Fokus auf eine techno-zentristische Lösung gelegt haben: die Bekämpfung von Bias, also Verzerrungen in Datensätzen. Dieser Ansatz reduziert komplexe soziale Probleme auf den Bereich technischen Designs – und legt ihn damit in die Hände von Technologieunternehmen.

Technische Bias-Bekämpfungsmaßnahmen sind als Lösung für strukturelle Diskriminierung und Ungleichheit durch KI-Systeme nur begrenzt wirksam. KI-gestützte Systeme haben weitaus größere Auswirkungen auf die Governance, den Betrieb und die finanzielle Stabilität im öffentlichen Sektor, wodurch die Dominanz von Technologieunternehmen weiter verankert wird. Die Integration alltäglicher Abläufe in die aktuellen digitalen Infrastrukturen könnte die Fähigkeit der öffentlichen Hand, die notwendigen Voraussetzungen für die Ausübung der Grundrechte der Einzelnen zu bieten, erheblich verändern, wenn nicht sogar schädigen.

Fokus auf Daten ist zu eng

Den wichtigsten politischen Initiativen mangelt es an einer echten Auseinandersetzung mit der bestehenden Forschung, dem Aktivismus und dem technischen Verständnis für Künstliche Intelligenz und strukturelle Diskriminierung. Sie propagieren “Debiasing von Daten” als Hauptmittel zur Bekämpfung von Diskriminierung im Bereich der künstlichen Intelligenz.

Aber sie schaffen es nicht, die Grundlagen der Debiasing-Ansätze zu durchdringen: Verzerrungen müssen nicht immer in den Daten liegen, sondern können durch die jeweiligen Modelle oder ihre jeweiligen Limitierungen entstehen – und hierfür existierende Lösungsansätze sind nur begrenzt wirksam.

Diese Limitierungen führen zu Unklarheit über den Umfang des zu bearbeitenden Problems und eine Konzentration auf ungeeignete technikzentrierte Lösungen, die gewährleisten sollen, dass künftige Systeme fair sind und das Recht auf Nichtdiskriminierung respektieren.

Politische Entscheidungsträger behandeln KI-Systeme wie ein fertiges Produkt und verdrängen dabei die Komplexität von KI-Entwicklungspipelines und die sich ständig weiterentwickelnden KI-Dienste aus dem Regelungsbereich.

Selbst wenn politische Entscheidungsträger ein besseres Verständnis für die technischen Methoden entwickeln, werden Debias-Ansätze nicht die breiteren diskriminierenden Auswirkungen von KI-Systemen angehen. Durch ihre Konzeption konzentrieren Debias-Ansätze Macht in den Händen von Dienstleistern und überlassen ihnen die Entscheidung darüber, was als Diskriminierung gilt und wie sie dagegen vorgehen. Politische Fragen werden hierdurch in die Sphäre der Technik verlagert.

Zudem spiegeln jüngste Trends bei Anwendungen maschinellen Lernens implizite und sozial inakzeptable Annahmen wider. Dazu zählt etwa die Verwendung von Eugenik oder Physiognomie und die Verwendung reduktionistischer Proxys in Fällen wie Sexualität oder Rasse. Diese werden durch die Debiasing-Ansätze nicht angesprochen, müssten aber verboten werden.

Alternative Perspektiven sind nötig

Für die Zukunft schlagen wir deshalb alternative Perspektiven auf KI vor, die über technikzentrierte Debatten über Daten, Algorithmen und automatisierte Entscheidungsfindungssysteme (ADMs) hinausgehen:

ML-Perspektive: Aspekte, die Grundprinzipien des maschinellen Lernens inhärent sind (z. B. die Wiederholung vergangener Datenmuster, gezielte Schlussfolgerungen, die inhärente Tendenz zur Vergrößerung des Umfangs), die Nachteile mit sich bringen können und in Debatten oft nicht berücksichtigt werden.
Entwicklungsperspektive: Die Fokussierung auf KI als bestimmtes “Produkt” verdeckt die komplexen Prozesse, durch die KI-Systeme in ein breiteres Umfeld integriert werden. Das führt oft zu erheblichen Schäden (z. B. Ausbeutung von Arbeitskräften, Ausbeutung der Umwelt), die oft übersehen werden.
Infrastruktur-Perspektive: Die Entwicklung und der Einsatz maschinellen Lernens hängen in hohem Maße von bestehenden digitalen Infrastrukturen einiger weniger Unternehmen ab. Das Eigentum an diesen Rechenkapazitäten wird wahrscheinlich zu einer stärkeren Konzentration der technischen, finanziellen und politischen Macht von Technologieunternehmen führen, was globale Probleme im Zusammenhang mit politischen, wirtschaftlichen und sozialen Ungleichheiten weiter verschärft.
Organisations-Perspektive: KI-basierte Systeme bieten Organisationen die Möglichkeit, Arbeitsabläufe zu automatisieren, zu zentralisieren und die Verwaltung und den Betrieb von Institutionen zu optimieren. Diese Veränderungen werden voraussichtlich Abhängigkeiten von Dritten und ihren digitalen Ressourcen mit sich bringen, mit nachweisbaren Folgen für die Struktur des öffentlichen Sektors und der Demokratie im Allgemeinen.

Nicht auf Debiasing-Lösungen verlassen

Künftige Versuche, KI zu regulieren, dürfen sich nicht auf Debiasing-Lösungen verlassen, ohne zugrunde liegende strukturelle Schäden zu berücksichtigen, die KI mit sich bringen kann. Politische Entscheidungsträger müssen sich der politischen, sozialen und wirtschaftlichen Folgen von “Lösungen” bewusst sein, die die Macht in den Händen von Technologieunternehmen konzentrieren.

In den Fällen, in denen Debiasing-Lösungen sinnvoll sind, muss der Ermessensspielraum privater Dienstleister bei der Bestimmung von Schaden, Rechtsverletzungen, Diskriminierung und Ungleichheit begrenzt sein. Ein effektives, dezentrales und unabhängiges System zur Bewertung von KI-Systemen, Diskriminierung und Ungleichheit sollte etabliert werden und der Einsatz von KI-Diensten verboten werden, die die Massenüberwachung verschärfen, Menschenrechte verletzen, strukturelle Ungleichheiten verstärken und den biologischen Essentialismus reproduzieren.

Wer die erste Runde Sicherheitschecks am Scottish Event Campus in Glasgow überwunden hat, wird von einem großen Plakat begrüßt: “Welcome to UN Climate Change Conference UK 2021”. Dabei ist das Vereinigte Königreich gar nicht alleiniger Ausrichter des diplomatischen Stelldicheins rund um den Klimaschutz. Oder rund um leere Versprechen und Greenwashing. Je nachdem, wen man fragt.

Co-Gastgeber und als solcher auffällig unauffällig ist Italien. Und tatsächlich findet sich auf besagtem Plakat bei genauem Hinsehen der kleingedruckte Zusatz: “In Partnership with Italy”.

Wenige Kilometer Schlangestehen und einige Sicherheitschecks später wird der geneigte COP-Besucher auch seiner letzten Hoffnung beraubt, der südeuropäische Partner hätte sich wenigstens bei der kulinarischen Versorgung auf dem Gelände durchsetzen können.

Zum Preis von fünf Pfund werden labbrige Sandwiches feilgeboten. Die können nurmehr durch eine Packung Chips mit Essig-Geschmack unterboten werden. Das ist sogar Barack Obama aufgefallen: Der 44. US-Präsident lobte bei seinem Besuch in Glasgow die Verhandlungsführer, die trotz “schwachem Kaffee und schlechtem Essen” um einen Durchbruch bemüht seien.

Obamas Bewegungsradius auf der COP war durch seine zahlreichen Fans allerdings vordefiniert und führte ihn offenbar nicht in Halle D zu den Pavillons von Ländern und Organisationen. Der UN-Pavillon wartet mit kostenlosem Barista-Cappuccino auf und Qatar schenkt arabischen Kaffee mit einer ordentlichen Ladung Kardamom aus. Das beste koffeinhaltige Heißgetränk gibt’s allerdings beim Global Wind Energy Council. Auf die internationale Gemeinschaft ist halt doch Verlass. Zumindest bei der Kaffeeversorgung. Timo Landenberger und Lukas Scheid

EUROPE.TABLE REDAKTION

Till
Hoppe

Falk
Steiner

Corinna
Visser

Lukas
Knigge

Eric
Bonse

Sarah
Schaefer

Manuel
Berkel

Alina
Leimbach

Leonie
Düngefeld

Markus
Grabitz

Stephan
Israel

Claire
Stam

Liebe Leserin, lieber Leser,

seit Sonntagabend weilt Frans Timmermans bei der COP26, und er will persönlich zum Gelingen der Weltklimakonferenz beitragen. Der Kritik nach der ersten Woche mag sich der Vizepräsident der EU-Kommission nicht anschließen: “Die Dinge sind besser gelaufen als viele erwartet hätten”, sagte er im Interview mit Timo Landenberger und Lukas Scheid. Aber natürlich gebe es noch viele Fragen zu klären. Auch die EU und andere Industriestaaten stünden in der Pflicht: “Entwicklungsländer müssen sich darauf verlassen können, dass es die reichen Staaten ernst meinen mit der Solidarität“.

Mancher Beobachter hatte sich wenig Neues versprochen vom Auftritt von Frances Haugen im Europaparlament. Doch die einstige Facebook-Mitarbeiterin hatte sich intensiv vorbereitet und hielt konkrete Ratschläge für die Arbeit am Digital Services Act parat. Dieser habe “das Potenzial zum globalen Goldstandard zu werden”, sagte sie. Was die Whistleblowerin den Abgeordneten genau empfahl und ob das zu Last-Minute-Änderungen führen könnte, analysieren wir weiter unten.

Mit der Regulierung Künstlicher Intelligenz hat sich ein Sonderausschuss des Europaparlaments seit 2020 beschäftigt. Der finale Entwurf seines Berichts wird heute vorgestellt, Falk Steiner hat ihn bereits angesehen. Die Verfasser fordern unter anderem eine strikte Haftung für die Betreiber von Hochrisiko-Systemen. Die Strafverfolgungsbehörden sollen das Potenzial hingegen voll ausschöpfen dürfen, inklusive Real-Time-Gesichtserkennung. Der Streit ist programmiert.

Ihr
Till Hoppe

Frans Timmermans: “Der CBAM war nie ein Streitthema”

Herr Timmermans, die Klimakonferenz geht in die zweite Halbzeit. Mit welchen Erwartungen gehen Sie in diese entscheidende Woche?

Am Ende der Konferenz wollen wir uns auf dem Pfad des Pariser Klimaabkommens befinden. Das heißt, dass wir die Erderwärmung auf deutlich unter zwei Grad begrenzen und auch die 1,5 Grad noch in Reichweite sind.

Die Ziele sind klar. Aber können sie auch erreicht werden?

In der vergangenen Woche sind die Dinge besser gelaufen als viele erwartet hätten. Es gibt also mehr Optimismus, als ich das selbst gedacht hätte. Klar ist aber auch: Es gibt noch einige Fragen zu klären.

Die da wären?

Das Regelbuch muss endlich abgeschlossen werden. Dazu gehört die Diskussion um Artikel 6 (Europe.Table berichtete). Die Klimafinanzierung und die Klimaanpassung sind ebenfalls sehr wichtig. Entwicklungsländer müssen sich darauf verlassen können, dass es die reichen Staaten ernst meinen mit der Solidarität. Wir müssen das 100-Milliarden-Dollar-Versprechen erfüllen, aber der Bedarf für Klimaanpassung wird weiterwachsen. Hier brauchen wir ein System, das über freiwillige Ankündigungen hinaus geht.

Bei ihren eigenen Klimaschutz-Maßnahmen setzt die EU stark auf das Emissionshandelssystem. Wie wollen Sie andere Staaten überzeugen, dem Weg zu folgen?

China hat das für den Energiesektor bereits getan und plant, das System auf andere Sektoren auszuweiten. In Teilen der USA gibt es auch schon einen Emissionshandel, und Kanada hat ebenfalls ein vergleichbares System. Sie alle haben erkannt: Man kann den Markt die Arbeit erledigen lassen, wenn man ein Emissionshandelssystem einführt.

Für alle anderen soll ein Grenzausgleichsmechanismus gelten. Etliche Staaten hatten hier bereits Bedenken geäußert. Ist der CBAM ein Streitthema auf der COP?

Der CBAM war nie ein Streitthema. Er ist Teil der Debatte, aber zumeist eher positiv.

Inwiefern?

Natürlich wollen die Staaten wissen, wie sie davon betroffen sein werden, vor allem aber, wie der CBAM funktioniert. Denn klar ist: Jedes Land, dass seine CO₂-Emissionen senken will, wird diese mit einem Preis versehen müssen. Das wiederum geht einher mit dem Risiko des Carbon Leakage. Also bedarf es eines Weges, dieses Risiko zu vermeiden. Der CBAM ist so ein Weg.

Viel Gesprächsbedarf also. Wer sind die wichtigsten Gesprächspartner auf der COP?

Ich bin Sonntagabend angereist und hatte bereits Treffen mit John Kerry und den Delegationen aus China, Bhutan und Neuseeland. Viele weitere Gespräche werden folgen. Darum geht es ja.

Mehr zum Thema

Haugen-Anhörung im EP: Ein Snowden-Moment für den DSA?

Es hat schon einige Befragungen im Europaparlament gegeben, die eher der Selbstdarstellung der Abgeordneten dienten als dem Erkenntnisgewinn. Der Auftritt von Facebook-Chef Mark Zuckerberg zählte etwa dazu. Nicht so am Montagabend, als Zuckerbergs größte Kritikerin im Binnenmarktausschuss Rede und Antwort stand: Frances Haugen.

Viele der Fragenden zeigten ernsthaftes Interesse an den Einschätzungen der Whistleblowerin, die tausende interne Dokumente veröffentlicht hat. Und die einstige Facebook-Produktmanagerin hatte konkrete Antworten parat. Antworten, die das zentrale EU-Gesetzesvorhaben für die Grundregeln im Internet betreffen: den “Digital Services Act”. Der DSA wird derzeit intensiv in Parlament und Rat verhandelt (Europe.Table berichtete).

Es wäre nicht das erste Mal, dass Enthüllungen eines Whistleblowers ein wichtiges Regulierungsvorhaben noch einmal entscheidend beeinflussen: 2013 gab Edward Snowden den Verhandlungen um die Datenschutz-Grundverordnung einen entscheidenden Schub.

Haugens Empfehlungen zum Digital Services Act

Haugens Urteil über ihren bisherigen Arbeitgeber fiel vernichtend aus: “Jeden einzelnen Tag zieht Facebook seinen Profit der Sicherheit der Nutzer vor”, sagte sie. Wenn die Gesetzgeber nicht einschritten, werde sich daran auch nichts ändern. Mit Blick auf den Digital Services Act richtete Frances Haugen eine Reihe von Empfehlungen an die Abgeordneten:

Volle Transparenz: Bislang gleiche die Funktionsweise Facebooks einer Black Box. Um das zu ändern, müssten externe Experten vollen Zugang zu den relevanten Daten des Konzerns erhalten. Von unspezifischen Ausnahmen im Digital Services Act für Geschäftsgeheimnisse rät Haugen dringend ab – diese würde Facebook ausnutzen, um alles Mögliche zur Verschlusssache zu erklären.
Keine Beschränkung auf illegale Inhalte: Die Verpflichtungen zur Moderation dürften nicht nur für illegale Inhalte gelten, fordert Frances Haugen, sondern auch für solche, die zur Desinformation, Wahlmanipulation oder Beeinflussung von Minderjährigen dienten. Inhalte also, die nach den AGBs der Plattformen nicht erlaubt, von Vorschriften wie dem Netzwerkdurchsetzungsgesetz aber ausgenommen sind.
Keine Ausnahmen: Die Verpflichtungen sollten umfassend sein, fordert Haugen. Dringend rät sie besonders von Ausnahmen für Inhalte von Medien ab, wie sie aktuell diskutiert wird: Nahezu jede Desinformationskampagne nutze gefakte Nachrichtenwebsites, um ihre irreführenden Inhalte zu verbreiten.
Umfassende Risikobewertung: Eine Bewertung der gesellschaftlichen Risiken durch die Unternehmen reiche ebenso wenig aus wie die von der Kommission vorgeschlagene Bewertung durch vom Unternehmen beauftragten Prüfunternehmen, argumentiert Haugen. “Prüfer wollen wieder beauftragt werden”, warnt sie, und schauten daher voraussichtlich nicht genau genug hin. Frances Haugen schlägt stattdessen ein dreistufiges Audit-Verfahren vor: durch das Unternehmen selbst; durch die Einbindung einer Vielzahl von zivilgesellschaftlichen Organisationen und Experten, die die Diversität der Gesellschaft abbilden; und durch veröffentlichte Fortschrittsberichte mitsamt nachvollziehbarer Statistiken.
Eine starke Aufsicht: Haugen rät dringend davon ab, die Durchsetzung des Digital Services Act den Mitgliedstaaten zu übertragen. Es gebe weltweit nur wenige Experten, die die Algorithmen der Unternehmen und deren Wirkung beurteilen könnten, sagte sie. Über 27 Mitgliedstaaten verteilt, werde sich kaum die kritische Masse erreichen lassen.
Gegen Interoperabilität: Haugen warnt davor, Interoperabilität im DSA oder DMA festzuschreiben, wie es unter anderem von S&D und Grünen/EFA gefordert wird. Das Problem: Wenn Nutzer:innen eigene Inhalte wie Fotos löschen wollten, die sie vorher über einen Messenger-Dienst an ihre Kontakte (mit anderen interoperablen Messenger-Diensten) verschickt hätten, sei es nur sehr schwer sicherzustellen, dass das Foto auch wirklich von den Servern aller Dienste gelöscht werde. Dazu bräuchte es eine “extrem invasive Regulierung”, so Frances Haugen.
Individuelle Verantwortung: Bislang begehre bei Facebook kaum jemand gegen die Missstände auf, da niemand befürchten müsse, zur Verantwortung gezogen zu werden. Frances Haugen empfiehlt daher, für Änderungen am System jeweils Verantwortliche zu benennen. Dies würde “die Kultur bei Facebook radikal verändern”.

Haugens Credo in Bezug auf Online-Plattformen: “Vertrauen muss man sich erst verdienen“. Ihr Auftritt dürfte diejenigen im Europaparlament stärken, die sich in den Verhandlungen für besonders scharfe Bestimmungen im Digital Services Act starkmachen. Das sind vor allem Abgeordnete aus den Fraktionen S&D, Grüne/EFA und der Linken.

Teil der Parlamentarier sieht sich bestätigt

Die Schattenberichterstatterin der Grünen/EFA im Binnenmarktausschuss, Alexandra Geese, sieht in Haugens Aussage eine wichtige Chance, die Verhandlungen noch einmal zu beleben: “Frances ist die Lichtgestalt, die im richtigen Moment für die europäische Gesetzgebung die Black Box der Algorithmen öffnet”, sagt sie. Geese kämpft für eine stärkere Transparenz für algorithmische Systeme. Sie setzt sich dafür ein, dass der Zugang zu Daten von “sehr großen Online-Plattformen” für die Untersuchung von systemischen Risiken nicht nur auf zugelassene Forscher beschränkt (Artikel 31) wird, sondern auch für Wissenschaftler:innen, NGOs und Journalist:innen geöffnet wird. Haugens Plädoyer dafür könnte dieser Forderung nun mehr Kraft verleihen.

Geese sieht sich von der Whistleblowerin auch in ihrer Forderung nach einer unabhängigen europäischen Behörde bestätigt, die für die Durchsetzung des DSA für “sehr große Online-Plattformen” zuständig sein soll. Der Kommissionsvorschlag schreibt diese Rolle den nationalen Aufsichtsbehörden (DSC) und der Kommission zu. Auch Geese weist hier auf einen Kompetenz- und Ressourcenmangel hin. Die geforderte neue Behörde solle dann auch die unabhängigen Audits und Risikobewertungen der Online-Plattformen kontrollieren.

Tiemo Wölken, S&D-Schattenberichterstatter für den Digital Services Act im Rechtsausschuss, betont die Relevanz transparenter Empfehlungssysteme: “Es gilt, das Monopol der großen Plattformen über unsere Aufmerksamkeit zu brechen. Dazu schlage ich vor, dass Drittanbieter eigene Empfehlungsalgorithmen für Plattformen anbieten dürfen und so die Nutzerin entscheidet, was ihr wichtig ist, nicht die Plattform selbst.”

Im Bundesministerium der Justiz und für Verbraucherschutz (BMJV) sieht man dagegen aufgrund der Enthüllungen keinen Anlass für Nachbesserungen im DSA-Gesetzestext. “Die Vorgaben des DSA-Entwurfs in Bezug auf Transparenz und Risikoermittlung sind durchaus vielversprechend”, sagt eine BMJV-Sprecherin auf Anfrage von Europe.Table. Das “Engagement Based Ranking”, eines der von Frances Haugen identifizierten Kernprobleme, werde bereits im Digital Services Act adressiert.

Einfluss auf KI-Verordnung und Regulierung politischer Online-Werbung

Staatssekretär Christian Kastrop teilt aber den Wunsch nach mehr Transparenz für Algorithmen: “An einigen Stellen greift der DSA alleine noch zu kurz: Beim Einsatz von Künstlicher Intelligenz muss transparent und überprüfbar sein, wie die eingesetzten Algorithmen großer Plattformen funktionieren”, bestätigt er. Diese Transparenz sei aber nicht durch den Digital Services Act alleine zu erreichen, sondern zum Beispiel mit klareren Regeln, wie sie in der neuen KI-Verordnung angedacht seien. Auch beim Zugang zu den KI-Systemen über zugelassene Forscher hinaus stimmt er mit den Empfehlungen Haugens überein.

Der Europaabgeordnete Wölken kann sich in seiner Forderung bestärkt fühlen, die KI-Verordnung zu verschärfen und die Zertifizierung den Unternehmen nicht selbst zu überlassen (Europe.Table berichtete). Der Berichterstatter im Sonderausschuss für Künstliche Intelligenz, Axel Voss (CDU/EVP), warnt davor, die Zertifizierung allein dem Staat zu überlassen: “Die Vergangenheit hat uns gelehrt, dass eine solche Aufgabe öffentliche Behörden zum einen massiv überlastet und zum anderen oft zu innovationsfeindlichen und marktfremden Lösungen führt”, so Voss. Staat und Wirtschaft müssten in diesem Bereich eng zusammenarbeiten, die Grundprinzipien der freien Marktwirtschaft müssten aber weiter geachtet werden.

Für Andreas Schwab, Berichterstatter für den “Digital Markets Act” (DMA), legen die Enthüllungen der Whistleblowerin auch den dringenden Bedarf einer Regulierung politischer Online-Werbung offen – über DMA und DSA hinaus. Laut aktuellem Arbeitsplan will die Kommission am 23. November einen entsprechenden Gesetzesvorschlag vorstellen. “Wir brauchen strenge Regeln dafür, welche Art von politischer Werbung große Online-Plattformen betreiben dürfen, und wir brauchen mehr Transparenz darüber, wer dafür bezahlt”, so Schwab. Besonders wichtig seien auch Instrumente, die sogenanntes Microtargeting und psychologisches Profiling im politischen Kontext eindämmten. Es dürfe kein “Cambridge Analytica 2.0” geben, bei dem persönliche Nutzerdaten für politische Zwecke missbraucht werden, warnt Schwab.

Auf Haugen hören könnte Verzögerungen bedeuten

Ob Haugens Anhörung vor dem Europäischen Parlament aber wirklich zum “Gamechanger” für ein progressiveres Gesetz werden kann, wie es sich viele Abgeordnete aus S&D und Grünen/EFA wünschen? Die politischen Widerstände sind groß – und einige der angesprochenen Punkte galten bislang bereits als abschließend diskutiert.

Wölkens Vorschläge etwa, die viele Schnittmengen mit Haugens Empfehlungen zeigen, seien im Rechtsausschuss am Widerstand der EVP gescheitert, berichtet der Niedersachse. “Ich hoffe wirklich, dass die eindrücklichen Enthüllungen von Frances Haugen hier zu einem Umdenken führen. Die Vorschläge liegen auf dem Tisch”, sagt Wölken.

Thierry Breton will schnell agieren

EU-Binnenmarktkommissar Thierry Breton, der Haugen gestern bereits zum zweiten Mal traf, betont die Wichtigkeit der Enthüllungen und ging ganz konkret auf die Empfehlung nach individueller Verantwortung ein: “Letztendlich liege die Verantwortung für das Handeln eines Unternehmens beim Geschäftsführer und dem Vorstand” – sprich: Mark Zuckerberg. Die digitale Sphäre sei dabei keine Ausnahme.

Gleichermaßen macht der Franzose Druck, jetzt keine Zeit zu verlieren: “Geschwindigkeit ist alles. Das DSA-DMA-Paket muss in der ersten Jahreshälfte 2022 verabschiedet werden“, so Breton. Vor dem Hintergrund der massiven Lobbyversuche der Big Tech betont er: “Wir werden es nicht zulassen, dass Unternehmensinteressen die bedeutsameren Interessen der europäischen Bürger:innen beeinträchtigen”. Till Hoppe / Jasmin Kohl

Mehr zum Thema

AIDA-Bericht zu KI: Streitpotenzial vorhanden

Der Sonderausschuss des Europäischen Parlaments für Künstliche Intelligenz im Digitalen Zeitalter (AIDA) debattiert heute den finalen Entwurf seines Berichts, der Europe.Table vorliegt. Der Ausschuss, der im Juni 2020 eingesetzt wurde, gibt darin seine Empfehlungen für die zukünftige politische Behandlung algorithmischer Entscheidungssysteme ab. Während viele Punkte wenig strittig sind, dürften einige Empfehlungen großes Debattenpotenzial bergen.

Der Bericht spart nicht an harter europäischer Selbstkritik. So heißt es darin: “Die EU erfüllt keine der Voraussetzungen um das Potenzial von KI vollständig auszuschöpfen, insbesondere im Vergleich zu […] China und den USA”. Es gebe einen “Mangel an Rechtssicherheit, Zugang und dem Teilen von hochqualitativen Daten, harmonisierten Regeln und Standards, Finanzierung, Forschung, Fähigkeiten und Infrastruktur für Kerntechnologien”. Dem müsse die EU auf mehreren Ebenen entgegenwirken – mit einem klaren Rechtsrahmen, mit Forschungsförderung, der strategischen Abstimmung mit Verbündeten und vielen einzelnen Instrumenten.

So empfiehlt die Schlussfassung unter anderem die Einführung eines begrenzten neuen Haftungsmechanismus für den Betreiber. Hochrisiko-Systeme sollen dabei einer strikten Haftung mit Versicherungspflicht unterliegen; bei Systemen mit geringerer Risikoklassifizierung soll hingegen eine Mangelvermutung zulasten des Betreibers gelten.

Strafverfolger sollen Potenzial von Künstlicher Intelligenz ausschöpfen

Auch bei der Frage des Einsatzes von KI-Systemen durch Strafverfolgungsbehörden ist der AIDA-Ausschuss durchaus auf Konfrontationskurs zu anderen Akteuren: Entscheidend für die Sicherheit der Bürger sei, dass die Behörden bei der KI-Entwicklung möglichst weit vorne lägen – weshalb “das volle Potenzial digitaler Technologien zur Vorbeugung und Verfolgung schwerer Straftaten durch den Einsatz von Real-Time-Gesichtserkennung an ausgewählten Orten” genutzt werden sollte.

Gleiches gilt dem Berichtsentwurf zufolge für “sorgfältig entwickelte Algorithmen zur Kriminalitätsvorbeugung und -untersuchung, basierend auf hochqualitativen Daten”. Diese könnten “ein höheres Maß an Effizienz, Neutralität und Rechtssicherheit als menschliche Strafverfolger” bieten und sollten daher unterstützt werden.

Viele der sonstigen Empfehlungen dürften aber auch in die legislative Arbeit an der Künstliche Intelligenz-Verordnung Eingang finden. Dazu zählt zum Beispiel die Frage der Cybersicherheitsanforderungen an KI-Produkte unter der EU-Cybersicherheitsverordnung. Hier schlagen die Autoren vor, dass auch nationale Initiativen wie das deutsche AIC4 des BSI oder das maltesische KI-Zertifizierungsprogramm berücksichtigt werden sollen.

Insgesamt dürften einige Wünsche des Berichts allerdings unerfüllt bleiben – selbst in den eigenen parlamentarischen Reihen: Dass das EP ein “ad-hoc-Digitalkommittee mit Gesetzgebungsbefugnis” erhält, gilt derzeit als unwahrscheinlich, so wie auch die Empfehlung, einen dem NASDAQ nachempfundenen europäischen Börsenindex aufzubauen. fst

Paris startet neuen Vorstoß für Energiemarkt-Reform

Die französische Regierung drängt angesichts gestiegener Preise erneut auf Änderungen im europäischen Energiemarkt. Der Großhandelsmarkt funktioniere zwar gut, sagte Wirtschafts- und Finanzminister Bruno Le Maire vor einem Treffen der Euro-Gruppe in Brüssel. Doch die Endkunden, Unternehmen und Verbraucher, müssten vor steigenden Preisen besser geschützt werden.

Drei konkrete Maßnahmen schlägt Frankreich vor: Ein “automatischer Stabilisierungsmechanismus” soll dafür sorgen, dass die Gewinne, die ein Erzeuger bei hohen Energiepreisen auf dem Markt erzielt, an den Versorger weitergegeben werden müssen. Dieser reiche diese dann wiederum an die Endkunden weiter.

Zweitens sollen Unternehmen langfristige Lieferverträge über fünf bis zehn Jahre abschließen können, so Le Maire, die eine Versorgung mit “erneuerbarer, dekarbonisierter Energie” zu einem festen Preis garantieren. Die Regierung in Paris dürfte dabei nicht zuletzt die Kernenergie im Sinn haben.

Dieselbe Möglichkeit solle es, drittens, auch für private Haushalte geben. Le Maire argumentierte, der Strompreis müsse von den Preisen für fossile Energien entkoppelt werden. Denn Letztere würden sich auch strukturell verteuern, etwa durch das Aufschlagen eines CO2-Preises.

Andere Staaten halten Energiemarkt-Reform für übereilt

Andere Mitgliedsstaaten sehen die jüngste Preisentwicklung hingegen als vorübergehendes Phänomen und stehen dem Drängen insbesondere Frankreichs und Spaniens skeptisch gegenüber. “Ich glaube nicht, dass das unsere unmittelbaren Probleme lösen wird”, sagte der niederländische Finanzminister Wopke Hoekstra. Auch EU-Wirtschaftskommissar Paolo Gentiloni geht davon aus, dass sich das Problem und damit die zuletzt gestiegene Inflation abschwächen werden. Die Behörde glaube, dass “das Phänomen ein vorübergehendes ist und wahrscheinlich in der ersten Hälfte des kommenden Jahres nachlassen wird”. Die Kommission wird am Donnerstag ihre Sicht in der neuen Konjunkturprognose darlegen. tho

Frankreich: CBAM als Priorität der Ratspräsidentschaft

Die französische Regierung will den CO2-Grenzausgleichmechanismus während ihres Ratsvorsitzes in der ersten Jahreshälfte 2022 energisch vorantreiben.

“CBAM wird sicherlich eine Priorität während der französischen Präsidentschaft sein”, sagte Europastaatssekretär Clément Beaune auf einer Konferenz der EU-Kommission. Viele Mitgliedsstaaten unterstützten das Vorhaben, das etwa europäische Stahlproduzenten vor Konkurrenz aus anderen Ländern schützen soll, in denen keine vergleichbare CO₂-Bepreisung existiert.

Einnahmen aus dem CBAM umstritten

Strittig sei aber, inwieweit die Einnahmen aus dem Grenzausgleich in den EU-Haushalt fließen sollten, so Beaune. Frankreich werde sich dafür einsetzen, die Einnahmen als Eigenmittel der EU zu behandeln. Das Gleiche gelte für eine EU-Digitalsteuer.

Der Generaldirektor für das EU-Budget Gert-Jan Koopman sagte, die Kommission wolle bis Jahresende Vorschläge zu den Eigenmitteln vorlegen. Die EU sucht neue Einnahmequellen, um den anleihefinanzierten Corona-Aufbaufonds zu refinanzieren. tho

Deutschland gibt 150 Millionen Euro für Betroffene des Klimawandels SPIEGEL

Deutschland will EU-Empfehlung für Atomkraft verhindern FAZ

Deutschland zögert beim Stopp der Finanzierung fossiler Brennstoffe SPIEGEL

Dutch join COP26 deal to end financing of fossil fuels abroad REUTERS

Einfach, energiearm, sicher – Ein neuer 5G-Standard eröffnet Europas Industrie eine neue Zeitrechnung HANDELSBLATT

Migranten zwischen Belarus und Polen: Dramatische Lage an der Grenze TAGESSCHAU

EU-Abgeordnete: Zu strenge grüne Kriterien für Biokraftstoffe werden Angebot einschränken EURACTIV

Why remote working in Spain is once again a thing of the future ELPAIS

French couple who said windfarm affected health win legal fight GUARDIAN

Künstliche Intelligenz intelligenter regulieren

Von Seda Gürses und Agathe Balayn

Gesetzgeber reagieren auf schädliche Einflüsse von KI, indem sie ihren Fokus auf eine techno-zentristische Lösung gelegt haben: die Bekämpfung von Bias, also Verzerrungen in Datensätzen. Dieser Ansatz reduziert komplexe soziale Probleme auf den Bereich technischen Designs – und legt ihn damit in die Hände von Technologieunternehmen.

Technische Bias-Bekämpfungsmaßnahmen sind als Lösung für strukturelle Diskriminierung und Ungleichheit durch KI-Systeme nur begrenzt wirksam. KI-gestützte Systeme haben weitaus größere Auswirkungen auf die Governance, den Betrieb und die finanzielle Stabilität im öffentlichen Sektor, wodurch die Dominanz von Technologieunternehmen weiter verankert wird. Die Integration alltäglicher Abläufe in die aktuellen digitalen Infrastrukturen könnte die Fähigkeit der öffentlichen Hand, die notwendigen Voraussetzungen für die Ausübung der Grundrechte der Einzelnen zu bieten, erheblich verändern, wenn nicht sogar schädigen.

Fokus auf Daten ist zu eng

Den wichtigsten politischen Initiativen mangelt es an einer echten Auseinandersetzung mit der bestehenden Forschung, dem Aktivismus und dem technischen Verständnis für Künstliche Intelligenz und strukturelle Diskriminierung. Sie propagieren “Debiasing von Daten” als Hauptmittel zur Bekämpfung von Diskriminierung im Bereich der künstlichen Intelligenz.

Aber sie schaffen es nicht, die Grundlagen der Debiasing-Ansätze zu durchdringen: Verzerrungen müssen nicht immer in den Daten liegen, sondern können durch die jeweiligen Modelle oder ihre jeweiligen Limitierungen entstehen – und hierfür existierende Lösungsansätze sind nur begrenzt wirksam.

Diese Limitierungen führen zu Unklarheit über den Umfang des zu bearbeitenden Problems und eine Konzentration auf ungeeignete technikzentrierte Lösungen, die gewährleisten sollen, dass künftige Systeme fair sind und das Recht auf Nichtdiskriminierung respektieren.

Politische Entscheidungsträger behandeln KI-Systeme wie ein fertiges Produkt und verdrängen dabei die Komplexität von KI-Entwicklungspipelines und die sich ständig weiterentwickelnden KI-Dienste aus dem Regelungsbereich.

Selbst wenn politische Entscheidungsträger ein besseres Verständnis für die technischen Methoden entwickeln, werden Debias-Ansätze nicht die breiteren diskriminierenden Auswirkungen von KI-Systemen angehen. Durch ihre Konzeption konzentrieren Debias-Ansätze Macht in den Händen von Dienstleistern und überlassen ihnen die Entscheidung darüber, was als Diskriminierung gilt und wie sie dagegen vorgehen. Politische Fragen werden hierdurch in die Sphäre der Technik verlagert.

Zudem spiegeln jüngste Trends bei Anwendungen maschinellen Lernens implizite und sozial inakzeptable Annahmen wider. Dazu zählt etwa die Verwendung von Eugenik oder Physiognomie und die Verwendung reduktionistischer Proxys in Fällen wie Sexualität oder Rasse. Diese werden durch die Debiasing-Ansätze nicht angesprochen, müssten aber verboten werden.

Alternative Perspektiven sind nötig

Für die Zukunft schlagen wir deshalb alternative Perspektiven auf KI vor, die über technikzentrierte Debatten über Daten, Algorithmen und automatisierte Entscheidungsfindungssysteme (ADMs) hinausgehen:

ML-Perspektive: Aspekte, die Grundprinzipien des maschinellen Lernens inhärent sind (z. B. die Wiederholung vergangener Datenmuster, gezielte Schlussfolgerungen, die inhärente Tendenz zur Vergrößerung des Umfangs), die Nachteile mit sich bringen können und in Debatten oft nicht berücksichtigt werden.
Entwicklungsperspektive: Die Fokussierung auf KI als bestimmtes “Produkt” verdeckt die komplexen Prozesse, durch die KI-Systeme in ein breiteres Umfeld integriert werden. Das führt oft zu erheblichen Schäden (z. B. Ausbeutung von Arbeitskräften, Ausbeutung der Umwelt), die oft übersehen werden.
Infrastruktur-Perspektive: Die Entwicklung und der Einsatz maschinellen Lernens hängen in hohem Maße von bestehenden digitalen Infrastrukturen einiger weniger Unternehmen ab. Das Eigentum an diesen Rechenkapazitäten wird wahrscheinlich zu einer stärkeren Konzentration der technischen, finanziellen und politischen Macht von Technologieunternehmen führen, was globale Probleme im Zusammenhang mit politischen, wirtschaftlichen und sozialen Ungleichheiten weiter verschärft.
Organisations-Perspektive: KI-basierte Systeme bieten Organisationen die Möglichkeit, Arbeitsabläufe zu automatisieren, zu zentralisieren und die Verwaltung und den Betrieb von Institutionen zu optimieren. Diese Veränderungen werden voraussichtlich Abhängigkeiten von Dritten und ihren digitalen Ressourcen mit sich bringen, mit nachweisbaren Folgen für die Struktur des öffentlichen Sektors und der Demokratie im Allgemeinen.

Nicht auf Debiasing-Lösungen verlassen

Künftige Versuche, KI zu regulieren, dürfen sich nicht auf Debiasing-Lösungen verlassen, ohne zugrunde liegende strukturelle Schäden zu berücksichtigen, die KI mit sich bringen kann. Politische Entscheidungsträger müssen sich der politischen, sozialen und wirtschaftlichen Folgen von “Lösungen” bewusst sein, die die Macht in den Händen von Technologieunternehmen konzentrieren.

In den Fällen, in denen Debiasing-Lösungen sinnvoll sind, muss der Ermessensspielraum privater Dienstleister bei der Bestimmung von Schaden, Rechtsverletzungen, Diskriminierung und Ungleichheit begrenzt sein. Ein effektives, dezentrales und unabhängiges System zur Bewertung von KI-Systemen, Diskriminierung und Ungleichheit sollte etabliert werden und der Einsatz von KI-Diensten verboten werden, die die Massenüberwachung verschärfen, Menschenrechte verletzen, strukturelle Ungleichheiten verstärken und den biologischen Essentialismus reproduzieren.

Wer die erste Runde Sicherheitschecks am Scottish Event Campus in Glasgow überwunden hat, wird von einem großen Plakat begrüßt: “Welcome to UN Climate Change Conference UK 2021”. Dabei ist das Vereinigte Königreich gar nicht alleiniger Ausrichter des diplomatischen Stelldicheins rund um den Klimaschutz. Oder rund um leere Versprechen und Greenwashing. Je nachdem, wen man fragt.

Co-Gastgeber und als solcher auffällig unauffällig ist Italien. Und tatsächlich findet sich auf besagtem Plakat bei genauem Hinsehen der kleingedruckte Zusatz: “In Partnership with Italy”.

Wenige Kilometer Schlangestehen und einige Sicherheitschecks später wird der geneigte COP-Besucher auch seiner letzten Hoffnung beraubt, der südeuropäische Partner hätte sich wenigstens bei der kulinarischen Versorgung auf dem Gelände durchsetzen können.

Zum Preis von fünf Pfund werden labbrige Sandwiches feilgeboten. Die können nurmehr durch eine Packung Chips mit Essig-Geschmack unterboten werden. Das ist sogar Barack Obama aufgefallen: Der 44. US-Präsident lobte bei seinem Besuch in Glasgow die Verhandlungsführer, die trotz “schwachem Kaffee und schlechtem Essen” um einen Durchbruch bemüht seien.

Obamas Bewegungsradius auf der COP war durch seine zahlreichen Fans allerdings vordefiniert und führte ihn offenbar nicht in Halle D zu den Pavillons von Ländern und Organisationen. Der UN-Pavillon wartet mit kostenlosem Barista-Cappuccino auf und Qatar schenkt arabischen Kaffee mit einer ordentlichen Ladung Kardamom aus. Das beste koffeinhaltige Heißgetränk gibt’s allerdings beim Global Wind Energy Council. Auf die internationale Gemeinschaft ist halt doch Verlass. Zumindest bei der Kaffeeversorgung. Timo Landenberger und Lukas Scheid