früher als geplant will die EU-Kommission ihren Vorschlag für die neue Schadstoffnorm, die “Euro 7”, vorlegen. Sie betrifft Fahrzeuge mit Verbrennermotor und wird deshalb vermutlich die letzte Schadstoffregulierung werden, denn das Verbrenner-Aus steht weiterhin für 2035 fest. Lohnt sich die Produktion von Verbrennern überhaupt noch? Warum es für manche Modelle knapp werden könnte, schreibt Markus Grabitz.
Die Künstliche Intelligenz steckt zwar noch in den Anfängen des Möglichen. Aufgrund ihres Potenzials, in empfindliche Bereiche des täglichen Lebens einzugreifen, tun Experten allerdings bereits jetzt gut an einer Regulierung. Die KI-Verordnung versucht genau das, und damit ist Europa im Vergleich zu anderen noch vorne mit dabei, sagt Antonio Krüger, CEO des Deutschen Forschungszentrums für KI, im Interview mit meiner Kollegin Corinna Visser.
Der Strompreis steigt – Analysten zufolge sogar stärker als der Gaspreis. Die Bundesbank vermutet, dass die Wirtschaftsleistung in Deutschland im Winterhalbjahr daher sinken wird. Die EU-Energieregulierungsbehörde ACER warnt aber noch vor einer anderen Entwicklung im Winter: Wenn an kalten Tagen viele Haushalte elektrische Heizgeräte hochdrehen statt der Gasheizung, könnte dies das Stromnetz überfordern und somit die Sicherheit der Stromversorgung gefährden. Genaueres dazu lesen Sie in den News.
Damit wünsche ich einen guten Start in den Tag,
Die Kommission will ihren Vorschlag für neue Schadstoffnormen für Autos, Lieferwagen, Lkw und Busse nun rund sechs Wochen früher vorlegen als zuletzt angekündigt. Die Pläne für eine verschärfte Abgasnorm (“Euro 7”) sollen am 12. Oktober kommen, wie aus der Liste des Generalsekretariats für die nächsten Kommissionssitzungen hervorgeht. Zunächst war der 30. November angepeilt.
Damit wird die Kommission voraussichtlich ihren Vorschlag für die letzte Schadstoffregulierung für den Verbrennungsmotor bei Pkw und Lieferwagen überhaupt vorlegen. Das Aus für den Verbrennungsmotor bei Pkw und Lieferwagen ist für das Jahr 2035 vorgesehen. Das Interesse von Herstellern und Zulieferern an den Details ist groß. Sie wollen wissen, wie hoch die Kommission die Latte beim Ausstoß von Schadstoffen hängt. Für die Branche geht es um die Frage, wie viel Geld sie in die Abgasreinigung investieren muss, damit sie bis 2035 an der Verbrennertechnologie festhalten kann. Trägt das traditionelle Geschäftsmodell der Hersteller überhaupt noch bis 2035?
Vor allem Vize-Kommissionspräsident Frans Timmermans, der für den Green Deal zuständig ist, hatte sich zunächst für eine drastische Verschärfung der Grenzwerte starkgemacht. Industriekommissar Thierry Breton, der auch die Interessen der französischen Hersteller im Blick hat, bremste.
Die Kommission hatte ein Konsortium von Wissenschaftlern aus mehreren Ländern beauftragt, einen Vorschlag zu erarbeiten. Ende Oktober 2020 legte dann das sogenannte Clove-Konsortium der Kommission in einer internen Sitzung seinen Vorschlag vor. Als er wenige Tage später nach draußen drang, war das Echo verheerend. Der Vorschlag sah vor, die Grenzwerte für Stickoxide und Kohlenmonoxid radikal zu senken, auch bei Methan und Lachgas sollte der Ausstoß deutlich reduziert werden.
Besonders kritisiert wurde, dass die Fahrzeuge bei Tests im realen Fahrbetrieb auf der Straße bereits ab dem ersten Kilometer und unter Volllast am Berg sowie beim Ziehen von schweren Anhängern die neuen Grenzwerte einhalten sollten. Bei Euro 6 sind bei diesen Sondersituationen Ausnahmen vorgesehen.
Die Hersteller fassten den Vorschlag als Generalangriff auf ihr Geschäftsmodell auf. Wenn diese Normen Gesetz würden, so die Voraussage vieler Branchenvertreter, müsse so viel in die Abgasreinigung investiert werden, dass sich die Produktion von Kleinwagen in Europa gar nicht mehr rechne und die Produktion von Premiumfahrzeugen deutlich weniger Gewinn abwerfe.
Inzwischen hat offenbar ein Umdenken bei Timmermans eingesetzt. Grund dafür sei, dass sich inzwischen beide Co-Gesetzgeber – das Europa-Parlament sowie der Rat der 27 Umweltminister – auf 2035 als Enddatum für Neufahrzeuge mit Verbrennungsmotor festgelegt haben. Nun sei es nicht mehr nötig, die Transformation Richtung E-Mobilität auch noch über eine radikale Verschärfung der Schadstoffgrenzwerte für Verbrennungsmotoren zu beschleunigen, hört man.
Die Hersteller hatten immer gewarnt: Wenn hohe Investitionen zur Erfüllung der Euro-7-Standards nötig werden, sei nicht mehr ausreichend Geld für die Umstellung auf E-Antriebe vorhanden. Es gibt inzwischen Hinweise darauf, dass sie mit diesen Argumenten bei der Kommission Gehör fanden. Beobachter rechnen damit, dass der Kommissionsvorschlag nunmehr Grenzwerte vorschlagen wird, die mit den vorhandenen Technologien machbar sind.
Herr Krüger, kann man einen noch so unerforschten Bereich wie KI in einer Verordnung regeln?
Im Prinzip ist es eine gute Idee. Die Regulierung ist für Investitionen in bestimmte Arten von KI förderlich. So kann man den Markt in eine gewünschte Richtung lenken. Denn wir wollen keine chinesischen Verhältnisse.
Was meinen Sie damit?
Social Scoring, Überwachung, selektives Ausnutzen von KI-Techniken für bestimmte Gruppen – all das wollen wir nicht.
Ist der Zeitpunkt richtig oder kommt die EU mit der Künstlichen Intelligenz-Verordnung zu früh oder zu spät?
Wir sind noch vorne mit dabei. China hat gerade begonnen, eigene Vorstellungen über eine Regulierung zu entwickeln. Die USA tun sich eher schwer mit Regulierung und regeln Dinge eher über individuelle Gerichtsverfahren. Besser ist es, man hat einen guten Ordnungsrahmen. Deswegen ist es vernünftig, das jetzt zu tun.
Stimmt der Ansatz?
Ich finde es nicht schlecht, dass die EU mit Risikoklassen arbeitet. Das hat sich in anderen Feldern – wie etwa bei den Medizinprodukten – bewährt. Denn es gibt immer Bereiche, die sensibler sind als andere. Natürlich kommt es auf die Ausgestaltung an. Dabei darf die Regulierung Innovationen nicht abwürgen. Und das ist auch mein erster Kritikpunkt: Mir fehlt der Fokus darauf, innovative Ideen in der KI zu fördern. So ist es zum Beispiel wichtig, kleinen innovativen Firmen mehr Beinfreiheit zu geben.
Warum brauchen kleine Unternehmen mehr Spielraum?
Sonst besteht die Gefahr, dass sie bei so einem umfangreichen Regelwerk – und das wird es ja wohl werden – unter die Räder kommen. Große Unternehmen können sich große Rechtsabteilungen leisten, kleine nicht. Im schlimmsten Fall werden sie bei Verstößen von etablierten Unternehmen verklagt. Es ist in Ordnung zu sagen, wir wollen diesen Bereich regulieren. Aber an erster Stelle muss stehen, dass wir Innovationen in der EU fördern wollen. Das ist mir als Forscher ganz wichtig. Und bis jetzt steht das zu weit hinten.
Was kritisieren Sie noch?
Ich habe große Probleme mit den engen Definitionen zu KI-Systemen, die hier explizit benannt werden, und der Festlegung was ein KI-System ist und was nicht.
Juristen kritisieren, dass die Definitionen viel zu ungenau sind.
Das wundert mich nicht. Ich finde es allerdings besser zu fragen, was man schützen will. Das sind bestimmte Grundwerte. Und Systeme, die diese Grundwerte infrage stellen, die müssen reguliert werden. Eigentlich ist es doch vollkommen sekundär, welche KI-Technik unter der Motorhaube steckt. Wichtig ist, was dabei herauskommt. Wenn man dagegen KI-Systeme so genau definiert, dann wird es am Ende viele Streitereien und Schlupflöcher geben, weil jemand eine neue KI-Technik entwickelt hat und diese dann nicht unter die Regulierung fällt.
Reicht es nicht, einen Annex für solche technischen Entwicklungen zu haben, der fortgeschrieben wird?
Ich wäre eher dafür, die Regulierung vom Ende her zu denken und Risikoklassen, Anwendungsgebiete und Werte zu definieren, die man schützen möchte. Dann würden gewisse Lücken auch nicht entstehen. Neurosymbolische KI – also die Kombination verschiedener KI-Techniken – taucht zum Beispiel im Regelwerk gar nicht auf. Es wird immer Unternehmen geben, die die Regulierung umgehen wollen und wenn sie keine der definierten KI-Systeme nutzen, können sie tun, was sie wollen. Gleichzeitig ist es natürlich auch innovationshemmend, wenn man bereits eine Schere im Kopf hat, die den Einsatz bestimmter Techniken dann verhindert.
Warum ist es innovationshemmend, wenn man nach neuen Lösungen sucht?
Weil bestimmte erfolgversprechende Technologien dann nicht hier, sondern in anderen Teilen der Welt weiterentwickelt werden. Ich tue mich sehr schwer mit einer trennscharfen Definition von KI-Systemen. Hinzu kommt, dass KI sich unglaublich dynamisch entwickelt. Im Moment entstehen ganz neue Verfahren, die gar nicht unter die genannte Beschreibung fallen. Denken Sie nur an Quantencomputing. Ähnlich sieht es bei der Auflistung der Anwendungsgebiete aus. Im Prinzip ist das ok, aber auch hier muss der Regulierer sagen, wie er in diesen Gebieten für Innovationen sorgen und sie nicht nur verhindern will.
Was schlagen Sie vor?
Ich würde die ganze KI-Systematik streichen und viel mehr danach fragen: Was machen denn die Systeme? Beeinflussen sie die Autonomie des Einzelnen? Greifen sie sehr stark in Persönlichkeitsrechte ein? Die Beschreibung von Anwendungsgebieten und die Klassifizierung in Risikobereiche halte ich für gute Schritte, wenn auch einige zu genau und andere zu schwammig definiert sind. Aber hier wird sich sicher ein Kompromiss finden lassen.
Zum Beispiel?
Zum Beispiel im Bereich Social Scoring. Da haben die Regulierer wirklich vom Ende her gedacht: Systeme, die Menschen etwa anhand ihres sozialkonformen Verhaltens klassifizieren, sind als hochriskant eingestuft. Oder Systeme, die autonom Entscheidungen über kritische Infrastrukturen treffen. Das kann ich auch gut nachvollziehen. Aber da brauche ich keinen Satz darüber zu verlieren, wie sie gebaut sind. Wenn ein kritisches Sicherheitssystem anfängt zu würfeln, dann steckt garantiert kein KI-System hinter den Entscheidungen, aber das wollen Sie trotzdem ganz sicher regulieren. Was ich damit sagen will: Es können auch konventionelle Systeme in hochriskanten Bereichen zum Einsatz kommen, die womöglich schlechter arbeiten als KI-Systeme, aber nicht unter die Regulierung fallen.
Das heißt, der wichtigste Punkt ist die Risikoklassifizierung?
Ja, das würde ich so sehen. Es ist wichtig, dass das gut gemacht wird. Bei Unterstützungssystemen, bei denen der Mensch am Ende die Kontrolle behält, wäre ich deutlich entspannter als bei Systemen, die autonom handeln.
Wie sollte die Abstufung konkret erfolgen?
Ich würde das nicht nur an den Anwendungen, sondern auch daran fest machen, wie stark der Assistenzcharakter des Systems ist. Je stärker es sich einbringt, desto höher ist eventuell der Gewinn an Sicherheit und Komfort, aber auch das potenzielle Risiko. Aber es hängt natürlich auch vom Einsatzgebiet ab. Deswegen wird es wohl eine Mischung aus beiden Bereichen sein. Es gibt zum Beispiel diese absurde Diskussion über manipulative Techniken. Wir sind alle psychologischen Wesen, die sich beeinflussen lassen. Jede Werbung ist manipulatives Verhalten. Aber macht es wirklich einen Unterschied, ob ein KI-System dahintersteht oder uns auf andere Weise ein Produkt aufgedrängt wird? Und wie hoch ist andererseits der Schaden? Hier ist die Einstufung für mich noch zu unscharf. Auch hier hängt es sehr stark vom Einsatzgebiet ab.
Finden Sie mit Ihren Einschätzungen Gehör in Brüssel?
Wir bringen uns im Moment sehr stark über CLAIRE ein, den KI-Labornetzverband von Forschern und Anwendern, und auch über andere Verbände. Also, wir werden schon gehört und ich gehe davon aus, dass es noch Änderungen an der Verordnung geben wird.
Antonio Krüger ist CEO und wissenschaftlicher Direktor des Deutschen Forschungszentrums für Künstliche Intelligenz (DFKI) sowie wissenschaftlicher Direktor des Forschungsbereichs “Kognitive Assistenzsysteme” am DFKI. Er ist ein international angesehener Experte der Mensch-Maschine-Interaktion und Künstlichen Intelligenz.
Es sind durchwachsene Zeiten für Mauricio Vargas. Ende Juni sprach der Finanzexperte von Greenpeace noch von einem ermutigenden Signal. Die Mitglieder des Umwelt- und Wirtschaftsausschusses hatten sich gerade mehrheitlich gegen die Aufnahme von Gas- und Atomkraft in die EU-Taxonomie ausgesprochen, die Investitionen in grüne Energien ankurbeln soll.
Knapp zwei Wochen später war klar: Das Signal ist ohne Wirkung geblieben. Am Ende kamen nicht genug Stimmen der EU-Parlamentarier zusammen, um die Erweiterung der EU-Taxonomie noch zu stoppen. Ab Januar kommenden Jahres können Investitionen in bestimmte Gas- und Atomkraftwerke in der Europäischen Union als klimafreundlich eingestuft werden. “Das wird es der Finanzindustrie erleichtern, bestehende Finanzprodukte einfach grün umzuetikettieren”, kritisiert Vargas.
Seit knapp zwei Jahren setzt sich der Volkswirt bei Greenpeace für eine grünere Finanzwelt ein. Vargas kritisierte unter anderem das klimaschädliche Bitcoin-Mining. “Jeder Bitcoin-Nutzer sollte sich fragen, ob Bitcoin es wert ist, die Stabilität unserer Ökosysteme zu riskieren”, mahnt er beispielsweise.
Vargas attackierte auch die Europäische Zentralbank. Sie sei in Sachen Klimaschutz zu langsam und begünstige mit ihren Anleihekäufen kohlenstoffintensive Unternehmen. Zuletzt warb der 42-Jährige für einen Preisdeckel auf russische Gasimporte. Ähnlich wie bei einem Strafzoll würde das den Export nach Deutschland für Russland verteuern. Das Geld könne in einem Fonds gesichert und für den Wiederaufbau in der Ukraine verwendet werden, forderte der Umweltaktivist.
Und jetzt die EU-Taxonomie: Die EU habe die Chance verpasst, glaubwürdige Mindeststandards für Finanzunternehmen zu schaffen, bemängelt er. Wohin das führen könne, habe gerade der Greenwashing-Verdacht bei der Deutschen-Bank-Tochter DWS gezeigt. Nach Vorwürfen, die Fondsgesellschaft vermarkte Finanzprodukte als zu grün, kam es im Juni dieses Jahres bei der Deutschen Bank und DWS zu Durchsuchungen von Polizei und Staatsanwaltschaft.
Vargas kennt die Finanzbranche gut: Er arbeitete selbst zehn Jahre lang bei einer Fondsgesellschaft, nachdem er in Tübingen Internationale Volkswirtschaftslehre studiert und im Anschluss zu Finanzstabilität und Währungskrisen in Entwicklungsländern und Schwellenländern promoviert hatte. 1,5 Jahre verbrachte er während seiner Studienzeit in Mexiko. Ein Land, zu dem Vargas auch einen persönlichen Bezug hat – er ist in Mexiko-Stadt geboren.
Dass er die Perspektive eines weniger wohlhabenderen Landes kennenlernen durfte, das bereits mehrere schwere Wirtschaftskrisen erlebt hat, prägte den Volkswirt. 2020, nach zehn Jahren, kündigte er bei der Frankfurter Fondsgesellschaft, und begann bei Greenpeace. “Es hat lange an mir genagt, dass ich meinen Ansprüchen, was ich eigentlich bewirken will, nicht gerecht werden konnte”, sagt er.
Heute spricht er von einem gelungenen “Seitenwechsel”, auch wenn sich inhaltlich nicht viel für ihn geändert hat. Er arbeitet weiterhin volkswirtschaftliche Analysen aus. Nur dass sie nicht mehr bei Investitionsentscheidungen helfen, sondern Vargas damit die politischen Forderungen der Umweltorganisation argumentativ unterfüttert. Für den Schritt “raus aus dem goldenen Käfig”, wie er es nennt, verzichtet er auf die Hälfte seines bisherigen Gehalts.
Eine seiner wichtigsten Kampagnen, die er bisher bei der Umweltorganisation begleitet hat, war die zur EZB. Im vergangenen Jahr hat Greenpeace die Europäische Zentralbank (EZB) regelrecht belagert: Mal ließen sie Eis vor dem Gebäude symbolisch schmelzen, mal landeten sie mit Gleitschirmen auf dem Gelände der Zentralbank. Der Hauptvorwurf: Die EZB stecke Milliarden in klimaschädliche Energieunternehmen.
Vargas selbst ist bei solchen Kampagnen meistens nicht vor Ort aktiv. Das übernehmen Ehrenamtliche, erzählt er. Aber er brieft die Aktivistinnen und unterstützt bei der Pressearbeit, mit Erfolg. Im Sommer vergangenen Jahres verkündete die EZB einen Kurswechsel: Ab Oktober will die Zentralbank immerhin 30 Milliarden Euro jährlich klimafreundlicher ausgeben.
Inzwischen ist auch klar, dass es bei der scharfen Kritik des Ökonomen an der EU-Taxonomie nicht bleiben wird: Greenpeace hat angekündigt, Klage einzureichen. Vorher stelle die Organisation bei der Kommission noch einen formellen Antrag auf interne Überprüfung. Sobald diese abgeschlossen ist und zu einem negativen Ergebnis führt, wollen die Umweltschützer vor den Europäischen Gerichtshof ziehen. Vargas und seine Kolleginnen und Kollegen werden die Klage koordinieren. Pauline Schinkels
früher als geplant will die EU-Kommission ihren Vorschlag für die neue Schadstoffnorm, die “Euro 7”, vorlegen. Sie betrifft Fahrzeuge mit Verbrennermotor und wird deshalb vermutlich die letzte Schadstoffregulierung werden, denn das Verbrenner-Aus steht weiterhin für 2035 fest. Lohnt sich die Produktion von Verbrennern überhaupt noch? Warum es für manche Modelle knapp werden könnte, schreibt Markus Grabitz.
Die Künstliche Intelligenz steckt zwar noch in den Anfängen des Möglichen. Aufgrund ihres Potenzials, in empfindliche Bereiche des täglichen Lebens einzugreifen, tun Experten allerdings bereits jetzt gut an einer Regulierung. Die KI-Verordnung versucht genau das, und damit ist Europa im Vergleich zu anderen noch vorne mit dabei, sagt Antonio Krüger, CEO des Deutschen Forschungszentrums für KI, im Interview mit meiner Kollegin Corinna Visser.
Der Strompreis steigt – Analysten zufolge sogar stärker als der Gaspreis. Die Bundesbank vermutet, dass die Wirtschaftsleistung in Deutschland im Winterhalbjahr daher sinken wird. Die EU-Energieregulierungsbehörde ACER warnt aber noch vor einer anderen Entwicklung im Winter: Wenn an kalten Tagen viele Haushalte elektrische Heizgeräte hochdrehen statt der Gasheizung, könnte dies das Stromnetz überfordern und somit die Sicherheit der Stromversorgung gefährden. Genaueres dazu lesen Sie in den News.
Damit wünsche ich einen guten Start in den Tag,
Die Kommission will ihren Vorschlag für neue Schadstoffnormen für Autos, Lieferwagen, Lkw und Busse nun rund sechs Wochen früher vorlegen als zuletzt angekündigt. Die Pläne für eine verschärfte Abgasnorm (“Euro 7”) sollen am 12. Oktober kommen, wie aus der Liste des Generalsekretariats für die nächsten Kommissionssitzungen hervorgeht. Zunächst war der 30. November angepeilt.
Damit wird die Kommission voraussichtlich ihren Vorschlag für die letzte Schadstoffregulierung für den Verbrennungsmotor bei Pkw und Lieferwagen überhaupt vorlegen. Das Aus für den Verbrennungsmotor bei Pkw und Lieferwagen ist für das Jahr 2035 vorgesehen. Das Interesse von Herstellern und Zulieferern an den Details ist groß. Sie wollen wissen, wie hoch die Kommission die Latte beim Ausstoß von Schadstoffen hängt. Für die Branche geht es um die Frage, wie viel Geld sie in die Abgasreinigung investieren muss, damit sie bis 2035 an der Verbrennertechnologie festhalten kann. Trägt das traditionelle Geschäftsmodell der Hersteller überhaupt noch bis 2035?
Vor allem Vize-Kommissionspräsident Frans Timmermans, der für den Green Deal zuständig ist, hatte sich zunächst für eine drastische Verschärfung der Grenzwerte starkgemacht. Industriekommissar Thierry Breton, der auch die Interessen der französischen Hersteller im Blick hat, bremste.
Die Kommission hatte ein Konsortium von Wissenschaftlern aus mehreren Ländern beauftragt, einen Vorschlag zu erarbeiten. Ende Oktober 2020 legte dann das sogenannte Clove-Konsortium der Kommission in einer internen Sitzung seinen Vorschlag vor. Als er wenige Tage später nach draußen drang, war das Echo verheerend. Der Vorschlag sah vor, die Grenzwerte für Stickoxide und Kohlenmonoxid radikal zu senken, auch bei Methan und Lachgas sollte der Ausstoß deutlich reduziert werden.
Besonders kritisiert wurde, dass die Fahrzeuge bei Tests im realen Fahrbetrieb auf der Straße bereits ab dem ersten Kilometer und unter Volllast am Berg sowie beim Ziehen von schweren Anhängern die neuen Grenzwerte einhalten sollten. Bei Euro 6 sind bei diesen Sondersituationen Ausnahmen vorgesehen.
Die Hersteller fassten den Vorschlag als Generalangriff auf ihr Geschäftsmodell auf. Wenn diese Normen Gesetz würden, so die Voraussage vieler Branchenvertreter, müsse so viel in die Abgasreinigung investiert werden, dass sich die Produktion von Kleinwagen in Europa gar nicht mehr rechne und die Produktion von Premiumfahrzeugen deutlich weniger Gewinn abwerfe.
Inzwischen hat offenbar ein Umdenken bei Timmermans eingesetzt. Grund dafür sei, dass sich inzwischen beide Co-Gesetzgeber – das Europa-Parlament sowie der Rat der 27 Umweltminister – auf 2035 als Enddatum für Neufahrzeuge mit Verbrennungsmotor festgelegt haben. Nun sei es nicht mehr nötig, die Transformation Richtung E-Mobilität auch noch über eine radikale Verschärfung der Schadstoffgrenzwerte für Verbrennungsmotoren zu beschleunigen, hört man.
Die Hersteller hatten immer gewarnt: Wenn hohe Investitionen zur Erfüllung der Euro-7-Standards nötig werden, sei nicht mehr ausreichend Geld für die Umstellung auf E-Antriebe vorhanden. Es gibt inzwischen Hinweise darauf, dass sie mit diesen Argumenten bei der Kommission Gehör fanden. Beobachter rechnen damit, dass der Kommissionsvorschlag nunmehr Grenzwerte vorschlagen wird, die mit den vorhandenen Technologien machbar sind.
Herr Krüger, kann man einen noch so unerforschten Bereich wie KI in einer Verordnung regeln?
Im Prinzip ist es eine gute Idee. Die Regulierung ist für Investitionen in bestimmte Arten von KI förderlich. So kann man den Markt in eine gewünschte Richtung lenken. Denn wir wollen keine chinesischen Verhältnisse.
Was meinen Sie damit?
Social Scoring, Überwachung, selektives Ausnutzen von KI-Techniken für bestimmte Gruppen – all das wollen wir nicht.
Ist der Zeitpunkt richtig oder kommt die EU mit der Künstlichen Intelligenz-Verordnung zu früh oder zu spät?
Wir sind noch vorne mit dabei. China hat gerade begonnen, eigene Vorstellungen über eine Regulierung zu entwickeln. Die USA tun sich eher schwer mit Regulierung und regeln Dinge eher über individuelle Gerichtsverfahren. Besser ist es, man hat einen guten Ordnungsrahmen. Deswegen ist es vernünftig, das jetzt zu tun.
Stimmt der Ansatz?
Ich finde es nicht schlecht, dass die EU mit Risikoklassen arbeitet. Das hat sich in anderen Feldern – wie etwa bei den Medizinprodukten – bewährt. Denn es gibt immer Bereiche, die sensibler sind als andere. Natürlich kommt es auf die Ausgestaltung an. Dabei darf die Regulierung Innovationen nicht abwürgen. Und das ist auch mein erster Kritikpunkt: Mir fehlt der Fokus darauf, innovative Ideen in der KI zu fördern. So ist es zum Beispiel wichtig, kleinen innovativen Firmen mehr Beinfreiheit zu geben.
Warum brauchen kleine Unternehmen mehr Spielraum?
Sonst besteht die Gefahr, dass sie bei so einem umfangreichen Regelwerk – und das wird es ja wohl werden – unter die Räder kommen. Große Unternehmen können sich große Rechtsabteilungen leisten, kleine nicht. Im schlimmsten Fall werden sie bei Verstößen von etablierten Unternehmen verklagt. Es ist in Ordnung zu sagen, wir wollen diesen Bereich regulieren. Aber an erster Stelle muss stehen, dass wir Innovationen in der EU fördern wollen. Das ist mir als Forscher ganz wichtig. Und bis jetzt steht das zu weit hinten.
Was kritisieren Sie noch?
Ich habe große Probleme mit den engen Definitionen zu KI-Systemen, die hier explizit benannt werden, und der Festlegung was ein KI-System ist und was nicht.
Juristen kritisieren, dass die Definitionen viel zu ungenau sind.
Das wundert mich nicht. Ich finde es allerdings besser zu fragen, was man schützen will. Das sind bestimmte Grundwerte. Und Systeme, die diese Grundwerte infrage stellen, die müssen reguliert werden. Eigentlich ist es doch vollkommen sekundär, welche KI-Technik unter der Motorhaube steckt. Wichtig ist, was dabei herauskommt. Wenn man dagegen KI-Systeme so genau definiert, dann wird es am Ende viele Streitereien und Schlupflöcher geben, weil jemand eine neue KI-Technik entwickelt hat und diese dann nicht unter die Regulierung fällt.
Reicht es nicht, einen Annex für solche technischen Entwicklungen zu haben, der fortgeschrieben wird?
Ich wäre eher dafür, die Regulierung vom Ende her zu denken und Risikoklassen, Anwendungsgebiete und Werte zu definieren, die man schützen möchte. Dann würden gewisse Lücken auch nicht entstehen. Neurosymbolische KI – also die Kombination verschiedener KI-Techniken – taucht zum Beispiel im Regelwerk gar nicht auf. Es wird immer Unternehmen geben, die die Regulierung umgehen wollen und wenn sie keine der definierten KI-Systeme nutzen, können sie tun, was sie wollen. Gleichzeitig ist es natürlich auch innovationshemmend, wenn man bereits eine Schere im Kopf hat, die den Einsatz bestimmter Techniken dann verhindert.
Warum ist es innovationshemmend, wenn man nach neuen Lösungen sucht?
Weil bestimmte erfolgversprechende Technologien dann nicht hier, sondern in anderen Teilen der Welt weiterentwickelt werden. Ich tue mich sehr schwer mit einer trennscharfen Definition von KI-Systemen. Hinzu kommt, dass KI sich unglaublich dynamisch entwickelt. Im Moment entstehen ganz neue Verfahren, die gar nicht unter die genannte Beschreibung fallen. Denken Sie nur an Quantencomputing. Ähnlich sieht es bei der Auflistung der Anwendungsgebiete aus. Im Prinzip ist das ok, aber auch hier muss der Regulierer sagen, wie er in diesen Gebieten für Innovationen sorgen und sie nicht nur verhindern will.
Was schlagen Sie vor?
Ich würde die ganze KI-Systematik streichen und viel mehr danach fragen: Was machen denn die Systeme? Beeinflussen sie die Autonomie des Einzelnen? Greifen sie sehr stark in Persönlichkeitsrechte ein? Die Beschreibung von Anwendungsgebieten und die Klassifizierung in Risikobereiche halte ich für gute Schritte, wenn auch einige zu genau und andere zu schwammig definiert sind. Aber hier wird sich sicher ein Kompromiss finden lassen.
Zum Beispiel?
Zum Beispiel im Bereich Social Scoring. Da haben die Regulierer wirklich vom Ende her gedacht: Systeme, die Menschen etwa anhand ihres sozialkonformen Verhaltens klassifizieren, sind als hochriskant eingestuft. Oder Systeme, die autonom Entscheidungen über kritische Infrastrukturen treffen. Das kann ich auch gut nachvollziehen. Aber da brauche ich keinen Satz darüber zu verlieren, wie sie gebaut sind. Wenn ein kritisches Sicherheitssystem anfängt zu würfeln, dann steckt garantiert kein KI-System hinter den Entscheidungen, aber das wollen Sie trotzdem ganz sicher regulieren. Was ich damit sagen will: Es können auch konventionelle Systeme in hochriskanten Bereichen zum Einsatz kommen, die womöglich schlechter arbeiten als KI-Systeme, aber nicht unter die Regulierung fallen.
Das heißt, der wichtigste Punkt ist die Risikoklassifizierung?
Ja, das würde ich so sehen. Es ist wichtig, dass das gut gemacht wird. Bei Unterstützungssystemen, bei denen der Mensch am Ende die Kontrolle behält, wäre ich deutlich entspannter als bei Systemen, die autonom handeln.
Wie sollte die Abstufung konkret erfolgen?
Ich würde das nicht nur an den Anwendungen, sondern auch daran fest machen, wie stark der Assistenzcharakter des Systems ist. Je stärker es sich einbringt, desto höher ist eventuell der Gewinn an Sicherheit und Komfort, aber auch das potenzielle Risiko. Aber es hängt natürlich auch vom Einsatzgebiet ab. Deswegen wird es wohl eine Mischung aus beiden Bereichen sein. Es gibt zum Beispiel diese absurde Diskussion über manipulative Techniken. Wir sind alle psychologischen Wesen, die sich beeinflussen lassen. Jede Werbung ist manipulatives Verhalten. Aber macht es wirklich einen Unterschied, ob ein KI-System dahintersteht oder uns auf andere Weise ein Produkt aufgedrängt wird? Und wie hoch ist andererseits der Schaden? Hier ist die Einstufung für mich noch zu unscharf. Auch hier hängt es sehr stark vom Einsatzgebiet ab.
Finden Sie mit Ihren Einschätzungen Gehör in Brüssel?
Wir bringen uns im Moment sehr stark über CLAIRE ein, den KI-Labornetzverband von Forschern und Anwendern, und auch über andere Verbände. Also, wir werden schon gehört und ich gehe davon aus, dass es noch Änderungen an der Verordnung geben wird.
Antonio Krüger ist CEO und wissenschaftlicher Direktor des Deutschen Forschungszentrums für Künstliche Intelligenz (DFKI) sowie wissenschaftlicher Direktor des Forschungsbereichs “Kognitive Assistenzsysteme” am DFKI. Er ist ein international angesehener Experte der Mensch-Maschine-Interaktion und Künstlichen Intelligenz.
Es sind durchwachsene Zeiten für Mauricio Vargas. Ende Juni sprach der Finanzexperte von Greenpeace noch von einem ermutigenden Signal. Die Mitglieder des Umwelt- und Wirtschaftsausschusses hatten sich gerade mehrheitlich gegen die Aufnahme von Gas- und Atomkraft in die EU-Taxonomie ausgesprochen, die Investitionen in grüne Energien ankurbeln soll.
Knapp zwei Wochen später war klar: Das Signal ist ohne Wirkung geblieben. Am Ende kamen nicht genug Stimmen der EU-Parlamentarier zusammen, um die Erweiterung der EU-Taxonomie noch zu stoppen. Ab Januar kommenden Jahres können Investitionen in bestimmte Gas- und Atomkraftwerke in der Europäischen Union als klimafreundlich eingestuft werden. “Das wird es der Finanzindustrie erleichtern, bestehende Finanzprodukte einfach grün umzuetikettieren”, kritisiert Vargas.
Seit knapp zwei Jahren setzt sich der Volkswirt bei Greenpeace für eine grünere Finanzwelt ein. Vargas kritisierte unter anderem das klimaschädliche Bitcoin-Mining. “Jeder Bitcoin-Nutzer sollte sich fragen, ob Bitcoin es wert ist, die Stabilität unserer Ökosysteme zu riskieren”, mahnt er beispielsweise.
Vargas attackierte auch die Europäische Zentralbank. Sie sei in Sachen Klimaschutz zu langsam und begünstige mit ihren Anleihekäufen kohlenstoffintensive Unternehmen. Zuletzt warb der 42-Jährige für einen Preisdeckel auf russische Gasimporte. Ähnlich wie bei einem Strafzoll würde das den Export nach Deutschland für Russland verteuern. Das Geld könne in einem Fonds gesichert und für den Wiederaufbau in der Ukraine verwendet werden, forderte der Umweltaktivist.
Und jetzt die EU-Taxonomie: Die EU habe die Chance verpasst, glaubwürdige Mindeststandards für Finanzunternehmen zu schaffen, bemängelt er. Wohin das führen könne, habe gerade der Greenwashing-Verdacht bei der Deutschen-Bank-Tochter DWS gezeigt. Nach Vorwürfen, die Fondsgesellschaft vermarkte Finanzprodukte als zu grün, kam es im Juni dieses Jahres bei der Deutschen Bank und DWS zu Durchsuchungen von Polizei und Staatsanwaltschaft.
Vargas kennt die Finanzbranche gut: Er arbeitete selbst zehn Jahre lang bei einer Fondsgesellschaft, nachdem er in Tübingen Internationale Volkswirtschaftslehre studiert und im Anschluss zu Finanzstabilität und Währungskrisen in Entwicklungsländern und Schwellenländern promoviert hatte. 1,5 Jahre verbrachte er während seiner Studienzeit in Mexiko. Ein Land, zu dem Vargas auch einen persönlichen Bezug hat – er ist in Mexiko-Stadt geboren.
Dass er die Perspektive eines weniger wohlhabenderen Landes kennenlernen durfte, das bereits mehrere schwere Wirtschaftskrisen erlebt hat, prägte den Volkswirt. 2020, nach zehn Jahren, kündigte er bei der Frankfurter Fondsgesellschaft, und begann bei Greenpeace. “Es hat lange an mir genagt, dass ich meinen Ansprüchen, was ich eigentlich bewirken will, nicht gerecht werden konnte”, sagt er.
Heute spricht er von einem gelungenen “Seitenwechsel”, auch wenn sich inhaltlich nicht viel für ihn geändert hat. Er arbeitet weiterhin volkswirtschaftliche Analysen aus. Nur dass sie nicht mehr bei Investitionsentscheidungen helfen, sondern Vargas damit die politischen Forderungen der Umweltorganisation argumentativ unterfüttert. Für den Schritt “raus aus dem goldenen Käfig”, wie er es nennt, verzichtet er auf die Hälfte seines bisherigen Gehalts.
Eine seiner wichtigsten Kampagnen, die er bisher bei der Umweltorganisation begleitet hat, war die zur EZB. Im vergangenen Jahr hat Greenpeace die Europäische Zentralbank (EZB) regelrecht belagert: Mal ließen sie Eis vor dem Gebäude symbolisch schmelzen, mal landeten sie mit Gleitschirmen auf dem Gelände der Zentralbank. Der Hauptvorwurf: Die EZB stecke Milliarden in klimaschädliche Energieunternehmen.
Vargas selbst ist bei solchen Kampagnen meistens nicht vor Ort aktiv. Das übernehmen Ehrenamtliche, erzählt er. Aber er brieft die Aktivistinnen und unterstützt bei der Pressearbeit, mit Erfolg. Im Sommer vergangenen Jahres verkündete die EZB einen Kurswechsel: Ab Oktober will die Zentralbank immerhin 30 Milliarden Euro jährlich klimafreundlicher ausgeben.
Inzwischen ist auch klar, dass es bei der scharfen Kritik des Ökonomen an der EU-Taxonomie nicht bleiben wird: Greenpeace hat angekündigt, Klage einzureichen. Vorher stelle die Organisation bei der Kommission noch einen formellen Antrag auf interne Überprüfung. Sobald diese abgeschlossen ist und zu einem negativen Ergebnis führt, wollen die Umweltschützer vor den Europäischen Gerichtshof ziehen. Vargas und seine Kolleginnen und Kollegen werden die Klage koordinieren. Pauline Schinkels
