es ist mal wieder Gipfel – diesmal nicht in Brüssel, sondern in Frankfurt. Und es treffen sich auch nicht Staats- und Regierungschefs, sondern Experten aus Politik, Wirtschaft, Wissenschaft und Zivilgesellschaft zum Digital-Gipfel 2024. Auch die EU-Kommission ist in Frankfurt dabei.
Am heutigen Vormittag diskutiert unter anderen Prabhat Agarwal, Referatsleiter Digitale Dienste und Plattformen bei der DG Connect, über die Bilanz von zwei Jahren Digital Services Act. Hassrede und Desinformation stellen gerade im Superwahljahr 2024 eine Herausforderung für die Politik dar. Genauso wie vor der Bundestagswahl im kommenden Jahr. Reichen die Instrumente des DSA aus, um die erforderliche Schlagkraft gegenüber den großen Plattformen zu entwickeln? Das wird eine der zu diskutierenden Fragen sein.
Das dominierende Thema auf dem noch bis Dienstag dauernden Digital-Gipfel wird aber Künstliche Intelligenz sein: Die Themen reichen von “KI made in Europe – souverän, vertrauenswürdig, sicher” bis zu “KI im Tagesgeschäft”. Und natürlich wird es auch um die Frage der richtigen Regulierung von KI gehen. Deutschland, so meinen jedenfalls die Experten des Thinktanks KIRA Center in Berlin in ihrem Standpunkt, muss endlich seine Expertise in diesem Bereich bündeln.
Derweil geht die EU bei der Umsetzung des AI Acts voran. Der sieht die Einrichtung eines wissenschaftlichen Gremiums unabhängiger Sachverständiger vor. Das Gremium soll das AI Office der EU und die nationalen Marktüberwachungsbehörden bei der Durchführung und Durchsetzung des AI Acts beraten und unterstützen. Dazu hat die Kommission jetzt den Entwurf einer Durchführungsverordnung vorgelegt, für den sie ab sofort bis zum 15. November um Kommentierung bittet. Vielleicht haben auch Sie einige Ideen dazu.
Ich wünsche Ihnen einen guten Start in die Woche,
Wer den Draghi-Bericht zum Bereich Telekommunikation liest, findet in großen Teilen Forderungen wieder, die die großen Netzbetreiber seit Jahren stellen. Der Bericht sieht einen dringenden Bedarf zur Konsolidierung und zur Förderung europäischer Champions. Dies sei notwendig, um höhere Investitionsraten in leistungsfähige Netze zu erreichen. Ebenfalls nötig seien weniger Regulierung auf nationaler Ebene und eine Harmonisierung der Spektrumslizenzen im Mobilfunk.
Tatsächlich ist der europäische Markt zersplittert, während sich in anderen Regionen große Anbieter herausgebildet haben. In der EU (450 Millionen Einwohner) gibt es drei bis vier Mobilfunknetzbetreiber (MNOs) pro Mitgliedsland. In den USA (335 Millionen) sind es landesweit nur drei große MNOs, wie auch in China (1,4 Milliarden). Frankreichs Präsident Emmanuel Macron brachte es auf die einfache Formel: Größere Player können mehr investieren, das bedeute mehr Innovation. Doch Experten bezweifeln, dass die Gleichung stimmt.
Die Generaldirektion Wettbewerb der EU-Kommission hatte im Sommer einen eigenen Bericht vorgelegt – und kam zu anderen Ergebnissen: Fusionen von Mobilfunkanbietern führten demnach in der Regel zu höheren Preisen für die Verbraucher. Positive Effekte auf die Investitionen in Netzwerke oder die Einführung innovativer Technologien seien dagegen nicht eindeutig nachgewiesen worden. Der durchschnittliche Umsatz pro Nutzer (ARPU) liegt in Europa weit unter dem anderer Regionen: Im Jahr 2022 gaben Europäer im Schnitt 15 Euro aus, im Vergleich zu 42,50 Euro in den USA, 26,50 Euro in Südkorea und 25,90 Euro in Japan.
Die Analyse zeigt auch, dass europäische Länder mit weniger Netzbetreibern tendenziell höhere ARPUs aufweisen. Zugleich gebe es einen negativen Zusammenhang zwischen Marktkonzentration und Investitionen. Eine größere Anzahl von Netzbetreibern scheint demnach mit höheren Investitionen und potenziell niedrigeren Preisen verbunden zu sein, während eine Konzentration zu einem Anstieg der Preise führt, ohne signifikante Vorteile für die Investitionen oder die Servicequalität.
Das deckt sich mit den Beobachtungen von Tomaso Duso, Leiter der Abteilung Unternehmen und Märkte am Deutschen Institut für Wirtschaftsforschung (DIW Berlin) und Vorsitzender der Monopolkommission. “Der Draghi-Report ist in vielen Bereichen in seiner Analyse sehr stark wissenschaftlich fundiert. Aber die Beobachtung, dass Marktkonzentration zu höheren Investitionen führt, ist für Mobilfunkmärkte empirisch nicht belegt“, sagt Duso. “Tatsächlich konnten wir zeigen, dass gemeinsame Investitionen auf Marktebene in Märkten mit mehr Anbietern höher sind als in Märkten mit weniger Anbietern.”
Die Anbieter argumentieren hingegen mit Skaleneffekten. Markus Haas, CEO von o2 Telefónica, brachte es bei einer Veranstaltung in Berlin auf eine einfache Rechnung: Früher hätten E-Plus und o2, die beiden kleineren Anbieter auf dem deutschen Markt, in zwei verschiedene Netze investiert. Seit dem Zusammenschluss sei daraus ein wettbewerbsfähiges Netz geworden. Statt jeweils 500 Millionen Euro in zwei Netze investiere o2 Telefónica jetzt eine Milliarde in ein Netz.
Doch auf anderen nationalen Märkten haben die Wettbewerbshüter der Kommission solche Fusionen nicht zugelassen. Auch in Deutschland war die Bedingung, dass es einen neuen vierten Anbieter geben müsse (der allerdings nicht ins Laufen kommt). Die Folge ist eine enorme Zersplitterung des Marktes.
“Als Konsequenz daraus sehen wir bei den großen Investitionen, die jetzt über Jahre hinweg in verschiedene Mobilfunk- und Glasfaserinfrastruktur notwendig sind, dass der Return on Invest zu gering ist”, sagt Roman Friedrich, Partner der Beratungsfirma BCG. Eine BCG-Analyse zeige: “Die meisten TK-Unternehmen in Europa verdienen ihre Kapitalkosten nicht.”
Die Begründung sei allerdings vielschichtig. Es könne sein, dass das Preisniveau zu gering sei oder es wirklich an Innovation fehle. “Aber erstmal sind die Kapitalkosten hoch, weil wir ein hohes Zinsniveau hatten”, sagt Friedrich. Macrons Gleichung gehe jedoch ein Stück weiter. Die Schlussfolgerung, dass mit der Größe auch die Innovationskraft zunehme, könne man daraus nicht unbedingt ableiten. “Genug Ertragskraft mag eine notwendige Voraussetzung sein. Aber das ist nicht hinreichend dafür, innovativ zu sein. Dazu gehört noch mehr.”
Sein Beleg: Die echten Innovationen kämen auch in Ländern mit höherer Ertragskraft nicht von den TK-Unternehmen. “Die Innovationen kommen von den Digitalunternehmen – das sind eben nicht die existierenden oder die vergangenen Champions”, sagt er. Duso ist überzeugt: “Die Innovationen kommen aus der Netztechnik.” Und da hat Europa mit Nokia und Ericsson bereits zwei europäische Champions.
“Natürlich ist es schwierig, auf einem kleinen Markt eine Innovation zum Skalieren zu bringen”, sagt Friedrich. Größere TK-Unternehmen, die über Ländergrenzen hinweg skalieren könnten, seien aber nicht unbedingt innovativer – auch nicht in den USA. “Innovationskultur ist eine Unternehmenskultur, eine Führungseigenschaft und damit unabhängig von der Größe.”
Für Duso könnten grenzüberschreitende Fusionen in der Tat Vorteile bringen. Allerdings sei dafür keine Überarbeitung der Fusionskontrolle nötig. Die bestehenden Vorschriften stünden dem nicht entgegen. Er hält es aber geradezu für gefährlich, nicht grenzüberschreitende Fusionen zu erleichtern und dafür den Telekommunikationsmarkt EU-weit zu definieren. Die Märkte seien bislang national oder regional strukturiert: “Die Nachfrageseite kann nur auf inländische Angebote vor Ort zugreifen”, erklärt Duso. Eine EU-weite Marktdefinition würde daher Zusammenschlüsse ermöglichen, die zu höheren Preisen und geringeren Investitionen führten.
Gegen grenzüberschreitende Fusionen an sich haben die Wettbewerbshüter weniger Bedenken. Einige große Unternehmen wie die Deutsche Telekom oder Vodafone sind bereits expandiert und zu wichtigen Akteuren in mehreren Mitgliedstaaten geworden. Die Erfahrungen damit sind aber durchwachsen.
Die Komplexität einer solchen länderübergreifenden Investition sei groß, sagt Berater Friedrich. “Man braucht einfach viel mehr Zeit und Intelligenz, wenn man ein skalierendes Modell in Europa realisieren will, als in den USA.” Es gebe gewaltige Unterschiede sowohl auf der Kapitalmarkt- als auch auf der Regulierungsseite.
Friedrich kann daher die Forderung nach einem einheitlichen Binnenmarkt nachvollziehen, wie auch eine EU-weite Vereinheitlichung der Frequenzvergabe, die sich die Unternehmen wünschen. Auch Duso schlägt vor, Initiativen zur Schaffung eines stärker integrierten Marktes zu fördern, etwa durch eine Harmonisierung der Frequenzvergabeverfahren.
Erstrebenswert wäre eine Marktstruktur wie etwa die in den USA tatsächlich nur, wenn auch ein echter europäischer Markt existieren würde. Zuvor sei ein einfacher Vergleich etwa der Qualität der Mobilfunknetze hier mit denen in den USA pauschal nicht möglich, meint Duso. “In Europa gibt es extrem viele Unterschiede. Es gibt Länder, die fantastische Netze haben, nicht nur die Niederlande, auch Schweden oder die Schweiz. Und es gibt Länder, die schlechtere Netze haben. Leider ist Deutschland eines dieser Länder.” Dabei ist Deutschland der größte Mobilfunkmarkt in Europa.
Herr Fooy, die Psychological Defence Agency (PDA) wurde 2022 vom schwedischen Justizministerium eingerichtet, um falschen Informationen aus dem Ausland entgegenzuwirken. Was war der Grund für die Einrichtung dieser neuen Behörde?
2014, kurz vor der Annexion der Krim durch Russland, stellten wir eine Zunahme neuer Formen von Desinformation und Propaganda fest. Dies machte den Wiederaufbau einer psychologischen Verteidigungskapazität dringlicher. Im Jahr 2019 kündigte die Regierung die Schaffung einer neuen Agentur für psychologische Verteidigung an. Wir können sie als Teil von Schwedens umfassenderer Verteidigung gegen hybride Bedrohungen betrachten.
Die schwedische Regierung wies darauf hin, dass vor allem Russland, China und der Iran Desinformationskampagnen gegen Schweden richten. Was macht die Ansätze dieser Länder besorgniserregend?
Ich würde sagen, dass Russland die meiste Erfahrung mit der Polarisierung innerhalb einer Gesellschaft hat. China verfügt über die größten Ressourcen, um Schwachstellen anzugreifen. Und der Iran ist so etwas wie ein Spätzünder. Wir hatten kürzlich eine sehr ernste Desinformationskampagne gegen unsere Kinderschutzdienste. Verschiedene Gruppen im Nahen Osten, die nicht direkt mit dem Staat verbunden sind, behaupteten, die schwedischen Kinderschutzdienste würden muslimische Kinder entführen und versuchen, sie zu Christen zu machen oder sie von homosexuellen Eltern erziehen zu lassen. Diese Angelegenheit hätte zu schlimmen Konsequenzen führen können.
Wie sieht die Arbeit Ihrer Behörde aus, wenn sie mit solchen “Foreign Malign Information Influence”-Angriffen konfrontiert wird, wie Sie sie nennen?
Zunächst einmal: Wir sind kein Nachrichtendienst. Wir arbeiten ausschließlich Open Source. Viele unserer Bemühungen konzentrieren sich darauf, das Vertrauen der Öffentlichkeit zu stärken, die Menschen aufzuklären und mit sozialen Einrichtungen, religiösen Organisationen und anderen Institutionen zusammenzuarbeiten. Es ist nicht unser Ziel, jede Desinformation aus Moskau, Peking oder Teheran zu widerlegen. Das wäre eine übermenschliche Anstrengung und manchmal kontraproduktiv, in dem es ein falsches Narrativ noch bekannter macht.
Vor welchen Herausforderungen stehen Sie in Bezug auf China?
Eins vorab: Wir dürfen nicht vergessen, dass in autoritären Regimen die meisten Aktivitäten zur Informationsbeeinflussung auf die Bevölkerung im eigenen Land abzielen. Davon abgesehen verfügt China über enorme personelle Ressourcen, um auf globaler Ebene aktiv zu werden. Die chinesischen Staatsmedien haben eine unglaubliche Reichweite. Sie werden in Dutzenden von Sprachen veröffentlicht und sind oft unglaublich professionell produziert. Ich habe Fälle erlebt, in denen selbst angesehene Medien wie die BBC unwissentlich Quellen der chinesischen Staatsmedien zitiert haben. Ihr Einfluss wächst, vor allem im globalen Süden. So hat beispielsweise ein chinesischer Verlag die Veröffentlichungsrechte für die meisten Bordmagazine in afrikanischen Airlines aufgekauft.
Was für Auswirkungen hat das für westliche Demokratien wie Schweden?
Wie bereits erwähnt, zielt Chinas Einflussnahme zunehmend auf Themen jenseits seiner eigenen Grenzen. Nach dem Ausbruch des Krieges zwischen Israel und Hamas haben wir zum Beispiel antisemitische Äußerungen in den chinesischen Staatsmedien festgestellt. Das ist merkwürdig, da Antisemitismus unter den chinesischen Bürgern nicht weit verbreitet ist. Aber diese Medienberichte können von Arabisch sprechenden Menschen im gesamten Nahen Osten, in Nordafrika und auch in Europa gelesen werden – zumeist ohne, dass die Leser merken, dass die Quelle chinesisch ist. Das Gleiche geschieht mit russischen Quellen. Viele Menschen hinterfragen die Herkunft dieser Inhalte nicht. Das wollen wir ändern.
Man hat manchmal das Gefühl, dass China und Russland ihre Desinformationskampagnen koordinieren.
Nein, ich würde nicht sagen, dass sie sich koordinieren. Sie haben Vereinbarungen getroffen, wie zum Beispiel Programme zum Austausch von Journalisten, und sie verstärken manchmal die Botschaften des jeweils anderen. So können beispielsweise Berichte in russischen Medien in chinesischen Zeitungen erscheinen und umgekehrt. Von “Koordination” zu sprechen, wäre jedoch eine Übertreibung. Beide sind durch die Wahrnehmung gemeinsamer äußerer Feinde geeint, aber ihre Operationen sind nicht kooperativ im westlichen Sinne.
Wie schaffen Sie den Spagat zwischen dem Schutz Schwedens vor Desinformation und der Wahrung der Meinungsfreiheit, insbesondere wenn schwedische Bürger versehentlich falsche Informationen verbreiten?
Die Meinungsfreiheit ist für uns von entscheidender Bedeutung, und wir betreiben weder Zensur noch Fact Checking. Das ist Sache der Medien und anderer Organisationen. Wir konzentrieren uns auf die Medienkompetenz und stellen sicher, dass die Öffentlichkeit das, was sie liest, kritisch bewerten und die Absicht hinter bestimmten Darstellungen verstehen kann. Wir arbeiten mit Bildungseinrichtungen zusammen, und haben bereits über 20.000 Personen darin geschult, wie man ausländische Desinformation erkennt und bekämpft.
Die PDA bereitet Schweden auch auf die Möglichkeit eines Krieges vor. Wie würde die Agentur die Regierung in einer nationalen Sicherheitskrise unterstützen?
Ich kann nicht im Detail auf die Kriegsplanung eingehen, aber ich kann bestätigen, dass unser Mandat die Vorbereitung auf alle Szenarien umfasst, von Krisen bis hin zu einem ausgewachsenen Krieg. Wir sind Teil von Schwedens Gesamtverteidigungsstrategie.
Ich bin sicher, dass man aus der Situation in der Ukraine und der russischen Desinformation dort eine Menge lernen kann.
Ja, auf jeden Fall. Die Situation in der Ukraine ist für uns von größter Bedeutung. Und wenn es darum geht, herauszufinden, wie der chinesische Informationsfluss funktioniert, schauen wir auch auf Taiwan. Jede Demokratie liefert Puzzlestücke, die uns helfen zu verstehen, wie diese staatlichen Akteure agieren.
Welche Herausforderungen sehen Sie für die Zukunft voraus, zum Beispiel aufgrund neuer Technologien?
KI und Deepfakes werden eine große Herausforderung darstellen, vor allem im Hinblick darauf, wie viele Informationen in ein System eingespeist werden können. Aber wir haben auch einige Vorteile. Die chinesische Desinformation wird beispielsweise oft durch die starren Doktrinen der KPCh eingeschränkt. Russland hingegen war bei der Annexion der Krim einfallsreicher als bei seinem Einmarsch in der Ukraine. Die Qualität der Desinformation variiert je nach Thema und je nachdem, wer dahintersteckt.
Das bedeutet also, dass die Qualität sehr unterschiedlich ist, selbst wenn sie von demselben staatlichen Akteur stammt?
Die meisten staatlichen Akteure verfügen nicht über eine einzige Stelle, die sich mit der Beeinflussung von Informationen befasst, sondern es gibt bestimmte Denkfabriken und Sicherheitsdienste, die Teil der Streitkräfte sind. In China gibt es auch einen Markt für Desinformationskampagnen, bei denen Nationalisten sich plötzlich über bestimmte Themen in den Medien aufregen und nicht unbedingt dem Willen der Regierungsbehörden folgen. Meine größte Sorge ist, dass eine Reihe von Personen in einem der autoritären Staaten wirklich einfallsreich wird und viele Ressourcen von ihren Regierungen zur Verfügung gestellt bekommt. Eine solche Organisation könnte auf Schwachstellen in unserer Gesellschaft abzielen, die uns noch gar nicht bewusst sind.
Frederick Fooy arbeitet seit mehr als einem Jahrzehnt gegen die Informationsbeeinflussung durch verschiedene Akteure. Er verfügt über Erfahrungen bei den schwedischen Streitkräften, die bis ins Jahr 1989 zurückreichen, einschließlich Einsätzen auf dem Balkan. Frederick hat einen B.A. in Byzantinologie von der New York University und einen M.A. in Stadtpolitik vom Brooklyn College.
Die Fortschritte der vergangenen Jahre haben aus dem ehemaligen Nischenthema Künstliche Intelligenz (KI) einen zentralen Aspekt der Wirtschafts- und Sicherheitspolitik gemacht. Viele Staaten reagieren darauf mit beachtlicher Entschlossenheit und viel Tempo: etwa durch schnelles und unbürokratisches Aufbauen von KI-Sicherheitsbehörden, durch Rekrutieren technischen Top-Talents und durch engen Austausch mit Fachleuten aus Industrie und Wissenschaft in eigens einberufenen Gremien. Von dieser Entschlossenheit gibt es aktuell in Deutschland viel zu wenig – obwohl wir sie jetzt, wo unter anderem eine zukunftssichere Implementierung der europäischen KI-Verordnung (AI Act) ansteht, dringend brauchen.
Gerade die rechenintensivsten Allzweck-Modelle (General-Purpose AI, GPAI) wie GPT-4 werden einschneidende Veränderungen für unsere Gesellschaft bringen: Viele Fachleute prognostizieren potenziell weitreichende Auswirkungen auf die Produktivität oder das Bildungssystem, aber auch Risiken wie missbräuchliche Nutzung. Damit kann nur sorgsam umgehen, wer ein tiefes Verständnis der Technologie und ihrer politischen Implikationen entwickelt.
Dieses Verständnis muss weit über die Bundesnetzagentur oder ein mögliches neues Digitalministerium in alle betroffenen Themen reichen: Jeder fachpolitische Bereich muss Chancen und Risiken bewerten können, statt dauerhaft auf fremde Expertise angewiesen zu sein.
Dafür muss aus dem durchaus vorhandenen Pool an KI-Fachleuten geschöpft werden, von denen viele einen deutschen Abschluss haben. Andere Länder tun das schon: Die britische Frontier AI Taskforce (heute AI Safety Institute) schaffte es, in nur wenigen Monaten KI-Spitzenforscherinnen und -forscher mit insgesamt 150 Jahren an wissenschaftlicher Erfahrung zu rekrutieren.
Der Wettbewerb um Talent ist groß; Vergütung und typische Karrieremodelle der deutschen Verwaltung können hier kaum mithalten. Auch hier zeigen sich andere Länder flexibler: So können etwa Research Scientists beim britischen AI Safety Institute umgerechnet mehr als 170.000 Euro im Jahr verdienen. Zusätzlich werden ,fast tracks’ geschaffen und formale Hürden abgebaut.
Im bahnbrechenden KI-Paradigma der letzten Jahre, auf Deep Learning basierende General-Purpose AI, ist Deutschland global betrachtet nur zweite Liga. Praktisch alle führenden GPAI-Modelle werden heute in den USA, Großbritannien und China entwickelt. Damit wir nicht auch die nächsten Entwicklungen verschlafen, braucht Deutschland jetzt gebündelten Sachverstand.
Die Bundesregierung sollte deshalb ein Gremium führender internationaler Fachleute einberufen und mit den nötigen Ressourcen ausstatten, um kontinuierlich Projektionen und umfassende Empfehlungen zu formulieren – analog zu bestehenden Gremien wie dem Rat der Wirtschaftsweisen oder dem Zukunftsrat des Bundeskanzlers.
Ein ständiges Gremium mit klarem Auftrag kann sich tiefergehend mit der deutschen Rolle in der KI-Wertschöpfungskette beschäftigen und profitiert von größerer Unabhängigkeit und gesicherter öffentlicher wie politischer Aufmerksamkeit. Der vorhandene, hervorragende Sachverstand in der deutschen Industrie, Wissenschaft und Zivilgesellschaft sollte dringend genutzt werden.
Die USA, Großbritannien, Japan, Singapur und Frankreich haben seit 2023 jeweils eine eigene, nationale KI-Sicherheitsbehörde (AI Safety Institute, kurz AISI) eingerichtet. Als staatliche Behörden erforschen sie die Risiken besonders fortgeschrittener KI: Sie entwickeln Risikoevaluationen für KI-Modelle, führen ein kontinuierliches Monitoring des KI-Fortschritts durch und erarbeiten regulatorische Vorschläge. Die Behörden kooperieren eng miteinander, zum Beispiel, indem sie Prüfungsmethoden und Informationen zu führenden Modellen austauschen.
Das im Rahmen des AI Acts kürzlich geschaffene AI Office der EU-Kommission kommt einem AISI in Teilen nahe. Wenn Eigenständigkeit und hinreichende Ausstattung des AI Office sichergestellt werden, kann es wesentlich zum Aufbau europäischer state capacity beitragen.
Trotzdem sollte sich Deutschland nicht allein darauf verlassen: Erstens zeichnet das AI Office bereits für die Durchsetzung der KI-Verordnung verantwortlich – eine Aufgabe, die nicht innerhalb derselben Organisation mit beratender Forschungsarbeit konkurrieren sollte. Zweitens hat die Bundesregierung zum AI Office nicht den unmittelbaren, vertraulichen und niedrigschwelligen Zugang, der für kurzfristige Krisenreaktionen oder strategische Neuausrichtungen wichtig wäre.
Es führt kein Weg an technischer Expertise zur Politikberatung, verlässlichen Forschung und zielgerichteter Policyentwicklung in der deutschen Verwaltung vorbei. Dafür könnte Deutschland aus den Erfolgen internationaler Partner beim Aufbau ihrer AISIs lernen, vielleicht sogar, indem es ein eigenes deutsches AISI, zum Beispiel im Geschäftsbereich des BMI oder BMBF, einsetzt.
Dem deutschen Staat fehlt die Fähigkeit, die technischen Entwicklungen und gesellschaftlichen Effekte von KI zu antizipieren und zu navigieren. Das lässt sich ändern: Nach internationalem Vorbild könnte die Bundesregierung sich darum bemühen, technische Expertise für die betroffenen Ressorts zu rekrutieren, ein ständiges Beratungsgremium mit internationalen Fachleuten einberufen und eigene Kapazitäten im Bereich KI-Sicherheit schaffen.
Daniel Privitera ist Gründer und Executive Director des KIRA Center, einem unabhängigen Thinktank für AI Policy. Er ist außerdem Lead Writer des International Scientific Report on the Safety of Advanced AI. Anton Leicht ist Policy Specialist beim KIRA Center, arbeitet zu wirtschafts- und sicherheitspolitischen Aspekten der KI-Politik und promoviert zu demokratischer Regulierung fortgeschrittener KI-Systeme.
Heute erscheint ihr gemeinsamer Report mit KI-politischen Empfehlungen für Deutschland ab 2025.
es ist mal wieder Gipfel – diesmal nicht in Brüssel, sondern in Frankfurt. Und es treffen sich auch nicht Staats- und Regierungschefs, sondern Experten aus Politik, Wirtschaft, Wissenschaft und Zivilgesellschaft zum Digital-Gipfel 2024. Auch die EU-Kommission ist in Frankfurt dabei.
Am heutigen Vormittag diskutiert unter anderen Prabhat Agarwal, Referatsleiter Digitale Dienste und Plattformen bei der DG Connect, über die Bilanz von zwei Jahren Digital Services Act. Hassrede und Desinformation stellen gerade im Superwahljahr 2024 eine Herausforderung für die Politik dar. Genauso wie vor der Bundestagswahl im kommenden Jahr. Reichen die Instrumente des DSA aus, um die erforderliche Schlagkraft gegenüber den großen Plattformen zu entwickeln? Das wird eine der zu diskutierenden Fragen sein.
Das dominierende Thema auf dem noch bis Dienstag dauernden Digital-Gipfel wird aber Künstliche Intelligenz sein: Die Themen reichen von “KI made in Europe – souverän, vertrauenswürdig, sicher” bis zu “KI im Tagesgeschäft”. Und natürlich wird es auch um die Frage der richtigen Regulierung von KI gehen. Deutschland, so meinen jedenfalls die Experten des Thinktanks KIRA Center in Berlin in ihrem Standpunkt, muss endlich seine Expertise in diesem Bereich bündeln.
Derweil geht die EU bei der Umsetzung des AI Acts voran. Der sieht die Einrichtung eines wissenschaftlichen Gremiums unabhängiger Sachverständiger vor. Das Gremium soll das AI Office der EU und die nationalen Marktüberwachungsbehörden bei der Durchführung und Durchsetzung des AI Acts beraten und unterstützen. Dazu hat die Kommission jetzt den Entwurf einer Durchführungsverordnung vorgelegt, für den sie ab sofort bis zum 15. November um Kommentierung bittet. Vielleicht haben auch Sie einige Ideen dazu.
Ich wünsche Ihnen einen guten Start in die Woche,
Wer den Draghi-Bericht zum Bereich Telekommunikation liest, findet in großen Teilen Forderungen wieder, die die großen Netzbetreiber seit Jahren stellen. Der Bericht sieht einen dringenden Bedarf zur Konsolidierung und zur Förderung europäischer Champions. Dies sei notwendig, um höhere Investitionsraten in leistungsfähige Netze zu erreichen. Ebenfalls nötig seien weniger Regulierung auf nationaler Ebene und eine Harmonisierung der Spektrumslizenzen im Mobilfunk.
Tatsächlich ist der europäische Markt zersplittert, während sich in anderen Regionen große Anbieter herausgebildet haben. In der EU (450 Millionen Einwohner) gibt es drei bis vier Mobilfunknetzbetreiber (MNOs) pro Mitgliedsland. In den USA (335 Millionen) sind es landesweit nur drei große MNOs, wie auch in China (1,4 Milliarden). Frankreichs Präsident Emmanuel Macron brachte es auf die einfache Formel: Größere Player können mehr investieren, das bedeute mehr Innovation. Doch Experten bezweifeln, dass die Gleichung stimmt.
Die Generaldirektion Wettbewerb der EU-Kommission hatte im Sommer einen eigenen Bericht vorgelegt – und kam zu anderen Ergebnissen: Fusionen von Mobilfunkanbietern führten demnach in der Regel zu höheren Preisen für die Verbraucher. Positive Effekte auf die Investitionen in Netzwerke oder die Einführung innovativer Technologien seien dagegen nicht eindeutig nachgewiesen worden. Der durchschnittliche Umsatz pro Nutzer (ARPU) liegt in Europa weit unter dem anderer Regionen: Im Jahr 2022 gaben Europäer im Schnitt 15 Euro aus, im Vergleich zu 42,50 Euro in den USA, 26,50 Euro in Südkorea und 25,90 Euro in Japan.
Die Analyse zeigt auch, dass europäische Länder mit weniger Netzbetreibern tendenziell höhere ARPUs aufweisen. Zugleich gebe es einen negativen Zusammenhang zwischen Marktkonzentration und Investitionen. Eine größere Anzahl von Netzbetreibern scheint demnach mit höheren Investitionen und potenziell niedrigeren Preisen verbunden zu sein, während eine Konzentration zu einem Anstieg der Preise führt, ohne signifikante Vorteile für die Investitionen oder die Servicequalität.
Das deckt sich mit den Beobachtungen von Tomaso Duso, Leiter der Abteilung Unternehmen und Märkte am Deutschen Institut für Wirtschaftsforschung (DIW Berlin) und Vorsitzender der Monopolkommission. “Der Draghi-Report ist in vielen Bereichen in seiner Analyse sehr stark wissenschaftlich fundiert. Aber die Beobachtung, dass Marktkonzentration zu höheren Investitionen führt, ist für Mobilfunkmärkte empirisch nicht belegt“, sagt Duso. “Tatsächlich konnten wir zeigen, dass gemeinsame Investitionen auf Marktebene in Märkten mit mehr Anbietern höher sind als in Märkten mit weniger Anbietern.”
Die Anbieter argumentieren hingegen mit Skaleneffekten. Markus Haas, CEO von o2 Telefónica, brachte es bei einer Veranstaltung in Berlin auf eine einfache Rechnung: Früher hätten E-Plus und o2, die beiden kleineren Anbieter auf dem deutschen Markt, in zwei verschiedene Netze investiert. Seit dem Zusammenschluss sei daraus ein wettbewerbsfähiges Netz geworden. Statt jeweils 500 Millionen Euro in zwei Netze investiere o2 Telefónica jetzt eine Milliarde in ein Netz.
Doch auf anderen nationalen Märkten haben die Wettbewerbshüter der Kommission solche Fusionen nicht zugelassen. Auch in Deutschland war die Bedingung, dass es einen neuen vierten Anbieter geben müsse (der allerdings nicht ins Laufen kommt). Die Folge ist eine enorme Zersplitterung des Marktes.
“Als Konsequenz daraus sehen wir bei den großen Investitionen, die jetzt über Jahre hinweg in verschiedene Mobilfunk- und Glasfaserinfrastruktur notwendig sind, dass der Return on Invest zu gering ist”, sagt Roman Friedrich, Partner der Beratungsfirma BCG. Eine BCG-Analyse zeige: “Die meisten TK-Unternehmen in Europa verdienen ihre Kapitalkosten nicht.”
Die Begründung sei allerdings vielschichtig. Es könne sein, dass das Preisniveau zu gering sei oder es wirklich an Innovation fehle. “Aber erstmal sind die Kapitalkosten hoch, weil wir ein hohes Zinsniveau hatten”, sagt Friedrich. Macrons Gleichung gehe jedoch ein Stück weiter. Die Schlussfolgerung, dass mit der Größe auch die Innovationskraft zunehme, könne man daraus nicht unbedingt ableiten. “Genug Ertragskraft mag eine notwendige Voraussetzung sein. Aber das ist nicht hinreichend dafür, innovativ zu sein. Dazu gehört noch mehr.”
Sein Beleg: Die echten Innovationen kämen auch in Ländern mit höherer Ertragskraft nicht von den TK-Unternehmen. “Die Innovationen kommen von den Digitalunternehmen – das sind eben nicht die existierenden oder die vergangenen Champions”, sagt er. Duso ist überzeugt: “Die Innovationen kommen aus der Netztechnik.” Und da hat Europa mit Nokia und Ericsson bereits zwei europäische Champions.
“Natürlich ist es schwierig, auf einem kleinen Markt eine Innovation zum Skalieren zu bringen”, sagt Friedrich. Größere TK-Unternehmen, die über Ländergrenzen hinweg skalieren könnten, seien aber nicht unbedingt innovativer – auch nicht in den USA. “Innovationskultur ist eine Unternehmenskultur, eine Führungseigenschaft und damit unabhängig von der Größe.”
Für Duso könnten grenzüberschreitende Fusionen in der Tat Vorteile bringen. Allerdings sei dafür keine Überarbeitung der Fusionskontrolle nötig. Die bestehenden Vorschriften stünden dem nicht entgegen. Er hält es aber geradezu für gefährlich, nicht grenzüberschreitende Fusionen zu erleichtern und dafür den Telekommunikationsmarkt EU-weit zu definieren. Die Märkte seien bislang national oder regional strukturiert: “Die Nachfrageseite kann nur auf inländische Angebote vor Ort zugreifen”, erklärt Duso. Eine EU-weite Marktdefinition würde daher Zusammenschlüsse ermöglichen, die zu höheren Preisen und geringeren Investitionen führten.
Gegen grenzüberschreitende Fusionen an sich haben die Wettbewerbshüter weniger Bedenken. Einige große Unternehmen wie die Deutsche Telekom oder Vodafone sind bereits expandiert und zu wichtigen Akteuren in mehreren Mitgliedstaaten geworden. Die Erfahrungen damit sind aber durchwachsen.
Die Komplexität einer solchen länderübergreifenden Investition sei groß, sagt Berater Friedrich. “Man braucht einfach viel mehr Zeit und Intelligenz, wenn man ein skalierendes Modell in Europa realisieren will, als in den USA.” Es gebe gewaltige Unterschiede sowohl auf der Kapitalmarkt- als auch auf der Regulierungsseite.
Friedrich kann daher die Forderung nach einem einheitlichen Binnenmarkt nachvollziehen, wie auch eine EU-weite Vereinheitlichung der Frequenzvergabe, die sich die Unternehmen wünschen. Auch Duso schlägt vor, Initiativen zur Schaffung eines stärker integrierten Marktes zu fördern, etwa durch eine Harmonisierung der Frequenzvergabeverfahren.
Erstrebenswert wäre eine Marktstruktur wie etwa die in den USA tatsächlich nur, wenn auch ein echter europäischer Markt existieren würde. Zuvor sei ein einfacher Vergleich etwa der Qualität der Mobilfunknetze hier mit denen in den USA pauschal nicht möglich, meint Duso. “In Europa gibt es extrem viele Unterschiede. Es gibt Länder, die fantastische Netze haben, nicht nur die Niederlande, auch Schweden oder die Schweiz. Und es gibt Länder, die schlechtere Netze haben. Leider ist Deutschland eines dieser Länder.” Dabei ist Deutschland der größte Mobilfunkmarkt in Europa.
Herr Fooy, die Psychological Defence Agency (PDA) wurde 2022 vom schwedischen Justizministerium eingerichtet, um falschen Informationen aus dem Ausland entgegenzuwirken. Was war der Grund für die Einrichtung dieser neuen Behörde?
2014, kurz vor der Annexion der Krim durch Russland, stellten wir eine Zunahme neuer Formen von Desinformation und Propaganda fest. Dies machte den Wiederaufbau einer psychologischen Verteidigungskapazität dringlicher. Im Jahr 2019 kündigte die Regierung die Schaffung einer neuen Agentur für psychologische Verteidigung an. Wir können sie als Teil von Schwedens umfassenderer Verteidigung gegen hybride Bedrohungen betrachten.
Die schwedische Regierung wies darauf hin, dass vor allem Russland, China und der Iran Desinformationskampagnen gegen Schweden richten. Was macht die Ansätze dieser Länder besorgniserregend?
Ich würde sagen, dass Russland die meiste Erfahrung mit der Polarisierung innerhalb einer Gesellschaft hat. China verfügt über die größten Ressourcen, um Schwachstellen anzugreifen. Und der Iran ist so etwas wie ein Spätzünder. Wir hatten kürzlich eine sehr ernste Desinformationskampagne gegen unsere Kinderschutzdienste. Verschiedene Gruppen im Nahen Osten, die nicht direkt mit dem Staat verbunden sind, behaupteten, die schwedischen Kinderschutzdienste würden muslimische Kinder entführen und versuchen, sie zu Christen zu machen oder sie von homosexuellen Eltern erziehen zu lassen. Diese Angelegenheit hätte zu schlimmen Konsequenzen führen können.
Wie sieht die Arbeit Ihrer Behörde aus, wenn sie mit solchen “Foreign Malign Information Influence”-Angriffen konfrontiert wird, wie Sie sie nennen?
Zunächst einmal: Wir sind kein Nachrichtendienst. Wir arbeiten ausschließlich Open Source. Viele unserer Bemühungen konzentrieren sich darauf, das Vertrauen der Öffentlichkeit zu stärken, die Menschen aufzuklären und mit sozialen Einrichtungen, religiösen Organisationen und anderen Institutionen zusammenzuarbeiten. Es ist nicht unser Ziel, jede Desinformation aus Moskau, Peking oder Teheran zu widerlegen. Das wäre eine übermenschliche Anstrengung und manchmal kontraproduktiv, in dem es ein falsches Narrativ noch bekannter macht.
Vor welchen Herausforderungen stehen Sie in Bezug auf China?
Eins vorab: Wir dürfen nicht vergessen, dass in autoritären Regimen die meisten Aktivitäten zur Informationsbeeinflussung auf die Bevölkerung im eigenen Land abzielen. Davon abgesehen verfügt China über enorme personelle Ressourcen, um auf globaler Ebene aktiv zu werden. Die chinesischen Staatsmedien haben eine unglaubliche Reichweite. Sie werden in Dutzenden von Sprachen veröffentlicht und sind oft unglaublich professionell produziert. Ich habe Fälle erlebt, in denen selbst angesehene Medien wie die BBC unwissentlich Quellen der chinesischen Staatsmedien zitiert haben. Ihr Einfluss wächst, vor allem im globalen Süden. So hat beispielsweise ein chinesischer Verlag die Veröffentlichungsrechte für die meisten Bordmagazine in afrikanischen Airlines aufgekauft.
Was für Auswirkungen hat das für westliche Demokratien wie Schweden?
Wie bereits erwähnt, zielt Chinas Einflussnahme zunehmend auf Themen jenseits seiner eigenen Grenzen. Nach dem Ausbruch des Krieges zwischen Israel und Hamas haben wir zum Beispiel antisemitische Äußerungen in den chinesischen Staatsmedien festgestellt. Das ist merkwürdig, da Antisemitismus unter den chinesischen Bürgern nicht weit verbreitet ist. Aber diese Medienberichte können von Arabisch sprechenden Menschen im gesamten Nahen Osten, in Nordafrika und auch in Europa gelesen werden – zumeist ohne, dass die Leser merken, dass die Quelle chinesisch ist. Das Gleiche geschieht mit russischen Quellen. Viele Menschen hinterfragen die Herkunft dieser Inhalte nicht. Das wollen wir ändern.
Man hat manchmal das Gefühl, dass China und Russland ihre Desinformationskampagnen koordinieren.
Nein, ich würde nicht sagen, dass sie sich koordinieren. Sie haben Vereinbarungen getroffen, wie zum Beispiel Programme zum Austausch von Journalisten, und sie verstärken manchmal die Botschaften des jeweils anderen. So können beispielsweise Berichte in russischen Medien in chinesischen Zeitungen erscheinen und umgekehrt. Von “Koordination” zu sprechen, wäre jedoch eine Übertreibung. Beide sind durch die Wahrnehmung gemeinsamer äußerer Feinde geeint, aber ihre Operationen sind nicht kooperativ im westlichen Sinne.
Wie schaffen Sie den Spagat zwischen dem Schutz Schwedens vor Desinformation und der Wahrung der Meinungsfreiheit, insbesondere wenn schwedische Bürger versehentlich falsche Informationen verbreiten?
Die Meinungsfreiheit ist für uns von entscheidender Bedeutung, und wir betreiben weder Zensur noch Fact Checking. Das ist Sache der Medien und anderer Organisationen. Wir konzentrieren uns auf die Medienkompetenz und stellen sicher, dass die Öffentlichkeit das, was sie liest, kritisch bewerten und die Absicht hinter bestimmten Darstellungen verstehen kann. Wir arbeiten mit Bildungseinrichtungen zusammen, und haben bereits über 20.000 Personen darin geschult, wie man ausländische Desinformation erkennt und bekämpft.
Die PDA bereitet Schweden auch auf die Möglichkeit eines Krieges vor. Wie würde die Agentur die Regierung in einer nationalen Sicherheitskrise unterstützen?
Ich kann nicht im Detail auf die Kriegsplanung eingehen, aber ich kann bestätigen, dass unser Mandat die Vorbereitung auf alle Szenarien umfasst, von Krisen bis hin zu einem ausgewachsenen Krieg. Wir sind Teil von Schwedens Gesamtverteidigungsstrategie.
Ich bin sicher, dass man aus der Situation in der Ukraine und der russischen Desinformation dort eine Menge lernen kann.
Ja, auf jeden Fall. Die Situation in der Ukraine ist für uns von größter Bedeutung. Und wenn es darum geht, herauszufinden, wie der chinesische Informationsfluss funktioniert, schauen wir auch auf Taiwan. Jede Demokratie liefert Puzzlestücke, die uns helfen zu verstehen, wie diese staatlichen Akteure agieren.
Welche Herausforderungen sehen Sie für die Zukunft voraus, zum Beispiel aufgrund neuer Technologien?
KI und Deepfakes werden eine große Herausforderung darstellen, vor allem im Hinblick darauf, wie viele Informationen in ein System eingespeist werden können. Aber wir haben auch einige Vorteile. Die chinesische Desinformation wird beispielsweise oft durch die starren Doktrinen der KPCh eingeschränkt. Russland hingegen war bei der Annexion der Krim einfallsreicher als bei seinem Einmarsch in der Ukraine. Die Qualität der Desinformation variiert je nach Thema und je nachdem, wer dahintersteckt.
Das bedeutet also, dass die Qualität sehr unterschiedlich ist, selbst wenn sie von demselben staatlichen Akteur stammt?
Die meisten staatlichen Akteure verfügen nicht über eine einzige Stelle, die sich mit der Beeinflussung von Informationen befasst, sondern es gibt bestimmte Denkfabriken und Sicherheitsdienste, die Teil der Streitkräfte sind. In China gibt es auch einen Markt für Desinformationskampagnen, bei denen Nationalisten sich plötzlich über bestimmte Themen in den Medien aufregen und nicht unbedingt dem Willen der Regierungsbehörden folgen. Meine größte Sorge ist, dass eine Reihe von Personen in einem der autoritären Staaten wirklich einfallsreich wird und viele Ressourcen von ihren Regierungen zur Verfügung gestellt bekommt. Eine solche Organisation könnte auf Schwachstellen in unserer Gesellschaft abzielen, die uns noch gar nicht bewusst sind.
Frederick Fooy arbeitet seit mehr als einem Jahrzehnt gegen die Informationsbeeinflussung durch verschiedene Akteure. Er verfügt über Erfahrungen bei den schwedischen Streitkräften, die bis ins Jahr 1989 zurückreichen, einschließlich Einsätzen auf dem Balkan. Frederick hat einen B.A. in Byzantinologie von der New York University und einen M.A. in Stadtpolitik vom Brooklyn College.
Die Fortschritte der vergangenen Jahre haben aus dem ehemaligen Nischenthema Künstliche Intelligenz (KI) einen zentralen Aspekt der Wirtschafts- und Sicherheitspolitik gemacht. Viele Staaten reagieren darauf mit beachtlicher Entschlossenheit und viel Tempo: etwa durch schnelles und unbürokratisches Aufbauen von KI-Sicherheitsbehörden, durch Rekrutieren technischen Top-Talents und durch engen Austausch mit Fachleuten aus Industrie und Wissenschaft in eigens einberufenen Gremien. Von dieser Entschlossenheit gibt es aktuell in Deutschland viel zu wenig – obwohl wir sie jetzt, wo unter anderem eine zukunftssichere Implementierung der europäischen KI-Verordnung (AI Act) ansteht, dringend brauchen.
Gerade die rechenintensivsten Allzweck-Modelle (General-Purpose AI, GPAI) wie GPT-4 werden einschneidende Veränderungen für unsere Gesellschaft bringen: Viele Fachleute prognostizieren potenziell weitreichende Auswirkungen auf die Produktivität oder das Bildungssystem, aber auch Risiken wie missbräuchliche Nutzung. Damit kann nur sorgsam umgehen, wer ein tiefes Verständnis der Technologie und ihrer politischen Implikationen entwickelt.
Dieses Verständnis muss weit über die Bundesnetzagentur oder ein mögliches neues Digitalministerium in alle betroffenen Themen reichen: Jeder fachpolitische Bereich muss Chancen und Risiken bewerten können, statt dauerhaft auf fremde Expertise angewiesen zu sein.
Dafür muss aus dem durchaus vorhandenen Pool an KI-Fachleuten geschöpft werden, von denen viele einen deutschen Abschluss haben. Andere Länder tun das schon: Die britische Frontier AI Taskforce (heute AI Safety Institute) schaffte es, in nur wenigen Monaten KI-Spitzenforscherinnen und -forscher mit insgesamt 150 Jahren an wissenschaftlicher Erfahrung zu rekrutieren.
Der Wettbewerb um Talent ist groß; Vergütung und typische Karrieremodelle der deutschen Verwaltung können hier kaum mithalten. Auch hier zeigen sich andere Länder flexibler: So können etwa Research Scientists beim britischen AI Safety Institute umgerechnet mehr als 170.000 Euro im Jahr verdienen. Zusätzlich werden ,fast tracks’ geschaffen und formale Hürden abgebaut.
Im bahnbrechenden KI-Paradigma der letzten Jahre, auf Deep Learning basierende General-Purpose AI, ist Deutschland global betrachtet nur zweite Liga. Praktisch alle führenden GPAI-Modelle werden heute in den USA, Großbritannien und China entwickelt. Damit wir nicht auch die nächsten Entwicklungen verschlafen, braucht Deutschland jetzt gebündelten Sachverstand.
Die Bundesregierung sollte deshalb ein Gremium führender internationaler Fachleute einberufen und mit den nötigen Ressourcen ausstatten, um kontinuierlich Projektionen und umfassende Empfehlungen zu formulieren – analog zu bestehenden Gremien wie dem Rat der Wirtschaftsweisen oder dem Zukunftsrat des Bundeskanzlers.
Ein ständiges Gremium mit klarem Auftrag kann sich tiefergehend mit der deutschen Rolle in der KI-Wertschöpfungskette beschäftigen und profitiert von größerer Unabhängigkeit und gesicherter öffentlicher wie politischer Aufmerksamkeit. Der vorhandene, hervorragende Sachverstand in der deutschen Industrie, Wissenschaft und Zivilgesellschaft sollte dringend genutzt werden.
Die USA, Großbritannien, Japan, Singapur und Frankreich haben seit 2023 jeweils eine eigene, nationale KI-Sicherheitsbehörde (AI Safety Institute, kurz AISI) eingerichtet. Als staatliche Behörden erforschen sie die Risiken besonders fortgeschrittener KI: Sie entwickeln Risikoevaluationen für KI-Modelle, führen ein kontinuierliches Monitoring des KI-Fortschritts durch und erarbeiten regulatorische Vorschläge. Die Behörden kooperieren eng miteinander, zum Beispiel, indem sie Prüfungsmethoden und Informationen zu führenden Modellen austauschen.
Das im Rahmen des AI Acts kürzlich geschaffene AI Office der EU-Kommission kommt einem AISI in Teilen nahe. Wenn Eigenständigkeit und hinreichende Ausstattung des AI Office sichergestellt werden, kann es wesentlich zum Aufbau europäischer state capacity beitragen.
Trotzdem sollte sich Deutschland nicht allein darauf verlassen: Erstens zeichnet das AI Office bereits für die Durchsetzung der KI-Verordnung verantwortlich – eine Aufgabe, die nicht innerhalb derselben Organisation mit beratender Forschungsarbeit konkurrieren sollte. Zweitens hat die Bundesregierung zum AI Office nicht den unmittelbaren, vertraulichen und niedrigschwelligen Zugang, der für kurzfristige Krisenreaktionen oder strategische Neuausrichtungen wichtig wäre.
Es führt kein Weg an technischer Expertise zur Politikberatung, verlässlichen Forschung und zielgerichteter Policyentwicklung in der deutschen Verwaltung vorbei. Dafür könnte Deutschland aus den Erfolgen internationaler Partner beim Aufbau ihrer AISIs lernen, vielleicht sogar, indem es ein eigenes deutsches AISI, zum Beispiel im Geschäftsbereich des BMI oder BMBF, einsetzt.
Dem deutschen Staat fehlt die Fähigkeit, die technischen Entwicklungen und gesellschaftlichen Effekte von KI zu antizipieren und zu navigieren. Das lässt sich ändern: Nach internationalem Vorbild könnte die Bundesregierung sich darum bemühen, technische Expertise für die betroffenen Ressorts zu rekrutieren, ein ständiges Beratungsgremium mit internationalen Fachleuten einberufen und eigene Kapazitäten im Bereich KI-Sicherheit schaffen.
Daniel Privitera ist Gründer und Executive Director des KIRA Center, einem unabhängigen Thinktank für AI Policy. Er ist außerdem Lead Writer des International Scientific Report on the Safety of Advanced AI. Anton Leicht ist Policy Specialist beim KIRA Center, arbeitet zu wirtschafts- und sicherheitspolitischen Aspekten der KI-Politik und promoviert zu demokratischer Regulierung fortgeschrittener KI-Systeme.
Heute erscheint ihr gemeinsamer Report mit KI-politischen Empfehlungen für Deutschland ab 2025.
