die Erwartungen an Holger Hanselka sind groß – von Seiten der Politik, der Wirtschaft, der eigenen Mitarbeitenden. Die Probleme in seiner Organisation sind nicht kleiner. So ermittelt die Staatsanwaltschaft weiterhin gegen Mitglieder des früheren Fraunhofer-Vorstands, in der vergangenen Woche kam neuerliche Kritik des Bundesrechnungshofs an dem Umgang mit Rücklagen dazu und in Sachen Gleichstellung gibt es deutlichen Nachholbedarf. Wie will der neue Fraunhofer-Präsident mit den Konflikten umgehen, was anders machen und wie geht er mit dem Druck zu Beginn seiner Amtszeit um? Wir haben nachgefragt.
Die Nutzung der Künstlichen Intelligenz in die richtigen Bahnen zu lenken, ist angesichts des schnellen Fortschreitens dieser Technologie gar nicht so einfach. Mit der vorläufigen Einigung über den AI Act ist die EU in dieser Hinsicht aber auf gutem Weg, findet unser Standpunkt-Autor Philip Fox vom Thinktank Kira – Zentrum für KI-Risiken & -Auswirkungen in Berlin. Der zweistufige Ansatz bei der Regulierung von Basismodellen nütze europäischen Start-ups und schade auch Firmen wie Aleph Alpha nicht.
Das dürfte auch für den Campus Ipai in Heilbronn eine gute Nachricht sein, der im Sommer eine umfangreiche Partnerschaft mit dem deutschen KI-Primus verkündet hat. Der Künstliche-Intelligenz-Hub, der dort im Norden Baden-Württembergs entstehen soll, floriert. Das liegt vor allem an den großzügigen Zuwendungen der Dieter Schwarz Stiftung. Sie hat nun einen weiteren Fang gemacht und die ETH Zürich dazu gebracht, einen Ableger in Heilbronn zu errichten. Perspektivisch sollen 20 neue Professuren vor allem in den Bereichen verantwortungsvolle digitale Transformation und Datenwissenschaften eingerichtet werden, teilte die Stiftung am gestrigen Montag mit.
Ich wünsche Ihnen eine spannende Lektüre!
Er habe das Privileg, dass er das Wissenschaftssystem bereits durch verschiedene Brillen betrachten konnte, daher wisse er um dessen Stärken, sagt Holger Hanselka, seit Mai neuer Chef der Fraunhofer-Gesellschaft. Gearbeitet hat er an Universitäten, beim DLR, bei Fraunhofer, dann bei Helmholtz und jetzt wieder bei Fraunhofer. Die Erfahrung macht ihn offenbar ausreichend resilient, an baldige Fortschritte für Fraunhofer zu glauben, die Probleme, oder “Baustellen”, wie er sie nennt, sind vielfältig.
Die Staatsanwaltschaft ermittelt weiterhin gegen Mitglieder des früheren Vorstands, der Bundesrechnungshof rügte in der vergangenen Woche das Finanzgebaren der FhG in Sachen Rücklagen und auch in Sachen Gleichberechtigung könnte sich noch einiges tun bei Fraunhofer.
Hanselka gibt zunächst seine Wegrichtung aus: Zurück zu den Wurzeln – das aber schneller. “Wir alle sind im Moment politisch auch sehr stark getrieben, das schwächt das System”, sagt er. Alle sollen die gleichen Ziele verfolgen, alle sollen mehr Transfer machen, alle würden irgendwie nach gleichem Maß gemessen. “Wir vertun damit eine riesige Chance, weil wir verschiedene Ansätze und Missionen über einen Kamm scheren, die aus gutem Grund unterschiedlich sind: Damit sie sich ergänzen und verstärken”, sagt Hanselka.
Es gebe exzellente außeruniversitäre Organisationen: Helmholtz, Max Planck, Leibniz, Fraunhofer und weitere. Statt Angleichung wünsche er sich mehr Differenzierung und das Herausarbeiten und Stärken der Alleinstellungsmerkmale. “Jede dieser Einrichtungen halte ich für notwendig und wichtig und für einen Teil des großen Ganzen. Fraunhofer steht dabei ganz klar für den Transfer, das ist unsere Stärke. Wir gewinnen keine Nobelpreise, das müssen wir auch nicht.”
Der Transfer von wissenschaftlichen Erkenntnissen in Anwendungen, Lösungen und Produkten für und mit der deutschen Wirtschaft, das ist es, wofür Fraunhofer 1949 gegründet worden sei. Bei allem brauche es aber mehr Tempo. “Was nützen einem die besten Patente, wenn die anderen einfach schneller sind? Die Wirtschaft hat unheimlich an Fahrt aufgenommen. Um international wettbewerbsfähig zu bleiben, müssen wir mit dieser Entwicklung Schritt halten.” Dafür hätte man die besten Voraussetzungen, aber man müsse sich auf die Wurzeln zurückbesinnen: “Fraunhofer muss zurück zum Fraunhofer-Modell.”
Er habe dazu Pläne, und er wisse, welche Ziele realistisch zu erreichen sind, sagt er im Gespräch. Die Erwartungen durch die eigenen Mitarbeitenden, auch seitens der Wirtschaft und der Politik seien groß. Hanselka erklärt, er selbst sei mit sich im Reinen. Die Ermittlungen gegen frühere Vorstandsmitglieder der Fraunhofer-Gesellschaft behindern seine Arbeit nicht. “Wir leben glücklicherweise alle zusammen in einem Rechtsstaat. Und im Rechtsstaat gelten Rechtsprinzipien und wenn der Verdacht besteht, dass Recht möglicherweise gebrochen ist, dann gibt es Institutionen, die ermitteln und dann ein Urteil fällen”, sagt Hanselka.
Das mache im Moment die Staatsanwaltschaft bezogen auf die Vorwürfe, die im Raum stehen. Senat und Vorstand der Fraunhofer-Gesellschaft “kooperierten vollumfänglich mit der Staatsanwaltschaft, alle Unterlagen und Informationen werden zur Verfügung gestellt.”
Natürlich müsse er sich aber “sehr wohl auseinandersetzen” mit der Frage, was zu tun ist, damit sich vermeintliche Fehler und Fehlverhalten nicht wiederholen können. “Fraunhofer ist 75 Jahre alt, da sind manche Mechanismen in die Jahre gekommen, das ist nichts Ungewöhnliches.” Im unternehmerischen Umfeld habe es bei Compliance und Governance kontinuierlich Verbesserungsprozesse gegeben, die an der Wissenschaft, und zwar nicht nur bei Fraunhofer, vorbeigegangen sind – auch mangels Notwendigkeit. “Jetzt haben wir aber eine Notwendigkeit.”
In Abstimmung mit Forschungsministerin Bettina Stark-Watzinger und Staatssekretärin Sabine Döring und der Senatsvorsitzenden Hildegard Müller erarbeite man aktuell eine neue Satzung, die neue Kontrollmechanismen enthalte und bei der nächsten Mitgliederversammlung im Juli 2023 verabschiedet werden soll.
Eine neue Baustelle für Hanselka ist ein zweiter Bericht des Bundesrechnungshofs aus der vergangenen Woche, der das Finanzgebaren der Fraunhofer-Gesellschaft deutlich kritisiert. Demnach habe die Organisation mehr Geld bekommen als nötig und Rücklagen nicht zurückgezahlt. “Der zweite Bundesrechnungshofbericht ist eine Steilvorlage für mich, für Fraunhofer, auch für das BMBF, um über Jahre gelebte Praktiken, die immer alle zufriedengestellt haben, nachzudenken und zu fragen: Was von diesen Praktiken ist noch zeitgemäß und was nicht”, sagt Hanselka.
Gemeinsam mit dem BMBF sei man aktuell “in einem sehr, sehr engen Dialog darüber, dass eine Rücklage für Fraunhofer überlebensnotwendig ist”. Nur über die Höhe der Rücklage sei man sich noch nicht einig.
Auch in Sachen Gleichberechtigung ist sich Hanselka “bewusst, dass wir hier eine Baustelle haben”. Der Anteil von Frauen in Führung liegt bei Fraunhofer bei 8,5 Prozent, bei Max-Planck oder Helmholtz sind es laut GWK-Studie 29,9 Prozent. Zahlreiche frühere und aktuelle Institutsleiterinnen hatten im Gespräch mit Table.Media über fehlende Chancengleichheit berichtet. “Es ist eine riesige Herausforderung für unsere Gesellschaft, der wir uns gemeinsam stellen müssen. Für mich hat das Thema eine sehr, sehr hohe Priorität”, sagte Hanselka.
Das ganze Interview lesen Sie hier.
Bundesforschungsministerin Bettina Stark-Watzinger (FDP) arbeitet nach Einschätzung der deutschen Entscheider besonders unprofessionell und hat in den vergangenen zwei Jahren auch mit am meisten die Erwartungen enttäuscht. Auf die Frage, welche Ministerin am professionellsten arbeitet, landet die FDP-Politikerin auf dem vorletzten Platz – knapp vor Bundesbauministerin Klara Geywitz (SPD).
Das geht aus einer exklusiven Umfrage von Table.Media hervor, an der über 3.000 hochrangige Interessensvertreter teilgenommen haben. Sie sind im Transparenzregister des Deutschen Bundestags registriert und kommen zum überwiegenden Teil aus Unternehmen, Verbänden sowie Nichtregierungsorganisationen oder aus der Wissenschaft und der Verwaltung. Sie verteilen sich auf Branchen wie den Automobil- oder Energiesektor, die Bau- oder Digitalwirtschaft sowie Gewerkschaften und Umweltverbände.
Stark-Watzinger hat dabei zudem für knapp 61 Prozent der Entscheiderinnen und Entscheider die an sie gestellten Erwartungen in den vergangenen zwei Jahren eher enttäuscht oder völlig enttäuscht. Damit landet sie nur knapp vor Bundesinnenministerin Nancy Faeser von der SPD (63 Prozent). Deren Parteikollegin Geywitz schneidet mit gut 65 Prozent noch schlechter ab. Das Schlusslicht bildet Bundesminister für Verkehr und digitale Infrastruktur Volker Wissing: Rund 69 Prozent sind eher enttäuscht oder völlig enttäuscht von ihm.
Auch mit Blick auf die Subventions- und Förderpolitik kommt die Bundesregierung insgesamt auf eher schlechte Noten. Gerade einmal 1,8 Prozent der entscheidenden Köpfe schreiben ihr hier eine hohe Kompetenz zu. Das ist der drittniedrigste Wert. Nur die Kompetenz für die Bildungspolitik und für den digitalen Infrastrukturausbau wird noch niedriger eingeschätzt. red
Ein 36-stündiger Verhandlungsmarathon zum europäischen AI Act endete am Freitag mit einer vorläufigen Einigung: Statt einer bloßen Selbstverpflichtung sollen die Entwickler von KI-Basismodellen wie GPT-4 oder Gemini verbindlichen Regeln unterliegen. Dazu zählen unter anderem Transparenz- und Dokumentationspflichten sowie – im Fall von Modellen mit sogenannten systemischen Risiken – zusätzliche Maßnahmen wie verpflichtende Evaluationen oder erhöhte Cybersicherheit.
Die Verhandler hatten darüber bis zuletzt gerungen. Insbesondere Deutschland, Frankreich und Italien waren in Sorge, dass eine verbindliche Basismodell-Regulierung eine Gefahr für den europäischen Wirtschaftsstandort sein würde. Die vorläufige Einigung hat nun das Potenzial, ökonomische und sicherheitspolitische Überlegungen miteinander in Einklang zu bringen. Sie sieht einen zweistufigen Ansatz vor, Tiered Approach genannt: Für größere und damit leistungsfähigere Basismodelle würden strengere Regeln gelten als für kleinere.
Als Unterscheidungskriterium ist die Rechenleistung vorgesehen, mit der ein Modell trainiert wurde, gemessen in sogenannten Flop (floating point operations). Weil die Grenze bei 1025 Flop verlaufen soll, und höchstens einige wenige US-amerikanische Modelle wie GPT-4 darüber liegen, wären europäische Basismodell-Entwickler wie das deutsche Aleph Alpha oder das französische Mistral von den strengeren Regeln befreit. Die vorläufige Einigung sieht vor, diese Grenze in der Zukunft flexibel an Fortschritte in der KI-Entwicklung anzupassen und, wenn nötig, um qualitative, von Fachleuten empfohlene Kriterien zu erweitern.
Abgesehen davon könnten von einer sinnvoll ausgestalteten und in die Praxis überführten Einigung vor allem europäische KI-Start-ups profitieren, deren Anwendungen auf Basismodellen aufbauen. Blieben Basismodelle unreguliert, wären diese Firmen womöglich übermäßig hohen Compliance-Kosten und Haftungsrisiken für Anwendungen in sogenannten Hochrisiko-Bereichen wie Bildung oder Verkehr ausgesetzt. Gemäß der vorläufigen Einigung würden stattdessen die großen, fast ausschließlich US-amerikanischen Tech-Konzerne in die Pflicht genommen – denen man den zusätzlichen Compliance-Aufwand durchaus zutrauen darf.
Aktuell steht die Einigung über den Tiered Approachunter Vorbehalt; diverse Details müssen noch ausgehandelt und der AI Act formal beschlossen werden. Eine verbindliche Basismodell-Regulierung, die durch die aktuelle Einigung in greifbare Nähe rückt, wäre jenseits wirtschaftlicher Überlegungen auch aus einer Sicherheitsperspektive dringend notwendig. Schon heute gehen von KI-Modellen akute Gefahren aus, wie diskriminierende Inhalte oder Deepfakes, die den öffentlichen Diskurs beeinflussen. Gleichzeitig ist der Fortschritt in Sachen KI rasant und Fachleute warnen davor, dass Modelle schon bald in der Lage sein könnten, ausgeklügelte Cyberangriffe durchzuführen oder Biowaffen zu synthetisieren. Diese Risiken ergeben sich aus den Basismodellen selbst, und nicht etwa erst aus den Anwendungen, die aus ihnen entstehen. Deshalb sind es allein die Entwickler der Basismodelle, die diese Risiken effektiv und umfassend begrenzen können.
Die nun vorgesehenen Sicherheitsmaßnahmen sind ein wichtiger Schritt in Richtung sicherer und vertrauenswürdiger KI. Ob sie weit genug gehen, ist jedoch fraglich. Das betrifft vor allem den Grenzwert von 1025 Flop: Auch Modelle wie GPT-3.5, die nur mit 1024 Flop trainiert wurden, können jetzt schon bei Cyberangriffen und der Verbreitung von Desinformation assistieren, wie auch der Rechtswissenschaftler Philipp Hacker in einer Stellungnahme schreibt. Für diese Modelle gelten in der aktuellen Fassung vergleichsweise laxe Regeln.
Diese bleiben weit hinter grundlegenden Sicherheitsvorschriften zurück, die in anderen Bereichen riskanter Technologie gang und gäbe sind. Wer mehrere Millionen Euro in das Training eines Modells mit 1024 Flop investieren kann, sollte auch die entsprechenden Compliance-Kosten aufbringen können. Eine Ausweitung dieser Common-Sense-Regeln auf einige weitere Basismodelle würde immer noch vor allem US-Anbieter treffen und den europäischen Forschungsstandort nicht in Gefahr bringen. Zumal die Entwicklung von Basismodellen nicht mit Grundlagenforschung zu verwechseln ist, die von den genannten Regeln ohnehin nicht betroffen ist.
Gleichzeitig gibt es auch bei den Regeln für Modelle mit systemischen Risiken die eine oder andere Lücke. Zum Beispiel ist es zu begrüßen, dass diese Modelle im Rahmen eines internen Red Teaming auf Schwachstellen geprüft werden müssen. Darüber hinaus braucht es aber auch externe Evaluationen durch unabhängige Audit-Organisationen.
Verbindliche Regeln für Basismodelle sind daher sowohl im Interesse des europäischen KI-Standorts als auch der Sicherheit der europäischen Bevölkerung. Mit dem Tiered Approach wäre eine gute Ausgangslage geschaffen, um beiden Dimensionen gerecht zu werden. Diesen gilt es jetzt nachzujustieren und anschließend zu formalisieren. Nur so erreicht die weltweit erste umfassende KI-Gesetzgebung jenen wegweisenden Charakter, der einst für sie vorgesehen war.
Die aktuell verfügbaren Emojis repräsentieren die biologische Vielfalt völlig unzureichend. Darauf weisen drei Biologen um Mattia Falaschi von der Università degli Studi di Milano in einer aktuell im Fachmagazin iScience erschienenen Studie hin. Sie habe alle bei Emojipedia verzeichneten digitalen Bildchen kategorisiert, die mit Natur und Tieren zu tun haben. Insgesamt identifizierte das Team Emojis für 112 verschiedene Organismen, darunter 92 Tiere, 16 Pflanzen, einen Pilz (vermutlich ein Fliegenpilz) und einen Mikroorganismus, der wahrscheinlich Escherichia coli darstellen soll.
Zwar ist der Trend insgesamt positiv, im Jahr 2015 gab es nur für 45 Arten Emojis. Dennoch sind die Naturschutzexperten alarmiert. Denn das Tierangebot besteht vor allem aus Wirbeltieren und ein paar Arthropoden und Weichtieren. Von den 20.000 Plattwurm-Arten beispielsweise findet sich keine einzige. Bei anderen Arten ist die Auswahl ähnlich dünn. Pflanzen, Pilze und Mikroorganismen seien unterrepräsentiert, kritisieren die Forscher. Eine solche erhebliche taxonomische Verzerrung sei leider üblich. Immer wieder werde Tieren gegenüber anderen Taxa der Vorrang gegeben.
“Auch wenn die Krise der biologischen Vielfalt in der Online-Welt weit weg zu sein scheint, sollten wir in unserer zunehmend digitalisierten Gesellschaft das Potenzial von Emojis nicht unterschätzen”, schreiben Falaschi und seine Kollegen. Damit ließen sich das Bewusstsein und die Wertschätzung für die Vielfalt des Lebens auf der Erde fördern. Wir räumen an dieser Stelle selbstkritisch ein: Auch wir haben in unserer Desserts bevorzugt über (Wirbel-)Tiere berichtet, aber die Welt der Würmer, Viren und Fungi etwas vernachlässigt. Nun aber sind wir sensibilisiert für die Problematik ;). Anne Brüning
die Erwartungen an Holger Hanselka sind groß – von Seiten der Politik, der Wirtschaft, der eigenen Mitarbeitenden. Die Probleme in seiner Organisation sind nicht kleiner. So ermittelt die Staatsanwaltschaft weiterhin gegen Mitglieder des früheren Fraunhofer-Vorstands, in der vergangenen Woche kam neuerliche Kritik des Bundesrechnungshofs an dem Umgang mit Rücklagen dazu und in Sachen Gleichstellung gibt es deutlichen Nachholbedarf. Wie will der neue Fraunhofer-Präsident mit den Konflikten umgehen, was anders machen und wie geht er mit dem Druck zu Beginn seiner Amtszeit um? Wir haben nachgefragt.
Die Nutzung der Künstlichen Intelligenz in die richtigen Bahnen zu lenken, ist angesichts des schnellen Fortschreitens dieser Technologie gar nicht so einfach. Mit der vorläufigen Einigung über den AI Act ist die EU in dieser Hinsicht aber auf gutem Weg, findet unser Standpunkt-Autor Philip Fox vom Thinktank Kira – Zentrum für KI-Risiken & -Auswirkungen in Berlin. Der zweistufige Ansatz bei der Regulierung von Basismodellen nütze europäischen Start-ups und schade auch Firmen wie Aleph Alpha nicht.
Das dürfte auch für den Campus Ipai in Heilbronn eine gute Nachricht sein, der im Sommer eine umfangreiche Partnerschaft mit dem deutschen KI-Primus verkündet hat. Der Künstliche-Intelligenz-Hub, der dort im Norden Baden-Württembergs entstehen soll, floriert. Das liegt vor allem an den großzügigen Zuwendungen der Dieter Schwarz Stiftung. Sie hat nun einen weiteren Fang gemacht und die ETH Zürich dazu gebracht, einen Ableger in Heilbronn zu errichten. Perspektivisch sollen 20 neue Professuren vor allem in den Bereichen verantwortungsvolle digitale Transformation und Datenwissenschaften eingerichtet werden, teilte die Stiftung am gestrigen Montag mit.
Ich wünsche Ihnen eine spannende Lektüre!
Er habe das Privileg, dass er das Wissenschaftssystem bereits durch verschiedene Brillen betrachten konnte, daher wisse er um dessen Stärken, sagt Holger Hanselka, seit Mai neuer Chef der Fraunhofer-Gesellschaft. Gearbeitet hat er an Universitäten, beim DLR, bei Fraunhofer, dann bei Helmholtz und jetzt wieder bei Fraunhofer. Die Erfahrung macht ihn offenbar ausreichend resilient, an baldige Fortschritte für Fraunhofer zu glauben, die Probleme, oder “Baustellen”, wie er sie nennt, sind vielfältig.
Die Staatsanwaltschaft ermittelt weiterhin gegen Mitglieder des früheren Vorstands, der Bundesrechnungshof rügte in der vergangenen Woche das Finanzgebaren der FhG in Sachen Rücklagen und auch in Sachen Gleichberechtigung könnte sich noch einiges tun bei Fraunhofer.
Hanselka gibt zunächst seine Wegrichtung aus: Zurück zu den Wurzeln – das aber schneller. “Wir alle sind im Moment politisch auch sehr stark getrieben, das schwächt das System”, sagt er. Alle sollen die gleichen Ziele verfolgen, alle sollen mehr Transfer machen, alle würden irgendwie nach gleichem Maß gemessen. “Wir vertun damit eine riesige Chance, weil wir verschiedene Ansätze und Missionen über einen Kamm scheren, die aus gutem Grund unterschiedlich sind: Damit sie sich ergänzen und verstärken”, sagt Hanselka.
Es gebe exzellente außeruniversitäre Organisationen: Helmholtz, Max Planck, Leibniz, Fraunhofer und weitere. Statt Angleichung wünsche er sich mehr Differenzierung und das Herausarbeiten und Stärken der Alleinstellungsmerkmale. “Jede dieser Einrichtungen halte ich für notwendig und wichtig und für einen Teil des großen Ganzen. Fraunhofer steht dabei ganz klar für den Transfer, das ist unsere Stärke. Wir gewinnen keine Nobelpreise, das müssen wir auch nicht.”
Der Transfer von wissenschaftlichen Erkenntnissen in Anwendungen, Lösungen und Produkten für und mit der deutschen Wirtschaft, das ist es, wofür Fraunhofer 1949 gegründet worden sei. Bei allem brauche es aber mehr Tempo. “Was nützen einem die besten Patente, wenn die anderen einfach schneller sind? Die Wirtschaft hat unheimlich an Fahrt aufgenommen. Um international wettbewerbsfähig zu bleiben, müssen wir mit dieser Entwicklung Schritt halten.” Dafür hätte man die besten Voraussetzungen, aber man müsse sich auf die Wurzeln zurückbesinnen: “Fraunhofer muss zurück zum Fraunhofer-Modell.”
Er habe dazu Pläne, und er wisse, welche Ziele realistisch zu erreichen sind, sagt er im Gespräch. Die Erwartungen durch die eigenen Mitarbeitenden, auch seitens der Wirtschaft und der Politik seien groß. Hanselka erklärt, er selbst sei mit sich im Reinen. Die Ermittlungen gegen frühere Vorstandsmitglieder der Fraunhofer-Gesellschaft behindern seine Arbeit nicht. “Wir leben glücklicherweise alle zusammen in einem Rechtsstaat. Und im Rechtsstaat gelten Rechtsprinzipien und wenn der Verdacht besteht, dass Recht möglicherweise gebrochen ist, dann gibt es Institutionen, die ermitteln und dann ein Urteil fällen”, sagt Hanselka.
Das mache im Moment die Staatsanwaltschaft bezogen auf die Vorwürfe, die im Raum stehen. Senat und Vorstand der Fraunhofer-Gesellschaft “kooperierten vollumfänglich mit der Staatsanwaltschaft, alle Unterlagen und Informationen werden zur Verfügung gestellt.”
Natürlich müsse er sich aber “sehr wohl auseinandersetzen” mit der Frage, was zu tun ist, damit sich vermeintliche Fehler und Fehlverhalten nicht wiederholen können. “Fraunhofer ist 75 Jahre alt, da sind manche Mechanismen in die Jahre gekommen, das ist nichts Ungewöhnliches.” Im unternehmerischen Umfeld habe es bei Compliance und Governance kontinuierlich Verbesserungsprozesse gegeben, die an der Wissenschaft, und zwar nicht nur bei Fraunhofer, vorbeigegangen sind – auch mangels Notwendigkeit. “Jetzt haben wir aber eine Notwendigkeit.”
In Abstimmung mit Forschungsministerin Bettina Stark-Watzinger und Staatssekretärin Sabine Döring und der Senatsvorsitzenden Hildegard Müller erarbeite man aktuell eine neue Satzung, die neue Kontrollmechanismen enthalte und bei der nächsten Mitgliederversammlung im Juli 2023 verabschiedet werden soll.
Eine neue Baustelle für Hanselka ist ein zweiter Bericht des Bundesrechnungshofs aus der vergangenen Woche, der das Finanzgebaren der Fraunhofer-Gesellschaft deutlich kritisiert. Demnach habe die Organisation mehr Geld bekommen als nötig und Rücklagen nicht zurückgezahlt. “Der zweite Bundesrechnungshofbericht ist eine Steilvorlage für mich, für Fraunhofer, auch für das BMBF, um über Jahre gelebte Praktiken, die immer alle zufriedengestellt haben, nachzudenken und zu fragen: Was von diesen Praktiken ist noch zeitgemäß und was nicht”, sagt Hanselka.
Gemeinsam mit dem BMBF sei man aktuell “in einem sehr, sehr engen Dialog darüber, dass eine Rücklage für Fraunhofer überlebensnotwendig ist”. Nur über die Höhe der Rücklage sei man sich noch nicht einig.
Auch in Sachen Gleichberechtigung ist sich Hanselka “bewusst, dass wir hier eine Baustelle haben”. Der Anteil von Frauen in Führung liegt bei Fraunhofer bei 8,5 Prozent, bei Max-Planck oder Helmholtz sind es laut GWK-Studie 29,9 Prozent. Zahlreiche frühere und aktuelle Institutsleiterinnen hatten im Gespräch mit Table.Media über fehlende Chancengleichheit berichtet. “Es ist eine riesige Herausforderung für unsere Gesellschaft, der wir uns gemeinsam stellen müssen. Für mich hat das Thema eine sehr, sehr hohe Priorität”, sagte Hanselka.
Das ganze Interview lesen Sie hier.
Bundesforschungsministerin Bettina Stark-Watzinger (FDP) arbeitet nach Einschätzung der deutschen Entscheider besonders unprofessionell und hat in den vergangenen zwei Jahren auch mit am meisten die Erwartungen enttäuscht. Auf die Frage, welche Ministerin am professionellsten arbeitet, landet die FDP-Politikerin auf dem vorletzten Platz – knapp vor Bundesbauministerin Klara Geywitz (SPD).
Das geht aus einer exklusiven Umfrage von Table.Media hervor, an der über 3.000 hochrangige Interessensvertreter teilgenommen haben. Sie sind im Transparenzregister des Deutschen Bundestags registriert und kommen zum überwiegenden Teil aus Unternehmen, Verbänden sowie Nichtregierungsorganisationen oder aus der Wissenschaft und der Verwaltung. Sie verteilen sich auf Branchen wie den Automobil- oder Energiesektor, die Bau- oder Digitalwirtschaft sowie Gewerkschaften und Umweltverbände.
Stark-Watzinger hat dabei zudem für knapp 61 Prozent der Entscheiderinnen und Entscheider die an sie gestellten Erwartungen in den vergangenen zwei Jahren eher enttäuscht oder völlig enttäuscht. Damit landet sie nur knapp vor Bundesinnenministerin Nancy Faeser von der SPD (63 Prozent). Deren Parteikollegin Geywitz schneidet mit gut 65 Prozent noch schlechter ab. Das Schlusslicht bildet Bundesminister für Verkehr und digitale Infrastruktur Volker Wissing: Rund 69 Prozent sind eher enttäuscht oder völlig enttäuscht von ihm.
Auch mit Blick auf die Subventions- und Förderpolitik kommt die Bundesregierung insgesamt auf eher schlechte Noten. Gerade einmal 1,8 Prozent der entscheidenden Köpfe schreiben ihr hier eine hohe Kompetenz zu. Das ist der drittniedrigste Wert. Nur die Kompetenz für die Bildungspolitik und für den digitalen Infrastrukturausbau wird noch niedriger eingeschätzt. red
Ein 36-stündiger Verhandlungsmarathon zum europäischen AI Act endete am Freitag mit einer vorläufigen Einigung: Statt einer bloßen Selbstverpflichtung sollen die Entwickler von KI-Basismodellen wie GPT-4 oder Gemini verbindlichen Regeln unterliegen. Dazu zählen unter anderem Transparenz- und Dokumentationspflichten sowie – im Fall von Modellen mit sogenannten systemischen Risiken – zusätzliche Maßnahmen wie verpflichtende Evaluationen oder erhöhte Cybersicherheit.
Die Verhandler hatten darüber bis zuletzt gerungen. Insbesondere Deutschland, Frankreich und Italien waren in Sorge, dass eine verbindliche Basismodell-Regulierung eine Gefahr für den europäischen Wirtschaftsstandort sein würde. Die vorläufige Einigung hat nun das Potenzial, ökonomische und sicherheitspolitische Überlegungen miteinander in Einklang zu bringen. Sie sieht einen zweistufigen Ansatz vor, Tiered Approach genannt: Für größere und damit leistungsfähigere Basismodelle würden strengere Regeln gelten als für kleinere.
Als Unterscheidungskriterium ist die Rechenleistung vorgesehen, mit der ein Modell trainiert wurde, gemessen in sogenannten Flop (floating point operations). Weil die Grenze bei 1025 Flop verlaufen soll, und höchstens einige wenige US-amerikanische Modelle wie GPT-4 darüber liegen, wären europäische Basismodell-Entwickler wie das deutsche Aleph Alpha oder das französische Mistral von den strengeren Regeln befreit. Die vorläufige Einigung sieht vor, diese Grenze in der Zukunft flexibel an Fortschritte in der KI-Entwicklung anzupassen und, wenn nötig, um qualitative, von Fachleuten empfohlene Kriterien zu erweitern.
Abgesehen davon könnten von einer sinnvoll ausgestalteten und in die Praxis überführten Einigung vor allem europäische KI-Start-ups profitieren, deren Anwendungen auf Basismodellen aufbauen. Blieben Basismodelle unreguliert, wären diese Firmen womöglich übermäßig hohen Compliance-Kosten und Haftungsrisiken für Anwendungen in sogenannten Hochrisiko-Bereichen wie Bildung oder Verkehr ausgesetzt. Gemäß der vorläufigen Einigung würden stattdessen die großen, fast ausschließlich US-amerikanischen Tech-Konzerne in die Pflicht genommen – denen man den zusätzlichen Compliance-Aufwand durchaus zutrauen darf.
Aktuell steht die Einigung über den Tiered Approachunter Vorbehalt; diverse Details müssen noch ausgehandelt und der AI Act formal beschlossen werden. Eine verbindliche Basismodell-Regulierung, die durch die aktuelle Einigung in greifbare Nähe rückt, wäre jenseits wirtschaftlicher Überlegungen auch aus einer Sicherheitsperspektive dringend notwendig. Schon heute gehen von KI-Modellen akute Gefahren aus, wie diskriminierende Inhalte oder Deepfakes, die den öffentlichen Diskurs beeinflussen. Gleichzeitig ist der Fortschritt in Sachen KI rasant und Fachleute warnen davor, dass Modelle schon bald in der Lage sein könnten, ausgeklügelte Cyberangriffe durchzuführen oder Biowaffen zu synthetisieren. Diese Risiken ergeben sich aus den Basismodellen selbst, und nicht etwa erst aus den Anwendungen, die aus ihnen entstehen. Deshalb sind es allein die Entwickler der Basismodelle, die diese Risiken effektiv und umfassend begrenzen können.
Die nun vorgesehenen Sicherheitsmaßnahmen sind ein wichtiger Schritt in Richtung sicherer und vertrauenswürdiger KI. Ob sie weit genug gehen, ist jedoch fraglich. Das betrifft vor allem den Grenzwert von 1025 Flop: Auch Modelle wie GPT-3.5, die nur mit 1024 Flop trainiert wurden, können jetzt schon bei Cyberangriffen und der Verbreitung von Desinformation assistieren, wie auch der Rechtswissenschaftler Philipp Hacker in einer Stellungnahme schreibt. Für diese Modelle gelten in der aktuellen Fassung vergleichsweise laxe Regeln.
Diese bleiben weit hinter grundlegenden Sicherheitsvorschriften zurück, die in anderen Bereichen riskanter Technologie gang und gäbe sind. Wer mehrere Millionen Euro in das Training eines Modells mit 1024 Flop investieren kann, sollte auch die entsprechenden Compliance-Kosten aufbringen können. Eine Ausweitung dieser Common-Sense-Regeln auf einige weitere Basismodelle würde immer noch vor allem US-Anbieter treffen und den europäischen Forschungsstandort nicht in Gefahr bringen. Zumal die Entwicklung von Basismodellen nicht mit Grundlagenforschung zu verwechseln ist, die von den genannten Regeln ohnehin nicht betroffen ist.
Gleichzeitig gibt es auch bei den Regeln für Modelle mit systemischen Risiken die eine oder andere Lücke. Zum Beispiel ist es zu begrüßen, dass diese Modelle im Rahmen eines internen Red Teaming auf Schwachstellen geprüft werden müssen. Darüber hinaus braucht es aber auch externe Evaluationen durch unabhängige Audit-Organisationen.
Verbindliche Regeln für Basismodelle sind daher sowohl im Interesse des europäischen KI-Standorts als auch der Sicherheit der europäischen Bevölkerung. Mit dem Tiered Approach wäre eine gute Ausgangslage geschaffen, um beiden Dimensionen gerecht zu werden. Diesen gilt es jetzt nachzujustieren und anschließend zu formalisieren. Nur so erreicht die weltweit erste umfassende KI-Gesetzgebung jenen wegweisenden Charakter, der einst für sie vorgesehen war.
Die aktuell verfügbaren Emojis repräsentieren die biologische Vielfalt völlig unzureichend. Darauf weisen drei Biologen um Mattia Falaschi von der Università degli Studi di Milano in einer aktuell im Fachmagazin iScience erschienenen Studie hin. Sie habe alle bei Emojipedia verzeichneten digitalen Bildchen kategorisiert, die mit Natur und Tieren zu tun haben. Insgesamt identifizierte das Team Emojis für 112 verschiedene Organismen, darunter 92 Tiere, 16 Pflanzen, einen Pilz (vermutlich ein Fliegenpilz) und einen Mikroorganismus, der wahrscheinlich Escherichia coli darstellen soll.
Zwar ist der Trend insgesamt positiv, im Jahr 2015 gab es nur für 45 Arten Emojis. Dennoch sind die Naturschutzexperten alarmiert. Denn das Tierangebot besteht vor allem aus Wirbeltieren und ein paar Arthropoden und Weichtieren. Von den 20.000 Plattwurm-Arten beispielsweise findet sich keine einzige. Bei anderen Arten ist die Auswahl ähnlich dünn. Pflanzen, Pilze und Mikroorganismen seien unterrepräsentiert, kritisieren die Forscher. Eine solche erhebliche taxonomische Verzerrung sei leider üblich. Immer wieder werde Tieren gegenüber anderen Taxa der Vorrang gegeben.
“Auch wenn die Krise der biologischen Vielfalt in der Online-Welt weit weg zu sein scheint, sollten wir in unserer zunehmend digitalisierten Gesellschaft das Potenzial von Emojis nicht unterschätzen”, schreiben Falaschi und seine Kollegen. Damit ließen sich das Bewusstsein und die Wertschätzung für die Vielfalt des Lebens auf der Erde fördern. Wir räumen an dieser Stelle selbstkritisch ein: Auch wir haben in unserer Desserts bevorzugt über (Wirbel-)Tiere berichtet, aber die Welt der Würmer, Viren und Fungi etwas vernachlässigt. Nun aber sind wir sensibilisiert für die Problematik ;). Anne Brüning
