Hans Uszkoreit ist wissenschaftlicher Direktor am Deutschen Forschungszentrum für Künstliche Intelligenz (DFKI). Pionier der europäischen KI. Mit 73 Jahren könnte er eigentlich entspannt den Tag genießen, stattdessen hat er gerade ein deutsches ChatGPT-Start-up gegründet, das auch einen Standort in China hat. Warum er das macht und warum die aktuelle Aufregung über den technischen Fortschritt teils fehlgeleitet ist, das hat er meinem Kollegen Frank Sieren erzählt.
Die wissenschaftliche Politikberatung in Deutschland ist nicht gut strukturiert, da sind sich Wirtschaftswissenschaftlerin Veronika Grimm, Immunologin Christine Falk, Rechtswissenschaftler Stefan Huster und Physiker Dirk Brockmann einig. Sie alle haben in Gremien und Kommissionen mitarbeitet und Politiker beraten. In Deutschland werde zu wenig differenziert, wer wirklicher Experte auf dem jeweils gefragten Gebiet ist, moniert etwa Dirk Brockmann. Professoren würden “als Experten gelabelt, obwohl sie gar nicht mehr im Saft stehen oder nie gut waren”. Auch werde zu wenig auf junge Menschen gesetzt.
Welche Ideen die Wissenschaft noch hat, ist Thema des heutigen Teils unserer Serie “Politikberatung, quo vadis?” – Anne Brüning berichtet. In der kommenden Woche geht es um Politikberatung in den USA. Die Serie “Politikberatung, quo vadis?” finden Sie gesammelt hier.
Ich wünsche Ihnen eine spannende Lektüre,
Wenn Ihnen der Research.Table gefällt, leiten Sie uns bitte weiter. Wenn Ihnen diese Mail weitergeleitet wurde: Hier können Sie sich für den Research.Table kostenlos anmelden.
Der Wunsch nach mehr Übersichtlichkeit in der wissenschaftlichen Politikberatung eint die von Table.Media befragten Expertinnen und Experten. Die Wirtschaftswissenschaftlerin Veronika Grimm, die Immunologin Christine Falk, der Rechtswissenschaftler Stefan Huster und der Physiker Dirk Brockmann haben Verbesserungsvorschläge.
Die wissenschaftliche Politikberatung in Deutschland sei nicht gut strukturiert, sagt Christine Falk, Direktorin des Instituts für Transplantationsimmunologie an der Medizinischen Hochschule Hannover und Mitglied des inzwischen aufgelösten Corona-Expertenrats der Bundesregierung. “In der Corona-Pandemie lief sie häufig parallel, was den Eindruck der Beliebigkeit erweckte. Für die Öffentlichkeit war es schwer nachzuvollziehen, welche Runden es gab, wie sie besetzt waren und wie die Auswahl erfolgte.”
Auch Veronika Grimm, Professorin an der Universität Erlangen-Nürnberg, die seit 2020 Mitglied des Sachverständigenrats zur Begutachtung der gesamtwirtschaftlichen Entwicklung ist, sieht Herausforderungen durch die Vielfalt. “Wenn man lange und selektiv genug sucht, findet man für alles eine wissenschaftliche Begründung. Und es besteht die Gefahr, dass Politiker und Öffentlichkeit den Überblick verlieren und keine Richtung mehr heraushören.”
Mehr Bedacht bei der Auswahl der Forschenden für Beratungsgremien wünscht sich Stefan Huster, Direktor des Instituts für Sozial- und Gesundheitsrecht an der Universität Bochum und Mitglied der Leopoldina. “Bei der Art und Weise der Zusammensetzung der Beratungsgremien herrscht ziemlicher Wildwuchs.” Als Beispiel nennt er den Sachverständigenausschuss zur Evaluation des Infektionsschutzrechts, dessen Vorsitzender er war. Das Gremium sei zur Hälfte von der Regierung benannt worden und zur Hälfte vom Bundestag, der nach Fraktionsproporz vorging. “Die fachliche Mischung wurde nicht koordiniert, was zu einer absurden Zusammensetzung geführt hat: Unter den 18 Mitgliedern waren sechs Juristen, aber kein einziger klassischer Epidemiologe.”
In Deutschland werde zu wenig differenziert, wer wirklicher Experte auf dem jeweils gefragten Gebiet ist, moniert Dirk Brockmann, Komplexitätsforscher an der Berliner Humboldt-Universität und am Robert-Koch-Institut. Professoren würden “als Experten gelabelt, obwohl sie gar nicht mehr im Saft stehen oder nie gut waren”. Auch werde zu wenig auf junge Menschen gesetzt.
In Großbritannien haben Ministerien wissenschaftliche Chefberater, in vielen Ländern würden Vertreter von Wissenschaftsorganisationen an Ministerien entsendet und umgekehrt. Ein solches Modell wurde auch mal für Deutschland erwogen, dann jedoch verworfen. Die Argumentation war, dass eine multilaterale Konstruktion der Politikberatung besser zu unserem föderalen System passt. Veronika Grimm sieht weitere Gründe, die gegen wissenschaftliche Chefberatung der Regierung sprechen: Mehr Expertise in der Regierung zu haben, sei zwar gut. “Aber es löst das Problem nicht. Denn die Wissenschaftler dort sind Teil der Regierung und erklären nach Außen natürlich das Regierungshandeln.” Es gehe darum, unabhängige Beratung zu stärken.
Für die Bewältigung künftiger akuter Herausforderungen schlägt Christine Falk den Aufbau eines Krisenstabs vor, der die Auswahl der Experten sowie die inhaltlichen Schwerpunkte koordiniert. “Dafür brauchen wir gar keine neuen Strukturen”, sagt sie. Es gehe darum, die vorhandenen Strukturen besser zu verknüpfen.
Damit Forschende auch weiterhin bereit sind, Beratungsarbeit zu leisten, sei es wichtig, dass die Institutionen die Leute schützen, die sich in die Politikberatung und in die Öffentlichkeit trauen, sagt Christine Falk. “Es hat ein hohes Risikopotenzial, in die Schusslinie derjenigen zu geraten, die diese Demokratie sowieso nicht mehr unterstützen.”
Veronika Grimm sieht harte Arbeit auf die wissenschaftliche Politikberatung zukommen. “Es ist eine entscheidende Herausforderung, den einfachen Parolen und Scheinlösungen, mit denen insbesondere die extremen Parteien winken, etwas entgegenzustellen.“ Es gelte, ähnlich kompakt belastbare Alternativen darzustellen. “Das ist nicht einfach, denn die Welt ist eben nicht trivial.” Dass es all die einfachen Lösungen eigentlich nicht gebe, sei den Leuten sehr schwer zu erklären. “Gleichzeitig wird es in Krisenzeiten immer reizvoller, die einfachen Lösungen anzubieten. Für Politiker, um gewählt zu werden und für Wissenschaftler, um besonders viel Aufmerksamkeit zu bekommen.”
In Teil 5 lesen Sie, wie Politikberatung in den USA läuft. Die Serie “Politikberatung, quo vadis?” finden Sie gesammelt hier.
Die ausführlichen Statements von Christine Falk, Veronika Grimm, Stefan Huster und Dirk Brockmann, in denen es unter anderem um Unabhängigkeit, Interdisziplinarität und die Politikberatungsarbeit mit minimalen Ressourcen geht, lesen Sie hier.
Herr Professor Uszkoreit, Sie haben gerade ein deutsches ChatGPT-Start-up gegründet, das auch einen Standort in China hat. Worum geht es dabei?
Wir haben das Start-up Nyonic in Berlin gegründet. In Shanghai haben wir ein Forschungsteam. Wir wollen zwei Schwächen von ChatGPT angehen. Die heutigen Sprachmodelle sind zu stark auf das Englische und vielleicht noch auf das Chinesische zentriert. Das wollen wir ändern. Und wir wollen ChatGPT für bestimmte Branchen zu einem verlässlichen Arbeitstool machen, was es heute noch nicht ist.
Warum die verschiedenen Sprachen? Englisch ist doch Weltsprache und Chinesisch auf dem Weg dorthin.
Weil viel europäisches Wissen noch gar nicht in Englisch vorliegt, sondern nur in den jeweiligen europäischen Sprachen. Zudem sollen die KI-Systeme für Anwender in aller Welt den gleichen Nutzen bringen. Die Sprachpluralität ist ein Riesenschritt für ChatGPT und wichtig für eine multipolare Welt. Die Mehrheit der Welt ist multilingual. Die USA können es sich leisten, anglozentrische Technologie zu haben. China kann es sich leisten, China-Technologie zu machen. Aber die Mehrheit der Welt, Südostasien, Afrika und eben Europa sind darauf angewiesen, dass viele Sprachen und Kulturen abgedeckt werden.
Warum machen Sie sich die Mühe? Sie sind ja mit 73 Jahren doch schon im Pensionsalter. Sie sind und bleiben ein Pionier der europäischen KI. Sie könnten die Füße hochlegen.
Alle in unserem Team, unabhängig vom Alter, wollen natürlich die größte Revolution in der KI zu unseren Lebzeiten mitgestalten. Hinzu kommt unser Wunsch, dass Europa sich diesmal nicht von den USA und China abhängen lässt. Wir haben sehr viele kluge Leute und viele Innovationen kamen aus Europa. Doch dann haben wir es immer wieder vermasselt. In China gibt es bereits mehr als 80 Sprachmodelle von der Größe von ChatGPT. In der EU gerade mal drei. In Deutschland gibt es erst eines, das bis jetzt auch noch nicht zu den besten zählt. Das wollen wir ändern.
Das Thema künstliche Intelligenz ist ja nicht neu. Sie beschäftigen sich seit mehr als 30 Jahren damit. Was ist denn neu mit ChatGPT, dass es nun die große Aufregung gibt?
Das System hat nun etwas erreicht, was wir beim Menschen Verständnis nennen. Es ist zwar bei der Maschine anders definiert, denn die Maschine hat nicht unser holistisches Weltbild und passt auch ihr Wissen nicht an Aussagen der Benutzer an. Aber die Wirkung ist die gleiche: Die Maschine benimmt sich in ihren Antworten so, als würde sie die Eingaben tatsächlich verstehen.
Wo liegen die Schwächen von ChatGPT?
ChatGPT ist zwar superschlau, hat aber auch erstaunliche Wissenslücken, die es manchmal durch Fantasie ausfüllt. Man kann sich noch nicht voll auf seine Kenntnisse und sein Urteil verlassen.
In der nächsten Version wird das doch sicher behoben?
Das wird Sie überraschen: Es gibt leider noch keine verlässliche Methode, nach der ich die Maschine ausbilden kann, um das zu bekommen, was ich möchte. Das ist alles noch Trial-and-Error. Mehr eine Kunst als eine Wissenschaft. Es gibt kein Curriculum, sondern ich füttere einfach Daten in Riesenschläuche ein und warte was passiert. Wir wissen nicht wirklich, was die Maschine dabei macht. Wenn das Ergebnis kommt, sagen wir: Schön gelernt, aber liebe Maschine, du sollst nicht alles glauben, was du gelesen hast. Und sag nicht alles, was du glaubst. Dann füttern wir gezielt Daten, um das Verhalten der Maschine zu korrigieren oder zu verbessern und schauen wieder, was herauskommt.
Böse Menschen können KI missbrauchen. Das muss man doch verhindern.
Ja, wir brauchen Regeln, insbesondere Regeln, für die speziellen kritischen Einsatzgebiete der KI. Aber diejenigen, die diese Regeln entwerfen, sollten der Versuchung widerstehen, eine solch komplexe Technologie wie die KI als Ganzes regulieren zu können. Bis das Gesetz Gültigkeit erlangt, hat sich die KI schon wieder weiterentwickelt. Ich habe derzeit mehr Sorge vor maßloser Regulierung, als vor bösen KI-Systemen. Diese Gefahr ist in Europa viel größer als in den USA oder China.
Was ist die Folge?
Selbst Forschung, die eine immer mächtigere KI durch geeignete Kontrolltechnologien zähmen und kontrollierbar machen will, könnte durch eine zu strenge Regulierung behindert werden. Am gefährlichsten sind immer die Meta-Regulierer, die Regeln wollen, die für alles gelten.
Aber Deutschland hat ja auch eine Verfassung, ein Grundgesetz.
Aber es ergibt keinen Sinn, für eine neue Technologie, die sich sehr schnell weiterentwickelt, zuerst eine Art Grundgesetz zu erfinden, wenn man noch gar nicht weiß, wo die Reise hingeht. Viel sinnvoller ist, die KI für den jeweiligen Anwendungsbereich zu regulieren. Also KI fürs Autofahren, KI für die Pharmaindustrie, für die Luftfahrt oder die Schule. Das macht nicht nur Sinn, das ist auch wichtig. Und jedes Gebiet hat ganz andere Anwendungsbedingungen. So machen es auch die Chinesen. Und dann kann man aus der Schnittmenge dieser einzelnen Regulierungen in ferner Zukunft eine Art KI-Verfassung destillieren.
Die KI wird die Welt so nachhaltig verändern wie die Erfindung der Elektrizität. Wenn ich sage, wir brauchen zentrale Regelungen für die Nutzung von Elektrizität, dann merkt man sofort, das ist Quatsch. Oder die Dampfmaschine. Wenn ich die in einer Fabrik benutze, dann braucht sie andere Regeln, als wenn ich sie in einer Lokomotive einsetze. Die KI ist und bleibt erstmal ein Werkzeug des Menschen und ist nicht etwa ein Wettbewerber des Menschen.
Warum ist diese Angst, im Vergleich zu Asien und den USA in Europa, besonders in Deutschland und Frankreich so stark ausgeprägt?
Das ist eine gute Frage. Und wichtig dabei ist, anzuerkennen, dass es so ist. Vielleicht ist es ein hilfloser Versuch der Europäer, ihren schwindenden Einfluss in der Welt zu kompensieren, indem sie versuchen, mit ihren Regeln die Metaebene zu besetzen. Die stärkere Regulierungssehnsucht ist in dem Maße gewachsen, in der sie keine Weltmächte mehr haben. In Europa, besonders in Deutschland sind Medikamente verschreibungspflichtig, die es in den USA einfach im Supermarkt zu kaufen gibt. In Europa orientiert man sich auch eher an unwahrscheinlichen Ausnahmen, als an der täglichen Realität. Es scheint fast eine große Lust, sich um Risiken zu sorgen, als die Technologie mit Können und vollem Einsatz zum Erfolg zu bringen.
In den USA und China konzentriert man sich pragmatischer auf die wahrscheinlichsten Varianten.
In der EU hat die politische Aufgabenteilung zwischen Mitgliedstaaten und zentralisierter Regulierung zu einer ganz speziellen Entwicklung geführt. Anstatt eine zeitgemäße flexible Kombination von kodifiziertem Recht und Fallrecht anzustreben, die der Dynamik und Vielfalt unseres Kontinents gerecht wird, treibt diese Machtverteilung das europäisch kontinentale Rechtssystem der Kodifizierung mit einem Mammutaufwand ins Extrem.
Diese Tendenz trifft zusammen mit der Hoffnung, dass man über Gesetzgebung die Welt vom Übel befreien kann, dass man durch Regulierung der ganzen Welt seine eigene Ethik aufzwingt. Das bremst uns nun, und die Welt, die Brics-Staaten voran, hat keine Lust mehr, die Regeln zu übernehmen. Hinzu kommt noch, dass in Deutschland die Angst stärker geschürt wird als in anderen Ländern. Inzwischen ist ein eigener Berufszweig von selbsternannten AI-Ethikern, AI-Juristen und Algorithmen-Jägern entstanden. Die leben gut davon, Angst zu schüren. Das sind Menschen, die sich genau genommen gar nicht richtig mit KI auskennen. Und ich bin mir auch nicht sicher, ob es die besten Juristen und Sozialwissenschaftler sind, die sich in diesem Feld tummeln.
Das andere Extrem wäre auch nicht günstig: Jede Anwendung muss gesondert zertifiziert werden, weil nur wenig zentral geregelt wird.
Das ist die Befürchtung des Mittelstands und besonders des Handwerks und der Kleinbetriebe. Wenn sie alles gesondert zertifizieren müssen, dann dauert das so lange und wird so teuer, dass der Mittelstand sagt: Das lohnt sich für uns nicht. Wir müssen also mehr denn je die Zertifizierungsanforderungen auf die wirklich kritischen Bereiche beschränken und den Produzenten sowie den Anwendern eine Beweislast nur dort aufbrummen, wo es tatsächlich Sonderfälle und Grund zur Besorgnis gibt. Und mithilfe der Technologie kostengünstige Testverfahren bereitstellen. Vor allem müssen wir schauen: Was ist im Alltag praktikabel. Ich bin nun sehr gespannt, ob Deutschland und die EU das diesmal hinbekommen oder wieder so handeln, als könnten sie noch die Regeln der Welt bestimmen.
Hans Uszkoreit, 73, hat in Deutschland, aber auch lange in den USA und in China gearbeitet – als Universitätsprofessor, Forschungsmanager, Industrieberater und Mitgründer mehrerer Start-ups. Er gilt als einer der führenden europäischen KI-Forscher. Uszkoreit ist wissenschaftlicher Direktor am Deutschen Forschungszentrum für Künstliche Intelligenz (DFKI). Er hat deutsche und internationale Forschungsverbünde initiiert und koordiniert, leitete mehrere der bekanntesten europäischen Projekte. Uszkoreit ist Autor von mehr als 250 internationalen Publikationen. Jüngst hat er das Berliner ChatGPT-ähnliche Start-up Nyonic gegründet – zusammen mit einem Forschungsteam in Shanghai. Seine Gattin Xu Feiyu ist ebenfalls profilierte KI-Forscherin und war zuletzt KI-Chefin von SAP.
Die Texte der Table.Media-Serie “Der Globale Wettlauf um Künstliche Intelligenz” finden Sie hier.
Das vollständige Interview finden Sie bei China.Table.
Astrid Lambrecht (56) ist neue Vorstandsvorsitzende des Forschungszentrum Jülich. Sie wurde für fünf Jahre bestellt und folgt auf Wolfgang Marquardt, der das Zentrum seit 2014 neun Jahre führte. Lambrecht ist bereits seit 2021 Mitglied des Jülicher Vorstands.
In ihrer neuen Funktion will Lambrecht einen starken Fokus auf Weiterentwicklung und Modernisierung setzen, außerdem die Zusammenarbeit und den Austausch nach innen und außen intensivieren. “Wir sind bereits heute mit unseren strategischen Forschungsthemen Energie, Information und nachhaltige Bioökonomie gut positioniert.” Wissenschaftliche Exzellenz bestmöglich zu unterstützen, sei gemeinsames Ziel am Forschungszentrum.
Astrid Lambrecht, 1967 in Mülheim an der Ruhr geboren, studierte Physik in Essen und London und wurde 1995 am Forschungsinstitut Laboratoire Kastler Brossel (LKB) in Paris promoviert. 2002 habilitierte sich Lambrecht an der Pariser Universität Pierre und Marie Curie. Ihr Forschungsgebiet ist die Quantenphysik.
Vor ihrem Wechsel an das Forschungszentrum leitete Lambrecht ab 2018 den wissenschaftlichen Geschäftsbereich Physik am Nationalen Zentrum für wissenschaftliche Forschung, dem Centre national de la recherche scientifique (CNRS), in Paris. Die neue Jülicher Vorstandsvorsitzende sammelte viel Erfahrung in zahlreichen internationalen Wissenschaftsorganisationen und brachte ihre Expertise auch in Politikberatung über das französische parlamentarische Büro für wissenschaftliche und technologische Bewertung (OPECST) ein. Lambrecht ist Mitglied des Aufsichtsrats der französischen Forschungseinrichtung CEA.
Neben anderen Auszeichnungen erhielt sie 2019 den französischen Verdienstorden der Ehrenlegion. nik
Die Auswirkungen der Corona-Pandemie auf die psychische Gesundheit von jungen Menschen. Der Einfluss Künstlicher Intelligenzen auf das menschliche Miteinander. Der Umgang des Menschen mit der Gesundheit der Tiere. All das sind Themen, mit denen sich Hans-Ulrich Demuth als Mitglied des Deutschen Ethikrats beschäftigt, um die Bundesregierung und den Bundestag zu beraten. Die Diskussionen des Gremiums erstrecken sich über Wochen und teilweise über neun Stunden am Stück, erzählt der 70-Jährige, der 2020 als einer der ersten Ostdeutschen dabei ist.
Ausgesprochen hat er sich hier beispielsweise gegen einen allzu umfassenden Schutz von Patientendaten, erzählt Hans-Ulrich Demuth: “Wenn Sie sich an einem Forschungsinstitut mit Medikamenten gegen bestimmte Krankheitsbilder beschäftigen, können die Datenschutzgesetzgebung der EU und ihre Umsetzung in Deutschland für medizinische Forschung sehr hinderlich sein”. Der Biochemiker hat selbst in den Neunzigerjahren ein Unternehmen gegründet, das ab 2000 Medikamente gegen Diabetes und Alzheimer erforschte. 2018, da leitete er bereits eine Außenstelle des Hallenser Fraunhofer-Instituts für Zelltherapie und Immunologie, gründete er dann eine weitere Firma, die sich dem Kampf gegen die Parodontose widmet.
Auf die Erfolge seines ersten Unternehmens, Vivoryon Therapeutics, blickt Demuth zu Recht mit großem Stolz zurück: “Wir haben Anfang der 2000er Jahre einen der größten Biotech-Deals gemacht, indem wir 50 Millionen Euro die Patente und Ideen eingesammelt haben”. Dieses Geld sei zu großen Teilen genutzt worden, um die weiterführende Forschung zu finanzieren.
Als ein Highlight seiner Karriere ist ihm ein Rechtsstreit in Erinnerung geblieben, später wurde sein Start-up von der Presse in diesem Zusammenhang als “David aus dem Osten” bezeichnet: “Wir saßen im Europäischen Patentamt in München an einem Riesentisch, rundherum Delegationen von zwölf Pharmafirmen, die unsere Patentrechte an der Diabetes-Erfindung kaputt machen wollten”, erzählt er. In der Nacht vor der großen Verhandlung habe der Pharmariese Novartis dann seinen Einspruch zurückgezogen, bei Demuths Unternehmen eine Lizenz gekauft – und die kleine Firma damit vor dem Bankrott bewahrt hat. Später wurden die Diabetesforschung und die Patente von einem anderen Unternehmen gekauft – und der Käufer verfünffachte den Preis. Der Gründer sieht das gelassen: “Das ist der Preis, den Pioniere zahlen”.
Demuth ist seit 2006 als Honorarprofessor an der Hochschule Anhalt tätig und veröffentlicht als wissenschaftlicher Gutachter etwa Beiträge zur aktuellen Alzheimer-Forschung. Seine Freizeit verbringt der Naturwissenschaftler gerne mit seiner Frau, einer ehemaligen Profi-Basketballspielerin, mit der er zwei ebenso sportbegeisterte Kinder und Enkel hat. Außerdem hat der Hallenser Freude daran, auf seinem Grundstück an der Ostsee Unkraut zu jäten – wann immer die Zeit und sein Rücken es zulassen. Janna Degener-Storr
Bei Experimenten des Forschungsinstituts für Nutztierbiologie (FBN) in Dummerstorf bei Rostock befreiten Schweine in den meisten Fällen innerhalb einer bestimmten Zeit Artgenossen, die zuvor von ihrer Gruppe getrennt worden waren. Dazu mussten die helfenden Tiere mit ihren Schnauzen kleine Türen öffnen. Es ist bereits bekannt, dass die Borstentiere empfänglich für die Gefühle von Artgenossen sind und eine starke soziale Wahrnehmung haben, dennoch sei es mehr als interessant, dass sie derart hilfsbereit seien, erklärt Liza R. Moscovice vom FBN.
Das Projekt in dem die Schweine auf die Probe gestellt wurden, heißt “Lass mich raus!”. In den “Proceedings B” der britischen Royal Society hat das Team nun erste Ergebnisse veröffentlicht. Der Studie zufolge öffneten Schweine häufiger und schneller die Tür, hinter der sich der Artgenosse befand, als die Tür zu einer leeren Box. Gegen Empathie als Motivation beim Herauslassen der Sau spricht zwar, dass sich das erhöhte Stresslevel der eingesperrten Tiere anscheinend nicht auf die helfenden Tiere übertragen hat. Das legen Messungen des Stresshormons Cortisol bei den Tieren nahe. Dieses Phänomen muss nach Aussage Moscovices weiter erforscht werden.
Aber: “Die Forschung unterstreicht, dass Schweine in ihrem sozialen Gefüge bleiben wollen. Und es ist stressig für sie, getrennt zu werden, auch bei kurzen Trennungen.” Wer jetzt spontan an einen Arbeitskollegen oder eine Arbeitskollegin gedacht hat, die man vermisst, wenn diese in den Ferien sind: Schwein gehabt! Nicola Kuhrt
Hans Uszkoreit ist wissenschaftlicher Direktor am Deutschen Forschungszentrum für Künstliche Intelligenz (DFKI). Pionier der europäischen KI. Mit 73 Jahren könnte er eigentlich entspannt den Tag genießen, stattdessen hat er gerade ein deutsches ChatGPT-Start-up gegründet, das auch einen Standort in China hat. Warum er das macht und warum die aktuelle Aufregung über den technischen Fortschritt teils fehlgeleitet ist, das hat er meinem Kollegen Frank Sieren erzählt.
Die wissenschaftliche Politikberatung in Deutschland ist nicht gut strukturiert, da sind sich Wirtschaftswissenschaftlerin Veronika Grimm, Immunologin Christine Falk, Rechtswissenschaftler Stefan Huster und Physiker Dirk Brockmann einig. Sie alle haben in Gremien und Kommissionen mitarbeitet und Politiker beraten. In Deutschland werde zu wenig differenziert, wer wirklicher Experte auf dem jeweils gefragten Gebiet ist, moniert etwa Dirk Brockmann. Professoren würden “als Experten gelabelt, obwohl sie gar nicht mehr im Saft stehen oder nie gut waren”. Auch werde zu wenig auf junge Menschen gesetzt.
Welche Ideen die Wissenschaft noch hat, ist Thema des heutigen Teils unserer Serie “Politikberatung, quo vadis?” – Anne Brüning berichtet. In der kommenden Woche geht es um Politikberatung in den USA. Die Serie “Politikberatung, quo vadis?” finden Sie gesammelt hier.
Ich wünsche Ihnen eine spannende Lektüre,
Wenn Ihnen der Research.Table gefällt, leiten Sie uns bitte weiter. Wenn Ihnen diese Mail weitergeleitet wurde: Hier können Sie sich für den Research.Table kostenlos anmelden.
Der Wunsch nach mehr Übersichtlichkeit in der wissenschaftlichen Politikberatung eint die von Table.Media befragten Expertinnen und Experten. Die Wirtschaftswissenschaftlerin Veronika Grimm, die Immunologin Christine Falk, der Rechtswissenschaftler Stefan Huster und der Physiker Dirk Brockmann haben Verbesserungsvorschläge.
Die wissenschaftliche Politikberatung in Deutschland sei nicht gut strukturiert, sagt Christine Falk, Direktorin des Instituts für Transplantationsimmunologie an der Medizinischen Hochschule Hannover und Mitglied des inzwischen aufgelösten Corona-Expertenrats der Bundesregierung. “In der Corona-Pandemie lief sie häufig parallel, was den Eindruck der Beliebigkeit erweckte. Für die Öffentlichkeit war es schwer nachzuvollziehen, welche Runden es gab, wie sie besetzt waren und wie die Auswahl erfolgte.”
Auch Veronika Grimm, Professorin an der Universität Erlangen-Nürnberg, die seit 2020 Mitglied des Sachverständigenrats zur Begutachtung der gesamtwirtschaftlichen Entwicklung ist, sieht Herausforderungen durch die Vielfalt. “Wenn man lange und selektiv genug sucht, findet man für alles eine wissenschaftliche Begründung. Und es besteht die Gefahr, dass Politiker und Öffentlichkeit den Überblick verlieren und keine Richtung mehr heraushören.”
Mehr Bedacht bei der Auswahl der Forschenden für Beratungsgremien wünscht sich Stefan Huster, Direktor des Instituts für Sozial- und Gesundheitsrecht an der Universität Bochum und Mitglied der Leopoldina. “Bei der Art und Weise der Zusammensetzung der Beratungsgremien herrscht ziemlicher Wildwuchs.” Als Beispiel nennt er den Sachverständigenausschuss zur Evaluation des Infektionsschutzrechts, dessen Vorsitzender er war. Das Gremium sei zur Hälfte von der Regierung benannt worden und zur Hälfte vom Bundestag, der nach Fraktionsproporz vorging. “Die fachliche Mischung wurde nicht koordiniert, was zu einer absurden Zusammensetzung geführt hat: Unter den 18 Mitgliedern waren sechs Juristen, aber kein einziger klassischer Epidemiologe.”
In Deutschland werde zu wenig differenziert, wer wirklicher Experte auf dem jeweils gefragten Gebiet ist, moniert Dirk Brockmann, Komplexitätsforscher an der Berliner Humboldt-Universität und am Robert-Koch-Institut. Professoren würden “als Experten gelabelt, obwohl sie gar nicht mehr im Saft stehen oder nie gut waren”. Auch werde zu wenig auf junge Menschen gesetzt.
In Großbritannien haben Ministerien wissenschaftliche Chefberater, in vielen Ländern würden Vertreter von Wissenschaftsorganisationen an Ministerien entsendet und umgekehrt. Ein solches Modell wurde auch mal für Deutschland erwogen, dann jedoch verworfen. Die Argumentation war, dass eine multilaterale Konstruktion der Politikberatung besser zu unserem föderalen System passt. Veronika Grimm sieht weitere Gründe, die gegen wissenschaftliche Chefberatung der Regierung sprechen: Mehr Expertise in der Regierung zu haben, sei zwar gut. “Aber es löst das Problem nicht. Denn die Wissenschaftler dort sind Teil der Regierung und erklären nach Außen natürlich das Regierungshandeln.” Es gehe darum, unabhängige Beratung zu stärken.
Für die Bewältigung künftiger akuter Herausforderungen schlägt Christine Falk den Aufbau eines Krisenstabs vor, der die Auswahl der Experten sowie die inhaltlichen Schwerpunkte koordiniert. “Dafür brauchen wir gar keine neuen Strukturen”, sagt sie. Es gehe darum, die vorhandenen Strukturen besser zu verknüpfen.
Damit Forschende auch weiterhin bereit sind, Beratungsarbeit zu leisten, sei es wichtig, dass die Institutionen die Leute schützen, die sich in die Politikberatung und in die Öffentlichkeit trauen, sagt Christine Falk. “Es hat ein hohes Risikopotenzial, in die Schusslinie derjenigen zu geraten, die diese Demokratie sowieso nicht mehr unterstützen.”
Veronika Grimm sieht harte Arbeit auf die wissenschaftliche Politikberatung zukommen. “Es ist eine entscheidende Herausforderung, den einfachen Parolen und Scheinlösungen, mit denen insbesondere die extremen Parteien winken, etwas entgegenzustellen.“ Es gelte, ähnlich kompakt belastbare Alternativen darzustellen. “Das ist nicht einfach, denn die Welt ist eben nicht trivial.” Dass es all die einfachen Lösungen eigentlich nicht gebe, sei den Leuten sehr schwer zu erklären. “Gleichzeitig wird es in Krisenzeiten immer reizvoller, die einfachen Lösungen anzubieten. Für Politiker, um gewählt zu werden und für Wissenschaftler, um besonders viel Aufmerksamkeit zu bekommen.”
In Teil 5 lesen Sie, wie Politikberatung in den USA läuft. Die Serie “Politikberatung, quo vadis?” finden Sie gesammelt hier.
Die ausführlichen Statements von Christine Falk, Veronika Grimm, Stefan Huster und Dirk Brockmann, in denen es unter anderem um Unabhängigkeit, Interdisziplinarität und die Politikberatungsarbeit mit minimalen Ressourcen geht, lesen Sie hier.
Herr Professor Uszkoreit, Sie haben gerade ein deutsches ChatGPT-Start-up gegründet, das auch einen Standort in China hat. Worum geht es dabei?
Wir haben das Start-up Nyonic in Berlin gegründet. In Shanghai haben wir ein Forschungsteam. Wir wollen zwei Schwächen von ChatGPT angehen. Die heutigen Sprachmodelle sind zu stark auf das Englische und vielleicht noch auf das Chinesische zentriert. Das wollen wir ändern. Und wir wollen ChatGPT für bestimmte Branchen zu einem verlässlichen Arbeitstool machen, was es heute noch nicht ist.
Warum die verschiedenen Sprachen? Englisch ist doch Weltsprache und Chinesisch auf dem Weg dorthin.
Weil viel europäisches Wissen noch gar nicht in Englisch vorliegt, sondern nur in den jeweiligen europäischen Sprachen. Zudem sollen die KI-Systeme für Anwender in aller Welt den gleichen Nutzen bringen. Die Sprachpluralität ist ein Riesenschritt für ChatGPT und wichtig für eine multipolare Welt. Die Mehrheit der Welt ist multilingual. Die USA können es sich leisten, anglozentrische Technologie zu haben. China kann es sich leisten, China-Technologie zu machen. Aber die Mehrheit der Welt, Südostasien, Afrika und eben Europa sind darauf angewiesen, dass viele Sprachen und Kulturen abgedeckt werden.
Warum machen Sie sich die Mühe? Sie sind ja mit 73 Jahren doch schon im Pensionsalter. Sie sind und bleiben ein Pionier der europäischen KI. Sie könnten die Füße hochlegen.
Alle in unserem Team, unabhängig vom Alter, wollen natürlich die größte Revolution in der KI zu unseren Lebzeiten mitgestalten. Hinzu kommt unser Wunsch, dass Europa sich diesmal nicht von den USA und China abhängen lässt. Wir haben sehr viele kluge Leute und viele Innovationen kamen aus Europa. Doch dann haben wir es immer wieder vermasselt. In China gibt es bereits mehr als 80 Sprachmodelle von der Größe von ChatGPT. In der EU gerade mal drei. In Deutschland gibt es erst eines, das bis jetzt auch noch nicht zu den besten zählt. Das wollen wir ändern.
Das Thema künstliche Intelligenz ist ja nicht neu. Sie beschäftigen sich seit mehr als 30 Jahren damit. Was ist denn neu mit ChatGPT, dass es nun die große Aufregung gibt?
Das System hat nun etwas erreicht, was wir beim Menschen Verständnis nennen. Es ist zwar bei der Maschine anders definiert, denn die Maschine hat nicht unser holistisches Weltbild und passt auch ihr Wissen nicht an Aussagen der Benutzer an. Aber die Wirkung ist die gleiche: Die Maschine benimmt sich in ihren Antworten so, als würde sie die Eingaben tatsächlich verstehen.
Wo liegen die Schwächen von ChatGPT?
ChatGPT ist zwar superschlau, hat aber auch erstaunliche Wissenslücken, die es manchmal durch Fantasie ausfüllt. Man kann sich noch nicht voll auf seine Kenntnisse und sein Urteil verlassen.
In der nächsten Version wird das doch sicher behoben?
Das wird Sie überraschen: Es gibt leider noch keine verlässliche Methode, nach der ich die Maschine ausbilden kann, um das zu bekommen, was ich möchte. Das ist alles noch Trial-and-Error. Mehr eine Kunst als eine Wissenschaft. Es gibt kein Curriculum, sondern ich füttere einfach Daten in Riesenschläuche ein und warte was passiert. Wir wissen nicht wirklich, was die Maschine dabei macht. Wenn das Ergebnis kommt, sagen wir: Schön gelernt, aber liebe Maschine, du sollst nicht alles glauben, was du gelesen hast. Und sag nicht alles, was du glaubst. Dann füttern wir gezielt Daten, um das Verhalten der Maschine zu korrigieren oder zu verbessern und schauen wieder, was herauskommt.
Böse Menschen können KI missbrauchen. Das muss man doch verhindern.
Ja, wir brauchen Regeln, insbesondere Regeln, für die speziellen kritischen Einsatzgebiete der KI. Aber diejenigen, die diese Regeln entwerfen, sollten der Versuchung widerstehen, eine solch komplexe Technologie wie die KI als Ganzes regulieren zu können. Bis das Gesetz Gültigkeit erlangt, hat sich die KI schon wieder weiterentwickelt. Ich habe derzeit mehr Sorge vor maßloser Regulierung, als vor bösen KI-Systemen. Diese Gefahr ist in Europa viel größer als in den USA oder China.
Was ist die Folge?
Selbst Forschung, die eine immer mächtigere KI durch geeignete Kontrolltechnologien zähmen und kontrollierbar machen will, könnte durch eine zu strenge Regulierung behindert werden. Am gefährlichsten sind immer die Meta-Regulierer, die Regeln wollen, die für alles gelten.
Aber Deutschland hat ja auch eine Verfassung, ein Grundgesetz.
Aber es ergibt keinen Sinn, für eine neue Technologie, die sich sehr schnell weiterentwickelt, zuerst eine Art Grundgesetz zu erfinden, wenn man noch gar nicht weiß, wo die Reise hingeht. Viel sinnvoller ist, die KI für den jeweiligen Anwendungsbereich zu regulieren. Also KI fürs Autofahren, KI für die Pharmaindustrie, für die Luftfahrt oder die Schule. Das macht nicht nur Sinn, das ist auch wichtig. Und jedes Gebiet hat ganz andere Anwendungsbedingungen. So machen es auch die Chinesen. Und dann kann man aus der Schnittmenge dieser einzelnen Regulierungen in ferner Zukunft eine Art KI-Verfassung destillieren.
Die KI wird die Welt so nachhaltig verändern wie die Erfindung der Elektrizität. Wenn ich sage, wir brauchen zentrale Regelungen für die Nutzung von Elektrizität, dann merkt man sofort, das ist Quatsch. Oder die Dampfmaschine. Wenn ich die in einer Fabrik benutze, dann braucht sie andere Regeln, als wenn ich sie in einer Lokomotive einsetze. Die KI ist und bleibt erstmal ein Werkzeug des Menschen und ist nicht etwa ein Wettbewerber des Menschen.
Warum ist diese Angst, im Vergleich zu Asien und den USA in Europa, besonders in Deutschland und Frankreich so stark ausgeprägt?
Das ist eine gute Frage. Und wichtig dabei ist, anzuerkennen, dass es so ist. Vielleicht ist es ein hilfloser Versuch der Europäer, ihren schwindenden Einfluss in der Welt zu kompensieren, indem sie versuchen, mit ihren Regeln die Metaebene zu besetzen. Die stärkere Regulierungssehnsucht ist in dem Maße gewachsen, in der sie keine Weltmächte mehr haben. In Europa, besonders in Deutschland sind Medikamente verschreibungspflichtig, die es in den USA einfach im Supermarkt zu kaufen gibt. In Europa orientiert man sich auch eher an unwahrscheinlichen Ausnahmen, als an der täglichen Realität. Es scheint fast eine große Lust, sich um Risiken zu sorgen, als die Technologie mit Können und vollem Einsatz zum Erfolg zu bringen.
In den USA und China konzentriert man sich pragmatischer auf die wahrscheinlichsten Varianten.
In der EU hat die politische Aufgabenteilung zwischen Mitgliedstaaten und zentralisierter Regulierung zu einer ganz speziellen Entwicklung geführt. Anstatt eine zeitgemäße flexible Kombination von kodifiziertem Recht und Fallrecht anzustreben, die der Dynamik und Vielfalt unseres Kontinents gerecht wird, treibt diese Machtverteilung das europäisch kontinentale Rechtssystem der Kodifizierung mit einem Mammutaufwand ins Extrem.
Diese Tendenz trifft zusammen mit der Hoffnung, dass man über Gesetzgebung die Welt vom Übel befreien kann, dass man durch Regulierung der ganzen Welt seine eigene Ethik aufzwingt. Das bremst uns nun, und die Welt, die Brics-Staaten voran, hat keine Lust mehr, die Regeln zu übernehmen. Hinzu kommt noch, dass in Deutschland die Angst stärker geschürt wird als in anderen Ländern. Inzwischen ist ein eigener Berufszweig von selbsternannten AI-Ethikern, AI-Juristen und Algorithmen-Jägern entstanden. Die leben gut davon, Angst zu schüren. Das sind Menschen, die sich genau genommen gar nicht richtig mit KI auskennen. Und ich bin mir auch nicht sicher, ob es die besten Juristen und Sozialwissenschaftler sind, die sich in diesem Feld tummeln.
Das andere Extrem wäre auch nicht günstig: Jede Anwendung muss gesondert zertifiziert werden, weil nur wenig zentral geregelt wird.
Das ist die Befürchtung des Mittelstands und besonders des Handwerks und der Kleinbetriebe. Wenn sie alles gesondert zertifizieren müssen, dann dauert das so lange und wird so teuer, dass der Mittelstand sagt: Das lohnt sich für uns nicht. Wir müssen also mehr denn je die Zertifizierungsanforderungen auf die wirklich kritischen Bereiche beschränken und den Produzenten sowie den Anwendern eine Beweislast nur dort aufbrummen, wo es tatsächlich Sonderfälle und Grund zur Besorgnis gibt. Und mithilfe der Technologie kostengünstige Testverfahren bereitstellen. Vor allem müssen wir schauen: Was ist im Alltag praktikabel. Ich bin nun sehr gespannt, ob Deutschland und die EU das diesmal hinbekommen oder wieder so handeln, als könnten sie noch die Regeln der Welt bestimmen.
Hans Uszkoreit, 73, hat in Deutschland, aber auch lange in den USA und in China gearbeitet – als Universitätsprofessor, Forschungsmanager, Industrieberater und Mitgründer mehrerer Start-ups. Er gilt als einer der führenden europäischen KI-Forscher. Uszkoreit ist wissenschaftlicher Direktor am Deutschen Forschungszentrum für Künstliche Intelligenz (DFKI). Er hat deutsche und internationale Forschungsverbünde initiiert und koordiniert, leitete mehrere der bekanntesten europäischen Projekte. Uszkoreit ist Autor von mehr als 250 internationalen Publikationen. Jüngst hat er das Berliner ChatGPT-ähnliche Start-up Nyonic gegründet – zusammen mit einem Forschungsteam in Shanghai. Seine Gattin Xu Feiyu ist ebenfalls profilierte KI-Forscherin und war zuletzt KI-Chefin von SAP.
Die Texte der Table.Media-Serie “Der Globale Wettlauf um Künstliche Intelligenz” finden Sie hier.
Das vollständige Interview finden Sie bei China.Table.
Astrid Lambrecht (56) ist neue Vorstandsvorsitzende des Forschungszentrum Jülich. Sie wurde für fünf Jahre bestellt und folgt auf Wolfgang Marquardt, der das Zentrum seit 2014 neun Jahre führte. Lambrecht ist bereits seit 2021 Mitglied des Jülicher Vorstands.
In ihrer neuen Funktion will Lambrecht einen starken Fokus auf Weiterentwicklung und Modernisierung setzen, außerdem die Zusammenarbeit und den Austausch nach innen und außen intensivieren. “Wir sind bereits heute mit unseren strategischen Forschungsthemen Energie, Information und nachhaltige Bioökonomie gut positioniert.” Wissenschaftliche Exzellenz bestmöglich zu unterstützen, sei gemeinsames Ziel am Forschungszentrum.
Astrid Lambrecht, 1967 in Mülheim an der Ruhr geboren, studierte Physik in Essen und London und wurde 1995 am Forschungsinstitut Laboratoire Kastler Brossel (LKB) in Paris promoviert. 2002 habilitierte sich Lambrecht an der Pariser Universität Pierre und Marie Curie. Ihr Forschungsgebiet ist die Quantenphysik.
Vor ihrem Wechsel an das Forschungszentrum leitete Lambrecht ab 2018 den wissenschaftlichen Geschäftsbereich Physik am Nationalen Zentrum für wissenschaftliche Forschung, dem Centre national de la recherche scientifique (CNRS), in Paris. Die neue Jülicher Vorstandsvorsitzende sammelte viel Erfahrung in zahlreichen internationalen Wissenschaftsorganisationen und brachte ihre Expertise auch in Politikberatung über das französische parlamentarische Büro für wissenschaftliche und technologische Bewertung (OPECST) ein. Lambrecht ist Mitglied des Aufsichtsrats der französischen Forschungseinrichtung CEA.
Neben anderen Auszeichnungen erhielt sie 2019 den französischen Verdienstorden der Ehrenlegion. nik
Die Auswirkungen der Corona-Pandemie auf die psychische Gesundheit von jungen Menschen. Der Einfluss Künstlicher Intelligenzen auf das menschliche Miteinander. Der Umgang des Menschen mit der Gesundheit der Tiere. All das sind Themen, mit denen sich Hans-Ulrich Demuth als Mitglied des Deutschen Ethikrats beschäftigt, um die Bundesregierung und den Bundestag zu beraten. Die Diskussionen des Gremiums erstrecken sich über Wochen und teilweise über neun Stunden am Stück, erzählt der 70-Jährige, der 2020 als einer der ersten Ostdeutschen dabei ist.
Ausgesprochen hat er sich hier beispielsweise gegen einen allzu umfassenden Schutz von Patientendaten, erzählt Hans-Ulrich Demuth: “Wenn Sie sich an einem Forschungsinstitut mit Medikamenten gegen bestimmte Krankheitsbilder beschäftigen, können die Datenschutzgesetzgebung der EU und ihre Umsetzung in Deutschland für medizinische Forschung sehr hinderlich sein”. Der Biochemiker hat selbst in den Neunzigerjahren ein Unternehmen gegründet, das ab 2000 Medikamente gegen Diabetes und Alzheimer erforschte. 2018, da leitete er bereits eine Außenstelle des Hallenser Fraunhofer-Instituts für Zelltherapie und Immunologie, gründete er dann eine weitere Firma, die sich dem Kampf gegen die Parodontose widmet.
Auf die Erfolge seines ersten Unternehmens, Vivoryon Therapeutics, blickt Demuth zu Recht mit großem Stolz zurück: “Wir haben Anfang der 2000er Jahre einen der größten Biotech-Deals gemacht, indem wir 50 Millionen Euro die Patente und Ideen eingesammelt haben”. Dieses Geld sei zu großen Teilen genutzt worden, um die weiterführende Forschung zu finanzieren.
Als ein Highlight seiner Karriere ist ihm ein Rechtsstreit in Erinnerung geblieben, später wurde sein Start-up von der Presse in diesem Zusammenhang als “David aus dem Osten” bezeichnet: “Wir saßen im Europäischen Patentamt in München an einem Riesentisch, rundherum Delegationen von zwölf Pharmafirmen, die unsere Patentrechte an der Diabetes-Erfindung kaputt machen wollten”, erzählt er. In der Nacht vor der großen Verhandlung habe der Pharmariese Novartis dann seinen Einspruch zurückgezogen, bei Demuths Unternehmen eine Lizenz gekauft – und die kleine Firma damit vor dem Bankrott bewahrt hat. Später wurden die Diabetesforschung und die Patente von einem anderen Unternehmen gekauft – und der Käufer verfünffachte den Preis. Der Gründer sieht das gelassen: “Das ist der Preis, den Pioniere zahlen”.
Demuth ist seit 2006 als Honorarprofessor an der Hochschule Anhalt tätig und veröffentlicht als wissenschaftlicher Gutachter etwa Beiträge zur aktuellen Alzheimer-Forschung. Seine Freizeit verbringt der Naturwissenschaftler gerne mit seiner Frau, einer ehemaligen Profi-Basketballspielerin, mit der er zwei ebenso sportbegeisterte Kinder und Enkel hat. Außerdem hat der Hallenser Freude daran, auf seinem Grundstück an der Ostsee Unkraut zu jäten – wann immer die Zeit und sein Rücken es zulassen. Janna Degener-Storr
Bei Experimenten des Forschungsinstituts für Nutztierbiologie (FBN) in Dummerstorf bei Rostock befreiten Schweine in den meisten Fällen innerhalb einer bestimmten Zeit Artgenossen, die zuvor von ihrer Gruppe getrennt worden waren. Dazu mussten die helfenden Tiere mit ihren Schnauzen kleine Türen öffnen. Es ist bereits bekannt, dass die Borstentiere empfänglich für die Gefühle von Artgenossen sind und eine starke soziale Wahrnehmung haben, dennoch sei es mehr als interessant, dass sie derart hilfsbereit seien, erklärt Liza R. Moscovice vom FBN.
Das Projekt in dem die Schweine auf die Probe gestellt wurden, heißt “Lass mich raus!”. In den “Proceedings B” der britischen Royal Society hat das Team nun erste Ergebnisse veröffentlicht. Der Studie zufolge öffneten Schweine häufiger und schneller die Tür, hinter der sich der Artgenosse befand, als die Tür zu einer leeren Box. Gegen Empathie als Motivation beim Herauslassen der Sau spricht zwar, dass sich das erhöhte Stresslevel der eingesperrten Tiere anscheinend nicht auf die helfenden Tiere übertragen hat. Das legen Messungen des Stresshormons Cortisol bei den Tieren nahe. Dieses Phänomen muss nach Aussage Moscovices weiter erforscht werden.
Aber: “Die Forschung unterstreicht, dass Schweine in ihrem sozialen Gefüge bleiben wollen. Und es ist stressig für sie, getrennt zu werden, auch bei kurzen Trennungen.” Wer jetzt spontan an einen Arbeitskollegen oder eine Arbeitskollegin gedacht hat, die man vermisst, wenn diese in den Ferien sind: Schwein gehabt! Nicola Kuhrt
