Wann kommen die Killerroboter, Nana Brink?

Sprecher 1: Table Today mit Michael Bröker und Helene Bubrowski.

Sprecher 2: Table Today ist wieder für Sie da, der Podcast für die aufgeweckten Geister. Heute mit einem wirklich klugen Programm. Das liegt unter anderem an...

Sprecher 3: Michael Bröker.

Sprecher 2: Danke, Helene Bubrowski. Im Opening spreche ich mit meiner Lieblingsjuristin natürlich über das Urteil zur AfD. Warum sie doch ja wirklich rechtsextrem genannt werden kann und rechtsextrem auch ist. Richtig, Helene?

Sprecher 3: Nicht ganz richtig, muss ich leider jetzt als Juristin sagen, als rechtsextremistischer Verdachtsfall zu Recht vom Verfassungsschutz eingestuft wurde.

Sprecher 2: Das klären wir gleich. Im Podcastgespräch ist heute bei uns zu Gast Nana Brink, die NATO-Expertin, die Sicherheitsexpertin unseres wunderbar sicherheitspolitischen Fachbriefings Security Table. Und sie spricht mit Helene über Killerroboter und wie KI in Waffensystemen inzwischen eingesetzt wird. Zum Nachtisch eine wirklich gute Nachricht. Und diesmal kommt sie aus dem großen Reich der Rohstoffe und der Energiewende. Denn Lithium, dieser schwierige Metallbestandteil, den es in Elektroautos und Smartphones und Tablets und so weiter immer geben muss, den gibt es demnächst sogar aus Deutschland.

Sprecher 4: Hier wird eine Behörde missbraucht, um in den Parteienwettbewerb einzugreifen und die AfD strukturell zu benachteiligen.

Sprecher 5: Sie werden programmatisch bei uns nichts finden, was in irgendeiner Weise verfassungsfeindlich ist oder was sich in irgendeiner Weise verfassungsfeindlich darstellt. Und deswegen kann man Einzelmeinungen uns nicht in Gänze der Partei zuordnen und auch nicht der Programmatik.

Sprecher 4: Hier werden, und das muss man ganz klar so sagen, durch das Establishment, Sie haben es ja auch gerade gesagt, das Establishment sind gewisse Institutionen in diesem Staate. Dazu gehören die Gerichte, dazu gehört der Bundesverfassungsschutz, aber auch die Medien werden hier missbraucht. Die AfD strukturell vom Parteienwettbewerb gar auszuschließen.

Sprecher 2: Helene, das Bundesamt für Verfassungsschutz darf die AfD weiterhin als rechtsextremistischen Verdachtsfall einstufen. So das jüngste Urteil. Richtig so, zu Recht?

Sprecher 3: Also jedenfalls ist vorerst mal ein Ende eines ja seit Jahren währenden Rechtsstreits zwischen der AfD und dem Verfassungsschutz beigelegt. Der Verfassungsschutz hatte ja bereits im Jahr 2021 entschieden, dass es sich um einen Verdachtsfall handelt, einen rechtsextremistischen Verdachtsfall bei der AfD als Gesamtpartei. Einige Untergliederungen wie der Flügel und der Junge Alternative, die Jugendorganisationen sind ja nochmal separat behandelt worden. Was heißt das? Verdachtsfall, das bedeutet, es gibt eben hinreichende Anhaltspunkte für extremistische Bestrebungen und das wiederum ermächtigt den Verfassungsschutz mit nachrichtendienstlichen Mitteln zu arbeiten, also etwa das Abhören, den Einsatz von V-Leuten und all diese Mittel, die der Verfassungsschutz eben nur dann anwenden kann, wenn diese Stufe auch erreicht ist. Insofern ist es für die Arbeit der Verfassungsschützer, die ansonsten nur auf öffentliche Quellen zugreifen können, schon sehr wichtig.

Sprecher 2: Ein wichtiger Erfolg für den Verfassungsschutzpräsidenten und ich finde das Zitat interessant, Helene, vom Vorsitzenden Richter des 5. Senats, Gerald Buck, der hat gesagt, die wehrhafte Demokratie ist kein zahnloser Tiger, aber um im Bild zu bleiben, sie beißt nur im nötigsten Fall zu. Also ja, man darf beobachten und der Verfassungsschutz kann seine Mittel anwenden, aber so ein bisschen die Grenze hat er gleich mit eingezogen, nach dem Motto, die AfD, um die müssen sich hier schon andere in diesem Land kümmern.

Sprecher 3: Ja und sehr zu Recht, denn die Justiz... Kann alleine das AfD-Problem natürlich nicht lösen. Auch der Verfassungsschutz kann das nicht, der immer wieder betont, nicht politisch, sondern juristisch zu arbeiten. Ja klar, es gibt Gesetze, die auch die Grenzen vorzeigen. Es gibt auch natürlich hohe Anforderungen an so eine Einstufung. Also der Verfassungsschutz hat ein ungefähr tausendseitiges Gutachten vorgelegt, dass diese Einstufung zugrunde liegt. Es ist also nicht irgendwie Daumen hoch, runter könnte sein, ich habe mal gehört, sondern da wurde sehr akribisch aufgeschrieben, wann hat welcher Funktionär was gesagt, wie ist das zu deuten. Es geht um die Fragen, wie wir... Rassistisch ist die Partei. Wie steht sie zur Menschenwürde? Etwa bei der Frage des Volksbegriffes. Wer zählt eigentlich zum deutschen Volk? Sind das alle deutschen Staatsangehörigen, wie es unser Grundgesetz will? Oder sind es irgendwie Leute, die deutsch aussehen? Also diese Vorarbeiten hat der Verfassungsschutz alle geleistet, alles richtig und auch wichtig. Ich glaube, dieser Kampf für die Demokratie, die wehrhafte Demokratie, ist etwas, das wir nach den Erfahrungen des Nationalsozialismus zu Recht im Grundgesetz stehen haben. Aber es entbindet uns alle und vor allem die Politik nicht, die Demokratie, die jetzt ja gerade 75 Jahre alt wird, zu verteidigen.

Sprecher 2: Ja, für manche ist das jetzt ja schon wieder ein Urteil, das ein Verbotsverfahren gegen die AfD wahrscheinlicher macht. Ich sehe es ja genau wie du, Helene, eher andersherum. Die Politik hat jetzt klare Grenzen aufgezeigt bekommen, was der Verfassungsschutz darf. Vielleicht kümmern wir uns in der politischen Debatte und im Diskurs, und man konnte das am Wochenende schon wieder sehen, in diversen sozialen Netzwerken, jetzt mal wieder darum, wie wir die AfD politisch bekämpfen und nicht juristisch.

Sprecher 3: Ja, wobei es auch nicht so ist, dass das OVG Münster jetzt gesagt hätte, Verbotsdebatten erübrigen sich, sind nicht angezeigt oder ähnliches. Ein noch schärferes Schwert als die Einstufung ist ja das Parteiverbot. Dazwischen steht übrigens noch die Einstufung als gesichert rechtsextremistische Bestrebung, wo man dann, wie du anfangs sagtest, wirklich sagen kann, die AfD ist rechtsextremistisch und eben nicht ein Verdachtsfall. Das steht noch bevor. Beim Flüge ist das geschehen, bei der JA, bei der Jungen Alternative ist es auch schon geschehen, bei der Gesamtpartei noch nicht. So hört man aus Verfassungsschutzkreisen, ist es eben noch unklar, nach wie vor in welche Richtung sich die AfD entwickelt. Haldenwang, der Verfassungsschutzpräsident, hat zwar einige Male gesagt, sie wird immer extremistischer, aber die Einstufung als gesichert extremistische Bestrebung ist noch nicht erfolgt. Könnte sein, dass das jetzt vorbereitet wird. Das Verbotsverfahren ist nochmal eine ganz andere Baustelle. Darüber würde dann das Bundesverfassungsgericht entscheiden, wenn es denn jemanden gibt, der das beantragt. Und das wiederum ist in der Politik ja heillos umstritten. Auch darüber haben wir hier schon gesprochen, ob das überhaupt der richtige Weg ist, angesichts von Umfragen von 20 Prozent und deutlich darüber.

Sprecher 2: Ja, Till Steffen, der frühere Hamburger Justizsenator und parlamentarische Geschäftsführer der Grünen, hat es gestern direkt schon gefordert. Die linke Innenpolitiker Martina Renner sieht jetzt erst recht alle Chancen für einen AfD-Verbotsantrag. Aber wir sagen dazu zu Recht aus meiner Sicht, liebe Helene, du ja glaube ich auch, das wäre wirklich nur das allerletzte Mittel und sollte am Ende nicht kommen. Aber Björn Höcke, der steht dieser Woche ja auch noch vor Gericht und zwar, weil er, und das musst du mir mal erklären, weil er angeblich den SA-Satz alles für Deutschland zitiert haben soll und damit einen Straftatbestand begangen hat. Das Urteil wird dieser Tage erwartet. Wie ist da deine Einschätzung?

Sprecher 3: Ja genau, es geht um eine verbotene Parole der SA und das Interessante oder Schwierige ist ja, dass er die eben nicht isoliert gesagt hat, sondern er hat gesagt, alles für unsere Heimat, alles für Sachsen-Anhalt, alles für Deutschland. So, jetzt kann man darüber streiten und das wird jetzt gerade vor Gericht. ausgetragen, hat er das bewusst getan oder hat er einfach gesagt, alles für Deutschland, weil er das vielleicht einfach richtig fand und gar nicht wusste, dass es eine SA-Parole ist. Dagegen spricht, und so wird es auch vor Gericht argumentiert natürlich von der Staatsanwaltschaft, dass er Geschichtslehrer ist und dass man als Geschichtslehrer so etwas wissen kann am Ende. Und so ist es ja vor Gericht dann immer, kann man in seinen Kopf nicht reinschauen, sondern man muss mit Plausibilitäten arbeiten, kann sein, kann nicht sein, was spricht dafür, was spricht dagegen, wie hat er sich vielleicht ansonsten noch geäußert. Ich würde sagen, ja, das ist natürlich ein wichtiges Verfahren, aber auch das sollte nicht, also egal wie das jetzt ausgeht und diese Tage soll das Urteil fallen, das wird weder Björn Höcke von der politischen Bildfläche verschwinden lassen, noch wird es ihn sonderlich bestärken. Also wir dürfen, und das sage ich als Juristin sehr bewusst, nicht glauben, dass solche kleineren Verfahren vor Gericht das politische Problem AfD oder Björn Höcke lösen.

Sprecher 2: Ja, Höcke, das ist immerhin der Mann, der mal gesagt hat, das große Problem ist, dass man Hitler als das absolut Böse darstellt. Also dieser Mann wird vielleicht juristisch noch bekämpft werden können, aber vor allem muss er in Thüringen bekämpft werden, denn laut aktuellen Umfragen, Helene, kann er dort die absolute Mehrheit der Stimmen im Landtag bekommen. Es könnte ja für ihn sogar die einfache Mehrheit im Landtag reichen, wenn der Streit der übrigen Parteien nicht zu einer Regierung gegen Höcke führt, sitzt am Ende, und das wäre das erste Mal seit der nationalsozialistischen Diktatur, ein Rechtsextremist im Regierungsamt in Deutschland. Das wollen wir nicht hoffen.

Sprecher 3: Ja, denn Björn Höcke darf, auch das ist eine Entscheidung. Rechtsextremist bezeichnet werden. Er ist als Rechtsextremist eingestuft und das ist, glaube ich, auch sehr zu Recht so. Aber noch einmal der Appell, hofft nicht zu sehr auf die Justiz, sondern packt selbst an.

Sprecher 2: An unserem Podcast-Tisch nimmt heute die Kollegin Nana Brink Platz. Sie ist die Militär- und Sicherheitsexpertin bei uns im Security Table, dem sicherheitspolitischen Briefing, das ich Ihnen sehr ans Herz lege. Seit fast 30 Jahren arbeitet sie als Journalistin, Autorin mit den Schwerpunkten Sicherheitspolitik. Sie ist auch übrigens stellvertretende Vorsitzende von Women in Security. Heute geht es im Gespräch mit Helene Bubrowski aber über etwas sehr Martialisches, nämlich Killer-Roboter und wie KI in Waffensystemen eingesetzt werden kann.

Sprecher 3: Toll, dass du da bist. Hallo, Nami.

Sprecher 6: Ja, ich finde es ganz wunderbar. Danke.

Sprecher 3: Ja, wir haben heute ja auch ein wirklich spannendes Thema, nämlich künstliche Intelligenz in Waffensystemen. Da hat man ja sofort im Kopf Horrorszenarien, Science-Fiction-Filme von Killer-Robotern, die sich und die Menschheit bekriegen und die man als Mensch nicht mehr unter Kontrolle kriegt. Droht uns so ein Szenario? Wie realistisch ist das, was wir alle aus Filmen kennen?

Sprecher 6: Ich wusste, dass du das sagst. Dieser Killer-Roboter, das ist so etwas, was Experten so wahnsinnig ungerne hören, weil es natürlich so nicht zutrifft. Also der Einsatz von künstlicher Intelligenz von Waffensystemen, das ist nichts Neues. Also ich sage mal Patriot, Iris, das sind ja so Waffensysteme, Flugabwehr, Raketensysteme, mit denen wir es ja schon länger zu tun haben, werden in der Ukraine unter anderem eingesetzt. Und die operieren längst mit künstlicher Intelligenz, weil es auch gar nicht anders geht. Also wenn man das Ziel erfassen muss.

Sprecher 3: Erklär mal, wie das genau funktioniert.

Sprecher 6: Es funktioniert so, dass du natürlich ein Gefechtsfeld aufklären musst, dass du Ziele identifizieren musst, dass du dir ein Lagebild erstellst. Und das in einer Geschwindigkeit, Maschinengeschwindigkeit, was natürlich bedingt, dass du KI einsetzt in diesen Zeiten. Was wir vielleicht immer noch beachten müssen, dass natürlich immer noch ein Mensch dann letztendlich dieses System bedient. Und das ist jetzt, um nochmal auf die Killer-Roboter zurückzukommen, das ist so das Horror-Szenario, was man sich immer vorstellt. Und die Experten, die sprechen lieber von Laws, das sind Lethal Autonomous Weapons. Also das sind wirklich Systeme, die komplett selbstständig sind. ständig agieren, ich sag mal einen Drohnenschwarm, der irgendwann über unserem Himmel kreist, sich das Ziel aussucht und dann quasi willkürlich Menschen tötet oder Ziele angreift. Das gibt es noch nicht, sage ich jetzt, du merkst schon, ich zögere so ein bisschen, weil man natürlich nicht in die letzten Werkstätten zum Beispiel der Russen oder der Chinesen reingucken kann, aber eigentlich geht man davon aus, dass das keiner möchte.

Sprecher 3: Naja, wobei die Diktaturen dieser Welt, die wir wissen, was für nicht nur revanchistische, sondern auch brutale Vorstellungen sie haben, dass sie nicht zögern, andere Länder mit Waffengewalt zu unterwerfen. Wer weiß, was sie planen. Also nur um das festzuhalten, technisch wäre es möglich, mit dem Einsatz von KI komplett autonome Waffensysteme zu bauen, die, wenn sie einmal in Gang gesetzt werden, dann komplett eigenständig unterwegs sind und als lernende Systeme möglicherweise sich dann irgendwann auch der Kontrolle der Menschen entziehen.

Sprecher 6: Da rätseln die Experten wirklich, ob das letztendlich machbar ist. Ich meine, die künstliche Intelligenz in Waffensystemen ist sehr weit ausgebreitet. Man arbeitet auch, das weiß man, die Amerikaner arbeiten mit sehr vielen Milliarden Dollars, auch sozusagen Unterstützung, dass diese Drohnenschwärme eigenständig operieren. Aber ob sie letztendlich sich dann selbstständig machen, das ist ja so diese Vorstellung, irgendwann sind sie da und machen sich selbstständig, glaube ich nicht, dass es das so gibt.

Sprecher 3: Wer beschäftigt sich denn damit? Sind das die Waffenhersteller? Sind das die Rüstungsunternehmen? Sind das die Forschungseinrichtungen? Wer macht das?

Sprecher 6: Also bei... Den Amerikanern gibt es eine eigene Agentur, die ist im Verteidigungsministerium angegliedert, nennt sich DARPA. Die wird wirklich mit Milliarden unterstützt, um genau das, zum Beispiel diese Drohnenschwärme, die Schwarmfunktion, das ist das, was für Waffenhersteller interessant ist und auch für Militärs interessant ist. Wie kriegst du es hin, dass ein ganzer Schwarm, und da muss man sich wahrscheinlich so einen Vogelschwarm vorstellen, den man am Himmel kennt, einer biegt ab und irgendwie alle anderen biegen her. Wenn einer ausfällt, wird er ersetzt von irgendjemand anderem. Also da gibt es ein hohes Interesse, das zu tun. Man weiß es von den Chinesen, man weiß, die Israelis sind auch ganz vorne mit dabei. Das hat jetzt natürlich seit letztem Oktober nicht mehr diese Präsenz, die es gehabt hat. Man weiß auch von der türkischen Drohnenproduktion, ganz zu schweigen von der ukrainischen Produktion. Also da ist Forschung dabei, natürlich ist eine Waffenindustrie dabei. Ich kann ein gutes Beispiel nennen, auch in Deutschland. Wir haben das Unternehmen Helsing, das ist so ein Start-up-Unternehmen zum Beispiel, das gerade für Drohnen, die sie übrigens auch in die Ukraine liefern, solche Gefechtsfeldaufklärungen machen. Also da gibt es ein großes Interesse und das wird auch gefördert, allerdings bei uns in Deutschland nicht in dem Ausmaß, wie das in anderen Ländern der Fall ist.

Sprecher 3: Also welchen Stellenwert würdest du sagen, hat das Thema im Verteidigungsministerium?

Sprecher 6: Also ich glaube, im Bereich Waffensysteme hat man erkannt, dass es wichtig ist. Die haben einen Fonds aufgelegt, der von den beiden Bundeswehruniversitäten verwaltet wird. Der hat einen Umfang von 500 Millionen. Das klingt jetzt erstmal sehr viel, wenn man weiß, was Systeme kosten. dann weiß man, dass das nicht sehr viel ist. Zum Beispiel nochmal so eine Hausnummer, ein Eurofighter kostet 100 Millionen. Airbus ist auch ganz vorne mit dabei, das zu machen. Also da hat man schon ein Interesse. Aber, und jetzt kommt das große Aber, die Industrie wartet eigentlich darauf, dass es eine Regelung gibt. Also eine KI-Strategie für Waffensysteme.

Sprecher 3: Eine KI-Strategie, auf die... Die Rüstungsunternehmen warten, auf die auch viele Verteidigungsexperten warten, auf die auch unser Security Table, so kann man das nach der Lektüre sagen, wartet. Es gibt sie nicht, obwohl doch dieses Verhältnis, das du beschrieben hast, also das Verhältnis Mensch-Maschine dringend, müsste man sagen, geregelt werden muss, weil es ja derzeit, nach dem, was du sagst, eben in der Regel doch noch so ist, dass ein Mensch in die Entscheidung, welche Ziele zum Beispiel werden getroffen, mit welchen Methoden arbeitet man, mit welchen Systemen, dass das alles noch in menschlicher Hand ist. Und es gibt ja auch gute Gründe dafür zu sagen, das soll in menschlicher Hand bleiben. Aus meiner Sicht, aber ich bin Laien auf dem Gebiet, vollkommen unverständlich, dass es keine Strategie gibt, die es in anderen Ländern, wenn ich es richtig gelesen habe, ja gibt, in Frankreich und den USA. Warum ist das so?

Sprecher 6: Die Verteidigungsexperten sagen, es ist eigentlich alles ausgeforscht, man weiß, was man tun muss. Und genau mit dieser Frage bin ich dann in den Bundestag gegangen und habe mal bei den Fraktionen nachgefragt. Nach dem Motto, wie sieht es denn aus? Und dann waren große Fragezeichen in den Gesichtern nach dem Motto, ja, ist wichtig, haben Sie recht, müssen wir uns beschäftigen. Aber eigentlich, und ich will jetzt niemandem zu nahe treten, wissen wir viel zu wenig davon. Wobei das eigentlich Unsinn ist, wenn man sich anguckt, wo die Forschung steht. Also auch gerade zum Beispiel an der Bundeswehr-Universität in München gibt es eine ganze Abteilung, die sich nur damit beschäftigt. Also Expertise ist da, aber es ist nicht in den Köpfen der Leute drin. Das muss man einfach ganz klar so sagen.

Sprecher 3: Trotz der zahllosen Science-Fiction-Filme über Killer-Roboter, die wir hier nicht alle gesehen haben.

Sprecher 6: Die natürlich wir alle gesehen haben, genau. Trotz auch, dass es einen ganz konkreten Bedarf auch eigentlich gibt. Also wir haben ein großes deutsch-französisches, unter anderem deutsch-französisches Projekt. Das nennt sich EFKAS, Future Combat Air System. Das soll bis 2040, also ein, das ist nicht nur ein Flugzeug, sondern ein ganzes Flugsystem, was letztendlich operiert mit einem Drohnenschwarm, mit einem Loyal Wingman, also einem anderen Flugzeug, was alleine fliegt. Das geht übrigens schon. Die F-16, die Amerikaner haben es vor ein paar Wochen getestet, haben Tatsache 1 sozusagen autonom in die Luft gekriegt. Und das wird natürlich entwickelt. Und da wartet die Industrie schon drauf, dass man da jetzt mal in die Puschen kommt. Und ich denke, das wird in dieser Legislaturperiode nicht mehr passieren.

Sprecher 3: Eine der Antworten, die man ja bei dir lesen kann in deinen Texten, ist, dass die Parlamentarier sagen, das müsse man europäisch lösen. Und tatsächlich gibt es ja seit Kürzerem den europäischen AI Act, also das Regelwerk über künstliche Intelligenz. Warum steht das da nicht drin?

Sprecher 6: weil die Europäische Union ja nicht zuständig ist für Verteidigung. Das merkt man jetzt an den ganzen Verrenkungen, die man macht, um die Ukraine mit Waffensystemen, mit Munition zu unterstützen. Man überlegt, wie kann man das organisieren? Die NATO will da ja auch mit organisieren. Und deshalb hat man diesen Bereich ganz bewusst aus diesem AI-Act eigentlich rausgenommen. Das kannst du wahrscheinlich, wahrscheinlich stellst du die Frage auch klug, sagen, ja, muss man das denn europäisch irgendwie unbedingt organisieren? Könnten wir Deutschen da nicht einfach mal aus dem Puschen kommen? Ja, könnte man, aber wie ich eben schon sagte, wir haben ja Projekte, die nicht nur national funktionieren und wir sollen ja auch eigentlich die europäische Verteidigungsindustrie endlich harmonisieren und gemeinsam bestellen. Und deshalb muss man sich schon auch gemeinsam dann darüber verständigen, weil ohne künstliche Intelligenz wird nichts mehr gehen.

Sprecher 3: Mit dem Thema künstliche Intelligenz hängt ja auch immer die Frage zusammen, wie demokratisch kann das eigentlich sein? Wer versteht überhaupt diese Algorithmen, über die wir da reden? Vielleicht verstehen es noch ein paar Fachleute in den Rüstungsunternehmen oder vielleicht noch im Verteidigungsministerium, aber die Kontrolle etwa durch den Gesetzgeber kann gar nicht funktionieren, weil sich das unserem Verständnis vollkommen entzieht. Wie siehst du das?

Sprecher 6: Genau das habe ich mich die ganze Zeit auch gefragt, um jetzt ganz ehrlich zu sagen, ich verstehe es auch nicht. Also wenn du da mit Fachleuten vom Fraunhofer-Institut redest oder bei Airbus mit den Ingenieuren, die dann an diesem Design irgendwie arbeiten, dann steige ich auch irgendwie spätestens nach der dritten Folie irgendwie aus, weil es so cool ist. Komplex ist. Aber was relativ klar ist, und das hat mir ein Professor vom Fraunhofer-Institut in einem sehr langen Gespräch irgendwie erläutert, natürlich kannst du dieses Mensch-Maschine-Verhältnis definieren. Du musst Anforderungen stellen. Und er hatte so einen ganz tollen Satz gesagt, er hat eben gesagt, Ethik kann man nicht nachrüsten. Also man muss sich vorher darauf verständigen und muss das dann in das Design von Waffensystemen einarbeiten. Deshalb muss man die Arbeit vorher machen.

Sprecher 3: Also würde das jetzt mal laienhaft gesprochen bedeuten, immer dann, wenn ein Mensch sterben könnte, dann muss es eine menschliche Entscheidung sein. Aber wenn es darum geht, auszuspähen, den Himmel zu beobachten, wo Drohnen kommen könnten, dann kann es die Maschine machen oder ist das zu einfach gedacht?

Sprecher 6: Das ist ein bisschen komplexer, weil wenn wir uns jetzt in einer Kriegssituation befinden, dann gilt ja auch das Recht der Selbstverteidigung. Das heißt, ich darf mich verteidigen und damit darf ich auch den Tod eines anderen Kombatanten, nicht eines Zivilisten, aber eines anderen Kombatanten in Kauf nehmen. Daran sieht man schon, wie komplex das ganze Thema ist. Aber jetzt zum Beispiel, um nochmal ganz konkret auf die Frage, wann kann so ein System tätig werden, wenn wir uns jetzt eine Flugabwehrrakete vorstellen, da bekommt derjenige, der sie bedient, eine Gefechtsfeldaufklärung und die Maschine sagt ihm dann in Sekunden oder Millisekundengeschwindigkeit, wo kannst du angreifen und sagt dir dann auch, ist das Ziel nahe eines Kindergartens oder ist es zum Beispiel in einem... in einer Umgebung, wo die komplett unbewohnt ist. Und das, glaube ich, ist das Entscheidende, was entweder die Maschine leisten muss oder was dann letztendlich der Mensch entscheidet.

Sprecher 3: Okay, und im Irregularium würden im Grunde die Grundsätze des humanitären Völkerrechts runtergebrochen werden und man würde wissen, da wo ein Kindergarten in der Nähe ist, drohen zivile Opfer. Das wäre natürlich ein Völkerrechtsverbrechen, geht nicht. Kombattantenstatus ist was anderes, da könnte man angreifen. Das würde im Regularium drinstehen und dann würde ein Mensch gegebenenfalls die Entscheidung noch treffen müssen oder nicht? Oder macht das die Maschine autonom?

Sprecher 6: Das ist jetzt eben genau die Frage, wie weit die Systeme dann sind. Wenn die Maschine das gelernt hat, das meinte der Prof, mit dem Ethik kann man nicht nachrüsten. Natürlich können Maschinen auch lernen und können vielleicht solche Entscheidungen ethisch noch. Wenn du sie entscheidend programmierst, noch besser nachvollziehen, als das eigentlich ein Mensch kann. Aber an diesen Stellen muss man sozusagen schrauben und die dann irgendwie definieren.

Sprecher 3: Ja, klingt sehr plausibel, auch sehr kompliziert, aber in einer Welt, in der ständig weiter aufgerüstet wird, in der die künstliche Intelligenz in einer derart schnellen Entwicklung ist, in der wir nicht in die Köpfe schauen können der autokratischen Herrscher, die es leider in viel zu großer Zahl gibt, ist es wichtig, sich darüber Gedanken zu machen. Toll, dass du das für uns getan hast und deine Gedanken mit uns geteilt hast. Nana, danke.

Sprecher 6: Ja, danke. Vielen Dank für die Einladung.

Sprecher 2: Zum Nachtisch eine gute Nachricht aus der eigenen, eigentlich so rohstoffarmen deutschen Wirtschaft. Denn auf dem Industriepark Höchst ist jetzt etwas gelungen, was uns vielleicht die Energiewende etwas erträglicher machen könnte. Denn Lithium, Sie wissen schon, dieses wichtige Grundelement, das in E-Auto-Batterien, aber auch in Handys zu finden ist, wird eigentlich unter sehr erschwerten Bedingungen in Chile, China oder zusehends auch in Afrika abgebaut. Gelegentlich, so sagen es NGOs, auch in Kinderarbeit. Also eigentlich keine gute Sache. Man könnte überspitzt sagen, um Kinder in den deutschen Städten von Stickoxiden zu schützen, müssen Kinder andernorts auf der Welt schwer schuften. Also keine gute Idee, diese Rohstoffe zu importieren für unsere Energiewende. Aber wir brauchen natürlich den Strom und die Batterien für die Elektroautos. Und da kommt jetzt nun der Industriepark Höchst ins Spiel. Denn dort auf dem Gelände des früheren Konzerns der Höchst AG ist jetzt ein Richtfest für eine Anlage gefeiert worden, die Lithium in einer Art Öko-Variante produzieren soll. Lithium, das leichteste aller Metalle, ist wie gesagt nicht nur in E-Autos zwingend, sondern auch in Smartphones und Laptops und Photovoltaikanlagen. Das Lithium made in Germany, es soll klimaneutral hergestellt werden. Betreiber ist ein australisch-deutsches Start-up namens Vulcan Energy Resources. Und wenn das gelingt, dann sind wir auf dem Weg zu einer resilienten, souveränen Europäischen Union wieder einen Schritt weiter gekommen, wenn selbst der Rohstoff für die Handys und die E-Autos aus dem eigenen Land kommen können. Mit dieser guten Nachricht entlasse ich Sie in den Tag, der hoffentlich sonnig und entspannt für Sie wird. Wir hören uns an dieser Stelle morgen wieder. Ihr Michael Bröker.

Sprecher 1: Table Today. Mit Michael Bröker und Helene Bubrowski.