Nach jahrelanger Arbeit hat das Verteidigungsministerium erstmals ein Regelwerk vorgelegt, das die Kontrolle über autonome Waffensysteme durch Menschen sicherstellen soll. Diese KI-Leitlinien liegen Table.Briefings exklusiv vor. Daraus lässt sich ablesen, wie BMVg und Bundeswehr mit Künstlicher Intelligenz planen – nicht nur beim Personalmanagement, sondern vor allem mit Blick darauf, wie sie einerseits die Chancen von autonomen Waffen nutzen und andererseits Risiken vermeiden wollen. Die Leitlinien sind für den internen Gebrauch gedacht, aber auch für die Zivilgesellschaft und die Rüstungsindustrie höchst relevant.
Die Regulierung von KI im Militär kann mit der Realität im Krieg schon lange nicht mehr Schritt halten. Auch die Bundeswehr hat dieses Jahr eine große Zahl an Loitering Munition gekauft. Das sind Einwegdrohnen, die sich mit Hilfe von KI ihr Ziel suchen. Auch andere Systeme, die ohne menschliches Zutun Ziele auswählen und bekämpfen können, nutzt das deutsche Militär zum Teil bereits seit Jahren.
Doch klare Regeln für den Umgang mit solchen Technologien fehlten bislang in Deutschland. International stocken die Verhandlungen bei den Vereinten Nationen in Genf. Länder wie die Niederlande, Frankreich oder die USA haben eigene nationale Regeln festgelegt. Deutschland war eines der letzten Nato-Mitglieder ohne KI-Strategie für das Militär.
Experten zeigen sich mit den Leitlinien zufrieden. „Gerade mit Blick auf das heikle Thema der Autonomie in Waffensystemen ist es sehr gut, dass es dieses aktualisierte Dokument jetzt gibt, weil damit Leitplanken für Entwicklung und Nutzung gesetzt werden“, sagt Frank Sauer Table.Briefings. Er forscht an der Universität der Bundeswehr in München zur Nutzung von Robotik und KI im Militär. Auch die Definition der Kontrolle ist aus seiner Sicht „lehrbuchartig“ gelöst. Wie sich das BMVg die menschliche Kontrolle über autonome Waffen genau vorstellt, lesen Sie im Security.Table.