Mit der KI-Verordnung kann Europa weltweit eine Vorreiterrolle einnehmen, sagt Antonio Krüger, CEO des Deutschen Forschungszentrums für Künstliche Intelligenz. Im Interview mit Corinna Visser erklärt er, wo er noch Nachbesserungsbedarf sieht.
Von Corinna Visser
Bei den Beratungen zur KI-Verordnung (AI Act) haben sich die federführenden Ausschüsse LIBE und IMCO in gemeinsamer Sitzung beraten und dabei auch die Schattenberichterstatter aus anderen Ausschüssen um Nennung ihrer Schwerpunkte gebeten. Doch der Zeitplan ist sportlich – und dürfte die Kompromissfindung erschweren.
Von Falk Steiner
Die KI-Verordnung ist ein komplexes Regulierungswerk: Mit ihr soll der Einsatz bestimmter Klassen algorithmischer Systeme mit rechtlichen Leitplanken versehen werden. Die horizontale Regulierung beschäftigt derzeit Parlament und Rat. Nun liegt mit der ITRE-Stellungnahme eine zweite Meinung eines mitberatenden Ausschusses vor.
Von Falk Steiner
Mit Digital Services Act, Digital Markets Act und dem Artificial Intelligence Act stehen drei große Regelwerke der EU an. In allen dreien kommt der EU-Kommission eine wichtige Rolle bei der Durchsetzung zu. Aber kann diese die Aufsicht wirklich stemmen? Eine Finanzierung über das Verursacher-Prinzip könnte hier eine Lösung bringen – und neue Probleme.
Von Falk Steiner
Das Europäische Parlament beginnt die eigentliche Arbeit an der Verordnung zur Künstlichen Intelligenz: Eine Ausschusssitzung jagt die nächste. Die federführenden Berichterstatter haben einen ambitionierten Zeitplan vorgelegt. Angesichts vieler offener Punkte ist allerdings fraglich, ob dieser einzuhalten ist.
Von Eugenie Ankowitsch
Wettbewerbsfähig bleiben und Künstliche Intelligenz sicher nutzen: Die neue Künstliche Intelligenz-Verordnung der EU legt neue Richtlinien dafür fest. Alles News zur KI-Verordnung der EU
Die Künstliche Intelligenz-Verordnung der EU legt einen einheitlichen Rahmen für alle KI-Systeme fest. Dieser soll die Technologie zukünftig transparent, sicher, unparteiisch und ethisch regeln. Das KI-Gesetz beschäftigt die EU-Kommission bereits seit 2018 und im April 2021 wurde schließlich ein erster Entwurf der KI-Verordnung vorgelegt. Insgesamt plant die Europäische Union etwa eine Milliarden Euro aus Digitalprogrammen für KI zu verwenden.Die EU-Richtlinie sieht vor, dass zum Zwecke der Innovation private und öffentliche Akteure der digitalen Wirtschaft zusammenarbeiten. Künftig sollen darum KI-Exzellenzzentren entstehen. Außerdem soll die Zusammenarbeit mit der Forschung in den Bereichen KI und Robotik vorangetrieben werden.
Die KI-Verordnung der EU dient zum einen dazu, Europas Stellung im internationalen Wettbewerb zu sichern. Der europäische Binnenmarkt für künstliche Intelligenz soll dabei gestärkt werden. Zum anderen will die EU so auch Akzeptanz und Vertrauen in KI-basierte Systeme schaffen. Das KI-Projekt kann als Teil einer großangelegten Digitaloffensive der Europäische Union verstanden werden.Unter anderem sollen mit verschiedenen EU-Richtlinien Krisenreaktionen wie jüngst in der Coronavirus-Pandemie abgestimmt werden. Bereits geförderte KI-Projekte hatten laut EU-Kommission bereits einen gesellschaftlichen Nutzen: So konnten bereits sinnvolle Online-Tools zur Überprüfung von Fakenews entwickelt werden. Auch für Unternehmen steigere sich durch Künstliche Intelligenz Produktivität und Effizienz.
Der Entwurf der KI-Verordnung sieht eine neue Definition von verschiedenen Arten Künstlicher Intelligenz vor. Unter anderem wird dort risikobasiert zwischen verschiedenen KI-Systeme unterschieden: Zum einen in KIs mit geringem oder minimalem Risiko, KIs mit hohem Risiko oder solche mit unannehmbarem Risiko, die darum verboten sind. Grundlage der Risikobewertung sind Aspekte der Sicherheit, Privatsphäre und Grundrechte.KI, die ein geringes Risiko darstellen, können ohne spezifische zusätzliche Regelungen genutzt werden. Dazu zählen zum Beispiel Chatbots oder Spamfilter. Die generierten Daten der Künstlichen Intelligenz unterliegen jedoch weiterhin den Bestimmungen der DSGVO.
KI-Systeme mit hohem Risiko sollen zwar weiterhin erlaubt bleiben, aber zusätzlich geprüft, dokumentiert und registriert werden. Die EU-Richtlinie führt die Systeme, die zukünftig unter diese KI-Verordnung fallen würden namentlich auf. Dazu zählen unter anderem KI-Systeme in der kritischen Infrastruktur wie beispielsweise im Verkehrs-, Gesundheits- oder Energiesektor.Weiterhin fallen darunter KI-Systeme, die bestimmte Arbeitsschritte von Bildung, Beschäftigung, Dienstleitungen oder Strafverfolgung erfüllen. Alle „Hochrisiko“-KI-Systeme müssen sich darum künftig zu Transparenz verpflichten. Gleichzeitig sollen Nutzer:innen die Entscheidung über die Nutzung solcher Technologien informierter und eigenständiger treffen.
Zu Künstlicher Intelligenz, die als unannehmbar risikoreich gilt, zählt solche, die Grundrechte innerhalb der Europäischen Union verletzt. Darunter werden zum Beispiel KI-Projekte gefasst, die die behördliche Bewertung sozialen Verhaltens, sogenanntes „Social Scoring“, anstreben. Solche dystopisch anmutenden KI-Systeme sollen auch in Zukunft nicht Teil der Gesellschaft werden.Auch beispielsweise Spielzeuge für Kinder, die diese per Sprachassistenz zu riskantem Verhalten anstiften könnten, werden klar verboten. Die EU KI-Verordnung zieht damit eine explizite rote Linie für die Verwendung von gefährlicher KI.
Besonders kontrovers wird in diesem Zusammenhang Fahndung nach Straftäter:innen per biometrischer Überwachung diskutiert. Im derzeitigen Entwurf der KI-Verordnung wird diese grundsätzlich verboten. Als Gründe führt die EU-Kommission den Schutz personenbezogener Daten und den Grundsatz der Nichtdiskriminierung an.Biometrische Identifizierung über ein KI-System kann jedoch bei der Benutzerauthentifizierung angewendet werde. So können beispielsweise Smartphones weiterhin automatisch entsperrt werden. Doch auch bei Grenzübertritten soll die Technologie weiter Anwendung finden.
Das KI-Gesetz soll für alle Akteur:innen inner- und außerhalb der Europäischen Union gelten. Das meint konkret einerseits Anbieter:innen von KI-Systemen wie zum Beispiel Entwicklerinnen von Software-Anwendungen im Personalsektor. Andererseits umschließt das Nutzer:innen wie Unternehmen oder den öffentlichen Sektor, die potenziell Hochrisiko-Systeme nutzen und durch die EU-Verordnung geschützt werden sollen. Rein private und nicht gewerbliche Nutzer:innen sind laut EU-Kommission nicht von der KI-Verordnung betroffen.
Der Entwurf der KI-Verordnung der EU-Kommission sieht empfindliche Geldstrafen bei Nichteinhaltung vor. Diese umfassen Bußgelder von maximal 30 Milliarden Euro oder sechs Prozent des weltweiten Gesamtumsatzes bei Anwendung verbotener Praktiken.
Die Bundesregierung begrüßt das neue KI-Gesetz der EU, insbesondere deren einheitliche Regularien. Gleichzeitig betont die deutsche Beauftrage für Digitale Wirtschaft den Definitionsspielraum bei der Risikogruppe „hoch“. Denn: Darunter fielen auch biometrische Identifikationssysteme. Es müsse sichergestellt werden, dass Innovation bestärkt werden. Das deutsche Justizministerium lehnte die Anwendung von biometrischer Überwachung im öffentlichen Raum ab.Die deutsche Industrie hingegen kritisiert das KI-Projekt der EU sehr deutlich. Besonders bezüglich der Hochrisikosysteme herrsche Unklarheit und die Gefahr einer Doppelregulierung. Man beurteile die Regularien als innovationshemmend.
Mit einer KI-Strategie will die EU die Vorteile von KI-Systemen für Gesellschaft und Wirtschaft nutzbar machen. Über den aktuellen Stand des Entwurfs der KI-Verordnung informieren die Analysen und Überblicke der Europe.Table-Redaktion.
