KI-Empfehlungen der KMK: Warum sie sich wie ein Wunschzettel lesen

Von Sibylle Schwarz

In wenigen Wochen ist die Einführung des Chatbot ChatGPT zwei Jahre her. Aber jetzt erst präsentiert die KMK ihre „Handlungsempfehlung zum Umgang mit Künstlicher Intelligenz in schulischen Bildungsprozessen“.

Der Beschlussentwurf, der bei der anstehenden Bildungs-MK auf dem Tisch liegen wird, umfasst Formulierungen wie diese:

Es liest sich wie ein früher Weihnachtswunschzettel.

Hier zum Download: Entwurf der KI-Handlungsempfehlungen

Nicht verwunderlich, denn die KMK ist kein Gesetzgebungsorgan. Auch eine Zuständigkeit des Bundes für ein Bundes-Schulgesetz gibt es nicht. Im Entwurf kann es nur darum gehen, wie es die KMK – oder künftig: Bildungs-MK – auch selbst formuliert: eine ländergemeinsame Position zum Umgang zu finden und gemeinsame Schritte zu vereinbaren.

Umsetzen muss dann das jeweilige Bundesland in Parlaments-Schulgesetz und Ministeriums-Verordnungen. Bisher gibt es noch keine umgesetzten gesetzlichen Regelungen. Ein Schüler oder eine Schülerin kann sich also nach wie vor dem Vorwurf der Täuschung ausgesetzt sehen, wenn (generative) KI zum Einsatz kommt.

Wie eine Umsetzung aussehen könnte, zeigt womöglich der jüngste Erlass zur Leistungsbewertung in den Schulen des Saarlandes. Darin wird beispielsweise zwischen großen Leistungsnach­weisen (unter Aufsicht durchgeführte schriftliche Einzelprüfungen) und sonstigen Leistungen unterschieden.

Lesen Sie auch: Digitalisierung – Welche neuen Prüfungsformate im Saarland möglich sind

Bei medien- und materialgestützten Arbeiten soll nun die Zuhilfenahme digitaler Nachschlagewerke, Zeichensoftware oder KI-basierter Anwendungen erlaubt sein. Der Erlass schweigt sich aus, was KI-basierte Anwendungen genau sein sollen. Doch so ganz traut sich das Saarland dann auch wieder nicht.

Denn die sonstigen Leistungen schließen Heft- und Ordnerführung ein – eine Note für Heftführung wie in analogen Zeiten. Für die gymnasiale Oberstufe soll der Erlass gar nicht erst gelten. Überhaupt ein Erlass. In der Normenhierarchie steht er ganz weit unten. Regelungen im Schulgesetz und in einer Verordnung sind stets vorrangig.

Fast schwärmerisch, aber ohne ins Detail zu gehen, beschreibt der Beschlussentwurf die vielfältigen Möglichkeiten von KI-Anwendungen. Muss aber sogleich zugeben, dass Intelligente Tutorielle Systeme (ITS) sich noch in der Entwicklung für eine flächendeckende Anwendung befinden. Die KI-Anwendungen unterstützen Lehrkräfte bei der Unterrichtsvorbereitung, -durchführung und -nachbereitung und führen zu Arbeitserleichterungen. Aber diese Vorteile für die Unterrichtsgestaltung nehmen doch zu viel Raum ein.

Hingegen kommt die Situation der Schülerinnen und Schüler zu kurz. In deren Lebenswirklichkeit füttern sie Sprachmodelle wie ChatGPT und nutzen den Output in Hausaufgaben und Hausarbeiten. Der Beschlussentwurf sieht zumindest das Dilemma, dass die nicht für den Bildungsbereich entwickelten LLM dennoch rasant Einzug halten. Wie damit umzugehen ist, lassen die Handlungsempfehlungen weitgehend unbeantwortet.

Sie sehen eine Lösung darin, dass Präsentation und Reflexion in die Leistungsfeststellung einbezogen werden, wenn KI eingesetzt worden ist. Jedenfalls soll „eine an einer Kultur der Digitalität ausgerichtete Prüfungskultur“ geschaffen werden.

Sogleich im nächsten Abschnitt geht es aber schon wieder um Lehrkräfte. Darum, wie KI sie beim Korrigieren und bei der Notengebung unterstützen kann. Der zwar richtige Hinweis auf Art. 22 Abs. 1 DSGVO und auf den am 1. August in Kraft getretenen EU AI Act lässt dennoch außer Acht, dass die schulischen Verordnungen menschliche Beteiligung bei Bewertungen längst regeln.

Im Beispiel der saarländischen Abitur-Verordnung obliegt die Vorbereitung und Durchführung des Abiturs der Abiturprüfungskommission. Deren Mitglieder entscheiden mit Stimmenmehrheit und müssen beide Prüfungen für ein Lehramt abgelegt haben und die Lehrbefähigung für die gymnasiale Oberstufe besitzen.

Nach Einreichung von Aufgabenvorschlägen durch Fachlehrkräfte legt die Schulaufsichtsbehörde landeszentral die Aufgaben fest. Die eigentliche Abiturprüfungsleistung wird zunächst von der Fachlehrkraft als Erstkorrektur korrigiert und beurteilt. Danach erfolgt eine selbständige Beurteilung durch eine zweite Person, die korrigiert. Übrigens: Nach dieser Verordnung gilt das Mitführen eines elektronischen Gerätes mit Sende-/Empfangsfunktion, auch wenn es ausgeschaltet ist, als Täuschungsversuch.

Dies zeigt deutlich, dass nach jetziger Rechtslage schon viele Menschen bei einem Abitur als Hochschulzugangsberechtigung beteiligt sind. Eines Rückgriffs auf EU-Recht braucht es daher an anderer Stelle. Und zwar für künftige KI-Systeme, die dazu dienen, den Zugang oder die Zulassung zu Bildungseinrichtungen zuzuweisen oder die zur Bewertung von Lernergebnissen eingesetzt werden sollen. Sie gelten als hochriskante KI-Systeme und müssen ab August 2026 bestimmte Anforderungen erfüllen.

Sibylle Schwarz ist Rechtsanwältin in der Kanzlei else.schwarz Rechtsanwälte in Wiesbaden. Ihr Schwerpunkt liegt im Beamten- und Bildungsrecht als besonderem Verwaltungsrecht. Sie befasst sich mit Rechtsfragen des Schulbetriebs und des Hochschulwesens. Einer ihrer Schwerpunkte ist außerdem KI im BildungsbereichZum Download: