„KI darf nur unterstützen, niemals entscheiden“

Auf dem Foto sieht man Hendrik Drachsler, er arbeitet in einem Projekt zu KI (Künstlicher Intellligenz).
Hendrik Drachsler

Im Dezember 2020 hat die Gemeinsame Wissenschaftskonferenz eine KI-Förderinitiative beschlossen. Sie will die „Qualität, Leistungsfähigkeit und Wirksamkeit der Hochschulbildung durch den Einsatz von KI“ verbessern. Wie trägt Ihr Projekt dazu bei? 

Hendrik Drachsler: Wir wollen Künstliche Intelligenz dazu einsetzten, dass Lehrende und Studierende individuell unterstützt werden, um gute Entscheidungen zu treffen. Konkret heißt das zum Beispiel: Das am häufigsten genutzte Medium an der Hochschule ist Text. Studierende produzieren Texte von der ersten Übung zu Studienbeginn bis zur Abschlussarbeit. Diese Texte sind aber recht aufwendig auszuwerten. Das Verbundprojekt IMPACT erforscht daher unter anderem, wie das Medium in der Hochschulbildung besser verarbeitet werden kann. Mit dem Ziel, die Lehrenden zu entlasten und den Studierenden hochinformatives Feedback geben zu können.  

Im Januar startete IMPACT in die heiße Phase. Die Goethe-Universität Frankfurt, die Humboldt-Universität und Freie Universität Berlin, sowie die Universität Bremen und Fernuniversität Hagen arbeiten dabei zusammen. Sie stellen Anwendungen von KI im gesamten Studienverlauf in Aussicht. Wo überall könnte Studierenden in Zukunft KI begegnen? 

Wir entwickeln einen Chatbot für die Studieneingangsphase, der Studienanfängern und -interessierten hilft, sich zu orientieren. Man stellt dem Chatbot Fragen – und er gibt schlaue Antworten. Einen ersten Prototypen mit dem Namen GUDI haben wir an der Frankfurter Uni bereits im Einsatz. Ein weiterer Forschungsschwerpunkt liegt auf Formativem Assessment, also der Rückmeldung zum Lernstand während des Lernprozesses. In Einführungsveranstaltungen steht ein Professor häufig 1.000 Studierenden gegenüber. Es ist unmöglich, jedem und jeder einzeln persönliches Feedback zu geben. KI kann da helfen. Mit den Trusted Learning Analytics, wie wir sie im Projekt entwickeln, sollen Studierende Feedback erhalten. Dafür müssen Indikatoren identifiziert werden, die zeigen, ob eine Lerneinheit funktioniert. Diese werden dann von Maschinen und Algorithmen verarbeitet und senden personalisiertes Feedback an die Studierenden. 

Sollen Ihre KI-Anwendungen auch im Summative Assessment, also für Prüfungen oder Hausarbeiten, eingesetzt werden? 

Ja, denken Sie an Freitextaufgaben in einer Klausur. KI kann die Antworten vorsortieren und klassifizieren und die Lehrenden entlasten. Wichtig ist uns, und übrigens auch dem Gesetz: KI darf nur unterstützen, niemals entscheiden. Die Lehrenden gehen die Aufgaben noch einmal durch und nehmen die Vorschläge der KI an oder nicht. Damit trainieren sie die Maschine oder einen Algorithmus fortlaufend. Durch diese Auswertungsmethode erhalten Studierende ein detailliertes Feedback. Es heißt dann nicht mehr nur nach einer Klause: „bestanden/nicht bestanden“. 

Ich höre schon Gewerkschaften protestieren, die fürchten, dass durch den Einsatz von Algorithmen in der Lehre Stellen gekürzt werden.  

Schon jetzt ist das Betreuungsverhältnis, also die Relation von Lehrenden zu Studierenden, an deutschen Universitäten unterdurchschnittlich. Wir können uns nicht leisten, weitere Stellen zu streichen. Unser Projekt arbeitet an einem Unterstützungssystem, das Dozierende entlastet. 50 Prozent ihrer Zeit fließt momentan ins Korrigieren von Klausuren, Übungen  und dem Entwickeln von Prüfungen. KI kann helfen, Zeit einzusparen. Damit ist auch mehr Freiraum für den Kontakt mit den Studierenden möglich.  

Einige Universitäten testen KI-gestützte Systeme bereits, um Studierenden individuelles Feedback zu geben. Diese Pilotprojekte laufen in MINT-Fächern. Können Sie sich KI-Anwendungen auch in Geisteswissenschaften vorstellen, nach dem Motto „Mit KI Kant verstehen oder die Maltechnik der Impressionisten erlernen“? 

Ob die Anwendung an einer Kunsthochschule sinnvoll ist, hängt vom Anwendungsfall ab. Ich würde nie den Anspruch erheben, dass alle Fächer KI einsetzen sollten. Man muss von Fall zu Fall entscheiden, ob sich KI-Anwendungen zielführend sind. Wenn Sie einen Studiengang haben, in dem der Professor fünf Studenten gegenübersitzt, brauchen Sie keine KI. Da haben Sie die beste Betreuung, die Sie bekommen können – und die menschlichste. Neue Technologie in der Bildung messe ich an drei Kriterien: Effizienz, Effektivität und Attraktivität. Sie müssen eine gute, ansprechende Lernerfahrung bieten. Wenn eine Technologie keine der Kriterien erfüllt, sollte man besser bei alt bewährten bleiben.  

Bekommen Sie Gegenwind aus anderen Fachrichtungen? 

Oh ja, natürlich. Es gibt immer Vorbehalte und diese sind auch berechtigt. Als wir vor 12 Jahren die Evaluation von Lehrveranstaltungen eingeführt haben, protestierten manche Fachbereiche lautstark. Das Ende der freien Lehre sahen Sie kommen. Heute ist die Lehrveranstaltungsevaluation ein Standardservice, der weit verbreitet ist bei allen Fachbereichen – auch weil wir die Evaluationsergebnisse nur den Lehrenden anonymisiert bereitstellen. Es ist also kein Kontrollsystem, sondern ein Unterstützungssystem, unsere KI-Systeme müssen dieses Vertrauen auch erst verdienen. „Wer kontrolliert das System?“, diese Frage ist bei KI-Anwendungen mehr als berechtigt und gehen wir offen an.  

Wer kontrolliert das System? 

Unser Anspruch ist es, KI in den Dienst der Menschen zu stellen, die es nutzen und das zu erforschen. Das Thema Kontrollstrukturen werden wir umfassend angehen und die Stakeholdergruppen von Anfang an mitnehmen. Wie der Bundesregierung in ihrer KI-Strategie geht es auch in unserem Projekt darum, Data Literacy zu schaffen und die Vor- und Nachteile von KI beurteilen zu können. Wenn ein Unternehmen einem Lehrenden das neueste KI-Tool verkaufen will, soll die Person mündig sein und das Angebot kritisch beurteilen können. Große technische Entwicklungen können immer auch eine Büchse der Pandora sein. Bei der ersten Spaltung eines Atoms wurde nicht unbedingt an die Atombombe gedacht. Mit Impact beabsichtigen wir, selbst Erfahrung aufzubauen, damit wir sehen, was Grenzen und Möglichkeiten von KI in der Lehre sind. Es soll ein kritischer Umgang mit KI an der Hochschule entstehen, der zeigt, welche Rolle sie dort einnehmen kann und soll. Wir sind bei dieser Frage an vorderster Front. Berechtigten Gegenwind werden wir sicherlich von Datenschutzbeauftragten, aber auch von anderen Stakeholdergruppen, bekommen. Das ist aber Teil des Forschungsauftrags, der Datenschutz und Ethik als Ausgangspunkt sieht. 

Weshalb Sie ein eigenes Team zusammengestellt haben, das sich um Fragen der Ethik und des Datenschutzes kümmert.  

Wir arbeiten fächerübergreifend mit Informatikern, Psychologinnen oder auch Bildungswissenschaftlern zusammen. Um KI nicht als Überwachungssystem zu entwickeln,  haben wir uns von Anfang an einen eigenen Verhaltenskodex gegeben. Der Trusted Learning Analytics Kodex beinhaltet sieben Prinzipien, die uns in unserem Handeln leiten. Er sieht etwa eine Ombudsperson vor, an die sich Menschen wenden können, die Zweifel oder Kritik haben, und wir gehen mit Daten sparsam und transparent um.  

Mit welchen Daten lernen denn die IMPACT-Anwendungen? 

Wir werden im nächsten Wintersemester in allen beteiligten Hochschulen Lehrveranstaltungen anbieten, in denen Lerndaten gesammelt werden. Mit denen erstellen wir dann die Pilot-Systeme, die an Studierenden der gleichen Lehrveranstaltung im Folgejahr getestet werden.  

Sie sind Koautor der im vergangenen Jahr veröffentlichten Studie „KI@Bildung“. Blicken wir zum Schluss ins Klassenzimmer: Werden Ihre Forschungsergebnisse auch einen Impact auf die Schule haben?  

Alles, was wir in der Hochschule machen, ist auch für die Schule relevant. Wir setzen mit dem EduTec-Team des DIPF auch Projekte um, in denen Lerneinheiten für Biologie, Chemie, Physik und Mathematik entwickelt werden. Die liegen auf Moodle-Servern und werden in der Pandemie stark nachgefragt. Dort arbeiten wir auch mit Textanalysen. Kurze Textabschnitte, die die Schüler selbst eingeben, um zu Beispiel ein physikalisches Phänomen zu erklären, kann die KI sehr erfolgreich darstellen. Das heißt: Sie erkennt akkurat die Konstrukte der Schüler und gibt ihnen individuell Rückmeldung.  

Mehr zum Thema

    Edusiia – Ladestation für erschöpfte Lehrer
    Nature-Studie entdeckt große Corona-Lernlücke
    SWK-Forscherinnen zur Exzellenzinitiative: Wo ist die Evidenz?
    Länder ringen um Abkehr vom Königsteiner Schlüssel