Armin Grunwald zur KI: „Wenn man dem Programm zu viel zutraut, glaubt man nachher alles“

Es gibt einen neuen Zauber-Begriff: Künstliche Intelligenz. Was löst er bei Ihnen aus?

Erstmal den Impuls: So neu ist der gar nicht. Er war schon mal neu in den 60er Jahren, dann wieder in den 70er und 80er Jahren. Und jetzt noch einmal. ChatGPT hat eine neue Welle in Bewegung gesetzt, als viele KI-Leute schon befürchtet haben, dass das Thema in den Hintergrund geraten könnte.

ChatGPT als Bewusstseinsbeschleuniger?

Absolut. Es hat zu einem neuen Hype geführt.

Es gibt euphorische Befürworter und mahnende Kritiker. Wo stehen Sie?

Ich bin erst mal neugierig. ChatGPT ist sehr interessant, auch wenn es immer noch nur ein Rechenprogramm ist. Es ist nichts anderes als ein sehr komplexes Programm mit statistischen Verfahren, mit dem man formal gute Texte schreiben kann. Das ist eine Leistung, die erkenne ich an.

Mehr nicht?

Und dann bin ich interessiert, wie man diese Leistung nutzen kann. Meine Sorgen sind die – und die haben auch mit dem Hype zu tun –, dass viele Menschen nicht verstehen, dass das bloß ein Rechenprogramm ist. Auch nicht verstehen, dass es sich aus Sprach-Modellen speist, nicht aus Wissensmodellen. Das heißt: Bisher weiß ChatGPT nichts. Es kann deshalb passieren, dass es sehr korrekte und wohlklingende Texte schreibt, die aber unsinnig sind. Die Frage ist: Wer will das beurteilen? Wenn man dem Programm zu viel zutraut, dann glaubt man nachher alles, was da entsteht. Da wird es problematisch.

Ist der Begriff KI dann nicht falsch? Intelligenz ist mehr als kopieren.

Von Henry Kissinger stammt der schöne Satz: Artificial Intelligence is a Misnomer. Ein Missverständnis, eine Fehlbezeichnung. Was ist Intelligenz? Wenn wir sie wie in einem Intelligenztest messen, also eine bestimmte Rechenkapazität, ein bestimmtes Löseverhalten prüfen, dann kann man schon sagen, dass diese Systeme eine gewisse Intelligenz haben. Aber man darf nicht denken, das sei identisch mit unserer menschlichen Intelligenz. Wir haben Verstehensintelligenz, wir verstehen bestimmte Situationen, wir können Texte verstehen, wir können über Bedeutung von Begriffen nachdenken, wir haben eine emotionale Intelligenz, eine soziale Intelligenz. Und davon kann hier nicht die Rede sein.

Kann das noch kommen?

Was kommen kann, weiß man heute nicht. Da bin ich zögerlich. Es gibt Philosophen, die versuchen zu beweisen, dass das nie kommen kann, auch kein künstliches Bewusstsein entstehen wird. Ich denke mir, dass schon viele Leute irgendetwas für unmöglich gehalten haben – und dann kam es doch. Die Zukunft ist da für mich offen.

Wenn man den Intelligenz-Begriff verwendet, wie Sie ihn definieren, als Transformationsleistung in riesigen Mengen und höchster Geschwindigkeit – überfordert uns dieses „immer schneller, immer mehr" nicht irgendwann?

Im technischen Fortschritt gehört es dazu, dass mit den neuen Technologien die alten Technologien und auch damit die Fähigkeiten, die man braucht, um sie zu bedienen, allmählich in Vergessenheit geraten. Das ist normal, normaler kultureller Wandel. Das Problem im Moment – und darauf spielen Sie an – ist die zunehmende Geschwindigkeit. Sie nimmt mit der Digitalisierung schon seit Jahrzehnten beängstigend zu. Ich kann mich noch erinnern an eine Welt ohne Internet. Und ich weiß sogar, dass sie damals funktioniert hat. Heute kann man sich das schon längst nicht mehr vorstellen. Und man kann auch nicht mehr das Internet abstellen, obwohl es vielleicht unsere Demokratie kaputt macht. Es geht einfach schon nicht mehr ohne. Wir sind längst total abhängig geworden.

Und was ist KI bei alledem?

Hier verstärkt sich die Sorge vor einer weiteren Beschleunigung, so dass wir vielleicht gar keine Zeit mehr finden zu beobachten und zu verstehen, was da passiert. Über die Folgen nachzudenken und dann zum Beispiel über nötige Regulierung zu entscheiden. Was ist gut? Was nicht? Was wollen wir haben, was wollen wir nicht haben? Die Geschwindigkeit der Regulierungen hat einfach sehr wenig zu tun mit der Geschwindigkeit der Innovationen, die gerade bei der KI laufen.

Wo liegt die Verantwortung der Politik?

Die einfache Antwort lautet: Sie muss die Menschen- und Bürgerrechte sichern. Aber die Frage ist ja: Wie macht man das? Es gibt erste Ansätze, auch auf der europäischen Ebene. Aber das sind nicht mehr als erste Schritte, weil es um einen riesigen Lernprozess geht, auf unzähligen Feldern. KI ist ja nicht gleich KI.

Wie meinen Sie das?

KI zeigt sich in unzähligen Anwendungsfeldern, ob Medizin, Kommunikation, Produktion; überall fungiert sie als Entscheidungsunterstützung. Sie zeigt sich dabei überall anders, sie betrifft Menschen immer wieder auf andere Weise. Und überall gibt es andere Rechte, die zu schützen sind. Deswegen ist das so mühsam und schwer.

Das klingt nach Resignation.

Nein. Aber man muss in die einzelnen Anwendungsbereiche reingehen. Das sind sehr viele, und das braucht Zeit. Da sind wir wieder beim Thema Beschleunigung. Das macht mir Sorge. Es wird sehr sehr schwer, da hinterher zu kommen. Und was Zweites kommt dazu: Viele Menschen erliegen einem sogenannten Automation-Bias. Sie vertrauen den Ergebnissen eines KI-Systems mehr als den Aussagen eines sachkundigen Menschen. Menschen gelten schnell als subjektiv und haben Interessen. KI dagegen werden Attribute zugeschrieben wie objektiv, fair, gerecht, nicht Interessen-geleitet. Das ist gefährlich. Nicht wenige Menschen projizieren bestimmte Dinge hinein, die einfach nicht gegeben sind.

Stellt sich noch mal die Frage: Was kann, was muss die Bundesregierung unternehmen, damit das nicht unkontrolliert immer weiter geht?

I ch habe große Zweifel, dass da überhaupt noch viel möglich ist. Die Digitalisierung ist so stark von privaten Konzernen geprägt und vorangetrieben, da passiert ja eher wenig im öffentlichen Raum. Die großen Treiber sind die mit Milliardensummen operierenden großen Konzerne. Sie betreiben die entsprechende Forschung; sie haben das Geld, um dafür die besten Leute zu akquirieren.

Optimismus sieht anders aus.

Es ist realistisch. Weil wir in der Technikfolgenabschätzung zur Digitalisierung oft hinterherlaufen. Als sich die Sozialen Medien 2007 etablierten, waren wir nicht darauf vorbereitet. Bei KI ist das nicht anders. Das heißt, wir werden uns der Sache immer erst bewusst, wenn sie schon öffentlich zugänglich ist. Wie jetzt auch mit dem ChatGPT. Wir haben dann innerhalb sehr kurzer Zeit für den Bundestag die erste Studie vorgelegt. Das wurde allseits sehr beachtet. Aber wir sind nicht vor dem Entwicklungsprozess, sondern wir bekommen die Ergebnisse eines Entwicklungsprozesses präsentiert, sobald die Ergebnisse marktfähig sind und gleich Millionen User auf der ganzen Welt haben.

Leben wir in einer Zeit, in der Politik immer häufiger nur noch hinterherrennt, um das Schlimmste zu verhindern?

Schwierige Frage. Es ist je nach Politikfeld möglicherweise auch unterschiedlich. Klimakrise? Da kann man nicht sagen, die Politik werde von irgendetwas überrascht und renne hinterher. Seit 40 Jahren ist die Klimakrise bekannt. Da ist die Politik einfach zögerlich, weil es Besitzstände zu wahren gibt. Der Ausbruch des Ukraine-Kriegs war dagegen in der Tat ein akutes Feuer; da muss man sofort reagieren. Die Pandemie kam auch plötzlich, auch da war schnelles Handeln erforderlich, das liegt in der Natur solcher disruptiven Veränderungen.

Und die Digitalisierung?

Da kann man nicht von einer Überraschung reden, sie entwickelt sich seit Jahrzehnten. Nur einzelne Prozesse kommen rasend schnell und plötzlich um die Ecke. Natürlich haben die Sozialen Medien unsere Kommunikationswelt verändert. Seit 2007. Das sind gerade mal 16 Jahre. Trotzdem würde ich sagen: Regulierung muss nicht immer so lange dauern.

Müsste sich die Politik, ob in Berlin oder Brüssel, nicht viel adäquater ausstatten? Im Augenblick hat man das Gefühl, es gibt keinen richtigen Ort, kein Ministerium, keinen Minister, der angemessen ausgestattet ist und sich auch wirklich dafür verantwortlich fühlt.

Guter Punkt. Es gibt schon Institutionen, die in den letzten Jahren gegründet worden sind, auch mit öffentlichen Geldern, um diese Lücke zu füllen. Zum Beispiel gibt es das Bundesamt für Sicherheit in der Informationstechnik schon lange. Etwas analoges für Sicherheit in der künstlichen Intelligenz gibt es leider nicht. Weder für die Erforschung noch für die Abschätzung der Konsequenzen. In den Ministerien gibt es überall ein bisschen was. Aber die verzetteln sich. Das könnte und müsste man effizienter organisieren.

Die sozialen Medien haben sich in zwei Richtungen entwickelt. In Unterdrückungsregimen wie im Iran oder in Russland haben sie den Unterdrückten geholfen, jedenfalls eine ganze Weile. Bei uns haben sie zugleich das Austauschen in den immer gleichen Blasen verstärkt, was die Spaltung der Gesellschaft verstärkt. Wie demokratiegefährdend ist das?

Als das Internet auf den Markt kam, gab es zunächst utopische Hoffnungen auf eine weitreichende Demokratisierung. Nach dem Motto: kein Diktator könne mehr weiter machen, weil kein Diktator sein Volk angesichts der neuen Kommunikation noch kontrollieren kann. Autoritäten weg, Hierarchien weg. Diesen Eindruck konnte man anfänglich zum Beispiel im Iran bekommen. Inzwischen aber hat es hart umgeschlagen. Die Kontrolle nimmt massiv zu; die Ausgrenzungen und Überwachungen auch. Im Zweifel werden Netze abgeschaltet. Dabei ist KI keine neue Gefahr, sondern eine, die alles verstärkt.

Und was ist gefährlich?

Der Cyberwar im Rahmen unser aller Kommunikation. Wenn also gezielt Fake News in die Welt gesetzt werden, die durch KI in noch viel größerer Geschwindigkeit verteilt werden. Und das, um in der großen Masse von Usern das Gefühl zu erzeugen: Das ist die Wahrheit. Wenn das gelingt, dann kann Olaf Scholz sagen, was er will – seine Dementis, seine Einordnungen kommen dann immer zu spät, wenn die Lügen über die Sozialen Medien in der Welt sind. An der Stelle kann KI die Dramatik noch verschärfen.

Sie haben schon gesagt, dass längst nicht mehr die Politik die prägende Kraft sei, sondern die großen Konzerne. Wie verändert das unsere Demokratie?

Wir leben in einer Parallelwelt. Man kann es auch, wenn man den Begriff halt nur metaphorisch versteht, als eine Art Schizophrenie verstehen. Die Menschen machen sich abends Sorgen über den Datenschutz. Und am nächsten Morgen laden sie schöne neue Apps runter und tun alles, klicken alles an, was es so anzuklicken gibt und geben ihre Daten preis. Das ist in der Tat etwas, was mir Sorgen macht. Es hat mir vor Jahren schon Sorgen gemacht und es ändert sich nichts. Die Risiken sind längst bekannt, trotzdem ändert sich nichts.

Warum ist das so?

Es liegt an der Faszination der digitalen Welt, die trotz der Skandale und des Wissens über die negativen Folgen ungebrochen ist. Und es liegt an der Bequemlichkeit. Wer will schon auf die ganzen schönen Dinge verzichten, die man jetzt so nett vom Sofa aus machen kann? Dann klickt man eben mal auch die AGB an, sagt Ja zu allem, was man gar nicht gelesen hat. Im Hoffen, dass es schon nicht so schlimm werden möge. Wir Menschen haben Technik, um uns das Leben bequemer zu machen. Das ist von jeher eine große Motivation gewesen. Und das macht diese Digital Welt so perfekt. Die Folge: Wir verlieren jede Wachsamkeit für das, was dahinter passiert.

Wir gehen zwar noch wählen, wir leben noch in einer Demokratie – aber die entscheidenden Fragen werden Schritt für Schritt woanders beschlossen? Oder gibt es ein Aufbäumen? In Brüssel? In Berlin?

So pessimistisch bin ich nicht. Das politische System und das politische Bewusstsein ist in Deutschland verglichen mit anderen Staaten noch ziemlich lebendig, wach und gut. Aber parallele Entwicklungen sind im Gange. Ich wundere mich schon, dass so wenig in Bezug auf eine kritische – nicht negative! – Haltung zur Digitalisierung passiert. Auch wenn stärker erkannt wird, dass etwas passieren muss. Ein Beweis: Die Datenschutzgrundverordnung aus Brüssel. Sie ist nicht perfekt. Aber sie ist ein Schritt, um den amerikanischen und chinesischen Konzernen zu zeigen: Ihr könnt gerne bei uns in Europa Eure Dienstleistungen anbieten und damit auch Geld verdienen. Aber ihr müsst ein paar Regeln akzeptieren.

Bringt das wirklich was?

Zum Glück ist Europa ein so großer Wirtschaftsraum, dass den Konzernen das nicht egal ist. Nicht egal sein kann. Solange wir schnell und gut genug sind.

Immer häufiger kann man erleben, dass digitale Dienstleistungen komplett in die digitale Welt verlagert werden, die Betreuung der Leute analog oder per Telefon aber radikal abgebaut wird. Ergebnis: Wer es nicht schafft, wird abgehängt. Muss man damit leben?

Das Erlebnis kennt mittlerweile jeder. Ich auch. Deshalb denke ich: Hier läuft beim Verbraucherschutz was radikal schief. Hier geht es nicht um Kleinigkeiten, sondern um eine Zugangsgerechtigkeit zu Gütern und Dienstleistungen, auch im öffentlichen Raum. Da wird das Digitale verpflichtend gemacht, weil die analogen Alternativen mühsam oder so abweisend werden, dass man sich wie vor einer Wand fühlt. Ja, da läuft was falsch. Wenn man die Gesellschaft nicht immer weiter spalten will, darf das nicht so bleiben.