Künstliche Intelligenz Spieglein, Spieglein, wer ist am echtesten?

• KI-Spiegel als Werkzeug, um die Funktionsweise von KI zu veranschaulichen
• Klischees in KI-Antworten beginnen bei den Trainingsdaten
• Durch Kompetenzbildung eigene Handlungsräume erkennen
• Schülerinnen mit Ideen, wie KI besser werden könnte

"Das bin nicht ich", sagt Schülerin Johanna über das Ergebnis der KI. Bildrechte: MITTELDEUTSCHER RUNDFUNK

"Das bin nicht ich", sagt Johanna irritiert. Die 13-jährige Schülerin testet als erste den "Smart Mirror". Das KI-Tool verändert auf Kommando die Kleidung von Personen. Doch Johanna bekommt nicht nur ein elegantes Kleid aus dunklem Grün, das am Oberkörper in Gold übergeht - um ein "Kleid im Renaissance-Style" hatte sie gebeten. Mit dem neuen Outfit hat der "intelligente Spiegel" ihr auch gleich neue Körpermaße verpasst.

"Der macht die Taille so schmal, das ist ja ein typisches Schönheitsideal", sagt Johannes Häfner. Der Data Scientist vom KI-Kompetenzzentrum ScaDS.AI in Leipzig erklärt den Schülerinnen zusammen mit der Designerin Vanessa Kuhfs die Funktionsweise des Spiegels. Kuhfs betont, der "Smart Mirror" sei ein ideales Reflexionstool, "um am eigenen Körperbild komplexe technische Zusammenhänge zu verdeutlichen".

Denn wie viel "Intelligenz" steckt eigentlich tatsächlich in KI? Oder sollte man das englische "artificial intelligence" besser als "künstliche Informationsverarbeitung" übersetzen, wie es etwa der Philosoph Christian Uhle fordert? Der KI-Spiegel "versteht" jedenfalls nicht, wo der Unterschied zwischen Kleidung und Körper liegt. Auch setzt das Tool den Befehl "kannst du mir bitte ein weibliches Superheldinnen-Kostüm anziehen" ganz unbefangen für mehrere Personen um.

"Kannst du uns in Batman verwandeln?", fragt die Schülerin Nour den KI-Spiegel. Bildrechte: MITTELDEUTSCHER RUNDFUNK

Nour und Jette haben sich gemeinsam vor den Spiegel gestellt. Den Wunsch der 14-jährigen Nour nach einem "Batman"-Kostüm hat die KI noch verweigert. Copyrightgeschützte Inhalte sind für den Spiegel ebenso tabu wie sexuelle oder gewaltvolle Inhalte. Ansonsten gibt der Spiegel ziemlich unverblümt als Antwort, womit er trainiert wurde. Und die Trainingsdaten stecken offensichtlich voller Klischees.

Das wird auch deutlich, als Johanna, Juliane und Hanna versuchen, sich von der KI als Polizistinnen verkleiden zu lassen: nicht nur mit der Schrift tut sich der Spiegel schwer und setzt auf eine Uniform ein unbeholfenes "POLGE". Zwei der Schülerinnen sind plötzlich bauchfrei abgebildet. So richtig überrascht habe sie das aber nicht, sagt Juliane. Nicht nur das Internet sei schließlich voll von Schubladendenken, wie Frauen und wie Männer seien. "Das ist auch in unseren Köpfen drin", stellt die 12-Jährige nüchtern fest.

Künstliche Intelligenz sei eben ein Spiegel der Gesellschaft, erklärt Vanessa Kuhfs. So sei auch die Idee entstanden, anhand des "Smart Mirrors" in Workshops über die Möglichkeiten und Grenzen von KI aufzuklären. Denn die Augen vor der Technologie zu verschließen, hält die Designerin und KI-Forscherin für wenig sinnvoll. Durch Kompetenzbildung und Sichtbarmachung der Probleme von KI will sie vielmehr Handlungsräume aufzeigen.

Nach dem "Smart Mirror" können die Schülerinnen an Laptops einzelne Arbeitsschritte der KI nachverfolgen. Bildrechte: MITTELDEUTSCHER RUNDFUNK

So sehr auch wenige große Player die globalen KI-Entwicklungen dominieren, so bedeutend sei das Gegengewicht der Open-Source-Community, betont Kuhfs. Technologie-Aktivisten und -Aktivistinnen seien mit ihren Community-basierten Lösungen ein starkes Druckmittel auf internationale Tech-Unternehmen. "Wir haben unheimlich viel Macht und Verantwortung, wenn wir solche Systeme entwickeln", sagt die KI-Forscherin.

Auch am Girls' Day lassen sich die Schülerinnen vom Status Quo nicht verunsichern. "Klar könnte man das verbessern, dass die KI nicht mehr so voll von Stereotypen ist", sagt Hanna, die mit ihren Freundinnen die Polizei-Uniformen ausprobiert hatte. Bis zur Berufswahl haben die Mädchen noch ein paar Jahre Zeit. Die Workshops am KI-Kompetenzzentrum ScaDS.AI dürften aber bei manchen das Interesse für die sonst eher männlich dominierten Berufe verstärkt haben.

Auch ein Roboterhund stößt bei den Mädchen auf Begeisterung. Bildrechte: MITTELDEUTSCHER RUNDFUNK

Von dem intelligenten Spiegel sind die experimentierfreudigen Mädchen bald kaum mehr wegzukriegen. An Ideen, wie KI besser werden könnte, mangelt es den Heranwachsenden jedenfalls nicht: Eine Bildgenerierungs-KI könnte doch nachfragen, welches Geschlecht oder welche Hautfarbe eine Person haben soll - sind nur zwei Ideen der Schülerinnen, als Vanessa Kuhfs von einem Experiment mit ChatGPT erzählt: Vor wenigen Wochen hatte die Forscherin die KI um ein Bild von einer gründlich putzenden Person gebeten. Das klischeehafte Ergebnis: eine attraktive Frau.

Denn Informationen, die ein Auftrag an die KI auslässt, füllt diese ungeniert mit ihrer eigenen Fantasie - oder vielmehr mit den Wahrscheinlichkeiten, die sie aus ihren Trainingsdaten errechnet.