ChatGPT und Co. Künstliche Intelligenz und Schule – passt das zusammen?

• Datenschützer sind besorgt über das Unwissen, das an Schulen hinsichtlich Künstlicher Intelligenz herrscht.
• Ein Lehrer sieht in der KI sowohl Probleme als auch Chancen.
• Und es gibt datenschutzrechtliche Bedenken.

Kontrastreicher kann es nicht sein. Im Augustiner-Kloster in Erfurt, zwischen uralten Wänden, wird über den Einsatz Künstlicher Intelligenz in der Schule gesprochen. Gekommen sind Wissenschaftler, Lehrkräfte und Schüler.

Eingeladen in diese mittelalterliche Umgebung hat Thüringens oberster Datenschützer Lutz Hasse. Ihn bewegt das Unwissen über die Künstliche Intelligenz, die nichts anderes ist, als ein Computer, der selbst lernen kann und mit dem Gelernten seine eigenen Arbeitsschritte verbessert. "Die digitale Entwicklung nimmt zu. Sie beschleunigt sich. Aber die Aus- und Fortbildung von Lehrerinnen und Lehrern hält da nicht mit. Und die Ausbildung von Schülerinnen und Schülern dementsprechend auch nicht."

Deshalb hat Lutz Hasse ganz unterschiedliche Menschen in das Kloster eingeladen. Beispielsweise eine Professorin, die sich an der Hochschule der Medien in Stuttgart um Digitale Ethik kümmert. Für Petra Grimm gehört die KI, die Künstliche Intelligenz, in jede Schule. Doch eines sei sehr wichtig: "Klug sein und nachdenken, was mir da von so einer KI geantwortet wird."

Für die Ethikerin ist außerdem wichtig, dass sich die Jugendlichen mit den Inhalten, die ihnen die Künstliche Intelligenz anbietet, genau beschäftigen. "Man sollte den Schülern aber vor allem auch zeigen, wo die Schwächen liegen – also, dass diese KI nicht magisch ist. Dass sie nicht alles kann. Es gab ja schon so Beispiele, wo man die KI hat laufen lassen. Und die sollte sich dann selbst Moral geben, aber die hat eben trainiert auf den Daten, die man alle im Internet finden konnte. Da kam dann etwas ganz Schlimmes bei raus."

Trainieren – um das Wort kurz zu erklären – heißt, dass die Künstliche Intelligenz aus den Informationen lernt, in diesem Fall aus allen Inhalten des Internets. So gab die KI dann in Ausnahmefällen auch Anleitungen zu Verbrechen weiter, beklagt die Ethik-Professorin Petra Grimm.

Hendrik Haverkamp stimmt vorsichtig zu. Er ist Gymnasial-Lehrer in Gütersloh an einer Schule, an der die KI bereits vorhanden ist. Und so weiß er, welche Probleme, aber auch welche Vorteile es gibt. "Auf den ersten Blick ist es ein problematisches Verhältnis, weil die KI die DNA von Schule, wie wir sie kennen, erstmal in Zweifel zieht. Was ist mit Hausaufgaben? Wie können Prüfungen aussehen? Was ist die Eigenständigkeit von Leistungen noch Wert, wenn eine KI in Sekundenschnelle Dinge produzieren kann, wofür Schülerinnen und Schüler Stunden, Wochen oder Monate gebraucht haben?"

Doch an seiner Schule hätten schon rund 80 Prozent der Schüler ihren eigenen privaten Zugang zu einer Künstlichen Intelligenz. Und deshalb müsse die Schule den Umgang damit beibringen, sagt Lehrer Hendrik Haverkamp. Es gebe vier typische Anwender: Der eine, der sich alle Hausarbeiten von der KI schreiben lasse. Das sei nicht das Ziel der Schule.

Doch die drei anderen Anwendermethoden seien wertvoll: "Wenn ich die KI beispielsweise als Assistent nutze, der mir dann unter die Arme greift, wenn ich mal nicht weiterkomme oder als Inspirationsquelle nutze. Oder dass ich mir von der KI Feedback geben lasse. Das sind schon Aspekte, die Schülerinnen und Schüler auch jetzt schon nutzen und die man an der Schule auch ganz gut zum Einsatz bringen könnte."

Für den Gastgeber und Thüringer Landesdatenschutzbeauftragen ist klar: Die Künstliche Intelligenz zieht in die Schulen ein. Doch müsse die Schule eine KI bieten, in der sich die Schüler nicht privat anmelden: "Dass man einem Schüler oder einer Schülerin sagt: Recherchiere mal bei ChatGPT – Klammer auf – und gebe dafür deine eigenen personengebundenen Daten ein – Klammer zu – würde ich abraten. Das ist datenschutzrechtlich nicht geklärt." Derzeit sind Lutz Hasse und seine Mitarbeiter dabei, mit den Anbietern von Künstlicher Intelligenz, wie etwa ChatGPT, die Datenschutzvoraussetzungen zu klären.