Interview I Künstliche Intelligenz Sexuelle Ausbeutung von Kindern: Wie KI Straftaten vorhersagen könnte

Die Verbreitung kinderpornografischer Inhalte und die sexuelle Ausbeutung von Kindern im Internet werden zu immer drängenderen Problemen. Laut dem amerikanischen Meldesystem "CyberTipline" gingen allein 2023 weltweit mehr als 36 Millionen Meldungen über mutmaßliche Fälle ein - und die Zahlen steigen rasant an.

Thomas Schäfer, Professor für psychologische Forschungsmethoden an der Health and Medical University in Erfurt, ist einer von 50 Wissenschaftlern des EU-Projekts "Arica". Die Forscherinitiative unterstützt Strafverfolgungsbehörden im Kampf gegen die Verbreitung von kinderpornografischem Material im Internet. Mithilfe von Künstlicher Intelligenz sollen die dafür entwickelten Technologien nicht nur die Täter ausfindig machen, sondern die Taten sogar vorhersagen können.

Auf diese Weise will Arica präventiv gegen sexuelle Ausbeutung von Kindern vorgehen. Im Interview berichtet Schäfer, wie sich die Täter identifizieren lassen, obwohl sie im Netz scheinbar unsichtbar sind.

Herr Professor Schäfer, Sie kommen eigentlich aus dem Bereich Statistik und Forschungsmethoden. Was hat Sie dazu motiviert, sich jetzt mit Künstlicher Intelligenz und der Vorhersage von Straftaten zu beschäftigen?

Thomas Schäfer: Das war tatsächlich eher Zufall. Ich habe mir mit einem Kollegen in Berlin ein Büro geteilt, der sich mit dem Thema Risikokommunikation allgemein und mit dem Thema Kinderpornografie im Speziellen beschäftigt hat. Der hat mich gefragt, ob ich bei der Datenauswertung helfen möchte. Ich habe dann lange mit mir gerungen, weil es ein Thema ist, bei dem ich wirklich emotional starke Vorbehalte hatte. Aber ich habe dann eingewilligt, bei dem Projekt zu helfen.

Wo setzt dieses Projekt konkret an und auf welchen Bereich konzentriert sich Ihre Forschung?

Schäfer: Wir untersuchen den Bereich des sogenannten Darknets, also den Teil des Internets, der mehr oder weniger abgeschottet ist. Das ist ein Bereich, der zum Beispiel nicht über Suchmaschinen gefunden werden kann und wo sich Nutzerinnen und Nutzer anonym austauschen können. In vielen Fällen hat das die Folge, dass Straftaten in diesem Darknet begangen werden. Dazu zählen so was wie Waffenhandel, aber auch Menschenhandel - oder eben der Bereich, den wir untersucht haben. Die sexuelle Ausbeutung von Kindern, also das Hochladen, Verbreiten und Anschauen von sexuellem Material.

Sie sprechen bewusst von sexueller Ausbeutung, nicht von sexuellem Missbrauch. Warum?

Schäfer: Es hat in den letzten Jahren einen Wandel der Begrifflichkeit gegeben. In Fachkreisen wird dieser Begriff nicht mehr so gerne verwendet, weil er ein Stück weit impliziert, dass es auch einen normalen Gebrauch von Kindern gebe. So wie bei Alkoholmissbrauch würde man auch von einem normalen oder gesunden Gebrauch sprechen und dann eine Grenze zum Missbrauch ziehen. Der "Gebrauch" von Kindern ist aber in keinem Fall normal.

Wenn es um die sexuelle Ausbeutung von Kindern im Internet geht, wie groß ist das Ausmaß des Problems Ihres Erachtens wirklich?

Schäfer: Ich habe ganz naiv gehofft, dass das Problem wesentlich kleiner ist - und war dann sehr schockiert. Speziell darüber, wie groß die Anzahl der Leute ist, die sich in diesem Bereich tatsächlich bewegen. Eine konkrete oder genaue Schätzung abzugeben, ist ganz schwierig, weil die Dunkelziffer vermutlich sehr groß ist und durch die Anonymität der Nutzer die genaue Anzahl kaum geschätzt werden kann.

Aber was wir jetzt durch unsere Datenanalysen zeigen konnten, war, dass es europaweit schon in die Millionen geht. Darunter sind viele Nutzer vertreten, die sich das Material nur "anschauen", die also selbst nichts produzieren oder weitergeben. Die Anzahl der Personen, die das Material produzieren, die also wirklich sexuelle Handlungen an Kindern vornehmen, die ist Gott sei Dank deutlich kleiner.

Wie genau soll nun die KI dabei helfen, diese Menschen ausfindig zu machen?

Schäfer: Die KI hilft uns vor allem bei den Herausforderungen, vor denen auch die Strafverfolgungsbehörden stehen. Nämlich, dass die User im Darknet unter dem Radar der einfachen Zugänglichkeit bleiben. Das heißt, es gibt keine IP-Adresse und es ist von außen nicht mehr nachvollziehbar, wer sich wo befindet, wer Material eingespeist hat und wer sich wo wann etwas angeguckt hat. Unser Ansatz war, die KI dazu zu verwenden, mit den vielen im Darknet vorhandenen digitalen Fußabdrücken einerseits diese Lokalisierung zu erleichtern und andererseits wirklich die Leute ausfindig zu machen, die sehr viel posten. Die KI hilft uns dabei, das zu bewerkstelligen, indem sie die Daten verarbeitet und analysiert.

Ist das nicht etwas kritisch im Hinblick auf das Persönlichkeitsrecht und den Datenschutz?

Schäfer: Eine sehr gute Frage. Aber es gibt zwei wichtige Aspekte dazu. Straftatbestände sind nicht nur das Produzieren und Hochladen von Material, das eindeutige sexuelle Handlungen an Kindern zeigt. Sondern auch das Weitergeben wie auch das Ansehen oder Besitzen von diesem Material ist illegal. Alles, was in diesen Darknet-Foren passiert, wäre zumindest in Deutschland eine Straftat. Insofern ist es okay und legitim, dass alle diese Fälle verfolgt werden. Der zweite Aspekt ist: Was als Ergebnis aus diesen Forschungsdaten anfällt, führt nicht direkt zu einer Strafverfolgung. Sondern es soll vor allem die Priorisierung bei der Einleitung von Strafverfolgungen erleichtern - gewissermaßen ein zusätzliches hilfreiches Werkzeug.

Sie ermitteln also eine Art Risikowert, der angibt, mit welcher Wahrscheinlichkeit eine Person X straffällig wird oder schon straffällig geworden ist?

Schäfer: Genau. Wir haben über zwei Jahre hinweg Daten sammeln können, anhand derer wir sehen können, wer wie viel Material hochlädt und so weiter. Das heißt, diese entscheidende Variable, nämlich das Produzieren von kriminellem Material, das konnten wir bereits sehen und haben das den Strafverfolgungsbehörden auch zur Verfügung gestellt. Und dann kommt der Teil, wo wir unsere KI verwendet haben. Das ist der Teil der Vorhersage über Personen, die ein Risiko bergen könnten, dass sie in Zukunft kriminelle Handlungen begehen. Genau dafür brauchen wir diesen Risikowert.

Das hört sich ein bisschen nach dem sprichwörtlichen Blick in die Glaskugel an. Wie stellen Sie sicher, dass die KI nicht falsch liegt und mit Ihren Vorhersagen tatsächlich die richtigen Leute erwischt?

Schäfer: Das funktioniert letztendlich genauso, wie Forschung immer funktioniert. Eine typische wissenschaftliche Studie im Bereich der wissenschaftlichen Psychologie würde so aufgebaut sein, dass man Daten von einer Stichprobe von Probanden sammelt und ein Vorhersagemodell entwickelt. Mit so einem Modell kann man dann vorhersagen, wie stark eine bestimmte Zielvariable - wie etwa der Hang zu sexueller Gewalt - in Abhängigkeit von bestimmten Faktoren ausgeprägt ist. In der psychologischen Forschung sind das typischerweise sehr einfache Modelle. Aber dasselbe Prinzip haben wir in der Trainingsphase für die KI-Modelle auch angewandt - aber mit viel mehr Daten.

In der Trainingsphase hatten wir ja alle Daten aus dem Darknet zur Verfügung. Also nicht nur die Variablen, die wir jetzt für die Vorhersage verwenden wollen, sondern auch die Zielvariablen: Nämlich welche Leute produzieren etwas und wenn ja, wie viel, und wo verbreiten sie es. Damit wurden die Modelle trainiert und nun können sie zukünftig Vorhersagen für die Zielvariablen treffen, noch bevor diese bekannt sind. Aber Sie haben natürlich insofern recht, als dass das niemals zu 100 Prozent funktioniert. Das kommunizieren wir aber auch so an die Strafverfolgungsbehörden.

Wenn es um die Verarbeitung von Daten geht, ist eine KI ja viel leistungsfähiger und schneller als Menschen. Ich nehme an, es ist auch eine große Erleichterung, dass Menschen sich dadurch nicht mehr mit diesem stark belastenden Material beschäftigen müssen, oder?

Schäfer: Genau. Anstelle eines Menschen können wir jetzt die KI einsetzen, um das schwierige Material zu sichten und es zu kategorisieren. Das bedeutet zum Beispiel zu beschreiben, welche Handlungen sind in einem Video zu sehen und wie alt ist das Kind, was dort zu sehen ist. Das sind natürlich schwierige und sehr emotional belastende Aufgaben für die Mitarbeiterinnen und Mitarbeiter bei Strafverfolgungsbehörden. Das jetzt einer KI anvertrauen zu können, ist natürlich eine sehr große Entlastung - sowohl quantitativ als auch qualitativ.

Es wird immer so viel darüber diskutiert, ob die KI für uns letztendlich ein Fluch oder ein Segen ist. Wohin tendieren Sie?

Schäfer: Nach diesem Projekt bin ich sehr davon überzeugt, dass der Aspekt des Segens überwiegt. Aber natürlich haben wir im Laufe der Arbeit auch immer wieder gesehen, dass die KI ein Fluch sein kann. Zum Beispiel wird heute verstärkt Material, das sexuelle Handlungen mit Kindern zeigt, das mithilfe von KI produziert worden ist. Das kann künstlich passieren, also mit nicht-realen Personen oder Kindern.

Es kann aber auch so passieren, dass Foto- und Videomaterial von real existierenden Kindern so mit der KI verändert wird, dass sexuelle Handlungen gezeigt werden. Man stelle sich nur vor, was das für die Betroffenen bedeuten kann, wenn so ein Material in Umlauf kommt…

Gibt es denn bezogen auf das Arica-Projekt schon erste Erfolge zu vermelden? Konnten mithilfe Ihres Tools tatsächlich schon Menschen außerhalb des Internets strafrechtlich verfolgt, vielleicht sogar verurteilt werden?

Schäfer: Dazu kann ich leider noch nichts sagen. Gerade ist die Pilotphase zu Ende gegangen und jetzt muss das Projekt erst so richtig ins Laufen kommen. Ob das Tool wirklich hilfreich ist für eine erfolgreiche Strafverfolgung, das können wir natürlich erst in fünf bis zehn Jahren beantworten. Das sind einfach sehr lange Prozesse. Wir haben aber schon festgestellt, dass wir mit diesem Angebot bei den Behörden auf offene Ohren stoßen. Die Mitarbeiterinnen und Mitarbeiter sind daran interessiert, weil es ihre Arbeit sehr erleichtert.