Sächsische Medienaufsicht Künstliche Intelligenz scannt Internet auf Hetze und Pornografie

Seit mehr als einem Jahr geht "Kivi" für die Sächsische Landesmedienanstalt (SLM) im Internet und in den Sozialen Medien "auf Streife". "Kivi" ist ein Tool, das von Medienwächtern in Nordrhein-Westfalen entwickelt und von Sachsen übernommen wurde. Gefüttert mit bestimmten Wörtern und Bildern soll "Kivi" Verstöße im Netz wie Antisemitismus, Hass oder jugendgefährdende Inhalte aufspüren, sagt Simon Honermeyer. Er ist Jurist bei der Landesmedienanstalt und arbeitet mit dem Tool.

"Es werden Webseiten automatisch ausgelesen und abgeglichen mit diesen vorgegebenen Keywords und Bildmaterial, das wir ihr gegeben haben. Dann spuckt es uns anhand gewisser Parameter die potentiellen Verstöße aus, die wir dann bearbeiten und gucken: Handelt es sich wirklich um Verstöße?"

Angefangen haben die Landesmedienanstalten dem russischen sozialen Netzwerk VK, inzwischen werden auch X, Telegram, Youtube, TikTok und andere geprüft. "Wenn wir Verstöße feststellen, bereiten wir Strafanzeigen vor oder melden die Inhalte bei den Plattformen." Sprich: Die erhobenen Daten werden dem Bundeskriminalamt oder der Generalstaatsanwaltschaft angezeigt oder die Betreiber der Plattform werden aufgefordert, die Inhalte zu löschen.

Inzwischen prüft "Kivi" jeden Tag mehr als 10.000 Seiten und lernt durch die Rückmeldung der menschlichen Prüferinnen und Prüfer. Bei der Sächsischen Landesmedienanstalt sind das zwei Juristen.

Das ist ihre erste Bilanz:

• Von rund 1.600 vermeintlichen Verstößen, die "Kivi" bislang gefunden hat, waren rund 760 unbedenklich,
• 426 Verstöße erwiesen sich als echt,
• Die meisten davon betrafen Pornografie (267) und Politischen Extremismus (150),
• Rund 410 mutmaßliche Verstöße werden noch geprüft.

Der sächsische Medienminister Oliver Schenk (CDU) ist froh, "dass dieses Instrument "Kivi" jetzt aus den Kinderschuhen wächst und ein sehr effektives Mittel geworden ist." Man sehe, wie wirksam Fälle von Pornografie oder Extremismus identifiziert würden "durch eine technologische Lösung, die es dann erlaubt, auch sehr schnell diese Informationen an die Strafverfolgungsbehörden weiterzugeben."

Schenk stellt aber auch klar: "Es geht um die Bekämpfung von Hass und Dingen, die wir im Internet nicht sehen wollen - extremistische Äußerungen, Pornografie. Es geht nicht um Zensur. Das ist die Botschaft, die man geben muss."

Damit keine staatliche Zensur stattfindet, übernehmen unabhängige Landesmedienanstalten die Kontrollen. "Die Notwendigkeit ergibt sich daraus, dass keine Interessengruppe, welcher Couleur auch immer, die Möglichkeit haben darf, über die Instrumente, die der Landesmedienanstalt in die Hände gelegt sind, Einfluss zu nehmen und damit das Ergebnis in irgendeine Richtung zu verschieben," sagt der Präsident der sächsischen Landesmedienanstalt Markus Heinker.

Wie "Kivi" arbeitet, soll demnächst auf der Internetseite der Sächsischen Landesmedienanstalt ausführlich dokumentiert werden.