Künstliche Intelligenz Forscher entwickeln Textscanner, um mit KI Manipulationen zu erkennen

In aktuellen politischen und gesellschaftlichen Diskussionen spielen Medien eine zentrale Rolle. Immer wieder wird über eine einseitige, in Teilen abschätzige oder auch vorverurteilende und populistische Berichterstattung diskutiert. Diese Phänomene verstärken sich in den sozialen Medien, die – anders als journalistische Medien – das Trennen von Fakten und Meinungen nicht kennen. Um eventuelle Manipulationen und auch Propaganda in Texten zu erkennen, hat jetzt ein Forscherteam aus Coburg auf der Basis von künstlicher Intelligenz einen Bias-Textscanner entwickelt.

"Medien sind für die politische Willensbildung als vierte Gewalt im Staat für unsere Demokratie unerlässlich", erklärt Jochen Leidner, Professor für Künstliche Intelligenz an der Hochschule Coburg. Leider seien die nachrichtliche Medienkompetenz vor allem bei jüngeren Menschen und die technologische Medienkompetenz bei älteren Menschen nicht immer so ausgebildet, um mit dem immensen Tempo der digitalen Entwicklung und ihrer damit verbundenen Veränderung der Kommunikation Schritt zu halten.

"Die Feinde der Demokratie sind stark gerüstet, das haben wir zuletzt bei dem Skandal um das elektronische Beratungsunternehmen Cambridge Analytica gesehen. Dort wurden mit Hilfe von Facebook-Daten Persönlichkeitsprofile erstellt, um Menschen bei der Brexit-Volksabstimmung und auch der Präsidentenwahl in den USA zielgerichtet politisch zu agitieren und zu manipulieren", erklärt Leidner. "Die Gegner der Demokratie versuchen zu spalten, vielleicht kann hier die Forschung helfen. Wir brauchen ein technologisches Gegenmittel, um eine geopolitische propagandistische Berichterstattung zu bekämpfen."

Um Texte sozusagen auf ihren Propagandagehalt zu überprüfen, haben Leidner und sein Team einen Textscanner entwickelt, der Texte anhand von sprachlichen Merkmalen auf seine Verzerrungen überprüft. Dieser liegen 27 sogenannte Bias-Typen zugrunde. Die auf künstlichen neuronalen Netzen basierende Anwendung kann einfach über den Browser als Plug-in (Software-Erweiterung) installiert werden und fährt dann bei beim Lesen der Texte automatisch über die Inhalte. Propagandistische Stellen werden farblich eingefärbt und mit Begründungen hinterlegt. Gleichzeitig wird die Stärke der Beeinflussung auf einer Skala angezeigt. Der Textscanner wurde unter der Überschrift "Improved Models for Media Bias Detection and Subcategorization" auf der "European Conference on Information Retrival " in Glasgow sowie der "International Conference on Natural Language & Information Systems" in Turin vorgestellt.

"Eine objektive und vertrauenswürdige Berichterstattung ist für die Aufrechterhaltung demokratischer politischer Systeme von entscheidender Bedeutung", erklären die Autoren Jochen Leidner und Tim Menzner in ihrem Paper. Allerdings seien die Nachrichtenmedien Manipulationen ausgesetzt, einerseits durch Einflussnahme (Propaganda) von außen als auch von innen (Agenda der Eigentümer eines Nachrichtenmediums). Wichtig sei es, eine Voreingenommenheit zu erkennen, dabei solle der Bias-Textscanner hilfreich sein.

Um überhaupt eine Beeinflussung zu messen, unterscheiden die KI-Forscher zwischen Voreingenommenheit und Propaganda. "Die Voreingenommenheit der Medien kann als die Tendenz beschrieben werden, bewusst oder unbewusst über eine Nachricht in einer Weise zu berichten, die ein bereits bestehendes Narrativ unterstützt, anstatt eine unvoreingenommene Berichterstattung über ein Thema zu liefern", schreiben Leidner und Menzner. "Im Gegensatz dazu wird Propaganda neutral als systematische Form der zielgerichteten Überredung definiert mit dem Ziel, Emotionen, Einstellungen, Meinungen und Handlungen für ideologische, politische oder kommerzielle Zwecken zu nutzen." Dabei würden einseitige sachliche oder auch nicht sachliche Botschaften über Massen- und direkte Medienkanäle übermittelt.

"Propaganda ist im Gegensatz zur Parteilichkeit immer absichtlich", erklären die Forschenden. Ihr Anspruch ist es, mit dem Textscanner sowohl Voreingenommenheit als auch Propaganda zu erkennen. Doch wie definieren sie, was unvoreingenommen ist? Wie wollen sie mit künstlicher Intelligenz bestimmen, was neutrale Positionen in Konflikten sind – zum Beispiel im Israel-Gaza- sowie Russland-Ukraine-Krieg?

"Unser Bias-Scanner basiert auf einem neuronalen Netz ("deep learning") und erkennt derzeit 27 Bias-Arten von Einflussnahmen", erklärt KI-Forscher Leidner. Dazu gehöre beispielsweise der Diskriminierungs-Bias, "bei dem eine Person oder Gruppe wie beispielsweise Minderheiten angegriffen werden, nur, weil sie sind wer sie sind" oder auch der Falsche-Dichotomie-Bias, "bei dem irreführenderweise suggeriert wird, es gebe nur zwei Handlungsmöglichkeiten, obwohl es viele Optionen gibt". Leidner zufolge würde jede Einflussnahme in ihrer Stärke (0,1 mäßig bis 1,0 stark) beurteilt.

Leidner nennt ein Beispiel für den Falsche-Dichotomie-Bias. "Bei dem Satz: 'Entweder wir ändern das Gesetz, um der Polizei mehr Befugnisse zu geben, oder wir akzeptieren die Kriminalität auf unseren Straßen', handelt es sich laut unserem Modell um eine mäßige Einflussnahme (0,6)." Die Aussage "Es ist ganz einfach: Entweder wir gehen zu einem Polizeistaat über oder wir lassen Kriminelle frei herumlaufen", sei hingegen schon eine höhere Beeinflussung (0,9).

Doch sind die Algorithmen nicht immer nur so gut, wie sie programmiert werden? Lässt sich nicht durch die Konzentration auf eine bestimmte Art der Einflussnahme auch schon wieder Einfluss nehmen? "Wir füttern den Computern mit Beispielsätzen, die Beispiele sind so ausgewählt, dass die 27 Typen gleich verteilt sind", erklärt Leidner. "Dafür verwenden wir Daten verschiedener Forschungsgruppen."

Gleichzeitig leiste die Software Leidner zufolge Datenschutz. "Wir heben keine Daten auf, wir wissen nicht, was Sie lesen und wer Sie sind", erklärt der KI-Experte. "Sie können aber ihre Daten anonym nach jeder Verwendung spenden, dafür ist ein Knopf installiert." Ziel sei es, dass viele Nutzer ihre Daten spenden. "Wir wollen als Forscher nicht die Gatekeeper sein. Je mehr Daten gespendet werden, desto weniger Einfluss haben wir." Verschiedene Daten aus verschiedensten Gruppen ermöglichten eine hohe Diversität und damit verbunden einen immer leistungsfähigeren Textscanner. Der Textscanner kann in englischer und deutscher Sprache genutzt werden.

"Ich wünsche mir, möglichst vielen Bürgern eine Leseunterstützung bieten zu können, die das eigene kritische Lesen unterstützt", sagte Leidner. "Wir nutzen ja schon Brillen und Lupen als optische Lesehilfen. In Zeit der Desinformation ist es Zeit, auch inhaltlich Hilfe zu bekommen, ohne bevormundet zu werden."