• Journalisten von MDR und BR haben ein Werkzeug entwickelt, das User-Kommentare mit KI-Methoden filtern kann. So sollen die Kommentare gefunden werden, die sich die Redaktion zuerst anschauen soll.
• Eine KI richtig zu trainieren, muss wohl überlegt sein. Sonst können sich Vorurteile verfestigen.
• Der Bayerische Rundfunk hat zehn Menschen, die sich im AI and Automation Lab um Fragen rund um Automatisierung und KI im Journalismus kümmern. Denn für KI-Anwendungen im Journalismus gibt es viele Ideen.

Noch vor wenigen Jahren war für Journalistinnen und Journalisten klar: War etwas gedruckt oder gesendet, war die Sache für sie und ihre Redaktion zumeist erledigt. In Zeiten des Internets gehört auch das so genannte Community-Management einer Social-Media-Redaktion selbstverständlich zum Job einer Redaktion: in sozialen Medien auf die wichtigsten Themen der Redaktion hinweisen und alle Kommentare dort und unter den Online-Artikeln lesen.

Das ist aufwändig, aber im öffentlich-rechtlichen Rundfunk auch gewollt, sagt MDR SACHSEN-ANHALT Online-Redakteur Martin Paul: "Die Social-Media-Redakteure müssen dafür sorgen, dass Menschen zu einer guten Kommunikation kommen, entweder mit uns oder untereinander." Austausch und Dialog gehören für ihn zum Journalismus heute dazu. "So entstehen auch neue journalistische Ideen oder Fragen, die wir nicht beachtet oder bedacht haben", sagt Martin Paul im MDR SACHSEN-ANHALT Podcast "Digital leben". Ob der Austausch allerdings für alle zufriedenstellend klappt, steht auf einem anderen Blatt.

Klar ist aber: Das Lesen aller Kommentare auf Twitter, Facebook, Instagram und auf den eigenen Seiten kostet Zeit. Hinweise und Ideen von Nutzerinnen und Nutzern, die einen Fakt richtig stellen oder eine konkrete Nachfrage haben, landen dabei gleichberechtigt mit anderen Kommentaren bei den Social-Media-Redaktion. Dabei sind gerade diese Nutzer-Kommentare die wichtigsten für eine Redaktion. Gelesen werden aber natürlich alle.

Martin Paul und Kollegen vom Bayerischen Rundfunk und ida, der Digitalagentur von MDR und ZDF, haben deshalb im vergangenen halben Jahr ein digitales Werkzeug entwickelt, das bei diesem Problem helfen soll. Und dafür haben sie eine künstliche Intelligenz trainiert, sagt Philipp Gawlik vom "AI and Automation Lab" des Bayerischen Rundfunks: "Die Idee ist also, die Aufmerksamkeit der Social-Media-Redakteure zuerst auf die Kommentare zu lenken, in denen sie angesprochen werden und nicht auf die vielen hundert anderen Kommentare."

Die ausführliche Beschreibung und Dokumentation des Projekts findet sich hier, die Videos der Präsentationen hier.

Entwickelt haben die Kollegen von MDR und BR ihr Werkzeug im Rahmen des JournalismAI Fellowship der London School of Economics and Political Science, die von der der Google News Initiative unterstützt wird.

Damit eine künstliche Intelligenz entstehen kann, muss sie quasi mit Daten gefüttert werden. In diesen Daten soll sie Muster erkennen. Diese Muster soll sie dann auch zukünftig in neuen Daten finden können. Die Daten, die MDR und BR dafür genutzt haben, waren fast 19.000 Kommentare zu Online-Artikeln von MDR und BR und auch von Kommentaren auf den Facebook-, Twitter oder Instagram-Seiten der beiden Sender.

Das KI-Training haben Gawlik, Paul und ihre Kollegen selbst übernommen. "Wir haben die Kommentare durchgelesen und solche Kommentare vermerkt, in denen die Redaktion angesprochen wurde", sagt Gawlik, der Computerlinguist ist. Er hat auch das KI-Modell trainiert und programmiert. Die Herausforderung dabei: "Es ist mitunter sehr vage, wie User die Redaktion ansprechen. Das kann zum Beispiel sein: 'Warum erwähnt niemand, dass...'. Oder: 'Ich bin nicht damit einverstanden, dass…'".

Jörg Pfeiffer, Product Manager beim BR AI and Automation Lab sagt, die KI suche ein wenig die Nadel im Heuhaufen: "Leute, die auf irgendeine Art und Weise die Redaktion ansprechen oder kritisieren." Das komme in der Realität nicht so oft vor – in diesem Fall nur in drei Prozent aller Kommentare. Auch das sei ein Grund, eine Lösung dafür zu finden und die Ursache dafür, dass es länger dauere, bis es einen nutzbaren Datensatz mit vielen technisch gesehen positiven Beispielen für das KI-Werkzeug gibt.

Dass Medienhäuser ein solches Werkzeug selbst entwickeln, sei wichtig, sagt Pfeiffer. "Wir prüfen natürlich, ob so etwas auch zu kaufen gibt. Aber viele Technologien sind nicht für den Journalismus gemacht." Natürlich gebe es KI-Systeme, die Texte entwerfen. "Für Werbetexte in Broschüren funktioniert das wunderbar. Aber der Journalismus hat natürlich ganz andere Kriterien", sagt Pfeifer im MDR SACHSEN-ANHALT Podcast "Digital leben".

Außerdem sind KI-Werkzeuge durch ihre Trainingsdaten auch begrenzt: Was die KI nicht kennt, erkennt sie nicht. "Nach dem russischen Angriff auf die Ukraine haben Wörter wie Energie, Erdöl oder Erdgas auf einmal eine ganz andere Konnotation. Und das kennen die KI-Systeme natürlich nicht, weil sie sich nicht über Nacht verändern", sagt Pfeiffer. Das müsse man der KI quasi neu antrainieren. Es brauche also weiter Menschen, die wissen, dass sich ein Wort oder der Kontext verändern kann.

Und KI-Trainingsdaten können beeinflusst sein und so Vorurteile verstärken. Computerlinguist Gawlik: "Das lässt sich besonders gut nachvollziehen, wenn Bilder generiert werden und die KI erfolgreiche Personen zeigen soll. Das ist dann ein weißer Mann im Anzug". Für Redaktionen gehöre es deshalb dazu, über KI Bescheid zu wissen und ihre Funktionsweise und Trainingsdaten hinterfragen zu können.

In begrenzten journalistischen Standard-Werken kann eine KI Journalisten entlasten. So hat MDR SACHSEN-ANHALT zur Landtagswahl 2021 Texte automatisiert entstehen lassen. Denkbar ist auch, dass ein KI-Werkzeug den Wetterbericht verfasst. Aber Gawlik glaubt nicht, dass wichtige journalistische Ergebnisse von einer KI verfasst werden. "Da müssen sich Journalisten nämlich fragen, dauert es länger, die Qualität der KI sicherzustellen oder den Text gleich selbst zu schreiben."

An dem Prototyp, der im JournalismAI Fellowship entstand, feilen die Medienmacher von MDR, ida und BR jetzt weiter. Und das Spannende dabei: Mit allen Kommentare unter den Artikeln auf MDR.de wird die KI weiter trainiert. Wer kommentiert, hilft also uns Medienmacher, besser zu werden.