Faktencheck Gegen Hass und Hetze: Wie "Trusted Flagger" bei der Bekämpfung von Straftaten im Internet helfen

• Zertifizierte Meldestellen, sogenannte Trusted Flagger, zensieren keine Inhalte im Internet, sondern melden illegale Inhalte bei den jeweiligen Online-Plattformen.
• Trusted Flagger werden von der Bundesnetzagentur unter besonderen Voraussetzungen zertifiziert.
• Die Meldestelle "REspect!" arbeitet als Trusted Flagger eng mit dem Bundeskriminalamt zusammen.
• Trusted Flagger erzielen hohe Trefferquoten bei der Meldung von Straftaten im Netz.

34 Strafanzeigen pro Tag stellen die Mitarbeiterinnen und Mitarbeiter der Meldestelle "REspect!" im Durchschnitt beim Bundeskriminalamt (BKA). Alle Strafanzeigen beziehen sich auf Inhalte, die in sozialen Medien wie TikTok, Instagram, Facebook und Co. erschienen sind. Die Meldestelle ist seit Anfang Oktober der erste zertifizierte sogenannte "Trusted Flagger" unter dem Digital Services Act (DSA) in Deutschland. Der DSA ist im November 2022 in Kraft getreten und wurde im Mai dieses Jahres durch das sogenannte Digitale-Dienste-Gesetz in deutsches Recht eingebunden.

Trusted Flagger wie "REspect!" sind durch die Bundesnetzagentur zertifizierte Hinweisgeber, die illegale Inhalte im Netz bei Plattformen melden. Die Mitarbeitenden von "REspect!" stellen im gleichen Zuge eine Anzeige beim BKA. Die von ihnen gemeldeten Tatbestände sind etwa Verbreiten von Propagandamitteln verfassungswiedriger Organisationen, Bedrohung, Öffentliche Aufforderung zu Straftaten oder Volksverhetzung.

Der TikTok-Creator "Klartext_Politik1.0" findet den Einsatz von Trusted Flaggern nicht in Ordnung und behauptet in einem mittlerweile gelöschten Video: "Das ist staatliche Zensur". Der TikTok-Creator sagt in dem Video außerdem, digitale Netzwerke seien verpflichtet, die Inhalte "sofort zu löschen", wenn ein Trusted Flagger sie meldet. "Und das selbst dann, wenn die Aussage durch die Meinungsfreiheit gedeckt ist", sagt er.

Was ist da dran?

Nichts, sagt der Rechtswissenschaftler Hubertus Gersdorf von der Universität Leipzig im Gespräch mit MDR AKTUELL. "Der Hinweis führt nicht zur Löschung, sondern der führt nur dann zur Löschung, wenn der Plattformbetreiber sich der Auffassung das Trusted Flagger anschließt. Es muss sich um einen Rechtsverstoß handeln. Es geht jetzt nicht darum, ob der Inhalt gegen irgendwie ethische oder sonstige Maßstäbe verstößt, sondern es geht darum, ob der Inhalt rechtswidrig ist", so Gersdorf.

Inhalte melden kann jede Person im Internet. TikTok, YouTube, Facebook und alle anderen Digitalen-Plattformen müssen einen Meldeweg bereitstellen, damit Nutzerinnen und Nutzer potenziell rechtswidrige Beiträge melden können. Neu nach Artikel 22 Abs. 1 des DSA ist, dass Plattformen die Meldungen von Trusted Flaggern priosrisiert, das heißt unverzüglich, bearbeiten müssen.

Auf Anfrage von MDR AKTUELL stellt die für die Koordinierung von Trusted Flaggern zuständige Bundesnetzagentur klar: "Trusted Flagger entscheiden nicht über die Entfernung von Inhalten." Die Idee hinter den Trusted Flaggern ist, dass sie rechtswidrige Inhalte schneller erkennen können als normale Userinnen und User, erklärt die Professorin für Recht der Digitalisierung an der Universität Regensburg, Anna Bernzen, auf tagesschau.de.

Um als Trusted Flagger zugelassen zu werden, müssen Organisationen "besondere Sachkenntnis und Erfahrung bei der Identifizierung und Meldung von rechtswidrigen Inhalten" nachweisen, teilt die Bundesnetzagentur MDR AKTUELL mit. Nur Organisationen aus Deutschland können den Status erhalten. Um Trusted Flagger zu werden, müssen sie eine Zulassung bei der Bundesnetzagentur beantragen.

In anderen EU-Ländern sind Trusted Flagger schon länger im Einsatz, so etwa in Finnland, Dänemark, Schweden und Österreich. Auf der Website der Europäischen Kommission findet sich eine Liste über alle unter dem DSA offiziell zugelassenen Trusted Flaggern.

Das Konzept der Trusted Flagger ist nicht ganz neu. Verschiedene Plattformen wie etwa YouTube haben bereits seit einigen Jahren eigene sogenannte "Priority Flagger" zugelassen, die dabei helfen sollen, illegale Inhalte auf YouTube schneller zu finden.

Petra Densborn ist die Vorsitzende der Jugendstiftung Baden-Württemberg, die die Meldetstelle "REspect!" betreibt. Im Gespräch mit MDR AKTUELL erklärt sie, wie ihre Mitarbeiterinnen und Mitarbeiter arbeiten. "Also der Vorgang startet damit, dass jemand eben das tatsächlich als Screenshot zum Beispiel bei uns auf der Seite hochlädt." Dazu gibt es auf der Website von "REspect!" ein Meldeformular. Inhalte können dort auch anonym gemeldet werden.

Auf der Seite der Meldestelle "REspect!" können Inhalte durch Betroffene oder Beobachter von Straftaten im Netz mithilfe eines Formulars gemeldet werden. Die Meldestelle übernimmt die Überprüfung der Inhalte und stellt gegebenenfalls eine Anzeige. (Screenshot) Bildrechte: REspect! - Gegen Hetze im Netz

Im zweiten Schritt schaut sich das Team die Inhalte an. Über 20.000 Meldungen habe die Stelle bereits bearbeitet, sagt Densborn. Das Team ist ihren Angaben nach interdisziplinär besetzt. "Das heißt, ganz unterschiedliche Fachrichtungen sitzen da zusammen, vom Religionswissneschaftler bis hin zum Sozialwissenschaftler und Juristen und schauen sich das an", erklärt sie.

Das Team gehe nach einem Kriterienkatalog vor. Die Mitarbeitenden schauen demnach explizit nach Verstößen gegen geltendes Recht: "Und wenn wir den Eindruck haben als Team, dass diese Meldung tatsächlich einen dieser Strafrechtstatbestände erfüllt, dann geben wir das erstmal weiter an das BKA. Das BKA prüft am Ende, ob unser Eindruck, den wir gewonnen haben, tatsächlich zu bestätigen ist und ob tatsächlich eine strafrechtlich relevante Meldung hier an diesem Punkt vorliegt", erklärt Densborn.

Nach einer Rückmeldung vom Bundeskriminalamt (BKA) stellt "REspect!" eine Löschbitte an die jeweilige Plattform. "Und da ist nochmal ganz wichtig: Wir machen eine Löschbitte, also wir sagen nicht, 'das muss jetzt gelöscht werden'", betont Densborn.

Auf Anfrage von MDR AKTUELL bestätigen Sprecher von Google (YouTube) und Meta (Facebook und Instagram), dass Meldungen von Trusted Flaggern nicht unverzüglich gelöscht werden, sondern nach bestimmten Kriterien bewertet werden. Dann werde über eine mögliche Löschung entschieden.

Densborn zufolge gingen im laufenden Jahr 2024 durchschnittlich 85 Meldungen am Tag bei "REspect!" ein. Davon werde durchschnittlich ein Drittel zur Anzeige beim BKA gebracht. Das Team der Meldestelle hat laut Densborn eine hohe Trefferquote: "Über 80 Prozent der Dinge, die wir melden, sind tatsächlich strafrechtsrelevant in ganz großer Eindeutigkeit und an die 90 Prozent erfüllen in der Regel auch einen Grenzbereich."

Doch warum sieht der DSA überhaupt vor, dass ein Plattformbetreiber solche Inhalte zu prüfen und gegebenenfalls zu löschen hat? Weil der DSA versuche, einen Ausgleich herbeizuführen zwischen einer Person, die vermeintlich eine Meinung äußert und der Person, deren Persönlichkeitsrechte durch diesen Inhalt verletzt werden, erklärt Rechtswissenschaftler Hubertus Gersdorf. "Dieser Mechanismus, dass rechtswidrige Hinweise auch verfolgt werden müssen im Interesse des Betroffenen, ist rechtstaatlich nicht zu beanstanden, sondern sogar rechtstaatlich geschuldet", erläutert Gersdorf.

Auch Gersdorf betont, dass weder Trusted Flagger noch die Bundesnetzagentur als deren Koordinator Inhalte löschen können: "Sodass der Vorwurf, hier würde eine Zensurbehörde in der Gestalt der Bundesnetzagentur eingerichtet, wirklich neben der Sache liegt."

Verantwortung an den Zensurvorwürfen trägt die Bundesnetzagentur zum Teil selbst. Die Behörde hat Anfang Oktober eine ungenau formulierte Pressemitteilung herausgegeben, die inzwischen überarbeitet worden ist. Darin hieß es: "Plattformen sind verpflichtet, auf Meldungen von "Trusted Flaggern" sofort zu reagieren. Illegale Inhalte, Hass und Fake News können sehr schnell und ohne bürokratische Hürde entfernt werden."

Ausschlaggebed ist hier das Wort "illegal". Denn nicht immer sind Hass und Fake News Straftaten. Kritiker des Konzepts befürchteten demnach eine Zensurinfrastruktur ohne rechtliche Grundlage. So sprach etwa Stephan Brandner von der AfD von "Netzdenunzianten", der FDP-Politiker Wolfgang Kubicki bezeichnete die Bundesnetzagentur in der BILD als eine "grüne Zensuranstalt". 

Mittlerweile schreibt die Bundesnetzagentur von "illegalen Inhalten, illegalem Hass und illegalen Fake News". Außerdem heißt es in einer Mitteilung: "Was illegal ist, entscheiden weder "Trusted Flagger" noch die Bundesnetzagentur."