Am Dienstag berichtete Netzpolitik.org-EU-Korrespondent Alexander Fanta über einen Plan der Europäischen Union, der schon im Februar bekannt geworden war. Messengerdienste und E-Mail-Anbieter sollen die Chats ihrer Kunden durchleuchten, um Material zu finden, das auf Kindesmissbrauch hindeutet. In dieser Woche war ein Gesetzesentwurf geleakt worden. Der frühere Netzpolitik.org-Chefredakteur Markus Beckedahl schrieb bei Twitter:

"Das ist der größte aktuelle Angriff auf unser Recht auf Privatsphäre."

Heute ist der inzwischen veröffentlichte Entwurf Thema auf der Titelseite der Süddeutschen Zeitung ("EU will Chats überwachen lassen"). Jannis Brühl und Josef Kelnberger schreiben:

"Das neue Gesetz soll die Digitalunternehmen verpflichten, eine Risikoabschätzung vorzulegen. Dabei soll es einerseits um die Verbreitung strafbarer Fotos und Videos mit sexueller Gewalt gegen Kinder gehen, andererseits auch um Anzeichen für 'Grooming', also die Versuche von Missbrauchstätern, sich Kindern im Netz zu nähern und ihr Vertrauen zu gewinnen. Sollte ein relevantes Risiko festgestellt werden, kann die nationale Aufsichtsbehörde einen 'Kontrollauftrag' erwirken. Mit welcher Technologie die Kommunikation dann kontrolliert werden soll, das soll in Absprache mit der neuen EU-Agentur 'Zentrum zur Bekämpfung von sexualisierter Gewalt gegen Kinder und Jugendliche' – festgelegt werden."

Dass Tech-Unternehmen die Nachrichten ihrer Kundschaft scannen, ist nicht neu. Bis vor anderthalb Jahren machten die Anbieter das freiwillig. Ihre Funde gaben sie an das US-Zentrum für vermisste und ausgebeutete Kinder weiter. Dort überprüfte man das Material und leitet es gegebenenfalls an die Behörden weiter. Mit dem neuen Gesetz will die Europäische Union eine dauerhafte rechtliche Grundlage für diese Praxis schaffen, denn die fehlte bislang.

Jannis Brühl macht in einem Kommentar für die SZ darauf aufmerksam, welche Gefahren das mit sich bringt. Er schreibt:

"Der Zwang zum Scannen würde an der Ende-zu-Ende-Verschlüsselung scheitern, die etwa Whatsapp-Chats absichert. Die Regeln würden Unternehmen also zwingen, diese bislang beste Form der Verschlüsselung zu korrumpieren."

Die Verschlüsselung werde dadurch "für alle Nutzer unbrauchbar". Absurderweise zwinge die EU mit Regeln wie der Datenschutz-Grundverordnung ebenjene Unternehmen, die Privatsphäre ihrer Nutzer zu schützen. 

Ein weiterer Punkt ähnelt der Kritik an den Upload-Filtern. Die Technik sei zwar geeignet, um die gesuchten Inhalte zu finden, aber sie sei fehleranfällig.

Jannis Brühl:

"Weil sie [die Technik, Anm. Altpapier] kein Gespür für Kontext und Details von Bildern hat, wird sie Hunderttausende falsche Treffer melden. Bis das auffällt, sind private – und völlig legale – Bilder schon in der Hand der EU-Behörde."

Zudem sei oft schwer auszumachen, ob die abgebildeten Menschen minderjährig oder schon 18 Jahre alt seinen – und ob es sich bei Chats tatsächlich um "Grooming" handle. Derart komplexe Muster in der Sprache, die das zweifelsfrei belegen, könne eine Software gar nicht erkennen.

Man kann das alles aber auch anders sehen. Daniel Deckers schreibt in der FAZ in einem Kommentar (€), der in der Zeitung die Überschrift "Erregungskurve" trägt (im Netz "Fatale Erregungskurve"), es sei immer wieder erstaunlich,

"mit welch wüsten Schmähungen sogenannte Netzaktivisten und angeblich um Bürgerrechte besorgte Politiker einander überbieten, sobald es um das Thema Kinderpornographie und Internet geht".

Das ist schon sprachlich ganz interessant. Um welche wüsten Schmähungen, also Diffamierungen von Personen, es hier gehen soll, steht in der Zeitung nicht. Deckers distanziert sich von der Bezeichnung "Netzaktivisten", um die Position der Gegenseite noch etwas zweifelhafter erscheinen zu lassen. Und Deckers unterstellt, in der Debatte äußerten sich "angeblich um Bürgerrechte besorgte Politiker". Er unterstellt ihnen also ein anderes Interesse. Auch das könnte man Diffamierung nennen.

Deckers schreibt:

"Anstatt daran mitzuwirken, dass Server in Europa nicht länger als Hauptvertriebskanal einschlägiger Ware dienen und Meldungen über Verdachtsfälle erst an eine gemeinnützige Institution mit Sitz in den Vereinigten Staaten gemeldet werden müssen, ehe sie europäische Strafverfolgungsbehörden erreichen, werden verbale Keulen geschwungen, denen anscheinend alles heiliger ist als das Recht der Kinder auf körperliche Unversehrtheit."

Wir fassen noch einmal kurz zusammen: Den verbalen Keulen ist anscheinend alles heiliger als die Rechte von Kindern auf Unversehrtheit. Hier wäre vermutlich beim Schreiben etwas weniger Erregung ganz nützlich gewesen.

Sören Brinkmann hat für das Deutschlandfunk-Medienmagazin "@mediasres" mit dem Medienrechtler Stephan Dreyer vom Hamburger Hans-Bredow-Institut unter anderem darüber gesprochen, was das geplante Gesetz für den Journalismus bedeuten würde, also für den Quellenschutz. Dreyer sagt:

"Die ganze Frage der Risikoabschätzung, was die Etablierung dieser Verfahren auf der Providerseite bedeuten für so etwas wie Grund- und Menschenrechte, die werden den Providern auferlegt. Also die sollen sich darum kümmern, dass zum Beispiel die Grundrechte von Einzelnen berücksichtigt werden. Und damit wird eigentlich auch die Verantwortung für Ausnahmen zum Beispiel von solchen automatischen Identifizierungs- und Analyseverfahren dann an die Provider abgegeben. Das ist aus meiner Sicht etwas, was wir problematisieren müssen, was wir diskutieren müssen, weil der Staat selbst dürfte das an der Stelle nicht delegieren. Er delegiert hier die Verantwortung sozusagen an Dritte, etwas zu tun, was er selbst nicht tun dürfte."

In dem Interview spricht Dreyer auch über die verschiedenen technischen Möglichkeiten, die Chats zu durchsuchen.

Zuallererst muss laut dem Entwurf eine nationale Stelle, ein Gericht oder eine Behörde eine Aufforderung erlassen, eine sogenannte "Detection Order". Sie verpflichtet Anbieter, technische Verfahren einzubauen.

Die Anbieter können dann zum einen Chats nach dem digitalen Fingerabdruck von bereits vorhandenem Material zu durchsuchen (Hash-Wert-basierte-Suche). In anderen Verfahren sucht eine Software nach ähnlichen Darstellungen – also solchen, die "noch nicht beispielsweise von einem Gericht zweifelsfrei als Missbrauchsdarstellungen identifiziert worden sind". Hier ist nicht immer klar, ob es sich bei einer Abbildung um Missbrauch handelt. Das macht Fehler wahrscheinlich.

Der Einschätzung von Datenschützern, die EU werde hier zum "Weltmarktführer bei der Massenüberwachung ganzer Bevölkerungen", stimmt Dreyer insofern zu, als die EU hier seiner Einschätzung nach eine rechtliche Infrastruktur dafür aufbaue. Wenn man davon ausgehe, dass alle großen Provider den oben erklärten Kontrollauftrag (Detection Order) hätten, "dann haben wir es hier mit einer systematischen Überwachung von Privatkommunikation zu tun", sagt Dreyer. Er sieht noch viele offene Fragen.

Dreyer:

"Ich gehe davon aus, dass an irgendeiner Stelle jedenfalls dieser Artikel 10, um den es hier geht, dieses Chatkontrolle, einer sehr, sehr strengen kritischen Überprüfung nicht standhalten würde."

Felix Reda, Leiter des Projekts "control©" bei der Gesellschaft für Freiheitsrechte und ehemaliges Mitglied des Europäischen Parlaments, erklärt in einem Twitter-Thread, warum es seiner Meinung nach völlig unerheblich ist, ob etwas über "Hintertüren in der Verschlüsselung" im Text des Entwurfs steht. Bei den Uploadfiltern sei es ähnlich gewesen.

Felix Reda:

"Natürlich werden Plattformen gezwungen, #Uploadfilter zu verwenden, auch wenn das Wort nicht im Gesetz steht. Das ist ein billiger Taschenspielertrick."

Der Europäische Gerichtshof habe klargestellt, dass Uploadfilter, die legale und illegale Inhalte nicht unterscheiden können, unzulässsig seien. Das ignoriere die EU-Kommission bei der Chatkontrolle. Fehler seien vorprogrammiert.

Anbieter sollen "freiwillig alles unternehmen, um die Verbreitung von Missbrauch zu unterbinden". So versuche der Staat sich "aus der Verantwortung für Grundrechtseingriffe zu stehlen".

Schutzvorkehrungen für Grundrechte griffen nur, wenn es zu einer behördlichen Anordnung komme.

"Anbieter werden aber versuchen, Anordnungen zu vermeiden und deshalb auch private Kommunikation durchleuchten. Von Freiwilligkeit kann da keine Rede sein",

schreibt Reda. Genau dieses Vorgehen habe der Europäische Gerichtshof bei der Uploadfilter-Regelung ausgeschlossen. Der Staat dürfe Unternehmen "nicht de facto zur Filterung verpflichten und dann so tun, als wäre er für die daraus resultierenden Grundrechtseingriffe nicht verantwortlich".

Tiemo Wölken, für die SPD im Europaparlament, schreibt ebenfalls in einem Twitter-Thread, laut dem Entwurf sollten die Filter "wahre Wunder vollbringen". Gleichzeitig sollten sie "strikt limitiert werden, den Datenschutz & Privatheit der Kommunikation beachten (haha!). Und das alles ohne Fehler".

Diese "#Horrorfilter" dürften von den Diensten selbst entwickelt werden. Oder aber man verwende "staatliche (!) & kostenlose Schnüffelsoftware". Und das bedeute:

"Bürger*innen sollen mit ihren Steuern den großflächigen Einsatz von Spionagesoftware gegen sich selbst auch noch finanzieren."

Klar sei, es gebe keinen Datenschutz und keine Privatsphäre, wenn die private Kommunikation durchleutet werde. Der Entwurf versuche aber vorzugaukeln, dass beides garantiert sei.

Wölken geht in seinem Thread auch auf das Argument ein, die Rechte von Kindern, die missbraucht werden, spielten hier nur eine untergeordnete Rolle. Er schreibt:

"Klar müssen wir Kinder vor Missbrauch schützen und die Verbreitung von diesem widerlichen Material (…) beenden. Dafür braucht es: Mehr Mittel für die Polizei, mehr Zusammenarbeit aber keinen Generalschlüssel (…) für alle online verschickten Nachrichten."

+++ Samira El Ouassil beschäftigt sich für Übermedien (€) noch einmal mit Fynn Kliemannm, der nach seiner eigenen Darstellung sozusagen gefallen ist, weil er gefallen wollte, und auf dessen Fall viele mit einem schulterzuckenden "Ich kenn den gar nicht" reagierten. Samira El Ouassil: "Es geht (ihm) um das gemocht werden. Zugleich sind Influencer eben nicht Freunde der Rezipienten, und man sollte nicht den Fehler begehen zu behaupten, die Meldung sei gewesen: 'Skandal: Influencer sind gar nicht die Freunde ihres Publikums!' Influencer sind Verkäufer, Händler ihres Images und Bewerber ihres Produkts: sie selbst. Die Meldung ist: 'Mutmaßlich Hundertausendfacher Betrug eines Großhändlers beim Verkauf medizinischer Masken.' Und das ist eine Nachricht, die sollte man kennen."

+++ Mit der Frage, warum eine Figur wie Fynn Kliemann überhaupt so viele Menschen begeistert, beschäftigt sich Christiane Lutz in einem Beitrag auf der SZ-Medienseite (€). Also haben sich so viele dem angeschlossen, was Kliemann vorgelebt hat? "Als Selbstvergewisserung sozusagen: Ich gehöre zu den Guten. So entstehe auch ein Entlastungsgefühl durch den handelnden sogenannten Sinnfluencer. Wenn der aktiv wird, muss ich es ja nicht werden, ein Like genügt. Der Deal ist eine Art ausgelagertes soziales Engagement."

+++ Ein schönes Beispiel dafür, warum eine gute Vorbereitung vor einem Interview ganz nützlich ist, gibt Charlotte Parnack, die für die "Zeit" per Whatsapp (€) mit dem "Bild"-Reporter und Vize-Chef Paul Ronzheimer gesprochen hat. An einer Stelle sagt sie: "Im August 2021 berichteten Sie über die Evakuierung aus Afghanistan. Als Sie aus Kabul ausgeflogen wurden, weil das US-Militär das Risiko für Journalisten zu groß fand, haben Sie sich zum Flüchtling stilisiert." Ronzheimer antwortet: "Das ist eine absurde Unterstellung." Parnack wirft den Beleg auf den Tisch: "'Ich sitze in einer Art Abschieberaum und warte, dass ich in die Maschine nach Doha gestoßen werde zusammen mit anderen Flüchtlingen.' Ihre Worte." Ronzheimer: "Ich fand die Aktion der Amerikaner, Journalisten auszuweisen, unmöglich." 1:0 Charlotte Parnack.

+++ Auf der FAZ-Medienseite berichtet Christian Meier (€) über die Journalistin Shireen Abu Akleh, die im Westjordanland getötet worden ist (Altpapier). Wer sie getötet hat, ist nicht klar.

+++ Das für funk produzierte NDR-Magazin "STRG_F" hat sich mit der Biografie von "Stern"-Gründer Henri Nannen beschäftigt und dabei "etwas gefunden, was richtig schlimm ist", wie Reporter Han Park in dem 21-minütigen Beitrag erzählt. Es geht um Flugblätter, die Nannen als Chef der Propagandaeinheit "Südstern" im Jahr 1944 herstellt haben soll. Man habe von einem Kollegen einen Tipp bekommen, dasss sie in der Berliner Staatsbibliothek liegen, sagt Reporter Gunnar Krupp. So richtig neu scheinen die Erkenntnisse allerdings nicht zu sein. Die SZ schrieb schon am 11. Mai 2010 darüber, dass die Flugblätter in der Staatsbibliothek liegen, wie Claus Grimm bei Twitter anmerkt. Auch im Altpapier war die Vergangenheit von Henri Nannen in den vergangenen Jahren immer wieder Thema, zum Beispiel hier und hier.

+++ Das Magazin "Vice" und das Informationsfreiheitsportal "FragdenStaat" haben die Deutsche Welle verklagt, weil der Sender nicht so ganz offen über eine Kunstsammlung sprechen möchte, die er gekauft und über die er auch selbst berichtet hat. "Vice"-Chefredakteur Felix Dachsel erklärt das Ganze hier.

+++ Google will jetzt auch 300 Verlagen in Deutschland und Frankreich Geld für ihre Inhalte zahlen und das mit einem Tool erleichtern, berichtet die Nachrichtenagentur Reuters (hier zu lesen beim Handelsblatt). Vereinbarungen mit "Spiegel", Zeit" und "Frankfurter Allgemeine Zeitung" gebe es schon.

Neues Altpapier gibt es am Freitag.