Soziale Medien ähneln zunehmend Nervenheilanstalten. Man findet dort Menschen mit allen erdenklichen Ansichten und Geisteszuständen, selten Heilung, immer aber einige Aufseher. Jüngst ernannte Klaus Müller, Chef der Bundesnetzagentur (BNetzA) einen ersten „Trusted Flagger“ – einen Aufseher, der über die Einhaltung der von der Regierung gewünschten Regeln in den Sozialen Medien wachen soll. REspect nennt sich die seit 2017 aktive Meldestelle, die jetzt im Zuge der Umsetzung des EU-Digital Services Act (DSA) in Deutschland im Rang unter den bereits seit einiger Zeit aktiven Internetzensoren hervorgehoben wurde (siehe Kasten).
Kommentare sind ätzend oder häßlich, aber nicht strafbar
„Trusted Flagger“ oder zu deutsch: „vertrauenswürdige Melder“ sollen Online-Plattformen wie Facebook, Twitter, Instagram und Co dabei unterstützen, „Illegale Inhalte, Hass und Fake News“ effizienter zu identifizieren und zu entfernen – so wirbt zumindest der, Klaus Müller, Chef der BNetzA für die neue Kompetenz seiner Behörde. Während die Bundesregierung dies als wichtigen Schritt zur Stärkung der Sicherheit im digitalen Raum sieht, äußern Datenschützer und Bürgerrechtsorganisationen scharfe Bedenken hinsichtlich möglicher Überwachung und Einschränkung der Meinungsfreiheit. Laut Umfragen haben ohnehin schon mehr als die Hälfte der Menschen in Deutschland das Gefühl, ihre Meinung nicht mehr frei äußern zu können.
Der EU Digital Services Act (DSA), der seit November 2022 in Kraft ist, sieht vor, daß Organisationen mit „ausgewiesener Expertise“ als „Trusted Flaggers“ benannt werden müssen. Die konkrteten Bedingungen für diese Expertise werden nicht benannt. Diese Meldestellen erhalten einen bevorzugten Zugang zu polizeilichen Verfahren. Und Plattformbetreiber sollen deren Hinweise prioritär behandeln.
Die neuen Titel vergibt die grün geführte weisungsgebundene BNetzA im Auftrag des grün geführten Bundeswirtschaftsministeriums. Die unzureichende Unabhängigkeit der Bundesoberbehörde vom Wirtschaftsministerium hatte der Europäische Gerichtshof schon als „nicht ordnungsgemäß“ kritisiert. Die seit 2017 aktive Meldestelle REspect! hatte sich als erste um den Titel beworden. Sie gehört der Jugendstiftung Baden-Württemberg, die Teil des Demokratiezentrums Baden-Württemberg ist, das wiederum vom Sozialministerium des Bundeslandes finanziert wird. Die Meldestelle will eine „zentrale Anlaufstelle für die Meldung von Haßrede und strafbaren Inhalten im Internet“ sein und arbeitet eng mit Behörden und den sozialen Netzwerken zusammen. „Haß und Hetze“ sind aber Inhalte, die in den meisten Fällen nicht strafbar, sondern nur unangenehm, häßlich oder dumm sind.
Schärfer bewertet es der Verfassungsrechtler Josef Franz Lindner: „‘Trusted Flagger’ sollen auch solche Meinungen melden, die eine ‘negative Wirkung auf den zivilen Diskurs’ haben“, zitiert er aus einem Leitfaden der BNetzA. Lindner urteilt: „Darunter kann man jede mißliebige Äußerung fassen. Das ist kraß rechtswidrig und der Einstieg in ein staatliches Zensursystem.“ Lindner weist darauf hin, daß die Zahl dieser staatlich begünstigten Meldestellen nicht begrenzt wurde. In Konkurrenz um staatliche Gelder suchen diese heute schon selbstständig nach sperrbaren Inhalten. In jedem Fall erlangen staatliche Behörden wie die Polizei und Landesmedienanstalten so an große Datenmengen. „Trusted Flagger“ leiten die Löschanfragen, die sie den Sozialen Medien stellen, vorab dem Bundeskriminalamt (BKA) zu – abermals weisungsgebundenen Beamten.
Durch die Einführung der „Trusted Flagger“ und die enge Zusammenarbeit mit staatlichen Institutionen erlangt der Staat weitere Möglichkeiten zur Einflußnahme auf die Online-Kommunikation. Behörden könnten indirekten Einfluß auf die Moderation von Inhalten nehmen und so die Meinungsfreiheit effektiv einschränken. Datenschützer und Bürgerrechtsorganisationen fordern daher umfassende Transparenz über die Beteiligung staatlicher Institutionen an den „Trusted Flaggern“ und den ebenfalls neu staatlich anerkannten Streitbeilegungsstellen. Klare gesetzliche Regelungen und offene Kommunikation seitens der Meldestellen lassen bisher zu wünschen übrig.
Neue Streitbeilegungstelle verschärft die Problematik nur
Der ebenfalls neu vergebene Titel einer staatlich anerkannten außergerichtlichen Streitbeilegungsstelle an die extra neu geschaffene „User Rights GmbH“ verschärft die Fragwürdigkeit des Systems nur. Stammen deren Gründer doch ebenfalls aus dem Umfeld der Grünen und der SPD. Diese Stelle soll es ermöglichen, Konflikte mit Plattformbetreibern über die Entfernung oder Sperrung von Online-Inhalten zu klären, ohne den Rechtsweg beschreiten zu müssen. Ziel ist, eine schnellere und kostengünstigere Lösung bei Meinungsverschiedenheiten. Jedoch kann diese Instanz genau das Gegenteil bewirken. Sprich: Nachdem eine Plattform vom Nutzer generierte Inhalte auf Druck des „Trusted Flaggers“ gelöscht hat, kann dieser sich an eine Instanz wenden, die im Zweifelsfall den Schaden durch eine fälschliche Löschung noch hinauszögert. So erkennt etwa auch die linksliberale Wochenzeitung Die Zeit an: „Der Digital Services Act der EU hat Schwächen. Er zielt darauf, illegale Äußerungen rasch zu löschen, um die Opfer zu schützen.“ Der DSA setze „einige Anreize für ein sogenanntes Overblocking“. Das führe dazu, daß die Unternehmen „eher ein bißchen zu viel als ein bißchen zu wenig zu löschen“.
Die Bundesnetzagentur verteidigt die Einführung der „Trusted Flaggers“ und der Streitbeilegungsstelle als notwendige Maßnahmen. Klaus Müller, Präsident der Netzagentur, erklärte: „Plattformen sind verpflichtet, auf Meldungen von Trusted Flaggern sofort zu reagieren. Illegale Inhalte, Haß und Fake News können sehr schnell und ohne bürokratische Hürde entfernt werden. Das hilft, das Internet sicherer zu machen.“ Der Verfassungsrechtler Volker Boehme-Neßler kritisiert das und warnt vor Eingriffen in die Meinungsfreiheit. „Die ‘bürokratische Hürde’ ist genau das, was die Meinungsfreiheit eigentlich schützen soll“, betont er. Boehme-Neßler sieht in der Umgehung regulärer Verfahren die Gefahr, daß Inhalte vorschnell gelöscht werden könnten, ohne ausreichende rechtliche Prüfung.
Aktuell streben elf weitere Organisationen danach, „Trusted Flagger“ zu werden. Unterdessen konnte die Bundesnetzagentur bisher keine Daten zur Effektivität von REspect! vorlegen. Insbesondere fehlen Informationen über die Anzahl und Art der gemeldeten Inhalte und der Verurteilungsquote.
Wie Insassen einer Nervenheilanstalt könnten die unliebsamen Nutzer bei kritischen Fragen vorschnell lobotomisiert, sprich ausgeschaltet werden. In den allermeisten Fällen ist die Behandlung auch unumkehrbar, da eine Richtigstellung erst nach monatelangem Prozeß durch die Strukturen geschehen könnte. Wer einen Namen zu verlieren hat, wird sich also von allem, was „Trusted Flagger“ kritisch sehen könnten, fernhalten. Kritische Berichte mit journalistischem Charakter könnten dann nicht mehr korrigierend in den Prozeß der politischen Meinungsbildung eingreifen.
Meldestellen für „Haß und Hetze“
„REspect!“
Jüngst von der Bundesnetzagentur zum ersten „Trusted Flagger“ ernannt, 2017 von der Jugendstiftung Baden-Württemberg gegründet, soll „Haß im Netz“ bekämpfen“. Leiter ist Ahmed Gaafar, der an der Muslimbruder-Unversität Al Azhar in Kairo studierte und dort Kontakte zum Hamas-Unterstützer Großscheich Ahmed Al-Tayyib hatte. REspect kooperierte wiederholt mit HateAid, der Amadeu-Antonio-Stiftung und den „Neuen deutschen Medienmachern“. Das federführende Demokratiezentrum Baden-Württemberg erhielt: 1.550.640 Euro (2020); 2.093.075 Euro (2021); 2.198.003 Euro (2022); 2.547.528 Euro (2023); 2.497.528 Euro (2024) vom Förderprogramm „Demokratie leben!“ des Bundesfamilienministeriums.
„HateAid“
Gegründet 2018 von Fearless Democracy in Hamburg zusammen mit dem Bundesjustizministerium, Campact und dem Insitute for Strategic Dialogue. HateAid finanziert die Klagen von Politikern wie Sawsan Chebli, Claudia Roth, Robert Habeck etc. gegen vermeintlichen „Haß“ im Netz. Gelder gibt es vom Bundesfamilienministerium (Demokratie leben!): 156.647 Euro (2021), 631.166 Euro (2022), 696.405 Euro (2023) und bis 2024 auch vom Bundesjustizministerium: 344.000 Euro (2021), 88.000 Euro (2022), 600.000 Euro (2023). Die Open Society: zahlte 150.000 US-Dollar für Campact 2021 „zur Stärkung von HateAid, das gegen Haßrede im Web vorgeht“.
Meldestelle Antifeminismus
Bundesweite Meldestelle für „antifeministische Vorfälle“ auch unter der sogenannten „Strafbarkeitsgrenze“. Sie wurde am 1. Februar 2023 von der Amadeu-Antonio-Stiftung (AAS) ins Leben gerufen. „Wir erfassen Fälle, unabhängig davon, ob sie angezeigt wurden und unabhängig davon, ob sie einen Straftatbestand erfüllen.“
HateShield
Im Fokus des Projektes der AAS stehen von digitaler Gewalt betroffene Gruppen „junger Mädchen, Angehörige von BIPoC und LGTBQIA*“ in Niedersachsen. Gefördert durch das Land Niedersachsen. Die AAS hat eine Handreichung zum Umgang mit Hate Speech und Kommentaren im Internet veröffentlicht. Die Bundesregierung zahlte: 967.045Euro (2017), 23.000 Euro (2018), 845.000 Euro (2019–20), 3.816.000 Euro (2021–2022); Die Open Society Stiftung gab: 515.075 US-Dollar (2019), 48.512 US-Dollar (2021); Von der EU kamen: 250.000 Euro (2020).
Die Landesmedienanstalten
Die Landesmedienanstalten der Bundesländer bieten Beschwerdeformulare, um sogenannte „Haßrede“ zu melden.
I-Report
Die umstrittene „Claim – Allianz gegen Islam- und Muslimfeindlichkeit“, zu der auch Muslimbruder-nahe Organisationen wie JUMA, Muslimische Jugend in Deutschland und Inssan e.V. gehören, unterhält seit 2020 das Meldeportal I-Report für sogenannten „antimuslimischen Rassismus“. Claim ist Mitglied der „Neuen Deutschen Organisationen – das postmigrantische Netzwerk“ (ndO), das im Rahmen von „Demokratie leben!“, der Bundeszentrale für politische Bildung (bpb) und der Integrationsbeauftragten des Bundes gefördert wird. Gelder zu I-Report fließen außerdem von der Europäischen Union und der Stiftung Mercator.
Hessen gegen Hetze
Das Justizministerium Hessens richtete das Meldeportal am 16. Januar 2020 ein. Die Meldestelle zählte 2022 noch rund 8.000 Meldungen. Im Jahr 2023 verdreifachte sich diese Zahl auf über 25.603. Etwa jeder fünfte Vorgang (5.380) mit möglicher strafrechtlicher Relevanz wurde an die Behörden in Hessen oder die Zentrale Meldestelle für strafbare Inhalte im Internet (ZMI) des BKA weitergeleitet. Diese erachteten davon etwa 4.030 als tatsächlich strafrechtlich relevant. Unter den 1.450 hessischen Fällen konnten bis Ende Januar dieses Jahres 720 Tatverdächtige aus ganz Deutschland identifiziert werden. Gegen 80 Tatverdächtige seien Ermittlungsverfahren eingeleitet worden. Sieben rechtskräftige Urteile beziehungsweise Strafbefehle mit Verurteilungen zu Geldstrafen lägen vor. 3.232 Vorgänge seien der ZMI BKA weitergereicht worden.
Zentrale Meldestelle für strafbare Inhalte im Internet des BKA (ZMI)
Die ZMI des BKA wurde am 1. Februar 2022 gestartet. Das BKA bekämpft mit seinen Kooperationspartnern sogenannte „Haß und Hetze im Netz“. Die Kooperationspartner wie „REspect“, „Hessen gegen Hetze“, „#Keine Macht dem Haß“ der „Zentralstelle zur Bekämpfung der Internet- und Computerkriminalität in Hessen“ (ZIT HE) oder die Initiative „Justiz und Medien – konsequent gegen Haß“ der Bayerischen Staatsregierung arbeiten eng mit der ZMI BKA zusammen und leiten Ihre Meldungen an diese weiter. Für den Zeitraum vom 1. Juni 2021 bis 29. Februar 2024 wurden der ZMI BKA von ihren Kooperationspartnern rund 20.900 Meldungen übermittelt. Abschließend bearbeitet worden seien in diesem Zeitraum knapp 19.300 Meldungen. 16.036 davon (83 Prozent) seien als strafrechtlich relevant eingestuft worden. In rund 88 Prozent der Fälle habe die ZMI des BKA entweder eine örtlich zuständige Landesstrafverfolgungsbehörde (zirka 75 Prozent) oder einen möglichen Aufenthaltsort des mutmaßlichen Verfassers im Ausland (zirka 13 Prozent) feststellen können. (CMM)