Was darf im Internet eigentlich noch gesagt werden? Diese Frage erlebt seit der Twitter-Übernahme durch Elon Musk Hochkonjunktur. Während das linksliberale Lager eine Radikalisierung des Plattformdiskurses durch vermeintliche Haßinhalte moniert und dabei insgeheim fürchtet, vom Thron der Deutungshoheit gestoßen zu werden, feiert die Gegenseite den neuen Besitzer für seine mutmaßlich großzügigere Auslegung der Meinungsfreiheit.

Dabei ist zumindest der rechtliche Rahmen, in dem sich sowohl Nutzer als auch die Tech-Giganten bewegen müssen, seit 2017 klar abgesteckt. Mit dem Netzwerkdurchsetzungsgesetz (NetzDG) hat die damalige Koalition aus Union und Sozialdemokraten ein Gesetz auf den Weg gebracht, das strafrechtlich relevante Aussagen in den sozialen Medien herausfiltern sollte. Ein universales Werkzeug gegen Antisemitismus, Rassismus, Rechtsextremismus – so zumindest der Plan. Bilanzieren lassen sich nach fünf Jahren Gültigkeit jedoch auch andere Effekte: Das NetzDG und dessen Erweiterungen haben vorerst nicht an der Macht der Tech-Konzerne gerüttelt, sondern zementieren lediglich staatliche Eingriffe in die Netzfreiheit.

Es kommt immer wieder zu zweifelhaften Nachverfolgungen

Doch was genau hat sich seit dem Inkrafttreten des Gesetzes am 1. Oktober 2017 und dem Ablauf der Übergangsfrist am 1. Januar 2018 überhaupt verändert? Auf den ersten Blick fallen in den Transparenzberichten der verschiedenen Plattformen wie Facebook, Twitter und Youtube vor allem die Zunahme der gemeldeten Inhalte und die sich anschließende Löschung der Accounts ins Auge. Auch eine schärfere Verfolgung der gemeldeten Beiträge durch die Behörden ist zu beobachten. Die Meldewelle betrifft alle Netzwerke. Auf Twitter etwa gingen 2018 insgesamt 521.000 Beschwerden im Rahmen des NetzDG ein, 2021 hat sich die Zahl mit 1,5 Millionen Meldungen fast verdreifacht, so die offiziellen Zahlen von Twitter. Eines hat sich über die Jahre allerdings nicht verändert: Nur in durchschnittlich etwas über zehn Prozent der gemeldeten Fälle wird der Kurzmitteilungsdienst überhaupt aktiv, entfernt also gemeldete Inhalte. Ähnlich sieht es bei Facebook aus. Gab es 2020 knapp 3.000 Beschwerdefälle zum Thema Volksverhetzung, waren es im Folgejahr etwa 56.000 Meldungen.

Neben den Meldungen kam es in den vergangenen Jahren auch bei behördlichen Anfragen, zum Beispiel um die IP-Adresse der Täter bei Straftatbeständen zu ermitteln, zu einem deutlichen Anstieg. Lag die Anzahl der Datenanfragen in Deutschland 2013 bei ca. 3.500, waren es im vergangenen Jahr mit fast 32.000 zehnmal so viele. Auch auf Youtube weiteten die deutschen Haß­kontrolleure ihre Tätigkeit aus. Gab es 2009 nicht einmal 500 Auskunftsersuchen, waren es 2021 über 45.000. Zur Einordnung: Insgesamt wurden der Videoplattform im vergangenen Jahr rund 575.000 Beschwerden im Rahmen des NetzDG gemeldet. Aus den Behördenanfragen ergeben sich deutlich mehr Folgehandlungen. 

Von Facebook wurden 2021 bei etwa 60 Prozent der auffälligen Inhalte in Deutschland Informationen herausgegeben und die Inhalte gesperrt oder gelöscht. Weltweit lag der Durchschnitt nur unweit höher. Immer mehr Profile müssen daher insgesamt von den Plattformen weichen. Sperrte Twitter 2018 weltweit etwa 750.000 Accounts, lag die Zahl mit knapp 2,5 Millionen Konten im vergangenen Jahr weit darüber. 

Um erfolgreicher gegen verbotenen Content vorzugehen, hat der deutsche Gesetzgeber sogar noch einmal nachgelegt. Die seit Februar 2022 in Kraft getretene Änderung am Netzwerkdurchsetzungsgesetz sollte zur stärkeren Nachverfolgung der Tastaturen-Täter führen. Im Bundeskriminalamt ging man zum damaligen Zeitpunkt von „circa 250.000 Meldungen aus, aus denen sich rund 150.000 Ermittlungsverfahren ergeben könnten“, sagte der Präsident des Bundeskriminalamtes, Holger Münch. Seither sollten strafbare Inhalte an das Bundeskriminalamt weitergeleitet werden – theoretisch. Lange dauerte es nicht, bis sich Google und Meta gegen die Verpflichtung auflehnten. Und gewannen: Das Verwaltungsgericht in Köln entschied im März, daß die beiden Unternehmen die auferlegten Meldeauflagen vorerst nicht erfüllen müssen. Aktuell werde immer noch geklagt, auch von Twitter und TikTok, so ein Sprecher des BKA gegenüber dem M-Magazin. 

Ohne die Zuarbeit der Netzwerke läuft es schleppend für die Behörden: Bis November seien nur knapp 4.000 Meldungen bei der „Zentralen Meldestelle für strafbare Inhalte im Internet“ eingegangen, zwei Drittel davon seien strafrechtlich verfolgt worden. Die Meldestelle wurde ursprünglich für die Zusammenarbeit mit den Plattformen eingerichtet, letztlich fand das BKA aber andere Kooperationspartner. So arbeitet es aktuell mit der hessischen Zentralstelle zur Bekämpfung der Internet- und Computerkriminalität zusammen sowie mit der Zentral- und Ansprechstelle Cybercrime NRW. Hinzu kommen unterstützende Projekte wie „Hessen gegen Hetze“ oder die Meldestelle „REspect!“, eine Jugendstiftung im Demokratiezentrum Baden-Württemberg. 

Alles, was in den Bereich der Beleidigung, übler Nachrede, Volksverhetzung oder auch staatsgefährdende Inhalte fällt, kann dort angezeigt werden. Welche Inhalte dann tatsächlich nachverfolgt werden, liegt im Ermessen der Behörden. So kommt es immer wieder zu zweifelhaften Nachverfolgungen. Im vergangenen Jahr sorgte der Fall eines Twitter-Nutzers für Aufsehen, der unter einem Beitrag des Hamburger Innensenators Andy Grote mit den Worten „Du bist so 1 Pimmel“ kommentierte.

Die Polizei nahm daraufhin Ermittlungen auf und durchsuchte die Wohnung des Users. Das Beispiel sorgte damals nicht nur für rege Solidaritätsbekunden gegenüber dem vermeintlichen Haß-Täter, sondern beweist die Ratlosigkeit im Vorgehen der Behörden. Während sich zum Beispiel islamistische Hetzer seelenruhig auf Plattformen wie TikTok ausbreiten können, verfolgen deutsche Behörden Lappalien wie das obige „Pimmelgate“. Auch die Löschpraxis der sozialen Netzwerke sorgt immer wieder für Kritik. Für User undurchsichtig, geraten dabei immer wieder Inhalte ins Visier, die zwar polarisierend, aber nicht strafrechtlich relevant sind. Auch einordnende Inhalte oder Satire fallen darunter. 

Mit welcher Willkür die großen Plattformen zum Teil vorgehen, zeigte sich 2020 am Beispiel von Spotify. Erst löschte der Streamingdienst nur eine Folge des Podcasts „Indubio“ der Achse des Guten, dann folgte das gesamte Format. Nach kurzer Zeit waren die Folgen dann plötzlich wieder abrufbar. Die Kombination aus behördlichen Vorgehen und Netzwerk-Willkür erweist sich so als reale Gefahr für die Meinungsfreiheit. Doch was als Kontrollmechanismus der Bürger funktioniert, ist von Anfang an sogar Exportware. Staatliche Eingriffe in den Debattenkorridor „Made in Germany“.

Das deutsche Gesetz als Blaupause für EU-Regeln

Daß die Nachahmer in Brüssel zu finden sind, ist wenig überraschend. Mit dem am 16. November 2022 in Kraft getretenen Digital Services Act hat die Europäische Union ihre 20 Jahre alten E-Commerce-Richtlinien ganz nach dem deutschen Vorbild des NetzDG überarbeitet: ein Rundumschlag. Die neue Variante umfaßt nicht nur eine Regulierung der Vermittlungsdienste in Form von Haßbekämpfung, sondern ebenso eine Kontrolle der digitalen Märkte (Digital Markets Act). Angestrebt ist damit ein ganzheitlicher, digitaler Strukturrahmen, der dem Nutzer sowohl Schutz vor unangemessenen Inhalten als auch vor Betrug und illegalen Produkten verspricht. 

Dieser Verantwortung gegenüber den Usern müssen laut Verordnung nicht nur in der EU ansässige Dienste nachkommen, sondern alle, die ihre Produkte und Dienstleitungen innerhalb der Europäischen Union anbieten. „Die großen Plattformunternehmen werden klaren und harten Regeln unterworfen und können nicht mehr länger einseitig die Spielregeln bestimmen“, sagt Sven Giegold (Grüne), Staatssekretär im Bundesministerium für Wirtschaft und Klimaschutz auf der Website der Bundesregierung zum Gesetz. Für die Vermittlungsdienste, zu denen etwa Suchmaschinen oder Online-Netzwerke gehören, bedeutet das im Umkehrschluß die Verpflichtung zum Vorhalten funktionaler Löschmechanismen. Werden dem Anbieter Verstöße gemeldet, ist er in der Pflicht, die Beiträge zu entfernen. Um die Vorgaben umzusetzen, bleibt den Unternehmen noch bis 2024 Zeit. Bei Verstößen könnte es ab dann teuer werden. Das Gesetz sieht Bußgelder in einer Höhe von sechs Prozent des Gesamtjahresumsatzes vor. 

Der Digital Services Act, zu deutsch „Gesetz über digitale Dienste“, macht damit nicht nur den Kampf der Tech-Konzerne vor dem Kölner Verwaltungsgericht obsolet. Es erübrigt auch das Netzwerkdurchsetzungsgesetz im allgemeinen. Denn: Der neue Maßstab für die Unternehmen heißt Brüssel. Ob es die Netzwerke im nächsten Jahr allerdings überhaupt schaffen, die Voraussetzungen zur Einhaltung der Richtlinien vorzubereiten, darf aufgrund der Probleme in der Umsetzung des NetzDG bereits bezweifelt werden. Fraglich sind außerdem die Folgen für den Nutzer. Was dieser im Internet dann noch sagen darf? Die gute EU steckt dann den Rahmen.