Statement

Stellungnahme aus der Zivilgesellschaft zu dem Entwurf eines Gesetzes zur Änderung des Netzwerkdurchsetzungsgesetzes (NetzDG)

Am 28. Januar 2020 hat das Bundesministerium der Justiz und für Verbraucherschutz (BMJV) einen Referentenentwurf zur Änderung des Netzwerkdurchsetzungsgesetzes  (NetzDG) vorgelegt. Wir, als Vertreter*innen der digitalen Zivilgesellschaft, bedanken uns für die Gelegenheit, den vorgelegten Entwurf zu kommentieren und Stellung zu beziehen. Wir erkennen die, vor allem in den letzten Jahren zunehmenden, Bemühungen der Bundesregierung an, wenn es um den Umgang mit und die Verfolgung von Hass und Abwertung im Netz geht; und es scheint, dass viele der Forderungen und der Kritik der letzten zwei Jahre gegenüber dem NetzDG im vorgelegten Referentenentwurf aufgegriffen wurden. Nichtsdestotrotz bleiben einige Punkte offen. Das Gesetz bleibt für uns – trotz notwendiger Änderungen – weiterhin umstritten. Viele vergleichsweise leicht umzusetzende Änderungen werden angegangen, aber grundsätzliche Problemstellungen bleiben bestehen. Wir befürchten, dass damit das NetzDG als Ganzes seinem Zweck - Schutz vor Hassrede, aber unter Wahrung der Meinungsfreiheit - nicht gerecht werden kann. 

1. Klarstellung zur Nutzer*innenfreundlichkeit der Meldewege 

Wir begrüßen, dass die Vorgaben für die Verfahren zur Übermittlung von Beschwerden über rechtswidrige Inhalte um weitere Aspekte der Nutzer*innenfreundlichkeit ergänzt werden, da die bisherigen Meldewege sehr unterschiedlich erreichbar und zugänglich sind (siehe ausführlich in Stellungnahme 1). Somit wird ein Kritikpunkt, den zivilgesellschaftliche Akteur*innen schon seit Jahren gegenüber dem NetzDG äußern, im Referentenentwurf aufgegriffen und umgesetzt. Leider wurde immer noch nicht spezifiziert, welche Maßnahmen die Plattformen ergreifen sollen oder müssen, um die Nutzer*innenfreundlichkeit zu gewährleisten; hier braucht es klare Vorgaben. Wünschenswert wäre auch eine Begleitung der Umsetzung sowie eine Evaluierung, ob damit die gewünschten Veränderungen erzielt werden. 

2. Ergänzung der Transparenzvorgaben 

Die Kritik aus der Zivilgesellschaft gegenüber den halbjährlichen Transparenzberichten der Plattformen wurde im aktuellen Referentenentwurf aufgenommen; die bislang vorgelegten Transparenzberichte waren nur bedingt aussagekräftig, des weiteren fehlen in den Berichten bislang vergleichbare Angaben über Aufkommen und Entwicklung von Hate Speech auf den unterschiedlichen Plattformen. 

Aus diesem Grund begrüßen wir, generell, die Aufnahme ergänzender Aspekte unter §2 NetzDG, die dazu dienen sollen, den Informationsgehalt und Vergleichbarkeit zu erhöhen, und freuen uns auf vergleichbare Angaben zu Meldungen, Beschwerdewegen, Gründen der Entfernung, Put-Back-Verfahren u.ä.. 

Eine Anmerkung zur Auskunft über den Einsatz von Algorithmen und sog. künstlicher Intelligenz: Dieses Wissen ist zentral, wenn es um die Fragen geht, wie bewusste und unbewusste Meinungsmanipulation über Technik funktioniert. Dieses Wissen gehört allerdings nicht in die Hände einer breiten Öffentlichkeit, weil dann die Gefahr besteht, dass demokratiefeindliche Gruppierungen das Wissen für noch gezieltere Angriffe auf die Meinungsbildung verwenden. Algorithmus-Informationen sollten unserer Meinung nach der Forschung und politischen Entscheidungsträger*innen zur Verfügung stehen, nicht aber in den allgemein zugänglichen Transparenzberichten beschrieben werden. Ebenso verhält es sich mit den im Entwurf gewünschten Erkenntnissen der Netzwerke zu organisierter Kommunikation auf den Plattformen.

Kritisch sehen wir auch das Anliegen, Informationen zu von Hassrede betroffenen Gruppen in die Transparenzberichte aufzunehmen. Hier stellt sich für uns die Frage nach der Umsetzbarkeit - bisher werden in sozialen Netzwerken keine Gruppenzugehörigkeit/ -identifikation abfragt, viele Accounts sind anonym oder pseudonym - weshalb die Angaben zu gruppenbezogenem Hass höchstens über eine fundierte Textanalyse zu erhalten wären. Die Einteilung von Menschen in Kategorien nach Hautfarbe, Religion oder sexueller Orientierung weckt darüber hinaus ungute Assoziationen, die einer freien, demokratischen Gesellschaft entgegenstehen. Auch hier muss zudem vor einem Missbrauch der Informationen gewarnt werden. 

3. Erweiterung und Klarstellung bei Nutzer*innenrechten

Wir begrüßen ausdrücklich, dass die Rechtsstellung der Nutzer*innen gegenüber den sozialen Netzwerken verbessert werden soll. Insbesondere das sogenannte “Gegenvorstellungsverfahren” nach §3b NetzDG, welches mit einem Widerspruchsrecht vergleichbar ist, greift einen der größten Kritikpunkte gegenüber dem NetzDG auf, waren Plattformen doch bislang nicht gezwungen, auf Kritik an ihren Entscheidungen zu reagieren. Des weiteren erscheint es sinnvoll, dass die Plattformen wirksame und transparente Verfahren etablieren, anhand derer sich die Entscheidungen zur Löschung/ Nicht-Löschung überprüfen lassen. Diese Regelung stellt aus unserer Sicht einen wichtigen Baustein zum Schutz von Betroffenen dar, insbesondere da auch demokratiefeindliche Strukturen immer wieder Meldungen und Beschwerden nutzen, um andersdenkende Nutzer*innen mundtot zu machen. 

Auch die Ergänzung von §5 Absatz 1 NetzDG bezüglich der Klarstellung, dass der*die Zustellungsbevollmächtigte auch für die Entgegennahme sogenannter Wiederherstellungsklagen zuständig ist, erscheint sinnvoll. 

Unklar ist für uns die angedachte Einführung von Schlichtungsstellen. Weder wird im Entwurf genügend definiert, welche Einrichtungen dafür in Frage kommen sollen, noch erscheint eine Anwendung im Bereich Hassrede sinnvoll, in dem es um digitale Angriffe auf Gruppen und Personen geht, nicht um Sachverhalte, auf die man sich im Gespräch einvernehmlich einigen könnte. Wichtig aus Schutzgründen ist hierbei, dass eine Weitergabe personenbezogener Daten ohne Zustimmung der Beteiligten verboten ist. 

4. Vereinfachung der Durchsetzung von Auskunftsansprüchen

Bislang war es für Betroffene und Strafverfolgungsbehören sehr aufwändig bis kaum möglich, die Identitäten von Angreifer*innen festzustellen und Taten auf dem zivilrechtlichen Weg zu verfolgen. Aus diesem Grund begrüßen wir die Vereinfachung der Durchsetzung von Auskunftsansprüchen, da davon auszugehen ist, das dies einen deutlichen Effekt auf die Strafverfolgung und Rechtsdurchsetzung im Netz haben wird. Hierbei ist jedoch insbesondere der Schutz personenbezogener Daten der Betroffenen zu beachten: Oft scheuen Betroffene auch deshalb den Rechtsweg, weil sie fürchten, dass personenbezogene Informationen dem*r Angreifer*in bekannt gemacht werden, die für weitere Attacken gegen sie genutzt werden können. Diese Bedenken müssen ernst genommen und dem Schutz der Betroffenen muss höchste Priorität eingeräumt werden. 

5. Regelung für Videosharingplattform-Dienste 

Wir begrüßen die Einführung neuer Regelungen für Videosharing-Plattformen bzw. die grundsätzliche Anwendbarkeit des NetzDGs für Videosharing-Dienste, entsprechend der Compliance-Vorgaben aus Art. 28b der AVMD-RL. Allerdings geht aus dem Referentenentwurf nicht hervor, welche und wie viele Plattformen in Deutschland dann tatsächlich von den neuen Regelungen betroffen sind. Die Beschränkung auf Plattformen mit Niederlassung in Deutschland schließt diverse Plattformen aus, die in der Vergangenheit als Vernetzungskanäle für Hassrede genutzt wurden. Hier ist in Teilen schon jetzt erkennbar, dass Plattformbetreiber trotz überwiegend deutscher Nutzerschaft ihren Sitz ins Ausland verlegen, um vergleichbaren Regelungen zu entgehen. 

Zudem vermissen wir die Aufnahme weiterer Plattformen und Netzwerkbetreiber, allen voran Gaming-Plattformen, insbesondere da bekannt ist, dass sie hohe Nutzer*innenzahlen haben, die dort auf viel Hass und strafrechtlich relevante Inhalte treffen - und dass deutsche Demokratiefeinde dort auch explizit Gewalttaten und digitale Hasskampagnen geplant und koordiniert haben. 

Wünschenswert wäre weiterhin eine klare Definition, welche Netzwerke unter das NetzDG fallen. Die Richtgröße von zwei Millionen Nutzer*innen erscheint nach wie vor willkürlich und wird im Gesetz nicht erläutert. 

6. Regelung einer Aufsichtsbefugnis des Bundesamts für Justiz 

Grundsätzlich ist es begrüßenswert, dass das Bundesamt für Justiz nicht nur die rein repressive Funktion einer Bußgeldbehörde erfüllt, sondern auch eine Aufsichtsfunktion erhält; dies erscheint insofern zielführend, weil Problematiken bei der Umsetzung des Gesetzes dann zeitnäher und effektiver bearbeitet werden können. Wünschenswert wäre dabei, dass die Netzwerke, aber auch zivilgesellschaftliche Akteur*innen in einen Dialog mit dem BfJ treten können und so der Austausch und Wissenstransfer  zwischen den verschiedenen Seiten gefördert wird. Eine effektive Umsetzung des Gesetzes und seiner Auflagen könnte so vereinfacht werden.

7. Datensammlung und Verschiebung der Rechtseinschätzung an Privatunternehmen

Der vorliegende Entwurf verändert leider nichts an den zentralen Ideen zum NetzDG, die im Entwurf des “Gesetz zur Bekämpfung des Rechtsextremismus und der Hasskriminalität” formuliert wurden. So müssen wir die Kritik aufrechterhalten, dass mit der Anzeigepflicht der Unternehmen eine Verschiebung von Rechtseinschätzungen auf Privatunternehmen im Gegensatz zum aktuell gültigen NetzDG nicht nur erhalten bleibt, sondern verschärft wird. 

Damit einhergehend bleibt die Problematik der ausufernden behördlichen Datensammlung auf dieser Basis bestehen. Die Ausleitung von Nutzer*innen-Informationen in ein polizeiliches Zentralregister in Folge einer Meldung ist problematisch und scheint mit den Grundsätzen der Meinungsfreiheit wenig vereinbar - zumal zu erwarten ist, dass jährlich die persönlichen Daten einer großen Zahl von Bürger*innen bei Strafverfolgungsbehörden zunächst gespeichert (und verarbeitet) werden, auch wenn das Vorliegen eines hierzu berechtigenden Anlasses zweifelhaft ist bzw. sogar bei rückblickender Betrachtung zu verneinen sein wird. Mit der Einführung einer solchen „Verdachtsdatenbank“ ginge ein erheblicher Systembruch einher. 

Auch der der DSGVO konträr entgegenstehende Wunsch nach Entschlüsselung von Passwörtern der gemeldeten und damit nach dem vorgeschlagenen Verfahren angezeigten Nutzer*innen ist weiterhin zu kritisieren.

Zum Referentenentwurf aus dem Dezember haben wir hier bereits Stellung bezogen; insbesondere haben auch unsere Empfehlungen weiterhin Bestand, darunter die Einrichtung von Schwerpunktstaatsanwaltschaften in allen Bundesländern und die nachhaltige Stärkung des Opferschutzes und der Beratungsstellen.

8. Kritik am Verfahren

Wir möchten außerdem unsere Kritik am Verfahren der Gesetzesentwürfe äußern. 

Die eilige Veröffentlichung der jüngsten Referentenentwürfe wirkt auf uns wie politischen Aktionismus, der nicht zu überlegten Entscheidungen führen kann. Völlig unverständlich ist, warum die in Arbeit befindliche wissenschaftliche Evaluierung zum NetzDG nicht abgewartet wird, bevor Veränderungs-Entwürfe vorgelegt werden. 

Darüber hinaus haben weder Netzwerke, noch Interessenverbände oder zivilgesellschaftliche Akteur*innen ausreichend Zeit erhalten, um die Referentenentwürfe angemessen zu kommentieren. Der Austausch mit den zuständigen Stellen ist kaum möglich. Sorgfalt erscheint bei diesen Gesetzen allerdings besonders nötig, da sie aus ganz Europa mit Interesse betrachtet werden, als Vorlage für eigene Entwürfe. Insbesondere Gefahren durch Missbrauch müssten deshalb intensiv mit Expert*innen diskutiert und bestenfalls wissenschaftlich analysiert werden. 

9. Grundsätzliche Bemerkungen

Insgesamt gilt es festzuhalten, dass Hass im Netz ein gesamtgesellschaftliches Problem darstellt. Juristische Schritte sind wichtig, aber nicht ausreichend, um dieses Problem langfristig lösen zu können. Dies gilt insbesondere, da das NetzDG nur die Formen von Hassrede erfasst, die nach deutschem Recht bereits strafbar sind. Viel toxische Hassrede fällt allerdings unter die Meinungsfreiheit und muss deshalb anders bearbeitet werden. Dafür müssen andere Angebote und Ansätze geschaffen und gestärkt werden, allen voran der Opferschutz und das Empowerment der von Hate Speech betroffenen Personen und Gruppen. Beratungsangebote für Betroffene sollten zudem prominent und einfach auffindbar auf den Plattformen selbst zu finden sein. Formale wie non-formale Bildungsangebote müssen ausgebaut werden, um den Erfordernissen des digitalen Zeitalters gerecht zu werden. 

Deutschland sollte den inhaltlichen Austausch mit anderen Ländern verstärken, von guten Beispielen lernen (z.B. White Paper on Online Harm in Großbritannien), sich eng mit dem Europarat und weiteren internationalen Initiativen abstimmen sowie die Konsequenzen der eigenen Gesetzgebung auf andere Länder einkalkulieren. 

Unterzeichner*innen dieser Stellungnahme: 

DAS NETTZ – DIE VERNETZUNGSSTELLE GEGEN HATE SPEECH

Amadeu Antonio Stiftung

NO HATE SPEECH MOVEMENT

CAMPACT E.V.

Inhaltliche Rückfragen an: info@das-nettz.de, info@amadeu-antonio-stiftung.de, laubenstein@no-hate-speech.de oder gulde@campact.de

Foto Hanna Gleiß
Autor*in

Hanna Gleiß

(sie/ihr) Co-Gründerin / Co-Geschäftsführerin


 

zum Newsletter
Newsletter-icon

Du willst zum Thema "Hass im Netz"
auf dem Laufenden bleiben?

Dann abonniere unseren
DAS NETTZ-Newsletter.