Aktuelle Artikelserie, Digitale Gesellschaft, Netzpolitik, SPUNK
Schreibe einen Kommentar

Das Gesetz gegen den Hass — Ein Jahr NetzDG

moerschy via pixabay (CC0)

Beleidigungen, Hasskommentare und gar Gewaltandrohungen sind auf Facebook und in YouTube-Kommentaren noch immer an der Tagesordnung. Daran hat das 2017 beschlossene Netzwerkdurchsetzungsgesetz (NetzDG) wenig geändert. Gleichzeitig stellen automatisierte Prüfverfahren eine Gefahr für die Meinungsfreiheit dar. Eine Reform muss her.

Das NetzDG soll die Anbieter von Social Media dazu bringen, Hass- und Hetzkommentare schneller und effektiver zu löschen. Die Firmen reagierten auf das Gesetz, indem sie neue Meldeformulare in ihre Apps und Websites einbauten. Auch personell wurde aufgestockt: Facebook errichtete ein neues „Löschzentrum“ in Essen. 500 Mitarbeiter*innen durchsuchen von dort das Netzwerk nach Hasspostings, um diese zu entfernen. Der digitale Putztrupp ist nicht nur hohen psychische Belastungen durch die unangenehmen Beiträge ausgesetzt — er muss seine Urteile über die Auslegung der Regeln in kürzester Zeit fällen.

Aus den im Gesetz vorgeschriebenen Halbjahresberichten der Netzwerke geht hervor, welche Massen von beanstandeten Beiträgen die Mitarbeiter durchsehen müssen:
YouTube meldete 213.330 beanstandete Inhalte, Twitter 264.818 Beschwerden. Bei Facebook waren es hingegen nur 1704 Meldungen nach NetzDG. Vermutlich liegt dies daran, dass der Konzern anders als seine Konkurrenten die Umsetzung des NetzDG nicht in ihr bestehendes Meldeformular integrierte, sondern ein weiteres, schwerer aufzufindendes Formular schuf. So wurden im Berichtszeitraum ca. 5 Millionen weitere Facebook-Posts nach den hauseigenen „Gemeinschaftsstandards“ gelöscht. Bei allen drei Netzwerken erfolgten die meisten Löschungen innerhalb der geforderten 24 Stunden. Es ist daher davon auszugehen, dass das Gesetz zu einer leichten Beschleunigung der Verfahren beigetragen hat.

Angesichts der Fallzahlen überrascht es nicht, dass auch Fehlentscheidungen getroffen werden. Da die zur Eile angehaltenen Mitarbeiter*innen möglicherweise im Zweifel für Löschen plädieren, prophezeiten Kritiker des Gesetzes die Gefahr eines „Overblockings“. Tatsächlich fiel bereits kurz nach Inkrafttreten des NetzDG der Twitter-Account der Satire-Zeitschrift „Titanic“ der Löschprüfung zum Opfer. Ein Nutzer hatte einen Post der Zeitschrift gemeldet, die Mitarbeiter erkannten offenbar die Satire nicht und Titanic wurde zeitweilig vom Kurznachrichtendienst suspendiert. Erfreulicherweise blieb die Anzahl derartiger Fälle bisher jedoch eher gering — dies könnte sich jedoch durch eine automatische Inhaltsüberprüfung schon bald ändern.

KI erhöht die Gefahr von „Overblocking“

Um den zunehmenden Pflichten und den strikten Fristen des NetzDG gerecht zu werden, ist davon auszugehen, dass die Netzwerke zukünftig verstärkt automatische Prüfsysteme einsetzen werden. Die hinter den großen Social-Media-Netzen stehenden Firmen forschen ohnehin allesamt an Programmen der künstlichen Intelligenz (KI). Angesichts weiterhin wachsender Nutzer*innenzahlen werden entsprechende Systeme wohl schon bald die Prüfung der Inhalte übernehmen.

Bei einer automatischen Inhaltsüberprüfung durch KI könnten legitime Meinungsbeiträge in signifikantem Umfang der Löschung zum Opfer fallen. Dies stellt eine eklatante Gefahr für die Meinungs- und Informationsfreiheit dar, denn die sozialen Netzwerke sind schon längst zum zentralen Diskursort unserer modernen Demokratie geworden. Der freie Meinungsaustausch im Internet ist Grundvoraussetzung für das Funktionieren unserer Demokratie. Insbesondere in der politischen Debatte müssen Meinungen kontrovers und pointiert sein dürfen, auch wenn einzelne sich von ihnen beleidigt fühlen. Auch Äußerungen wie „Soldaten sind Mörder“, die Betroffene als persönlichen Affront begreifen, sind von der grundgesetzlich garantierten Meinungsfreiheit umfasst — so viel steht seit entsprechenden in den 90er Jahren ergangenen Urteilen des Bundesverfassungsgerichts fest. Die Abwägung im Einzelfall fällt auch erfahrenen Jurist*innen nicht immer leicht. Eine automatisierte Löschprüfung wird daher zwangsläufig Fehlentscheidungen treffen — eine Gefahr für die Meinungsfreiheit.

Eine Reform muss her

Das NetzDG muss daher aktiv für die Gefahren des Overblockings sensibilisiert werden. Neben der Bekämpfung von Hasskommentaren muss die Meinungs- und Informationsfreiheit der Nutzer*innen in einem zweiten Baustein im Gesetz verankert werden.

Nutzer*innen, deren rechtmäßige Beiträge voreilig gelöscht wurden, muss eine Beschwerdemöglichkeit bei den Social-Media-Anbietern offen stehen. Die Betroffenen brauchen ein wirksames und transparentes Verfahren, nach dem sie ihre Kommunikationsrechte geltend machen können, um zu Unrecht gelöschte Beiträge möglichst rasch wiederherzustellen. Eine neutrale Clearingstelle könnte ergänzend über Streitfälle entscheiden. Diese ließe sich bei der ohnehin vorgesehenen Stelle für freiwillige Selbstregulierung angliedern.

Schließlich sollten die Halbjahresberichte der Anbieter Informationen über die Löschung oder Sperrung rechtmäßiger Inhalte enthalten. Nur so kann das Ausmaß möglichen Overblockings transparent nachvollzogen und untersucht werden. Mit diesen Änderungen ließen sich die gröbsten Schnitzer des weiterhin unausgegorenen Gesetzes beheben.

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert.