Im Nachgang der Tat wurde intensiv über die potentiell verheerende Rolle diskutiert, die Soziale Netzwerke bei der Verbreitung menschenverachtender Ideologien und Bilder einnehmen können: Der rechtsextreme Täter hatte sich nicht nur in sozialen Netzwerken und Foren radikalisiert, sondern seinen grausamen Morde zuerst auf dem Imageboard 8chan angekündigt und schließlich Live auf Facebook gestreamt. Neuseelands Premierministerin Jacinta Ardern hatte deshalb unmittelbar nach der Tat mehr Verantwortlichkeit und konkrete Maßnahmen von den Betreiberfirmen Sozialer Netzwerke verlangt.
Bereits am Dienstag vor dem Gipfeltreffen, in dessen Rahmen die Erklärung veröffentlicht wurde, hatte Facebook angekündigt, die Verbreitung bedrohlicher Inhalte auf seinen Plattformen einzudämmen. „Nach den furchtbaren Terroranschlägen in Neuseeland haben wir überprüft, was wir tun können, damit unser Dienst nicht verwendet wird, um anderen zu schaden oder Hass zu verbreiten“, erklärte Facebook-Vertreter Guy Rosen. User*innen müssten fortan damit rechnen, keine Livestreams mehr senden zu dürfen, wenn sie vorher zum Beispiel Erklärungen einer bekannten terroristischen Gruppe kommentarlos verbreitet hätten. Der US-Konzern kündigte außerdem an, 7,5 Millionen Dollar in ein Forschungsprojekt zur Bilderkennung zu investieren. Der Facebook-Algorithmus hatte teilweise Schwierigkeiten, Re-Uploads des Christchurch-Videos zu erkennen und zu unterbinden, wenn geringfügige Änderungen an den Videos vorgenommen worden waren.
Was steht in dem Appell?
Der dreiseitige „Christchurch-Aufruf“ ist kein rechtlich verbindliches, internationales Abkommen, sondern eine Willenserklärung. Die Unterstützer*innen betonen zunächst, ein freies, sicheres und offenes Internet sei zentral für soziale Inklusion und wirtschaftliches Wachstum. Alle Maßnahmen müssten mit den Menschenrechten und fundamentalen Freiheiten wie der Meinungsfreiheit in Einklang stehen.
Die unterzeichnenden Regierungen erklären, sie werden Gesetze schaffen und anwenden, die die Herstellung und Verbreitung terroristischer und gewalttätiger extremistischer Inhalte eindämmen. So wollen außerdem die Resilienz und Inklusivität ihrer Gesellschaften stärken. Außerdem ist die Rede davon, kleinere Plattformen bei der Entwicklung entsprechender Systeme zu unterstützen.
Die Online-Provider erklären, sie werden zukünftig dafür sorgen, dass solche Inhalte in Sozialen Netzwerken weder hochgeladen noch geteilt werden könnten. Ferner versprechen sie, ihre Community Standards transparenter zugänglich zu machen und Meldeprozesse einfacher zu gestalten, Accounts zu sperren, die entsprechende Inhalte verbreiten und die Möglichkeit, gegen ungerechtfertigte Sperren oder fehlgeschlagene Uploads Beschwerde einzulegen. Sie verpflichten sich zu „unmittelbaren und effektiven Maßnahmen“, die den Missbrauch der Livestream-Technik für terroristische und gewalttätig-extremistische Inhalte verhindern sollen.
Mehr Forschung soll gefördert und gebündelt werden – vor allen Dingen hinsichtlich technischer Lösungen, die den Upload terroristischer Inhalte verhindern sowie wissenschaftliche Untersuchungen, die zu einem tieferen Verständnis dieses Terrorismus führen.
Der Appell hebt besonders die Expertise der Zivilgesellschaft hervor sowie die Bedeutung der Zusammenarbeit von Regierungen und Tech-Firmen mit der Zivilgesellschaft: So soll beispielsweise die Entwicklung und Verbreitung positiver Narrative und von Gegenrede gefördert werden. Der Zivilgesellschaft wird eine erhebliche Expertise zugestanden, vor allen Dingen bei der Arbeit für ein freies Internet, für erhöhte Transparenz und die Vertretung von User*innen-Interessen, zum Beispiel bei Beschwerden.
Keine Unterstützung aus den USA
In der ZEIT kritisiert Lisa Hegemann den Aufruf als „extrem vage“: „Was genau soll das denn sein, ein extremistischer oder terroristischer Inhalt? Reicht es schon, eine Waffe ins Bild zu halten? Oder ist die Pose entscheidend? Wie soll differenziert werden zwischen Fiktion und realer Bedrohung? Vor allem: Wer entscheidet darüber und wer kontrolliert diese Entscheidung?“ Dennoch sei die Initiative als „imposantes Warnsignal an terroristische und extremistische Gruppen“ zu begrüßen.
Netzexperten kritisieren insbesondere die Idee von Anti-Terror-Uploadfiltern und verpflichtenden technischen Lösungen: Markus Beckedahl warnt auf Netzpolitik.org, besonders kleine Blogs und Plattformen wären davon betroffen und solche Systeme könnten die Mobilisierung von zivilgesellschaftlichem Protest gefährden.
Die Vereinigten Staaten von Amerika haben die Erklärung nicht unterzeichnet. Hier habe es Bedenken gegeben, die Maßnahmen könnten in Konflikt stehen mit dem First Amendment der Verfassung der USA, also dem Recht auf freie Meinungsäußerung. Die neuseeländische Premierministerin erklärte, sie habe absichtlich keine breitere Debatte über Hate Speech angeregt, sondern sich auf Terrorismus und gewalttätigen Extremismus fokussiert. „Hier geht es nicht um freie Meinungsäußerung. Ich glaube nicht, das irgendjemand argumentieren würde, dass Terroristen das Recht haben, einen Livestream von ihrem Mord an 50 Menschen zu zeigen“.
Besondere Aufmerksamkeit erregte die Weigerung des Weißen Hauses, die Erklärung zu unterzeichnen, weil es am gleichen Tag Zensuropfer von Sozialen Medien aufrief, sich zu melden: „Die Regierung Trump kämpft für freie Meinungsäußerung online“, verlautbart der Twitter-Account des Weißen Hauses, „unabhängig von Ihren Ansichten: Wenn Sie den Verdacht hegen, dass Sie aufgrund politischer Voreingenommenheit online zensiert oder zum Schweigen gebracht wurden, wollen wir davon hören!“ Zu Beginn des Monats hatte Facebook die Konten mehrerer prominenter Vertreter der amerikanischen extremen Rechten gesperrt.
Der gesamt Text des „Christchurch Call“ kann hier nachgelesen werden.
