Multilayered-Storytelling eröffnet neue Möglichkeiten zur audiovisuellen Gestaltung von Memes. Insbesondere für junge Menschen ist dies ein entscheidender Reiz der App TikTok. Mit ihren AR-Filtern, Soundschnipseln und einfachen Videoschnittwerkzeugen bietet die Plattform die Möglichkeit, kurze Videos zu erstellen und zu veröffentlichen. In Kombination mit dem algorithmusbasierten Auswahlmechanismus, der kurze Videos in einem endlos erscheinenden Stream aus Videoloops auf der For-You-Page präsentiert, hat sich TikTok als führende Plattform im Bereich vertikaler Videos etabliert. „Algospeak“ bezeichnet eine spezifische Art zu sprechen, die vom Algorithmus beziehungsweise der Moderation nicht sanktioniert — sondern gar belohnt —wird.
Die niedrigschwellige Verbreitungsform audiovisuellen Contents findet auch Anklang bei menschenfeindlichen Akteur*innen. Sie nutzen TikTok, um neue Anhänger*innen zu gewinnen, sich zu vernetzen und zu mobilisieren. Umwegskommunikation dient dazu, antidemokratische Ideologien zu verbreiten. Die Plattformoderation bildet den sozialen Rahmen der Plattform und sanktioniert missbräuchliches Verhalten und Diskriminierung. Ziel von antidemokratischen Nutzer*innen ist es, unter kreativem Einsatz unter dem Radar der Moderation zu fliegen und gleichzeitig die maximale Reichweite zu erreichen.
Algospeak — Mehr als Jugendsprache
Auf den ersten Blick erscheint Algospeak lediglich als eine digitale Jugendsprache, die darauf abzielt, Distinktion zu erlangen. Tatsächlich handelt es sich jedoch um eine Reaktion auf die Rahmenbedingungen und das Regelwerk einer Plattform. Das Phänomen Alogspeak wurde erstmals im Jahr 2022 von der Tech-Journalistin Taylor Lorenz in einem Essay für die Washington Post beschrieben. Lorenz betrachtet Algospeak als ein Verhalten von Nutzer*innen, um Plattformsperren zu entgehen und zu vermeiden. Dies geschehe durch die Verwendung von Codewörtern oder Redewendungen. Reichweitenbewusste Creator*innen passen sich den tatsächlichen oder angenommenen Regeln des Algorithmus an und verwenden Algospeak. Umwegsformulierungen wie „unalive“ für Tod/Suizid oder „le$bean“ für lesbisch, wie auch „n@dzi“ für Rechtsextremismus verdeutlichen diese wahrgenommene Angst vor der Löschung.
Ein Ziel von Algospeak besteht darin, beispielsweise über Nischenthemen oder kontroversere Inhalte aufzuklären, ohne dabei die Gefahr einzugehen, dass die Moderationssysteme den Inhalt fälschlicherweise als Regelverstoß ahnden. Dies dient der Vermeidung von Shadowbans, Werbeeinbußen oder Sperrungen. Auf TikTok werden Inhalte über die algorithmisch kuratierte „For You“-Seite verbreitet, was dazu führt, dass kontroversere Inhalte automatisch herausgefiltert werden. Als Reaktion darauf gestalten Creator*innen ihre Videos hauptsächlich mit dem Ziel, den Algorithmus zu bedienen. Ähnliche Praktiken sind auch von Plattformen wie Instagram oder YouTube bekannt, wurden jedoch bisher kaum registriert oder als Problem wahrgenommen.
Die Unterscheidung zwischen Algospeak als kreativen Akt der Selbstermächtigung und Umwegskommunikation als antidemokratische Medienstrategie, lässt die unterschiedlichen Absichten verschwimmen. Wenn wir über Algospeak und ihrer Wirkung sprechen, ist es hilfreich, zu verstehen, dass aufgrund der fehlenden Transparenz bezüglich der Moderationsprozesse und der algorithmischen Bewertung der Inhalte nicht nachvollziehbar ist, welche realen Konsequenzen die Nichtanwendung von Algospeak tatsächlich haben könnte und unter welchen Kriterien diese greifen. Obwohl der Begriff Algospeak bei den Nutzer*innen noch nicht weit verbreitet ist, finden Sprach-Disclaimer, also kurze Erklärungen warum man bestimmte Worte vermeidet, in Videos regelmäßig Anwendung. So warnen Nutzer*innen immer davor, dass sie im Video von beispielsweise „Seggs“ (statt „Sex“ oder „Sexualität“) sprechen werden, um einen Shadowban oder eine Löschung zu vermeiden.
Die Community Guidelines einer Plattform stellen den Verhaltenskodex dar, der die Rahmenbedingungen für das Verhalten der Nutzer*innen auf der Plattform festlegt. In Deutschland werden diese Richtlinien durch das Netzwerkdurchsetzungsgesetz zusätzlich gerahmt. Die Moderation auf der Plattform ist eine Umsetzung dieser Rahmenbedingungen und bestimmt, welche Inhalte angezeigt werden und welche gegen die Standards der Community verstoßen. Es gibt jedoch immer wieder Fälle, in denen Inhalte, die zur Aufklärung dienen sollen, Repressionen durch die Plattform erfahren. Content über Sexualität, unter anderem auch Queersein, erfuhr in der Vergangenheit immer wieder Restriktionen. Deswegen hat sich die Praxis etabliert, dass Nutzer*innen von sich aus von „s<chwulsein“, „l3sbisch“ sein sprechen, aus Angst vor einer Repression. Insbesondere im Bereich Sexualität und Geschlechtsidentitäten sind Umschreibungen und Wortabwandlungen weit verbreitet.Es stellt sich die Frage, ob die Moderation zu restriktiv ist oder ob sie den Unterschied zwischen einem Aufklärungsvideo und einer affirmativen Verwendung abwertender Sprache erkennen kann. Mängel in der Moderation können entweder ein technisches Problem sein oder auf mangelnde Sensibilität menschlicher Moderator*innen verweisen. Letzteres könnte auf begrenzte Ressourcen und unzureichende Schulung zurückzuführen sein.
Dabei geht nicht nur die Niedrigschwelligkeit verloren. Die Journalistin Laila Oudray spricht zudem von einer Wiederbelebung des Tabus in der Sprache. Kritik wird laut, dass Algospeak vor allem marginalisierte Gruppen betrifft. Auch andere Themen, die möglicherweise mit den Community Guidelines kollidieren, wie beispielsweise mentale Gesundheit und der Konsum illegaler Substanzen werden mittels Algospeak weiterhin thematisiert.
Ein weiterer Kritikpunkt ist die Intransparenz. Mögliche Repressionen, wie ein Shadowban oder die Sperrung von Videos, erfolgen ohne Benachrichtigung und Begründung, ohne die Möglichkeit eines Einspruchs. Algospeak kann als vorauseilenden Gehorsam verstanden werden. Die Berichterstattung der ARD über die Filterung von Begriffen in den Kommentarspalten auf TikTok verstärkt möglicherweise das Misstrauen der Nutzer*innen, auch wenn TikTok die Ausblendung von Begriffen auf technische Schwierigkeiten zurückführt.
Dennoch kann das Phänomen des Algospeak insbesondere als eine direkte Folge des Ringens um den rechtlichen Raum der sozialen Medienplattformen betrachtet werden. Das Phänomen des Algospeak zeigt jedoch, dass ein repressiver Ansatz allein, eher zur Kreativität anregt, im Zweifel ausschließt und Sprache retabuisiert.
Umwegskommunikation auf TikTok — antidemokratische Algospeakstrategie
Der Begriff Umwegskommunikation beschreibt eine Strategie, die von antidemokratischen Akteur*innen auf TikTok verwendet wird, um die Grenzen des Sagbaren mithilfe multimodaler Metaphorik zu verschieben. Das Hauptziel dieser Strategie besteht darin, menschenfeindliche Ideologien zu normalisieren. Umwegskommunikation auf sozialen Plattformen kann als eine Form von Algospeak betrachtet werden, die darauf abzielt, menschenfeindliche Positionen zu verschleiern und neue Zielgruppen zu erreichen.
Der Begriff Umwegskommunikation wurde in erheblichem Maße durch die Antisemitismusforschung geprägt und beschreibt einen komplexen Prozess der Verschlüsselung. Heiko Beyer und Ulf Liebe haben in einem Artikel drei wichtige Attribute identifiziert, die für eine antidemokratische Kommunikation von Bedeutung seien. Erstens sei es wichtig zu beachten, ob ein „Akteur sich in einer öffentlichen Situation wähne oder nicht. Zweitens spiele das wahrgenommene Meinungsklima eine Rolle, da offene Anfeindungen in progressiven Kreisen nicht toleriert würden. Drittens wählten Personen häufig die Umwegskommunikation, um vermuteten Sanktionen zu entgehen und „dem Gesagten Legitimität zu verleihen“.
In der Praxis zeigt sich, dass die Strategie der Umwegskommunikation tatsächlich funktioniert. Die Entschlüsselung von Codes und Umwegskommunikation ist zu einem beliebten Videoformat von Aktivist*innen und Accounts aus dem Bereich der politischen Bildung geworden. Dies zeigt, dass nicht nur diejenigen, die Hass verbreiten, sondern auch Betroffene die Anspielungen durchaus verstehen und versuchen, sich durch Aufklärung dagegen zu wehren. Auf dem antirassistischen Kanal „willkommenzuHause“ erklärt die Creatorin Kimchikohl beispielsweise rassistische Umwegskommunikation: „Diese kryptischen Kommentare sind Codewörter für rechte Trolle. Man nennt sie Dogwhistles. Ähnlich wie eine Hundepfeife, die Menschen nicht hören können, sollen auch „dogwhistle“-Kommentare nicht alle erreichen. Sie deuten rassistische und sexistische Inhalte nur an und möchten damit andere rechtsextreme User:innen anlocken.“ (Abbildung 2)
Basierend auf dieser Definition analysieren wir in diesem Text rechtsextreme Kommunikationsstrategien auf TikTok. Im Gegensatz zu Beyer und Liebe betrachten wir nicht nur antisemitische Umwegskommunikation, sondern auch diverse Formen menschenfeindlicher Codes. Ein weiterer Aspekt der Umwegskommunikation auf TikTok ist die audiovisuelle Gestaltung auf verschiedenen Kommunikationsebenen. Wir bezeichnen dies als „multimodale Metaphern“ nach Charles Forceville und Eduardo Aparisi, wobei sensorische Erfahrung (Bild, Audio, Mimik, Gestik) ein mentales Muster erzeugen, das einen neuen Sinnzusammenhang herstellt. Konkret bedeutet dies, dass Creator*innen multimodale Metaphern verwenden, die durch ein Zusammenspiel von Bildern, Tönen und Mimik/Gestik einen neuen Sinn erzeugen, der als Algospeak oder Umwegkommunikation interpretiert werden kann. Rechtsextreme Akteur*innen nutzen diese Strategie ebenfalls. Sie remixen gezielt Rechtsrock Sounds in Kombination mit harmlosen Videoinhalten oder benutzen Bildmaterial aus der NS-Zeit und unterlegen es mit Popmusik, um ihren Hass zu transportieren.
Umwegskommunikation ermöglicht es antidemokratischen Akteur*innen, Repressionen durch die Plattformmoderation und strafrechtliche Verfolgung zu umgehen. Sie kann auch als Tarnung dienen, um vermeintlich Unsagbares in den gesellschaftlichen Diskurs einzuschleusen. Plattformen reagieren oft mit zeitlicher Verzögerung auf neue Formen der Umwegskommunikation und identifizieren nicht immer alle Verstöße gegen ihre Richtlinien, da diese entweder nicht erkannt werden können oder harmlos erscheinen.
Gnomehunting: Die Verbreitung rechtsextremer Kommunikationsstrategien auf TikTok
Der Gnomecore-Trend wurde erstmals auf Plattformen wie 4Chan als eine Reihe von Memes eingeführt, die behaupten, dass Zwerge tatsächlich existieren und ihre gemütliche und naturverbundene Lebensweise überlegen anpreisen . Anhand dieses Beispiels lässt sich die Funktionsweise von Umwegskommunikation nachvollziehen. Seit Februar 2023 ist der #gnomecore-Trend, der Gartenzwerge prominent auf TikTok inszeniert, sowohl in antidemokratischen Milieus als auch in reichweitenstarken Meme-Kanälen gut zu verfolgen. Die Videos verwenden Memes, vermeintliche Sicherheitsaufnahmen und Zeitungsartikel, die durch Sounds unterlegt sind. Der Trend namens „Gnomehunting“ oder „Gnomecore“ hat zum Ziel, die Existenz dieser mythischen Wesen zu beweisen.
Die Videos spielen mit verschiedenen visuellen und akustischen Elementen, um die eigene Botschaft zu verschleiern und haben eine suggestive Kraft. Ein Beispielvideo mit einer Zwergen-Slideshow beginnt mit einem vermeintlichen Bild einer Sicherheitskamera, auf dem ein Gartenzwerg in der oberen linken Bildhälfte rot markiert ist. Anschließend zeigt das Video eine harmlose Darstellung eines Gartenzwerges, gefolgt von der Einblendung eines Zwergschädels und Auszügen aus der Presse, die die Existenz dieser Wesen belegen sollen. Im Hintergrund läuft der Song „California Dreaming“ von The Mamas & The Papas. In der Videobeschreibung steht: „🍄GNOMES ARE REAL🍄‼️ #based #sigma #s #schizognomepilled #g #gnometok #gnomecore #gnome“. Die Hauptbotschaft des Videos lautet, dass Zwerge reale Wesen sind. Die eigentliche Botschaft, dass Zwerge als rechtsextremes Symbolbild für die Retraditionalisierung des Abendlandes stehen, bleibt den Zuschauer*innen zunächst verborgen, hat aber eine starke suggestive Kraft. Die mysteriöse Inszenierung hat nicht nur in der rechtsextremen Szene, sondern auch bei neugierigen Nutzer*innen große Aufmerksamkeit erregt, die den Trend weitreichend betrachten und kommentieren. Für Eingeweihte, die mit der symbolischen Bedeutung des Videos vertraut sind, signalisiert der Inhalt eine Art humoristische Zugehörigkeit zu einer bestimmten Gruppe. Diese wird unter anderem auch durch die Verwendung rechtsoffener Hashtags wie #based“, „#sigma“ oder #schizopilled ersichtlich. Die Zwerge dienen als komplexe Projektionsfläche für antidemokratische Diskurse mit einer antimodernen Aufladung und fungieren sekundär als antisemitische Chiffre. Der „gnomepilled“-Trend als Ganzes ist Teil einer rechtsextremen Medienstrategie. Dabei wird der Gartenzwerg als vielschichtige Metapher verwendet, die verschiedene audiovisuelle Sinnesmodalitäten kombiniert, um die eigentliche Absicht der Botschaft zu verschleiern.
Im Februar 2023 werden weitere Hinweise auf rechtsextreme Gedankengut sichtbar, als zahlreiche Creator*innen verkünden, auf Zwergenjagd ( „Gnomehunting”) zu gehen. In den Videos werden Jäger dargestellt, während andere Creator*innen sich beim Filmen im Wald zeigen. Immer öfter wird der Begriff „Jagd auf Zwerge“ eingeblendet, oft gefolgt von zwei Blitz-Emojis, die das Logo der nationalsozialistischen Schutzstaffel („SS“) darstellen sollen. Die Zwerge werden als Metapher für jüdische Menschen verwendet. Dies wird in einem Video deutlich, in dem ein spitzer Schädel eines vermeintlichen Gartenzwerges mit dem Kopf Jakob Rothschilds, einem jüdischen Banker, verglichen wird. Auch die Hüte der Zwerge dienen als antijüdisches Dogwhistle und verweisen auf ein mittelalterliches Chiffre des „Judenhuts”. Seit April 2023 werden die Videos zunehmend mit dem Satz „Millionen müssen die Hüte tragen“ [„Millions must wear the hats“] kommentiert.
Hinter dieser Aussage verbirgt sich laut einer Recherche des News-Portals MSN eine Anspielung auf den rechtsextremen Slogan „Milliarden müssen sterben“, der auf verschiedene rechtsextreme Narrative von Überbevölkerung, dem großen Reset und ethnischen Säuberungen anspielt. Der Zwergen Trend zeigt wie Umwegskommunikation, als erfolgreiche rechtsextreme Medienstrategie fungiert und menschenfeindliche Inhalte von der Moderation offenkundig nicht identifiziert werden.
Nachhaltige Lösungsansätze
Algospeak und insbesondere Umwegskommunikation auf TikTok sind ein bisher unterbelichtetes Phänomen und Herausforderung im Hinblick auf die Verbreitung menschenfeindlicher Ideologien und die Verschiebung der Grenzen des Sagbaren im demokratischen Diskurs. Um diesen Herausforderungen zu begegnen sind verschiedene Ansätze erforderlich.:
- Transparenz: Es ist wichtig, dass TikTok und andere soziale Medienplattformen ihre Moderationsprozesse den Nutzer*innen verständlich machen, wie Inhalte bewertet und moderiert werden und die Möglichkeit dagegen Einspruch einzulegen muss gewährt werden. Das Plattformen keine völlige Transparenz über die Begrifflichkeiten zur Verfügung herstellen können und wollen, da dies eine weitere Windung der Umwegskommunikationsspirale zur Folge hätte ist verständlich, wenn ein Video von der Moderation beziehungsweise aufgrund algorithmusbasierter Bewertungsprozesse zurückgehalten wird, muss dies für Creator*innen jedoch nachvollziehbar sein.
- Rechtliche Prüfung: Des Weiteren sollten unabhängige Expert*innen überprüfen ob diese Maßnahmen vereinbar sind mit der Meinungsfreiheit.
- Verbesserung der Content-Moderation: Die Plattformen müssen kontinuierlich daran arbeiten, ihre Content-Moderation zu verbessern. Dies umfasst die Schulung von Moderator*innen, um ein besseres Verständnis für kontextbezogene Inhalte und die Unterscheidung zwischen Algospeak und Umwegskommunikation als antidemokratischer Strategie zu entwickeln.
- Forschung: Es bedarf einer wissenschaftlichen Auseinandersetzung mit den Themen Algospeak und Umwegskommunikation und welche Auswirkungen diese auf die Community, marginalisierte Gruppen und den demokratischen Diskurs haben. besser zu verstehen und daraus Gegenmaßnahmen abzuleiten.
- Soziale Arbeit im digitalen Raum: Um Phänomenen wie Umwegskommunikation zu begegnen, bedarf es Ansätze, die nicht nur auf Repression und bisherige Moderationssysteme setzen, sondern das Klima auf sozialen Medien nachhaltig positiv beeinflussen kö Ein psychosozialer Ansatz könnte hierfür die Lösung sein. Pädagogische Gegenrede und debunking im Rahmen von Digital Streetwork verfolgen einen lebensweltorientierten und aufsuchenden Ansatz, um Hassrede auf sozialen Medien vorzubeugen. Durch eine verstärkte Etablierung von Digital Streetworker*innen kann Radikalisierung präventiv begegnet werden.
- Problem benennen: Um Nutzer*innen vor den Auswirkungen von Umwegskommunikation zu schützen, ist es wichtig, sie für diese Form der Hassverbreitung zu sensibilisieren. Dies könnte auch ein Signal an die Hater*innen schicken das die Vercodierung der Kommunikation mit der Absicht menschenverachtende Inhalte zu verschleiern, gesehen und geahndet wird.
