Auf der Suche nach Informationen und Austausch nutzen junge Menschen Soziale Plattformen wie Instagram, TikTok und Co. In der JIM-Studie zur Mediennutzung von Kindern und Jugendlichen aus dem Jahr 2022 gaben 43 Prozent der 12- bis 19-Jährigen an, extreme politische Ansichten oder Verschwörungsideologien wahrgenommen zu haben. Sogar 56 Prozent sind erst kürzlich falschen Informationen in digitalen Räumen begegnet.
Die damit einhergehende Destruktivität gefährdet die demokratische Debattenkultur und bewegt viele betroffene Nutzer*innen aus Selbstschutz dazu, sich aus öffentlichen Debatten zurückzuziehen. Antidemokratische Akteur*innen haben dadurch noch mehr Raum, ihre Ideologien zu verbreiten, und schaffen ein verzerrtes Abbild der eigentlichen Meinungsvielfalt und ihrer Verteilung. Die Folge ist eine Überrepräsentation von antidemokratischen Ansichten, die Einfluss auf weitere Nutzer*innen in ihrer Meinungsbildung haben kann.
Auch die Unterscheidung zwischen belegbaren Fakten und Verschwörungserzählungen oder Desinformation ist für Jugendliche nicht immer einfach. Ein Drittel der deutschen Schüler*innen haben nur eingeschränkte informationsbezogene Kompetenzen, sodass falsche Informationen nicht nur zu Verunsicherung führen, sondern auch eine Radikalisierung ermöglichen können. Antidemokratische Akteur*innen nutzen dabei bewusst digitale Plattformen, um ihre Weltbilder und Ideologien zu verbreiten, Menschen zu überzeugen und zu rekrutieren.
Wir haben also kurze, prägnante Videos, die genau dann von der Plattform gepusht werden, wenn die Leute damit interagieren – in Form von Kommentaren, Likes und Teilen. Dies sind ideale Bedingungen für antidemokratische Akteur*innen und den gezielten Einsatz von Desinformationen, die vor allem auf drei Emotionen setzen: Wut, Angst und Empörung.
Das Beispiel des Angriffskriegs Russlands auf die Ukraine verdeutlicht die Problematik von Desinformationen. Eindrücke von tödlichen Raketen, Kriegsgefangenen und den Erfahrungen und Folgen für die Zivilbevölkerung werden täglich tausendfach über die Plattform geteilt und erfahren teils hohe Reichweiten. Wie schnell man in einen Tunnel von Kriegscontent geraten kann und wie viele gezielt falsche Informationen dabei im Umlauf sind, zeigt eine Recherche des Formats Vollbild des SWR. Der Selbstversuch des Rechercheteams, auf TikTok nur mit militärischen Videos zu interagieren, resultierte nach knapp einer Stunde in ausschließlichem Kriegscontent. Eine Einordnung von Gewalt- und Propagandainhalten geschieht dabei oftmals nicht.
Die Konsequenzen von Desinformation sind folgenschwer. Die Konstruktion von Wirklichkeiten auf Basis falscher Informationen erzeugt eine fortwährende Radikalisierung nicht nur in Sozialen Netzwerken. Die Folgen sind oftmals Hass und Gewalt, die sich auch offline gezielt und direkt gegen Menschen wenden. So spielte Desinformation auf Sozialen Plattformen eine wesentliche Rolle im Genozid an der Minderheit der Rohingya in Myanmar. Die Diktatur nutzte Facebook zur Verbreitung eines Narrativs über Rohingya als Bedrohung und zur Etablierung eines gemeinsamen Feindbilds. Dies führte zu einem extremen Anstieg an Hassrede, Falschinformationen, dem Aufruf zu Gewalt und letztendlich zur physischen Verfolgung der Minderheit.
Desinformation funktioniert also gut, weil sie die Emotionen der Nutzer*innen anspricht und durch die höhere Interaktionstendenz von der Plattform und ihrem Algorithmus gepusht wird. Damit bietet sie antidemokratischen Akteur*innen die perfekte Möglichkeit zur strategischen Verbreitung der eigenen Ideologie und zur Radikalisierung von Meinungen und Menschen.
Wie erkenne ich Desinformation bei TikTok?
Falschinformationen leicht gemacht? TikTok verfügt über Plattformfunktionen, die die Verbreitung von Falschinformationen befördern oder das Erkennen derselben erschweren. Woran liegt das?
Die Zielgruppe
In der JIM-Studie zur Mediennutzung von Kindern und Jugendlichen gaben 25 Prozent der 12- bis 19-Jährigen an, TikTok regelmäßig für die Beschaffung von Informationen über das aktuelle Tagesgeschehen zu nutzen.
Bekannt geworden ist TikTok durch eine Videolänge von maximal 60 Sekunden. Mittlerweile lassen sich zwar Videos von bis zu zehn Minuten Länge hochladen und drei Minuten in-App aufnehmen, aber ein Großteil des erfolgreichen Contents ist weiterhin sehr kurz. TikTok selbst empfahl noch im November 2021 eine optimale Videolänge von 21 bis 34 Sekunden für erfolgreiche Videos. Gleichzeitig ist ein Großteil der TikTok-Nutzer*innen weiterhin sehr jung. 2022 gaben rund 73 Prozent der 16- bis 19-Jährigen an, TikTok zu nutzen.
Insbesondere jungen Nutzer*innen fällt es schwer, innerhalb der kurzen Zeit komplexere Zusammenhänge richtig zu erfassen und in Videos aufzubereiten. Erschwerend kommt hinzu, dass sich Quellen nur umständlich angeben lassen. Denn TikTok erlaubt einen Link zu einer externen Plattform – mit Ausnahme von Wikipedia – nur im Profil, nicht aber direkt im Video. So müssen externe Anbieter genutzt werden, wenn man mehr als nur eine Quelle angeben will.
Der Datumsstempel
TikTok lebt von Aktualität. Auf der Plattform werden aktuelle Themen diskutiert, und dort entstehen Trends und Memes, die dann auf anderen Plattformen zum Teil erst Wochen später ankommen.
Auf der „For You Page“ – also dem Feed, der vom Algorithmus zusammengestellt wird – wird allerdings nicht angezeigt, wann ein Video ursprünglich gepostet wurde. Durch einen Blick auf das Alter von Kommentaren kann man zwar Rückschlüsse auf das Veröffentlichungsdatum ziehen, aber erst durch einen Klick auf das Profil der*des Creators und eine oft langwierige Suche nach dem jeweiligen Video wird einem das Originaldatum tatsächlich angezeigt. Denn auch alte Videos werden vom Algorithmus, zum Teil Monate nach der ersten Veröffentlichung, wieder auf der „For You Page“
angezeigt und können dann immer noch viral gehen. Insbesondere bei Videos zu aktuellen Themen besteht dadurch eine große Gefahr der Misinformation. Denn was einmal eine aktuelle Nachricht war, ist ein paar Monate später oft nicht mehr zutreffend.
Man denke nur an die Zeit der Corona-Regelungen zurück: Gesetzeslagen änderten sich, neue Erkenntnisse kamen hinzu, wissenschaftliche Erkenntnisse und Erklärungsversuche waren auf einmal überholt – und das im Wochentakt.
Stitches und Duette
Anders als auf anderen Plattformen kann man auf TikTok die Videos anderer Creators nicht auf dem persönlichen Profil teilen. Das geht nur, wenn man mit einem eigenen Video darauf reagiert. Dafür gibt es zwei Funktionen. Entweder zeigt man ein paar Sekunden des Originalvideos und nimmt im Anschluss ein eigenes Video auf: ein sogenanntes „Stitch“. Oder man lässt das Originalvideo abspielen und nimmt parallel dazu ein eigenes Video als Reaktion auf, sodass beide Videos gleichzeitig angezeigt werden: ein sogenanntes „Duett“.
Diese Funktionen bringen auch Probleme mit sich. Zum einen zeigt ein Stich immer nur einen sehr kurzen Ausschnitt (maximal fünf Sekunden) des Originalvideos. Aussagen können so leicht aus dem Zusammenhang gerissen werden. Zum anderen ist ein Duett beziehungsweise Stitch auch dann noch einsehbar, wenn das Originalvideo bereits längst durch die Moderation gelöscht wurde, beispielsweise wegen Falschinformation. So kann Desinformation u.U. weiterhin auf der Plattform sichtbar bleiben und sich weiter verbreiten.
Fremde Sounds
Bevor es um die Sound-Funktionen von TikTok geht, lohnt ein kurzer Blick auf die Entstehung der Plattform. 2017 übernahm ByteDance die Plattform Musical.ly. Musical.ly war insbesondere dafür bekannt, dass junge Nutzer*innen zu Popsongs sogenannte „Lip Syncs“ aufnahmen, also bei Liedern die Lippen mitbewegten, als würden sie selbst singen. 2018 wurde die Plattform jedoch eingestellt, und die Nutzer*innen wurden zur Geschwister-App TikTok importiert
Die Sound-Funktion ist aber im Kern geblieben: Prinzipiell kann man von jedem auf der Plattform öffentlich geposteten Video den Originalton übernehmen und für das eigene Video nutzen, sofern
das ursprüngliche Video nicht selbst einen zusätzlichen externen Sound verwendet. Das muss auch kein Musikvideo sein, selbst von Erklärvideos können Lip Syncs angefertigt werden. Insbesondere bei Videos über den Krieg in der Ukraine oder aktuelle Konflikte wie beispielsweise im Iran werden so Töne unter Videos gelegt, die die Situation zusätzlich akustisch dramatisieren und im schlimmsten Fall aus dem Zusammenhang reißen.
Verantwortung, Reichweite und Belohnungen
Das Ziel von TikTok-Creators, die öffentlich posten, ist die Viralität. Es geht darum, eine möglichst große Reichweite und viel Aufmerksamkeit für das eigene Video zu generieren. Die Besonderheit von TikTok: Das kann auch gelingen, ohne dass man viele Follower*innen hat oder vorher bekannt war. Entscheidend ist, ob und wie der Algorithmus das Video bewertet und ausspielt. Und wenn wir auf TikTok von „viral“ sprechen, dann meinen wir nicht ein paar Tausend Views, sondern häufig geht es um eine Reichweite von einigen Zehntausend bis zu mehreren Millionen Aufrufen. Insbesondere mit Blick auf die jungen Nutzer*innen kann das zu Problemen führen.
Ab 10.000 Follower*innen und 100.000 Aufrufen im letzten Monat kann man sich mit nur wenigen Klicks für den TikTok Creator Fund bewerben und wird dann von TikTok für die eigene Reichweite bezahlt. Bei kleinen Creators sind das nur sehr geringe Beiträge. Doch es hat sich gezeigt, dass schon eine geringe Bezahlung bei der Verbreitung von Desinformation förderlich sein kann. Ein junger Mann lädt etwa zum Bundestagswahlkampf 2021 ein Video über die Grünen hoch, das thematisiert, was angeblich passieren wird, wenn diese Teil der Regierung werden. Das Video erreicht mehr als eine Millionen Menschen. Doch es enthält Falschinformationen. Der Creator wird von Journalist*innen auf diese angesprochen und gefragt, ob er nicht das Video von der Plattform nehmen will. Doch er verneint – mit Verweis auf den Kreativitäts-Fonds und die Einnahmen, die er bereits durch das Video erhalten hat.
Die zunehmende Verzerrung von Realität: Voice Filter, AR und Co.
Deepfakes und Synthetic Media sind in aller Munde, doch auch die Plattform TikTok selbst bietet immer neue Möglichkeiten, das eigene Gesicht anzupassen beziehungsweise die eigene Stimme zu verändern. Ein klassisches Beispiel ist der Beautyfilter, den TikTok seinen Nutzer*innen bei der Videoaufnahme in der App anbietet. In den Voreinstellungen lassen sich unter anderem die Zähne aufhellen, die Haut weichzeichnen und die Wimpern dunkler schminken – alles natürlich von null bis hundert manuell verstellbar, also von kaum auffällig zu stark sichtbar.
Aber das ist noch nicht alles an Augmented Reality-Tools (AR): Die Plattform arbeitet konstant an ihren In-App-Aufnahmefunktionen. Erst seit Ende 2022 sind auch in Deutschland neue Filterfunktionen für die Stimme verfügbar. Diese funktionieren so: Man nimmt in der App ein Video auf und spricht ganz normal, und in der Nachbearbeitung kann man dann einen Filter über die eigene Stimme legen. Ursprünglich waren das eher stark überzogene und lustige Stimmen, die neuen Funktionen aber sind sehr realitätsnah. So erscheint die Stimme beispielsweise tiefer und „männlicher“ oder gibt einem die Tonlage einer alten Frau. Ob ein*e Creator*in einen dieser Filter nutzt, wird den Nutzer*innen nicht angezeigt. Die Grenzen zwischen Realität und Wirklichkeit verschwimmen immer mehr, und es wird schwerer zu unterscheiden, was echt und was bearbeitet ist.
Der Content-Check!
Gerade weil Botschaften in TikToks nur im Zusammenspiel vieler unterschiedlicher Ebenen vermittelt werden, ist eine detaillierte Analyse der einzelnen Ebenen oft unumgänglich, um Desinformationen zu erkennen. Bei der Analyse können folgende Fragen hilfreich sein:
Kleidung, Accessoires und Requisiten
- Welche Kleidung trägt die Person?
• Haben die Kleidung, Accessoires oder Gebrauchsgegenstände, die in die Handlung mit einbezogen werden, einen Bezug zur eigentlichen Thematik?
• Werden bestimmte Farbcodes und Symbole getragen, oder findet sich ein (politischer) Slogan darauf?
Feedback/Interaktion
- Wie wird der Videoinhalt von Nutzer*innen aufgenommen (Reichweite/Kommentare/Likes)?
• Hat es Stitche oder Duette, also Interaktionen, mit dem Video gegeben?
Schrift, Hashtags und Emojis
- Welche Schriftart, welche Emojis werden genutzt, und inwiefern unterstützen diese die Thematik des Videos?
• Welche Hashtags werden benutzt?
Sounds/Musik
- Welche Musik bzw. Soundschnipsel wurden gewählt?
• Gibt es Hintergrundmusik?
• Woher stammt der Sound, und was soll er ausdrücken?
• In welchen Kontexten wird der Sound sonst genutzt?
• Haben die Band und/oder das Genre eine politische Botschaft oder Assoziation?
Setting
• Haben der Ort oder das Setting im Hintergrund eine Bedeutung?
• Finden sich im Hintergrund politische Botschaften, Statuen, geschichtsträchtige Gebäude?
Kontext
- Was steht in der Profilbeschreibung?
• Welche Hashtags werden verwendet?
• Wer spricht, gegebenenfalls für wen?
• Passt die Thematik zum Gesamtbild des Accounts bzw. des*der Users*in?
AR/Filter
- Welche Veränderung tritt durch den Filter ein?
• Kommt etwas dazu, wird verformt oder die komplette Kulisse geändert?
• Wird durch den Filter eine Perspektive eingenommen?
