*La cultura virale di TikTok amplifica le ideologie estremiste*
*Allarme lanciato dal rapporto rilasciato dall’Institute for Strategic Dialogue sulla presenza massiccia di account filonazisti presenti sulla piattaforma il cui algoritmo sta amplificando la portata dei messaggi inneggianti all’odio.*

 Lo scorso 29 luglio, l’Institute for Strategic Dialogue, la nota organizzazione indipendente e senza scopo di lucro che si dedica alla salvaguardia dei diritti umani e all'inversione della crescente ondata di polarizzazione, estremismo e disinformazione in tutto il mondo con sede a Londra, ha rilasciato un rapporto (1) sull’analisi dei contenuti neonazisti veicolati da centinaia di account tramite la piattaforma Tik Tok, utilizzata per larga parte soprattutto da un pubblico di giovanissimi.
Il rapporto ha rilevato milioni di visualizzazioni di contenuti pro-nazismo (quali ad esempio video che negano l’Olocausto, l’esaltazione di Hitler, della Germania nazista e del nazismo come soluzione per affrontare i problemi mondiali, il supporto ad azioni quali stragi di massa messe in atto da suprematisti bianchi e filmati in live streaming).
Quanto a TikTok, la piattaforma non è stata in grado fino ad ora di rimuovere video e account che violano le regole, anche quando il contenuto viene segnalato dagli utenti.
Inoltre, l’algoritmo amplifica tali contenuti, spesso multumediali e generati dall’Intelligenza Artiificiale, che in poco tempo raggiungono un pubblico internazionale ampio diventando virali.
NUOVE “TENDENZE”
Gli account analizzati utilizzano grandemente l'intelligenza artificiale generativa (genAI) “spesso per creare caricature disumanizzanti di gruppi razziali ed etnici non bianchi come violenti o comunque minacciosi per le comunità bianche” (1), con il fine di modernizzare la propaganda nazista, attraverso la traduzione di discorsi di Adolf Hitler o la promozione del documentario neonazista Europa denominato “The Last Battle” o la diffusione di appelli in codice che incitano alla violenza contro gli ebrei e altri contenuti pro-nazisti, ricevendo collettivamente milioni di visualizzazioni.
Anche i suoni e l'audio su TikTok presentano una criticità, dato che gli stessi vengono sfruttati dai suprematisti bianchi per amplificare la viralità dei contenuti. Attraverso l’utilizzo di musica e suoni, usati come riferimenti codificati, si elude il controllo sui contenuti da parte della piattaforma Tik Tok che risulta ad oggi fortemente vulnerabile.
Per comprendere la portata di tale criticità basti pensare che in molti casi, i ricercatori dell'ISD hanno individuato contenuti che promuovevano l'ideologia nazista e glorificavano gli autori di stragi di estrema destra semplicemente navigando tra la musica pertinente, piuttosto che cercando parole chiave pertinenti.
Una ricerca su TikTok di una canzone suonata dall'autore della strage di Christchurch (2) mentre si allontanava in auto dopo aver ucciso 51 fedeli musulmani, ha prodotto 1.200 video. 7 dei primi 10 video celebravano l'attacco, la sua motivazione, l'autore della strage o addirittura lo ricreavano in un videogioco.
Questi sette video da soli hanno ricevuto una visione collettiva di 1,5 milioni di visualizzazioni e probabilmente ci sono centinaia di altri video simili che circolano liberamente sulla piattaforma.
LINGUAGGIO CODIFICATO
Per comunicare e segnalare l'ideologia ai membri della comunità in maniera agevole, evitando i controlli dei moderatori della piattaforma, viene utilizzato un linguaggio codificato (emoji, acronimi, numeri e immagini in codice nazista): una tattica, questa, fondamentale con cui vengono espressi supporto e propaganda delle ideologie su TikTok , come evidenziato nel rapporto Hatescape 2021 dell'ISD (3) .
UTILIZZO DI IMMAGINI APPARENTEMENTE INNOCUE COME TRAMPOLINO PER CONTENUTI ESTREMISTI
Attraverso l’utilizzo di immagini apparentemente innocue o nostalgiche (spesso immagini di architettura europea come le cattedrali), questi video passano poi rapidamente a contenuti estremisti, tra cui propaganda nazista, discorsi d'odio contro le minoranze razziali e altro materiale estremista.
RETI PRO-NAZISMO E RECLUTAMENTO: UN ALLARME REALE
Dal rapporto emergono chiaramente l’attività di reclutamento e gli inviti alla mobilitazione con discorsi più violenti ed esplicitamente estremisti comunemente condivisi in particolare attraverso i canali Telegram.
Per esaminare le modalità attraverso le quali gli account si propagano e reclutano, ISD ha analizzato un account il cui nome utente contiene un insulto antisemita e la cui biografia recita "Rivoluzione armata ora. Annientamento completo di ✡️".
Un post di esempio include il testo: "I proprietari dell'Occidente ( ✡️) dovranno presto rispondere dei loro crimini contro di noi... Questi ratti devono essere completamente distrutti affinché la loro linea di sangue finisca... l'unica risposta è procurarsi delle armi e distruggerle", accompagnato da un discorso remixato pieno di odio, che in modo simile invita a "uccidere ogni singolo ebreo", "imparare a costruire bombe" e "smettere di fare affidamento sui ratti ebrei".
“L'account ha 3,8k follower, 5k Mi piace ed è attivo dal 6 febbraio 2023, data in cui ha pubblicato 37 video. Ha condiviso istruzioni incomplete per costruire ordigni esplosivi improvvisati, pistole stampate in 3D e "napalm a basso costo". Ha inoltre cercato di spostare gli utenti in una "groupchat sicura" su Element e Tox, presumibilmente dove gli utenti potevano accedere alle istruzioni complete. Gli utenti nelle sezioni dei commenti hanno indicato di essersi uniti a questi gruppi fuori dalla piattaforma, illustrando come TikTok venga anche utilizzato per coordinare e mobilitare possibili attività terroristiche tra i neonazisti” (1).
E TIK TOK COME AGISCE ALLE SEGNALAZIONI?
Fondamentalmente, alla segnalazione di 50 profili incitanti all’odio, la piattaforma in un primo momento non ha trovato violazioni e tutti gli account sono rimasti attivi il giorno successivo, poi gradualmente li ha bannati (dopo un mese 23 su 50), praticamente solo dopo che gli account avevano accumulato visualizzazioni significative, dimostrando in questo modo di non riuscire ad intervenire in maniera adeguata e tempestiva, innalzando la barriera all’ingresso e contrastando così l’organizzazione invece perfettamente coordinata della rete degli account in questione.

(1) https://www.isdglobal.org/digital_dispatches/naztok-an-organized-neo-nazi-tiktok-network-is-getting-millions-of-views/
(2) Gli attentati di Christchurch sono due attacchi terroristici con arma da fuoco avvenuti il 15 marzo 2019 a Christchurch, in Nuova Zelanda, che hanno causato la morte di 50 persone e il ferimento di altrettante. Il primo attacco è avvenuto alle 13:40 (UTC+13) presso la moschea di Al Noor mentre il secondo è avvenuto alle 13:51 presso il centro islamico di Linwood, entrambi i luoghi affollati da persone di religione musulmana che praticavano la preghiera del venerdì.
L'autore degli attentati di stampo islamofobo, un uomo australiano chiamato Brenton Harrison Tarrant di 28 anni vicino agli ambienti neofascisti, ha trasmesso il video in diretta Facebook. Sulle armi da lui utilizzate erano riportati nomi di storiche battaglie in cui i musulmani furono sconfitti (ad esempio quelle di Lepanto e di Tours) e nomi di personaggi storici o contemporanei responsabili di aver fatto guerra (in quanto comandanti militari) a persone di fede islamica e/o di aver ucciso persone di fede islamica. È stato il più grande omicidio di massa della storia della Nuova Zelanda. (fonte: https://it.wikipedia.org/wiki/Attentati_di_Christchurch)
(3) Hatescape: An In-Depth Analysis of Extremism and Hate Speech on TikTok by Ciarán O’Connor (https://www.isdglobal.org/wp-content/uploads/2021/08/HateScape_v5.pdf)