Il Silenzio degli Algoritmi: Violenza di Genere e Discorso d’Odio nell’Era Digitale

Lezione corso ‘Comunicazione e genere‘ – Unibo a.a. 2023/2024; prima parte vai alla seconda.

La ‘mansphere‘ (letteralmente ‘sfera maschile’ anche uomo sfera) è un fenomeno online che coinvolge ambienti virtuali prevalentemente maschili. Un rifugio virtuale spesso alimentato da malessere e risentimento contro le donne e le minoranze, è un altro aspetto della violenza di genere spesso trascurato dai media tradizionali. Oltre a siti WEB è comodamente di casa sulle piattaforme di social media popolari come Instagram, Facebook e Twitter. Reddit in particolare ospita molte comunità manosphere, anche se i più popolari sono stati banditi causa il loro incitamento alla violenza.
TikTok è un’altra risorsa per questo tipo di comunità, in particolare quella PUA (artista del rimorchio) e coach di appuntamenti. Quando il pubblico ha abbandonato in massa i social media, la mansfera ha intensificato l’uso delle piattaforme di messaggistica istantanea come WhatsApp, Telegram, Viber, Facebook Messenger e ora Signal. L’accesso ai canali privati  è un vero e proprio test della sintonia con il “proprio malessere”, un luogo sicuro dove condividere senza filtri pensieri e emozioni .  La natura esclusiva di questi canali privati può generare un profondo senso di appartenenza e identità. Chi vi partecipa si sente parte di una comunità ristretta e privilegiata, capace di offrire comprensione e supporto reciproco.

Ma come trovano la mansphera i giovani? Una via è l’algoritmo di YouTube che è progettato per mantenere gli utenti attivi sulla piattaforma, proponendo contenuti che corrispondono sempre più ai loro interessi iniziali. Ciò significa che se un utente inizia a guardare video legati alla manosfera, l’algoritmo tenderà a suggerirgli contenuti sempre più estremi e radicalizzati all’interno di quella stessa nicchia. I contenuti sessisti e antifemministi spesso tendono a essere più sensazionalistici e a generare un maggior coinvolgimento emotivo. L’algoritmo, che premia i contenuti che generano più interazioni (like, commenti, condivisioni), è quindi incentivato a proporre questo tipo di contenuti. Gli utenti possono trovarsi intrappolati in un ciclo infinito di contenuti estremi, senza rendersi conto di come siano stati guidati verso questa nicchia.
Ben descrivono il fenomeno le testimonianze, qui riportate, di alcune ragazze che hanno concluso relazioni affettive proprio a causa della pervasività della mansphere.

La rappresentazione mediatica della violenza di genere è come un iceberg, con la punta visibile e spettacolarizzata, invece la parte sommersa è più sottile e invisibile. L’osservazione prende spunto dall’immagine presentata in una delle sue analisi da ‘In Genere’, una rivista femminista online. Adottare questo approccio ci permette di individuarla nel mondo digitale, nella parte sommersa e spesso trascurata dell’iceberg.

È necessario ripetere e sottolineare che è sempre più evidente che la violenza digitale online si aggiunge alla violenza fisica, creando un crescendo senza confini, sia in termini di crudeltà che di persone coinvolte: mentre la violenza fisica di solito colpisce un numero limitato di persone, quella virtuale può coinvolgere migliaia di persone, tra vittime e aggressori. Spesso si sottovaluta che oltre al danno psicologico, il digitale moltiplica l’impatto di atti violenti attraverso nuove forme di imitazione che portano all’amplificazione del fenomeno.

L’aumento dell’uso di fonti algoritmiche, come i social media e i motori di ricerca, sta radicalmente modificando il modo in cui ci informiamo. Personalizzando i contenuti in base ai nostri interessi, questi algoritmi creano delle ‘bolle informative’ che limitano la nostra esposizione a opinioni diverse. Secondo l’Agcom, quasi il 54% dei giovani, in particolare la generazione Z, si affida esclusivamente a queste fonti, sottraendo potere ai mediatori culturali tradizionali come giornalisti e docenti, che offrono un’analisi critica e un contesto più ampio alle notizie.
Oltre a ‘In Genere’, suggerisco Vox – Osservatorio Italiano sui Diritti. I loro dati sono inequivocabili: l’odio online, soprattutto verso donne e comunità LGBTQ+, è un problema grave e diffuso. Casi come quelli di Boldrini e Segre ne sono la tragica conferma. Dietro ogni like e ogni commento offensivo, si nasconde una vittima, una persona che subisce quotidianamente attacchi violenti e discriminatori.

La mascolinità tossica.

Il termine viene utilizzato per descrivere la natura violenta e minacciosa di questi attacchi online. Il linguaggio impiegato è spesso triviale, volgare e altamente offensivo. Le vittime, soprattutto donne e attivistɜ LGBTQ+, sono sottoposte a minacce di morte molto specifiche, che vanno ben oltre semplici offese. Questa escalation della violenza verbale crea un clima di paura e insicurezza, giustificando appieno l’utilizzo del termine “tossica” per definire questa forma di comunicazione.

Per tentare di rintracciarne le origini e l’impatto cerchiamo di capire in che modo l’algoritmo di Google influenza il nostro modo di pensare e di relazionarci con gli altri. L’autocompletamento di Google, apparentemente innocuo, contribuisce a creare una sorta di ‘opinione pubblica virtuale’ che riflette e rafforza gli stereotipi di genere più diffusi. L’algoritmo, analizzando miliardi di ricerche, amplifica le voci più rumorose e influenti, spesso guidate da strategie di SEO. In questo modo, termini e frasi discriminatori vengono normalizzati e proposti come opzioni predefinite agli utenti, influenzando inconsciamente le nostre percezioni e il nostro linguaggio. Diventa uno strumento che non solo riflette, ma anche modella l’opinione pubblica.

Attraverso degli esempi concreti, raccolti anche grazie al lavoro degli student, possiamo osservare quanto i suggerimenti automatici di Google siano intrisi di pregiudizi di genere (vedi gli screenshot in figura) . Se proviamo a completare la frase ‘ogni donna deve…’, noteremo come i suggerimenti proposti si concentrino quasi esclusivamente su prodotti di bellezza o su aspetti legati alla cura del corpo. Al contrario, se iniziamo con ‘ogni uomo deve…’, i suggerimenti tenderanno a riguardare aspetti più legati alle prestazioni sessuali.

Anche negli altri motori di ricerca succede la stessa cosa e a volte le frasi sono le stesse.  Il fenomeno non dipende esclusivamente da ciò che ciascuno di noi cerca.

Tutti i motori di ricerca utilizzano complessi algoritmi che analizzano miliardi di pagine web per fornire i risultati più pertinenti alle nostre ricerche. Questi algoritmi si basano su una serie di fattori, tra cui la frequenza con cui una parola o una frase viene cercata, il numero di siti web che la contengono e la qualità di questi siti. Questo significa che i contenuti più popolari e condivisi hanno maggiori probabilità di apparire nei suggerimenti e, di conseguenza, sull’opinione pubblica e come sostiene una recente indagine di Rosie Graham  “ci sono molteplici dimensioni etiche sollevate dallo strumento di suggerimento di query automatizzato di Google”. Questo fenomeno non è esclusivo di Google, ma è riscontrabile anche in altri motori di ricerca più rispettosi della privacy, come DuckDuckGo . Questo dimostra che gli algoritmi, basandosi sulle ricerche più comuni, contribuiscono a rafforzare e diffondere rappresentazioni stereotipate e discriminatorie delle donne, incitando anche alla violenza. Negli esempi mostrati nella figura risaltano i suggerimenti “le donne sognano di essere stuprate” e “le donne dovrebbero essere terminate” che fanno emergere la diffusione del linguaggio e della comunicazione del maschilismo tossico della mansphere.

L’uomo sfera sembra essere la principale fonte di una contro-narrazione che sfida le tesi del femminismo. Questa corrente, spesso definita “negazionista”, sostiene che non esista alcuna disparità tra uomini e donne e che le richieste delle femministe siano infondate. I negazionisti presentano una visione idealizzata del passato, in cui uomini e donne avrebbero avuto ruoli uguali e complementari, e sostengono che i movimenti femministi stiano invertendo questa situazione, creando un mondo in cui gli uomini sarebbero svantaggiati. Un esempio tipico di questa visione distorta è rappresentato da chi sostiene che in passato vi fosse una perfetta parità tra uomini e donne, con entrambi i sessi che detenevano il 50% del potere. Questa argomentazione, spesso basata su una lettura semplificata del passato, ignora le profonde disuguaglianze di genere che hanno caratterizzato la storia e sminuisce le ragioni alla base delle rivendicazioni femministe.

Questa visione semplificata e distorta della realtà ignora le complesse dinamiche di potere che hanno storicamente svantaggiato le donne e minimizza le conquiste ottenute grazie alle lotte femministe. In un articolo del 2017, pubblicato nel sito Wu Ming Foundation si può trovare un dettagliato approfondimento della teoria che il femminicidio non esiste.
Attraverso un’analisi dettagliata e puntuale delle argomentazioni utilizzate dai negazionisti di genere, nel lungo post gli autori mostrano come questi argomenti, spesso presentati come oggettivi e basati su dati statistici, siano in realtà costruiti su fondamenta fragili e viziati da pregiudizi. Attraverso una minuziosa analisi delle fonti e delle metodologie utilizzate, evidenziano come i sostenitori di questa teoria commettano errori sistematici nell’interpretazione dei dati, al fine di sostenere tesi preconcette. L’ampio uso dell’ironia e di un linguaggio disinvolto può essere interpretato come una strategia retorica per sminuire  e delegittimare chi le sostiene. Si mira a ridicolizzare le preoccupazioni e le lotte delle donne, sottovalutando la gravità e l’importanza delle questioni.
Negli ultimi anni si assiste alla proliferazione di questo tipo di contenuti volti a manipolare i dati statistici, presentandoli in modo fuorviante anche attraverso infografiche accativanti. Ad esempio, viene spesso sostenuto che il tasso di mortalità maschile sia superiore a quello femminile, per sminuire il problema del femminicidio.  Ignorando le specifiche cause di morte e le diverse condizioni di vita tra uomini e donne. Un caso esemplare è l’articolo di Barbara Benedettelli, viene costantemente riproposto online ed è persino utilizzato da modelli linguistici come ChatGPT per fornire definizioni errate del concetto di maschicidio. Questa sovrabbondanza di informazioni false e fuorvianti, spesso presentate con un linguaggio apparentemente scientifico, rende difficile per le persone comuni distinguere tra fatti e opinioni, ma è ciò che vogliono perchè l’obiettivo è rafforzare gli stereotipi non di svelarne i limiti.

Fino ad ora abbiamo analizzato la manosfera da una prospettiva esterna, quella di chi non ne fa parte (outgroup). In questo contesto è particolarmente evidente  la divisione tra ingroup e outgroup, concetti mutuati dalla psicologia sociale. Per comprendere più a fondo questo fenomeno adottiamo ora la prospettiva dei membri (ingroup) stessi della manosfera e analizziamo le loro motivazioni, credenze e dinamiche interne.

La prospettiva dei membri (ingroup) della manosfera.

Costruiscono il loro ragionamento sulla condizione umana partendo da una rilettura del film Matrix per sostenere le proprie tesi. Una reinterpretazione del film che contrasta nettamente con la visione originale delle Wachowski, trasformando il dilemma di Neo in una metafora della lotta maschile contro un sistema oppressivo dominato dalle donne. In questa interpretazione distorta, la ‘pillola rossa’ simboleggia l’illuminazione. Ma in realtà autrici di Matrix, le sorelle Wachowski al tempo fratelli, hanno intessuto nel film una trama ricca di simbolismi e riferimenti filosofici per rompere tutti gli stereotipi e hanno creati personaggi e storie che sfidano le convenzioni (illuminanate il podcast di Michela Murgia su di loro). Nelle loro intenzioni la famosa scelta tra la pillola rossa o la pillola blu con la verità da una parte e l’inconsapevolezza dall’altra è  un invito a non accontentarsi di ciò che ci viene presentato, ma a cercare la verità al di là delle apparenze. Autrici anche della serie televisiva “Sense8” che ha avuto un grande impatto sulla comunità LGBTQ+, presentano una profonda riflessione sul significato della parola “confini” che sono da abbattere e non da erigere come viene fatto dalla mansphere.

La perversa interpretazione di Matrix è talmente centrale che ricorre diffusamente nelle loro conversazioni, da cui emerge la figura retorica del “red pillato”. Chi si identifica come red pillato sostiene di aver avuto un’illuminazione che porta con sé una visione del mondo ben definita e spesso radicale. In questo mondo, le donne sono astute manipolatrici, sirene che attirano gli uomini verso la rovina. “Il loro canto risuona come una cacofonia di inganni e tradimenti.” (citazione ripresa da un canale Reddit). Nel red pillato cresce un senso di vittimismo che lo porta a parcepirsi come un martire moderno, un Prometeo incatenato non a una roccia, ma alle convenzioni di una società che percepisce come ostile perchè governata dal politicamente corretto e dai decreti femministi di oppressione maschile. Si aggrappa a teorie del complotto che promettono di svelare i segreti di un mondo che cospira contro di lui. Ogni notizia, ogni statistica diventa un codice da decifrare, un indizio della grande cospirazione. Il sessismo? Un’invenzione. La violenza domestica? Una farsa orchestrata.
Armato di questa nuova “consapevolezza”, il red pillato si muove nel mondo come un predatore sessuale che deve affinare l’arte della seduzione, da qui la nascita di innumerevoli gruppi e corsi on line (si veda gli impressionanti numeri dei podcast “PUA” in Italia, qui un approfondimento). La relazione amorosa si trasforma in una conquista da pianificare con fredda logica.

A conclusione di questa prima parte (qui la seconda), segnalo il libro di bell hooks La volontà di cambiare con le sue riflessioni sulla mascolinità tossica.
Sebbene l’interesse per questo argomento sia in crescita, non riceve una copertura sufficiente dai media tradizionali. e vorrei rimandare ad

7 febbraio 2020, Redazione di UnoBravo, Mascolinità tossica: definizione, problemi comuni e come affrontarla
4 ottobre 2021 Jessica Aston, Cos’è la manosfera e perché è preoccupante?
17 aprile 2024 Sole 24 ore, Eleonora Cipolletta, Verso nuovi modelli maschili, opportunità di formazione e crescita per i più giovani.

Una breve sitografia di strumenti di sensibilizzazione.

Mel Magazine,  Incel Vocab 101: What We Can Learn from the Language of the Manosphere Come conoscere il linguaggio della uomo sfera.
Laura Bates , Men Who Hate Women: From incels to pickup artists, the truth about extreme misogyny and how it affects us all, Simon & Schuster Ltd, 2021.

Unione Europea, (trad.aut.Come possono gli operatorɜ giovanili affrontare l’attuale polarizzazione…Una migliore comprensione delle narrazioni e degli influencer dannosi antifemministi e anti-genere mette questi… giovani che si autolesionano) How can youth practitioners deal with current polarisation …A better understanding of harmful anti-feminist, anti-gender narratives and influencers puts these … young men who self-harm; .

Pur con le dovute cautele: IDRlabs – Test sulla Mascolinità Tossica. Ripreso dalle seguenti ricerche scientifiche:
Heilman, B., Barker, G. e Harrison, A. (2017) The Man Box: A Study on Being a Young Man in the US, UK, and Mexico. Washington, DC and London: Promundo-US and Unilever.
Kant, L., Skogstad, A., Torsheim, T. e Einarsen, S. (2013) Beware the angry leader: Trait anger and trait anxiety as predictors of petty tyranny. The Leadership Quarterly, 24(1), 106-124.
Lee, K., Ashton, M. C., Wiltshire, J., Bourdage, J. S., Visser, B. A. e Gallucci, A. Sex, Power, and Money: Prediction from the Dark Triad and Honesty–Humility (2013).

Fine della prima parte – vai alla seconda.