Compare per la prima volta il 4 settembre 1998. Oggi Google è una controllata della holding Alphabet e attualmente serve più di 4,5 miliardi di utenti in 190 paesi che parlano 150 lingue in tutto il mondo. Le molteplici diversità e gli innumerevoli punti di vista, del variegato paesaggio culturale umano contenuto nel Web, faticano ad emergere nelle nostre ricerche, perchè da allora l’algoritmo non si è sufficientemente evoluto. Per noi dei femminismi digitali, è uno degli aspetti più deludenti dell’espressione algoritmica della rappresentazione sessuale delle donne operata dal fallocentrismo, vediamolo insieme.

La scena mediatica del digitale, se così si può chiamare, è in gran parte determinata dal gesto di chiedere a Google ed è fondamentale il negoziato di significato (searching) che siamo in grado di mettere in azione. La funzione di autocompletamento (il suggerimento) – forma di mediazione fra noi e la macchina – interviene prima ancora di esprimere il nostro pensiero e non abbiamo modo di cambiare i suggerimenti tant’è che diventano un sorta di correzione frapposta tra i nostri pensieri e il modo in cui li esprimiamo.

Le combinazioni di parole cercate (query) e i «suggerimenti alla ricerca» del search engine della macchina determineranno la composizione della pagina dei risultati della ricerca (SERP) [1] con l’indice dei link, ordinato in base ad un insieme di indici di gradimento. La posizione in questa pagina è molto ambita perché è anche la più letta. Non ci soffermeremo sugli algoritmi che realizzano l’indice e sulla loro pretesa di obiettività, per i quali si rimanda ad altri post, focalizzeremo l’attenzione sul tipo di suggerimento proposto dall’algoritmo. Per Google la funzionalità «suggerimenti alla ricerca» si base su «le previsioni di completamento automatico vengono generate automaticamente, senza l’intervento umano, in base a una serie di fattori oggettivi, come ad esempio la frequenza con cui gli utenti hanno cercato un termine in passato» [2]. Oltre a questo sono incluse le notizie di tendenza, argomenti popolari nella zona geografica rilevata dal geolocalizzatore che variano nel corso della giornata.

Effettuando delle ricerche su Google sono emerse, fra gli altri, inquietanti suggerimenti sessisti e di incitamento alla violenza: «alle donne piace essere picchiate» «le donne dovrebbero essere terminate» «le donne sognano di essere stuprate». Le domande erano: «alle donne piace», «le donne dovrebbero» e «le donne sognano» – Abbiamo cambiato il soggetto – la domanda era «gli uomini dov….» e sono emerse manifestazioni stereotipate tipo «gli uomini non lavano i piatti», ma non pericolose. Il comportamento di Google è stato il medesimo anche da un dispositivo mobile e mediante la App Google.

 

 

 

SchermataDonneTerminate

 

 

La carellata di screenshot sono sotto gli occhi di tutti e, purtroppo, ragazzi e ragazze si formano un opinione partendo proprio dal “chiediamolo a Google”.  Sicuramente gli stereotipi sono la parte inconsapevole dei nostri immaginari e la rappresentazione di vecchi stereotipi, attraverso la numerosità delle parole «cercate», purtroppo fa riemergere asimmetrie, storture che dimostrerebbero quanto il genere femminile e altri generi sessuali sono rappresentati in forme che veicolano discriminazione ed esclusione.

Soffermarci sugli incitamenti alla violenza sarebbe doveroso, ma richiedebbe approfondimenti e argomentazioni che vorremmo riservare ad altri post. Qui vorremmo porre l’attenzione al fatto che l’algoritmo, a detta di Google, è oggettivo perché attinge dalla numerosità – numero di volte – delle frasi ricercate e poi proposte e per questa via attribuisce un alto valore alle frasi appena lette e, pur con i dovuti distinguo, la massa di gente che cerca contenuti di questo tipo sicuramente esprime un preoccupante immaginario di dominazione rispetto alle donne.  Non è colpa sua, sostiene Google, se a qualcuno non piacciono i risultati calcolati [2], il motore di ricerca mostra solo ciò che esiste!

Sicuramente funzioni di questo tipo contribuiscono a perpetuare stereotipi negativi. Anche se questo non significa che la maggioranza delle persone sia sessista, razzista o omofoba, la funzione di auto-completamento «offre una finestra nella coscienza collettiva di Internet, e ciò che questa finestra rivela non è una scena interessante»[3]. Per rimediare, continuamente e a migliaia, dovremmo digitare query di diverso contenuto per modificare il comportamento dell’algoritmo oppure realizzare un plugin che lo faccia automaticamente, ma verrebbe intercettato dalla barriera di sicurezza dei server di Google.

Finché i suggerimenti hanno una fonte automatica le iniziative sono destinate al fallimento, oltre al fatto che sono impossibili da realizzare. L’argomento però ci permette di introdurre l’aspetto delle «azioni di contrasto», perché la problematica sessista dell’auto completamento è emersa fin dall’inizio della nascita dei motori di ricerca. Da qualche tempo sembra che il search Google sia sensibile a questo tipo di discriminazione e si stia attrezzando per non proporre suggerimenti, nella versione inglese, alle query «donna» e «donne». Nella versione italiana non ci è stato modo di apprezzare questo mutamento. Il fatto in sé non risolve il problema ed anzi elimina una funzione altrimenti utile. Sarebbe invece auspicabile che il colosso di Mountain View integrasse nei suggerimenti i thesauri [4] di genere delle maggiori lingue. Sono il risultato della collaborazione e del controllo continuo della pertinenza e della qualità dei vocaboli utilizzati per descrivere il genere sessuale. Prodotti dai centri di informazione documentaria ufficiali, spesso riflettono studi storici sui movimenti di liberazione della donna. Segnaliamo il Gender Equality Glossary and Thesaurus [5], curato dall’Istituto europeo per l’uguaglianza di genere e Linguaggio Donna[6] per la lingua italiana, in attesa di cospicui aggiornamenti. Sono strumenti terminologici specializzati curati da comunità di documentalisti e bibliotecari e, nel nostro caso, si concentrano sull’area linguistica del genere sessuale con l’obiettivo di rendere più inclusiva la catalogazione e la ricercabilità dei materiali.

Per circa un ventennio, chi scrive ha fatto parte di un gruppo di donne di diversa formazione ed età che ha «abitato» la scena digitale dell’Internet italiana fin dal suo manifestarsi e ha realizzato un search engine di genere (cercatrice di Rete), concreta piattaforma tecnologica, segnata dalla tradizione linguistica del femminismo italiano. Il motore «comprendeva» una lingua ad orientamento sessuato avendo adottato LinguaggioDonna, insieme ad altri due microthesauri[6], come guida nei suggerimenti alla ricerca, diventando uno strumento capace di un senso più corrispondente alla differenza di genere nelle interrogazioni sul web. A titolo esemplificativo: alle domande: «le donne dovrebbero» e «le donne sognano» emergevano automaticamente suggerimenti quali:

– autonomia delle donne
– case delle donne
– condizione delle donne
– disparita tra donne
– sessualità delle donne
– erotismo delle donne
– donne e maternità
– rappresentanza delle donne
– salute delle donne
– vissuto delle donne

solo per citarne alcuni, l’elenco potrebbe essere molto più lungo, perché suggerimenti attorno alla parola «donne» sono tantissimi, come innumerevoli e diversificate sono le produzioni testuali, visive, rispettose della differenza sessuale restituite nella SERP di query composte dalle parole così suggerite. Il confronto con le parole suggerite dal motore di ricerca più utilizzato al mondo non lascia spazio a dubbi sull’effetto e sull’impatto nel simbolico degli immaginari.

Effettuando delle ricerche su Google sono emerse, fra gli altri, inquietanti suggerimenti sessisti e di incitamento alla violenza: «alle donne piace essere picchiate» «le donne dovrebbero essere terminate» «le donne sognano di essere stuprate». Le domande erano: «alle donne piace», «le donne dovrebbero» e «le donne sognano» – Abbiamo cambiato il soggetto – la domanda era «gli uomini dov….» e sono emerse manifestazioni stereotipate tipo «gli uomini non lavano i piatti», ma non pericolose.

 

@UN WOMEN_1Nel 2013, la campagna di comunicazione per la sensibilizzazione e il contrasto agli stereotipi sessisti UN Women –  agenzia delle Nazioni Unite per i diritti delle donne e realizzata da Memac Ogilvy & Mather Dubai – ha fatto emergere il fenomeno sessista della funzione di autocompletamento di Google attraverso espliciti manifesti (vedi le immagini qui a fianco). Ha fatto eco la community di Global Voices, rete internazionale di blogger e cittadini-reporter volontari, che ha effettuato la stessa ricerca in 12 lingue e da differenti continenti. A parte le contraddizioni in alcuni paesi, le conclusioni della campagna UN Women sono state confermate estesamente. Alla pratica mediatica di denuncia si è unito il magazine svizzero Mannschaft che, ha declinato la campagna con soggetti maschili per rivelare gli stereotipi sull’omofobia (#gaymanshould) a cui si è aggiunto lo spunto ad ampliare la riflessione sulla discriminazione verso uomini e donne in generale (#EndAllSexism).

In questi ultimi decenni e a differenza di altre epoche, le produzioni culturali di genere sono state tantissime proprio per le opportunità offerte dalla Rete alle rappresentazioni mediate dal linguaggio digitale. Allo stesso tempo, innumerevoli e molteplici Query e SERP dovrebbero aver contribuito a costituire un immaginario rispettoso del genere che, via via, dovrebbe condizionare il comportamento degli algoritmi di ricerca. Come mai assistiamo a forme discriminatorie digitalizzate? Forse il nesso, per quanto riguarda la cultura delle donne, sta nel processo che ha visto il femminismo migrare nei media digitali, in un primo tempo più liberi e ospitali, con interessantissime produzioni di femminismi in rete. Tuttavia il processo non ha prodotto un femminismo della rete che potrebbe condizionare la programmazione del software e modificare il comportamento degli algoritmi sulla base di una sorta di responsabilità algoritmica. Dato il crescente potere che gli algoritmi esercitano nella società, riteniamo servano maggiori artefatti tecnologici come cercatrice di Rete [7], vera e propria macchina femminista, concreto esempio di un altro genere di search engine. Sarà sempre più vitale continuare a sviluppare, codificare e insegnare metodi più formalizzati di responsabilità algoritmica. Per N. Diakopoulos «questo aumenterà la consapevolezza. (Non sono d’accordo che “la responsabilità algoritmica” possa essere assegnata a priori, però). Ma quando gli algoritmi non sono responsabili, allora di chi è la responsabilità?» Le persone/organizzazioni/aziende che li creano, li distribuiscono, o di chi li usa? «Questo ci riporta alla conclusione che la questione della responsabilità va al di là di un’opzione binaria di intenzionalità o completa innocenza … il che rende l’intera faccenda una questione estremamente complessa. Chi è responsabile dell’operatività degli algoritmi?»[8]

[1] Search Engine Results Page (acronimo SERP) significa “pagina dei risultati del motore di ricerca” da Wikipedia.

[2] Articolo apparso in  Sociostrategy  Google’s autocompletion: algorithms, stereotypes and accountability (consultato il 23 febbraio 2018).

[3] Articolo apparso in Wired 2013 #womenshould: donne, stereotipi e motori (di ricerca) (consultato il 23 febbraio 2018).

[4] Thesaurus: lista di termini utilizzabili per l’indicizzazione di materiali documentali. Thesauri di genere, lista di termini che tengono conto della differenza sessuale nel linguaggio della classificazione.

[5] Link al portale dell’Istituto Europeo per l’uguaglianza di genere che lo propone per intero Gender Equality Glossary and Thesaurus.

[6] La prima versione del Thesaurus LinguaggioDonna è stata elaborata dal Centro di studi storici sul movimento di liberazione della donna in Italia, in collaborazione con la Libreria delle donne di Firenze, nel 1991.

[6] I due micro-thesauri sessuati, Tempi e Spazi e Inviolabilità sono stati elaborati  all’interno delle attività del progetto Abside, del Centro di documentazione delle donne di Cagliari.

[7] Vedi No more, articolo su Almagulp del 2017, dove viene descritto il progetto e la sua durata.

[8] Nick Diakopoulos, citazioni riprese dall’articolo apparso in  Sociostrategy  Google’s autocompletion: algorithms, stereotypes and accountability, (consultato il 23 febbraio 2018).