L’IA non è neutrale. Amplifica i pregiudizi linguistici, potremmo usarla per promuovere la giustizia linguistica.
Lezione corso ‘Comunicazione e genere‘ – Unibo a.a. 2023/2024; primo di due articoli vai al secondo.
Mentre la Cina è all’avanguardia nella produzione tecnologica, il cinese scritto, come il giapponese, mantengono radici profonde in un passato patriarcale. L’ideogramma per ‘donna’ la raffigura ancora oggi inginocchiata, in una posizione di evidente sottomissione. Un’immagine che stride con il ruolo sempre più centrale delle donne anche in queste società.
Cosa accade quando i modelli linguistici di grandi dimensioni delle AI vengono addestrati su enormi quantità di testo provenienti da Internet. Significa che vengono inclusi testi in moltissime lingue, tra cui sicuramente il cinese, una delle lingue più parlate al mondo e con una vasta produzione di contenuti online. Se questi dati contengono bias culturali o di genere, come quelli evidenziati nell’esempio dell’ideogramma, le AI apprendono e perpetuato tali pregiudizi.
Siamo di fronte al problema delle ingiustizie linguistiche e al nefasto riverbero sul simbolico della produzione culturale. È fondamentale promuovere un linguaggio inclusivo, educare alla diversità e agire per cambiare le abitudini linguistiche. Infatti e seppur lentamente la produzione di cultura è avviata in questa direzione ma con l’avvento dell’intelligenza artificiale (IA) il problema delle ingiustizie linguistiche purtroppo si amplifica. Esempi di questo fenomeno includono l’uso del maschile generico, che rende le donne invisibili nel linguaggio e ne sminuisce il ruolo nella società. Oppure la connotazione negativa di termini riferiti alle donne, come “emotiva” o “fragile”, sono spesso utilizzati per screditarne le opinioni e i comportamenti. Di più, se utilizziamo le AI generative per ottenere la rappresentazione del femminicidio, ad esempio, possono emergere risultati fuorvianti per la prevalenza di siti web che negano o minimizzano il problema, oppure promuovono una visione distorta del fenomeno. Purtroppo se i modelli di IA sono addestrati su dati che contengono stereotipi di genere, possono generare contenuti che incolpano le vittime, minimizzano la gravità del crimine o giustificano la violenza.
Ecco tre prompt che mi ha suggerito Gemini:
I suggerimenti dell’AI generativa possono essere impiegati per scrivere articoli, post e meme che una volta diffusi sui social media o su altri canali, forniscono informazioni false o fuorvianti che si diffondono rapidamente e sminuiscono il problema!?
Indice
L’ingiustizia linguistica fra sistemi simbolici e reti neurali artificiali.
il ruolo degli intermediari.
Il linguaggio inclusivo: una battaglia femminista.
Giustizia linguistica: esiti di un’analisi intersezionale della SERP.
(tempo di lettura 20 minuti)
L’ingiustizia linguistica fra sistemi simbolici e reti neurali artificiali.
L’AI sta rivoluzionando il modo in cui produciamo e consumiamo contenuti digitali, per questo è importante comprendere il suo funzionamento. I modelli di intelligenza artificiale non seguono algoritmi rigidi e predefiniti ed è importante comprendere questa profonda differenza rispetto al modo fin qui offerto dalle piattaforme software, perchè avrà un impatto significativo in ambito comunicativo e nell’esercizio della democrazia condizionando il nostro futuro.
Un primo passo è cogliere la sostanziale differenza tra la produzione di contenuti digitali algoritmici e quelli basati sull’IA. Le AI sono in grado di gestire una vasta gamma di dati, anche non strutturati, e di apprendere da essi identificando pattern e correlazioni complesse, il loro funzionamento interno è spesso opaco e non possiamo sempre spiegare esattamente com’è arrivata a una determinata conclusione.
La differenza fondamentale sta nel fatto che vi è un’algoritmica che si basa su sistemi simbolici e database strutturati. Questi sistemi raccolgono, organizzano e presentano le informazioni attraverso interfacce come i motori di ricerca, permettendoci di recuperare i dati in modo preciso. Al contrario, l’intelligenza artificiale si basa su modelli complessi che funzionano come vere e proprie ‘scatole nere’.
Facciamo l’analogia fra un bibliotecario e un detective. Il bibliotecario utilizza un sistema di catalogazione preciso per trovare un libro specifico. Si sa esattamente come ha fatto. Il detective, invece, indaga su un caso, analizzando indizi e collegando i punti in modo spesso intuitivo. Non sempre può spiegare esattamente come ha risolto il caso.
Il ruolo degli intermediari.
Ed è qui che emergere il ruolo degli intermediari. Quando utilizziamo un motore di ricerca tradizionale, c’è un’entità, un’azienda o un’istituzione, che decide come organizzare e presentare le informazioni. Questo ci permette di valutare la qualità e l’affidabilità delle fonti. Con l’avvento dell’intelligenza artificiale, i processi decisionali diventano meno visibili, rendendo più difficile comprendere come vengono generati i risultati.
Prendiamo, ad esempio, il Sistema Nazionale delle Biblioteche italiane che cataloga le monografie e la letteratura grigia italiana. Il Sistema Bibliotecario Nazionale (SBN) costituisce in sistema informativo (localizzazione delle biblioteche, organizzazione, regole) e raccoglie i cataloghi di quasi 4.000 biblioteche italiane. Lo consultiamo via web compilando l’apposita maschera.
Poniamo di voler cercare del materiale documentale e non sappiamo esattamente il titolo dell’opera; la finestrella del campo soggetto, che è come la buca di Google, ci invita a digitare le parole che ipotizziamo possano essere nel titolo. Per il nostro esempio di interrogazione la scelta cade sulla parola stupro, perché densissima di significati e utile per comprendere nello stesso tempo i negoziati che ci sono permessi dal software che interroga il catalogo e l’importanza dei fondi documentali delle donne. I femminismi hanno da sempre sottolineato il carattere non neutro del linguaggio e hanno lavorato per decolonizzare le biblioteche, rendendole spazi più inclusivi e rappresentativi. E la dimostrazione più palese è questo esempio.
La banca dati del SBN, cioè il catalogo dei libri di quattromila biblioteche, presenta 390 schede (occorrenze) di libri che sono stati catalogati con il soggetto stupro. Una parola tabù fino a una ventina di anni fa. Se ci soffermiamo sulla data di pubblicazione molti sono entro l’ultimo decennio, per la precisione 117 dal 2010 al 2022, e dimostra l’attenzione che solo oggi suscita il fenomeno insieme a quello estremo del femminicidio. Oltre 200 titoli sono presso la Biblioteca italiana delle donne che ha sede a Bologna; questo permette di dare concretezza al ragionamento sull’intermediazione fra un’utenza e un media digitale. Rispetto alle oltre 4000 biblioteche, questa ha dedicato una quota significativamente maggiore alle pubblicazioni che affrontano il tema dello stupro.
Nell’esempio ho descritto il funzionamento di un programma software prodotto attraverso la scrittura di “migliaia di righe di codice”, l’approccio è pertanto di tipo simbolico. Questa non è un’intelligenza artificiale. E in questo caso l’intermediazione tra utente e informazione digitale, è fortemente influenzata dagli strumenti e dalle metodologie della biblioteconomia. Concetti come “corpus”, “soggettario” e “thesaurus” sono fondamentali per organizzare, classificare e reperire l’informazione in modo efficace. Infatti hanno condizionato la scrittura del codice del programma software.
Il soggettario, in particolare, è uno strumento essenziale per la ricerca bibliografica. Contiene un elenco controllato di termini che descrivono i contenuti dei documenti. L’evoluzione di questi termini riflette i cambiamenti sociali e linguistici. Ad esempio, solo di recente il termine “femminicidio” è stato riconosciuto come termine preferibile nei soggettari, a testimonianza di una maggiore consapevolezza e sensibilità verso questo grave fenomeno.
Anche i thesauri sono ampiamente utilizzati in biblioteconomia per indicizzare i documenti e creare relazioni semantiche tra i termini (sinonimi, iperonimi, iponimi, ecc.) per facilitare le ricerche degli utenti. Infatti consentono di trovare informazioni anche utilizzando sinonimi o termini correlati. Sono inoltre utilizzati in sistemi di information retrieval e in progetti di ontologie. Ciò consente di effettuare ricerche più approfondite e di esplorare un argomento da diverse prospettive. Da citare LinguaggioDonna, il primo thesaurus in lingua italiana che tiene conto degli aspetti sessuati del linguaggio (Perrotta Rabissi e Perucci 1991).
I motori di ricerca basati sull’IA spesso richiedono una formulazione precisa delle query per fornire risultati pertinenti, al contrario, i sistemi di classificazione tradizionali, come i soggettari e i thesaurus, offrono un quadro concettuale più stabile e strutturato, facilitando la ricerca anche per utenti meno esperti.
Purtroppo l’impronta patriarcale del Soggettario, così come molti altri strumenti di classificazione, è profondamente radicato in una cultura e in un sistema di valori che storicamente hanno privilegiato una prospettiva maschile, bianca e occidentale. La persistenza del simbolico maschile nel gioco di nominazione linguistica e nominare significa far esistere le cose (Gheno 2019). Anche in questo modo si innestano e perdurano nel tempo i processi di omologazione culturale della nominazione che escludono le donne, i gay, le lesbiche, le persone con disabilità, le minoranze etniche e linguistiche.
Vorrei sottolineare l’enorme lavoro svolto negli anni per creare dei corpus tematici specifici su genere, discriminazione sessuale e altri domini. L’esistenza di un thesaurus europeo di genere, ad esempio, dimostra l’importanza di questi strumenti a livello internazionale.
Come le persone vengono concettualizzate e rappresentate per descrivere e classificare i documenti e le opere è alla base di un continuo dibattito. Il thesaurus europeo di genere è una conquista e dovremmo tenerlo presente maggiormente nei dibattiti in corso sui sistemi di classificazione delle AI.
Il linguaggio inclusivo: una battaglia femminista
L’uso del maschile generico, ad esempio, è identificato come problematico, in quanto relega implicitamente il femminile ad una posizione di subalternità. Questo aspetto era già stato messo in luce durante la Rivoluzione Francese da Olympe de Gouges, la quale si batté per una Dichiarazione dei Diritti della Donna e delle Cittadine, immaginando l’impatto dirompente che un semplice cambio di genere avrebbe avuto sul linguaggio e sul significato stesso dei diritti.
La lotta per un linguaggio non sessista è un pilastro del femminismo contemporaneo. Nel focalizzare la nostra analisi sulla lingua italiana e sulla sua intrinseca tendenza a riflettere e perpetuare la discriminazione di genere, è obbligatorio ricorrere al lavoro di Alma Sabatini, Cecilia Robustelli e Vera Gheno.
Ecco alcuni punti chiave emersi:
Alma Sabatini e le sue Raccomandazioni per un uso non sessista della lingua italiana (1986) hanno sistematizzato gli aspetti che rendono la lingua italiana discriminatoria in quattro famose indicazioni:
1-evitare il maschile non marcato, es. i diritti della persona e non i diritti dell’uomo;
2-evitare l’articolo con i cognomi femminili;
3- accordare il genere degli aggettivi con quello dei nomi che sono in maggioranza (o, in caso di parità, con l’ultimo nome citato);
4-usare il femminile dei titoli professionali in riferimento alle donne.
Negli ultimi decenni, si è assistito ad un utilizzo più frequente di formule inclusive, come “cittadini e cittadine”, ma la strada verso un linguaggio pienamente inclusivo è ancora lunga.
Il dibattito sullo schwa (ə) come desinenza neutra è emblematico della complessità di questa battaglia. È Vera Gheno la maggiore sostenitrice di questa sperimentazione linguistica per sottolineare l’importanza nel riconoscimento delle persone non binarie.
Cecilia Robustelli, invece, esprime delle perplessità. La sua preoccupazione è che l’eliminazione delle desinenze grammaticali, pur di includere l’intersessualità, possa portare ad una cancellazione dell’identità femminile, rischiando di oscurare la differenza di genere anziché promuovere una reale inclusività.
Le quattro raccomandazioni iniziali hanno dato vita a un ampio dibattito e a numerosi strumenti che convergono verso un unico obiettivo: la giustizia linguistica. Più in generale i movimenti per i diritti civili e i movimenti indigeni hanno portato alla ribalta la questione sottolineando come il linguaggio possa essere uno strumento di potere e di oppressione. La riflessione sul linguaggio inclusivo, dunque, non può prescindere da una più ampia riflessione sulle dinamiche sociali e culturali che contribuiscono a perpetuare la discriminazione di genere.
Tutte le persone hanno il diritto di utilizzare la propria lingua in tutti gli ambiti della vita, senza subire discriminazioni o svantaggi.
Giustizia linguistica: esiti di un’analisi intersezionale della SERP
Vorrei insistere sul discorso della giustizia linguistica con un esempio riguardante i libri per bambini che descrivono le comunità LGBTQIA+[1]. Nell’epoca del gender fluid l’acronimo identifica in maniera sintetica il mondo lesbico, i gay, bisessuali, transessuali, i queer, gli intersessuali e gli asessuali.
Per comprendere meglio il concetto di giustizia linguistica proviamo a utilizzare il motore Google per testare l’uso del maschile sovraesteso e dello schwa (ə) con tre diverse query:
1)«LGBTQIA+ libri per bambini»: il termine bambini, molto comune, include implicitamente anche le bambine, ma la SERP (pagina dei risultati di ricerca) è dominata da risultati che utilizzano il maschile plurale sovraesteso.
2)«LGBTQIA+ libri per bambine»: in questo caso, la ricerca è più specifica, ma i risultati sono scarsi o addirittura assenti.
3)«LGBTQIA+ libri per bambinə»: l’uso dello schwa permette di ottenere risultati più inclusivi, anche se in numero inferiore rispetto alla prima query. Cosa ci dicono i risultati ?
Caso 1) e 2) dominanza del maschile sovraesteso: nonostante l’esistenza di un pubblico femminile interessato a questi temi, la SERP è ancora fortemente influenzata dall’uso del maschile sovraesteso, che tende a invisibilizzare le esperienze e le identità delle bambine e delle ragazze LGBTQIA+. La ricerca specifica per “bambine” restituisce risultati scarsi, evidenziando una lacuna nell’offerta editoriale e nella visibilità online di contenuti pensati specificamente per le bambine LGBTQIA+.
Nel caso 3) emerge il potenziale dello schwa il cui uso, pur non essendo ancora del tutto diffuso, permette di ottenere almeno due risultati inclusivi. Uno è il link al sito Teste fiorite (recensioni, consulenze, progettazione, spasso tra i libri per bambinə, ragazze gay, eccetera), l’altro è un chiaro sito intersezionale che usa la schwa in quanto rappresentativo di queer, di neuro divergenti, di corpi non conformi eccetera eccetera. Il carattere schwa impatta immediatamente nella quotidianità come quella di fare una query ad un motore di ricerca.
Il linguaggio sessista limita l’accesso all’informazione e influenza la percezione di sé e delle proprie possibilità. Immaginiamo una ragazzina di 12 anni, dubbiosa sulla propria identità di genere, faticherà a trovare risultati pertinenti nella ricerca di informazioni su questo argomento!
Anche in un ambito apparentemente innocuo come quello della ricerca di libri per l’infanzia, la ricerca con Google mette in evidenza la persistenza di stereotipi di genere nel linguaggio e nei contenuti. Nello stesso tempo dimostra anche che piccole modifiche linguistiche possono avere un impatto significativo sulla visibilità e l’accessibilità delle informazioni.
Anche se con luci e ombre, la biblioteconomia con i suoi linguaggi controllati si frappone fra l’agente umano e la macchina. Tutto cambia quando l’intermediazione avviene attraverso l’IA che scalza, cancella i linguaggi controllati e li sostituisce con il linguaggio naturale. Sono i chatbot che rispondono alle domande degli utenti in linguaggio naturale o gli assistenti virtuali che guidano la ricerca.
Cosa accade con le AI generative come Gemini e chatGPT?
L’utilizzo delle attuali AI manifestano un rapporto problematico tra il triangolo semiotico della comunicazione e l’intelligenza artificiale. Il triangolo semiotico è la relazione tra segno, significato e referente. La comunicazione umana si basa su questo triangolo, integrando aspetti denotativi (il riferimento oggettivo) e connotativi (le sfumature soggettive ed emotive). Attraverso la disambiguazione, processo dinamico intrinseco alla comunicazione umana, si arriva a una comprensione condivisa del significato L’utilizzo dei big data nell’IA, pur simulando un comportamento intelligente, si scontra con la complessità del linguaggio umano e genera distorsioni semantiche significative. Per questo diventa centrale la relazione tra intelligenza artificiale e triangolo semiotico.
Le intelligenze artificiali, come Siri o Alexa, operano al di fuori del triangolo semiotico. Si basano sulle Reti Neurali Artificiali che elaborano enormi quantità di dati (big data) per “imparare” a comunicare. Il processo, però, non coglie la complessità del linguaggio umano e porta a un “collasso” tra denotazione e connotazione. La mancanza di disambiguazione genera errori e distorsioni semantiche. Già nel 2018 Gartner denunciava che l’85% dei progetti di intelligenza artificiale produce risultati errati a causa del bias negli algoritmi e nei set di dati. Per l’addestramento di chatGPT è utilizzato l’intero corpus di Wikipedia dove la parola “donna” porta a una definizione biologica, mentre “uomo” rimanda a “Homo sapiens”, questo è ciò che si riscontra nella versione italiana. È un tipico esempio di ingiustizia linguistica visto che anche la donna vi appartiene perchè non collegarla a questa voce. Questo si traduce in discriminazioni e distorsioni semantiche riconducibili anche alla visione del mondo dei team di sviluppo, spesso non rappresentativi della diversità umana.
Combattere le ingiustizie linguistiche nell’epoca delle IA
È fondamentale negoziare il significato con gli artefatti tecnologici. Per mitigare le ingiustizie linguistiche non è sufficiente aumentare la dimensione dei modelli linguistici misurata dal numero di parametri e dalla dimensione dei dati di addestramento. L’IA può essere utilizzata per creare strumenti che aiutano a scrivere testi più inclusivi, suggerendo alternative a parole o espressioni offensive.
L’IA può anche essere parte della soluzione e può essere utilizzata per identificare e quantificare i bias presenti nei dati e nei modelli per poi procedere con l’aggiunta di vincoli semantici e con tecniche di riponderazione dei dati.
La distorsione di genere nel set di dati utilizzato per l’addestramento è dovuta ad una maggiore rappresentanza di nomi, pronomi e aggettivi al maschile. Per correggere il fenomeno si potrebbe riponderare i dati. Questo significa assegnare un “peso” maggiore a nomi, pronomi e aggettivi di genere femminile e LGBTQIA+ ricavato dalle percentuali di persone di questo genere nella popolazione mondiale.
Ad esempio, se le donne rappresentano il 50% della popolazione, ma solo il 20% del set di dati, il fattore di ponderazione sarà 2,5 (50% / 20%). Applicazione del peso: si moltiplicano i token di genere per il fattore di ponderazione. In questo modo, il loro contributo all’analisi finale verrà più che duplicato, compensando la loro iniziale sottorappresentazione.
Operazione possibile per le potenze di calcolo dei motori di addestramento ma non immaginabile per gli attuali team di sviluppo!
Diventa cruciale la presenza di team di sviluppo diversificati, con diverse appartenenze di genere e di etnia ma anche con competenze umanistiche e diverse esperienze di vita. L’intelligenza artificiale, pur basandosi su enormi quantità di dati, non può prescindere dal triangolo semiotico e dalla complessità del linguaggio umano.
L’intervento umano, con la sua capacità di disambiguazione e di interpretazione critica, è fondamentale per “insegnare” alle IA un uso non discriminatorio del linguaggio. È un intervento che ci coinvolge tutti noi. In particolare autorɜ, editorɜ e bibliotecarɜ dovrebbero impegnarsi a creare contenuti specifici per bambinɜ e ragazzɜ LGBTQIA+, utilizzando un linguaggio ampio e non discriminatorio.
Più in generale è importante sensibilizzare l’opinione pubblica sull’importanza del linguaggio e sui suoi effetti sulla rappresentazione delle minoranze. Diffondendo informazioni e partecipando a iniziative che promuovono un uso consapevole e ampio della lingua. Se incontriamo contenuti online che utilizzano un linguaggio sessista o discriminatorio, segnaliamoli alle piattaforme.
Dovrebbe diventare una pratica comunicativa diffusa l’utiizzo di un linguaggio che rispetta tutte le identità di genere e che non discrimina nessuno; è una questione di giustizia linguistica.
In questa fase e per concludere: l’avvento delle AI nell’informazione potrebbe diventare un’opportunità per diventare più consapevoli degli effetti discriminatori del linguaggio sessista e maschilista del patriarcato con la sua normatività predefinita del razzismo e del sessismo.
==========
[1] Il simbolo “+” alla fine dell’acronimo LGBTQIA+ rappresenta un elemento di inclusività e apertura. Esso indica che l’elenco delle identità di genere e orientamenti sessuali non è esaustivo e che esistono molte altre identità e esperienze che non sono necessariamente comprese nelle lettere precedenti.
