Artificial Intelligence una critica femminista

Immaginiamo il futuro: attraverso il  reverse engineering del machine learning, le macchine informatiche potranno replicare digitalmente il funzionamento del cervello fisico degli umani e si potrà interagire con “automi”, altrimenti dette macchine intelligenti A.I. (Artificial Intelligence), per migliorare la nostra vita, quella della altre specie e quella del pianeta in cui viviamo! Figure e paesaggi della visione utopica della “siliconizzazione del mondo” (1) .

A parte l’ironia, il successo e la percezione della tecnologia Smart (2) ci proietta in questo tipo di futuro. L’algoritmo di Google impara da ciò che cerchiamo ciò che vogliamo trovare. Quando acquistiamo un libro o vediamo un film inneschiamo meccanismi di apprendimento automatici, preferenze e gusti culturali non hanno più segreti per le piattaforme digitali di Amazon e Netflix. Le macchine informatiche promettono di sollevarci dalla fatica quotidiana di gravosi compiti sia nella produzione di merci sia nel lavoro di cura attraverso il proliferare di oggetti intelligenti. Quando utilizziamo le App del nostro smart phone, per i più disparati svariati motivi, è anche questa promessa salvifica che ci fa apprezzare gli innumerevoli sgravi cognitivi. E spesso ci suscitano meraviglia tanto da farci credere di essere di fronte ad altrettanti esempi di Intelligenza Artificiale. Secondo la International Federation of Robotics (IFR) entro il 2020 più di 1,7 milioni di nuovi robot industriali entreranno nelle fabbriche di tutto il mondo, ma a fronte di essi saranno acquistati 42 milioni di robot per uso domestico o personale. Fatta questa premessa, vorrei proporre alcune considerazioni, dal punto di vista dei femminismi, riguardo le manifestazione dell’AI applicate all’aspetto umano dei Robot e al loro utilizzo per funzioni sociali (3).

La prima riguarda il “reverse engineering” del cervello umano. Secondo Michela Matteoli (4) ci sono molte sottili differenze, tra il modo in cui il cervello degli uomini e quello delle donne elaborano le informazioni e governano le emozioni, usano il linguaggio e i processi cognitivi. Nel suo intervento all’Internet Festival 2016 di Pisa Barbara Henry(5) analizza la sperimentazione in atto nella produzione di robot umanoidi. Non solo auspica che nella progettazione e realizzazione di robot si tenga conto della differenza sessuale ma che si tenga in considerazione l’intera riflessione sui generi (LGBTQIA). Il genere è una questione saliente per la concezione e l’evoluzione delle future forme di intelligenza artificiale e di entità robotiche (Internet delle cose). Neutralità o genere per l’AI del futuro? E quale genere? E se fosse trans- o inter-gendered? domande puramente teoriche o di filosofia dei robot? non credo perché, già ora, le sembianze umane date alle macchine AI realizzate sono il più delle volte di sesso femminile.

I robot addetti alle reception hanno, solitamente un aspetto femminile perché ritenuto piacevole e rassicurante. Per approfondire l’analisi delle manifestazioni e del design dell’AI, prendiamo in considerazione due robot umanoidi che hanno destato un certo scalpore. Sophia, robot con intelligenza artificiale integrata, il cui volto è modellato sulle fattezze di Audrey Hepburn, è dotata, fra l’altro, di 65 espressioni facciali che accompagnano il suo eloquio funzionalmente fornito da un enorme data base di informazioni. E’ stata presentata il novembre scorso e ha ricevuto la cittadinanza dell’Arabia Saudita dopo una gremita conferenza di presentazione. In un paese dove le donne in carne e ossa godono di pochissimi diritti di cittadinanza, conferire tale onorificenza conferma in pieno quanto il robot umanoide Sophia sia perfettamente subalterno all’ordine patriarcale arabo. Geminoid, prototipo del ”robot clone” , è la copia perfetta del suo creatore. Dal punto di vista di genere, nessuna preoccupazione. Inquieta il bisogno narcisistico che muove l’enorme sforzo realizzativo di Hiroshi Ishiguro. E’ probabile che sia stato costruito in questa maniera soltanto per attirare l’attenzione di probabili finanziatori attratti dalla possibilità di essere nel medesimo tempo in due parti diverse del mondo. “mi collego e parlo, ascolto, vedo attraverso di lui” afferma Ishiguro in un’intervista dove invoca l’animismo, aspetto religioso della cultura giapponese, che considera la vita digitale come una delle tante forme di vita del pianeta. Secondo Ishiguro gli androidi sono una nuova specie che si aggiunge alle altre.

E’ palese l’efficacia di Geminoid e di Sophia nell’attirare l’attenzione degli investitori e dei business angels sempre a caccia di nuove e spericolate “idee” per la creazione di start-up in grado di monetizzare qualsiasi manifestazione esistenziale umana in nome della App economy. Le start-up nascono e muoiono nell’arco di alcuni mesi ma nel loro insieme nutrono i colossi del digitale che vogliono dominare “l’informatica cognitiva”, al momento in grande espansione. Alphabet, dei laboratori Google Brain, lavora all’interpretazione automatica del linguaggio naturale umano. Ibm, che con Watson concepisce sistemi di analisi robotizzata applicabili a diversi campi. O ancora Facebook e Microsoft, che elaborano programmi capaci di descrivere un’immagine o di portare avanti conversazioni con gli utenti attraverso i chatbot. Amazon con Dash, dove stampanti e lavatrici, se connessi in Rete, sono capaci di ordinare da soli quanto serve al loro funzionamento. Si profila all’orizzonte un’economia “senza soluzione di continuità” (Seamless Economy)(6), in cui robot digitali ci illudono di alleggerire la fatica della nostra esistenza. E’ un reale “alleggerimento cognitivo” quello di evitare di restare senza detersivo o inchiostro per la stampante? Difficile rispondere, certo è che il target di riferimento di questi dispositivi è la popolazione femminile, educata e, sempre più allenata ad essere consumatrice di tecnologia.

Nell’automazione del lavoro produttivo il ruolo degli umani è sicuramente subalterno al ruolo dell’Intelligenza Artificiale che determina risultati, retribuzioni e tempistiche.

La questione della differenza sessuale, dal punto di vista dell’Information Communication Technology (ICT) sembra essere poca cosa rispetto al carattere innovativo e al ruolo di motore dello sviluppo economico. Diventa significativa se utilizzata per analizzare lo sviluppo nell’automazione del lavoro produttivo svolto fin qui dalla compagine femminile. Osservandolo più da vicino, per Sonia Liff, psicologa dell’occupazione, e per Katherine Turk (nota per la sua indagine le “segretarie d’America” ) l’automazione è un’arma a doppio taglio per le donne. Il lavoro, in gran parte svolto da donne, dei settori “gestionale e contabilità” e “manifattura e produzione” sarà rivoluzionato dall’automazione e da software intelligente (7). Evidente l’esito: disoccupazione e/o trasformazione dell’organizzazione del lavoro verso forme di clikwork (8). Secondo Ipeirotis (9), sono per lo più le donne ad utilizzare le piattaforme di ingaggio automatico come mTurk di Amazon. Negli Stati Uniti raggiungono il 69%. In generale investe coloro che sono nati tra il 1980-1990. Circa il 75% sono americani, circa il 15-20% proviene dall’India e il restante 10% proviene da altri paesi. E’ risaputo quanto questo lavoro sia degradante e riproduca il famoso cottimo di lontana memoria. Il ruolo degli umani è sicuramente subalterno al ruolo dell’AI che determina risultati, retribuzioni e tempistiche.

Ma è nell’ambito dell’automazione del lavoro riproduttivo e di cura, finora ad esclusivo appannaggio femminile, che le manifestazione dell’AI applicate e utilizzate per per funzioni sociali esprimono al meglio la loro promessa salvifica che è quella di alleggerire lo sforzo e la fatica degli umani.  L’assistenza agli anziani, ai bambini e tutti i servizi di cura sono “le funzioni cognitive” che conoscono impieghi e realizzazioni di AI redditizie e di successo. Funzione e ruolo faticoso e ripetitivo quello dell’accudimento e del lavoro di cura, certamente subalterno al lavoro “retribuito” degli uomini e delle donne che trascorrono la maggior parte del loro tempo fuori casa e vedono nell’automa la soluzione, senza costi, a tanto tempo perso nella sorveglianza degli anziani e dei bambini. Per questo sono sempre più oggetto di sperimentazioni e di produzione di App che simulano “le funzioni cognitive” necessarie a svolgere incarichi di questo tipo. Per le persone over 65 ci sono delle applicazioni che aiutano a ridurre il gap che intercorre tra le nuove tecnologie e le persone anziane, offrendo loro sicurezza, connessione e intrattenimento. Un esempio è MyTherapy utilizzata per garantire una regolare assunzione dei farmaci prescritti. Nell’ambito dell’assistenza all’infanzia, l’offerta è numerosissima e spazia dall’intrattenimento alla sorveglianza con App che, dicono, fanno largo uso di AI. Penso al  ciuccio intelligente munito di sensori: eseguirà ripetute analisi salivari del bambino allo scopo di monitorare il suo stato di salute. Oppure al “porta biberon” connesso a Internet Baby Gigl, che «analizza, corregge e sorveglia il comportamento degli adulti mentre danno il biberon, grazie a un inclinometro in grado di emettere un segnale luminoso e sonoro quando il gesto è scorretto».
Come se programmatori poco piú che adolescenti, sempre a “smanettare” in modo pressoché autistico, sapessero meglio dei poveri, fallaci genitori qual è il gesto corretto da adottare”(8). Infine automi per il lavoro domestico sembrano rientrare in tutto ciò che viene definito “domotica” con l’immagine della casa Smart. La casa, programmata da App e funzionalmente autonoma, non avrà più bisogno dell'”angelo del focolare“, le donne sono finalmente liberate dall’obbligo del lavoro domestico!

Le promesse di liberazione della donna dell’App economy hanno attinto dalle lotte dei movimenti politici delle donne, scimmiottandone gli slogan e gli intenti per scopi commerciali. Penso alla diffusione del diversity management e alla mascherata retorica dell’empowerment femminile. Per i femminismi attuali forse è tempo di guardare alla dimensione politica e culturale dell’artefatto informatico (App), perchè assume aspetti estremamente problematici  Sicuramente di natura etica, come afferma S. Federici :”Ma sia pur assumendo che possiamo permetterci economicamente questi dispositivi, dobbiamo chiederci quale sarebbe il costo emotivo dell’introdurli nelle nostre case per sostituire il lavoro vivo.” (10). Sempre secondo Eric Sadin la visione del mondo della “quinta Silicon Vally” mira a sfruttare qualsiasi stimolo vitale e di istituire una gestione automatizzata del mondo attraverso sistemi algoritmici che spalancano orizzonti di profitto virtualmente infiniti. Si arriva a dequalificare l’agire umano, ritenuto fallace e inefficiente, per un essere computazionale giudicato superiore. E per questa via creare le condizioni politiche per regimi autoritari e di intensa subalternità culturale. Per  nostra fortuna, l’autore si riferisce ad una ontologia dove l’UOMO è ricco, maschio e di razza bianca. Il pensiero critico delle donne, che utilizza la categorie del genere come principio e forma di organizzazione economica o culturale, potrebbe sfuggire a questa deprimente interpretazione e potrebbe far luce sui nuovi differenziali di potere della rivoluzione digitale. Il genere è un set di dispositivi culturali che il capitalismo delle piattaforme attualizza a piene mani con la produzione di AI incarnate nei dispositivi tecnologici. Le tecnologie dell’ICT proiettano nella vita e nella produzione forme di subalternità, dominazione e sfruttamento inedite rispetto al passato. E da questo punto di vista l’analisi di genere dell’intelligenza artificiale non è puramente simbolica, ideale o ideologica, dal momento che i suoi corpi concreti – dispositivi e software – sono necessari al capitale per produrre valore e comando sulle relazioni sociali.  I continui riassemblaggi di genere delle forme del lavoro contemporaneo necessitano un’attenta analisi materialista in termini di democrazia, di welfare, di giustizia economica e sociale. Interrogarsi sul sesso dell’Intelligenza Artificiale non è disquisire del sesso degli Angeli. Se il genere è una postura culturale su cui la struttura della società attinge in continuazione per produrre i dispositivi di potere è fondamentare chiedersi, di volta in volta, chi lo detiene. Come sollecita Judy Wajcman, che ha scritto abbondantemente di automazione  fin dagli anni Ottanta, è necessario promuovere pratiche di tecnofemminismo, che fonde le visioni del femminismo con un’analisi materialista delle politiche sessuali della tecnologia(11),  il presente articolo persegue questo obiettivo e, mi auguro, possa sollecitare il pensiero critico dei femminismi ad occuparsi maggiormente del dibattito intorno al nostro rapporto con le macchine informatiche e al engendered degli algoritmi software.

—————

(1) Google, LinkedIn, Apple, eBay, Samsung, Texas Instruments, Netflix, Cisco Systems, Facebook hanno la loro sede principale nella Silicon Valley – zona intorno a San Francisco, California – centro di sviluppo dell’apparato militare e informatico americano, luogo di una frenesia innovatrice che intende ridefinire ogni aspetto della nostra esistenza per fini privati, dichiarando tuttavia di agire per il bene dell’umanità. Mileux di innovazione preso a modello in ogni parte nel mondo, rappresenta il fulcro dell’attuale tecno-liberismo. In Eric Sadin, La silicolonizzazione del mondo. L’irresistibile espansione del liberismo digitale, Einaudi Passaggi, 2018.
(2) “smart” racchiude i concetti di migliore qualità di vita e minor impatto ambientale, grazie all’utilizzo intelligente delle tecnologie.
(3) Tratto dall’articolo Negli hub della cura digitale (consultato il 8 settembre 2018).
(4) Il nostro cervello ha un sesso? articolo di Michela Matteoli, Direttore dell’Istituto di Neuroscienze del CNR, Docente di Farmacologia presso Humanitas University e Responsabile del Neurocenter di Humanitas Research Hospital. Tratto dal Saggio di Maria Chiara Risoldi #MeToo: Il patriarcato dalle mimose all’hashtag, Tombolini Editore, 2017.
(5)Barbara Henry – Il robot è maschile, femminile o neutro? – Etica, robotica e mondo del lavoro, Internet Festival 2016 Pisa video riprese della relazione.
(6) idem (Sadin 2018)
(7) Tratto dall’ articolo L’automazione avrebbe dovuto liberare le donne, che cosa è successo?  della rivista motherboard, 12 maggio 2016, visitato 11  settembre 2018.
(8)  Link www.objetconnecte.net/objets-connectes-chIn Eric Sadin, 7.Nota n.20 Cap.II idem (Sadin 2018).
(9) Link www.techrepublic.com/article/inside-amazons-clickworker-platform-how-half-a-million-people-are-training-ai-for-pennies-per-task/ visitato 11  settembre 2018
(10) Silvia Federici Reincantare il mondo. Femminismo e politica dei commons. Ombre corte, 2018.
(11) Link ross.mayfirst.org/files/wajcman-technocapitalism-meets-technofeminism.pdf visitato 11  settembre 2018.