Alexa, Siri e Cortana… storie di ordinario sessismo

Di Elena Esposto

Ricordo un viaggio spassosissimo, nel 2009, da Rovereto a Jesolo. Uno di quei viaggi di famiglia, tutti stipati in una macchina, dove chi guida è troppo occupato a chiacchierare e in genere ci si perde. A onor del vero va detto che quella volta ci perdemmo perché mio fratello e mio cugino continuavano a cambiare voce al tom tom, mandandolo in tilt.

Era un tom tom discretamente evoluto per l’epoca e consentiva di cambiare un’innumerevole gamma di voci: quella profonda, quella stridula, quella metallica, quelle con accenti bizzarri… tutte però voci maschili.

Dal 2009 non mi è più capitato di imbattermi o avvalermi di tom tom, principalmente circolo in bici e i miei primi anni a Milano mi affidavo alla mia infallibile a analogicissima mappa di carta.

Recentemente però mi sono imbattuta nell’interessante dibattito sollevato da un rapporto dell’Unesco del 2019 che mette in luce il sessismo insito nella programmazione degli assistenti vocali.

Pensiamo a Siri, Alexa, Cortana… tutte le assistenti digitali hanno qualcosa in comune: sono tutte di genere femminile. Perfino l’assistente di Google, che di fatto non ha un nome, ha la voce da donna.

Ovviamente gli assistenti vocali non hanno genere, sono solo algoritmi, schemi di calcolo trasformati in righe di codice salvate su chissà quale super server localizzato in qualche località gelida e sperduta. Eppure vengono connotate con caratteri femminili immediatamente riconoscibili come la voce e il nome. Basti pensare che Siri è un nome norvegese che significa “bella donna che porta alla vittoria”.

Questo fenomeno è però ristretto al mondo degli assistenti vocali che ci accompagnano nella vita domestica. Altra cosa sono quelli delle app bancarie, di trading o anche delle compagnie di telefonia, che hanno voce maschile. È il caso i Tobi, il bot rilasciato da Vodafone o dei call center automatici di società giapponesi di brokeraggio che offrono le quotazioni delle azioni con voci femminili ma confermano le transazioni con voci maschili. Per non parlare dei tom tom di cui parlavamo in apertura d’articolo.

Sapevate che negli anni ’90  la casa automobilistica BMW ha ritirato dal mercato un navigatore con voce femminile perché i clienti si erano lamentati che non volevano farsi dare ordini da una donna?

Il rapporto dell’UNESCO, “I’d blush if I could” (arrossirei se potessi) denuncia il fatto che le reazioni gentili e sottomesse delle assistenti digitali rinforzano le dinamiche sessiste e patriarcali della nostra società.

Il titolo stesso si ispira a quella che, fino al 2019, era la frase predefinita di Siri quando non conosceva la risposta alla domanda posta dall’utente o quando le venivano rivolti insulti. In seguito questa è stata modificata con “Non so come rispondere”.

In ogni caso il problema rimane: alle molestie verbali Siri risponde in modo remissivo, quando non civettuolo perché è programmata per fare così, ed è stata programmata così perché, indovinate un po’, sono stati degli uomini a programmarla.

Come ci ricorda Caroline Criado Perez nel suo saggio “Invisibili”, edito in Italia da Einaudi, se le donne non prendono parte alla fase di progettazione e costruzione, sia essa degli spazi pubblici, dei prodotti di consumo o qualunque altra cosa, le dinamiche sessiste continueranno a riprodursi. E come ci ricorda sempre il report dell’UNESCO (e come abbiamo già detto in questa rubrica) sono ancora troppo poche le donne che lavorano nel campo della tecnologia. Solo il 15% delle figure di top management nelle industrie tech sono donne, e questa percentuale scende al 12% quando si tratta di sviluppo di sistemi di intelligenza artificiale.

Naturalmente nel momento in cui questo tema viene portato alla luce la risposta classica è che la scelta di utilizzare voci e nomi femminili per le assistenti digitali è dettata da motivi di marketing.

Non è un mistero che il mondo in cui viviamo, per quanto moderno e tecnologicamente avanzato, è decisamente terrorizzato dalle intelligenze artificiali. Forse non siamo più ai livelli di HAL 9000 in “2001: Odissea nello spazio” ma è abbastanza comune percepire ancora oggi la paura che le persone nutrono nei confronti dell’eventualità che le macchine possano governarci. Evidentemente se queste macchine vengono percepite come donne la paura diminuisce.

I creatori di Alexa, per esempio, hanno giustificato la scelta del femminile sostenendo che le voci femminili sono più piacevoli sia per gli uomini che per le donne.

Per rendere l’esperienza degli utenti più piacevole vengono quindi create assistenti con personalità docili, compiacenti, perfettamente incastrate negli stereotipi di genere, pronte ad esaudire ogni nostro desiderio di fronte a un semplice “Ehi”.

Solo qualche giorno fa ho letto un annuncio di lavoro per un posto da segretaria che richiedeva esattamente gli stessi requisiti che ritroviamo negli assistenti digitali. Oltre a sapere le lingue la candidata ideale doveva avere una personalità docile e gentile ed essere sempre disponibile nel caso qualcuno le avesse chiesto di fare un caffè.

Insomma, più che una questione di user satisfaction, il carattere remissivo delle assistenti digitali sembra ricordarci che le donne nell’industria digitale (e non solo) vengono percepite come eterne assistenti, sempre a servizio di chiunque abbia bisogno. Insomma anche gli algoritmi, quando donne, sono relegate ai lavori di cura.

Il report dell’UNESCO ha sicuramente sancito uno spartiacque in questo senso. Da allora sono state fatte alcune modifiche, oltre alla frase di default di Siri.

Google offre la possibilità di cambiare la voce dell’assistente digitale in una maschile (anche se il default rimane femminile) e anche Apple ha rilasciato una versione maschile di Siri (sempre non di default).

Ma l’innovazione sicuramente più interessante è “Q” il primo assistente digitale completamente genderless, che utilizza delle frequenze incluse tra i 145 e i 175 Hz, ovvero a metà tra ciò che riconosciamo come una voce maschile e una femminile.

I creatori di “Q” sono profondamente consci del fatto che utilizzare voci femminili per gli assistenti digitali non solo rinforza gli stereotipi di genere ma anche la percezione binaria del genere. “Q” nasce proprio con l’obiettivo di scardinare la visione binaria del mondo e permettere anche a chi non si identifica come maschio o femmina possa identificarsi nella tecnologia. Come si legge nel sito “Q è un esempio di quello che speriamo che porti il futuro; un futuro di idee, di inclusione, di diverse posizioni e rappresentazioni nella tecnologia”.