Chi scrive le norme europee su internet e nuove tecnologie?

La campagna #WhoWritesTheRules dà l’allarme: l’Ue vuole normare le nuove tecnologie “a beneficio dei cittadini,” ma sembra ignorare le necessità di donne e minoranze

Intelligenza artificiale, cybersicurezza, big data, identità digitali, connettività, calcoli ad alte prestazioni: a spulciare il sito della Commissione europea dedicato a rendere l’Europa “pronta all’era digitale,” pare che l’Unione europea stia pensando a tutto per assicurarsi che la trasformazione digitale “vada a beneficio dei cittadini.”

Peccato che a essere assenti dallo sviluppo della legislazione comunitaria sui diritti digitali siano proprio quelle persone che più sono marginalizzate su Internet e dalle nuove tecnologie: donne e persone razzializzate, come sottolinea una lettera aperta indirizzata alle varie istituzioni di Bruxelles e scritta da sei donne che vivono in vari Paesi del blocco e lavorano nell’industria.

A immaginare per prima la campagna è stata Temi Lasade-Anderson, senior campaigner dell’organizzazione Digital Action. Le firmatarie sono Aina Abiodun, che è stata Ad e fondatrice di diverse startup; Asha Allen, esperta di politiche relative a sicurezza digitale, uguaglianza di genere e diritti umani; Carolina Are, ricercatrice italiana che si occupa di moderazione online; Hera Hussain, fondatrice e amministratrice della piattaforma femminista Chayn; Nakeema Stefflbauer, che coordina un network di donne nel tech. E Raziye Buse Çetin, che fa ricerca nel campo dell’intelligenza artificiale.

“La campagna #BrusselsSoWhite ha evidenziato che esiste una persistente esclusione delle persone razzializzate dai processi decisionali e politici europei, anche per quanto riguarda le politiche che hanno più probabilità di arrecare danni a questi gruppi. Una recente analisi di POLITICO sui dipendenti della Commissione ha confermato che sono principalmente maschi e bianchi,” denunciano le autrici, il cui appello è supportato da una lunga lista di esperti e centri di ricerca. “Inoltre, i danni sistemici di molte piattaforme di social media — censura, incitamento all’odio, disinformazione, radicalizzazione e ingiustizia algoritmica — significano che i cittadini digitali razzializzati ed emarginati sperimentano due forme di esclusione. Primo: sono esclusi dalle leggi che regolano la loro esperienza sulle piattaforme tecnologiche. Secondo: non sono coinvolti nella stesura delle politiche e delle normative relative alla tecnologia da parte degli Stati che li governano.”

Che le nuove tecnologie siano costruite raramente pensando a qualcuno di diverso da un uomo bianco non è una novità: la wiki Geek Feminism ha collezionato nel tempo una lunghissima lista di problemi che vengono raramente tenuti presenti da ingegneri, sviluppatori e designer al lavoro sulle tecnologie che ormai scandiscono le vite di tutt*. Le app che usiamo tutti i giorni, per esempio, sono spesso inaccessibili o difficilissime da navigare per chi ha varie disabilità, escludono a volte chi non parla inglese o al massimo una manciata di altre lingue e si basano su infrastrutture che in alcune zone non sono ancora arrivate — sì, anche alcune areein Italia. La maggior parte dei telefoni e delle tastiere sono pensati per la grandezza media di una mano maschile, e basta. La lista dei modi in cui le intelligenze artificiali continuano a perpetruare queste discriminazioni su base digitale è troppo lunga per includerla qui: le Ai sono addestrate su database incompleti o che ignorano la discriminazione sistemica di determinate fasce della popolazione, e riflettono i limiti della visione del mondo di chi le ha programmate.

Concentrandosi sull’Unione europea, le firmatarie della lettera hanno citato in particolare alcuni ambiziosi progetti di legge su cui la Commissione sta molto puntando: ad esempio la regolamentazione dell’intelligenza artificiale, Digital Markets Act e Digital Services Act. Quest’ultimo disegno di legge obbligherebbe i fornitori di servizi digitali — tra cui le grandi piattaforme social — a rendere più semplice  denunciare contenuti illegali da parte degli utenti, motivare le ragioni della rimozione o disabilitazione del contenuto di un utente, e prestare maggiore attenzione a trasparenza e moderazione dei contenuti.

“Accogliamo con favore l’espressa inclusione nel Dsa della protezione dei diritti fondamentali e il riferimento specifico all’esperienza dei gruppi vulnerabili all’interno del preambolo,” scrivono le firmatarie del la lettera. “Il vostro impegno, però, finisce qui. Purtroppo, sebbene gli articoli esplicativi della bozza menzionino la necessità di mitigare i danni alle persone emarginate, non viene delineato nulla che riguardi l’applicazione, l’attuazione o dove la responsabilità risieda al di là degli Stati membri.” Insomma, conclude la lettera, “come attiviste e sopravvissute, vogliamo essere parte del processo normativo per modellare efficacemente le nostre esperienze online, non solo condividere il nostro trauma. Sappiamo che l’esclusione si traduce già in una politica tecnologica che non va abbastanza lontano nel riconoscerci o proteggerci, quindi è necessario un cambiamento.”

A distanza di mesi, il silenzio a Bruxelles è assordante. Per la dottoressa Nakeema Stefflbauer, Ad di un’organizzazione che riunisce le lavoratrici del settore in Europa e firmataria della lettera, questo rende il tutto ulteriormente inquietante. “Mi sono approcciata alla campagna #WhoWritesTheRules dal mio punto di vista di donna di colore immigrata, che vive in Germania senza diritto di voto e che guarda con allarme a ciò che sta accadendo negli Stati Uniti, da dove vengo, dal punto di vista della tecnologia,” ci racconta. “Lì, si sta infiltrando nel processo di assunzione e nel proseguimento della propria istruzione, nel modo in cui si può accedere alla previdenza sociale o trovare alloggio. E sono preoccupata che qui la Commissione legiferi in merito senza coinvolgere persone di colore e razzializzate, immigrati, rifugiati e persone apolidi, e tutte quelle persone che vivono in una situazione di cittadinanza ambigua. Dato che sappiamo che questi gruppi sono spesso tra i più danneggiati dalle tecnologie non regolamentate, vale la pena includerli nel tracciare le linee guida per l’uso di determinate tecnologie che stanno già causando danni alle minoranze in tutto il mondo.”

A preoccupare Stefflbauer sono soprattutto le tecnologie che sempre più compagnie utilizzano per selezionare i candidati a nuovi posti di lavoro — che già da anni vengono accusate di discriminare su basi razziste o sessiste. “Queste tecnologie sono già state usate contro specifiche persone — le donne nel caso di Amazon, il cui algoritmo di assunzione le escludeva completamente fino a qualche anno fa, e le persone di colore e razzializzate, come mostrano studi che arrivano dalla Francia e dal Belgio,” ci spiega. “Molti di questi tipi di tecnologie hanno fatto enormi passi avanti nel settore privato, soprattutto in tempo di pandemia. E anche nel settore pubblico quando si tratta di vagliare, esaminare, controllare e testare studenti e dipendenti, perché non esistono alternative disponibili in commercio al momento.”

La pandemia non ha fatto che rendere più pressante la necessità di includere le persone marginalizzate nel processo decisionale, sottolinea Stefflbauer. “La necessità di contenere il COVID ha fatto sì che studenti e dipendenti abbiano accettato in fretta tecnologie che danno al datore di lavoro un maggiore controllo e una maggiore supervisione sul loro comportamento. Ed è un enorme problema che questo genere di software venga adottato come standard,” dice Stefflbauer. “Quanti di questi tipi di software e algoritmi vengono adottati come riflesso dalle aziende, dai governi, dalle organizzazioni che dovrebbero controllare la sicurezza e l’applicabilità di questi strumenti in tutta la società? E nessuno sta controllando, perché tutti hanno bisogno di una soluzione in fretta. Così stanno affermando soluzioni che pur hanno lunghe storie di discriminazione ed esclusione. Non è un tema di cui sento parlare chi si occupa di politica digitale in Europa. Ed è qualcosa di cui dovrebbero interessarsi.”

Segui Viola su Twitter e Instagram

Sostieni l’informazione indipendente di the Submarine: abbonati a Hello, World! La prima settimana è gratis

in copertina: elaborazione da foto CC-BY 2.0 Sébastien Bertrand