Un nuovo studio mette in luce come l’uso di dati biometrici correlati ad analisi criminali apra le porte al ritorno del razzismo pseudo-scientifico.
La sociologa dell’Università del North Carolina Zeynep Tufekci, autrice dell’illuminante saggio Twitter and Tear Gas: the Power and Fragility of Networked Protest, commenta spesso le notizie di manipolazione dell’opinione pubblica attraverso algoritmi di servizi web con un’affermazione che si può riassumere in: “Stiamo costruendo gli strumenti di una distopia per vendere pubblicità.” Lo scorso settembre Tufekci ha presentato un intervento proprio con questo titolo al TEDGlobal di new York.
Si tratta di un dato che oggi viene negato soltanto dai commentatori vittime di una fortissima sindrome di Stoccolma rispetto ai prodotti di Facebook, Twitter e Google.
L’ingresso di queste aziende nel mercato della pubblicità, che ha sostenuto per mezzo secolo uno dei cardini delle democrazie occidentali — il giornalismo — ha minato le fondamenta dell’industria ancora prima dell’attuale crisi dovuta alla diffusione di propaganda populista e neofascista tramite gli algoritmi dei loro servizi.
Piú complesso è discutere dell’altra metà dell’espressione di Tufekci: gli strumenti di una distopia.
È un’espressione antipatica. Distopia è un termine che la scorsa decade ha legato a un’intera generazione di cattiva letteratura di intrattenimento, che lo ha popolarizzato al di fuori dei saggi di critica su 1984 e Brave New World in contesti adolescenziali e immaturi.
Ma gli scenari descritti da Tufekci sono tutto tranne che fantascientifici. Margaret Hu, docente della facoltà di giurisprudenza Washington and Lee di Lexington, ne descrive le conseguenze in Crimmigration-Counterterrorism, un saggio in attesa di pubblicazione sulla University of Wisconsin Law Review già disponibile su SSRN da questo lunedì 4 dicembre 2017.
Con il portmanteau “crimmigration” Hu descrive le politiche di contrasto alla criminalità e al terrorismo colorate dal pregiudizio etnico e razziale. Si tratta di un’abitudine diffusa tanto in regimi autoritari quanto in governi (per ora) riconosciuti come democratici, di cui si possono fare innumerevoli esempi. Hu traccia una linea che parte dal Chinese Exclusion Act del 1882, e descrive come nuove tecnologie di cyber-soverveglianza — sempre piú spesso anch’esse governate da algoritmi e non da indagini di esseri umani — abbiano resuscitato il sogno di un regime di “massimi controlli.”
Se i social network garantiscono il futuro della propaganda, il futuro del controllo passa, secondo Hu, attraverso sistemi di identificazione biometrici.
Cosa significa? La biometrica è, secondo John R. Vacca “la scienza dell’identificazione automatica di individui usando caratteristiche fisiologiche o comportamentali.” (Biometric Technologies and Verification Systems, Butterworth-Heinemann, 2007) I dati biometrici possono essere strettamente identificativi dell’individuo, come impronte digitali, riconoscimento facciale, DNA — ma anche “caratteristiche anatomiche che offrano informazioni sull’identità della persona senza strettamente identificarla, come segni dell’età, l’altezza, il peso, l’etnia,” eccetera.
Non proprio così.
Già oggi sappiamo che il Dipartimento della Sicurezza Interna degli Stati Uniti (DHS) usa sistemi analitici predittivi per effettuare controlli sulla popolazione. Tuttavia, dai documenti pubblici e ottenuti attraverso il Freedom of Information Act è impossibile valutare fino a che punto questi dati vengano utilizzati per effettuare controlli contro il crimine e per fini di antiterrorismo. Quello che invece è pubblico è che il DHS usi questi dati, per fare, sostanzialmente, profiling etnico.
Lo scenario dipinto da Margeret Hu potrebbe essere archiviato come allarmista, se non complottista, ma la studiosa cita un caso fondamentale per provare come il processo di omogeneizzazione sia già in atto. La trasformazione del Muslim Ban nel Travel Ban — che colpisce in maniera molto piú generale di quanto il secco pregiudizio razzista e classista dell’attuale Casa bianca vorrebbe fare — si sta rivelando di complicatissima, forse impossibile attuazione.
Quello che serve a questa amministrazione statunitense, e a qualsiasi governo conservatore europeo, è una definizione apparentemente neutrale che classifichi le persone “non indigene.” In questo senso, i precedenti delle persecuzioni delle comunità cinesi e giapponesi negli Stati Uniti offrono una solida piattaforma costituzionale ai repubblicani per procedere con piú creative soluzioni di “controllo totale” algoritmico.
A rendere questo scenario due volte preoccupante non è soltanto l’opacità su quanto tutto ciò sia già in atto presso il DHS statunitense e le agenzie di spionaggio di mezzo mondo, ma la piú vasta convinzione politica che esista una perfetta sovrapposizione ideologica tra musulmani e islamismo.
L’attuale Travel Ban statunitense non discrimina per caratteristiche biometriche non identificative. Ma è lecito immaginare che sia l’ultimo esemplare di una serie di discriminazioni “vecchio stampo”: come sottolinea Simone Browne, professoressa del dipartimento di studi sulla diaspora africana dell’Università di Toronto, in Dark Matters: On the Surveillance of Blackness (Duke University, 2015), i dati biometrici sono circondati da un bouquet di scientificità che fa di loro il sacro Graal del razzismo.
Sempre in Dark Matters Browne nota come la classificazione etnica sia radicata in maniera inseparabile, nella pratica, della biometrica. Insomma: se è possibile immaginare che sia usata in contesti politici non caricati dei peggiori significati, è impossibile non prevederne la deriva razzistoide.
La raccolta e analisi di dati biometrici per antiterrorismo sta già avvenendo in tutto il mondo: è naturale evoluzione del profiling etnico che gli Stati Uniti prima e tutto l’occidente poi hanno abbracciato dopo l’11 settembre.
È possibile immaginare che la biometrica sia usata in contesti non terribili, ma è impossibile non prevederne la deriva razzistoide.
Quello che è necessario, con urgenza, è un uso critico della tecnologia impiegata, e una grande trasparenza su come gli algoritmi classifichino i dati della popolazione. Se in un primo tempo può apparire innocua l’associazione di caratteri fisici a un gruppo etnico, certamente non si può pensare altrettanto dell’inclusione di dati riguardanti comportamenti criminali o legati al terrorismo.
Ad esempio, un database di questo tipo potrebbe collegare il numero di decessi per overdose di cocaina alla popolazione di colore statunitense, senza rilevare che lo stesso tasso sia presente in cittadini caucasici morti per abuso di medicinali oppiacei (Shiels, Freedman, Thomas, de Gonzalez, 2017). Ovvero: non è possibile effettuare analisi di comportamento criminale limitate a un solo gruppo di popolazione, perché i dati saranno innatamente inquinati da un pregiudizio sociale.
È di dodici anni fa il primo allarme che l’ascesa di sistemi biometrici avrebbe avuto effetti devastanti sulle migrazioni, spesso costrette a canali illegali e illegittimi da leggi retrograde. Nel 2005 il contesto era tuttavia così diverso che la preoccupazione piú lungimirante in materia erano danni ai diritti personali come la privacy.
In Europa è dal 2003 che dati biometrici vengono usati per limitare e controllare artificialmente i flussi migratori. EuroDac (European Dactyloscopy) è il database di impronte digitali comunitario dove vengono registrate tutte le persone richiedenti asilo e i migranti sans papier. Il database è utilizzato dalle autorità europee per verificare se un richiedente asilo ha cercato, dopo essere stato registrato nel paese di primo contatto, di attraversare senza permesso un confine per raggiungere il paese dove si era prefisso di andare prima di finire intrappolato nei meccanismi della piú o meno accoglienza europea.
Ma il coordinatore delle attività antiterroristiche del Consiglio europeo Gilles de Kerchove si auspica che ai confini tra paesi europei le persone vengano esaminate anche rispetto a un database di impronte digitali raccolte in Iraq e Siria su oggetti sospetti. “Quando l’esercito iracheno, i peshmerga o le forze speciali a Raqqa o a Mosul trovano un cellulare o delle impronte digitali in un rifugio, voglio che queste informazioni siano trasmesse ai confini dell’Unione Europea in tempo reale,” ha detto Kerchove in un’intervista rilasciata mercoledì.
Si tratta di una presa di posizione radicale, ma che non lascia sorpresi: De Kerchove, noto a Bruxelles come “Mister Terrorism,” lo scorso luglio sospirava — “Per i metadati ci strappiamo i capelli” — lamentandosi di come le leggi per la privacy europee impedissero ai gestori di telefonia di raccogliere abbastanza informazioni da facilitare le sue indagini — sorvolando che solitamente le indagini si fanno solo quando si sospettano crimini specifici.
L’uso di pretese scientifiche è vecchio almeno quanto il razzismo stesso, ed è pesantemente di ritorno non solo nella politica ma nel dibattito accademico
Qualsiasi tipo di discriminazione basata su dati raccolti incrociando database biometrici e criminali resta in ogni caso illegale in gran parte dei paesi del primo mondo, ma è proprio la promessa di “oggettività” offerta dall’analisi statistica che potrebbe permettere a politici razzisti di presentare le proprie posizioni non come diametralmente opposte ai codici della democrazia, ma come ben radicate nei fatti — pragmatiche — secondo un argomento che comincia a farsi sempre piú diffuso.
L’uso di pretese scientifiche è vecchio almeno quanto il razzismo stesso, ed è pesantemente di ritorno non solo nella politica ma nel dibattito accademico. Abatli, Ashraf, Galor, 2015, sostengono che sostanzialmente tutti i grandi conflitti etnici della Storia trovino le proprie radici nella differenza genetica tra i gruppi. Si tratta ovviamente di un’analisi non solo antistorica ma faziosa, scritta senza interesse per un’analisi storiografica ma alla ricerca di un filtro attraverso cui osservare la contemporaneità.
Un’altra analisi storica, invece, è quella con cui Hu conclude il proprio saggio: ogni forma di discriminazione è ingiusta e motivata sempre e unicamente da pregiudizi sociali. Ha qualcosa di sardonico dover fare ragionamenti come questi, oggi, settant’anni dopo la Seconda guerra mondiale e dopo le conquiste della comunità di colore statunitense, ma proprio per questo è fondamentale interrogarsi sulle implicazioni immediate, soprattutto in materia migratoria, della nuova crasi tra studio del crimine e big data biometrici.
Segui Alessandro su Twitter.
Per ricevere tutte le notizie da The Submarine, metti Mi piace su Facebook
