in copertina, l’autore nell’anno 2060
Anni di abitudine ad aggiungere filtri alle foto ci hanno addestrato a caricare su internet immagini senza pensare alle conseguenze.
Nei giorni scorsi è tornata virale la celebre app di fotoritocco FaceApp, una delle prime ad aver portato in Occidente filtri fotografici che non agiscono solo su tutta la foto ma specificamente sui lineamenti del soggetto. FaceApp, lanciata nel 2017, è stato uno dei primi esempi anche di app che offrisse effetti realizzati attraverso “rete neurale,” caricando la foto sui propri server e facendola manipolare da algoritmi.
È un’app che ha una storia di scandali non indifferente: fin dal lancio era disponibile un filtro “hot” per rendere i soggetti più attraenti, ma la maggioranza di utenti caucasici aveva “addestrato” l’algoritmo a schiarire la pelle delle persone di colore per renderle più belle. Dopo aver rimosso il filtro, gli sviluppatori della russa Wireless Lab sono tornati dopo pochi mesi all’attacco con filtri che permettevano di manipolare l’etnia del soggetto. Anche questi sono stati rimossi dopo le ben giustificate critiche degli utenti.
È legittimo quindi guardare a questa app con sospetto, in particolare dopo che gli ultimi due anni ci hanno reso più chiaro come i nostri dati vengono trattati dalle aziende a cui precedentemente avevamo accordato una cieca fiducia.
In molti si sono chiesti quanto l’app fosse sicura a livello di privacy, spesso con toni allarmisti. In particolare, più di una testata ha riportato che l’app carichi senza chiedere consenso lentamente tutte le foto della libreria del proprio utente, utilizzando come fonte un tweet troppo avventato dello sviluppatore Swift Joshua Nozzi.
FaceApp infatti non uploada tutte le vostre foto, e a parte l’upload della singola foto alla propria rete neurale si comporta come un’app relativamente normale, sottolinea il ricercatore francese di sicurezza @fs0c131y su Twitter:
I downloaded the app and looked at the traffic. They heavily use @Firebase, @Facebook SDK and @AccountKit 3/n pic.twitter.com/QtJ2Y5bphh
— Baptiste Robert (@fs0c131y) July 16, 2019
When you modify a photo, they upload this photo, and only this one, to their server 5/n pic.twitter.com/9to38G8HWT
— Baptiste Robert (@fs0c131y) July 16, 2019
Il che non vuol dire che FaceApp non sia incredibilmente invadente: lo è eccome, ma non lo è di più di qualsiasi altro servizio di terze parti che usate.
È importante sapere distinguere casi di allarmismo dalle preoccupazioni ben fondate, e anche l’analisi di @fs0c131y è parziale.
Negli ultimi anni prima Apple e poi Google hanno offerto strumenti agli sviluppatori per costruire modelli di machine learning direttamente sui telefoni, senza dover utilizzare componenti remoti. Apple ha investito pesantemente in questa direzione — nel contesto della propria posizione rigida in difesa della privacy degli utenti — ma sviluppare app di trucco o abbellimento basati su reti neurali non richiede più tecnicamente la necessità di inviare la propria faccia a server lontani, che non si sa cosa ne faranno. Il codice di FaceApp è precedente alle nuove tecnologie di Apple e Google, ma non per questo gli sviluppatori non potrebbero lavorare per portare le funzionalità della propria app da remoto a locale.
Detto questo, in questo momento non ci risulta che nessuna app che offra servizi di beautifying o di modifica “per ridere” della faccia, come FaceApp, permettano di fare modifiche completamente in locale, con l’eccezione delle opzioni di ritocco del volto dell’app Foto di Apple.
Specificamente, la privacy policy di FaceApp fa suonare più di un campanello d’allarme.
Il testo fa riferimento all’eliminazione di foto solo nel caso di minori di 13 anni — quindi l’eliminazione personale e ad hoc di dati è tecnicamente possibile — ma non dice niente riguardo utenti che vogliano semplicemente cancellare le proprie foto, e non sembra esserci nell’app nessuno strumento per cancellare le foto che sono state caricate. È possibile che contattando il supporto le foto vengano cancellate su richiesta, ma in caso contrario si tratterebbe di una infrazione della GDPR. Nel corso della stesura di questo articolo abbiamo inviato una richiesta a Wireless Lab, e aggiorneremo il pezzo non appena ci avranno risposto.
Su Wired Ivo Tarantino, portavoce dell’associazione consumatori Altroconsumo, preannuncia che verrà spedita al garante della privacy una segnalazione su FaceApp, per chiedere “se ci sono i margini per una diffida a Wireless Lab.”
La diffusione di modelli di riconoscimento facciale di massa si sta definendo come uno dei problemi angolari per la difesa delle libertà civili di questo decennio. Per anni si è affrontato il problema come se fosse un rischio solo in Cina, una storia quasi di colore, tra la meraviglia tecnologica e l’Ah ma non è Black Mirror. In realtà la diffusione di sistemi di riconoscimento facciale con telecamere a circuito chiuso è un problema assolutamente anche occidentale, che vede Amazon in prima linea nel fornire le tecnologie necessarie per l’ennesima aggressione delle libertà dei cittadini statunitensi.
In questo contesto internazionale, con l’Italia e buona parte dell’Europa in preda a malriposto delirio securitario, è impossibile non guardare servizi come FaceApp con preoccupazione.
