Questo video di Google descrive un futuro in cui Google è dio

in copertina e nell’articolo, grab dal video ottenuto da the Verge

In un video prodotto per uso interno Google descrive un’intelligenza artificiale capace di consigliare l’umanità attraverso dati raccolti per generazioni.

Uno scoop di Vlad Satov per the Verge ha rivelato ieri un video prodotto da Google, solo per uso interno, che descrive un futuro plasmato dalla raccolta di dati di massa.

Si tratta di una visione sferzante, che anche all’interno dell’azienda vuole sfidare “i luoghi comuni” attorno a banalità come la privacy e la sicurezza dei propri dati, visti non come diritti ma come pretese egoiste.

Il video, prodotto nel 2016 da Nick Foster, responsabile del design di X: l’azienda parte del conglomerato Alphabet dove Google si dedica ai propri esperimenti — ora sappiamo anche intellettuali — piú estremi.

La tesi esposta nel video parte recuperando la teoria evolutiva, poi dimostrata inesatta, di Jean–Baptiste Lamarck: che ogni essere vivente fosse in grado di trasmettere non solo il proprio apparato genetico ma una sorta di “aggiornamento” del suo essere, sviluppato nel corso della sua vita — informazioni che le generazioni successive ereditavano sotto forma di caratteristiche acquisite.

Oggi sappiamo che l’evoluzione non funziona così, essendo determinata puramente da fattori casuali, ma la teoria di Lamarck serve a Foster per introdurre un concetto fondamentale alla sua tesi: i dati, esattamente come i geni di una specie, sono una risorsa comunitaria, non privata.

Foster immagina una società che ha abbracciato il valore ereditario e comunitario delle informazioni, dove una generica intelligenza artificiale — ovviamente nel video è Google — può utilizzare questa quantità di informazioni per sostanzialmente orientare il comportamento dell’umanità, una persona alla volta. Vuoi essere piú ecologico? Allora forse è meglio che invece di Uber prendi Uber Pool, per inquinare meno. Magari potrebbe interessare comprare anche a chilometro zero, persone che la pensano come te sull’ambiente si interessano anche a questo.

Il passo successivo, ammassando dati sul comportamento di una intera generazione, è quello di rendere questa intelligenza quanto piú possibile autonoma: nell’esempio del video il modello scopre che l’utente in esame non rivela all’intelligenza artificiale il proprio peso. Sarà quindi questa banca dati, il “ledger” (il libro mastro), come lo chiama Foster, a proporre una bilancia che potrebbe piacere a quella persona, in base ai suoi gusti — o a produrne direttamente una su misura, se necessario.

Il concetto di informazione come ricchezza della massa è affascinante, certo, ma si tratta di una bieca manipolazione dello spettatore: le informazioni, ovviamente, sono di proprietà di chi controlla il “libro mastro.” Quindi, di Google.

Il video prosegue diventando gradualmente sempre piú delirante, arrivando alla conclusione che generazioni di informazioni utente potrebbero permettere al “libro mastro” di risolvere problemi che da sempre affliggono l’umanità: la salute, la depressione, e anche la povertà.

È facile archiviare questo documento come qualcosa prodotto per avviare una conversazione, e minimizzare. Tutti usiamo ogni giorno i servizi di Google, e senza la magniloquenza e la musichina da podcast dell’orrore ci sono molti aspetti di questo video che potrebbero tradursi in funzionalità effettivamente utili.

Ma è impossibile non guardare a questo video — del 2016 — attraverso la lente della presentazione dell’ultima conferenza per sviluppatori dell’azienda. Durante la presentazione principale di Google IO, Sundar Pichai ha presentato un’anteprima di Google Duplex, una funzionalità dell’assistente vocale di Google che gli permetterà di svolgere semplici telefonate di routine — come prendere un appuntamento dalla parrucchiera, o prenotare un tavolo al ristorante.

https://www.youtube.com/watch?v=bd1mEm2Fy08

L’annuncio è stato accolto con grande criticità dalla stampa internazionale, e con buone ragioni: il servizio solleva una serie di problemi etici non indifferenti, dalla necessità di registrare telefonate fino a nuovissimi dubbi morali mai esplorati: quando parliamo con un robot, deve identificarsi in quanto tale?

Google ha negli ultimi giorni risposto ad alcune critiche, ma Duplex è prova indiscutibile che la filosofia presentata in questo video sia la forza dominante dentro l’azienda. Nello sfocare i confini dell’interazione tra uomo e macchina, Google arriva all’estensione naturale del suo progetto iniziale. Ogni sito internet appare nelle ricerche di Google perché i suoi dati sono stati analizzati da un web crawler, un bot che sistematicamente naviga su internet e ne archivia le informazioni. Duplex è un crawler per l’umanità. Google ha già annunciato che userà il servizio per verificare e correggere informazioni che non trova su internet, come gli orari di apertura dei negozi.

È solo un primo piccolo passo, ma la direzione è chiara: l’offuscamento totale della macchina, che non diventa semplicemente parte dell’umanità, ma della singola persona stessa.

Non è difficile immaginare come tra qualche anno Google inizierà ad offrire la possibilità di insegnare al proprio assistente a parlare con la propria voce, rendendo di fatto l’incrocio tra i suoi automatismi e la nostra persona definitivo.

Se davvero Google, a porte chiuse, crede di poter guidare il comportamento dell’umanità attraverso “la saggezza” della raccolta dati di intere generazioni, se davvero il paragone scelto è quello tra dati personali e geni, allora qualcosa non è chiaro, all’azienda di Mountain View: questa non è evoluzione, è eugenetica.

Segui Alessandro su Twitter

Per ricevere tutte le notizie da The Submarine, metti Mi piace su Facebook, e iscriviti al nostro gruppo.