I video per bambini su YouTube hanno un problema serio

Ci sono interi generi di video per bambini, altamente disturbanti e creati da sconosciuti, costruiti appositamente per scalare gli algoritmi di YouTube.

In un post su Medium l’artista James Bridle ha portato l’attenzione su un caso di cui si discute in realtà da qualche mese, portato per la prima volta alla luce da Laura June per the Outline lo scorso marzo.

June aveva scoperto, quando la figlia ha compiuto tre anni e, supervisionata, ha iniziato a guardare cartoni animati su YouTube con la madre, che il servizio straripava di finti video della serie Peppa Pig contenenti immagini assolutamente non adatte ad un pubblico in età prescolare, tra zombie, urla, e una strana fissazione per le operazioni dentistiche — ricorrenti in svariati video. La BBC ha ripreso la notizia in un piccolo servizio per il web, e da allora un piccolo movimento di utenti ha iniziato a segnalare regolarmente i video, ma a mesi di distanza, apparentemente senza risultati.

Facendo un lavoro di ricerca estremamente completo, Bridle è arrivato alle conclusioni che si tratti di un fenomeno ancora più diffuso di quanto precedentemente teorizzato, con dozzine di canali interamente dedicati alla pubblicazione di video per bambini nella migliore delle ipotesi falsificati, nella peggiore altamente disturbanti.

I meccanismi dell’algoritmo

Un modo semplice per riconoscere a colpo d’occhio questi video sono i titoli. Quasi sempre il nome del video è il risultato di un “word salad” di parole chiave di video popolari: i bambini, ovviamente, non sanno scrivere, e non possono quindi attivamente cercare, e navigare attraverso i video. Per questo, l’importanza dell’algoritmo, e la capacità di abusare dei suoi meccanismi, diventa fondamentale per la diffusione di questi video. Il consumo di video da parte di bambini su YouTube è quasi interamente dettato dai “Consigliati” dal sito internet stesso. Questi video agli occhi di un bambino che non sa leggere sono indistinguibili dall’originale, e anche segnali intelligibili ad un pubblico adulto — come la qualità tecnica dell’animazione — non sono scontati per un pubblico in età prescolare.

La potenza virale e soprattutto virulenta di questi algoritmi di consiglio contenuti non è una novità: basti pensare ai suoi effetti nel consumo di informazione e propaganda online tra adulti, che dovrebbero sapersi difendere molto meglio nella selezione di contenuti e fonti.

Non si tratta soltanto di video con potenziale disturbante, ma anche — soprattutto? — di contenuti apparentemente privi di senso. Realizzati senza nessuna interazione umana, usando filastrocche come base e animazioni create con i motori grafici di vecchi videogiochi. Anche questi contenuti, magari senza nessun intento malevolo, spesso sono strani, stranianti, forse involontariamente cupi.

https://youtu.be/rRiNlxRbqrw?t=19m32s

Nella maggior parte dei casi, l’obiettivo è facilmente intuibile: monetizzare. Altre volte, invece, non ci sono dubbi che l’intento sia malevolo — anche in casi apparentemente generati da algoritmi, la volontà di inserire immaginario violento in video che si presentano per bambini è chiaro.

Un caso particolarmente strano è quello di Super Mickey TV, che racconta storie di personaggi Disney più antropomorfi del solito che si inseguono in una serie di siparietti pseudo–sexy segnati da ironia chiaramente rivolta ai bambini.

https://youtu.be/douVUtGcUWM?t=8m

I video di Super Mickey TV sono stati visti in totale più di 100 milioni di volte.

Sullo YouTube italiano

Lo YouTube per bambini in italiano presenta molte analogie con quello anglosassone — anche perché gran parte di questi video, come abbiamo detto, si colloca a un livello pre-linguistico. Districarsi tra contenuti originali caricati da account verificati, contenuti originali piratati, e produzioni autonome di dubbia provenienza è ancora più difficile, perché alcuni produttori di cartoni animati per bambini non hanno un account ufficiale in lingua italiana o, se ce l’hanno, non compare tra i primissimi risultati di ricerca.

Ma anche questo importa relativamente poco: dopo il primo video, a fare il resto del lavoro è la riproduzione automatica regolata dall’algoritmo. A riprova della funzione di “parcheggio per bambini” di questo tipo di cartoni animati, anche nello YouTube italiano contano centinaia di migliaia, quando non milioni di visualizzazioni le super compilation, da una a quattro ore.

Minoritario, ma sempre presente, è il filone “unboxing”: una strana categoria di video in cui con lentezza e meticolosità viene spacchettata la confezione di un giocattolo. Alcuni canali specializzati in questo tipo di produzione, come questo, pubblicano anche video con episodi di cartoni animati realizzati con pupazzetti della serie — con script originali, dobbiamo immaginare.

https://www.youtube.com/watch?v=kCQWd1_XQR0

Scendendo più in profondità, si trovano anche qui contenuti vagamente psichedelici e nonsense, ma il fenomeno (per fortuna) non è altrettanto esteso. Il peggio si nasconde nella categoria “kids rhymes” — le filastrocche per bambini — dove la cattiva qualità dell’animazione è sufficiente per identificare numerose produzioni che vorremmo definire “amatoriali,” ma che in realtà sono quasi certamente gestite da aziende o persone che hanno come unico scopo lo sfruttamento delle inserzioni pubblicitarie nei video.

https://www.youtube.com/watch?v=Nx5_YX4jhPw

https://www.youtube.com/watch?v=kLoqDGFDES0

Come le migliori click farm che si rispettino, questi business sono condotti dall’estero e non si preoccupano troppo di farlo capire: basta leggere le descrizioni o i titoli dei video per identificare Google translate.

Un caso intermedio è quello di prodotti di animazione di cui si può identificare l’autore, ma sulla cui curatela è legittimo avanzare qualche dubbio. Onnipresente tra i risultati sponsorizzati, per esempio, c’è Bob il treno, che è fondamentalmente una copia del Trenino Thomas, presente in centinaia di video e compilation con “titoli insalata” di filastrocche in italiano.

Cercando “Bob, il treno” su Google non si trova nessuna informazione sull’origine di questo cartone animato — ma qualcuno che si occupa di doppiarlo in italiano, anche se la voce sembra quella di un robot, dev’esserci. Cercando in inglese, scopriamo che è prodotto da USP Studios, casa di produzione specializzata in contenuti per bambini dal sito internet poco raccomandabile (e impossibile da visitare con un ad-blocker) e con sede, a quanto pare, a Mumbai.

Ma se questi video hanno problemi di qualità, almeno non sono apertamente malevoli e disturbanti come quelli di Super Mickey TV e simili. La superficie dello YouTube per bambini in italiano sembra per il momento ancora vergine da questo tipo di contenuti — ma non è da escludere che possano capitare tra i video consigliati, anche partendo da contenuti in italiano e ufficiali. [Se vi capita di trovare video disturbanti, contenenti violenza o scene allusivamente sessuali, anche con titoli in italiano — per quanto approssimativo — segnalatecelo su Facebook o a oblo at thesubmarine.it]

Branded content e programmazione

Ma quello della qualità non è un problema minore: a prescindere dall’intento dei video — e da quanto siano costruiti ad arte per essere disturbanti o meno — questo è soprattutto il caso di un problema di totale mancanza di curatela. Se tantissimi contenuti per l’infanzia anche in tv sembrano quasi nonsense, sono — presumibilmente — sempre prodotti da case che hanno consulenti specializzati nella psicologia infantile, e comunque devono passare il vaglio di canali televisivi, agenzie di rating — quello delle età, non S&P — distributori e canali esteri che trasmettono in doppiaggio, come gran parte dei contenuti Rai (che, oltre a RaiPlay, su YouTube ha un suo canale ufficiale — non verificato).

È di fatto impossibile — sia per un algoritmo che per un genitore distratto — riconoscere tra contenuti originali, magari caricati da un canale pirata, come la maggior parte dell’intrattenimento per bambini su YouTube, e i contenuti migliori di queste factory.

Le compilation

Il problema della genitorialità è centrale in questa vicenda: a prescindere su giudizi sulla qualità, questi video sono su YouTube perché centinaia di migliaia di bambini in tutto il primo mondo vengono parcheggiati dai propri genitori davanti a telefoni e piccoli tablet, preferiti rispetto alla televisione per la capacità di produrre contenuti on demand se il proprio bambino è fissato con Peppa Pig o coi supereroi Marvel. Tantissimi dei video in questione si presentano come compilation spesso di ore, chiaramente confezionate per i genitori prima e per figli poi.

Conclusioni

Non essendo possibile raccogliere una lista completa di canali che pubblicano video di questo tipo, non essendo nemmeno possibile ricostruire una reason why nella creazione di questi video — o quanta sia la mano umana nella selezione di argomenti, scene, titoli: quelli di Bounce Patrol Kids ad esempio sono chiaramente video creati usando un algoritmo per scalare le classifiche di YouTube, ma sono interpretati da esseri umani — l’unica conclusione è assegnare gran parte della responsabilità ai gestori delle piattaforme dove questi abusi hanno luogo. Come sottolineano Bridle e Leonid Bershidsky, in un commento per Bloomberg, il problema è negli algoritmi di intelligenza artificiale e apprendimento automatico, a cui si sta dando ruoli sempre più importanti e influenti — come curare la programmazione della tv che cresce i propri figli — probabilmente con una decade di anticipo sul un responsabile progresso tecnologico.