YouTube staat vol met automatisch gegenereerde kinderhorror

Nieuw Venster

Lisa van der Velden werpt in deze rubriek een blik op onlinecultuur.

Foto de Volkskrant

Sinds om en nabij ons 8ste jaar delen mijn jeugdvrienden en ik de mensheid in twee groepen op: zij die van de Disneyfilm Fantasia houden (oude mensen) en zij die dit hartstochtelijk niet doen (wij). Zelfs twintig jaar later, vaak om een paar glazen wijn na middernacht, komt die hallucinerende film nog weleens ter sprake.

Een psychedelische film met vliegende lijken, balletdansende nijlpaarden en monsters die mensen in het vuur gooien, zonder een begrijpelijke verhaallijn, is simpelweg niet geschikt voor kinderen - ook al vinden ouders die klassieke muziek nog zo mooi.

Deze week bleek echter dat mijn leeftijdsgenoten blij mogen zijn, met onze 'Disneytrauma's'; 8-jarigen van nu hebben het veel zwaarder.

'Kindvriendelijk? Schokkende video's glippen door YouTube-filters', stond maandag op de voorpagina van The New York Times. In het bijbehorende artikel beschrijven ouders de video's die hun kroost al youtubend heeft aangeklikt, en het was niet best. In het ene filmpje plegen de personages uit Paw Patrol 'gezamenlijk zelfmoord', in een ander plast Spiderman zomaar over Elsa uit Frozen heen, en zo gaat het nog even door, met huilende kinderen tot gevolg.

Zelfs in YouTube Kids, de kennelijk toch niet zo afgeschermde variant van het videoplatform, voeren Disneyfiguren elkaar soms ineens aan de krokodillen, of eet Peppa Pig plots haar vader op.

Wie de duizenden macabere filmpjes op hun geweten hebben, kon The New York Times niet achterhalen, maar volgens schrijver James Bridle zijn het niet alleen mensen. 'Dit is het werk van mensen en dingen en een combinatie van dingen en mensen', schreef hij in een bezorgd artikel dat deze week viral ging. Volgens Bridle zijn veel video's alleen ontworpen om door het algoritme van YouTube te worden opgepikt, en worden ze soms zelf algoritmisch gegenereerd.

Onzinnige video's krijgen bijvoorbeeld namen als 'Disney Kids Animation Education Learn Colors Finger Family 2017 Nursery Rhymes', terwijl die elementen helemaal niet in de video voorkomen. Volgens Bridle worden dit soort titels, met een combinatie van populaire thema's en zoektermen op YouTube, bijna altijd automatisch aangemaakt.

Omdat deze misleiding op zichzelf al miljoenen views, een hoge positie in de zoekresultaten én corresponderende advertentie-inkomsten oplevert, doet de kwaliteit van de filmpjes verder weinig ter zake, en dat is te zien. Nep-Mickeys en -Elsa's lijken regelrecht uit goedkope bibliotheken met 3D-animaties geplukt, reageren vaak volledig willekeurig op elkaar en spelen soms dezelfde scènes steeds opnieuw. Zo maken de eigenaren van deze filmfabriekjes misbruik van het feit dat kinderen niet de meest kritische recensenten zijn.

Luguber fragment in een vreemd filmpje met nep-Mickey. Foto YouTube

Aan de inhoud van al die horrorvideo's komt dus óók weinig mensenwerk te pas, schrijft Bridle. Of dat enger of minder eng is weet hij eigenlijk niet. 'We hebben het hier over zeer jonge kinderen op wie al vanaf hun geboorte doelbewust gemikt wordt met traumatiserende en verwarrende filmpjes, via netwerken die uiterst kwetsbaar zijn voor deze vorm van misbruik.'

In zekere zin is het probleem met authentiek lijkende kindervideo's op YouTube hetzelfde als het probleem met nepnieuws op Facebook: zolang bedrijven blijven leunen op algoritmen die 'echt' en 'nep' gelijkstellen, houden we last van dit soort excessen.

Tegelijkertijd is de oplossing in dit geval niet ingewikkeld: Netflix laat zijn kinderafdeling 'gewoon' door mensen beheren. Waarom een miljardenbedrijf als YouTube-eigenaar Alphabet geen extra personeel aanneemt, ook niet ter bescherming van zijn jongste gebruikers, blijft schimmig.

In de tussentijd kunnen ouders die hun kinderen achter een iPad parkeren maar beter het criterium 'ik of een andere volwassene heeft dit materiaal uitgekeken' aanhouden. Dat scheelt kinderen niet alleen nachtmerries (en u dus nachtrust), maar ook latere traumaverwerking in de kroeg.

Meer over