Eén jaar na Christchurch: zo'n live uitgezonden moordvideo kan nog steeds

Christchurch, drie dagen na de aanslag door Brenton Tarrant herdenken jongeren de slachtoffers met een haka, de ceremoniële dans van de Maori.Beeld Carl Court / Getty

Naast alle verdriet om de moord op 51 landgenoten in Christchurch gruwelde de Nieuw-Zeelandse premier Jacinda Ardern ervan dat de terreuraanslag live op internet te zien was. Dus ging ze de strijd aan met grote digitale doorgeefluiken als Facebook: dit nooit meer. Een jaar later is de conclusie echter ontnuchterend. 

Het is vandaag een jaar geleden dat Brenton Tarrant in het Nieuw-Zeelandse Christchurch 51 mensen doodschiet. Hij zendt de terroristische daad live uit via internet. 

Het is een paar maanden na de aanslag in Christchurch als de Nieuw-Zeelandse premier Jacinda Ardern voor de tweede keer een belafspraak heeft met Facebook-baas Mark Zuckerberg. Sinds de aanslag vorig jaar, die live op Facebook is uitgezonden, probeert Ardern techbedrijven als Google en Facebook zover te krijgen alles te doen wat in hun macht ligt om zoiets nooit meer te laten gebeuren. 

Het gesprek loopt uit op een ‘gezonde discussie’: de twee verschillen van mening over hoe snel het probleem moet worden opgelost en hoe ver de sociale-mediagiganten zouden moeten gaan. Maar de wil om wat te doen is er, merkt Ardern. ‘Het moment dat iemand je platform gebruikt om live de moord op 51 mensen uit te zenden was een keerpunt voor hem’, aldus de president vorig jaar tegen de Volkskrant.

Toch is nu, een jaar na de aanslag in Christchurch, het livestreamen van een terroristische daad en het verspreiden van de opname ervan nog altijd mogelijk. De techbedrijven hebben het livestreamen in het afgelopen jaar niet aan serieuze restricties onderworpen. Hebben de pogingen van Nieuw-Zeeland niks uitgehaald, of is er iets anders aan de hand? Kan het livestreamen van een massamoord eigenlijk wel voorkomen worden?

Brenton Tarrant 

Terug naar 15 maart 2019. ‘Het feestje kan beginnen’, zegt de 28-jarige Australiër Brenton Tarrant nadat hij met uitzenden is begonnen. Hij draagt survivalkleren en in de auto zijn diverse halfautomatische wapens te zien. Met een witte stift heeft hij er teksten opgeschreven die verwijzen naar racistisch en nationalistisch gedachtengoed.

Still uit de video die Brenton Tarrant van de aanslag maakt.Beeld Reuters
Still uit de video die Brenton Tarrant van de aanslag maakt.Beeld Reuters
Still uit de video die Brenton Tarrant van de aanslag maakt.Beeld Reuters

De Australiër parkeert zijn auto bij de Al Noor-moskee in Christchurch. Hij filmt met een camera op zijn helm, zodat het voor kijkers oogt alsof ze naar een computerspel kijken. Hij loopt het terrein op en knalt twee moskeegangers bij de deur omver met een jachtgeweer. Binnen schiet hij op alles wat beweegt. 41 moskeegangers komen om, tientallen raken gewond. Daarna stapt Tarrant weer in zijn auto en rijdt – al schietend op vluchtende gelovigen - naar een andere moskee in de stad. Halverwege deze rit stopt de registratie, die in totaal 17 minuten heeft geduurd.

Tweehonderd mensen hebben live meegekeken. De opname wordt in het kwartier daarna door nog zo’n vierduizend Facebook gebruikers bekeken. Een van hen rapporteert de video, waarna hij door Facebook wordt verwijderd. Te laat. Een gebruiker van 8chan, een website populair bij rechtsextremisten, heeft een link geplaatst naar een door hem gemaakte kopie. Het hek is van de dam.

1,5 miljoen pogingen

In de 24 uur daarna wordt maar liefst 1,5 miljoen keer geprobeerd de video nog eens op Facebook te zetten. Het bedrijf weet dat 1,2 miljoen keer te verhinderen. 300 duizend kopieën worden – veelal handmatig – verwijderd nadat ze zijn verschenen. Ook andere sociale media worden die dag overspoeld: YouTube heeft te maken met één uploadpoging per seconde. De video is overal: zelfs premier Ardern stuit erop als ze op haar telefoon kijkt.

Nieuw-Zeeland is diep geschokt. Niet alleen zijn tientallen onschuldige moslims vermoord, de beelden van de slachtpartij gaan ook nog eens razendsnel de wereld over. ‘Deze aanslag was onderdeel van een gruwelijke trend: hij was bedoeld om te worden uitgezonden via internet’, schrijft Ardern in The New York Times.

Het is de opmaat voor een diplomatiek offensief, de Christchurch Call, dat de techbedrijven moet dwingen tot maatregelen. In korte tijd probeert een team van diplomaten zo veel mogelijk landen aan boord te krijgen. ‘We hadden veel wereldleiders nodig om de techbedrijven duidelijk te maken dat het menens is’, aldus een bron rond het diplomatenteam.

Facebook herkent geweldvideo niet

Facebook is dan al een onderzoek begonnen. Om kijkers te beschermen tegen ongewenste beelden, zoals naaktbeelden of zelfmoordpogingen, gebruikt Facebook kunstmatige intelligentie, ook wel deep learning genoemd. Door het systeem te voeden met een databank van duizenden ‘foute’ beelden, leert de computer welke plaatjes en video’s ongewenst zijn. Zo kunnen ze nog voor verschijning geblokkeerd worden.

Bij de Christchurch-video gebeurt dat niet. ‘De video was vrij uniek’, zegt computerwetenschapper Jan van Gemert van de Technische Universiteit Delft. ‘Deep Learning werkt ontzettend goed voor beeldherkenning, maar het heeft veel voorbeelden nodig en dat was het probleem hier.’ Facebook zal later ook erkennen dat het simpelweg ‘niet genoeg voorbeelden had van een schutter die zichzelf filmt’.

Facebook beschikt wel over de techniek om een bepaalde video, nadat hij als ongewenst is gemarkeerd, automatisch te blokkeren. Dat gebeurt ook met de Christchurch-video. Toch glippen al op de eerste dag 300 duizend versies door deze verdedigingslinie. ‘Er was die dag een groep mensen bezig om voortdurend aangepaste versies online te zetten met het doel ons detectiesysteem te omzeilen’, schrijft Facebook-bestuurder Guy Rosen na de aanslag. Ook verspreiden duizenden internetgebruikers op onlinemedia versies die met de telefoon gericht op het beeldscherm zijn gefilmd. Deze zijn voor het systeem lastiger te herkennen. In totaal vindt Facebook achthonderd varianten van de Christchurch-video.

De Nieuw-Zeelandse premier Jacinda Ardern, na het vrijdaggebed, een week na de aanslag. Beeld Vincent Thian / AP

De actie Christchurch Call 

De Christchurch Call wordt in mei door de coalitie van techbedrijven en regeringen ondertekend, maar gesprekken over concrete maatregelen verlopen stroef. ‘Het duurde even voor ze bereid waren om met ons zaken te doen’, aldus de bron rond het onderhandelingsteam. ‘Tijdens een vergadering op het kantoor van Facebook in San Francisco merkte je gewoon dat ze zich niet op hun gemak voelden.’

De vertegenwoordigers van de grote techbedrijven komen uit een andere wereld dan de diplomaten. Voor YouTube en Facebook is vrijheid van informatiestromen heilig, daar is het verdienmodel op gebaseerd. Regeringen denken sneller in restricties en verplichtingen.

Daarnaast stellen critici, met name in de Verenigde Staten, dat pogingen om online-extremisme in te dammen ten koste gaat van vrijheid van meningsuiting. Het is de reden dat de Amerikaanse regering de Christchurch Call niet ondertekent – hoewel diplomaten uit Washington wel bij alle belangrijke onderhandelingen aanwezig zijn. ‘De beste manier om terroristische uitingen te verslaan, is om betrouwbare alternatieve informatie te promoten’, aldus een verklaring van het Witte Huis.

Anderen waarschuwen ervoor dat de ook techniek om ‘slechte’ video’s te weren, misbruikt kan worden. ‘Wat voor livestream-techniek geldt, geldt ook voor techniek om content te beperken: in de verkeerde handen kan het worden misbruikt, bijvoorbeeld voor censuur’, zegt Stef van der Ziel, eigenaar van streamingplatform Jet-Stream. Volgens Van der Ziel kan een strengere detectie ook ten koste gaan van mensen die goede bedoelingen hebben. ‘Wat als iemand om misstanden aan te kaarten een documentaire maakt over geweld en deze video per abuis zelf wordt aangemerkt als geweld? Dat is al gebeurd.’

Vrijheid van meningsuiting

Voor Ardern slaat de balans de andere kant uit. De vrijheid van meningsuiting moeten we koesteren, zei ze tegen de Volkskrant in oktober, ‘maar dat recht houdt niet in dat iemand vrij is om een massamoord uit te zenden’. Een tweede vergadering bij Microsoft in Seattle verloopt wel goed. ‘Dit keer hadden we niks voorbereid. We hadden geen agenda, alleen een whiteboard. Daar voelden ze zich een stuk beter bij. Toen legden we de basis voor het akkoord in New York.’

In de marge van de VN-vergadering in New York in september presenteren Ardern en Facebook-topvrouw Sheryl Sandberg het resultaat: de techbedrijven ontwikkelen een crisisprotocol om samen extremistische gewelddadige video’s zo snel mogelijk te verwijderen. De techgiganten beloven de unieke kernmerken van een eventuele video – de ‘vingerafdrukken’ – in een gedeelde database te stoppen. Dertien bedrijven hebben toegang tot deze database, waaronder ook Instagram en Reddit, ook populaire sites om video’s te delen. Een reeds bestaande organisatie, het Global Internet Forum to Counter Terrorism (GIFCT), gaat het protocol en de detectiesystemen verder ontwikkelen.

Reactie Facebook: trainen met schietvideo’s

Facebook stelt in een reactie dat het ‘significante veranderingen heeft doorgevoerd om de detectietechniek te verbeteren’. Zo is geëxperimenteerd met het identificeren van video’s door geluidsherkenning. Dat moet ertoe leiden dat video’s die visueel zijn aangepast, toch automatisch worden gedetecteerd omdat de geluidsband herkend wordt. Daarnaast is Facebook bezig een groot aantal opnames en foto’s van Engelse en Amerikaanse schiettrainingen te vergaren, om het systeem te leren schietvideo’s te herkennen. Een van de uitdagingen is om de computer te leren onderscheid te maken tussen echte video’s en online veel gedeelde beelden van computerspelletjes met een schutter in de hoofdrol.

Nog geen maand later volgt de eerste test. Een man in het Duitse Halle, die zegt geïnspireerd te zijn door de aanslag in Christchurch, zendt zijn (mislukte) aanslag op een synagoge live uit via de website Twitch. Het GIFCT stuurt een waarschuwing uit en identificeert een aantal unieke kenmerken van de video, gebaseerd op 36 (verwijderde) versies van de video. Dit helpt andere platforms om de video op te sporen en te verwijderen.

Bij de Al Noor-moskee waar de aanslag werd gepleegd.Beeld EPA

De oplossing bestaat nog niet

In december komen YouTube en Google naar de Nieuw-Zeelandse hoofdstad Wellington om het systeem te testen aan de hand van enkele ‘verschrikkelijke’ scenario’s. Volgens een woordvoerder van het Nieuw-Zeelandse ministerie van Buitenlandse Zaken is het protocol door de test ‘verfijnd’, maar informatie over wat het concreet heeft opgeleverd, blijft uit.

Zeker is wel dat ook het crisisprotocol niet kan voorkomen dat iemand opnieuw een aanslag live uitzendt, noch dat de opname nadien het internet overgaat. En wie even zijn best doet met zoeken kan de Christchurch-video nog altijd op internet achterhalen. ‘De technische oplossing bestaat nog niet’, zegt de bron rond het Nieuw-Zeelandse Christchurch Call-team. 

Dat betekent niet dat er geen vooruitgang is geboekt. Door het protocol zijn de techbedrijven beter uitgerust om de verspreiding van zo’n video te voorkomen. ‘We zijn nu in staat terug te vechten.’

Meer over

Wilt u belangrijke informatie delen met de Volkskrant?

Tip hier onze journalisten


Op alle verhalen van de Volkskrant rust uiteraard copyright. Linken kan altijd, eventueel met de intro van het stuk erboven.
Wil je tekst overnemen of een video(fragment), foto of illustratie gebruiken, mail dan naar copyright @volkskrant.nl.
© 2020 DPG Media B.V. - alle rechten voorbehouden