Wat moet Facebook met misdadige video's?

Livevideo's op Facebook

Vandaag werd in Zweden een vrouw urenlang verkracht. De daders zonden het live uit via Facebook. Het is het zoveelste voorbeeld van de donkere kant van livevideo: niet alleen 'shiny happy people' gebruiken het platform. Wat moet Facebook doen?

In het Zweedse Uppsala wordt een vrouw urenlang verkracht door drie mannen, zo meldt het Zweedse dagblad Aftonbladet. De verkrachting wordt door zo'n tweehonderd personen live gevolgd via een livestream op Facebook. In eerste instantie wordt aan een slechte grap gedacht, daarna dringt het besef door dat het echt is. De vrouw is niet volledig bij bewustzijn.

Snel daarna komen de reacties: stop hiermee. Tot een van de kijkers de politie waarschuwt zodat deze het appartement in Uppsala kan binnenvallen. De drie mannen, tussen de 18 en 24 jaar oud, worden gearresteerd. Ook live te volgen. Pas daarna gaat de camera uit.

Live, rauw en ongefilterd

Het is het zoveelste voorbeeld van de donkere kant van livevideo. Al snel na de introductie (in april vorig jaar) van zijn livevideodienst laat Facebook weten dat het zich bewust is van het feit dat het niet altijd shiny happy people zijn die hun vrolijke video's van huisdieren, gezellige etentjes of hippe festivals met hun dierbaren zullen delen. Ook al is dit wel de bedoeling.

Facebook zegt ook keer op keer dat het zijn verantwoordelijkheid neemt als het niet goed gaat. Een team staat 24 uur per dag, zeven dagen in de week paraat om ongewenste video's offline te halen. Dit gebeurt dan op basis van meldingen van Facebook-gebruikers. Achteraf uiteraard: alles wordt live, rauw en ongefilterd uitgezonden.

Verantwoordelijkheid nemen

Jeroen van den Hoven, hoogleraar ethiek en techniek aan de TU Delft, ergert zich aan deze afwachtende houding. 'Bedrijven als Facebook en Google hebben een grote verantwoordelijkheid. Die moeten ze nu eens gaan nemen. Ze zijn bezig de sociale infrastructuur van de samenleving te maken. We hebben het hier niet over het verkopen van schoenveters. Bovendien verdienen ze er goed aan.'

Deze kritiek klinkt de laatste tijd vaker, ook bij het fenomeen nepnieuws. En een paar jaar geleden was het de internetcriticus Evgeny Morozov die ageerde tegen de houding van Google en Facebook. Tot zijn ergernis verschuilen ze zich achter de spiegel-metafoor: we zijn slechts neutrale techbedrijven die een spiegel zijn van wat er in de maatschappij gebeurt.

Niet neutraal

De ontwikkelingen gaan razendsnel. Dit gebeurt er nou als je dingen laat lopen

Ethicus Jeroen van den Hoven

Onzin, zegt ook Van den Hoven. 'Het ís niet neutraal wat ze doen. Ze zijn notabene de grondslagen van onze verstandhouding ten opzichte van elkaar aan het ontwerpen. Dat gaat heel wat verder dan frivole en leuke filmpjes.'

De ethicus is niet onder de indruk van inspanningen op het gebied van kunstmatige intelligentie. 'Dat is me veel te vaag. Het gebeurt nú. De ontwikkelingen gaan razendsnel. Dit gebeurt er nou als je dingen laat lopen.'

Iemand moet bedrijven als Facebook 'op tamelijk indringende wijze' aan het verstand brengen dat ze zich niet langer kunnen verschuilen, vindt Van den Hoven. 'Het is totaal out of control. De overheid zou dit moeten doen. Maar ja, die is druk met hippe startups.'

Tot die tijd moet Facebook pas op de plaats maken, vindt hij. 'Prima als ze het met AI denken te kunnen oplossen, maar zolang dat niet het geval is, moeten ze gewoon even wachten met een dergelijke dienst.' 

Van den Hoven onderschrijft het commentaar dat onlangs in de New Scientist stond: New Moral Codes Needed. Het tijdschrift roept op tot nieuwe morele codes voor verantwoord innoveren.

Voordat je het weet, wordt Facebook beschuldigd van censuur

Linda Kool van het Rathenau Instituut, dat de overheid gevraagd en ongevraagd adviseert op het gebied van wetenschap en technologie, zit op de zelfde lijn. 'ICT is geen gadget meer, het is onderdeel van ons hele leven. Te lang heeft de overheid op de lijn gezeten dat het digitale domein iets bijzonders was.'

Het gevolg is volgens haar conceptuele verwarring: is Uber nu een vervoersbedrijf of een techbedrijf? Hetzelfde geldt voor Facebook: is het een mediabedrijf of een technologiebedrijf? 'Bedrijven noch de overheid kunnen het zich veroorloven weg te kijken.'

Kool constateert dat Facebook zich wat volwassener begint te gedragen. 'Maar daarbij komen weer nieuwe dilemma's. Voordat je het weet, wordt Facebook beschuldigd van censuur als het ingrijpt.'

Delen van de livevideo zijn hieronder te zien.