Analyse Online onheil

Techbedrijven moeten steeds vaker aanzien hoe hun creaties door kwaadwilligen worden gebruikt

Internetforum 8chan bleek vorig weekeinde de broedplaats voor de ideeën van de aanslagpleger in El Paso. De bedenker betuigde, te laat, spijt. Hebben techbedrijven eigenlijk wel een idee wat ze kunnen veroorzaken?

Facebook-oprichter Mark Zuckerberg legt in 2011 op een bijeenkomst in San Francisco uit hoe zijn netwerk in elkaar zit. Beeld Getty Images

Mede-oprichter Chris Hughes van Facebook vindt dat de autoriteiten zijn uitvinding een halt moeten toeroepen, voormalig Google-softwareontwikkelaar Tristan Harris verzet zich tegen het manipuleren van emoties door het internetbedrijf, voormalig Twitter-ontwikkelaar Chris Wetherell heeft spijt dat hij de retweet heeft bedacht. En Fredrick Brennan, bedenker van internetforum 8chan, wil sinds deze week dat de site off­line wordt gehaald.

De lijst met spijtoptanten die werkten bij techbedrijven en -initiatieven is lang en wordt alleen maar langer. Vol enthousiasme bedachten en ontwikkelden ze hun platforms. Soms uit ideologische motieven – 8chan moest het vrije woord beschermen – soms omdat ze grote financiële winsten voorzagen. Maar achteraf trekken ze een pijnlijke conclusie: ze hebben een monster gecreëerd.

Terugkijkend vragen ze zich af: hadden ze het onheil moeten zien aankomen? Hadden ze kunnen vermoeden dat Facebook een verzamelplaats zou worden voor nepnieuws? Hadden ze kunnen weten dat Google zo diep in het leven van mensen zou ingrijpen dat het ‘binnendringt in hun breinen en hun concentratie ruïneert’ (Harris). Dat Twitter een platform zou worden waar ruzies worden uitgevochten? Dat 8chan gebruikt zou worden om aanslagen aan te kondigen?

Nee, zegt 8chan-oprichter Brennan. Drie aanslagen werden er dit jaar al aangekondigd via het forum dat hij in 2013 begon. Naast de moordpartij in El Paso van afgelopen week was dat ook zo bij de aanslagen op de moskeeën in het Nieuw-Zeelandse Christchurch en de schietpartij in een synagoge in Californië. Brennan zou willen dat hij zijn creatie ongedaan kon maken. Maar de huidige eigenaar luistert niet naar hem.

Hoewel het forum en de grote techbedrijven niet helemaal vergelijkbaar zijn, hebben ze wel te maken met hetzelfde mechanisme. ‘Op het moment dat je alle mogelijkheden hebt om je creatie vorm te geven, weet je nog niet hoe je platform gaat uitpakken’, zegt Jeroen van den Hoven, hoogleraar ethiek en technologie aan de TU Delft. ‘En als het eenmaal in gebruik is, en je ziet hoe het in de praktijk uitpakt, kun je het vaak niet meer veranderen.’

Geladen wapen

Techbedrijven experimenteren ‘zonder precies te weten waarmee ze bezig zijn’, zegt Van den Hoven. Het doel is om de gebruikers zoveel mogelijk te binden, verslaafd te maken aan het product. ‘Als medewerker van zo’n bedrijf werk je aan één ontwikkeling op een deelterrein. Je denkt dat je lekker bezig bent. Maar op een gegeven moment vallen de schellen je van je ogen als je ziet wat het collectieve effect is van wat je hebt gemaakt.’

Neem de retweetfunctie van Twitter, die in 2009 onder leiding van Chris Wetherell werd ontwikkeld. ‘We hebben een geladen wapen aan een vier jaar oud kind gegeven’, zei Wetherell daar vorige maand over in een interview met Buzzfeed News.

Zijn creatie, die aanvankelijk bedoeld was om gebruikers het leven simpeler te maken, veranderde het medium. ‘Het deed veel van waar het voor bedoeld was’, zegt hij. Het had ‘een krachtsvermenigvuldiger die andere dingen niet hadden’, en vergrootte daarmee de impact van berichten.

Maar door het gemak van het delen door één muisklik was de drempel minimaal om kwetsende teksten te kopiëren. Wetherell zag met eigen ogen hoe de functie werd misbruikt. Gebruikers hanteerden de retweet om tegenstanders aan te vallen. Op die manier werd valse informatie verspreid en woede aangewakkerd in een hoog tempo, zonder dat Twitter het kon stoppen. ‘Het werd heel makkelijk om reputatieschade aan te richten’, zegt Wetherell. ‘En daartegen hadden we geen verdediging gebouwd.’

‘Je wordt zo opgeslokt door de vernieuwingsdrang binnen een techbedrijf dat je minder goed de gevolgen kunt overzien’, zegt Sanne Kanis, voormalig medewerker van muziekdienst Spotify, Google, en boekingsite Booking.com. ‘Pas als je weg bent en er van een afstand naar kijkt, kun je zeggen: dit was niet mijn bedoeling.’

Liever vergiffenis dan toestemming

Volgens Wetherell werd de vraag wat de negatieve gevolgen konden zijn van de retweetknop zelden opgeworpen tijdens de ontwikkeling. Die vrijblijvendheid is ook deel van het dna van techbedrijven, zegt Kanis. ‘Tech is groot geworden door de hackermentaliteit van het continu uitproberen van vernieuwingen. En dan liever vergiffenis achteraf vragen dan toestemming vooraf.’

Bij de TU Delft leren studenten daarom om andere vragen te stellen, voordat ze hun idee gaan ontwikkelen. Hoogleraar Van den Hoven: ‘Je hebt publieke waarden als veiligheid, privacy en volksgezondheid. Voordat studenten hun plan in de praktijk brengen, vragen we ze eerst te kijken hoe die publieke waarden door hun idee worden beïnvloed.’ Op die manier moet worden voorkomen dat de studenten de spijtoptanten van de toekomst zijn.

De komende jaren vallen hoe dan ook nog vele spijtbetuigingen te verwachten. Een goede zaak, vindt hoogleraar filosofie van mens en techniek van de Universiteit Twente Peter-Paul Verbeek. ‘Op het moment dat je de fout ziet, is het je morele plicht dat naar buiten te brengen, zodat anderen ervan kunnen leren.’

De mea culpa’s van oprichters en (oud-)medewerkers van de techbedrijven zouden cynici kunnen interpreteren als een sprong van een zinkend schip. Hoogleraar Van den Hoven: ‘Maar liever dat dan mensen die rustig doorgaan zonder rekening te houden met de maatschappelijke gevolgen.’

Lees verder:

Hoe een extreem-rechtse complottheorie mensen aanzet tot het plegen van dodelijk geweld
Julia Ebner (28) onderzocht de ‘grote vervangingstheorie’, die stelt dat het witte ras dreigt uit te sterven. Een aanhanger van deze theorie schoot afgelopen weekend 22 mensen dood in El Paso

Meer over

Wilt u belangrijke informatie delen met de Volkskrant?

Tip hier onze journalisten


Op alle verhalen van de Volkskrant rust uiteraard copyright. Linken kan altijd, eventueel met de intro van het stuk erboven.
Wil je tekst overnemen of een video(fragment), foto of illustratie gebruiken, mail dan naar copyright @volkskrant.nl.
© 2019 de Persgroep Nederland B.V. - alle rechten voorbehouden