Hoe bots op sociale media het politieke debat manipuleren

Democratie 2.0

Sociale media en politiek activisme: even bracht het democratie 2.0 voort. Via de digitale weg bleken politici als Alexander Pechtold en Frans Timmermans plots bereikbaar voor de gewone man. Meer dan eens zijn massaprotesten en zelfs revoluties gefaciliteerd door Facebook en Twitter. Maar er is een kentering aan de gang. Zogenoemde 'bots', geautomatiseerde nepprofielen, proberen steeds vaker het digitale debat te manipuleren. Ook in westerse democratieën.

Begin deze maand merkte een republikeinse blogger op dat 465 accounts op Twitter spam verstuurden ten gunste van Donald Trump. Foto ap

Begin deze maand merkte een republikeinse blogger op dat 465 accounts op Twitter spam verstuurden ten gunste van Donald Trump. De tweets, voorzien van hashtags en links, riepen op om Ted Cruz aan te geven bij een toezichthoudend agentschap. Maar sommige accounts gaven locaties als Brazilië, Italië en India aan. Bovendien hadden ze zelden eerder over Trump getweet, volgden ze een verwaarloosbaar aantal andere gebruikers en werden ze zelf niet of nauwelijks gevolgd. De blogger berekende dat in dertig dagen, deze 465 accounts 411.000 tweets over Trump genereerden.

'Bots worden steeds vaker ingezet in het politieke debat', zegt communicatiewetenschapper Samuel Woolley, die aan de Universiteit van Washington een onderzoek leidt naar het fenomeen. 'Voorheen werden ze vooral gebruikt om een politicus of campagne populairder te laten lijken, maar tegenwoordig proberen ze steeds geavanceerder publieke opinie te manipuleren.'

Wie stuurt de bots aan?

Of de bots die het op Cruz gemunt hadden afkomstig waren van Trumps campagne is volgens Woolley moeilijk te zeggen. 'We weten dat bots een actieve rol in de verkiezingen hebben, maar het is moeilijk te zeggen wie de bots aanstuurt.'

Het onderzoeksteam van Woolley heeft nu al moeite om vast te stellen of een account een bot is, mede doordat bots vaak snel uit de lucht worden gehaald en dat de eigenaar zijn bot op non-actief kan zetten om vervolgens zelf vanuit het account te posten.

Troll farms

Zulk semi-automatisch gebruik van bots lijkt een beproefde methode door de zogenaamde 'troll farms' in Rusland. Eerder werd bekend dat het Kremlin mensen inhuurt om commentaar te leveren op media die zich kritisch uitlaten over Russisch beleid. Zo werd de Guardian in 2014 gek van de spam die zeer waarschijnlijk afkomstig was van de troll farms. De moderators, mensen die toekijken op de commentaren onder artikelen, verwijderden honderden reacties onder Oekraïne-gerelateerde artikelen.

Ook voormalig Vrij Nederland-verslaggever Tim de Gier dacht te maken te hebben met Kremlin-gestuurd commentaar wanneer het weekblad over MH17-ramp schreef. 'Er stonden half-afgemaakte zinnen en allerlei opmerkingen die totaal niet logisch waren. Ik durf niet te zeggen of het commentaar geautomatiseerd of menselijk was.'

Ted Cruz. Foto ap

Het verstoren van het MH17-debat

Probeerden bots het Nederlandse MH17-debat te verstoren? 'Zeer waarschijnlijk', zegt Woolley. Zeker is dat de Russen publieke opinie over Oekraïne probeerden te beïnvloeden, getuige een handleiding van een troll farm in handen van de Volkskrant. In die handleiding wordt de troll farm-medewerkers uitgelegd hoe ze op Twitter, Facebook en andere online media moeten overtuigen dat Oekraïense politici het land 'naar de rand van de afgrond' hebben gebracht.

In de handleiding, gedateerd 7 maart 2015, staan zoekwoorden, casussen en verwijzingen naar media die de Russische trolls kunnen gebruiken in hun reacties. Een van de argumenten die gesuggereerd wordt om de publieke opinie over Oekraïne te beïnvloeden is door te hameren op het nijpende gebrek aan gas in het land en achterstallige betalingen aan Gazprom, de Russische energiegigant. Een ander argument: Oekraïense extremisme vormt een bedreiging voor de joodse minderheid. Of: de financiële steun van het IMF zal vooral naar het leger gaan in plaats van de bevolking.

Eerlijke en objectieve informatie

Woolley benadrukt dat bots vooral een probleem zijn in landen met een door de overheid gecontroleerd mediabestel, omdat die burgers voor eerlijke en objectieve informatie op sociale media aangewezen zijn.

Hoe zo'n debat gemanipuleerd kan worden vertelde een hacker onlangs in een interview met Bloomberg Businessweek. De Colombiaan Andrés Sepúlveda spaarde kosten noch moeite om presidentsverkiezingen te beïnvloeden in negen Latijns-Amerikaanse landen. Hij deed dat vooral door de oppositie digitaal te bespioneren, maar maakte in 2012 ook een Mexicaanse protestbeweging dankzij bots onschadelijk.

#YoSoy 132

De hacker gebruikte een leger van dertigduizend bots om de protestbeweging #YoSoy 132, ook wel de Mexicaanse Lente genoemd, in de kiem te smoren. #YoSoy 132 stelde de warme banden aan de kaak die de partij van presidentskandidaat Enrique Peña Nieto tijdens de campagne onderhield met de Mexicaanse media. De beweging benadrukte dat ze geen andere kandidaat steunden.

Sepúlveda's bots zaaiden verwarring in de onlinediscussie, door #YoSoy 132 nadrukkelijk in verband te brengen met de linkse kandidaat Andrés Manuel López Obrador. Uit een door hem gehackt campagnememo wist Sepúlveda precies wat de zwakke punten van López Obradors waren, en liet hij de bots die benadrukken. Net als de Occupybeweging en de Arabische Lente had #YoSoy 132 geen centrale leider die de berichten tegen kon spreken. Ongehinderd veroorzaakten de bots een kakofonie op sociale media, waardoor de boodschap van de protesten afzwakte en de beweging uiteindelijk onschadelijk werd gemaakt.

'Ik werkte voor de donkere kant van de politiek, de kant die niet gezien wordt', zegt Sepúlveda, die momenteel een straf in Bogotá uitzit vanwege hacken en spionage. Hij zegt zijn verhaal te doen omdat mensen niet bevatten hoeveel invloed hackers kunnen uitoefenen op moderne verkiezingen. Hij is 'honderd procent zeker' dat er ook met de Amerikaanse presidentsverkiezingen geknoeid wordt.

Hoe groot het effect van de bots in de Amerikaanse verkiezingen is, valt niet te zeggen. Alleen al omdat het onmogelijk is om in te schatten hoe veel bots er actief zijn. 'Duizenden, tienduizenden, misschien wel honderdduizenden? Ik weet het niet', zegt Woolley. Naast zijn onderzoeksteam zijn er nog een handvol mensen die zich met bot-propaganda bezig houden.


Wat zijn bots?

Een chatbot is een geautomatiseerde robot die zo menselijk mogelijk probeert over te komen, bijvoorbeeld op Twitter of Whatsapp. Bots zijn er in allerlei soorten en maten en worden op uiteenlopende manieren gebruikt. Zo zijn er bots die grappen genereren en geen specifiek doel hebben, maar chatbots zijn ook geliefd bij klantenservices van bedrijven. Chatbots kunnen antwoord geven op simpele vragen als 'wat is de levertijd van het product?' doordat ze steekwoorden herkennen.

Een chatbot antwoordt door de steekwoorden en zinsopbouw die hij herkent te vergelijken met een database vol voorgeprogrammeerde en aangeleerde woorden en zinnen. De bot hanteert een overeenkomst-percentage zodat hij ook bij taal- en grammaticafouten antwoord kan geven.

Bots worden steeds beter geprogrammeerd. Ze zijn in staat om gesprekken te analyseren en daarvan te leren, waardoor ze steeds menselijker overkomen en langer interacties kunnen volhouden.

Geperfectioneerd zijn ze nog niet - en dat levert nog wel eens problemen op. Zo maakte een bot van de Nederlandse Jeffry van der Goot vorig jaar onbedoeld doodsbedreigingen op Twitter. Tay, een bot die Microsoft ontwikkelde, moest de persoonlijkheid van een 19-jarig meisje nabootsen, maar internetgrappenmakers (trolls) kregen voor elkaar dat Tay racistische opmerkingen ging maken.

Maar als we Microsoft en Facebook mogen geloven ligt in de toekomst een grote rol voor bots weggelegd. Met de stevige investeringen die daarbij komen kijken komt de bot-techniek in een stroomversnelling en zullen bots die door proberen te gaan als menselijke profielen, steeds moeilijker zijn te ontmaskeren.