China kent elke burger score toe - ook voor internetgedrag
'Het is wat Amazon doet, maar met een orwelliaanse politieke draai eraan.' China werkt aan een systeem om alle burgers een 'sociale kredietcode' te geven, mede gebaseerd op hun gedragingen op internet.
De Chinese regering is bezig een landelijk 'Sociaal Krediet Systeem' in te voeren waarbij aan iedere burger een score voor zijn gedrag wordt toegekend. Die wordt berekend op basis van diverse criteria: van iemands financiële kredietwaardigheid en eventuele strafblad tot zijn op sociale media geventileerde meningen. Vanaf 2020 moeten alle volwassen burgers naast hun identiteitskaart over zo'n 'kredietcode' beschikken.
De regelgeving is vorig jaar bekendgemaakt, maar heeft in China en daarbuiten tot dusver vrijwel geen aandacht getrokken. Deze week publiceerde de Belgische China-specialist Rogier Creemers, verbonden aan Oxford University, een volledige vertaling, die voor het eerst de reikwijdte van het systeem duidelijk maakt. 'Met behulp van de modernste internettechnieken gaat er individueel toezicht op de Chinese burgers worden uitgeoefend', zegt hij in een interview.
In zijn ogen gaat het individuele toezicht verder dan wat onder het voormalige Oost-Duitse systeem gebruikelijk was: 'Het doel daarvan was beperkt tot het voorkomen van een opstand tegen het regime. Hier is de ambitie groter. Er wordt een poging gedaan een nieuwe burger te creëren.' Wie slecht scoort, kan daardoor volgens hem worden uitgesloten van bepaalde banen, huisvesting of kredietverlening om een eigen bedrijf te financieren: 'Op de arbeidsmarkt kan blijken dat je een bepaalde score moet hebben om een functie te kunnen vervullen.'
De burgerscore past goed in het geloof van de Chinese leiders in een utopische toekomst, zegt de Belgische China-specialist Rogier Creemers.
Lees hier het interview (+)
Erg ambitieus
Johan Lagerkvist, die als expert op het vlak van Chinees internet verbonden is aan het Swedish Institute of International Affairs, spreekt eveneens van 'een zeer ambitieus systeem, zowel in zijn diepgang als reikwijdte. Want het omvat het controleren van consumentengedrag, inclusief de boeken die mensen lezen. Het is het volgen van de consument zoals Amazon dat doet, maar dan met een orwelliaanse politieke draai eraan.'
In Hongkong ziet Maya Wang van mensenrechtenorganisatie Human Rights Watch China daarin een 'angstaanjagende visie' op de toekomst: 'Momenteel is er intensief toezicht op gevoelige groepen, zoals dissidenten, maar het sociaal kredietsysteem gaat verder. Dit is een poging om iedereen te monitoren.'
Lagerkvist plaatst een vraagteken bij de snelheid waarmee het systeem tot stand kan komen. 'Bedrijven kunnen wel eens terughoudend zijn volop mee te werken. En in de bureaucratie kunnen krachten elkaar gaan tegenwerken. Het is een open vraag. Veel zal ervan afhangen met hoeveel kracht de regering dit gaat nastreven.' Ook de Duitse politicoloog Daniela Stockmann, verbonden aan de universiteit van Leiden, vermoedt dat de grote Chinese internetbedrijven terughoudend zullen zijn, 'omdat ze zich bewust zijn van de privacyzorgen van hun gebruikers. Ook hebben ze moeite de enorme massa data met hun bestaande infrastructuur te verwerken.'
Maar Creemers gaat ervan uit dat de grote internetbedrijven, zoals Alibaba, Baidu en Tencent, volop mee zullen werken aan de totstandkoming, omdat zij 'in een symbiotische relatie met de regering verkeren'. Waar in de VS bedrijven als Facebook en Google zich verweren tegen aanvallen op de privacy van hun klanten door inlichtingendiensten, daar is die spanning veel minder aanwezig in China. In ieder geval is duidelijk wie de touwtjes in handen heeft. 'Samen kunnen overheid en bedrijfsleven in China 'big data' op een manier exploiteren die in het Westen niet voorstelbaar is', meent Creemers.
Tekst loopt door onder de afbeelding.
Burger beoordeelt mee
Dat de grote bedrijven er brood in zien, bleek onlangs toen een dochterbedrijf van internethandelgigant Alibaba met een innovatie op zijn betaalapp Alipay kwam. De gebruiker krijgt een score tussen 350 en 950 punten voor zijn kredietwaardigheid. Niet alleen leengedrag, maar ook hobby's en vriendenkring bepalen de score. Vertonen vrienden slecht betaalgedrag, dan levert dat minpunten op, net als langdurig onlinegamen. De aankoop van luiers duidt daarentegen op verantwoordelijkheid en leidt tot een bonus.
In de Chinese pers wordt het sociale krediet voorgesteld als een beperkt plan om vooral financiële kredietwaardigheid vast te stellen. Uit de studie van Creemers blijkt dat de regering een veel breder terrein van gedragingen wil gaan beoordelen. Innovatief is dat voor burgers ook een actieve rol is weggelegd. Zij mogen helpen bij het bepalen van de 'rating' van anderen. Creemers: 'Je kunt denken aan het geven van je mening over artsen of over onderwijzers. Dat laatste gebeurt in de VS ook al. Burgers kunnen ook vervuilende bedrijven een slechte score geven, want het systeem zal ook op instanties en bedrijven worden toegepast.'
'Socialistische kernwaarden'
De grote ambities van het systeem blijken uit een toelichting op de website van wetenschapsinstituut CASS. Door de grote veranderingen van de afgelopen decennia is China veranderd van 'een maatschappij van bekenden naar een maatschappij van vreemden'. Morele normen zijn daardoor vervaagd: 'Wanneer menselijk gedrag niet door moraal wordt begrensd, dan is een systeem nodig dat de daden van mensen inperkt.'
Dus is het tijd voor het Sociaal Krediet Systeem, waarmee 'vier grote gebieden worden bestreken: politiek, zakenleven, maatschappij en justitie.' Zo moeten onder meer 'socialistische kernwaarden' dichterbij worden gebracht, zoals respect voor het vaderland en voor ouderen, hard werken en afzien van extravagante consumptie.
Professor Wang Shuqin, een onderzoeker die meewerkt aan de ontwikkeling van het systeem, meldt dat het mechanisme voor het puur financiële gedeelte, het vaststellen van kredietwaardigheid, vrijwel af is. Dat is van groot belang, want systemen voor kredietwaardigheid zijn er nog niet en dat maakt zakendoen riskant, stelt zij. Jaarlijks zou de helft van alle ondertekende contracten worden verbroken.
Koppeling van kredietwaardigheid aan niet-economische factoren, zoals socialistische kernwaarden, beschouwt Wang als een extraatje. 'Het gedrag van de meerderheid wordt bepaald door hun gedachtewereld. Wie gelooft in socialistische kernwaarden, gedraagt zich beter.'
De totale transparantie: precies als De Cirkel?
'Ik geloof dat mensen perfectie kunnen bereiken', zegt een van de directeuren van het bedrijf De Cirkel in Silicon Valley. 'Volgens mij kunnen we beter. Volgens mij kunnen we perfect zijn, of bijna perfect. (...) Eindelijk zullen we ons volle potentieel realiseren.'
Het fictieve verhaal De Cirkel van de Amerikaanse schrijver Dave Eggers lijkt bijna model te hebben gestaan voor het Chinese Sociaal Krediet Systeem. Net als de Chinezen geloven de jongens in Silicon Valley dat totale openheid de wereld beter kan maken. Daartoe deelt iedereen voortdurend alles met elkaar op sociale media, en wordt iedereen voortdurend door iedereen beoordeeld. Dat telt op tot een score, de PartiRank die wonderlijk veel lijkt op het cijfer dat de Chinezen aan elke burger willen hangen.
De Cirkel wordt uiteindelijk zo machtig dat het bedrijf de rol van de overheid overneemt. In China gebeurt het andersom: daar is het de staat die de bedrijven voor zijn karretje wil spannen. Het doel is hetzelfde: totale transparantie, om zo tot een betere mens te komen.
Reputatie is daarbij het sleutelbegrip. Maar zelfs kenner Michael Fertik, auteur van het boek The Reputation Economy en eigenaar van een bedrijf dat mensen en bedrijven helpt hun onlinereputatie te managen, toont zich verrast door de Chinese ambities. 'Dit is het meest overweldigende opgeschaalde gebruik van big data dat ik ooit heb gezien', zegt hij. 'Aan de andere kant: dit is precies wat elke autoritaire staat zou willen doen met data.'
Niet alleen autoritaire staten voelen de verleiding van de technologie. Ook in het Westen proberen bedrijven en overheden individuen te karakteriseren aan de hand van hun data. De NSA probeert terroristen te herkennen, Google probeert onze voorkeuren te herkennen en bijvoorbeeld het Nederlandse SyRI-systeem van het ministerie van Sociale Zaken probeert fraudeurs te herkennen.
'Een beetje eng', noemt internetcriticus Evgeny Morozov de Chinese plannen. Maar hij ziet elders vergelijkbare trends. 'Het gebeurt op de Amerikaanse manier, door bedrijven, of het gebeurt met een sterkere betrokkenheid van de staat, zoals in China, maar dit is waar het financiële kapitalistische systeem heen gaat zelfs of juist in China.'
