Grote techbedrijven infiltreren in de medische sector en dat is een kwalijke zaak

Een zeldzame variant van de ziekte van Parkinson heerst in de familie van Sergey Brin, mede-oprichter van Google. Mede hierom investeert Google flink in onderzoek naar deze ziekte. Zo is in Engeland DeepMind, een zusterbedrijf van Google, samen met de NHS (National Health Service) betrokken bij verschillende medische onderzoeken, waaronder een groot parkinsononderzoek. Zulke samenwerkingen hebben de belangstelling van de Frans-Israëlische filosoof Tamar Sharon (46). Hoe verandert de zorgpraktijk door de aanwezigheid van techbedrijven? Welke risico’s voor de toekomst zijn er?

Vanuit haar werkkamer op de negentiende verdieping van het Erasmusgebouw in Nijmegen heeft Sharon een spectaculair uitzicht over de bosrijke omgeving van de stad. Desondanks is de hoogleraar filosofie, digitalisering en samenleving geen wetenschapper die de wereld peinzend beziet vanuit een ivoren toren. Drie jaar geleden kwam ze naar de Radboud Universiteit om iHuB op te starten, een interdisciplinair onderzoekscentrum op het gebied van digitalisering en samenleving. Binnen iHub werken filosofen samen met computerwetenschappers, juristen, gedragswetenschappers en sociologen. Sharon geeft er leiding aan Digital Good, een door de Europese onderzoeksraad geïnitieerd onderzoeksproject naar de ‘Googlization’ van de zorg, oftewel naar de invloed van techbedrijven op de medische sector.

Het doel van het vijfjarige onderzoeksproject is om richtlijnen te ontwikkelen voor samenwerkingen tussen techbedrijven en de zorg, en mogelijk beleid op dit vlak, want dat is er volgens haar nog te weinig. Maar, zoals het een filosoof betaamt, draait het eerste deel van haar project om het zorgvuldig formuleren van het probleem.

Dát er een probleem is, staat al vast?

‘Ja, het startpunt van ons onderzoek is dat er risico’s zijn verbonden aan de komst van Big Tech in de medische sector. Als er wordt nagedacht over de gevaren van digitalisering voor de samenleving, gaat het vaak over het risico van privacyschending of dat van commercialisering. Wat gebeurt er met onze data? Gaan grote marktspelers mee bepalen wie er recht heeft op zorg? Dat zijn inderdaad risico’s, maar ze vormen maar een deel van het gehele plaatje. De techbedrijven leggen momenteel de digitale infrastructuur aan voor medisch onderzoek, voor het opslaan en analyseren van data en het diagnosticeren van ziektes. Ze hoeven niet zelf bij de data te kunnen om toch invloed uit te oefenen.

Waar het om gaat, is dat de techbedrijven de digitale expertise hebben waarvan de sector in toenemende mate afhankelijk wordt. En die expertise is niet alleen hun toegangskaartje tot de medische sector, maar ook tot het onderwijs, de transportsector, de publieke sector, en ga zo maar door. Om de risico’s daarvan te overzien, hebben we een ander kritisch raamwerk nodig.’

Daar komt Michael Walzer om de hoek kijken. Walzer (1935) is een Amerikaanse politicoloog en filosoof, onder meer bekend van het boek Just and Unjust Wars uit 1977. In het eveneens invloedrijke Spheres of Justice uit 1983 schrijft hij dat liberale samenlevingen bestaan uit verschillende ‘sferen’, waaronder de sfeer van de markt, de politieke sfeer, de familiesfeer, de gezondheidssfeer, et cetera. Alle sferen hebben hun eigen waarden en rechtvaardigheidsprincipes, die bepalen hoe de zaken er zijn verdeeld. Binnen een sfeer kan er ongelijkheid bestaan: in de marktsfeer zijn sommige mensen rijker dan andere, in de politieke sfeer heeft de één meer macht dan de ander.

Wat men in een rechtvaardige samenleving níét wil, stelt Walzer, is dat ongelijkheid in de ene sfeer zich uitspreidt naar een andere. Dat iemand rijker is, zou hem niet in staat moeten stellen om stemmen te kopen, of betere gezondheidszorg te krijgen. Dat iemand politieke macht heeft, zou niet moeten betekenen dat hij schimmige deals mag sluiten in de marktsfeer. Het inzetten van voordelen uit de ene sfeer om voordelen te krijgen in een andere sfeer noemt Walzer een ‘sfeertransgressie’. In een rechtvaardige samenleving blijven voordelen binnen een sfeer volgens hem beperkt tot die ene sfeer.

Hoe is de theorie van Walzer toepasbaar op de ‘Googlization’ van de samenleving?

‘Hoewel Walzer in 1983 niet schreef over het internet of digitale technologie, kunnen we vandaag de dag denken over een ‘digitale sfeer’, waar waarden zoals efficiency, optimalisatie en standaardisatie centraal staan. Het benoemen van een digitale sfeer geeft ons een beter inzicht in het fenomeen dat we willen analyseren: de risico’s van de uitbreiding van grote techbedrijven in sectoren waarin ze niet oorspronkelijk actief waren en waarin andere waarden belangrijk zijn. Techbedrijven hebben niet de domeinexpertise die past bij hun invloed in bijvoorbeeld het onderwijs.’

En toch breiden ze hun macht uit in die sfeer?

‘In de Verenigde Staten heb je Google Reference Schools en Microsoft Showcase Schools. Alle hardware en software in deze scholen is van Google of Microsoft. Op hogeschoolniveau worden studenten opgeleid tot Microsoft-datawetenschapper, of Google-datawetenschapper. Zo zit de onderwijssfeer van onder tot boven vast aan de techbedrijven. Ook in Europa gebeurt dit steeds meer.

‘In Europese samenlevingen worden infrastructuren, zoals de spoorwegen, van oudsher ontwikkeld en onderhouden door de staat, of door bedrijven die door de staat worden gereguleerd. Maar de digitale infrastructuren zijn in het bezit van bedrijven, zonder dat ze de verantwoording hoeven af te leggen die normaal gesproken samengaat met betrokkenheid bij de publieke sector.’

Hoe snel de macht van de techbedrijven om zich heen grijpt, is te zien op de Sphere Transgression Watch, een tool die het Digital Good-projectteam ontwikkelde. Deze biedt de mogelijkheid om van negen grote Amerikaanse en Chinese techbedrijven te zien in welke sferen ze zich sinds 2010 hebben begeven. Neem Alphabet. Het moederbedrijf van de zoekmachine Google is onder meer actief in de sferen gezondheid, onderwijs, wetenschap, politiek, juridisch, financieel, communicatie en duurzaamheid.

In de tool staan negentien sferen weergegeven als cirkels. Hoe groter een oranjerode vlek in een cirkel, hoe dikker de vinger in de pap van de techsector. De gezondheidssfeer kleurt fel oranjerood. Ook in de sferen onderwijs, vrije tijd en transport is Big Tech alomtegenwoordig. Inmiddels heeft het projectteam ongeveer duizend voorbeelden van sfeertransgressies op de site verzameld. Ieder persbericht of artikel waarin een nieuw initiatief van een techbedrijf wordt aangekondigd buiten de sector waarin ze oorspronkelijk actief waren, telt in principe mee. Het moet gaan om een concrete productlancering, samenwerking of investering, geen vage beloften. Zo lanceert Apple in juni een nieuw coachingprogramma voor docenten en is het Amerikaanse softwarebedrijf Palantir uitverkoren om de medische data van miljoenen Britse patiënten te gaan beheren.

Waarom zijn zulke sfeertransgressies problematisch?

‘De eerste rode vlag is privacy. Wat gebeurt er met alle verzamelde data? Belangrijk, maar pas het topje van de ijsberg. De focus op privacy ontneemt ons het zicht op bredere risico’s, zoals het risico op wat econoom Mariana Mazzucato ‘dubbel betalen’ noemt. Iedere technologie die is ontwikkeld met behulp van publieke onderzoeksgelden en die vervolgens wordt ‘vermarkt’, zoals de coronavaccins, laat de samenleving dubbel betalen. Een typisch businessmodel is dat een techbedrijf een algoritme ontwikkelt dat de samenwerkingspartner gratis mag gebruiken voor de duur van het contract. Stel dat Alphabet een algoritme ontwikkelt dat een vorm van huidkanker kan diagnosticeren op basis van medische data; die datasets zijn tot stand gekomen met publieke onderzoeksgelden, maar het eindproduct is eigendom van het techbedrijf. Als het contract afloopt, moet de samenleving betalen om het te mogen blijven gebruiken.’

‘Daarnaast drukken techbedrijven hun stempel op onderzoeksvragen in de medische sfeer. Natuurlijk is de ziekte van Parkinson vreselijk en moet er vooral in onderzoek worden geïnvesteerd, maar willen we dat mensen als Sergey Brin meebepalen welk onderzoek er plaatsvindt? Elon Musk van Tesla investeert in onderzoek naar het uploaden van onze hersenen naar computers. Zou dat prioriteit moeten hebben in de onderzoeksagenda’s van onze samenleving?’

Een ander risico is volgens Sharon dat techbedrijven waarden en expertises meebrengen die haaks staan op die van een sfeer. Zo werd de ontwikkeling van nationale corona-notificatie-apps beïnvloed door Google en Apple, die samenwerkten aan een API (Application Programming Interface) voor de apps, waarmee verschillende softwaresystemen informatie kunnen uitwisselen. Dankzij de API werkten de CoronaMelder en de buitenlandse varianten van deze app zowel op een iPhone als op een Android-smartphone.

Eén van de zaken waarover een beslissing moest worden genomen, was de vraag of de verzamelde data centraal of decentraal zou worden opgeslagen. Een aantal epidemiologen pleitte voor centrale opslag, onder beheer van bijvoorbeeld de GGD’s of de overheid’, zegt Sharon. ‘Vanuit privacy-oogpunt is dat misschien niet de beste optie, maar tijdens een pandemie is het belangrijk om overzicht te houden over de infectieverspreiding. Bovendien was een aantal landen, waaronder Duitsland en het Verenigd Koninkrijk, al bezig met het ontwikkelen van een gecentraliseerde app. Google en Apple drongen echter aan op gedecentraliseerde opslag. Ze kregen hun zin. Landen die wilden dat hun corona-apps op iOS en Android zouden draaien, moesten overstappen naar gedecentraliseerde data-opslag. Ze kregen minder zicht op de verspreiding van het virus dan ze hadden gewild. In dit opzicht bepaalden de techbedrijven hoe we de pandemie bestreden.’

Tijdens de pandemie waren de GGD’s onderbemand en lieten ze steken vallen op het gebied van privacy. Je kunt ook zeggen dat het een zegen is dat de techbedrijven zich met de pandemiebestrijding bemoeiden?

‘Je hoort me ook niet zeggen dat de techbedrijven niets van waarde meebrengen. Maar er moet regelgeving zijn over wie er aan de knoppen mag zitten. Het punt is dat veel overheden en domeinexperts vóór centralisatie waren en ze het toch verloren van de eisen van Big Tech. Willen we dat deze bedrijven zo’n belangrijke rol spelen in de volksgezondheid?’

‘Dat juist Google en Apple aandrongen op decentrale opslag, komt doordat zij zich bewust zijn van hun imago als dataplunderaars. Privacy dient inmiddels als een rookgordijn voor deze bedrijven. Het is niet zo moeilijk om privacyvriendelijk te zijn als je businessmodel draait om het ontwikkelen van infrastructuur. De publieke fixatie op privacy- en datavriendelijkheid stelt ze juist in staat om toegang te krijgen tot nieuwe sferen.’

Het klinkt bijna alsof u gelooft dat Big Tech een masterplan uitvoert, namelijk het innemen van zo veel mogelijk sferen op weg naar wereldheerschappij.

‘Als er al sprake is van een masterplan, dan is het niet erg doordacht. Het businessmodel van deze bedrijven lijkt eerder op dat van het casino: ze zijn groot genoeg om risico’s aan te gaan en te experimenteren. De logica is om ergens voet aan de grond te krijgen en uiteindelijk een manier te vinden om geld te verdienen aan onze groeiende afhankelijkheid van hun producten.

‘Die mentaliteit vertaalt zich ook in veel mislukkingen. Veel initiatieven in de gezondheidssfeer zijn lang niet zo succesvol als de techbedrijven rond 2014 hadden voorzien. Zo bleek IBM Watson, hét paradepaardje van AI in de gezondheidszorg, niet het wondermiddel dat de wereld was beloofd. De belofte was dat de kunstmatige intelligentie dokters overal ter wereld kon adviseren over welke behandeling het beste was voor de patiënt in kwestie, dankzij training met grote hoeveelheden medische data. Maar de behandeladviezen bleken niet altijd universeel bruikbaar. IBM Watson kwam bijvoorbeeld met aanbevelingen voor behandelingen die niet werden vergoed door Koreaanse zorgverzekeringen. Daar hadden de Koreaanse patiënten dus weinig aan.’

Ook in Nederland is het gebruik van IBM Watson inmiddels stopgezet. Blijkbaar is het niet zo makkelijk om een complete sfeer te transformeren. Dat is toch een geruststellende gedachte?

‘Zolang we maar niet over het hoofd zien hoeveel schade er onderweg kan worden aangericht, doordat sectoren veranderen op een manier die aansluit bij de belangen en waarden van deze bedrijven.’

Digitalisering speelt inmiddels in elke sfeer een rol van betekenis. We kunnen en willen als samenleving niet meer zonder Big Tech.

‘Is dat zo?’

Even tuurt Sharon uit het raam.

‘Hebben we werkelijk de mate van digitalisering nodig die zij graag zien? Innovatie hoeft niet altijd digitale innovatie te zijn. Je kunt ook investeren in betere arbeidsvoorwaarden voor verpleegkundigen. Digitalisering is vaak nuttig, maar moeten het per se producten uit de private sector zijn? Ook dat staat niet vast. We kunnen onze eigen digitale infrastructuur bouwen, zoals SURF, de ICT-coöperatie van Nederlandse onderwijs- en onderzoeksinstellingen, dat doet voor onderwijs. En ten slotte, als we het erover eens zijn dat deze bedrijven sommige dingen echt het beste kunnen, dan moeten we investeren in de voorwaarden die we ze opleggen. Hoe kunnen we met ze samenwerken zonder dat we er als samenleving op achteruit gaan?’

Hoe denkt u over de wetgeving die de Europese Commissie inzet om de macht van Big Tech te beteugelen?

‘Laat ik voorop stellen dat ik blij ben dat de Europese Commissie poogt er iets aan te doen. Ik ben nog bezig met het uit elkaar peuteren van al die nieuwe Europese wetten, maar één van de problemen die ik zie, is dat ze vooral gericht zijn op een eerlijker verdeling van de markt en de bescherming van consumenten. Maar niet alle sferen zijn markten. Sommige sferen zijn publieke sectoren, zoals onderwijs en openbaar bestuur. Ze vervullen basisbehoeften vanuit hun eigen publieke waarden, zoals autonomie, veiligheid en inclusie. Daarom hebben ze bescherming nodig tegen de push van digitalisering en de bijbehorende waarden als efficiëntie, optimalisatie en kostenreductie. Wellicht hebben we overkoepelende wetgeving nodig, die de sferen overstijgt. Zoiets als het milieurecht, dat tot doel heeft om de kwaliteit van onze leefomgeving te beschermen. We missen regulering die publieke waarden tegen de waarden van de digitale sfeer beschermt.’

CV Tamar Sharon

Geboren: New York, 1975

Opgegroeid in de Verenigde Staten en Frankrijk.

2011: Gepromoveerd aan Bar-Ilan University in Israël.

2013: Universitair docent aan de Universiteit Maastricht.

2018: Start Interdisciplinary Hub for Digitalization and Society (iHub), met hoogleraar security, privacy en identity Bart Jacobs.

2021: Voorzitter van de afdeling Ethiek en Politieke Filosofie aan de Faculteit der Filosofie, Theologie en Religiewetenschappen van de Radboud Universiteit Nijmegen.

2021: Hoogleraar Filosofie, digitalisering en samenleving aan de Radboud Universiteit.

2022: Lid van de European Group on Ethics in Science and New Technologies (EGE), een adviescommissie voor de Europese Commissie.