10 minuten

Surveillancekapitalisme: geniepige handel in gedragsvoorspellingen

Interview Shoshana Zuboff

De Amerikaanse Shoshana Zuboff, emeritus hoogleraar aan Harvard University, waarschuwt in haar boek The Age of Surveillance Capitalism dat we in een nieuwe fase van het kapitalisme zijn beland. Een fase waarin Big Tech en steeds meer andere spelers op de markt winst maken met data die zonder toestemming van de burgers zijn verkregen en die dienen om toekomstig gedrag te voorspellen – met zeer kwalijke gevolgen voor de economie, de democratie en individuele burgers.

Wat verstaat u precies onder ‘surveillancekapitalisme’?

“Het kapitalisme heeft zich ontwikkeld door datgene wat zich buiten de markt bevindt, binnen te halen in de marktdynamiek en het te verhandelen. In dit opzicht doet surveillancekapitalisme hetzelfde als traditioneel kapitalisme. Maar het heeft een schaduwkant.

Surveillancekapitalisme eigent zich eenzijdig privégegevens van burgers toe om deze vervolgens als gedragsdata te vermarkten. Deze data dienen als ruw materiaal voor technologie die probeert voorspellende patronen te onderscheiden in consumentengedrag. En deze nieuwe ‘producten’, gedragsvoorspellingen, worden vervolgens verkocht op een nieuwe markt die zich exclusief richt op de handel in het voorspellen van gedrag.”

Hoe is het ontstaan?

“Surveillancekapitalisme is in 2001 door Google uitgevonden als reactie op een financiële noodsituatie, om online zoekmachines snel winstgevend te maken. Het was zo’n succes dat het werd toegepast op Facebook en binnen een paar jaar de standaard werd voor applicaties en startups in vrijwel de hele tech-sector.

Inmiddels heeft surveillancekapitalisme zich verspreid over de hele economie: de verzekeringssector, de autobranche, de financiële wereld, de gezondheidszorg en het onderwijs, en vrijwel elk product dat je tegenkomt met het woord ‘smart’ ervoor. En elk dienstverlenend bedrijf dat het woord ‘gepersonaliseerd’ in zijn naam heeft staan, is toeleverancier voor surveillancekapitalisme.”

Als ik me even naïef opstel: die bedrijven zijn niet uit op mijn online bankgegevens, ze vellen geen oordeel en persen niemand af die naar porno kijkt of zich verdiept in controversiële politieke ideeën. Waarom moeten we er eigenlijk bang voor zijn?

“De essentie van surveillancekapitalisme is dat het zich eenzijdig privégegevens van burgers toe-eigent. Er komt niemand naar je toe die zegt: ‘Dit willen we graag gaan doen – geeft u er toestemming voor?’ Surveillancekapitalisten weten heel goed dat het publiek, hoe meer het weet over dit soort praktijken, er vaker tegen zal protesteren en ertegen beschermd zal willen worden.

Als deze nieuwe bedrijven data gaan verzamelen om ons toekomstige gedrag te voorspellen, dan moeten ze dat in het geniep doen. Dit is het fundamentele maatschappelijke aspect van surveillancekapitalisme: het is eenrichtingsverkeer. En dat heeft een heleboel gevolgen.

Met surveillancekapitalisme en de geniepige manieren waarmee het wereldwijd allerlei gegevens over ons verzamelt, hebben we private instellingen gecreëerd die buiten de politieke en bestuurlijke instellingen en regelgeving vallen – zeker in de Verenigde Staten. Tot nu toe vallen ze grotendeels buiten de wet, buiten het democratisch toezicht en buiten de democratische normen en waarden en brengen ze enorme ongelijkheid in kennis teweeg: deze bedrijven weten alles over ons, maar wij weten bijna niets over hen. Die kennis over ons gebruiken ze voor commerciële doeleinden.”

We hebben ‘ze’ nog niet bij name genoemd, maar het gaat hier over de groten: Facebook, Google enzovoort. Google roept nog steeds: ‘wees niet kwaadwillend’ – maar is het dat zelf niet?

“Het gaat niet om kwaadwillendheid. Het gaat hier om een nieuwe economische logica, met specifieke economische wetmatigheden. Het gaat hier om bedrijven die aan deze wetmatigheden gebonden zijn als ze succes willen boeken.”

Karl Marx schreef ooit dat je met een handmolen een maatschappij krijgt met een feodale heer en met een stoomfabriek eentje met een industrieel kapitalist. Bestaat er in de technologie ook een dergelijke wetmatigheid? Als het je lukt mensen op te sluiten in talloze kleine, geïsoleerde virtuele tredmolens, krijg je dan surveillancekapitalisme?

“Het is een fundamentele beoordelingsfout dat technologie automatisch leidt tot surveillancekapitalisme. Laat hier geen misverstand over bestaan: surveillancekapitalisme is niet hetzelfde als digitaal kapitalisme.

Ik zal een voorbeeld geven. In de eerste jaren van de eenentwintigste eeuw, vóór de uitvinding van surveillancekapitalisme, kwam een exclusief groepje ontwerpers, datawetenschappers en ingenieurs aan de Georgia Tech University op het idee van het ‘aware home’ – vergelijkbaar met wat we tegenwoordig ‘smart home’ noemen. Maar het was een op zichzelf staand, gesloten systeem: alle informatie ging direct naar de bewoner van het huis. En de ontwerpers waren heel duidelijk: omdat deze data zo intiem en persoonlijk zijn, konden alleen de bewoners besluiten wat ze ermee deden.

Alle gedragsgegevens van de gebruiker streamt de Google Nest-thermostaat naar derden

Een sprong naar 2017: aan de Universiteit van Londen werd een enkel ‘smart home’-apparaat onder de loep genomen: de ‘Nest-thermostaat’, eigendom van Google. ‘Nest’ is een digitaal systeem met een thermostaat waar andere huishoudelijke apparaten op kunnen worden aangesloten. En het verzamelt een heleboel gegevens over allerlei aspecten van je gedrag in huis.

De onderzoekers ontdekten dat een consciëntieuze consument die een Nest-thermostaat installeert minstens duizend privacycontracten moet lezen. Want al die gedragsgegevens worden via ‘Nest’ naar derden gestreamd.

Hier hebben we dus dezelfde technologieën, maar elk met een fundamenteel andere economische logica. En het is de economische logica, zoals Max Weber ons lang geleden al waarschuwde, die bepaalt hoe die technologieën in ons leven worden geïntroduceerd, wat hun nut is en welke gevolgen ze hebben.”

Waarom is surveillancekapitalisme schadelijk voor de democratie?

“Hier komt een tweede denkfout om de hoek kijken: surveillancekapitalisme laat zich niet terugbrengen tot een enkel bedrijf. Er is op dit moment veel aandacht voor Facebook, want het waren vooral de sociale media die de verkiezingsprocessen in Europa en Amerika schade berokkenden.

Maar we moeten goed in gedachten houden dat de methoden die in het geval van Cambridge Analytica zijn gebruikt om met onze verkiezingsprocessen aan de haal te gaan, dezelfde zijn die surveillancekapitalisten dagelijks gebruiken om ons gedrag te manipuleren voor hun commerciële doeleinden.

We hebben een aantal middelen waarvan we nu weten dat ze niet alleen gedrag, maar ook het politieke besluitvormingsproces kunnen beïnvloeden. En dat op een heel directe manier: het politieke discours en politieke informatie komen tot ons alsof ze geconstrueerd worden door de vierde macht, door journalisten die er specifieke normen en waarden en criteria op nahouden waar het geloofwaardigheid en professionaliteit betreft.

Maar die politieke informatie wordt opzettelijk gecorrumpeerd om ons te bedriegen, om ons gedrag op geniepige wijze te beïnvloeden voor andere doeleinden. Dit is overduidelijk een grote uitdaging voor de democratie.”
                                                                      
Zijn er nog andere uitdagingen?

“Democratische samenlevingen worden door surveillancekapitalisme ook van binnenuit ondermijnd. Ons bestaan wordt steeds meer gekenmerkt door stimulusresponsmechanismen en onderbewuste beloning en straf, waar het in dit digitale tijdperk van wemelt. En dat ondergraaft langzaam ons vermogen tot morele autonomie.

We hebben gezien hoe er met deze autonomie werd geëxperimenteerd, letterlijk op bevolkingsniveau. In 2012 lanceerde Facebook zijn enorme online emotional contagion experiment, om te bezien of het onderbewuste hints en bewustzijnsvormende mechanismen kon gebruiken om ons stemgedrag in de echte wereld te beïnvloeden.

Een jaar later werd er opnieuw zo’n experiment uitgevoerd, opnieuw met onderbewuste hints, om te onderzoeken of Facebook onze emotionele toestand kon beïnvloeden en ons verdrietiger of juist gelukkiger kon maken.

Beide experimenten waren een succes. En toen Facebook erover publiceerde in wetenschappelijke tijdschriften, schepte het nota bene op over het feit dat deze experimenten waren ontsnapten aan de aandacht van de consument.”

Maar als deze bedrijven al zo onder onze huid zitten, of liever: in ons hoofd, is er dan nog wel ruimte om überhaupt over verzet na te denken?

“Volgens mij zal verzet niet zozeer het probleem zijn. Tegenwoordig is het voor ons onmogelijk om precies te weten welk aspect van ons bestaan wordt bewerkt, waar al die data naartoe gaan en wie ze waarvoor gebruikt. Dus eerst moeten we het beestje bij de naam noemen, want we weten dat mensen zich wel degelijk zullen willen verzetten wanneer ze erachter komen dat dit gebeurt. Ze willen wel degelijk ‘nee’ kunnen zeggen. Eerst moeten mensen zich ervan bewust worden wat er aan de hand is - dan volgt verzet vanzelf.

Van onze gekozen vertegenwoordigers zal worden geëist dat ze rigoureuzer aan de slag gaan met de volgende generatie wet- en regelgeving die ons tegen dit soort activiteiten zal moeten beschermen. Dankzij de General Data Protection Regulation (Algemene Verordening Gegevensbescherming (AVG), red.) van de Europese Unie zijn we al veel verder dan twintig jaar geleden.

Willen we echt nadenken over eigendom van data die überhaupt niet zouden moeten bestaan?

Bij deze wetgeving gaat het echter over eigendom van data als panacee voor privacy. Maar is eigendom van data wel voldoende als we zien hoe gretig het surveillancekapitalisme zich op ons online gedrag stort en hoe het zonder te vragen inbreuk maakt op onze persoonlijke levenssfeer? Willen we echt nadenken over eigendom van data die überhaupt niet zouden moeten bestaan?

Ik vergelijk dit graag met nadenken over de vraag hoe lang je een zevenjarige in een fabriek mag laten werken, terwijl je eigenlijk moet nadenken over de afschaffing van kinderarbeid.

Het gaat hier om principiële vragen: is het legitiem dat er inbreuk wordt gemaakt op onze persoonlijke levenssfeer terwijl wij daar hoegenaamd geen zeggenschap over hebben? Is het legitiem dat al die gegevens over ons gedrag als ruw materiaal mogen dienen voor het doen van voorspellingen? Is het legitiem dat die voorspellingen worden doorverkocht aan bedrijven die belang hebben bij het maken van prognoses over ons toekomstige gedrag? En dat die bewerkingen voor ons niet toegankelijk zijn en onze toekomst met winst wordt geveild, ten behoeve van de commerciële doeleinden van derden, en dat we geen zeggenschap of controle hebben over die activiteiten en er niet tegen worden beschermd?”

Afgezien van de publieke woede die misschien ontstaat als mensen inzien hoe de werkelijkheid óm hen heen en zelfs ín hen wordt gemanipuleerd: wat is uw boodschap aan beleidmakers?

“De eerste boodschap aan onze wetgevers is dat, hoe belangrijk het ook is om afzonderlijke bedrijven te reguleren en om onze antitrustwetgeving en wetgeving inzake de privacy in te zetten, we veel verder moeten gaan: namelijk inzien dat surveillancekapitalisme bezig is zich in onze gehele economie te verspreiden.

Bestuurders moeten inzien dat surveillancekapitalisme zich in onze gehele economie verspreidt

We moeten de specifieke mechanismen ervan begrijpen en een openbaar debat voeren over de vraag of deze mechanismen stroken met de individuele en de democratische soevereiniteit. Dan moeten we nadenken hoe we deze mechanismen een halt kunnen toeroepen en verbieden.”

Maar hoe moet dat volgens u?

“Ik vind surveillancekapitalisme een schurkachtige mutatie van het kapitalisme. In de twintigste eeuw vonden we een manier waarop markt en democratie met elkaar in evenwicht konden worden gebracht. Maar dat kwam alleen doordat we de wet- en regelgeving hadden ontwikkeld die de excessen van het kapitalisme aan banden legden, beperkten en aanpasten aan de behoeften van de democratische samenleving en het individuele welzijn – zowel maatschappelijk als economisch.

We leven nu in een wereld waarin we in ons dagelijks leven niet effectief kunnen functioneren zonder ons te bedienen van de kanalen – zoals sociale media - die tot de toeleveranciers van het surveillancekapitalisme behoren. In deze kanalen ruilen we onze ervaring in voor data over ons gedrag die worden overgedragen aan derden, zonder dat we er iets van weten en waar we verder ook geen controle over hebben. Kortom, we moeten alternatieven ontwikkelen.”

Er zijn al een paar alternatieven: Telegram in plaats van WhatsApp of alternatieve zoekmachines als DuckDuckGo voor Google, maar ze komen nog niet echt van de grond.

“Dit soort dingen vraagt om schaal. We hebben een zoekmachine als DuckDuckGo die onze privacy niet aantast en dat is verschrikkelijk belangrijk. Mensen zeggen misschien dat Google een betere zoekmachine heeft, maar wat niet tot hen doordringt is dat Google een betere zoekmachine heeft juist vanwege de praktijken die ik heb genoemd, en dat verbetering van de zoekcapaciteit kosten met zich meebrengt die voor de meesten van ons onzichtbaar zijn.

We moeten ons bewust zijn van de werkelijke kosten om ons actief in te laten met Google en zijn praktijken, die van kwaad tot erger worden en uiteindelijk Cambridge Analytica tot gevolg hebben.

We hebben hier te maken met twee zeer verschillende alternatieven. En wanneer die twee tegen elkaar worden afgezet, dan moet dat in de volle breedte, met volledige kennis en transparantie over wat ze precies inhouden. Als mensen volledige openheid van zaken krijgen, zullen ze een keuze maken.”

Dit interview is eerder dit jaar gepubliceerd door de Green European Journal, het Europese partnerblad van de Helling. Vertaling: Robert Dorsman.


Dit artikel staat in het winternummer van tijdschrift de Helling. Altijd de nieuwste artikelen lezen? Sluit een abonnement af.

Gerelateerde artikelen