Het auditorium was ingericht als een escape room en helemaal vol. Je kon er wel in, maar ontsnappen kon officieel alleen door een reeks puzzels op te lossen. Of eigenlijk door een reeks sprekers te beluisteren over de vragen: wat is er zo beangstigend aan digitale technologie? En kun je er nog aan ontsnappen?

In China draagt de politie sinds kort een soort smartbril die extra informatie geeft over de burgers die in beeld zijn. Het zorgwekkende daaraan, vindt filosoof en criminoloog Marc Schuilenburg, is niet dat de agent verdachte personen sneller kan identificeren. ‘Het probleem is dat de informatie die de agenten te zien krijgen, gebaseerd is op allerlei scores en gedragingen die an sich helemaal niet crimineel zijn. Los je je lening op tijd af? Bonuspunten. Gok je weleens? Aftrek! Op dezelfde scores gebaseerd kun je in China uitgesloten worden van een baan.’

Griezelig nauwkeurig

Toch is dat massale volgen van zo’n beetje alles en iedereen helemaal geen primeur of uitzondering van China. ‘We doen het allemaal, iedere dag. Door in verbinding te staan met internet geven we enorm veel informatie over onszelf weg.’ De app van Facebook houdt een duizelingwekkende lijst met scores over je bij: welke sites je bezoekt, wat je liket, wat je niet liket, hoe lang je naar wiens bericht kijkt, welke filmpjes of foto’s je aanklikt, wat je deelt, wat je vrienden met jou delen, enzovoort. Op basis van je surfgedrag zijn de technologiereuzen in staat een griezelig nauwkeurig profiel van al hun gebruikers op te stellen. Zulke profielen zijn veel geld waard: kijk je net iets te lang of te vaak naar te koop aangeboden auto’s, dan ben je misschien toe aan een nieuwe auto, en dat willen autofabrikanten maar al te graag weten.

Iedereen wéét wel dat de algoritmes van bedrijven als Facebook, Apple, Amazon en Google voortdurend meekijken als je online bent, en ook dat je op basis daarvan selectief berichten krijgt gepresenteerd. Dat komt regelmatig in het nieuws komt, bijvoorbeeld bij de laatste presidentsverkiezingen in Amerika. Schuilenburg: ‘Daar gaan mensen rekening mee houden. Eigenlijk wordt informatie zoeken over een onderwerp al iets dat mogelijk tegen je kan werken. In de rechtspraak verschuiven we steeds meer van een ideologie waarin de onrechtmatige handeling centraal staat naar een systeem waarin ‘foute gedachten’ al genoeg zijn om op een lijst terecht te komen waardoor je scherp in de gaten gehouden wordt.’

Geen idee hoe die algoritmes werken

Buiten de rechtspraak gaat het net zo: je krijgt ineens geen lening, omdat je profiel een waarschuwingsvlaggetje heeft. Je autoverzekering wordt duurder, want je profiel zegt dat je een hoger risico loopt. Bijvoorbeeld omdat uit big data blijkt dat er in jouw woonwijk veel mensen de afgelopen vijf jaar schade hebben gereden. Je wordt eruit gepikt bij de douane. En ga zo maar door. ‘En het erge daaraan is weer, dat we geen idee hebben hoe de algoritmes werken die dat soort profielen samenstellen. Dat is een volstrekte black box. Maar ze nemen wel beslissingen, en met die beslissingen hebben wij te maken. Dus de grote vraag is niet: wie controleert wie? De grote vraag is: wie controleert de algoritmen?”

Als de dienst gratis is, ben jij het product

Grootschalige dataverzameling door techreuzen of de overheid kan natuurlijk alleen als iedereen fanatiek blijft surfen. Schrijver en filosoof Mirjam Rasch van de Hogeschool Amsterdam prikkelt na de waarschuwingen van Schuilenburg de zaal tot wat zelfreflectie. We zouden toch met z’n allen beter moeten weten? Bij een bedrijf als Facebook, dat miljarden omzet door gratis diensten aan te bieden, geldt: als de dienst gratis is, ben jij het product. Rasch laat de aanwezigen met stellingen zien dat we meer dan verknocht zijn aan onze smartphones. Bijvoorbeeld: ‘De smartphone leidt mij gemakkelijk af.’ Te vaak, vult 51% van de zaal in. Hetzelfde percentage vulde aan het begin van de avond in tot drie uur per dag aan platforms als Facebook, Snapchat en Twitter te besteden. Nog eens 41% was er zelfs drie tot vijf uur mee zoet. Rasch’ advies: ‘Zet ‘m gewoon eens uit, al is het maar een paar uur per dag.’

We zijn allemaal acteur, en rechter

VU-jurist Britta van Beers is gespecialiseerd in juridisch-filosofische dimensies van technologie-regulatie. Ze ging in gesprek met Bas Heijne, Vrije Schrijver van de VU. Allebei vinden ze dat massale dataverzameling de onschuld wel voorbij is. Het nieuws van de dag was dat het Britse bedrijf Cambridge Analytica zou mensen op basis van facebookprofielen zeer gericht beïnvloeden bij verkiezingen over de hele wereld. Met dat in het achterhoofd sloot het gesprek moeiteloos aan bij de alarmerende woorden van Schuilenburg. Heijne: ‘Als alles wat je denkt en doet zó publiekelijk wordt, hoeveel tolerantie is er dan nog voor imperfectie? Er wordt ethisch en moreel nog maar heel weinig ruimte gelaten om buiten de norm te denken.’ Van Beers concludeerde, doelend op het verschijnsel dat iedereen zichzelf inmiddels wat mooier en slimmer etaleert op social media dan hij werkelijk is: ‘We zijn intussen allemaal acteur geworden. Maar ook allemaal rechter.’

Hoe verontrustend mensenrechten als privacy ook in het geding zijn, echt gedachten lezen valt niet mee. Mind-illusionist Jochem Nooyen sloot de avond af met een demonstratie van gedachten lezen. Aan een slachtoffer uit het publiek wist hij door middel van cold reading knap de naam van zijn jeugdliefde te ontfutselen. Hij suggereerde letters uit haar naam en lette heel goed op lichamelijke reacties. Maar vervolgens ook de cijfers van zijn pincode achterhalen, dat was Nooyen een brug te ver. Hém wel.

> The Product is You vond maandag 19 maart 2018 plaats. Het werd georganiseerd door de VU en VUvereniging. Hieronder ook een terugblik in video.