Leesfragment: Doe zelf normaal

15 februari verschijnt het nieuwe boek van Maxim Februari, Doe zelf normaal. Menselijk recht in tijden van datasturing en natuurgeweld. 2 maart komt hij naar Athenaeum Boekhandel Spui om erover te spreken. Kom ook, en lees nu de eerste pagina’s uit het boek.

Onder invloed van de klimaatverandering en intelligente technologieën verandert de democratische rechtsstaat. Natuur en technologie sturen het beleid en nemen beslissingen voor ons. Het is de vraag of we zelf ons gedrag nog kunnen blijven normeren. Te veel kennis over de toekomst dreigt bij deskundigen en aan universiteiten te blijven hangen. Het is tijd die kennis daar op te halen en een publiek gesprek te voeren over de veranderingen die op ons afkomen.

• ‘Hij is een origineel schrijver en denker en een geweldig stilist, met niet zelden een fijnzinnig gevoel voor humor. Hij maakt nieuwsgierig, zet aan tot denken en is kritisch op een zeer unieke manier.’ Jury J.L. Heldringprijs
• ‘Februari beheerst zijn materie volledig en schrijft met humor en verbeelding.’ NRC
• ‘Februari kijkt voorbij de rookgordijnen, verdrijft ze en biedt een blik op de werkelijke problemen daarachter.’
• ‘Het werk van Maxim Februari getuigt van een grote bekommernis om de wereld.’ Jury C.C.S. Croneprijs

Schrijver, jurist en filosoof Maxim Februari is een van de scherpzinnigste en origineelste denkers van ons taalgebied. Hij is de auteur van bejubelde romans (Klont en De literaire kring), essays en columns. In 2008 ontving Februari de Frans Kellendonkprijs voor zijn gehele oeuvre, in 2018 de J.L. Heldringprijs voor columnistiek en in 2020 de P.C. Hooft-prijs voor beschouwend proza.

N.B. Lees op onze site ook Esther Wils over De onbetrouwbare verteller, een fragment uit die bundel columns, en Wils over zijn roman Klont.

1 Inleiding

Het hangt een beetje van je temperament af hoe je de opkomst van digitale technologieën beschrijft. Je hebt verschillende taalregisters tot je beschikking, verschillende stijlen waarmee je duidelijk kunt maken hoe je aankijkt tegen technologie die de toekomst vormgeeft – bijvoorbeeld:

• Opgewonden. ‘Alles verandert exponentieel,’ zeg je. ‘Zonder precedent.’ De eenentwintigste eeuw brengt een revolutie, een crisis, een fundamentele transformatie, ‘een exponentiële vooruitgang van technologie die de grenzen opheft tussen onze biologische, digitale en fysieke werelden’. Turbulentie. Transitie!
• Numeriek. ‘Zeven manieren waarop ai de wereld zal veranderen,’ schrijf je. ‘Vijftig manieren.’ ‘Honderdnegenentachtig manieren.’ We betreden het ‘Tweede Machinetijdperk’, zeggen Erik Brynjolfsson en Andrew McAfee van mit in 2014. We beleven de ‘Vierde Industriële Revolutie’, zegt Klaus Schwab van het World Economic Forum in 2016.
• Anekdotisch. Een man in de Amerikaanse staat Ohio maakte de politie en de verzekering wijs dat hij snel wat eigendommen had gepakt en net op tijd zijn brandende huis was ontvlucht, maar de dataregistratie van zijn pacemaker liet zien dat dit verhaal niet kon kloppen. In 2028 hebben we waarschijnlijk allemaal een telefoon in ons hoofd geïmplementeerd, voorspel je.
• Psychedelisch. Kunstmatig intelligente systemen zullen de aarde straks zo snel mogelijk ontvluchten en ons achterlaten met alleen een afwaskwast. Al onze intieme gesprekken blijven voor eeuwig door de ruimte zweven: het nageslacht zal ze met behulp van digitale technieken terugspoelen en afluisteren.
• Commercieel. Data zijn het nieuwe goud. Max Levchin, medeoprichter van PayPal: ‘De wereld wordt nu overspoeld met data en we kunnen consumenten veel duidelijker zien.’

Zelf heb ik een nogal flegmatiek karakter. Goed, goed, goed, zeg ik. Stel dat we grote haast hebben met het vinden van nieuwe omgangsvormen omdat het bestaan exponentieel verandert. En stel dat we een telefoon in ons hoofd krijgen geïmplanteerd om ervoor te zorgen dat we de economie en het ecosysteem in de toekomst niet langer in de war schoppen. Allemaal best, mij zul je er niet over horen.
Maar wat betekent dat dan eigenlijk voor ons bestaan als burger, als Europees burger, gewend aan de traditie van grondrechten en mensenrechten? Wat betekent het samenleven met technologieën die ons gedrag beïnvloeden voor de toekomst van ons rechtssysteem? Als we rechtvaardig willen samenleven in een groot netwerk met ecosystemen en dieren en technologische componenten, die elk hun eigen eisen stellen, hebben we misschien wel een nieuwe, overkoepelende ethische theorie nodig. Kortom, ik ben erg benieuwd hoe het recht en de rechtsbescherming eruit gaan zien.

Dit boek is een essay, een Versuch, zouden de oude filosofen zeggen, een kapstok om jassen aan op te hangen. Of, in modernere termen, een opensourcetekst, een programma waaraan je zelf kunt meeschrijven door het ene argument eruit te halen, en het andere argument ervoor in de plaats te zetten. Te veel kennis over de toekomst dreigt bij deskundigen en aan universiteiten te blijven hangen; ik denk dat het goed is die kennis daar op te halen en op tijd een publiek gesprek te voeren over de veranderingen die op ons afkomen.

Privacy

Gaat dit essay over privacy? Nee, ja, nee.
Jawel, privacy is onontbeerlijk. Het is van essentieel belang goed te regelen hoe persoonsgegevens worden geregistreerd en gedeeld, vooral in het digitale tijdperk. Mensen laten nu meer sporen achter dan ooit, meer persoonlijke informatie over hun leven, en dat maakt het ook meer dan ooit mogelijk burgers van bovenaf te controleren en te sturen. Als je grondrechten en vrijheden wilt beschermen, is het dus zaak de persoonsgegevens te beschermen. Maar het is niet genoeg.
Stel dat je de privacy volmaakt op orde hebt en dat machtige partijen niet kunnen meekijken in het leven van burgers: dan heb je daarmee de rechtsbescherming nog lang niet geregeld. Digitalisering verandert namelijk ook de manier waarop overheden of bedrijven hun regels opleggen, afdwingen en handhaven. Dat leidt tot een veel fundamentelere maatschappelijke verandering dan de inbreuk op de persoonlijke levenssfeer alleen; het leidt tot een verandering in de manier waarop recht werkt in een samenleving.
Onderzoeker Seda Gürses van de Technische Universiteit Delft geeft een duidelijk voorbeeld van deze fundamentele verandering als ze spreekt over de qr-code op je smartphone, die tijdens de coronapandemie als toegangspas is gebruikt. In een interview legt ze uit dat de qr-code weliswaar privacyvriendelijk is, maar dat je desondanks juridische bedenkingen kunt hebben bij de manier waarop zo’n code werkt.

Politici doen alsof de qr-code gewoon een vaccinatieboekje is, maar dan handiger. Volgens Gürses is een smartphone echter veel meer dan dat. ‘Een smartphone maakt handhaving van regels digitaal, en dus snel. De overheid kan à la minute een regel veranderen.’

De overheid kan op een ochtend beslissen dat je nog een extra vaccinatie nodig hebt om toegang te krijgen tot een ruimte of een evenement. Zo’n nieuwe regel gaat dan onmiddellijk in, zonder de vertraging die ontstaat als je regels op papier moet zetten. En daar komt bij dat de handhaving dwingender is dan ooit, want niet de mens, maar de smartphone handhaaft. De burger heeft niet langer de mogelijkheid met het vaccinatieboekje in de hand een gesprek te voeren met een menselijke handhaver die zich over de tekst buigt. Er is geen persoonlijke ruimte: de smartphone laat geen overleg toe. Seda Gürses:

Dit laat dus ook zien dat het concept privacy, waar ik al jaren mee heb gewerkt, niet meer voldoende is om onze grondrechten te beschermen. Zonder onze privacy te schenden brengt deze technologie een fundamentele verandering in de macht van onze overheid om beleid af te dwingen, in publieke én private sfeer.

Eisen aan algoritmes

Gaat dit essay dan over de eisen die we moeten stellen aan algoritmes? Nee, ja, nee.
Jawel, het is van belang dat je rechtsbeginselen in ere houdt als je, bijvoorbeeld, beslissingen automatiseert. Eisen die we altijd al hebben gesteld aan wetten in natuurlijke taal moeten uiteraard ook gelden voor regels die worden geschreven in code; daarom is het noodzakelijk de oude beginselen naar de nieuwe tijd te vertalen, waarden hoog te houden, algoritmes transparant te maken. Maar het is niet genoeg.
Door de opkomst van de digitale, ‘smart’, technologieën is de wereld een netwerk geworden. Verschillende bronnen van informatie – mensen, lantarenpalen, medische dossiers, bankrekeningen, digitale architecturen – praten met elkaar en gaan onderling relaties aan. Ook als je van elk afzonderlijk algoritme weet hoe het werkt, ook als je erop vertrouwt dat het aan jouw eisen voldoet, dan weet je nog niet wat de effecten zullen zijn van het samenspel van al die met elkaar pratende bronnen. Hoe de beslissingen van de smart technologieën elkaar onderling beïnvloeden.

[…]

© 2023 Maxim Februari