De mens als dataset in een digitale wereld

In het inleidende hoofdstuk van zijn nieuwe boek Doe zelf normaal schrijft ethicus, rechtsfilosoof, romancier en NRC-columnist Maxim Februari: ‘Eigenlijk gaat dit boek over de vervanging van het vertrouwde rechtssysteem door een nieuwe manier om menselijk gedrag te reguleren en te sturen’.

Die nieuwe manier is digitaal. In de digitale wereld zijn wij mensen datasets, waar met behulp van statistische analyse, voorspellingen over gedragskeuzen aan onttrokken kunnen worden.

Voorspellen uitkomsten bij sommigen een grote kans op gedragskeuzen die buiten de grenzen van de (wettelijke) norm vallen? Lijkt preventief ingrijpen dan niet aangewezen, met dank aan informatietechnologie die zulke mogelijkheden biedt? Februari noemt het voorbeeld van de auto waarvan de snelheid automatisch worden begrensd, samenhangend met ter plekke geldende maxima. Pas dat in algemene zin toe en recht en rechter worden overbodig: overtreding van de wet wordt immers bij voorbaat onmogelijk gemaakt. Goed idee? Soms is wetsovertreding verstandig en moreel aanvaardbaar; uiteindelijk is het aan de rechter om dat te beoordelen. Om bij die auto te blijven: als je met een spoedgeval onderweg bent naar het ziekenhuis bijvoorbeeld. Helaas, je auto remt automatisch af als je over het geldende maximum gaat. Recht is dwang geworden.

Sleepwet-constructies, postcode-risicogebieden en profilering, of het nu de overheid is die ze toepast of private ondernemingen, allemaal vormen ze bedreigingen voor de rechtsstaat. Helaas worden zulke bedenkingen overstemd door technocratisch enthousiasme.

Rechtsstaat en democratie gaan hand in hand. Om de zoveel jaar naar de stembus om je politieke voorkeur met een stem te bekrachtigen is wel wat armoedig nu informatietechnologie burgers op elk moment over om het even welke kwestie voorkeuren kenbaar kunnen laten maken. Sterker: omdat uit de datasets van elke burger diens voorkeuren via digitale analyse zijn te destilleren, is het helemaal niet nodig die burger daar nog naar te vragen. Dat wél doen brengt trouwens het risico van vergissingen van de burgers met zich mee, want vergissen is immers menselijk.

Eigenlijk is dat precies het punt: in een wereld die volkomen beheerst wordt door informatietechnologie zijn burgers geen mensen meer maar enorme datasets, waar alleen digitale technologie iets mee kan. Veel mensen zullen denken dat het zo’n vaart niet loopt. Maar Februari laat op begrijpelijke wijze zien dat het wél vaart loopt en bovendien dat de overheid en wijzelf de ontwikkelingen min of meer ongehinderd op hun beloop laten. We beseffen niet hoezeer rechten, rechtsstaat en democratie gevaar lopen. Omdat we de wederkerigheid van onze verhouding met informatietechnologie niet inzien: we denken een instrument te bespelen, zonder te begrijpen dat het tegelijkertijd ons bespeelt.

Februari noemt Doe zelf normaal een essay, volgens de CPNB een aanduiding die de doodsteek is voor de verkoopcijfers. Dit boek behoort CPNB te logenstraffen, want niet eerder werd een zo toegankelijke – en o zo belangrijke! – tekst geschreven over hoe ongebreidelde informatietechnologie de fundamenten van burgerschap en de democratische rechtsstaat aantast. Nu Doe zelf normaal er is, kan zelfs een digibete politicus met een geheugen van twintig sms’jes niet meer zeggen dat deze kwestie te abstract voor hem is.

Hans van der Heijde

Maxim Februari – Doe zelf normaal. Prometheus, Amsterdam. 144 blz. € 22,50.

Deze recensie verscheen eerder in de Leeuwarder Courant en het Dagblad van het Noorden op 17 februari 2023 (online op 15 februari).