Afgelopen week ontstond zo'n gedachte na het lezen van het bericht over gezichtsherkenning. De NRC bracht een verhaal over de politie die vorig jaar met gezichtsherkenningssoftware bijna 100 verdachten identificeerde. De politie krijgt beelden die vergeleken worden met beelden uit een database met veroordeelden en arrestanten. Twee experts beoordelen onafhankelijk van elkaar de conclusies van de computer. Zo kan een verdachte met een gestolen pinpas pinnen.

Zonder het tv-programma Opsporing Verzocht blijkt het Linke Piet te zijn. Niets mis met gezichtsherkenning. Het maakt de samenleving veiliger en dat willen we. We willen echter geen politiestaat waarin een ex-crimineel uit een menigte gepikt kan worden omdat hij herkend wordt.

Vrijwillig DNA afstaan?

Een ander voorbeeld waarbij je denkt 'handig, hoewel', is het vrijwillig afstaan van je DNA. Morgen begint het grootste verwantschapsonderzoek dat ooit in Nederland plaatsvond. Justitie heeft 15.000 mannen opgeroepen om DNA af te staan. Het onderzoeksteam hoopt op deze manier de moord op te lossen op de 11-jarige Nicky Verstappen. Nu de proef op de som. Als je in de buurt van de Brunssummerheide zou zijn geweest in augustus 1998, zou je dan vrijwillig je DNA afstaan?

Er ontstaan dan vragen als: wie garandeert dat mijn DNA na de test wordt vernietigd? Wie garandeert dat mijn DNA, niet per ongeluk - mensen maken fouten - in een database belandt met kindermoordenaars? Of een verzekeringsmaatschappij krijgt op een vage manier toegang tot je DNA en sluit je uit van een levensverzekering omdat je profiel te veel risicos met zich meebrengt.

Morele afgrond

Je hoort de laatste maanden niets anders dan privacy by design, security by design en vandaag hoorde ik zelfs repair by design. Bij de designfase moet je al nadenken over privacy, veiligheid of de repareerbaarheid van de service die je gaat ontwikkelen. Nadenkend over gezichtsherkenningssoftware of het afstaan van DNA kom je erachter dat het bijna onmogelijk is vooraf alle consequenties te overzien. We begeven ons op een hellend vlak, waarbij we de teugels moeten aantrekken door goede regulering en adequaat toezicht om niet in een morele afgrond te belanden. Dat vraagt veel van ons vertrouwen in een niet falende rechtsstaat en een betrouwbare overheid. Of dat lukt is een nog een groter vraagstuk.

See omnystudio.com/listener for privacy information.