Valkuilen risicoprofilering

RADAR _VALKUILEN RISICOPROFILERING
 
(Intro met abstracte beelden met daaronder een korte begintune.)

(In beeld verschijnt de tekst: 
microlearnings
Privacy)

(De heer Tijmen Wisman staat voor de camera voor een tafel in een verder lege kantoorruimte en begint een monoloog.)

TIJMEN WISMAN: Risicoprofilering is in schwung. We leven in een samenleving waarin het steeds
belangrijker wordt om risico's te managen. We willen het liefst voorkomen dat er iets gebeurt, dus we kijken naar de kansen die er zijn dat mensen bepaalde dingen doen. Vanuit een rechtstatelijk  perspectief roept dat enorm grote vragen op, want het uitgangspunt binnen een rechtsstaat is, dat 'n burger alleen kan worden aangesproken op wat hij heeft gedaan. Binnen risicoprofilering verandert die ratio licht en zijn we aan het kijken naar: Misschien moeten we iemand anders gaan behandelen aan de hand van de kans dat hij wat gaat doen. En daarin zitten een hele hoop risico's. Het kunnen hele praktische risico's zijn. Dat je in plaats van gaat kijken naar causaliteit gaat kijken naar correlaties en dat je eigenlijk uitkomsten bereikt die helemaal niet te rechtvaardigen zijn, maar ook vanuit een principieel standpunt: Is risicoprofilering op zichzelf problematisch? Het wordt wellicht extra problematisch gemaakt door 'n aantal veranderingen die zijn ingevoerd in de AVG, waardoor het mogelijk wordt om op basis van wetten steeds meer gegevens van burgers te verwerken en bij elkaar te voegen. Dat data van verschillende partijen bij elkaar wordt gevoegd. Dat die data gaat worden doorzocht om te kijken naar verschillende patronen. Een goed voorbeeld hiervan is project Waterproof.

(In beeld verschijnt een afbeelding met de titel Waterproof met daaroverheen een afbeelding van een tekst van Loesje over Slimme Meters.)

Project Waterproof was een project waarbij er werd gekeken naar de watermetergegevens van ik geloof 50.000 burgers om te kijken of er sprake was van fraude. Om te kijken of mensen samenleefden of niet. Met andere woorden, je hebt een groep onverdachte burgers en van al die onverdachte burgers wordt er gekeken wat hun watergebruik is. Dan kan je zeggen: Ja, maar dat heeft wel een redelijk doel, maar je kan ook zien dat, ja, er zijn een hele hoop zaken die een redelijk doel hebben, maar als we in al die gebieden gaan zeggen 'het is oké om gegevens bij elkaar te rapen', dan hou je een samenleving over waarin je misschien helemaal geen privacy meer hebt. Philip Alston, de Special Rapporteur van de Verenigde Naties zei bij de rechtszaak over Siri bijvoorbeeld, dat het Siri-systeem het equivalent was van fraude-inspecteurs die in een wijk overal op deuren gingen kloppen en bij iedereen alle dossiers gingen opvragen. Als je dat fysiek zou uitvoeren, zou er heel erg veel verzet tegen zijn. Maar door de digitalisering, door de verandering in de architectuur van de samenleving is het mogelijk dat de overheid nu dit soort dingen doet zonder dat we dat eigenlijk kunnen zien. Bij risicoprofilering zijn ook wel een paar belangrijke waarborgen die je in het achterhoofd moet houden. Zo moet het altijd uitlegbaar zijn aan de burger waarom hij wordt geprofileerd, wat zijn profiel is, welke gegevens daarvoor worden verwerkt en waarom die dan uiteindelijk, waarom er een bepaald profiel van hem bestaat. Dat moet inzichtelijk zijn. Bij de Siri-rechtszaak waren die profielen niet inzichtelijk. Daarbij heeft de rechter destijds gezegd dat een burger moet weten welke gegevens er van hem worden verwerkt op basis van welke verwerkingsgrond en welk risicomodel er wordt gehanteerd. En dat een burger dat moet weten om in staat te zijn om zichzelf te kunnen verdedigen. Wat de rechter daar in feite deed, was de ratio achter het gegevensbeschermingsrecht en achter de rechtsstaat bevestigen. Er moet een relatie... In een relatie tussen de burger en de overheid moet de burger rechtsbescherming genieten. Een ander vereiste is menselijke tussenkomst. Dat is ook een waarborg. Dus als er een risicoprofiel wordt toegepast in een bepaalde situatie en jij maakt daar bezwaar tegen als persoon bij wie dat gebeurt, dan moet er een mens zijn die kijkt naar het risicoprofiel en een beslissing die daar wellicht aan verbonden is. Dat moet ook iemand zijn die dan de feitelijke macht heeft om die beslissing terug te draaien en die daar ook voldoende inzicht voor heeft.
Die kan dus niet met een systeem werken wat hij zelf niet snapt. Risicoprofilering is een fenomeen wat ervoor kan zorgen dat de architectuur van de samenleving waar we in leven drastisch wordt veranderd. Je kan terechtkomen in een soort poortjesmaatschappij waarin iedereen middels een soort stoplichtsysteem, je bent of groen, of geel, of rood, beslissingen over zich genomen krijgt. Dat is iets wat al in verregaande mate gebeurt. Je ziet bijvoorbeeld al dat dit soort risicoscores of -kleuren worden geïntroduceerd op lagere scholen, universiteiten en op tal van andere plekken. Het is daarbij altijd heel belangrijk om in het achterhoofd te houden, dat we in wezen bezig zijn met statistiek. Dat we nog steeds in een rechtsstaat leven waar mensen moeten worden behandeld op basis van wat ze hebben gedaan, niet op basis van wat de kans is dat ze iets gaan doen.

(Outro met abstracte beelden en korte eindtune.)

(In beeld verschijnt de tekst:
microlearnings
Privacy)

(Het laatste beeld bevat het logo van de Rijksoverheid met daaronder de tekst:
Deze microlearning is tot stand gekomen door een samenwerking tussen de Leer- en Ontwikkelcampus (LOC) van UBR, de directie CIO Rijk van het Ministerie van Binnenlandse Zaken en Koninkrijksrelaties (BKZ) en de Rijksacademie voor Digitalisering en Informatisering Overheid (RADIO))