Wat kunt u doen, wanneer u aan 'voorspellende' algoritmen of profilering wordt onderworpen?

Het uitoefenen van uw informatie- en inzagerecht onder de AVG
In de reeks "Het 'black box'-karakter van geheime dataveillance en Big Data-analyse" heb ik aangegeven dat de discussie omtrent de inzet van instrumenten voor risicotaxatie, profilering en Big Data-analyse niet alleen gericht zou moeten zijn op discriminatie bij de toepassing van voorspellende algoritmen. De discussie over onder meer de inzet van het Systeem Risico Indicatie (SyRI) zou betrekking moeten hebben op een andere fundamentele kwestie: de effectiviteit waarmee iedere burger zijn/haar recht op eerbiediging van de persoonlijke levenssfeer kan uitoefenen.

Ondanks het 'black box'-karakter van de geheime verzameling en verwerking van uw persoonsgegevens in het kader van risicotaxaties/profilering/Big Data-analyse moeten de rechten en plichten uit de Algemene Verordening Gegevensbescherming (AVG) en het Europese Verdrag voor de Rechten van de Mens (EVRM) worden nageleefd door de verwerkingsverantwoordelijke.

Uiteraard houdt het 'black box'-karakter van geheime dataveillance/profilering/risicotaxatie in dat de burger er niet van op de hoogte wordt gebracht dat hij/zij onderwerp van onderzoek is. Dat neemt niet weg dat u inzagerecht, het recht op beperking van de verwerking van uw gegevens en recht van rectificatie hebt. Ook zijn verwerkingsverantwoordelijken verplicht om informatie te verschaffen over de verwerking van uw persoonsgegevens.

Aan enkel de constatering dat geheime dataveillance met miskenning van de transparantie-, informatie- en verwerkingsbeperkingsverplichtingen in strijd is met het recht op eerbiediging van de persoonlijke levenssfeer hebt u niet veel. Iets aankaarten zonder mogelijke oplossingen aan te dragen, is nutteloos. Daarom adviseer ik u, hoe u een vordering tot inzage in de verwerking van uw persoonsgegevens aan de verwerkingsverantwoordelijke op kunt stellen. In de vordering kunt u de volgende punten opnemen om onder meer uw informatierecht, inzagerecht en recht van beperking van de verwerking van uw gegevens uit te oefenen. Het overzicht is niet uitputtend bedoeld en derhalve voor aanvulling vatbaar, met dien verstande dat de minimale informatieverplichtingen en transparantieverplichtingen van de verwerkingsverantwoordelijke erin zijn opgenomen.

1. Gegevens die u kunt vorderen op grond van uw informatierecht
- De identiteit en contactgegevens van de verwerkingsverantwoordelijke en/of de identiteit en contactgegevens van de vertegenwoordiger, bijvoorbeeld de gemeentelijke instantie, het Inlichtingenbureau of een privaat Data lab/miningbedrijf (art. 14 lid 1 onder a AVG);
- De verwerkingsdoeleinden waarvoor uw persoonsgegevens zijn bestemd en de categorieën van persoonsgegevens (art. 14 lid 1 onder c-d AVG);
- Gegevens van de persoon of instantie die de persoonsgegevens van de verwerker ontvangt (art. 14 lid 1 onder e AVG);
- Gegevens over het belang van profilering voor de verwerkingsverantwoordelijke en de door u te verwachten gevolgen van profilering (art. 14 lid 2 AVG);
- Informatie over uw recht om bezwaar te maken tegen de verwerking van uw persoonsgegevens (art. 14 lid 2 onder c AVG) en de mogelijkheid om een klacht in te dienen bij de Autoriteit Persoonsgegevens (art. 14 lid 2 onder e AVG);
- Informatie over de wijze waarop de verwerkingsverantwoordelijke voldoet aan de plicht om u op grond van art. 13 of 14 AVG in verband met art. 5 lid 1 AVG vooraf te informeren over het feit dat u aan profilering wordt onderworpen.

2. Het recht van inzage (art. 15 AVG)
- Wijs de verwerkingsverantwoordelijke erop dat u inzage dient te krijgen in de doeleinden van de verwerking, de betrokken categorieën van persoonsgegevens die worden verwerkt, de ontvangers aan wie uw persoonsgegevens zijn of zullen worden verstrekt, de periode van opslag van uw gegevens en de bronnen waaruit uw gegevens zijn betrokken (art. 15 lid 1 AVG);
- De verwerkingsverantwoordelijke dient aan u een kopie te verstrekken van de gegevens die worden verwerkt (art. 15 lid 3 AVG);
-  De verwerkingsverantwoordelijke dient u inzage te verschaffen in de gegevens die als input zijn gebruikt (datasets) om een profiel over u op te maken. U dient tevens inzage te krijgen in de informatie over de u betreffende profilering en de details van de categorie waarin u bent ingedeeld (Guidelines on automated Individual decision-making and Profiling for the purposes of Regulation 2016/679, 6 feb. 2018, WP251rev.01, p. 17).

3. Uw recht van rectificatie, verwerkingsbeperking en gegevenswissing
- Zijn de verwerkte persoonsgegevens die u betreffen, onjuist of onvolledig? Verzoek dan om rectificatie (art. 15 lid 1 onder e AVG jo. art. 16 AVG);
- Verzoek om beperking van de verwerking van uw persoonsgegevens (art. 15 lid 1 jo. 18 AVG). U hebt het recht op 'vergetelheid' (art. 15 lid 1 onder e AVG jo. 17 AVG);
- De verwerkingsverantwoordelijke heeft een kennisgevingsplicht inzake de rectificatie of wissing van uw persoonsgegevens of de verwerkingsbeperking (art. 19 AVG);
- Maakt u bezwaar tegen de verwerking van uw gegevens onder toepassing van art. 21 AVG, dan hebt u tevens recht op beperking van de verwerking van uw persoonsgegevens (art. 18 lid 1 onder d AVG).

4. De plicht van verwerkingsverantwoordelijke om op transparante wijze begrijpelijke informatie te verschaffen (art. 12 in verband met art. 5 lid 1 sub a AVG)
De verwerkingsverantwoordelijke dient u op transparante, begrijpelijke en gemakkelijk toegankelijke wijze informatie te verschaffen (art. 12 AVG). De informatie dient voor de gemiddelde betrokkene begrijpelijk te zijn (Guideline WP260 rev.01, 11 April 2018, p. 7-8). Zoals eerder opgemerkt, kan de verwerkingsverantwoordelijke niet volstaan met het verschaffen van een wiskundige formule, (letterlijk: het algoritme) of een grafiekje. Uit de informatie moet blijken hoe uw persoonsgegevens zijn verwerkt en voor welke doeleinden. De informatieverplichtingen op grond van art. 12 AVG dienen immers uw informatierecht (art. 13-14 AVG) te faciliteren.

Het verspreiden van zwartgelakte documenten onder de motivering dat de gegevens van verwerkers een gelegenheid van intern beleid zijn, is in strijd met de verplichting van verwerkingsverantwoordelijken om transparante en begrijpelijke informatie over de verwerking van uw persoonsgegevens te verschaffen. Let er wel op dat de verwerkingsverantwoordelijke zwartgelakte informatie kan verstrekken om de termijnen voor (bestuursrechtelijke) bezwaarprocedures op te rekken. Als de verwerkingsverantwoordelijke u de gevraagde informatie verstrekt, dan is dit een besluit in de zin van de Algemene wet bestuursrecht (Awb). Word de gevraagde informatie in onleesbare vorm verstrekt, dan dient tegen het niet-voldoen aan de transparantie- en informatieplicht bezwaar te worden gemaakt. De termijn voor beslissen op bezwaar is zes weken.

Het Privacy Impact Assessment (PIA) in geval van geheime dataveillance, risicotaxatie en profilering

Instrumenten voor geheime dataveillance, -analyse, profilering en risicotaxatie en de plicht om een PIA uit te voeren
De verwerkingsverantwoordelijke (organisatie) die privacygevoelige gegevens verwerkt, is verplicht om een Privacy Impact Assessment (PIA), ook wel 'gegevensbeschermingseffectbeoordeling' of 'Data Protection Impact Assessment' (DPIA) uit te voeren.

In vorige berichten heb ik het 'black box'-karakter van geheime methoden voor dataveillance en -analyse besproken, alsmede de toepassing van voorspellende algoritmen met een 'black box'-karakter, waaronder het Systeem Risico Taxatie (SyRI). Ik heb daarbij aangegeven dat de verwerkingsverantwoordelijke op grond van de Algemene Verordening Gegevensbescherming (AVG) transparant dient te zijn en dat de verwerkingsverantwoordelijke verplicht is tot het verschaffen van informatie en inzage aan de betrokken burger, ondanks het heimelijke karakter van de gegevensverzameling en -verwerking. Onder uitzonderlijke omstandigheden, bijvoorbeeld wanneer door menselijk toedoen een ramp dreigt te worden veroorzaakt, mag de verwerkingsverantwoordelijke de informatie- en inzagerechten, alsmede het recht op rectificatie, beperken (art. 23 AVG). Het 'black box'-karakter van instrumenten die heimelijk worden ingezet om burgers te onderwerpen aan dataveillance en -analyse kan echter niet worden tegengeworpen aan de plicht van verwerkende instanties om een Privacy Impact Assessment (PIA) uit te voeren.

Het verplichte PIA bij geheime dataveillance, profilering, samenwerking met private bedrijven en de verwerking van biometrische gegevens
De beperkingen op de transparantieverplichtingen van verwerkingsverantwoordelijken en de beperkingen van het recht van de burger op informatie en inzage gelden niet ten aanzien van het PIA. Een verwerkingsverantwoordelijke die geheime methoden voor Big Data-analyse/profilering/risicotaxatie toepast, is verplicht om het Privacy Impact Assessment (PIA) uit te voeren. Dit is bepaald in art. 35 AVG en wordt nog eens onderstreept door het Besluit Verplichte Gegevensbeschermingseffectbeoordeling van 27 november 2019 (Staatscourant nr. 64418). De verplichte uitvoering van het DPIA geldt onder meer voor:

- Grootschalige verwerkingen van persoonsgegevens en stelselmatige monitoring waarbij persoonsgegevens worden verzameld zonder de betrokkene daarover vooraf in te lichten, bijvoorbeeld heimelijk onderzoek door particuliere bureaus/Data Labs en onderzoek in het kader van fraudebestrijding (waaronder SyRI);
- Grootschalige verwerkingen van gegevens en monitoring in het kader van fraudebestrijding door sociale diensten;
-  Samenwerkingsverbanden waarin gemeenten en/of andere overheidsorganen met andere publieke of private partijen bijzondere persoonsgegevens of gegevens van gevoelige aard met elkaar uitwisselen;
- Grootschalige verwerking en monitoring van locatiegegevens, herleidbaar tot natuurlijke personen, bijvoorbeeld door ANPR-mobiel, of verwerking van gegevens van personen in het openbaar vervoer;
- Biometrische gegevens, waaronder vingerafdrukken, toetsaanslaganalyses, irisscans, gezichtsprofielen en stemopnamen (de verwerking van biometrische gegevens is enkel toegestaan wanneer de verwerking van biometrische gegevens noodzakelijk is voor beveiligingsdoeleinden);
- Profilering: de systematische beoordeling van persoonlijke aspecten van natuurlijke personen, gebaseerd op geautomatiseerde verwerking (profilering is geautomatiseerde verwerking).

Inhoud van het PIA: concrete verplichtingen van de verwerkingsverantwoordelijke
De verwerkingsverantwoordelijke dient vóór de verwerking van persoonsgegevens een beoordeling uit te voeren van het effect van de beoogde verwerkingsactiviteit op de bescherming van persoonsgegevens (art. 35 lid 1 AVG). De beoordeling bevat ten minste een systematische beschrijving van de beoogde verwerkingen en verwerkingsdoeleinden, waaronder de belangen van de verwerkingsverantwoordelijke; ook dient de verwerkingsverantwoordelijke een beoordeling te geven van de noodzaak en evenredigheid van de verwerkingen met betrekking tot de doeleinden (proportionaliteit en subsidiariteit); voorts dient de beoordeling te omschrijven welke maatregelen zijn getroffen en aan te tonen hoe aan de waarborging van de bescherming van de persoonsgegevens en de rechten en gerechtvaardigde belangen van de betrokken burgers is voldaan (art. 35 lid 7 AVG).

Het 'black box'-karakter van geheime dataveillance & Big Data-analyse en uw rechten (deel IV)

Deel III: wettelijke grondslag voor de rechtmatigheid van de verwerking van uw persoonsgegevens, doelbinding, proportionaliteit en subsidiariteit (noodzaak en dataminimalisatie) 

Overzicht
1. Beperkingen op de transprantie- en informatieplichten in uitzonderlijke gevallen;
2. De uitzonderingsgronden in art. 41 Uitvoeringswet AVG (UAVG);
3. Behoefte aan rechtsvorming ten aanzien van art. 23 AVG;
3.1 Bureaucratie staat in de weg aan rechtsvorming en effectieve rechtsbescherming;
4. Specifieke gedragsregels van de Autoriteit Persoonsgegevens inzake de naleving van de AVG

1. Beperkingen op de transparantie- en informatieplichten in uitzonderlijke gevallen
In uitzonderlijke gevallen kunnen beperkingen worden aangebracht op de transparantie- en informatieverplichtingen van de verwerkingsverantwoordelijke, alsmede in uw recht van inzage, rectificatie en beperking van de verwerking van uw persoonsgegevens. De wezenlijke inhoud van de grondrechten van burgers mag door die beperking niet worden aangetast (art. 23 lid 1 AVG). 

De beperking moet een noodzakelijke en evenredige maatregel zijn ter waarborging van onder meer de nationale veiligheid, landsverdediging en openbare veiligheid (art. 23 lid 1 a-j AVG). Hoe de beperkingsgronden van art. 23 lid 1 AVG moeten worden ingevuld, is te vinden in punt 73 van de preambule. Onder de ‘bescherming van de openbare veiligheid’ moet voornamelijk worden verstaan de ‘bescherming van het menselijk leven’ en de ‘voorkoming van door de mens veroorzaakte rampen’. 

Maatregelen ter compensatie van de beperking van de transparantie- en informatieverplichtingen zijn opgenomen in art. 23 lid 2 AVG. Ten minste moeten de volgende maatregelen worden getroffen:
- de verwerkingsverantwoordelijke moet specifiek de doeleinden en categorieën van de verwerking aangeven;
- de categorieën van persoonsgegevens moeten worden omschreven;
- de verwerkingsverantwoordelijke en de categorieën van verwerkingsverantwoordelijken moeten worden gespecificeerd;
- de opslagperiodes moeten worden gespecificeerd;
- het recht van de betrokkene om van de beperking op de hoogte te worden gesteld, moet worden gewaarborgd.

2. De uitzonderingsgronden in art. 41 Uitvoeringswet AVG (UAVG)
De Nederlandse Uitvoeringswet Algemene Verordening Gegevensbescherming (UAVG) gaat verder dan de beperkingen die op grond van de AVG kunnen worden gemaakt op de transparantie- en informatieverplichtingen. In art. 41 UAVG is namelijk bepaald dat de verwerkingsverantwoordelijke de rechten en plichten van art. 12 tot en met 21 en art. 34 AVG buiten toepassing kan laten, voor zover deze uitsluiting van het recht noodzakelijk en evenredig is ter waarborging van onder meer de nationale veiligheid, de openbare veiligheid en andere doelstellingen van algemeen belang (art. 41 lid 1 onder a-j UAVG). 

Het risico bestaat dat de verwerkingsverantwoordelijke de rechten en plichten van de AVG ten onrechte terzijde stelt met een beroep op ‘andere doelstellingen van algemeen belang’. Het is dan ook de vraag, of de uitsluiting van de transparantie- en informatieplichten in art. 41 lid 1 UAVG verenigbaar is met het doel en de strekking van de AVG. 

3. Behoefte aan rechtsvorming ten aanzien van art. 23 AVG
Ten aanzien van de uitleg van de beperkingsgronden van art. 23 AVG bestaat mijns inziens behoefte aan rechtsvorming. Raadpleging van de preambule van de AVG en Guideline WP260 rev.01 (11 april 2018, p. 33) verschaft niet voldoende duidelijkheid. Hoe moet bijvoorbeeld worden beoordeeld, of een beperking van de transparantieplicht een noodzakelijke en evenredige maatregel is ter waarborging van één van de belangen van art. 23 lid 1 AVG? Wat kan precies worden verstaan onder ‘andere belangrijke doelstellingen van algemeen belang, met name een belangrijk economisch of financieel belang’? Is het gerechtvaardigd dat een verwerkingsverantwoordelijke informatie achterhoudt voor de betrokkene om een niet-specifiek geduid financieel belang te waarborgen? Juist in het geval van de inzet van een instrument voor dataveillance/Big Data-analyse/profilering met een ‘black box’-karakter is dringend behoefte aan duidelijkheid over de toelaatbaarheid van beperkingen op grond van art. 23 AVG. 

3.1 Bureaucratie staat in de weg aan rechtsvorming en effectieve rechtsbescherming

Hoe kan rechtsvorming en bovenal effectieve rechtsbescherming worden bereikt? Bureaucratie is een rampzalig obstakel voor de burger. Het normenkader voor de bescherming van de rechten van de burger is weliswaar in de AVG opgenomen, maar de formele hindernissen staan in de weg aan de rechtsbescherming en rechtsvorming:

A. Rechtsvorming kan worden bereikt door een zaak bij het EHRM aan te brengen. Het probleem is dat eerst de nationale procedure dient te zijn uitgeput. In de praktijk zal het EHRM zich na gemiddeld 10 jaar over een kwestie buigen. Dat duurt te lang voor de burger die zich in zijn/haar belangen geschaad ziet;

B. Burgers kunnen zich in een gerechtelijke procedure laten vertegenwoordigen door een belangenbehartiger of individueel een procedure aanspannen, maar voor de beantwoording van een rechtsvraag zijn civiele procedures te omslachtig. Bovendien kunnen betrokkenen hun verdedigingsrechten door het 'black box'-karakter van heimelijke dataveillance/analyse/profilering niet uitoefenen. Mocht een betrokkene namelijk niet aan heimelijke dataveillance zijn onderworpen en bij gebrek aan duidelijkheid toch een proces aanspannen, dan moet de vordering worden afgewezen wegens gebrek aan procesbelang;

C. Het Europees Comité voor Gegevensbescherming/European Data Protection Board hoort zich bezig te houden met het uitvaardigen van adviezen en leidraden voor de invulling van de AVG. De overwegingen van het EDPB geven aan hoe lidstaten om moeten gaan met de rechten en plichten in de AVG. 

In mijn te optimistische verwachting dat het EDPB wellicht geïnteresseerd zou zijn in kwesties die direct de belangen en rechten van alle burgers raken, heb ik een rechtsvraag over de uitleg van de beperkingsgronden van art. 23 AVG voorgelegd aan het EDPB. Het EDPB heeft aangegeven aan geen antwoord te willen geven over de uitleg van art. 23 AVG en wijst mij weer terug naar Guideline WP29, waar ik zoals eerder gezegd niets aan heb ten aanzien van de uitleg van art. 23 AVG. Organisaties pretenderen zich in te zetten voor hun vakgebied, maar er is werkelijk bijna niemand te vinden die met enthousiasme in een belangrijke kwestie duikt. 'Dat is niet onze taak'. Als onderzoeker ben ik gewend om op onwelwillendheid te stuiten, maar ik blijf het gebrek aan interesse en daadkracht een ergernis vinden. Het gebrek aan daadkracht zorgt ervoor dat burgers in alle sectoren tegen een muur lopen;

D. Een laatste optie is om een rechtsvraag aan de Autoriteit Persoonsgegevens voor te leggen. Ik had mijn rechtsvraag aan het EDPB voorgelegd, omdat het EDPB een overkoepelende organisatie is en in tegenstelling tot een nationale toezichtsautoriteit, supranationale en meer geüniformeerde aanwijzingen kan geven over de invulling van de AVG. Dat neemt niet weg dat de AP (hiervoor het Cbp) gedragsregels kan uitvaardigen, die verwerkingsverantwoordelijken in acht hebben te nemen bij de verzameling, opslag en verwerking van persoonsgegevens.

4. Specifieke gedragsregels van de Autoriteit Persoonsgegevens inzake de naleving van de AVG
De stelling, dat de gedragsregels die door het College Bescherming Persoonsgegevens zijn uitgevaardigd vóór de inwerkingtreding van de AVG, niet langer gelding hebben, gaat niet op. De AVG waarborgt gelijke rechten en stelt gelijke verplichtingen die ook onder vigeur van de Wet bescherming persoonsgegevens golden, met dien verstande dat de AVG strikter is dan de Wbp. De volgende gedragsregels moeten door de verwerkingsverantwoordelijke worden nageleefd:

- Bestandsvergelijking gaat buiten de betrokkene om. Bij bestandsvergelijking voor het opmaken van risicoprofielen is de verwerkingsverantwoordelijke gehouden om zich naar de eisen van proportionaliteit en subsidiariteit te richten. Bestandsvergelijking in het kader van profilering moet een redelijk middel zijn in verhouding tot het te bereiken doel. De bestandvergelijking in het kader van profilering mag slechts worden aangewend, indien het doel niet op een andere, voor de persoonlijke levenssfeer van de betrokkene minder belastende wijze kan worden bereikt';
- De verwerkingsverantwoordelijke maakt met bestandsvergelijking een inbreuk op de persoonlijke levenssfeer van de betrokkene. De verwerkingsverantwoordelijke moet aannemelijk maken dat deze inbreuk gerechtvaardigd is. Aan de bestandsvergelijking die niet wettelijk is geregeld, moet een concrete verdenking van de betrokkene van fraude ten grondslag liggen;
- Zodra van een andere partij gegevens worden verkregen van de betrokkene, dient de betrokkene hierover te worden ingelicht;
- Persoonsgegevens die in de bestanden van de sociale diensten zijn opgenomen, mogen alleen worden verstrekt indien voor deze verstrekking een wettelijke grondslag bestaat. Het uitvoeren van een privacytoets (Privacy Impact Assessment) kan niet worden aangewend om de persoonsgegevens alsnog rechtmatig te verstrekken. Dezelfde beperkingen gelden voor intergemeentelijke afdelingen;
- Zijn in een fraudeonderzoek heimelijke waarnemingen verricht, dan dient de betrokkene hierover altijd te worden ingelicht. Een beperking van de informatieverplichtingen van de verwerkingsverantwoordelijke mag niet achteraf aan de betrokkene worden tegengeworpen;
- Het koppelen van bestanden is géén wettelijke verplichting, maar een mogelijkheid om de publiekrechtelijke taak uit te oefenen. De betrokkene dient over bestandskoppeling betreffende zijn persoonsgegevens altijd te worden ingelicht. De informatieverplichting achteraf is specifieker, omdat door de koppeling nieuwe persoonsgegevens zijn ontstaan;
- Bestandskoppeling houdt in dat persoonsgegevens worden gebruikt voor een ander doel dan waarvoor deze zijn verkregen. Bestandskoppeling moet verenigbaar zijn met het doelbindingsprincipe. Het gebruik van persoonsgegevens voor een ander doel is rechtmatig, indien bestandskoppeling noodzakelijk is voor de uitvoering van de publieke taak, armoedebestrijding.

Het 'black box'-karakter van geheime dataveillance & Big Data-analyse en uw rechten (deel I)

Het recht van de burger op informatie, inzage, rectificatie, wissing en verwerkingsbeperking, ongeacht het 'black box'-karakter van data-analyse en profilering
Voorstanders van geheime dataveillance voeren aan dat ongerichte dataveillance gerechtvaardigd is ten behoeve van de opsporing van fraude en delicten. De insteek van de discussie zou anders moeten zijn. Stel, u komt in de WIA na een arbeidsongeval en na afloop van de WIA ontvangt u een uitkering krachtens de Participatiewet. U hebt uw persoonsgegevens af moeten staan. Het overheidsorgaan laat uw gegevens verzamelen en verwerken zonder u daarvan op de hoogte te brengen. Volgens het overheidsorgaan is er een toereikende rechtsgrond voor de verzameling en verwerking van uw gegevens, omdat u een uitkering krachtens de Participatiewet ontvangt. Ontegenzeglijk hebt u uw gegevens niet afgestaan met de intentie dat instrumenten voor datamining en data-analyse zich een weg door uw persoonsgegevens banen. Als ik de pech heb dat ik een uitkering aan zou moeten vragen, dan geef ik mijn persoonlijke data niet af met het doel om deze over te leveren aan een inlichtingenbureau of een privaat bedrijfje in Big Data-analyse. Zamyatin heeft het goed ingezien: zoals hij in 1920 in zijn dystopische novel ‘Мы’ (‘Wij’) voorspelde, kan iedere seconde van het leven van de mens met behulp van kunstmatige intelligentie aan massasurveillance worden onderworpen.  
 

De discussie over de inzet van instrumenten zoals SyRI, Hansken, iColumbo, het systeem Alert en door privaatrechtelijke bedrijfjes ontwikkelde instrumenten voor data-analyse en datamining, zou betrekking moeten hebben op de effectiviteit waarmee iedere burger zijn of haar recht op eerbiediging van de persoonlijke levenssfeer kan uitoefenen. De discussie zou wat mij betreft dan ook niet uitsluitend op (discriminerende) algoritmen gericht  moeten zijn. Toegepaste voorspellende algoritmen zijn niet zo intelligent dat zij uit zichzelf onderscheid aan kunnen brengen. Dit technische gegeven maakt dat het voor de betrokkene dan ook niet interessant is om de 'black box'-problematiek te bestrijden door inzicht in de voorspellende algoritmen te eisen. Zou een overheidsorgaan aan die eis tegemoetkomen, dan krijgt de betrokkene waarschijnlijk een onbegrijpelijke statistiek te zien die hem niet meer inzicht verschaft over hoe de verwerkingsverantwoordelijke met zijn persoonsgegevens is omgegaan. Het resultaat zou daarmee alsnog niet voldoen aan de eis van transparantie bij de verstrekking van informatie aan de betrokkene als bedoeld in de Algemene Verordening Gegevensbescherming (art. 12 AVG).

In een vorig bericht, 'Datamining, Machine Learning en voorspellende algoritmen: hoe geschikt zijn deze methoden voor risicotaxatie?', constateerde ik dat algoritmen worden getraind met datasets die menselijke waardeoordelen van de opdrachtgever uitdrukken. Waar inzicht in de algoritmen van instrumenten als SyRI voor de betrokkene weinig zinvol zal zijn, wordt mijns inziens beter aangesloten bij de eisen van transparantie, informatie, toegang en inzage (artt. 12-15 AVG) door inzicht in de datasets en audit-logbestanden, alsmede in de uitvoering van het verplichte Privacy Impact Assessment (PIA) te verschaffen. Ik kom hier nog op terug. In het onderstaande bericht ga ik in op uw concrete informatierechten, uw recht van inzage, rectificatie en wissing, onverschillig het 'black box'-karakter van de verwerking van uw persoonsgegevens. 

Overzicht
Minimale vereisten voor dataverzameling, - verwerking en -analyse op grond van de AVG:
1. Transparantie;
2. Uw concrete informatierechten;
3. Uw recht van inzage, rectificatie, wissing en beperking van gegevensverwerking

Minimale vereisten voor dataverzameling, -verwerking en -analyse op grond van de AVG
1. Transparantie
Persoonsgegevens behoren op transparante wijze te worden verwerkt (art. 5 lid 1 sub a AVG). De verwerker dient de betrokkene in verband met de verwerking van persoonsgegevens op transparante, begrijpelijke en gemakkelijk toegankelijke wijze informatie te verschaffen (art. 12 AVG). Zoals ik heb opgemerkt, neemt het heimelijke karakter van op ‘black box’-principes gebaseerde systemen voor dataveillance en -analyse (waaronder SyRI en het voormalige Systeem Alert) niet weg dat de betrokkene zijn informatierecht effectief moet kunnen uitoefenen. Indien de persoonsgegevens bij de betrokkene zijn verzameld, is art. 13 AVG op de informatieplicht van toepassing; zijn de persoonsgegevens niet van de betrokkene verkregen, dan gelden dezelfde voorwaarden o.g.v. art.14 AVG. 

2. Uw concrete informatierechten
De verwerkingsverantwoordelijke dient de identiteit en contactgegevens van zichzelf en/of de vertegenwoordiger van de verwerkingsverantwoordelijke te verstrekken (art. 14 lid 1 onder a AVG). Dit betekent dat het overheidsorgaan als verwerkingsverantwoordelijke en de verwerker (een privaat bedrijf in data-analyse of het Inlichtingenbureau in Utrecht) de identiteit en contactgegevens behoren op te geven aan de betrokkene. 

De verwerkingsdoeleinden waarvoor de persoonsgegevens zijn bestemd en de rechtsgrond voor de verwerking dienen te worden verstrekt, evenals de categorieën van persoonsgegevens die zijn verzameld en verwerkt (art. 14 lid 1 onder c-d AVG). De persoon of instantie die de persoonsgegevens van de verwerker ontvangt, dient te worden vermeld (art. 14 lid 1 onder e AVG). De betrokkene moet worden geïnformeerd over de periode van de opslag van persoonsgegevens (art. 14 lid 2 onder a AVG). Roept de verwerkingsverantwoordelijke gerechtvaardigde belangen in als grond voor de rechtmatigheid van de verwerking (art. 6 lid 1 onder f AVG), dan moet over deze ‘gerechtvaardigde belangen’ informatie worden verstrekt (art. 14 lid 2 onder b AVG). 

De betrokkene heeft het recht op inzage en rectificatie van de persoonsgegevens. Ook kan de betrokkene om beperking van de verwerking van zijn persoonsgegevens verzoeken en bezwaar maken tegen de verwerking en overdracht van zijn persoonsgegevens (art. 14 lid 2 onder c AVG). Tegen de verwerking van persoonsgegevens moet een klacht kunnen worden ingediend bij de toezichthoudende autoriteit, de Autoriteit Persoonsgegevens (art. 14 lid 2 onder e AVG). De verwerkingsverantwoordelijke moet aangeven uit welke bronnen de persoonsgegevens afkomstig zijn, ook als het openbare bronnen betreft (art. 14 lid 2 onder f AVG). 

Relevant ten aanzien van systemen zoals SyRI is dat de betrokkene het recht heeft om geïnformeerd te worden over hem betreffende profilering. De verwerker is verplicht om informatie te verschaffen over het belang en de verwachte gevolgen van de profilering voor de betrokkene (art. 14 lid 2 onder g AVG). Is de verwerkingsverantwoordelijke voornemens om persoonsgegevens verder te verwerken voor een ander doel waarvoor de gegevens zijn verkregen, dan dient de betrokkene van nog vóór die verdere verwerking te worden geïnformeerd over het nieuwe doeleinde (art. 14 lid 4 AVG). 

3. Uw recht van inzage, rectificatie, wissing en beperking van gegevensverwerking
De hiervoor besproken transparantie- en informatieverplichtingen van de verwerkingsverantwoordelijke dienen de uitoefening van uw recht van inzage, wissing en beperking van de verwerking van uw persoonsgegevens mogelijk te maken. De betrokkene dient van de verwerkingsverantwoordelijke uitsluitsel te krijgen over de verwerking. Het recht van inzage houdt in, dat u geïnformeerd moet worden over de doeleinden van de verwerking, de betrokken categorieën van persoonsgegevens, de ontvangers aan wie uw gegevens zijn of zullen worden verstrekt en de periode van de opslag van uw gegevens (art. 15 lid 1 onder a-d AVG).

In het geval van profilering of geautomatiseerde besluitvorming, dient u te worden geïnformeerd over het belang en de gevolgen van de verwerking (art. 15 lid 1 onder h AVG). U hebt het recht om te verzoeken om rectificatie, wissing of beperking van de verwerking van uw gegevens en om bezwaar te maken (art. 15 lid 1 onder e AVG). U dient te worden geïnformeerd over de mogelijkheid om de Autoriteit Persoonsgegevens in te schakelen (art. 15 lid 1 onder f AVG). De verwerkingsverantwoordelijke moet aangeven uit welke bronnen de persoonsgegevens afkomstig zijn (art. 15 lid 1 onder g AVG). 

U hebt het recht om van de verwerkingsverantwoordelijke onverwijld rectificatie van onjuiste gegevens te verkrijgen; tevens dient de verwerkingsverantwoordelijke ervoor te zorgen dat uw persoonsgegevens volledig zijn. Indien u aanvulling verstrekt, moet de verwerkingsverantwoordelijke deze verwerken (art. 16 AVG). Voorts hebt u het recht om gegevenswissing in het kader van uw recht op vergetelheid te verzoeken bij de verwerkingsverantwoordelijke (art. 17 AVG).

U dient van de verwerkingsverantwoordelijke beperking van de verwerking van uw persoonsgegevens te verkrijgen, indien u de juistheid van uw gegevens betwist en de verwerkingsverantwoordelijke in staat wordt gesteld om de juistheid van uw gegevens te controleren, de verwerking onrechtmatig is, de verwerkte gegevens niet meer nodig zijn voor de verwerkingsdoeleinden of indien u op grond van art. 21 AVG bezwaar hebt gemaakt tegen de verwerking van uw gegevens (art. 18 lid 1 onder a-d AVG). 

In het volgende bericht, deel II, ga ik in op uw recht om niet geprofileerd te worden.

Datamining, Machine Learning en voorspellende algoritmen: hoe geschikt zijn deze methoden voor risicotaxatie?

(Big) Data-analyse: 'garbage out' is noodzakelijk om te voorkomen dat algoritmen verkeerd worden getraind

Om willekeurige of ongestructureerde data van relevante data te schiften, moet een analytisch instrument worden ingezet. De hoeveelheid data moet niet alleen worden verkleind, maar ook worden verfijnd om tot een specifieker resultaat te komen. Daarvoor kan gebruik worden gemaakt van een zogenaamd ‘Warehouse’, een digitale verzameling data afkomstig uit diverse bronnen. Om te voorkomen dat voorspellende algoritmen worden getraind met verouderde data en om het risico op inaccurate voorspellingen (vals-positieven) te verkleinen, dienen de data te worden ververst en in omvang te worden beperkt, ofwel: garbage out.[1] Met een dergelijk ‘digitaal warenhuis’ als referentiepunt kunnen correlaties tussen data worden ontdekt. Over de duur van het bewaren van persoonsgegevens in een Warehouse is niets bekend; op grond van het voormelde zal het waarschijnlijk gaan om een onbepaalde duur, behoudens de verversing. Het luistert in deze vroege fase van het proces van data-analyse nauw: als inaccurate gegevens worden bewaard en toegepast, wordt de onderzochte persoon onterecht als 'verdachte' of 'mogelijke fraudeur' aangemerkt.

Datamining, Supervised Machine Learning en Kunstmatige Intelligentie

Een belangrijke stap in het ontdekken van correlaties tussen datasets is ‘Knowledge Discovery of Databases’, of ‘datamining’.[2] Statistical Analysis System (SAS) omschrijft datamining als ‘het proces waarbij naar anomalieën, patronen en correlaties wordt gezocht, om een bepaalde uitkomst te kunnen voorspellen’.[3] De voorloper van datamining is ‘machine learning', een techniek die inhoudt dat algoritmen op basis van statistische gegevens worden getraind.[4] Formules worden ingegeven om algoritmen te ontwikkelen, trainingsets van data worden als ‘input’ gegeven en het resultaat ervan wordt als ‘output’ verstrekt. Algoritmen krijgen de opdracht om het verband tussen input en output te leggen en zichzelf te evalueren. De uitkomst van deze feedback wordt gebruikt om patronen te herkennen.[5] Deze vorm, ‘supervised machine learning’ is bij uitstek geschikt om data te classificeren: algoritmen categoriseren data naar het voorbeeld van vooraf verstrekte, gelabelde datasets en leren om data te ‘labelen’, ofwel een bepaalde eigenschap toe te kennen.[6] Als een plaatje van een ploertendoder als input en een vergelijkbaar plaatje met de titel ‘ploertendoder’ als output wordt verstrekt, leren de algoritmen om plaatjes van ploertendoders te classificeren. 

Profilering en voorspellende algoritmen en het risico op bias-gedreven valse resultaten

Algoritmen zijn de moleculen van alle vormen van kunstmatige intelligentie. Een algoritme kan worden omschreven als een formule, een eindige reeks die ingegeven data (bijvoorbeeld door opdrachten in zoekmachines, muisklikken en het bezoeken van webpagina’s gegenereerd) omzet in ‘output’, een bepaald resultaat. Om profilering van bepaalde categorieën van personen of verschijnselen en van bepaalde groepen van personen mogelijk te maken, dienen algoritmen te worden getraind met datasets. Het trainen van algoritmen, supervised machine learning, is vooralsnog een menselijke aangelegenheid. De waarde die door de onderzoeker of opdrachtgever wordt toegekend aan de dataset, beïnvloedt de uitkomst van het onderzoek. De uitkomst is, evenals de invoer van de dataset, afhankelijk van vooroordelen. Bij voortzetting van de gebruikelijke wijze van profilering is een bias in de datasets en daarmee in de profielschets of risicotaxatie onvermijdelijk. Bias-gedreven profilering vergroot het risico op valse positieven, dat nog eens wordt versterkt door te trainen met verouderde (persoons)gegevens. Bovendien is een zwakte inherent aan de toepassing van algoritmen in het data-analyseproces: algoritmen zeggen niets over causaliteit, het verband tussen oorzaak en gevolg. Algoritmen worden slechts toegepast om correlaties tussen verschijnselen bloot te leggen. Dat maakt voorspellende algoritmen niet geschikt om verwachtingen te toetsen.

Unsupervised Machine Learning, ongeschikt voor profilering

Bij een andere vorm van machine learning, ‘unsupervised machine learning’, ontbreekt het voorbeeld van gelabelde datasets. Algoritmen leggen patronen tussen ongestructureerde data. Unsupervised machine learning wordt gebruikt om ongestructureerde data te clusteren, in te delen naar overeenkomsten zonder een bepaald label te gebruiken.[7] De algoritmen plaatsen bijvoorbeeld allerlei plaatjes van ploertendoders in één omgeving, maar weten niet hoe deze wapens heten. Dat maakt unsupervised machine learning ongeschikt voor profilering, waarbij niet alleen relaties moeten worden gegenereerd, maar ook namen en classificaties (bijvoorbeeld ‘fraud!’) zullen moeten worden verbonden aan het resultaat. 

Een subvorm van machine learning is deep learning, het via een gelaagde neurale structuur ontdekken van complexe patronen in grote hoeveelheden data.[8] Het onderscheidende aan deep learning is de behoefte aan forse ‘computational power’ voor het uitvoeren van een complexe taak; één neurale laag kan uit wel vierhonderd processoren bestaan.[9]  Machine learning en deep learning vallen onder het onderzoeksgebied van de Kunstmatige Intelligentie (K.I.), met dien verstande dat K.I. geen synoniem is voor machine learning. Kunstmatige Intelligentie bestudeert het vermogen van computers om autonoom complexe taken uit te voeren en probleemoplossend te werk te gaan.[10] 

Zijn algoritmen wel geschikt om risico's te taxeren? Correlatie, geen causaliteit

Algoritmen liggen ten grondslag aan de automatisering van processen, waaronder datamining. Kenmerkend van door Big Data gedreven algoritmen is dat géén hypotheses worden ingegeven. Het doel is niet om een bepaalde verwachting te toetsen, maar om correlaties tussen verschijnselen te ontdekken.[11] Dat maakt dat de causaliteit van een gebeurtenis in de fase van de datamining buiten beschouwing blijft.

Conclusie
Profilering in de huidige verschijningsvorm wordt gekenmerkt door 'supervised machine learning', het trainen van algoritmen met vooraf ingegeven datasets. Deze datasets dragen, afhankelijk van de intentie van de opdrachtgever, in de regel menselijke waardeoordelen. Algoritmen die worden ingezet voor profilering zijn in die zin niet intelligent, dat zij zelf patronen kunnen ontdekken. Een zwakte aan profilering is dat (voorspellende) algoritmen niet worden ingezet om hypotheses te toetsen, maar slechts om correlaties te weergeven. Het onderzoeken van de causaliteit van een gebeurtenis blijft een menselijke aangelegenheid. Het 'minen' van grote hoeveelheden data is evenmin een geschikte methode om hypotheses te toetsen. Aan de resultaten van profilering en datamining mag geen betekenis worden toegekend voordat nadere menselijke interventie of interventie door een geschikte methode heeft plaatsgevonden. 'Vals-positieven' moeten uit programma's die werken op voorspellende algoritmen worden getraind. Bovendien kunnen de datasets waarmee voorspellende algoritmen worden getraind, bias bevatten. Daarmee is de bias in de profielschets of risicotaxatie onvermijdelijk. 

---

[1] B. Mali, C. Bronkhorst-Giesen en M. den Hengst, Predictive Policing: lessen voor de toekomst. Een evaluatie van de landelijke pilot (2017), p. 91-92; ‘Machine Learning in Information Security: Where the Hype Ends’, Cisco White Paper 2018, p. 3.

[2] R. Sietsma, Gegevensverwerking in het kader van de opsporing. Toepassing van datamining ten behoeve van de opsporingstaak: afweging tussen het opsporingsbelang en het recht op privacy, (diss. Universiteit Leiden), Leiden (2006), p. 23

[3] https://www.sas.com/nl_nl/insights/analytics/data-mining.html (geraadpleegd op 20 mei 2019).

[4] Vgl. https://cs.stanford.edu/memoriam/professor-arthur-samuel.

[5] Vgl. https://www.sas.com/nl_nl/insights/analytics/machine-learning.html (laatstelijk geraadpleegd op 20 mei 2019).

[6] Cisco Innovation Labs: How machine learning finds network trouble faster than anyone, via https://www.cisco.com/c/m/en_us/network-intelligence/service-provider/digital-transformation/get-to-know-machine-learning.html (laatstelijk geraadpleegd op 26 mei 2019).

[7] ‘Machine Learning in Information Security: Where the hype ends’, Cisco Whitepaper 2018, via https://www.cisco.com/c/dam/en/us/products/collateral/security/white-paper-c11-741159.pdf (geraadpleegd op 24 mei 2019).

[8] Vgl. https://machinelearningmastery.com/what-is-deep-learning/ (laatstelijk geraadpleegd op 26 mei 2019).

[9] Expanding deep learning, via https://www.umass.edu/research-report/expanding-deep-learning (geraadpleegd op 26 mei 2019).

[10] Definitie ontleend aan de informatie van de Universiteit van Massachusetts, faculteit Kunstmatige Intelligentie, via https://www.cics.umass.edu/research/area/artificial-intelligence (laatstelijk geraadpleegd op 26 mei 2019).

[11] T. Calders & B.H.M. Custers, ‘What is data mining and how does it work?’, in: B.H.M.

Custers e.a. (red.), Discrimination and privacy in the information society, Heidelberg:

Springer 2013, p. 27-28; G.H. Evers, ‘In de schaduw van de rechtsstaat: profilering en nudging door de overheid’, Computerrecht 2016/84-3, p. 167.

1 Predictive policing in de strafrechtelijke praktijk

1.4 Predictive Policing

Algoritmen construeren uit de analyse van Big Data (waaronder historische gegevens over gepleegde delicten, tijdstippen, locaties en slachtoffers)[1] patronen, op grond waarvan formules kunnen worden ontwikkeld die weergeven hoe groot de kans op een bepaald type delict op een bepaalde locatie is.[2] In de evaluatie van de Nederlandse pilot Criminaliteits Anticipatie Systeem (CAS) wordt predictive policing nadrukkelijk niet getypeerd als een voorspeller, maar als een risicotaxatiemiddel.[3] Het taxeren van het risico op incidentie van delicten heeft tot doel om de inzet van een bepaalde strategie ter preventie van misdrijven te ondersteunen of om aanhoudingen op heterdaad te bespoedigen.[4] Het National Intelligence Model voor een landelijk informatiegestuurde politie is overigens sinds 2008 een vast begrip, waarbij CAS als voornaamste succes wordt geciteerd.[5]

De gemene deler van alle predictive policing-instrumenten is dat zij draaien op (Big) Data-analyse en daarbij gebruikmaken van een digitaal warenhuis voor opslag en verversing van data. De data in dit Warehouse dienen als referentiepunt om patronen te kunnen vormen met nieuwe data.

Eerder heb ik aangegeven dat een onderzoek naar de oorzaak van een bepaald resultaat, of het causaal verband tussen oorzaak en gevolg, buiten beschouwing blijft bij de inzet van een door algoritmen gedreven analyse. Opmerkelijk zijn enkele praktijksituaties die zich voor hebben gedaan als gevolg van het kritiekloos op predictive policing-systemen leunen. Zo werden bij gebreke van actuele informatie over de omgeving, viswinkels als trekpleisters voor crimineel gedrag aangewezen[6] en door onvoldoende variabelen toe te voegen aan het systeem is een vrouw met medicijnen voor haar hondje als drugsrunner uit een heroïnedetectiesysteem gerold.[7] Deze beperkingen van actuele predictive policing-systemen worden in de evaluatie van de landelijke pilot onderkend, waarbij het belang van de menselijke waarneming wordt benadrukt. De aanbeveling in de pilotevaluatie is dat geautomatiseerde predictive policing wordt verrijkt met het ‘Wandelgangeninformatiesysteem’, de kennis uit de dagelijkse praktijk van menselijke interventies door opsporingsambtenaren. Gepleegde interventies, inclusief resultaten, moeten als variabelen worden toegevoegd aan het predictive policing-instrument.[8]

1.4.1 PredPol

In 2008 is korpschef Bratton van de Los Angeles Police Department een samenwerkingsverband aangegaan met Jeffrey Brantingham, onderzoeker aan de Californische Universiteit, met het doel het statistiekprogramma COMPSTAT te gebruiken voor het doen van voorspellingen over de kans dat bepaalde misdrijven zich op een bepaalde plaats en tijd voordoen (‘de kans op criminaliteit’ is geen accurate term, want te aspecifiek).[9] Het resultaat van dit samenwerkingsverband is het systeem PredPol. PredPol dient ertoe om de politiecapaciteit zo efficiënt en effectief mogelijk te benutten, door te anticiperen op mogelijke delicten.[10] PredPol analyseert historische gegevens over inbraken en projecteert vervolgens op een landkaart op welke locaties (coördinaten) de kans op prevalentie van misdrijven het hoogst is.[11] Volgens de evaluatie van de Nederlandse landelijke pilot ‘Predictive Policing’ draait PredPol op een ontoereikend systeem, omdat PredPol alleen zogeheten ‘near-repeat-gegevens’[12] gebruikt: locaties en tijd van vorige inbraken. Door deze beperking is het beeld ontstaan dat PredPol niet meer voorstelt dan het handmatig inkleuren van vakjes op een landkaart waar de meeste inbraken hebben plaatsgevonden; dat PredPol nog in gebruik is, zou vooral komen door het gebruiksgemak van een dergelijk weinig complex systeem.[13] In een aanbeveling om PredPol te verbeteren, wordt in de Nederlandse pilotevaluatie gewezen op het belang van het meewegen van geografische data (waaronder uitvalswegen), omgevingsfactoren (aanwezigheid straatverlichting), demografische en economische data in de analyse.[14]

1.4.2 Criminaliteits Anticipatie Systeem (CAS)

Een Nederlandse vinding is het Amsterdamse CAS[15], ontworpen door dataminer Willems.[16] CAS dient het risico op de incidentie van high impact crimes, zoals woninginbraken, straatroven en overvallen te voorspellen.[17] Een belangrijk doel van CAS is het bewerkstelligen van prescriptive policing, het vinden van de meest geschikte strategie om opsporingsambtenaren en middelen efficiënt in te zetten ter preventie van delicten of om delicten op heterdaad te ontdekken (artikel 128 Sv) in het kader van de handhaving van de openbare orde. CAS verdeelt een gebied in vlakken van 125 bij 125 meter en verwijdert weilanden en open water van de kaart, omdat het risico op delictsincidentie op deze locaties laag wordt ingeschat. Na deze verwijdering worden data van ieder deelgebied verzameld: historische gegevens over gepleegde delicten, afstanden tot bij de politie bekende verdachten, uitvalswegen, soorten bedrijven bekend bij de politie en sociaal-economische gegevens die worden betrokken van het Centraal Bureau voor de Statistiek.[18] 

CAS maakt gebruik van een Warehouse, een database met historische gegevens die regelmatig wordt ververst. Algoritmen die door feedback zijn getraind, leggen per vlak van 125 bij 125 meter patronen tussen peilmomenten tot drie jaar terug en peilmomenten tot een halfjaar terug.[19] De algoritmen kunnen een formule met een voorspelling van delictsincidentie op een bepaalde locatie geven. Vervolgens krijgen de algoritmen informatie aangevoerd over de daadwerkelijke prevalentie van delicten op de gegeven locatie. Met deze feedback worden de algoritmen getraind om fouten op te sporen en verbeteringen aan te brengen. CAS geeft voor twee weken een risicotaxatie weer in ‘heat maps’, locaties waar de hoogste delictsincidentie wordt verwacht.[20] Anders dan het eenvoudige PredPol, dat slechts historische gegevens over data en locaties van inbraken gebruikt om te taxeren, werkt CAS met data uit een variatie aan bronnen. 

De politiekorpsen hebben CAS in de praktijk verrijkt, zoals blijkt uit de pilotevaluatie. Adressen, aangiften, gegevens over gestolen goederen, getuigenissen en signalementen worden aan CAS gekoppeld door het systeem Cognos. Over de werking van Cognos geeft de pilotstudie geen uitleg, maar via een drie jaar oude vacature op Linkedin verneem ik dat het om IBM Cognos gaat, een systeem dat gebruikmaakt van een Warehouse met nieuw te ontsluiten databronnen.[21] Het verdient opmerking dat een van de onderzoekers die de pilotevaluatie voor de Politieacademie heeft geschreven, de aanbeveling doet dat ook particulieren in predictive policing worden betrokken. Het is volgens hem de bedoeling dat particuliere beveiligingsbedrijven een bijdrage leveren aan het toezicht, het analyseren en verrijken van data. Daarbij zouden prognoses uit CAS moeten worden gedeeld met particulieren. Welke informatie precies gedeeld zal worden met particulieren en hoe een eventuele verspreiding van persoonsgegevens voorkomen of beperkt zal worden, is niet bekend.[22]

1.5 Deelconclusie

Over de verschillende begrippen die nauw samenhangen met Big Data-analyses en predictive policing voor strafvorderlijke doeleinden is uitleg gegeven: het fenomeen Big Data, de inzet van dataminingtechnieken om patronen in data te ontdekken, predictive policing en belangrijke predictive policing-instrumenten die in de strafrechtspraktijk worden toegepast, PredPol en CAS. De essentie van Big Data-analyses en predictive policing binnen het strafrecht is gelegen in het verhogen van de efficiëntie van de inzet van opsporingsambtenaren om idealiter delicten te voorkomen of op heterdaad te ontdekken (artikel 128 Sv) en in het vergaren van bewijs ten behoeve van de strafvordering. Hansken is een voorbeeld van een data-analysetechniek die wordt ingezet om strafvorderlijk bewijs te verzamelen. Ook iColumbo kan worden ingezet voor de strafrechtelijke bewijsgaring. 

In hoofdstuk 2 ga ik in op de nationale wettelijke grondslagen voor de inzet van Big Data-analyses. In het navolgende zal in overweging worden genomen wat in dit hoofdstuk duidelijk is geworden over Big Data-analyses voor strafvorderlijke doeleinden: datamininginstrumenten, bijvoorbeeld crawlers die het internet afspeuren, worden continu ingezet om data van betrokkenen in een Warehouse op te slaan; in iColumbo wordt gericht naar gegevens over bepaalde personen gezocht, waarbij relaties met derden in kaart worden gebracht; bovendien worden persoonsgegevens in de digitale database, het Warehouse, voor onbekende duur bewaard.

---

[1] R. Rienks, ‘Predictive Policing. Kansen voor een veiligere toekomst’, Politieacademie 2015, p. 18-20.

[2] A.R. Lodder en M.D. Schuilenburg, ‘Politie-webcrawlers en Predictive policing’, Computerrecht 2016/81-3, p. 153.

[3] B. Mali, C. Bronkhorst-Giesen, M. den Hengst, ‘Predictive policing: lessen voor de toekomst. Een evaluatie van de landelijke pilot’ (2017), p. 60.

[4] D. Willems en R. Doeleman, ‘Predictive Policing- wens of werkelijkheid?’, Tijdschrift voor de Politie 2014/76-4/5, p. 40; B. Mali, C. Bronkhorst-Giesen, M. den Hengst, ‘Predictive policing: lessen voor de toekomst. Een evaluatie van de landelijke pilot’ (2017), p. 67.

[5] S. den Hengst en I. Walraven, ‘Datagovernance bij de Rijksoverheid’, RADIO-Module 2 oktober 2018, presentatie via https://www.it-academieoverheid.nl/documenten/presentaties/2018/10/02/presentatie-politie-over-data-governance-bij-de-rijksoverheid.

[6] B. Mali, C. Bronkhorst-Giesen, M. den Hengst, ‘Predictive policing: lessen voor de toekomst. Een evaluatie van de landelijke pilot’ (2017), p. 68.

[7] R. Rienks, ‘Predictive Policing. Kansen voor een veiligere toekomst’, Politieacademie 2015, p. 48.

[8] B. Mali, C. Bronkhorst-Giesen, M. den Hengst, ‘Predictive policing: lessen voor de toekomst. Een evaluatie van de landelijke pilot’ (2017), p. 68 en 74.

[9] S. Smit, A. de Vries, R. van der Kleij, H. van Vliet, ‘Van predictive naar prescriptive policing: verder dan vakjes voorspellen’, (TNO) 2016, p. 15; vgl. https://www.predpol.com/about/ (geraadpleegd op 21 mei 2019).

[10] D. Willems en R. Doeleman, ‘Predictive Policing- wens of werkelijkheid?’, Tijdschrift voor de Politie 2014/76-4/5, p. 40-41.

[11] S. Smit, A. de Vries, R. van der Kleij, H. van Vliet, ‘Van predictive naar prescriptive policing: verder dan vakjes voorspellen’, (TNO) 2016, p. 16-17.

[12] A. de Vries en S. Smit, ‘Predictive policing: politiewerk aan de hand van voorspellingen’, Justitiële Verkenningen 2016/42-3, p. 10.

[13] S. Smit, A. de Vries, R. van der Kleij, H. van Vliet, ‘Van predictive naar prescriptive policing: verder dan vakjes voorspellen’, (TNO) 2016, p. 14 en 28.

[14] B. Mali, C. Bronkhorst-Giesen, M. den Hengst, ‘Predictive policing: lessen voor de toekomst. Een evaluatie van de landelijke pilot’ (2017), p. 66.

[15] ‘Criminaliteits Anticipatie Systeem verder uitgerold bij Nationale Politie’, Politie, 16 mei 2017, via https://www.politie.nl/nieuws/2017/mei/15/05-cas.html (laatstelijk geraadpleegd op 18 mei 2019).

[16] D. Willems en R. Doeleman, ‘Predictive Policing- wens of werkelijkheid?’, Tijdschrift voor de Politie 2014/76-4/5, p. 39.

[17] A. de Vries, ‘Predictive policing: een overzicht’, 25 april 2016, via https://socialmediadna.nl/predictive-policing-overzicht/ (laatstelijk geraadpleegd op 19 mei 2019).

[18] D. Willems en R. Doeleman, ‘Predictive Policing- wens of werkelijkheid?’, Tijdschrift voor de Politie 2014/76-4/5, p. 41.

[19] B. Mali, C. Bronkhorst-Giesen, M. den Hengst, ‘Predictive policing: lessen voor de toekomst. Een evaluatie van de landelijke pilot’ (2017), p. 93.

[20] D. Willems en R. Doeleman, ‘Predictive Policing- wens of werkelijkheid?’, Tijdschrift voor de Politie 2014/76-4/5, p. 41.

[21] ‘Politie zoekt senior Cognos developer’, Linkedin, mei 2016, via https://nl.linkedin.com/jobs/view/senior-cognos-developer-at-politie-ict-132384637 (geraadpleegd op 22 mei 2019).

[22] ‘Predictive Policing: niet alleen een zaak van de politie’, Security Management 2017/9, p. 28-31.