Het 'black box'-karakter van geheime dataveillance & Big Data-analyse en uw rechten (deel III)

Deel II: uw recht om niet te worden onderworpen aan profilering, het recht van verzet en passende maatregelen ter compensatie van de inbreuk op uw recht om niet geprofileerd te worden

Overzicht
1. De wettelijke grondslag voor de rechtmatigheid van de verwerking van uw persoonsgegevens;
2. Doelbinding;
3. Proportionaliteit en subsidiariteit (noodzaak en dataminimalisatie)

1. De wettelijke grondslag voor de rechtmatigheid van de verwerking van uw persoonsgegevens
De verwerking van uw persoonsgegevens in het kader van dataveillance, data-analyse of profilering is slechts rechtmatig, indien de verwerking noodzakelijk is voor de vervulling van een taak van algemeen belang of van een taak in het kader van de uitoefening van het openbaar gezag dat aan de verwerkingsverantwoordelijke is opgedragen (art. 6 lid 1 onder e AVG). De wettelijke grondslag moet specifiek zijn. Een beroep op de ‘publieke taak’ is onvoldoende specifiek voor de rechtmatigheid van de gegevensverwerking in het kader van data-analyse en profilering. De wettelijke grondslag voor gegevensverwerking kan niet gelijkgesteld worden met de wettelijke grondslag voor het uitvoeren van de publieke taak (Kamerstukken II 2017/18, 34 851, nr. 4, p. 34). 

Met de ‘wettelijke verplichting’ op grond van de Participatiewet is géén specifieke grondslag voor de rechtmatigheid van de gegevensverwerking gegeven. Het uitvoeren van een wettelijke verplichting moet redelijkerwijs niet goed mogelijk zijn zonder verwerking van de persoonsgegevens. Met andere woorden: de eisen van proportionaliteit en subsidiariteit brengen mee, dat de wettelijke grondslag voor de uitvoering van de publieke taak slechts als grondslag voor de gegevensverwerking kan gelden, indien de gegevensverwerking noodzakelijk is (lees: een voorwaarde) voor de uitvoering van de 'publieke taak'. Die noodzaak wordt onderschreven in het Model GEB Rijksdienst (Privacy Impact Assessment), zie onderdeel B,  'Beoordeling rechtmatigheid gegevensverwerkingen', p. 15.

De AVG moet worden uitgelegd overeenkomstig het recht op eerbiediging van het privéleven van de burger als bedoeld in art. 8 EVRM. De verwerking van persoonsgegevens raakt direct aan het recht op eerbiediging van de persoonlijke levenssfeer (EHRM 25 februari 1997, 22009/93 (Z./Finland), r.o. 117); EHRM 16 februari 2000, 27798/95 (Amann/Zwitserland), r.o. 65). Gegevensverwerking brengt een inmenging in het recht van art. 8 EVRM teweeg (EHRM 6 september 1978, 5029 /71 (Klass/Duitsland), r.o. 41; EHRM 2 augustus 1984, 8691/79 (Malone/Verenigd Koninkrijk)).

De relatie tussen de AVG en het EVRM brengt mee dat de wettelijke grondslag voor gegevensverwerking moet voldoen aan de voorzienbaarheidseis van het EHRM (EHRM 26 april 1979, 6538/74 (The Sunday Times/Verenigd Koninkrijk), r.o. 47-48). De ‘voorzienbaarheid’ houdt in dat de wetgeving dusdanig duidelijk moet zijn, dat betrokkene kan begrijpen onder welke omstandigheden en voorwaarden het overheidsoptreden inmenging kan maken op zijn privéleven (EHRM 2 augustus 1984, 8691/79 (Malone/Verenigd Koninkrijk), r.o. 67; EHRM 24 april 1990, 11105/84 (Huvig/Frankrijk), r.o. 29; EHRM 4 december 2008, 30562/04 en 30566/04 (S. en Marper/Verenigd Koninkrijk), r.o. 95; EHRM 18 mei 2010, 26839/05 (Kennedy/Verenigd Koninkrijk), r.o. 151; EHRM 29 juni 2006, 54934/00 (Weber en Saravia/Duitsland), r.o. 93; EHRM 28 juni 2007, 62540/00 (Association for European Integration and Human Rights en Ekimdzhiev/Bulgarije), r.o. 75). 

2. Doelbinding
Persoonsgegevens moeten voor welbepaalde, uitdrukkelijk omschreven en gerechtvaardigde doeleinden worden verzameld en mogen niet op een met die doeleinden onverenigbare wijze worden verwerkt (art. 5 lid 1 onder b AVG). Het zonder vooraf bepaalde doeleinden ‘minen’ van persoonsgegevens, het ongericht verzamelen en analyseren van data om aanwijzingen te verkrijgen dat sprake is van een verhoogde kans op fraude, is niet verenigbaar met het doelbindingsprincipe (E.M.L. Moerel & J.E.J. Prins, Privacy voor de homo digitalis, in: Homo digitalis, Handelingen Nederlandse Juristen Vereniging 2016/146-1, p. 19).  

De WRR merkt op dat het secundaire gebruik van data inherent is aan Big Data en op gespannen voet staat met het doelbindingscriterium (WRR, Big Data in een vrije en veilige samenleving, Den Haag/Amsterdam 2016, p. 90-93 en 108). Door de koppeling van databases van verschillende overheidsinstanties en hergebruik van opgeslagen data neemt de druk op de doelbinding toe (WRR, Big Data in een vrije en veilige samenleving, Den Haag/Amsterdam 2016, p. 107). De kans op verkrijging van niet-voorziene data is groot bij de inzet van voorspellende algoritmen, omdat de menselijke interventie beperkt is gedurende de processen van datamining en data-analyse.

3. Proportionaliteit en subsidiariteit (noodzaak en dataminimalisatie)
Het doelbindingsprincipe is onderdeel van de proportionaliteits- en subsidiariteitseis. Het beginsel van dataminimalisatie (art. 5 lid 1 onder c AVG) houdt in dat de verzameling en verwerking van persoonsgegevens blijft beperkt tot wat noodzakelijk is voor het bereiken van specifiek bepaalde, uitdrukkelijk omschreven doeleinden. Gegevens dienen zo selectief mogelijk te worden verzameld en verwerkt én alleen voor zover noodzakelijk. De verwerking dient noodzakelijk te zijn voor de vervulling van een van de voorwaarden in art. 6 lid 1 AVG. 

De door het EHRM ontwikkelde proportionaliteitseis houdt in, dat de inmenging in de persoonlijke levenssfeer strikt genomen noodzakelijk moet zijn vanwege een dringende maatschappelijke behoefte (‘pressing social need’) en dat die inmenging door dataverzameling en -verwerking proportioneel is om de gerechtvaardigde doeleinden te bereiken (EHRM 2 september 2010, 35623 (Uzun/Duitsland), r.o. 78; EHRM 26 maart 1978, 9248/81 (Leander/Zweden), r.o. 58). De inbreuk op de eerbiediging van de persoonlijke levenssfeer moet evenredig zijn in verhouding tot het doeleinde van de gegevensverwerking/profilering/datamining. Wanneer het om geheime surveillance gaat, is de discretionaire bevoegdheid van de nationale overheid ten aanzien van de invulling van de noodzakelijkheid beperkt (EHRM 12 januari 2016, 37138/14 (Szabó en Vissy/Hongarije), r.o. 54).

De ‘fair balance’-test van het EHRM in S. en Marper/Verenigd Koninkrijk bevat meerdere belangrijke vingerwijzingen voor het beoordelen van de proportionaliteit van de inmenging in het privéleven van de burger. De aard en ernst van de overtreding of misdrijf waarvan de betrokkene wordt verdacht, de duur van de bewaring van de persoonsgegevens, de mogelijkheden voor de betrokkene om zijn persoonsgegevens te laten verwijderen en de mogelijkheid tot onafhankelijk toezicht op de opslag van de persoonsgegevens zijn factoren die concreet worden gewogen in de proportionaliteitsbeoordeling door het EHRM. 

Of een instrument met een ‘black box’-karakter de proportionaliteitstoets van het EHRM zal doorstaan, is afhankelijk van de volgende vragen:
- Is er een dringende maatschappelijke behoefte waarvoor de dataveillance/profilering wordt toegepast?
- Van welke overtreding wordt de burger verdacht en hoe ernstig is deze overtreding?
- Heeft de burger de mogelijkheid om zijn persoonsgegevens te laten verwijderen?
- Kan de burger effectief zijn recht op het inschakelen van onafhankelijk toezicht uitoefenen? 

De subsidiariteitseis houdt in, dat alleen de minst ingrijpende methode mag worden ingezet om met de inbreuk op de rechten van de burger proportionele doeleinden te bereiken (EHRM 4 december 2015, 47143/06 (Zakharov/Rusland), r.o. 232). De verwerkingsverantwoordelijke die stelt dat het gekozen instrument voor dataveillance/analyse/profilering adequater is dan andere instrumenten, voldoet niet aan de subsidiariteitseis. Concreet moet worden getoetst of het doel waarvoor de persoonsgegevens worden verwerkt, in redelijkheid niet op een andere, voor de burger minder nadelige wijze kan worden bereikt (Advies SyRI, Autoriteit Persoonsgegevens 18 februari 2014, p. 4). 

In deel IV bespreek ik de toelaatbaarheid van beperkingen op de transparantie- en informatieplichten in uitzonderlijke gevallen, de uitzonderingsgronden in art. 41 Uitvoeringswet AVG, de behoefte aan rechtsvorming ten aanzien van art. 23 AVG en de specifieke gedragsregels die door de Autoriteit Persoonsgegevens zijn uitgevaardigd

2. Big Data in het strafrecht: de invloed van de nieuwe Wpg, Boek 2 Modernisering Strafvordering en het Privacy Impact Assessment (PIA)

Gegevensbeschermingseffectbeoordeling of Privacy Impact Assessment (PIA)

Het ‘Privacy impact assessment’ (PIA) of ‘gegevensbeschermingseffectbeoordeling’ wordt in conceptartikel 4c van de Wijziging van de Wpg voorgesteld. Deze verplicht een gegevensverwerker om bij toekomstige technologieën die een hoog risico voor de vrijheden en rechten van natuurlijke personen opleveren, een beoordeling van het effect van de verwerkingsactiviteiten op de bescherming van persoonsgegevens te verrichten.[1] Het toetsmodel PIA heeft als sterk punt dat alle eisen uit de Wpg en AVG in acht worden genomen; onder meer de rechtsgrond, het doelbindingscriterium en de proportionaliteit en subsidiariteit van de gegevensverwerking moeten in de gegevensbeschermingseffectbeoordeling worden meegenomen.[2] Ook sterk zijn de aanbevelingen om slechts data-analyses uit te voeren bij kwesties die zich lenen voor patroonherkenning;[3] bij onregelmatig voorkomende verschijnselen neemt het risico op invalide/vals-positieve uitkomsten immers toe. Opgemerkt moet worden dat de toetsing op het niveau van de individuele betrokkene ontbreekt.[4]

‘Soft-law’-instrumenten: Living Labs en Kafkaknoppen  

De wetgever stelt vooralsnog geen ‘harde’ generieke wetten voor om de transparantie bij de toepassing van technologische ontwikkelingen, waaronder de inzet van algoritmen in de strafrechtelijke opsporing, te normeren.[5] In plaats daarvan verwijst de wetgever naar het al enige tijd bestaande ‘Living Labs’,[6] het platform voor de uitgave van Big Data Magazine en de symposia ‘Datakwaliteit’. Een concrete uitkomst van de symposia is het uitgangspunt dat Big Data-systemen een ‘Kafkaknop’ moeten krijgen, een metafoor voor het direct stoppen van foutieve geautomatiseerde systemen. De vereiste menselijke interventie brengt met zich dat de organisatie in staat moet zijn om fouten door het gehele systeem te herkennen én te herstellen. Een opvallend uitgangspunt houdt in dat zowel de mens als de computer, in kwestie algoritmen, in eenzelfde dossier besluiten voorbereiden. De uitkomst van de computer wordt gebruikt om de besluitvorming door de mens te controleren.[7] Dit uitgangspunt sluit goed aan bij de ‘expliciteringsplicht’ die door de Commissie is voorgesteld en die in het gemoderniseerde Wetboek van Strafvordering zou moeten worden opgenomen. Het uitgangspunt zou kunnen worden neergelegd in een concrete wettelijke verplichting tot wederzijdse controle op de besluitvorming, door mens en computer. Concreet en haalbaar lijkt het opnemen van een ‘Kafkameldplicht’ in geval van detectie van een systeemfout in data-analyse. Die plicht zou kunnen worden neergelegd in de gewijzigde Wpg. Natuurlijk staat of valt een meldplicht met de herkenning van een systeemfout door een opmerkzame ICT’er. 

Een algemene proportionaliteits- en subsidiariteitseis in Boek 2 van het Wetboek van Strafvordering (nieuw)
 

Het verdient ten slotte opmerking dat de wetgever met conceptartikel 2.1.2.2 een algemene proportionaliteits- en subsidiariteitseis voor het opsporingsonderzoek in het nieuwe Wetboek van Strafvordering op zal nemen.[8] Positief is dat de rechter-commissaris bij het afgeven van een machtiging vol zal moeten toetsen of de inzet van een opsporingsmethode door de Officier van Justitie voldoet aan de doelmatigheidseis, die is uitgewerkt in het criterium van ‘dringende noodzaak’. Een kanttekening die hierbij kan worden geplaatst, is dat die dringende noodzaak alleen achteraf door de zittingsrechter kan worden getoetst en slechts in gevallen waarin de tussenkomst van de rechter-commissaris niet nodig was voor de inzet van de opsporingsbevoegdheid. 

2.5 Deelconclusie

De inzet van Big Data-analyses in het kader van strafrechtelijke opsporing wordt gereguleerd door de Politiewet, Wet politiegegevens, het Wetboek van Strafvordering en de Algemene Verordening Gegevensbescherming. Deze regulering en bevoegdheidskwesties zijn besproken onder 2.2. De inzet van bestaande instrumenten voor Big Data-analyse, maar ook toekomstige technologieën, kent knelpunten en uitdagingen, waaronder bevoegdheidsoverschrijding en function creep. Het in de praktijk gebruikte datamininginstrument iColumbo is gebruikt ter illustratie van enkele knelpunten die onder het huidige recht bestaan (2.3). Eén van die knelpunten is dat de proportionaliteit en subsidiariteit (en het daarmee samenhangende principe van dataminimalisatie) onder druk komen te staan door het karakter van Big Data-analyse. Ik heb beoordeeld in hoeverre de toekomstige wetgeving de bestaande risico’s en knelpunten kan wegnemen (2.4). Eén van de sterkste troeven is wat mij betreft het voorstel van de Commissie-Koops, om een expliciteringseis in het Wetboek van Strafvordering op te nemen. Deze houdt in dat bij een beslissing die is genomen naar aanleiding van de uitkomst van geautomatiseerde besluitvorming, waaronder de inzet van een predictive policing-methode of het instellen van de vervolging, uitdrukkelijk uitgelegd zal moeten worden hoe en waarom tot de strafvorderlijke beslissing is gekomen. Het nadeel is dat deze expliciteringseis géén normering voorafgaand aan de inzet van data-analyses inhoudt, zodat het risico bestaat dat begrippen als doelbinding, dataminimalisatie en subsidiariteit niet (voldoende) worden toegepast.

---

[1] Kamerstukken II 2017/18, 34 889, nr. 3, p. 64.

[2] Toelichting: Big Data analyse, Model GEB Rijksdienst (PIA), Big Data JenV, versie 1 april 2018.

[3] Toelichting: Big Data analyse, Model GEB Rijksdienst (PIA), Big Data JenV, versie 1 april 2018, p. 13.

[4] Vgl. Richtlijn (EU) 2016/680, punt (58) van de considerans.

[5] Kamerstukken II 2017/18, 34 889, nr. 3, p. 37.

[6] Kamerstukken II 2016/17, 26 643, nr. 426, p. 4.

[7] ‘Zeven uitgangspunten: Menselijke tussenkomst bij geautomatiseerde besluitvorming’, Big Data JenV, versie 27 maart 2019.

[8] Voorstel van wet tot vaststelling van Boek 2 van het nieuwe Wetboek van Strafvordering inhoudende bepalingen over het opsporingsonderzoek in verband met de modernisering van het Wetboek van Strafvordering, Memorie van Toelichting, p. 18-19.