SyRI kan niet buiten werking worden gesteld door de rechter
Ten onrechte is het beeld ontstaan dat de rechter de Staat heeft bevolen om SyRI (Systeem Risico Indicatie) per direct stop te zetten. Zo meldt VN-rapporteur Philip Halston: "This is the first time a court has stopped the use of digital technologies by welfare authorities on human rights grounds" (zie ook: "Landmark ruling by Dutch court stops government attemps to spy on the poor- UN expert Halston").
Het dictum van de rechtbank Den Haag wordt verkeerd begrepen. De kern van het dictum is dat het systeem nog steeds gebruikt mag worden. Slechts art. 65 van de wet SUWI en Hoofdstuk 5a van het Besluit SUWI zijn onverbindend verklaard (zie r.o. 7.2). De betrokkenen hebben dus niet meer dan een verklaring voor recht verkregen. De precedentenwerking die volgens de VN-rapporteur uitgaat van het vonnis, is dus niet juist. Het vonnis wordt gepresenteerd als een overwinning die het in de praktijk niet is.
Lees rechtsoverweging 6.7 van de rechtbank Den Haag in de SyRI-zaak: "De SyRI-wetgeving [lees: SUWI, M.Bouter] voldoet niet aan de in art. 8 lid 2 EVRM gestelde eis, dat de inmenging in het privéleven noodzakelijk is in een democratische samenleving, dat wil zeggen noodzakelijk, proportioneel en subsidiair in relatie tot het beoogde doel. De SyRI-wetgeving voldoet niet aan de 'fair balance' die moet bestaan tussen het maatschappelijke belang van de SyRI-wetgeving en de inbreuk op het privéleven door deze wetgeving, om te kunnen spreken over een gerechtvaardigde inbreuk. Daarbij neemt de rechtbank in het bijzonder de beginselen van transparantie, doelbinding en dataminimalisatie in aanmerking. De wetgeving is onvoldoende inzichtelijk en controleerbaar." (ECLI:NL:RBDHA:2020:865). Zie ook rechtsoverweging 6.111: "Wat betreft de inzet van SyRI voldoet de wetgeving niet". Nergens blijkt dat SyRI, of een vergelijkbaar systeem, in het vervolg niet mag worden ingezet.
Om valse verwachtingen weg te nemen bij de betrokkenen, moet worden gemeld dat iedere zaak vooralsnog individueel moet worden behandeld. Voor de bekendmaking van de gebruikte risicomodellen en de vernietiging van de verzamelde en verwerkte persoonsgegevens, zullen de betrokkenen gebruik moeten maken van de bestuursrechtelijke procedure. De rechtbank neemt een voorschot op de kans van slagen van een verzoek tot vernietiging en tot bekendmaking van de risicomodellen: de Staat behoeft de risicomodellen niet te openbaren en vernietiging van de in het kader van SyRI verzamelde en verwerkte data is niet verplicht (r.o. 6.115 en 6.117).
Welbeschouwd mag de Staat doorgaan met het gebruik van SyRI, mits de wettelijke basis voldoet aan de EHRM-criteria in de zin van art. 8 lid 2 EVRM. Het ligt in de lijn der verwachting dat de wetgever met een reparatie van art. 65 SUWI komt, en/of dat een met SyRI vergelijkbaar systeem reeds is ontwikkeld en binnenkort geïntroduceerd zal worden.
Het is zaak om niet achterover te leunen. De rechter heeft SyRI niet buiten werking kunnen stellen, maar los van die kwestie moet de discussie over de toelaatbaarheid van systemen zoals SyRI gevoerd blijven worden. Het gaat niet om een onderwerp dat slechts de 'waan van de dag' bestrijkt. De media-aandacht voor SyRI werd vooral gegenereerd rond het thema 'discriminatie van sociaal achtergestelde buurten'. SyRI kan, gelet op SUWI, echter worden toegepast op iedereen die gebruik moet maken van belastingtoeslagen en sociale verzekeringen. Iedere burger kan aan allerlei vormen van Big Data-verzameling en -analyse, risicotaxaties en voorspellende algoritmen worden onderworpen.
Punten van discussie over SyRI en nieuwe vormen van Big Data-analyse/profilering/voorspellende algoritmen
Het is duidelijk dat de betrokkenen niet meer hebben verkregen dan de verklaring dat twee artikelen van de SUWI-wetgeving onverbindend zijn. De discussie over de toelaatbaarheid van systemen zoals SyRI moet permanent zijn.
1. Systemen zoals SyRI zijn van toepassing op iedere burger die belastingvoordelen, toeslagen of een sociale verzekering ontvangt;
2. Volgens de Nota van Toelichting bij het Besluit SUWI dienen de indicatoren en het risicomodel helder te zijn benoemd om een 'fishing expedition' te voorkomen. Is de fishing expedition met de toepassing van SyRI verwezenlijkt? Het risicomodel voor SyRI moet namelijk in de toekomst worden ontwikkeld door SZW (r.o. 4.23-4.24);
3. De rechtbank is van oordeel dat de SyRI-wetgeving in het belang van het economisch welzijn is en daarmee een legitiem doel dient (r.o. 6.4);
4. De Raad van State heeft in 2014 opgemerkt dat de opsomming van gegevens ten behoeve van SyRI zo ruim is, dat er geen persoonsgegeven is te bedenken dat er niet onder valt. De opsomming is bedoeld om zoveel mogelijk armslag te hebben. Bovendien heeft de Raad van State gewezen op een groot bezwaar tegen Deep Learning-technieken die de spil vormt van SyRI: de menselijke gebruiker begrijpt niet waarom het systeem concludeert dat er een (fraude)verband is. Een bestuursorgaan dat zijn handelen baseert op zo'n systeem, kan zijn optreden niet verantwoorden en zijn besluiten niet motiveren (r.o. 6.46);
5. De Staat heeft de rechtbank in de SyRI-zaak géén objectief verifieerbare informatie verschaft. De rechtbank heeft geen inzicht gekregen in een risicomodel en indicatoren, zodat de rechter de toepassing van SyRI niet kan beoordelen (r.o. 6.49). De rechtbank heeft een feitelijke veronderstelling moeten toepassen bij gebrek aan informatie van de Staat (r.o. 6.51). De rechter blijft in het ongewisse over wat SyRI precies is;
6. Het black box-karakter van SyRI verhindert dat de rechtbank kan beoordelen of en elke risicoprofielen zijn ontwikkeld in SyRI (r.o. 6.53);
7. De rechtbank laat in het midden of SUWI een voldoende rechtsbasis biedt, zoals art. 8 lid 2 EVRM eist voor een gerechtvaardigde inbreuk op het privéleven (r.o. 6.72);
8. De rechtbank heeft geen inzicht gekregen in de validatie van een risicomodel en de verificatie van risico-indicatoren in SyRI (r.o. 6.89);
9. Gelet op de omvang van de beschouwingen van de rechtbank, laat de rechtbank in het midden of de SUWI-wetgeving op het punt van de inzet van SyRI verenigbaar is met de AVG, art. 6 EVRM ('equality of arms') en art. 13 EVRM ('recht op effectieve nationale rechtsbescherming').
Ten onrechte is het beeld ontstaan dat de rechter de Staat heeft bevolen om SyRI (Systeem Risico Indicatie) per direct stop te zetten. Zo meldt VN-rapporteur Philip Halston: "This is the first time a court has stopped the use of digital technologies by welfare authorities on human rights grounds" (zie ook: "Landmark ruling by Dutch court stops government attemps to spy on the poor- UN expert Halston").
Het dictum van de rechtbank Den Haag wordt verkeerd begrepen. De kern van het dictum is dat het systeem nog steeds gebruikt mag worden. Slechts art. 65 van de wet SUWI en Hoofdstuk 5a van het Besluit SUWI zijn onverbindend verklaard (zie r.o. 7.2). De betrokkenen hebben dus niet meer dan een verklaring voor recht verkregen. De precedentenwerking die volgens de VN-rapporteur uitgaat van het vonnis, is dus niet juist. Het vonnis wordt gepresenteerd als een overwinning die het in de praktijk niet is.
Lees rechtsoverweging 6.7 van de rechtbank Den Haag in de SyRI-zaak: "De SyRI-wetgeving [lees: SUWI, M.Bouter] voldoet niet aan de in art. 8 lid 2 EVRM gestelde eis, dat de inmenging in het privéleven noodzakelijk is in een democratische samenleving, dat wil zeggen noodzakelijk, proportioneel en subsidiair in relatie tot het beoogde doel. De SyRI-wetgeving voldoet niet aan de 'fair balance' die moet bestaan tussen het maatschappelijke belang van de SyRI-wetgeving en de inbreuk op het privéleven door deze wetgeving, om te kunnen spreken over een gerechtvaardigde inbreuk. Daarbij neemt de rechtbank in het bijzonder de beginselen van transparantie, doelbinding en dataminimalisatie in aanmerking. De wetgeving is onvoldoende inzichtelijk en controleerbaar." (ECLI:NL:RBDHA:2020:865). Zie ook rechtsoverweging 6.111: "Wat betreft de inzet van SyRI voldoet de wetgeving niet". Nergens blijkt dat SyRI, of een vergelijkbaar systeem, in het vervolg niet mag worden ingezet.
Om valse verwachtingen weg te nemen bij de betrokkenen, moet worden gemeld dat iedere zaak vooralsnog individueel moet worden behandeld. Voor de bekendmaking van de gebruikte risicomodellen en de vernietiging van de verzamelde en verwerkte persoonsgegevens, zullen de betrokkenen gebruik moeten maken van de bestuursrechtelijke procedure. De rechtbank neemt een voorschot op de kans van slagen van een verzoek tot vernietiging en tot bekendmaking van de risicomodellen: de Staat behoeft de risicomodellen niet te openbaren en vernietiging van de in het kader van SyRI verzamelde en verwerkte data is niet verplicht (r.o. 6.115 en 6.117).
Welbeschouwd mag de Staat doorgaan met het gebruik van SyRI, mits de wettelijke basis voldoet aan de EHRM-criteria in de zin van art. 8 lid 2 EVRM. Het ligt in de lijn der verwachting dat de wetgever met een reparatie van art. 65 SUWI komt, en/of dat een met SyRI vergelijkbaar systeem reeds is ontwikkeld en binnenkort geïntroduceerd zal worden.
Het is zaak om niet achterover te leunen. De rechter heeft SyRI niet buiten werking kunnen stellen, maar los van die kwestie moet de discussie over de toelaatbaarheid van systemen zoals SyRI gevoerd blijven worden. Het gaat niet om een onderwerp dat slechts de 'waan van de dag' bestrijkt. De media-aandacht voor SyRI werd vooral gegenereerd rond het thema 'discriminatie van sociaal achtergestelde buurten'. SyRI kan, gelet op SUWI, echter worden toegepast op iedereen die gebruik moet maken van belastingtoeslagen en sociale verzekeringen. Iedere burger kan aan allerlei vormen van Big Data-verzameling en -analyse, risicotaxaties en voorspellende algoritmen worden onderworpen.
Punten van discussie over SyRI en nieuwe vormen van Big Data-analyse/profilering/voorspellende algoritmen
Het is duidelijk dat de betrokkenen niet meer hebben verkregen dan de verklaring dat twee artikelen van de SUWI-wetgeving onverbindend zijn. De discussie over de toelaatbaarheid van systemen zoals SyRI moet permanent zijn.
1. Systemen zoals SyRI zijn van toepassing op iedere burger die belastingvoordelen, toeslagen of een sociale verzekering ontvangt;
2. Volgens de Nota van Toelichting bij het Besluit SUWI dienen de indicatoren en het risicomodel helder te zijn benoemd om een 'fishing expedition' te voorkomen. Is de fishing expedition met de toepassing van SyRI verwezenlijkt? Het risicomodel voor SyRI moet namelijk in de toekomst worden ontwikkeld door SZW (r.o. 4.23-4.24);
3. De rechtbank is van oordeel dat de SyRI-wetgeving in het belang van het economisch welzijn is en daarmee een legitiem doel dient (r.o. 6.4);
4. De Raad van State heeft in 2014 opgemerkt dat de opsomming van gegevens ten behoeve van SyRI zo ruim is, dat er geen persoonsgegeven is te bedenken dat er niet onder valt. De opsomming is bedoeld om zoveel mogelijk armslag te hebben. Bovendien heeft de Raad van State gewezen op een groot bezwaar tegen Deep Learning-technieken die de spil vormt van SyRI: de menselijke gebruiker begrijpt niet waarom het systeem concludeert dat er een (fraude)verband is. Een bestuursorgaan dat zijn handelen baseert op zo'n systeem, kan zijn optreden niet verantwoorden en zijn besluiten niet motiveren (r.o. 6.46);
5. De Staat heeft de rechtbank in de SyRI-zaak géén objectief verifieerbare informatie verschaft. De rechtbank heeft geen inzicht gekregen in een risicomodel en indicatoren, zodat de rechter de toepassing van SyRI niet kan beoordelen (r.o. 6.49). De rechtbank heeft een feitelijke veronderstelling moeten toepassen bij gebrek aan informatie van de Staat (r.o. 6.51). De rechter blijft in het ongewisse over wat SyRI precies is;
6. Het black box-karakter van SyRI verhindert dat de rechtbank kan beoordelen of en elke risicoprofielen zijn ontwikkeld in SyRI (r.o. 6.53);
7. De rechtbank laat in het midden of SUWI een voldoende rechtsbasis biedt, zoals art. 8 lid 2 EVRM eist voor een gerechtvaardigde inbreuk op het privéleven (r.o. 6.72);
8. De rechtbank heeft geen inzicht gekregen in de validatie van een risicomodel en de verificatie van risico-indicatoren in SyRI (r.o. 6.89);
9. Gelet op de omvang van de beschouwingen van de rechtbank, laat de rechtbank in het midden of de SUWI-wetgeving op het punt van de inzet van SyRI verenigbaar is met de AVG, art. 6 EVRM ('equality of arms') en art. 13 EVRM ('recht op effectieve nationale rechtsbescherming').
