10 maart 2022
De dienst WPI heeft in het laatste kwartaal van 2021 aan de Participatieraad gevraagd te adviseren ten aanzien van een Artificial Intelligence-pilot bij de aanvraag van een (bijstands)uitkering. WPI heeft namelijk het voornemen om datagestuurd werken te implementeren in de al bestaande digitaliseringsstratiegie van WPI.
Volgens WPI is het doel van datagestuurd werken: fraude opsporen, fraude voorkomen en controle. De Participatieraad is echter van mening dat het inzetten van AI nauwelijks effect heeft op eventueel ten onrechte verstrekte uitkeringen (ten hoogste drie procent van de toegekende uitkeringen blijkt na intensieve controle onrechtmatig toegekend). Daarnaast brengt de wettelijk bepaalde verwerking van persoonsgegevens beperkingen met zich mee (AVG).
Volgens WPI is het doel van datagestuurd werken: fraude opsporen, fraude voorkomen en controle. De Participatieraad is echter van mening dat het inzetten van AI nauwelijks effect heeft op eventueel ten onrechte verstrekte uitkeringen (ten hoogste drie procent van de toegekende uitkeringen blijkt na intensieve controle onrechtmatig toegekend). Daarnaast brengt de wettelijk bepaalde verwerking van persoonsgegevens beperkingen met zich mee (AVG).
Gezien bovenstaande heeft de raad op 10 november jl. besloten negatief te adviseren op iedere vorm van willekeurige persoonsidentificatie .
Bezwaren
De dienst WPI heeft de Participatieraad laten weten hoe zij gebruik gaat maken van variabele data in analytische modellen. In dit zgn. datagestuurd werken worden door WPI variabelen gebruikt die een bepaald verband kunnen laten zien. Hier ligt bias op de loer: bewuste vooringenomenheid. Een variabele zoals geboortejaar roept ons inziens vragen op: is er een aantoonbaar verband tussen leeftijd en mogelijk fraudeleus gedrag? De Participatieraad stelt dat bepaalde variabelen discutabel zijn (discriminatoir).
Daarnaast wijst de raad WPI op de Algemene Verordering Persoonsgegevens (AVG). Zo mogen persoonsgegevens alleen worden verwerkt in overeenstemming met de wet en met een gerechtvaardigd doel. Het optuigen van een systeem om een klein percentage onrechtmatigheden op te sporen acht de Participatieraad derhalve disproportioneel.
Ook stelt de raad dat de gemeente veelvuldig gebruik maakt van diensten van het landelijk Inlichtingenbureau: omstreden producten, zoals data van burgers waar ‘algoritmes op worden losgelaten’, zonder democratische controle, zonder transparantie. En bovenal: geheel in strijd met de richtlijnen zoals omschreven in de AVG. Samen met de Autoriteit Persoonsgegevens (AP) maakt de raad zich ernstige zorgen dat gemeenten een grotere inbreuk maken in de persoonlijke levenssfeer van uitkeringsgerechtigden dan noodzakelijk is. Zie ook de brief van de Vereniging Nederlandse Gemeenten van 3 december j.l.
Conclusie:
De dienst WPI heeft de Participatieraad op geen enkele manier overtuigd van de meerwaarde van het gebruik van AI. De raad is van mening dat een dergelijk experiment de fundamentele grondrechten van burgers aantast en dient te worden gestaakt.
Als vastgesteld in de plenaire vergadering van de Participatieraad Amsterdam op 9
maart 2022.
