Wethouder “pauzeert” ontwikkeling algoritme voor bijstandsfraude

Er komt voorlopig geen nieuw algoritme voor de opsporing van bijstandsfraude. Dat heeft wethouder Tim Versnel van Werk & Inkomen bekendgemaakt. Dat betekent dat er geen opvolger komt voor het veel bekritiseerde risico-inschattingsmodel, dat in 2021 stopte toen bleek dat dit algoritme vooringenomen was.

Eerder onderzoek van Vers Beton, Lighthouse Reports en OPEN Rotterdam liet zien dat er met het risico-inschattingsmodel verschillende problemen zijn. Het pikte mensen eruit op basis van persoonseigenschappen zoals geslacht, ziekte en schulden. Met het model zelf was ook van alles mis, onder meer vanwege het gebruik van subjectieve variabelen (zoals uiterlijke verzorging) en proxy-variabelen (zoals taal). De gemeente stopte in 2021 met het algoritme. Tegenover Vers Beton erkende ze dat het “nooit 100 procent vrij kon blijven van vooringenomenheid of de schijn daarvan”.

Hobbels

Sinds het stopzetten werkte Rotterdam aan een nieuwe versie van het risico-inschattingsmodel om onrechtmatigheden in de bijstand op te sporen. Die moet uitlegbaar zijn, vooringenomenheid voorkomen en de mogelijkheid hebben om er transparant over te communiceren. Nu blijkt dat dit niet gaat lukken. “De bouw kent vele hobbels en uitdagingen om te kunnen voldoen aan de technische en juridische kaders”, schrijft wethouder Versnel in een brief aan de gemeenteraad.

Het zijn daarbij vooral “pragmatische, bedrijfsmatige overwegingen” die de doorslag geven. De ontwikkeling van een algoritme is juridisch dermate complex, tijdrovend en kostbaar “dat de bouw niet meer opweegt tegen het beslag dat het op de ambtelijke capaciteit en middelen legt”. Hij gelooft nog steeds dat “een risico-inschattingsmodel gebaseerd op een algoritme in de Rotterdamse rechtmatigheidsaanpak van toegevoegde waarde kan zijn.”

Privacyregels

Volgens de wethouder zijn de afgelopen periode verschillende “correlatiechecks” uitgevoerd om te kijken of er een samenhang is tussen variabelen en een verboden discriminatiegrond. De data van de afdeling Werk & Inkomen waren hiervoor niet bruikbaar, omdat hierin bijvoorbeeld geen informatie is vastgelegd over afkomst. In de basisregistratie van de gemeente zijn herkomstland en nationaliteit wel bekend, maar die mag vanwege privacywetgeving niet worden geraadpleegd.

De brief aan de raad volgt een week nadat de Autoriteit Persoonsgegevens (AP) het Rotterdamse College van B&W op de vingers tikte over het risico-inschattingsmodel. De AP eist van de gemeente dat ze binnen twee maanden rapporteert over de gevolgen van het gebruik van het algoritme. Daarbij moet de gemeente ook in kaart brengen hoe ze voldeed aan de privacyregels van de AVG.

Het informatieverzoek is voor GroenLinks aanleiding voor een brief aan het College, waarbij de fractie een gesprek aanvraagt. Raadslid Marvin Biljoen geeft aan “geschrokken” te zijn na “opnieuw” een brief van de Autoriteit Persoonsgegevens. Eerder stelde deze waakhond vragen over het gebruik van camera-auto’s tijdens corona. Overigens spreekt de wethouder van “pauzeren” en niet van definitief beëindigen. Versnel: “Uiteraard blijven wij de ontwikkelingen van deze technologie nauwgezet volgen.”

Dat baart GroenLinks zorgen, zegt raadslid Marvin Biljoen desgevraagd. “Na de zomerreces willen wij een debat over wat de wethouder precies bedoelt met pauzeren en waarom hij het niet heeft over stoppen.” Daarbij wil de fractie ook duidelijkheid over hoe het oude algoritme na 2021 is gebruikt bij de doorontwikkeling naar een nieuw algoritme.