Ga naar de inhoud

Wethouder “pauzeert” ontwikkeling algoritme voor bijstandsfraude

Er komt voorlopig geen nieuw algoritme voor de opsporing van bijstandsfraude. Dat heeft wethouder Tim Versnel van Werk & Inkomen bekendgemaakt. Dat betekent dat er geen opvolger komt voor het veel bekritiseerde risico-inschattingsmodel, dat in 2021 stopte toen bleek dat dit algoritme vooringenomen was.

Eerder onderzoek van Vers Beton, Lighthouse Reports en OPEN Rotterdam liet zien dat er met het risico-inschattingsmodel verschillende problemen zijn. Het pikte mensen eruit op basis van persoonseigenschappen zoals geslacht, ziekte en schulden. Met het model zelf was ook van alles mis, onder meer vanwege het gebruik van subjectieve variabelen (zoals uiterlijke verzorging) en proxy-variabelen (zoals taal). De gemeente stopte in 2021 met het algoritme. Tegenover Vers Beton erkende ze dat het “nooit 100 procent vrij kon blijven van vooringenomenheid of de schijn daarvan”.

Hobbels

Sinds het stopzetten werkte Rotterdam aan een nieuwe versie van het risico-inschattingsmodel om onrechtmatigheden in de bijstand op te sporen. Die moet uitlegbaar zijn, vooringenomenheid voorkomen en de mogelijkheid hebben om er transparant over te communiceren. Nu blijkt dat dit niet gaat lukken. “De bouw kent vele hobbels en uitdagingen om te kunnen voldoen aan de technische en juridische kaders”, schrijft wethouder Versnel in een brief aan de gemeenteraad.

Het zijn daarbij vooral “pragmatische, bedrijfsmatige overwegingen” die de doorslag geven. De ontwikkeling van een algoritme is juridisch dermate complex, tijdrovend en kostbaar “dat de bouw niet meer opweegt tegen het beslag dat het op de ambtelijke capaciteit en middelen legt”. Hij gelooft nog steeds dat “een risico-inschattingsmodel gebaseerd op een algoritme in de Rotterdamse rechtmatigheidsaanpak van toegevoegde waarde kan zijn.”

Privacyregels

Volgens de wethouder zijn de afgelopen periode verschillende “correlatiechecks” uitgevoerd om te kijken of er een samenhang is tussen variabelen en een verboden discriminatiegrond. De data van de afdeling Werk & Inkomen waren hiervoor niet bruikbaar, omdat hierin bijvoorbeeld geen informatie is vastgelegd over afkomst. In de basisregistratie van de gemeente zijn herkomstland en nationaliteit wel bekend, maar die mag vanwege privacywetgeving niet worden geraadpleegd.

De brief aan de raad volgt een week nadat de Autoriteit Persoonsgegevens (AP) het Rotterdamse College van B&W op de vingers tikte over het risico-inschattingsmodel. De AP eist van de gemeente dat ze binnen twee maanden rapporteert over de gevolgen van het gebruik van het algoritme. Daarbij moet de gemeente ook in kaart brengen hoe ze voldeed aan de privacyregels van de AVG.

Het informatieverzoek is voor GroenLinks aanleiding voor een brief aan het College, waarbij de fractie een gesprek aanvraagt. Raadslid Marvin Biljoen geeft aan “geschrokken” te zijn na “opnieuw” een brief van de Autoriteit Persoonsgegevens. Eerder stelde deze waakhond vragen over het gebruik van camera-auto’s tijdens corona. Overigens spreekt de wethouder van “pauzeren” en niet van definitief beëindigen. Versnel: “Uiteraard blijven wij de ontwikkelingen van deze technologie nauwgezet volgen.”

Dat baart GroenLinks zorgen, zegt raadslid Marvin Biljoen desgevraagd. “Na de zomerreces willen wij een debat over wat de wethouder precies bedoelt met pauzeren en waarom hij het niet heeft over stoppen.” Daarbij wil de fractie ook duidelijkheid over hoe het oude algoritme na 2021 is gebruikt bij de doorontwikkeling naar een nieuw algoritme.

Zelfs vragen uit Japan

Deze week verscheen een artikel in Asahi Shimbun, één van de grootste kwaliteitskranten van Japan. Daarin laat Takashi Kiyokawa één van de collega onderzoekers van Lighthouse Reports aan het woord, en spreekt hij met verschillende kritische AI-deskundigen. Ook de gemeente Rotterdam is gevraagd te reageren. Het interviewverzoek van Kiyokawa werd echter afgewezen: “We hebben veel inzicht verkregen en ervaring opgedaan met AI algoritmes, maar hebben besloten om onze informatie niet met de media te delen.” Ook in de Verenigde Staten, Zwitserland, Duitsland, Italië en Denemarken zijn publicaties over het risico inschattingsmodel verschenen.

Word nú lid van Vers Beton

En draag bij aan onafhankelijke journalistiek voor een eerlijk en eigenzinnig Rotterdam

Meer over dit onderzoek

Gerelateerde inhoud

Wil je dit soort artikelen blijven lezen?

Vers Beton kan niet bestaan zonder haar leden. Lees onbeperkt artikelen op Vers Beton voor € 7,50 per maand, de eerste maand is gratis.

Misschien vind je dit ook interessant

  • De morele ondergrens van de gemeente ligt lager dan je denkt

    • Politiek

    Jonasz Dekkers windt zich op over hoe Rotterdam met dakloze mensen omgaat. Beboeten, uitzetten en een Top 29 maken van degenen die de meeste overlast geven, hij vindt het een grof schandaal. 

  • Woonvisie ingehaald door de actualiteit

    • Politiek

    De actualiteit heeft de nieuwe Woonvisie alweer ingehaald volgens Mustapha Eaisaouiyen van het initiatief Recht op de stad. Lees zijn opinie over waarom de Woonvisie rammelt, onvolledig is en geschreven vanuit een beleidsmakersbubbel.

  • Een geschiedenis van Rotterdamse burgemeesters en slavernij

    • Politiek

    Rotterdam kent een aantal foute burgemeesters. Ze handelden in mensen, hadden banden met de VOC of WIC en werden aangesteld om de winst uit suikerrietplantages veilig te stellen. Loulou Drinkwaard maakte een lijst.

  • Alle artikelen

De agenda die je aan het denken zet

  • Op woensdagavond 3 april komen de scherpe geesten achter het bekroonde onderzoek naar het Rotterdamse bijstandsalgoritme bijeen in het Journalistiek Café in de Carnisser Keuken! Dit dynamische team- Celeste Boddaert, Eeva Liukku, Romy van Dijk en Saskia Klaassen – deelt graag hun inzichten, ervaringen en het belang van datajournalistiek. Ontdek hoe ze te werk zijn gegaan en het proces achter hun bekroonde onderzoek hebben doorlopen. 🎙️📰

    Venue: De Carnisser Keuken
    Datum:
  • Tijdens de eerste edtie Extra Space op 14 maart luister je vanaf 19:00 naar de…

    Venue: Leeszaal Rotterdam West
    Datum:
  • De Rotterdamse woningmarkt is krap en de prijzen zijn hoog. De nieuwe Woonvisie, die op 14 maart 2024 wordt vastgesteld, belooft verandering. Maar hoe wordt écht betaalbaar wonen in Rotterdam gerealiseerd? Op 7 maart organiseren AIR, Platform Woonopgave, Recht op de Stad en KeileCollectief het stadsgesprek ‘Betaalbaar wonen: hoe dan?!’Onderwerp van gesprek zijn de nieuwe Woonvisie, de knelpunten in de praktijk en mogelijke oplossingen. De avond wordt afgesloten met het aanbieden van kant-en-klare moties aan Rotterdamse gemeenteraadsleden, die ze op 14 maart kunnen indienen.

    Venue: Keilepand M4H
    Datum:
  • Bekijk de agenda

De leukste vacatures in en om Rotterdam