Ga naar de inhoud

Wethouder “pauzeert” ontwikkeling algoritme voor bijstandsfraude

Er komt voorlopig geen nieuw algoritme voor de opsporing van bijstandsfraude. Dat heeft wethouder Tim Versnel van Werk & Inkomen bekendgemaakt. Dat betekent dat er geen opvolger komt voor het veel bekritiseerde risico-inschattingsmodel, dat in 2021 stopte toen bleek dat dit algoritme vooringenomen was.

Eerder onderzoek van Vers Beton, Lighthouse Reports en OPEN Rotterdam liet zien dat er met het risico-inschattingsmodel verschillende problemen zijn. Het pikte mensen eruit op basis van persoonseigenschappen zoals geslacht, ziekte en schulden. Met het model zelf was ook van alles mis, onder meer vanwege het gebruik van subjectieve variabelen (zoals uiterlijke verzorging) en proxy-variabelen (zoals taal). De gemeente stopte in 2021 met het algoritme. Tegenover Vers Beton erkende ze dat het “nooit 100 procent vrij kon blijven van vooringenomenheid of de schijn daarvan”.

Hobbels

Sinds het stopzetten werkte Rotterdam aan een nieuwe versie van het risico-inschattingsmodel om onrechtmatigheden in de bijstand op te sporen. Die moet uitlegbaar zijn, vooringenomenheid voorkomen en de mogelijkheid hebben om er transparant over te communiceren. Nu blijkt dat dit niet gaat lukken. “De bouw kent vele hobbels en uitdagingen om te kunnen voldoen aan de technische en juridische kaders”, schrijft wethouder Versnel in een brief aan de gemeenteraad.

Het zijn daarbij vooral “pragmatische, bedrijfsmatige overwegingen” die de doorslag geven. De ontwikkeling van een algoritme is juridisch dermate complex, tijdrovend en kostbaar “dat de bouw niet meer opweegt tegen het beslag dat het op de ambtelijke capaciteit en middelen legt”. Hij gelooft nog steeds dat “een risico-inschattingsmodel gebaseerd op een algoritme in de Rotterdamse rechtmatigheidsaanpak van toegevoegde waarde kan zijn.”

Privacyregels

Volgens de wethouder zijn de afgelopen periode verschillende “correlatiechecks” uitgevoerd om te kijken of er een samenhang is tussen variabelen en een verboden discriminatiegrond. De data van de afdeling Werk & Inkomen waren hiervoor niet bruikbaar, omdat hierin bijvoorbeeld geen informatie is vastgelegd over afkomst. In de basisregistratie van de gemeente zijn herkomstland en nationaliteit wel bekend, maar die mag vanwege privacywetgeving niet worden geraadpleegd.

De brief aan de raad volgt een week nadat de Autoriteit Persoonsgegevens (AP) het Rotterdamse College van B&W op de vingers tikte over het risico-inschattingsmodel. De AP eist van de gemeente dat ze binnen twee maanden rapporteert over de gevolgen van het gebruik van het algoritme. Daarbij moet de gemeente ook in kaart brengen hoe ze voldeed aan de privacyregels van de AVG.

Het informatieverzoek is voor GroenLinks aanleiding voor een brief aan het College, waarbij de fractie een gesprek aanvraagt. Raadslid Marvin Biljoen geeft aan “geschrokken” te zijn na “opnieuw” een brief van de Autoriteit Persoonsgegevens. Eerder stelde deze waakhond vragen over het gebruik van camera-auto’s tijdens corona. Overigens spreekt de wethouder van “pauzeren” en niet van definitief beëindigen. Versnel: “Uiteraard blijven wij de ontwikkelingen van deze technologie nauwgezet volgen.”

Dat baart GroenLinks zorgen, zegt raadslid Marvin Biljoen desgevraagd. “Na de zomerreces willen wij een debat over wat de wethouder precies bedoelt met pauzeren en waarom hij het niet heeft over stoppen.” Daarbij wil de fractie ook duidelijkheid over hoe het oude algoritme na 2021 is gebruikt bij de doorontwikkeling naar een nieuw algoritme.

Zelfs vragen uit Japan

Deze week verscheen een artikel in Asahi Shimbun, één van de grootste kwaliteitskranten van Japan. Daarin laat Takashi Kiyokawa één van de collega onderzoekers van Lighthouse Reports aan het woord, en spreekt hij met verschillende kritische AI-deskundigen. Ook de gemeente Rotterdam is gevraagd te reageren. Het interviewverzoek van Kiyokawa werd echter afgewezen: “We hebben veel inzicht verkregen en ervaring opgedaan met AI algoritmes, maar hebben besloten om onze informatie niet met de media te delen.” Ook in de Verenigde Staten, Zwitserland, Duitsland, Italië en Denemarken zijn publicaties over het risico inschattingsmodel verschenen.

Word nú lid van Vers Beton

En draag bij aan onafhankelijke journalistiek voor een eerlijk en eigenzinnig Rotterdam

Meer over dit onderzoek

Gerelateerde inhoud

Steun onafhankelijke journalistiek

Als abonnee van Vers Beton kun je alle artikelen onbeperkt lezen en delen met je eigen netwerk. Je bent al lid vanaf € 7,50 per maand, de eerste maand lees je gratis.

Misschien vind je dit ook interessant

  • Opinie: maak van ‘The Culture’ een pijler van het Rotterdams cultuurbeleid

    • Kunst en Cultuur

    Het DNA van Rotterdam bestaat uit The Culture, van hiphop tot community power. Toch krijgt het amper steun. Indirah Tauwnaar & Janpier Brands pleiten in hun opinie voor een radicale stap: 33% van het cultuurbudget naar deze beweging.

  • Frustratie bij wijkraden: “We mogen adviezen sturen, maar liever niet zelf met plannen komen”

    • Politiek

    Sinds de afschaffing van de gebiedscommissies in 2022 telt Rotterdam 37 wijk- en twee dorpsraden. Drie jaar later voelen veel van deze raden zich niet serieus genomen door ‘de Coolsingel’. Ze willen meer aandacht, meer invloed en een eigen wijkbudget. “Iets anders willen dan de gemeente vooraf heeft bedacht, mag niet.”

  • David en Goliath: bewoners in Charlois namen het op tegen de oliewinning van de NAM

    • Politiek

    “Als wij ons als bewoners niet hadden laten horen, waren ze tot 2050 doorgegaan.” Hoewel de NAM van de rechter tot in 2035 naar olie mag blijven boren in Charlois, was het burgerinitiatief Stop Oliewinning toch een succes volgens Bert Peterse, een van de initiatiefnemers. Een terugblik op hoe een David een Goliath op zijn knieën probeerde te dwingen. 

  • Alle artikelen

De Stadsagenda

  • Lieve Rotterdammers, kom meehelpen om wonen weer van onszelf te maken en ook betaalbaar!

    Venue: Festivalhart Schiemond
    Datum:
  • Hoe zorgen we dat wetenschap echt wérkt voor de volgende generatie kinderen en jongeren in de stad? Hierover gaan we op 8 juli in gesprek met zorgprofessionals, jongerenwerkers, beleidsmakers, onderzoekers en ervaringsdeskundigen in een stadsdialoog in Rotterdam, georganiseerd door onderzoekscollectief Healthy Start (Erasmus Universiteit Rotterdam, Erasmus MC en TU Delft).

    Venue: Blue City
    Datum:
  • Baroeg Open Air is een jaarlijks festival dat wordt georganiseerd door poppodium Baroeg. Het festival kenmerkt zich door de brede, underground programmering en ontspannen sfeer. Op zaterdag 13 september 2025 vindt de zestiende editie van Baroeg Open Air plaats in het Zuiderpark bij Ahoy. Kinderen t/m 12 jaar hebben gratis toegang.

    Venue: Zuiderpark
    Datum:
  • Bekijk de agenda

De leukste vacatures in en om Rotterdam

  • Wij zijn op zoek naar een nieuw lid voor de RvT. We zoeken een toezichthouder met aanvullende competenties van de zittende leden, en daarom bij uitstek iemand uit de culturele sector zelf en bovendien de diversiteit van de raad vergroot. Ervaring is ondergeschikt aan de bereidheid om te leren en ontwikkelen als toezichthouder.

  • Ben jij op zoek naar een fijne werkplek waar jouw creativiteit en marketing skills ruim baan krijgen? Kun jij je strategische blik combineren met een hands-on mentaliteit? Dan is Casa Cadanza de plek voor jou!

  • Als Medewerker Hospitality ben je verantwoordelijk voor een gastvrije ontvangst van alle bezoekers. Je zorgt dat iedereen zich welkom en veilig voelt en helpt hen op weg.

  • Bekijk alle vacatures