Ga naar de inhoud

Computer zegt vrouw: hoe een Rotterdams algoritme jonge, alleenstaande moeders discrimineerde — betaald artikel

Dit artikel is voorzien van een blokkade in verband met betaalde toegang, waardoor een gedeelte van de inhoud pas leesbaar is wanneer je bent ingelogd en beschikt over een geldig abonnement.

Onderzoek

“Ik benadruk dat er geen sprake is geweest van discriminatie bij het gebruik van algoritmes in de gemeente Rotterdam”, zei wethouder Richard Moti in 2021 tegen de gemeenteraad. Maar het ‘risico-inschattingsmodel’ voor de opsporing van bijstandsfraude selecteerde wel degelijk een specifieke groep mensen voor de controle van de bijstandsuitkering, ontdekten Vers Beton, OPEN Rotterdam en Lighthouse Reports.

Beeld: Lucia Lenders

Dit artikel in het kort:

  • Rotterdam liep als Europese stad voorop met het gebruik van een algoritme bij de opsporing van bijstandsfraude.
  • In 2021 kreeg Lighthouse Reports inzage in het ‘risico-inschattingsmodel’ waarmee de gemeente Rotterdam van 2018 tot 2021 mensen selecteerde voor een ‘heronderzoek bijstandsuitkering’. 
  • Per abuis kregen we de data mee waarmee het algoritme in 2020 getraind werd, waardoor we konden achterhalen van welke patronen het model leerde. 
  • We ontdekten dat er verschillende problemen zijn met het algoritme. Zo leerde het model generalisaties te maken op basis van een beperkt aantal personen in de data, werden er subjectieve variabelen (uiterlijke verzorging) en proxy-variabelen (taal) gebruikt, en werd de uiteindelijke selectie gemaakt op basis van een slecht presterende rekenmethode.     
  • De kans op een uitnodiging voor een heronderzoek steeg het meest als de bijstandsgerechtigde vrouw, alleenstaand, jong en moeder was en niet goed Nederlands sprak. 
  • In de EU is discussie of dit soort ‘hoog-risico algoritmes’ in het algeheel verboden moeten worden vanwege de schade die ze kunnen aanrichten.
  • De Rotterdamse werkwijze tastte de rechtszekerheid van financieel afhankelijke inwoners aan omdat zij niet konden controleren wat de reden was voor een heronderzoek. 
  • De gemeente erkent dat het algoritme “nooit 100 procent vrij kon blijven van vooringenomenheid of de schijn daarvan” en noemt dit een onwenselijke situatie. In 2021 stopte ze met het risico-inschattingsmodel.

Gerelateerde inhoud

Steun onafhankelijke journalistiek

Als abonnee van Vers Beton kun je alle artikelen onbeperkt lezen en delen met je eigen netwerk. Je bent al lid vanaf € 7,50 per maand, de eerste maand lees je gratis.

Misschien vind je dit ook interessant

De Stadsagenda

  • Hoe zorgen we dat wetenschap echt wérkt voor de volgende generatie kinderen en jongeren in de stad? Hierover gaan we op 8 juli in gesprek met zorgprofessionals, jongerenwerkers, beleidsmakers, onderzoekers en ervaringsdeskundigen in een stadsdialoog in Rotterdam, georganiseerd door onderzoekscollectief Healthy Start (Erasmus Universiteit Rotterdam, Erasmus MC en TU Delft).

    Venue: Blue City
    Datum:
  • Baroeg Open Air is een jaarlijks festival dat wordt georganiseerd door poppodium Baroeg. Het festival kenmerkt zich door de brede, underground programmering en ontspannen sfeer. Op zaterdag 13 september 2025 vindt de zestiende editie van Baroeg Open Air plaats in het Zuiderpark bij Ahoy. Kinderen t/m 12 jaar hebben gratis toegang.

    Venue: Zuiderpark
    Datum:
  • Lomp, ranzig, groovy en vooral heavy death thrash en vuige death metal met een dikke punksaus eroverheen.

    Venue: SoundVille
    Datum:
  • Bekijk de agenda

De leukste vacatures in en om Rotterdam

  • Ben jij op zoek naar een fijne werkplek waar jouw creativiteit en marketing skills ruim baan krijgen? Kun jij je strategische blik combineren met een hands-on mentaliteit? Dan is Casa Cadanza de plek voor jou!

  • Als Medewerker Hospitality ben je verantwoordelijk voor een gastvrije ontvangst van alle bezoekers. Je zorgt dat iedereen zich welkom en veilig voelt en helpt hen op weg.

  • Wil jij jouw ervaring inzetten om ruimte voor de creatieve sector in Rotterdam mogelijk te maken? Ben jij goed met cijfers en wil je deze skills inzetten samen met een betrokken en gedreven team? Werk jij met plezier aan het voortdurend verbeteren van bedrijfsmatige processen in een kleine, maar groeiende organisatie? Dan is SKAR dè plek voor jou! 

  • Bekijk alle vacatures