Ga naar de inhoud

Computer zegt vrouw: hoe een Rotterdams algoritme jonge, alleenstaande moeders discrimineerde — betaald artikel

Dit artikel is voorzien van een blokkade in verband met betaalde toegang, waardoor een gedeelte van de inhoud pas leesbaar is wanneer je bent ingelogd en beschikt over een geldig abonnement.

Onderzoek

“Ik benadruk dat er geen sprake is geweest van discriminatie bij het gebruik van algoritmes in de gemeente Rotterdam”, zei wethouder Richard Moti in 2021 tegen de gemeenteraad. Maar het ‘risico-inschattingsmodel’ voor de opsporing van bijstandsfraude selecteerde wel degelijk een specifieke groep mensen voor de controle van de bijstandsuitkering, ontdekten Vers Beton, OPEN Rotterdam en Lighthouse Reports.

Beeld: Lucia Lenders

Dit artikel in het kort:

  • Rotterdam liep als Europese stad voorop met het gebruik van een algoritme bij de opsporing van bijstandsfraude.
  • In 2021 kreeg Lighthouse Reports inzage in het ‘risico-inschattingsmodel’ waarmee de gemeente Rotterdam van 2018 tot 2021 mensen selecteerde voor een ‘heronderzoek bijstandsuitkering’. 
  • Per abuis kregen we de data mee waarmee het algoritme in 2020 getraind werd, waardoor we konden achterhalen van welke patronen het model leerde. 
  • We ontdekten dat er verschillende problemen zijn met het algoritme. Zo leerde het model generalisaties te maken op basis van een beperkt aantal personen in de data, werden er subjectieve variabelen (uiterlijke verzorging) en proxy-variabelen (taal) gebruikt, en werd de uiteindelijke selectie gemaakt op basis van een slecht presterende rekenmethode.     
  • De kans op een uitnodiging voor een heronderzoek steeg het meest als de bijstandsgerechtigde vrouw, alleenstaand, jong en moeder was en niet goed Nederlands sprak. 
  • In de EU is discussie of dit soort ‘hoog-risico algoritmes’ in het algeheel verboden moeten worden vanwege de schade die ze kunnen aanrichten.
  • De Rotterdamse werkwijze tastte de rechtszekerheid van financieel afhankelijke inwoners aan omdat zij niet konden controleren wat de reden was voor een heronderzoek. 
  • De gemeente erkent dat het algoritme “nooit 100 procent vrij kon blijven van vooringenomenheid of de schijn daarvan” en noemt dit een onwenselijke situatie. In 2021 stopte ze met het risico-inschattingsmodel.

Gerelateerde inhoud

Wil je dit soort artikelen blijven lezen?

Vers Beton kan niet bestaan zonder haar leden. Lees onbeperkt artikelen op Vers Beton voor € 7,50 per maand, de eerste maand is gratis.

Misschien vind je dit ook interessant

  • De kracht van stilte tijdens de rouwmars Samen voor Palestina

    • Politiek

    Met het lawaai van ronkende motoren, vuurwerk en leuzen begon Rotterdam op 22 oktober luid te protesteren tegen de aanvallen op Gaza. Maar er is ook stil protest. Zo kleurde woensdag de Hofpleinfontein rood en was er de week ervoor een rouwmars voor de slachtoffers. Loulou Drinkwaard liep mee.

  • Big Brother in de bijstand 3: Zullen ze het ooit leren?

    • Politiek

    De negatieve ervaringen van bijstandsgerechtigden drongen nauwelijks tot het grote publiek door. Totdat de gemeenteraad wethouder Richard Moti tot de orde riep. Luister nu deel 3 van de podcast Big Brother in de bijstand.

  • Big Brother in de bijstand 2: Over dieven en kleuters

    • Politiek

    “Tijdens heronderzoeken werden bijstandsontvangers als een dief of kleuter behandeld”, zegt onderzoeker Margot Kersing van de Erasmus Universiteit. Luister naar deel 2 van de podcast Big Brother in de bijstand.

  • Alle artikelen

De agenda die je aan het denken zet

  • Het kabinet viel, demissionair premier Rutte kondigde zijn vertrek aan en een reeks politici verlaten…

    Venue: Debatpodium Arminius
    Datum:
  • On Monday 11 December, Rotterdam based platform for metropolitan issues De Dépendance and Lighthouse Reports welcome economist Jennifer Clapp, one of the world’s leading authorities on food systems, in BlueCity. 

    Venue: BlueCity
    Datum:
  • Bekijk de agenda

De leukste vacatures in en om Rotterdam

  • Als stagiair(e) Marketing & Communicatie ondersteun je de afdeling op verschillende vlakken en krijg je een breed pakket aan taken en werkzaamheden.

  • WAT DOE JIJ ALS FRACTIECOÖRDINATOR? 

    Als coördinator vervul je een belangrijke rol in en rond de fractie van GroenLinks PvdA Zuid-Holland. Je biedt praktische ondersteuning aan statenleden, volgt de  (politieke) actualiteit, coördineert politieke activiteiten en zorgt ervoor dat de  fractie haar relaties onderhoudt. De functie biedt een interessante plek om je  verder in provinciale politiek te verdiepen.

  • Vers Beton zoekt een stagiair vanaf januari 2024. We begeleiden je om je eigen leerdoelen te halen en zelf journalistieke producties te maken voor Vers Beton.

  • Bekijk alle vacatures