Ga naar de inhoud

Computer zegt vrouw: hoe een Rotterdams algoritme jonge, alleenstaande moeders discrimineerde — betaald artikel

Dit artikel is voorzien van een blokkade in verband met betaalde toegang, waardoor een gedeelte van de inhoud pas leesbaar is wanneer je bent ingelogd en beschikt over een geldig abonnement.

Onderzoek

“Ik benadruk dat er geen sprake is geweest van discriminatie bij het gebruik van algoritmes in de gemeente Rotterdam”, zei wethouder Richard Moti in 2021 tegen de gemeenteraad. Maar het ‘risico-inschattingsmodel’ voor de opsporing van bijstandsfraude selecteerde wel degelijk een specifieke groep mensen voor de controle van de bijstandsuitkering, ontdekten Vers Beton, OPEN Rotterdam en Lighthouse Reports.

Beeld: Lucia Lenders

Dit artikel in het kort:

  • Rotterdam liep als Europese stad voorop met het gebruik van een algoritme bij de opsporing van bijstandsfraude.
  • In 2021 kreeg Lighthouse Reports inzage in het ‘risico-inschattingsmodel’ waarmee de gemeente Rotterdam van 2018 tot 2021 mensen selecteerde voor een ‘heronderzoek bijstandsuitkering’. 
  • Per abuis kregen we de data mee waarmee het algoritme in 2020 getraind werd, waardoor we konden achterhalen van welke patronen het model leerde. 
  • We ontdekten dat er verschillende problemen zijn met het algoritme. Zo leerde het model generalisaties te maken op basis van een beperkt aantal personen in de data, werden er subjectieve variabelen (uiterlijke verzorging) en proxy-variabelen (taal) gebruikt, en werd de uiteindelijke selectie gemaakt op basis van een slecht presterende rekenmethode.     
  • De kans op een uitnodiging voor een heronderzoek steeg het meest als de bijstandsgerechtigde vrouw, alleenstaand, jong en moeder was en niet goed Nederlands sprak. 
  • In de EU is discussie of dit soort ‘hoog-risico algoritmes’ in het algeheel verboden moeten worden vanwege de schade die ze kunnen aanrichten.
  • De Rotterdamse werkwijze tastte de rechtszekerheid van financieel afhankelijke inwoners aan omdat zij niet konden controleren wat de reden was voor een heronderzoek. 
  • De gemeente erkent dat het algoritme “nooit 100 procent vrij kon blijven van vooringenomenheid of de schijn daarvan” en noemt dit een onwenselijke situatie. In 2021 stopte ze met het risico-inschattingsmodel.

Gerelateerde inhoud

Wil je dit soort artikelen blijven lezen?

Vers Beton kan niet bestaan zonder haar leden. Lees onbeperkt artikelen op Vers Beton voor € 7,50 per maand, de eerste maand is gratis.

Misschien vind je dit ook interessant

De agenda die je aan het denken zet

  • Bezoek een architectenbureau! Op 24 juni 2023 openen gevestigde ontwerp- en architectenbureaus in Rotterdam hun deuren tijdens de jaarlijkse Open Bureaudag.

    Venue: Meerdere locaties
    Datum:
  • Het drijvende festivalhart van de Rotterdam Architectuur Maand bevindt zich dit jaar in de Maashaven en is de hele maand juni te bezoeken!

    Venue: Festivalhart (Maassilo)
    Datum:
  • The 1619 Project is The New York Times Magazine’s award-winning reframing of American history that places slavery and its continuing legacy at the center of the countries’ national narrative.

    Venue: Kantine Walhalla
    Datum:
  • Bekijk de agenda

De leukste vacatures in en om Rotterdam