Ga naar de inhoud

Computer zegt vrouw: hoe een Rotterdams algoritme jonge, alleenstaande moeders discrimineerde — betaald artikel

Dit artikel is voorzien van een blokkade in verband met betaalde toegang, waardoor een gedeelte van de inhoud pas leesbaar is wanneer je bent ingelogd en beschikt over een geldig abonnement.

Onderzoek

“Ik benadruk dat er geen sprake is geweest van discriminatie bij het gebruik van algoritmes in de gemeente Rotterdam”, zei wethouder Richard Moti in 2021 tegen de gemeenteraad. Maar het ‘risico-inschattingsmodel’ voor de opsporing van bijstandsfraude selecteerde wel degelijk een specifieke groep mensen voor de controle van de bijstandsuitkering, ontdekten Vers Beton, OPEN Rotterdam en Lighthouse Reports.

Beeld: Lucia Lenders

Dit artikel in het kort:

  • Rotterdam liep als Europese stad voorop met het gebruik van een algoritme bij de opsporing van bijstandsfraude.
  • In 2021 kreeg Lighthouse Reports inzage in het ‘risico-inschattingsmodel’ waarmee de gemeente Rotterdam van 2018 tot 2021 mensen selecteerde voor een ‘heronderzoek bijstandsuitkering’. 
  • Per abuis kregen we de data mee waarmee het algoritme in 2020 getraind werd, waardoor we konden achterhalen van welke patronen het model leerde. 
  • We ontdekten dat er verschillende problemen zijn met het algoritme. Zo leerde het model generalisaties te maken op basis van een beperkt aantal personen in de data, werden er subjectieve variabelen (uiterlijke verzorging) en proxy-variabelen (taal) gebruikt, en werd de uiteindelijke selectie gemaakt op basis van een slecht presterende rekenmethode.     
  • De kans op een uitnodiging voor een heronderzoek steeg het meest als de bijstandsgerechtigde vrouw, alleenstaand, jong en moeder was en niet goed Nederlands sprak. 
  • In de EU is discussie of dit soort ‘hoog-risico algoritmes’ in het algeheel verboden moeten worden vanwege de schade die ze kunnen aanrichten.
  • De Rotterdamse werkwijze tastte de rechtszekerheid van financieel afhankelijke inwoners aan omdat zij niet konden controleren wat de reden was voor een heronderzoek. 
  • De gemeente erkent dat het algoritme “nooit 100 procent vrij kon blijven van vooringenomenheid of de schijn daarvan” en noemt dit een onwenselijke situatie. In 2021 stopte ze met het risico-inschattingsmodel.

Gerelateerde inhoud

Wil je dit soort artikelen blijven lezen?

Vers Beton kan niet bestaan zonder haar leden. Lees onbeperkt artikelen op Vers Beton voor € 7,50 per maand, de eerste maand is gratis.

Misschien vind je dit ook interessant

  • De morele ondergrens van de gemeente ligt lager dan je denkt

    • Politiek

    Jonasz Dekkers windt zich op over hoe Rotterdam met dakloze mensen omgaat. Beboeten, uitzetten en een Top 29 maken van degenen die de meeste overlast geven, hij vindt het een grof schandaal. 

  • Woonvisie ingehaald door de actualiteit

    • Politiek

    De actualiteit heeft de nieuwe Woonvisie alweer ingehaald volgens Mustapha Eaisaouiyen van het initiatief Recht op de stad. Lees zijn opinie over waarom de Woonvisie rammelt, onvolledig is en geschreven vanuit een beleidsmakersbubbel.

  • Een geschiedenis van Rotterdamse burgemeesters en slavernij

    • Politiek

    Rotterdam kent een aantal foute burgemeesters. Ze handelden in mensen, hadden banden met de VOC of WIC en werden aangesteld om de winst uit suikerrietplantages veilig te stellen. Loulou Drinkwaard maakte een lijst.

  • Alle artikelen

De agenda die je aan het denken zet

  • Tijdens de eerste edtie Extra Space op 14 maart luister je vanaf 19:00 naar de…

    Venue: Leeszaal Rotterdam West
    Datum:
  • De Rotterdamse woningmarkt is krap en de prijzen zijn hoog. De nieuwe Woonvisie, die op 14 maart 2024 wordt vastgesteld, belooft verandering. Maar hoe wordt écht betaalbaar wonen in Rotterdam gerealiseerd? Op 7 maart organiseren AIR, Platform Woonopgave, Recht op de Stad en KeileCollectief het stadsgesprek ‘Betaalbaar wonen: hoe dan?!’Onderwerp van gesprek zijn de nieuwe Woonvisie, de knelpunten in de praktijk en mogelijke oplossingen. De avond wordt afgesloten met het aanbieden van kant-en-klare moties aan Rotterdamse gemeenteraadsleden, die ze op 14 maart kunnen indienen.

    Venue: Keilepand M4H
    Datum:
  • Bubbeldenken geeft geen oplossingen. Steeds weer dezelfde statements en dezelfde “deskundigen”…brrrr, herhaling van zetten. Daarom op zoek naar verrassend andere meningen.

    Venue: Rotterdamse Salon
    Datum:
  • Bekijk de agenda

De leukste vacatures in en om Rotterdam