Ga naar de inhoud

Computer zegt vrouw: hoe een Rotterdams algoritme jonge, alleenstaande moeders discrimineerde — betaald artikel

Dit artikel is voorzien van een blokkade in verband met betaalde toegang, waardoor een gedeelte van de inhoud pas leesbaar is wanneer je bent ingelogd en beschikt over een geldig abonnement.

Onderzoek

“Ik benadruk dat er geen sprake is geweest van discriminatie bij het gebruik van algoritmes in de gemeente Rotterdam”, zei wethouder Richard Moti in 2021 tegen de gemeenteraad. Maar het ‘risico-inschattingsmodel’ voor de opsporing van bijstandsfraude selecteerde wel degelijk een specifieke groep mensen voor de controle van de bijstandsuitkering, ontdekten Vers Beton, OPEN Rotterdam en Lighthouse Reports.

Beeld: Lucia Lenders

Dit artikel in het kort:

  • Rotterdam liep als Europese stad voorop met het gebruik van een algoritme bij de opsporing van bijstandsfraude.
  • In 2021 kreeg Lighthouse Reports inzage in het ‘risico-inschattingsmodel’ waarmee de gemeente Rotterdam van 2018 tot 2021 mensen selecteerde voor een ‘heronderzoek bijstandsuitkering’. 
  • Per abuis kregen we de data mee waarmee het algoritme in 2020 getraind werd, waardoor we konden achterhalen van welke patronen het model leerde. 
  • We ontdekten dat er verschillende problemen zijn met het algoritme. Zo leerde het model generalisaties te maken op basis van een beperkt aantal personen in de data, werden er subjectieve variabelen (uiterlijke verzorging) en proxy-variabelen (taal) gebruikt, en werd de uiteindelijke selectie gemaakt op basis van een slecht presterende rekenmethode.     
  • De kans op een uitnodiging voor een heronderzoek steeg het meest als de bijstandsgerechtigde vrouw, alleenstaand, jong en moeder was en niet goed Nederlands sprak. 
  • In de EU is discussie of dit soort ‘hoog-risico algoritmes’ in het algeheel verboden moeten worden vanwege de schade die ze kunnen aanrichten.
  • De Rotterdamse werkwijze tastte de rechtszekerheid van financieel afhankelijke inwoners aan omdat zij niet konden controleren wat de reden was voor een heronderzoek. 
  • De gemeente erkent dat het algoritme “nooit 100 procent vrij kon blijven van vooringenomenheid of de schijn daarvan” en noemt dit een onwenselijke situatie. In 2021 stopte ze met het risico-inschattingsmodel.

Gerelateerde inhoud

Wil je dit soort artikelen blijven lezen?

Vers Beton kan niet bestaan zonder haar leden. Lees onbeperkt artikelen op Vers Beton voor € 7,50 per maand, de eerste maand is gratis.

Misschien vind je dit ook interessant

  • Studentenprotest EUR: “Dit is leuk voor de solidariteit, maar doet natuurlijk niet echt iets”

    • Politiek

    Eén dag voor het aangekondigde studentenprotest bij de Erasmus Universiteit Rotterdam, besluit de driehoek de universiteit te sluiten. Ontheemd moeten de studenten op zoek naar een nieuwe protestlocatie. Romy van Dijk ging mee en werd vooral geconfronteerd met een slechte organisatie.

  • Pastors op het pluche? “Het is geen verbinder”

    • Politiek

    Nu de deadline van de formatie met rasse schreden nadert, moet Geert Wilders op zoek naar vertegenwoordigers van de PVV in een nieuw radicaal-rechts kabinet. Marco Pastors wordt vaak genoemd als kandidaat voor het Torentje of een ministerspost. Wie is Pastors en wat heeft hij bereikt in Rotterdam? Een profiel.

  • Wat doet een burgemeester eigenlijk? Vijf misvattingen rechtgezet

    • Politiek

    Wie zou er momenteel met lichte hartkloppingen op zijn of haar toetsenbord een cv zitten tikken? Maandag 13 mei sluit de vacature voor de nieuwe burgemeester van Rotterdam. Dan begint de zoektocht naar Aboutalebs vervanger. Maar wat doet een burgemeester eigenlijk? En welke kwaliteiten moet hij of zij hebben?

  • Alle artikelen

De agenda die je aan het denken zet

  • Tijdens deze publieke bijeenkomst wordt onder leiding van moderator Ferrie Weeda uitgebreid stil gestaan bij de 10 actiepunten en gaan publiek en experts in gesprek over aanscherping en concretisering van de actieagenda.

    Venue: Henket-paviljoen (Ingang via het Melkkoppad)
    Datum:
  • Ook dit jaar organiseert AIR-Architectuur Instituut Rotterdam een bijzondere filmavond op een unieke locatie in het festivalhart.

    Venue: Henket-paviljoen (Ingang via het Melkkoppad)
    Datum:
  • Hoe zou Rotterdam er in 2030 uitzien als een Nationaal Park? Tijdens het Stadmakerscongres 2023 werkten initiatiefnemers, stadmakers, ontwerpers en de gemeente Rotterdam gezamenlijk aan deze vraag.

    Venue: Natuurhistorisch Museum Rotterdam
    Datum:
  • Bekijk de agenda

De leukste vacatures in en om Rotterdam

  • Ben jij een kunstenaar of kunstcollectief werkzaam binnen het domein van social practices, ben je klaar voor een volgende stap in je carrière en sta je open voor kritische reflectie op je eigen artistieke praktijk? Zou je er voor openstaan bewoners, kinderen of partners uit de buurt te betrekken bij jouw werk? Ben je geïnteresseerd in het verkennen van de collectie, Depot Boijmans Van Beuningen, en museale praktijken?

  • Vers Beton zoekt een stagiair vanaf september 2024. We begeleiden je om je eigen leerdoelen te halen en zelf journalistieke producties te maken voor Vers Beton.

  • Music Matters geeft jonge Rotterdammers de tools om hun eigen weg te vinden in de wereld van muziek. We laten jonge Rotterdammers zien wat muziek voor hen kan betekenen – als maker, als speler, als liefhebber en als ondernemer. Vanaf juni zijn we op zoek naar een programmamaker die ons team kan komen versterken.

  • Bekijk alle vacatures