Reconstructie
Het was te mooi om waar te zijn: een algoritme om fraude in de bijstand op te sporen. Ondanks waarschuwingen bleef de gemeente er bijna vier jaar lang in geloven. Een handjevol ambtenaren, zich onvoldoende bewust van ethische risico’s, kon jarenlang ongestoord experimenteren met de data van kwetsbare mensen.
Dit artikel in het kort:
- Ondanks waarschuwingen vanuit de wetenschap, koos Rotterdam in 2017 voor de ontwikkeling van een algoritme dat uitkeringsfraude moest opsporen.
- De afdeling Onderzoek en Business Intelligence kon hier van 2018 tot 2021 ongestoord mee experimenteren in de praktijk.
- Het college benadrukte steeds dat het ze niet om het opsporen van fraude ging maar om ‘onrechtmatigheden’. Uit interne documenten blijkt echter dat fraudeopsporing wél het oorspronkelijke doel was.
- De gemeenteraad werd pas twee jaar na de start van het experiment ingelicht en trok pas in 2021 aan de bel.
- Ook na de politieke beloftes voor verbetering, verscheen een evaluatie waaruit blijkt dat het algoritme vooral alleenstaande kwetsbare jonge moeders selecteerde. De adviseur handhaving beschouwde dit als positief teken.
- De huidige wethouder heeft het algoritme voorlopig gepauzeerd, maar gelooft nog steeds dat het de efficiëntste manier is om Rotterdammers in de bijstand voor heronderzoeken te selecteren.
Nog geen reactie — begin de discussie!