Xenofobe machines: Discriminatie door ongereguleerd gebruik van algoritmen in het Nederlandse toeslagenschandaal

Overal ter wereld automatiseren handhavingsinstanties voor de sociale zekerheid steeds meer hun processen in de hoop om fraude op te sporen. Nederland loopt voorop in deze ontwikkeling. De Nederlandse Belastingdienst heeft een algoritmisch besluitvormingssysteem ingevoerd om risicoprofielen op te stellen van mensen die kinderopvangtoeslag aanvragen, zodat onnauwkeurige en mogelijk frauduleuze aanvragen in een vroeg stadium kunnen worden opgespoord. Nationaliteit was een van de risicofactoren die de Belastingdienst gebruikte om het risico van onnauwkeurigheid en/of fraude in de ingediende aanvragen te beoordelen. Dit rapport illustreert hoe het gebruik van de nationaliteit heeft geleid tot discriminatie afkomst, alsmede tot etnisch profileren.

Choose a language to view report

Download PDF