Discriminatie, racisme en mensenrechten (CD d.d. 21/05)

Brontekst

Mevrouw Beckerman (SP): Voorzitter. Dat was een knappe prestatie, maar ik heb niet helemaal goed kunnen luisteren. Ik hoop dat ik niet een motie heb die dubbel is, maar we gaan het zien, en anders lossen we dat op. Voorzitter. Overheden gebruiken steeds vaker algoritmes en data om burgers en risicogroepen in te delen, bijvoorbeeld bij toeslagen, DUO-controles of politieonderzoeken. Dit kan verregaande consequentie hebben voor mensen die onterecht als risico of zelfs als fraudeur uit het systeem rollen. We hebben ook voorbeelden genoemd in het debat. Meer dan 50 algoritmes van de Belastingdienst bleken discriminerend en in strijd met de wet, bijvoorbeeld. Maar we hebben er meer gezien, ook bij DUO. De overheid presenteert profilering heel vaak als een soort technische keuze, maar de commissie zegt dat het eigenlijk een politieke en normatieve keuze is, die raakt aan grondrechten en democratie. Daarom zegt de Staatscommissie tegen Discriminatie en Racisme nu dat we moeten stoppen met lopende toepassingen van datagedreven profilering en de verdere inzet moeten beperken, zolang de overheid niet kan garanderen dat deze systemen eerlijk zijn en geen mensenrechten schenden. Daarom de volgende motie.

Versie d4fc54330761ede6fab1593afab1bab453a31bc6012525a2b75ad736da1bac30 · Officiële bron.