Motie van het lid Koekkoek over maatregelen ter toetsing van algoritmen en IT-systemen op discriminerende effecten voorafgaand aan ingebruikneming daarvan

Tweede Kamer der Staten-Generaal2Vergaderjaar 2021–2022 30 950Rassendiscriminatie Nr. 306 MOTIE VAN HET LID KOEKKOEK Voorgesteld 19 mei 2022 De Kamer, gehoord de beraadslaging, constaterende dat de overheid bij de uitvoering van beleid en wetgeving gebruikmaakt van IT-systemen en algoritmen voor automatische besluitvorming of ter ondersteuning daarvan; constaterende dat uit onderzoek van de Algemene Rekenkamer volgt dat door de rijksoverheid gebruikte algoritmen niet altijd voldoen aan de door de Algemene Rekenkamer gestelde basisvereisten, onder meer vanwege gebrekkige voorafgaande toetsing; overwegende dat het gebruik van algoritmen en IT-systemen door de rijksoverheid in het verleden heeft geleid tot discriminerende uitkomsten; verzoekt de regering om met een voorstel te komen met technische en organisatorische maatregelen die ervoor zorgen dat voorafgaand aan het in gebruik nemen van algoritmen en IT-systemen door de rijksoverheid en haar uitvoeringsorganisaties wordt getoetst op mogelijke discriminerende effecten in de toepassing ervan; verzoekt de regering om te onderzoeken welke mogelijkheden er zijn om de implementatie of het gebruik van discriminerende algoritmen en IT-systemen stop te zetten wanneer niet kan worden vastgesteld dat zij geen discriminerende werking hebben, en gaat over tot de orde van de dag. Koekkoek kst-30950-306ISSN 0921 - 7371’s-Gravenhage 2022Tweede Kamer, vergaderjaar 2021–2022, 30 950, nr. 306