Inzet algoritmes en data-ethiek

Brontekst

De heer Van Baarle (DENK): Ik wil ingaan op de gevolgen van de AI-verordening en het keurmerk. Ik wil het gewoon goed begrijpen. Volgens mij staan in de AI-verordening een aantal principes, namelijk dat er in het geval van een hoogrisicoalgoritme sprake moet zijn van een mensenrechtentoets die onder andere ziet op non-discriminatie. Nu hoor ik dat er een keurmerk is. Hoe zorgen we ervoor dat niet bedrijven ervoor verantwoordelijk worden om maar gewoon het vinkje te zetten dat ze de toets hebben uitgevoerd op de manier die ze willen, maar dat het daadwerkelijk een goede toetsing is? Volgens mij moet hoe je dat doet vervat worden in praktische regels. En wie gaat er uiteindelijk over dat keurmerk? Wie geeft dat keurmerk, wie toetst dat, wie stelt dat vast? Anders geven bedrijven dadelijk aan dat ze een keurmerk-approved methode hebben en dat ze echt niet zullen discrimineren, maar weten we niet wat dat keurmerk dan is.

Versie d7f0f2bd850e617ffe9cb0429962cee6562c9adc4bae73526373fb90abe09322 · Voorlopig verslag; de tekst kan nog wijzigen.