Inzet algoritmes en data-ethiek

Brontekst

De heer Krul (CDA): Dit is een hele terechte vraag. Ja, die kansen zien wij. Die zien wij zeker, met name als het gaat om de verwerking van persoonsgegevens, want daar zijn inderdaad hele hoge risico's dat mensen vermorzeld worden. Maar wij zien ook het risico dat nu in een reflex simpele beslisregels, die al heel lang van toepassing zijn en die technisch gezien algoritmisch zijn, maar eigenlijk de simpelste functionaliteit hebben, als het ware ook in het verbod terechtkomen. Hierdoor wordt ook aan de andere kant de taak die je gewoon als overheid hebt, namelijk handhaven en voorkomen dat er veel fraude plaatsvindt, helemaal onmogelijk gemaakt. Het is dus een ontzettend precaire balans die we moeten zoeken. En het CDA maakt echt een onderscheid als het gaat om het gebruik van persoonsgegevens zonder tussenkomst van menselijk handelen. Daar zitten veel te veel risico's in. Maar zonder geautomatiseerde besluitvorming op basis van fiscale gegevens, de "ping" als het ware, vrezen wij dat het als overheid wel heel ingewikkeld wordt om nog te kunnen handhaven.

Versie d7f0f2bd850e617ffe9cb0429962cee6562c9adc4bae73526373fb90abe09322 · Voorlopig verslag; de tekst kan nog wijzigen.