Inzet algoritmes en data-ethiek

De heer Six Dijkstra (NSC): Dank u wel, voorzitter. Het Hof van Justitie van Europa heeft onlangs geoordeeld dat geautomatiseerde kredietscores strijdig zijn met artikel 22 van de AVG, het verbod op automatische besluitvorming. De landsadvocaat heeft naar aanleiding daarvan geadviseerd dat het gebruik van niet-transparante risicoprofielen via algoritmen zonder onderliggende wetgeving hoogstwaarschijnlijk illegaal is, omdat burgers daardoor rechtsbescherming missen. De gevolgen van deze uitspraak zijn dus behoorlijk verstrekkend. Geautomatiseerde risicoprofielen zijn, zonder wettelijke grondslag, verboden. Delen de staatssecretarissen die conclusie? Ik zou graag van de staatssecretaris Digitalisering willen weten hoeveel overheidsdepartementen er nog meer gebruik maken van algoritmen en selectiemethodes die op basis van dat advies mogelijk in strijd zijn met de AVG op dat punt. Mijn collega Idsinga heeft daarom ook het verzoek gedaan om een lijst met potentieel onrechtmatige algoritmen naar de Kamer te sturen. Daar is inmiddels een uitstelbrief op gekomen. Op welke termijn, vraag ik aan de staatssecretaris, kunnen we die lijst verwachten? De echte vraag is of wij als parlement de gevolgen van die uitspraak overzien. Want als we de conclusie kunnen trekken dat niet-transparante risicoprofielen zonder wettelijke grondslag in strijd zijn met de AVG, dan moeten er of een hoop algoritmen uit gebruik genomen worden of moet er een hoop nieuwe wetgeving komen. Laten we het dan ook grondig aanpakken. Een wettelijke versteviging van overheidsalgoritmen lijkt ons namelijk hard nodig. Is de staatssecretaris dat met ons eens? Het debat dat wij hier als Kamer doorgaans voeren over de wenselijkheid en wetmatigheid van algoritmen, is altijd achteraf, als er iets misgaat en er mensen in de verdrukking komen. Mijn fractie vindt er best wat voor te zeggen dat nieuwe, impactvolle algoritmen die persoonsgegevens verwerken bijvoorbeeld niet alleen in het Algoritmeregister vastgelegd worden, maar ook, bijvoorbeeld via een voorhangprocedure van wetgeving, langs de Staten-Generaal gaan. Dat zodat de Tweede Kamer ze aan de voorkant kan inzien en we er, indien nodig, een debat over kunnen voeren, want dan zijn algoritmen écht democratisch geborgd. Hoe kijkt de staatssecretaris daartegen aan? Dan wil ik het graag nog even hebben over het Implementatiekader voor de Inzet van Algoritmen, het IKA. De staatssecretaris heeft de Kamer een flinke lijst gestuurd van de normen en maatregelen waaraan binnen de overheid voldaan moet worden om algoritmen met een grote impact in te zetten. Laat ik vooropstellen dat ik de inzet van de staatssecretaris om grip te krijgen op algoritmen binnen de overheid waardeer. Dat willen we volgens mij allemaal, ook in deze Kamer. Zie ook alle moties die op dit vlak de afgelopen jaren zijn ingediend. Vorige maand is na het DUO-debat ook een motie aangenomen over een verplichte algoritme-apk. Ik sluit niet uit dat er bij het volgende algoritmeschandaal weer een stapeltje kaders bovenop komt. Het is allemaal sympathiek en natuurlijk goedbedoeld, maar ik ben wel een beetje bang dat we door de bureaucratische bomen het bos niet meer zien en dat we hier goed gedrag willen afdwingen met regeldruk. Eerder zagen we bij de Belastingdienst, het UWV, de gemeente Rotterdam en DUO namelijk dat het volstrekt duidelijk was dat de algoritmen die ingezet werden om fraude mee op te sporen, niet rechtmatig waren of — laat ik het helder verwoorden — dat ze regelrecht discrimineerden. Vaak was het probleem ook niet dat dat niet tijdig gesignaleerd werd, maar dat de verantwoordelijke personen gewoon alle waarschuwingen in de wind sloegen en vrolijk doorgingen met de inzet. Het is in zo'n geval een kwestie van slecht bestuur. Mijn oprechte vraag aan de staatssecretaris is of de huidige beleidskaders voor alle departementen werkbaar zijn. Kunnen alle grote problemen die binnen de overheid rondom algoritmen spelen, niet veel beter aangepakt worden door vast te houden aan een paar kernachtige principes en aan gewetensvol bestuur, in plaats van met een heel groot IKA met IAMA's en alles wat daarbij komt kijken? Ik noem principes als "houd je aan de Grondwet en aan de AVG", "wees transparant richting burgers" en "zorg voor goed toezicht". Ik heb wat toezicht betreft overigens liever een sterke, goed geëquipeerde Autoriteit Persoonsgegevens met echte doorzettingsmacht, dan al die dure externe consultancybureaus die door de persoonlijke data van burgers moeten spitten. Mijn laatste vraag stel ik mede namens de ChristenUnie. Hoe staat het met de uitvoering van de aangenomen motie-Leijten/Ceder over het uitwerken van meer samenhang tussen verschillende waardekaders? Voorzitter. Ik rond af. Ik geloof in de schoonheid van eenvoud. Ik weet dat ik hier de strijd met de onverbiddelijke tijdsgeest aanga, maar misschien wordt het tijd om eens van het dogma af te stappen dat de overheid altijd en overal maar meer data driven moet zijn. Niet alles wat kan, moet ook. Want daar waar het de verwerking van persoonsgegevens betreft, delven meer dan eens de personen achter de gegevens het onderspit. Dank u wel.