Jan Valize

Inzet algoritmes en data-ethiek

De heer Valize (PVV): Voorzitter, dank voor het antwoord. Mijn inbreng is dit maal niet zo groot. Ik heb slechts drie onderwerpen: het implementatiekader van het algoritme, de voortgang van het Algoritmeregister en de opschaling van de algoritmetoezichthouder. Het eerste onderwerp is dus het IKA. Dit is ontwikkeld op verzoek van de Kamer met als doel om overheden te ondersteunen bij de verantwoorde inzet van algoritmes. We lezen in de brieven dat het een levend document is dat verder doorontwikkeld zal worden. Het IKA is in lijn gebracht met belangrijke onderwerpen die mede de basis hebben gevormd voor de AI-verordening, de AI Act, die er inmiddels ook door is. Vandaar de volgende vragen aan de staatssecretaris. In hoeverre is het IKA nu bekend? Weten de departementen ervan en hoe zijn de ervaringen in het veld? Ook wil de PVV graag weten of de AI Act, nu die een feit is, nog verder gaat dan het IKA en, zo ja, op welke punten? Maar dit geldt ook omgekeerd: gaat IK ergens verder op in dan de AI Act? Voorzitter. Dan de voortgang van het Algoritmeregister. De Kamer heeft gevraagd om de publicatie van algoritmes van de overheid te verplichten. De staatssecretaris schreef in de verzamelbrief Algoritmen reguleren en in de brief Opschaling algoritmetoezicht dat ze er niet voor heeft gekozen om registratie te verplichten omdat zij dit in samenhang wil bezien met de definitieve tekst van de AI Act. De PVV wil duidelijk stellen dat wat in Europa speelt, geen beweegreden is of kan zijn om geen gehoor te geven aan een oproep van de Kamer. Dat gezegd hebbende wil de PVV nu graag van de staatssecretaris vernemen hoe zij, nu de AI-verordening er is, gehoor zal geven aan deze oproep. We hebben inmiddels vernomen dat er op dit ogenblik 340 algoritmes in dat register staan, voornamelijk aangeleverd vanuit de gemeenten. Waarom kan dit register niet gewoon al tjokvol zitten met gebruikte algoritmes? Is dat omdat er te pas en te onpas gewerkt wordt in de selectie van data? Wordt er bij departementen niet vooraf nagedacht over hoe algoritmes dienen te worden opgesteld? Ik vind dit immers schokkend. Het is belangrijk om hier goed over na te denken. Immers, als je in een sequentiële opvolging twee filters verwisselt, kan dat een heel andere uitkomst bieden. Ofwel: als je bij een legobouwpakket van een brandweerkazerne op pagina 12 begint met de instructie en dan op verschillende plekken in het boekje de instructies opvolgt, heb je uiteindelijk geen brandweerkazerne. Is er dan geen verslaglegging? Je verzint iets, je verantwoordt dat en je krijgt een akkoord vanuit de hogere hiërarchie. Indien dat niet het geval is, hoe is het dan mogelijk en wat gaat de staatssecretaris eraan doen om dit onder controle te krijgen? Voorzitter, tot slot de opschaling van de algoritmetoezichthouder. De Autoriteit Persoonsgegevens heeft de directie Coördinatie Algoritmes in het leven geroepen voor het toezicht houden. In het kader daarvan of van de aanscherping moet zij nu twee maal per jaar een risicoanalyse algoritmes Nederland uitvoeren en in kaart brengen welke publieke loketten er zijn om algoritmegerelateerde problematiek te melden en in hoeverre burgers deze loketten weten te vinden. Er staat niet bij of dit tot extra regeldruk leidt, maar de PVV zou graag van de staatssecretaris vernemen of de capaciteit er wel is om deze doelen te realiseren en wat de impact van de Europese wet- en regelgeving, zoals de AI-verordening, de Dataverordening en de Digitaledienstenverordening, op de beschikbare capaciteit gaat zijn. Ik las reeds over de toename van de financiële middelen in de komende jaren: een verdubbeling in 2024 ten opzichte van 2023 en 3,6 miljoen in de opvolgende jaren. Maar ik bedoel dus qua personeel en in relatie tot wat er nog aankomt, dus niet in de financiële middelen, want ik neem aan dat die toereikend zijn. Voorzitter, daarmee ben ik aan het einde van mijn betoog gekomen. Dank u.

De heer Valize (PVV): Ik vind dat dat thuishoort bij de departementen waar die algoritmen bepaald worden. Door verschillende commissies, zoals ze er zijn, wordt dus beoordeeld of iets is toegestaan of niet en of het verantwoord is of niet. Dat moet dus per onderdeel bekeken worden. Het doel heiligt de middelen.

De heer Valize (PVV): Wanneer je alles gaat verbieden, kun je geen trends onderzoeken en kun je ook helemaal niets analyseren. Ik zie er dus geen probleem in om per departement te bekijken welke algoritmen zijn toegestaan en waarom ze moeten worden toegestaan als er maar een maatschappelijke verantwoording wordt afgelegd over waarom een bepaald onderzoek wordt ingezet.

De heer Valize (PVV): Het verplicht opnemen van algoritmes in een register is een goede zaak. Je moet inzichtelijkheid bieden als overheid.

De heer Valize (PVV): Het vergt niet heel veel capaciteit om een algoritme uit te schrijven en aan het register toe te voegen. Ik snap dus niet waarom een kleine gemeente zou worden uitgesloten van het deponeren van het algoritme in het register.

De heer Valize (PVV): Ik hoor de staatssecretaris praten over een keurmerk. In de brieven zag ik het ook vluchtig voorbijkomen. Daar wordt het een CE-keurmerk genoemd. Hoe is voor mensen zichtbaar dat dat keurmerk er is? Wordt dat op de website gepubliceerd of staat het ergens in de broncode? Ik zou daar graag een beeld bij krijgen. Hoe kan achterhaald worden dat iets voorzien is van een keurmerk?

De heer Valize (PVV): Ik had ook nog een vraag gesteld. Ik moet trouwens wel zeggen dat ik het fijn vind om te horen dat de staatssecretaris ook denkt in kansen en mogelijkheden van generatieve AI. Dat is altijd mooi om te horen. Maar ik had ook nog een vraag gesteld over het IKA-register. Wat is er in de IA Act opgenomen dat afwijkt ten opzichte van het IKA-register en andersom? Dus gaan wij met het IKA-register verder dan de AI Act, of gaat de AI Act verder dan het IKA-register?

De heer Valize (PVV): Dank voor de heldere toelichting. Dan had ik ook nog een vraag over datzelfde implementatiekader. Er werd al eerder door de heer Van Baarle een vraag gesteld over de verplichtingen die eruit voortvloeien: is het een vereiste? Toen werd gezegd: ja, dat klopt; het is een eis. Vervolgens lees ik in de verzamelbrief met betrekking tot het reguleren van de algoritmes op pagina 4 dat het geen checklist is, dat het nemen van maatregelen in dit kader niet rechtstreeks leidt tot het voldoen aan de verplichting en dat niet alle maatregelen in dit kader verplicht zijn. Dan is toch even de vraag: wordt nu alles wat in dat IKA staat verplicht of niet? Of komt er gewoon een registertje in dat IKA-stuk waarbij staat: deze onderdelen zijn verplicht en hieraan moet u voor honderd procent voldoen, en dit zijn zeer dringende adviezen?

De heer Valize (PVV): Ik had ook nog een vraag gesteld met betrekking tot Autoriteit Persoonsgegevens en de de directie Coördinatie Algoritmes, die dus wat opgeschaald wordt. Ik had gevraagd of de capaciteit voldoende is.

De heer Valize (PVV): Voorzitter, dank voor het woord. Dank voor de beantwoordingen van de staatssecretarissen en hun ondersteuning. Dank ook aan de collega's voor het goede debat. Dan de tweede termijn. We kijken ernaar uit om de terugkoppeling te krijgen over ervaringen in het veld. Die brief komt aan het eind van het jaar, heb ik begrepen uit de beantwoording. Over het vullen van het register voor de algoritmes zou ik nog de vraag willen stellen aan de staatssecretaris of er een mogelijkheid is om er iets meer op aan te dringen bij de departementen om dat toch zo vroeg mogelijk te doen, zodat we niet tot eind 2025 moeten wachten totdat het register een keer gevuld is. En dan heb ik nog één klein dingetje. Dat kwam toevallig voorbij. Dat is dat keurmerk. We hebben toevallig vorige week een debat over online veiligheid en cybersecurity gehad. Daar heb ik dit onderwerp ook al aangehaald, bij de minister van EZK. Dat betreft het CE-logo. Er zijn twee verschillende CE-logos. Je hebt er eentje voor China Export en je hebt er eentje voor het Europese keurmerk en het verschil is minimaal. Ik vraag om er toch, in samenspraak met uw collega's in Europa, op aan te dringen dat er iets gedaan wordt om dat logo toch meer te laten differentiëren van dat China Exportlogo, want dat kan tot heel veel verwarring leiden. En dan ben ik aan het einde van mijn tweede termijn. Dank u.