Verslag van een commissiedebat, gehouden op 17 april 2024, over inzet algoritmes en data-ethiek

Tweede Kamer der Staten-Generaal2Vergaderjaar 2023–202426 643Informatie- en communicatietechnologie (ICT)Nr. 1209 VERSLAG VAN EEN COMMISSIEDEBATVastgesteld 11 juli 2024 De vaste commissie voor Digitale Zaken en de vaste commissie voorFinanciën hebben op 17 april 2024 overleg gevoerd met mevrouw VanHuffelen, Staatssecretaris Koninkrijksrelaties en Digitalisering, en deheer Van Rij, Staatssecretaris Fiscaliteit en Belastingdienst, over:−de brief van de Staatssecretaris Koninkrijksrelaties enDigitalisering d.d. 24 mei 2023 inzake toezicht in het digitaledomein (onder andere op AI en algoritmes) (Kamerstuk 26 643,nr. 1029);−de brief van de Staatssecretaris Koninkrijksrelaties enDigitalisering d.d. 9 juni 2023 inzake voortgang ROB-adviesrapport Sturen of gestuurd worden? Over de legitimiteitvan sturen met data (Kamerstuk 26 643, nr. 1034);−de brief van de Staatssecretaris Koninkrijksrelaties enDigitalisering d.d. 7 juli 2023 inzake verzamelbrief algoritmenreguleren (Kamerstuk 26 643, nr. 1056);−de brief van de Staatssecretaris Koninkrijksrelaties enDigitalisering d.d. 21 december 2023 inzake opschalingalgoritmetoezichthouder (directie Coördinatie Algoritmes bijde AP) (Kamerstuk 26 643, nr. 1110);−de brief van de Staatssecretaris Koninkrijksrelaties enDigitalisering d.d. 18 maart 2024 inzake kabinetsreactie opartikel Follow the Money inzake risicomodellen (Kamerstuk26 643, nr. 1146);−de brief van de Staatssecretaris Koninkrijksrelaties enDigitalisering d.d. 9 april 2024 inzake uitstel toezendingreactie op verzoek van het lid Idsinga, gedaan tijdens deregeling van werkzaamheden van 19 januari 2024, over eenlijst van alle algoritmen die mogelijkerwijs illegaal zijn(Kamerstuk 26 643, nr. 1150). kst-26643-1209ISSN 0921 - 7371’s-Gravenhage 2024Tweede Kamer, vergaderjaar 2023–2024, 26 643, nr. 12091 Van dit overleg brengen de commissies bijgaand geredigeerd woordelijkverslag uit.De fungerend voorzitter van de vaste commissie voor Digitale Zaken,KathmannDe fungerend voorzitter van de vaste commissie voor Financiën,TielenDe griffier van de vaste commissie voor Digitale Zaken,BoeveTweede Kamer, vergaderjaar 2023–2024, 26 643, nr. 12092 Voorzitter: KathmannGriffier: BoeveAanwezig zijn acht leden der Kamer, te weten: Van Baarle, Kathmann,Krul, Meulenkamp, Six Dijkstra, Valize en Van der Werf,en mevrouw Van Huffelen, Staatssecretaris Koninkrijksrelaties enDigitalisering, en de heer Van Rij, Staatssecretaris Fiscaliteit enBelastingdienst.Aanvang 10.00 uur.De voorzitter:We gaan starten met het commissiedebat Inzet algoritmes en data-ethiek.Welkom aan al mijn collega’s van de Tweede Kamer en een bijzonderwelkom aan de twee bewindspersonen: Staatssecretaris van FinanciënVan Rij en Staatssecretaris Van Huffelen. Gezien de tijd die we hebben enhet aantal Kamerleden denk ik dat we kunnen starten met denken dat vierinterrupties in tweeën gaat lukken. En het zou mooi zijn als iedereen heteen beetje kort wil houden.Het woord is aan de heer Six Dijkstra van NSC.De heer Six Dijkstra (NSC):Dank u wel, voorzitter. Het Hof van Justitie van Europa heeft onlangsgeoordeeld dat geautomatiseerde kredietscores strijdig zijn met artikel 22van de AVG, het verbod op automatische besluitvorming. De landsad-vocaat heeft naar aanleiding daarvan geadviseerd dat het gebruik vanniet-transparante risicoprofielen via algoritmen zonder onderliggendewetgeving hoogstwaarschijnlijk illegaal is, omdat burgers daardoorrechtsbescherming missen. De gevolgen van deze uitspraak zijn dusbehoorlijk verstrekkend. Geautomatiseerde risicoprofielen zijn, zonderwettelijke grondslag, verboden. Delen de staatssecretarissen dieconclusie?Ik zou graag van de Staatssecretaris Digitalisering willen weten hoeveeloverheidsdepartementen er nog meer gebruik maken van algoritmen enselectiemethodes die op basis van dat advies mogelijk in strijd zijn met deAVG op dat punt. Mijn collega Idsinga heeft daarom ook het verzoekgedaan om een lijst met potentieel onrechtmatige algoritmen naar deKamer te sturen. Daar is inmiddels een uitstelbrief op gekomen. Op welketermijn, vraag ik aan de Staatssecretaris, kunnen we die lijst verwachten?De echte vraag is of wij als parlement de gevolgen van die uitspraakoverzien. Want als we de conclusie kunnen trekken dat niet-transparanterisicoprofielen zonder wettelijke grondslag in strijd zijn met de AVG, danmoeten er of een hoop algoritmen uit gebruik genomen worden of moeter een hoop nieuwe wetgeving komen. Laten we het dan ook grondigaanpakken. Een wettelijke versteviging van overheidsalgoritmen lijkt onsnamelijk hard nodig. Is de Staatssecretaris dat met ons eens?Het debat dat wij hier als Kamer doorgaans voeren over de wenselijkheiden wetmatigheid van algoritmen, is altijd achteraf, als er iets misgaat ener mensen in de verdrukking komen. Mijn fractie vindt er best wat voor tezeggen dat nieuwe, impactvolle algoritmen die persoonsgegevensverwerken bijvoorbeeld niet alleen in het Algoritmeregister vastgelegdworden, maar ook, bijvoorbeeld via een voorhangprocedure vanwetgeving, langs de Staten-Generaal gaan. Dat zodat de Tweede Kamer zeaan de voorkant kan inzien en we er, indien nodig, een debat over kunnenvoeren, want dan zijn algoritmen écht democratisch geborgd. Hoe kijkt deStaatssecretaris daartegen aan?Dan wil ik het graag nog even hebben over het Implementatiekader voorde Inzet van Algoritmen, het IKA. De Staatssecretaris heeft de Kamer eenflinke lijst gestuurd van de normen en maatregelen waaraan binnen deTweede Kamer, vergaderjaar 2023–2024, 26 643, nr. 12093 overheid voldaan moet worden om algoritmen met een grote impact in tezetten. Laat ik vooropstellen dat ik de inzet van de Staatssecretaris omgrip te krijgen op algoritmen binnen de overheid waardeer. Dat willen wevolgens mij allemaal, ook in deze Kamer. Zie ook alle moties die op ditvlak de afgelopen jaren zijn ingediend. Vorige maand is na het DUO-debatook een motie aangenomen over een verplichte algoritme-apk. Ik sluit nietuit dat er bij het volgende algoritmeschandaal weer een stapeltje kadersbovenop komt. Het is allemaal sympathiek en natuurlijk goedbedoeld,maar ik ben wel een beetje bang dat we door de bureaucratische bomenhet bos niet meer zien en dat we hier goed gedrag willen afdwingen metregeldruk.Eerder zagen we bij de Belastingdienst, het UWV, de gemeente Rotterdamen DUO namelijk dat het volstrekt duidelijk was dat de algoritmen dieingezet werden om fraude mee op te sporen, niet rechtmatig waren of –laat ik het helder verwoorden – dat ze regelrecht discrimineerden. Vaakwas het probleem ook niet dat dat niet tijdig gesignaleerd werd, maar datde verantwoordelijke personen gewoon alle waarschuwingen in de windsloegen en vrolijk doorgingen met de inzet. Het is in zo’n geval eenkwestie van slecht bestuur. Mijn oprechte vraag aan de Staatssecretaris isof de huidige beleidskaders voor alle departementen werkbaar zijn.Kunnen alle grote problemen die binnen de overheid rondom algoritmenspelen, niet veel beter aangepakt worden door vast te houden aan eenpaar kernachtige principes en aan gewetensvol bestuur, in plaats van meteen heel groot IKA met IAMA’s en alles wat daarbij komt kijken? Ik noemprincipes als «houd je aan de Grondwet en aan de AVG», «wees trans-parant richting burgers» en «zorg voor goed toezicht». Ik heb wat toezichtbetreft overigens liever een sterke, goed geëquipeerde AutoriteitPersoonsgegevens met echte doorzettingsmacht, dan al die dure externeconsultancybureaus die door de persoonlijke data van burgers moetenspitten.Mijn laatste vraag stel ik mede namens de ChristenUnie. Hoe staat hetmet de uitvoering van de aangenomen motie-Leijten/Ceder over hetuitwerken van meer samenhang tussen verschillende waardekaders?Voorzitter. Ik rond af. Ik geloof in de schoonheid van eenvoud. Ik weet datik hier de strijd met de onverbiddelijke tijdsgeest aanga, maar misschienwordt het tijd om eens van het dogma af te stappen dat de overheid altijden overal maar meer data driven moet zijn. Niet alles wat kan, moet ook.Want daar waar het de verwerking van persoonsgegevens betreft, delvenmeer dan eens de personen achter de gegevens het onderspit.Dank u wel.De voorzitter:U heeft een interruptie van de heer Van Baarle van DENK.De heer Van Baarle (DENK):Dat klopt. Ik dank de heer Six Dijkstra voor zijn inbreng. Ik vraag me wel afhoe ik zijn inbreng exact moet wegen. Hij heeft het over het dilemmatussen, aan de ene kant, de noodzaak tot het scheppen van normen en,aan de andere kant, het niet doorslaan in een woud van regelgeving. Hoemoet ik dat nou zien? Bepleit de heer Six Dijkstra namens NSC dat we dezaken die we met elkaar in gang hebben gezet, namelijk het vastleggenvan normen, in algemenere termen zouden moeten gaan uitvoeren? Enbepleit hij dus dat je de goede praktijkstappen die je kan doorlopen omzaken non-discriminatoir te maken, niet moet vastleggen? Ziet hij lieverdat algemene principes worden vastgelegd? Of begrijp ik het danverkeerd?De heer Six Dijkstra (NSC):Ik dank de heer Van Baarle voor zijn vraag. Het punt dat ik wilde maken, isdat wanneer er een volgend algoritmeschandaal is, we soms als Kamer inTweede Kamer, vergaderjaar 2023–2024, 26 643, nr. 12094 de reflex kunnen schieten dat er een hele lijst moties komt met nieuwemaatregelen die moeten worden getroffen. Hierdoor gaat de samenhangsoms nog weleens verloren.Laat ik vooropstellen: non-discriminatoire eigenschappen van algoritmeslijkt mij een basisprincipe, een principe waar we ons altijd aan moetenhouden. Mijn oprechte vraag aan de Staatssecretaris is: is die samenhanger nog wel, met alle moties die er zijn geweest, en alle extra kaders? Dat ismijn vraag. Is het niet makkelijker om het te versimpelen? Mijn punt is ookdat, wanneer er een nieuw overheidsschandaal rondom algoritmes is, ikme afvraag of dat wel wordt geconstateerd. Is er wel een functionarisgegevensbescherming of iemand anders die aangeeft dat er wordtgediscrimineerd? En is het probleem dat daar niet naar geluisterd wordt?Het lijkt mij dat daar de bottleneck zit en dat we ervoor moeten oppassenom niet meer kaders en meer regeldruk in te voeren daar waar eigenlijkeen vereenvoudiging en goed toezicht het echte probleem zouden moetenoplossen?De voorzitter:En u heeft een interruptie van de heer Krul van het CDA.De heer Krul (CDA):Ik dank de heer Six Dijkstra voor zijn betoog en ik stel eerst een openvraag. Ik ben heel erg benieuwd hoe de heer Six Dijkstra naar het begrip«goed toezicht» kijkt. Hoe zou de heer Six Dijkstra bijvoorbeeld het belangvan fraudeopsporing en de toezichthoudende functie die de overheidhoort te hebben wegen? Dit vraag ik ook in het licht van deze uitspraakvan het Hof waar ik zelf ook uitgebreid op terug zal komen, omdat het ookgewoon kan betekenen dat we beslisregels die misschien helemaal nietzozeer algoritmisch zijn, straks ook niet meer kunnen gebruiken. Hoeweegt de heer Six Dijkstra dan de rol als het gaat om gewoonfraudeopsporing?De heer Six Dijkstra (NSC):Ik hoor twee vragen, een over toezicht en een over fraudeopsporing. Datzijn natuurlijk wel twee andere dingen. Als het gaat om toezicht, vind ikhet goed dat de Autoriteit Persoonsgegevens tegenwoordig een afdelingheeft die specifiek ziet op algoritmes. Tegelijkertijd zal fraudeopsporing inenige mate moeten plaatsvinden en dat kan niet altijd handmatig. Dus ikdenk dat we er niet aan ontkomen dat we in sommige gevallen algoritmesgaan inzetten. Het Hof heeft geoordeeld dat dat zonder stevige wettelijkebasis niet mag. Dus ik zou zeggen: laten we die wettelijke basis verste-vigen. Laten we ervoor zorgen dat we met z’n allen de kaders afstellenvoor de algoritmes die wel worden ingezet en die enige impact hebben opde rechtszekerheid of de rechtsbescherming van burgers en dat we daarook goed op kunnen controleren via een toezichthouder en via transpa-rantie richting de burgers. Mijn vraag zou ook zijn, kan dat misschien meteen rol voor de Kamer via een voorhangprocedure?De heer Krul (CDA):Een vervolgvraag. Dus als ik het goed begrijp zegt de heer Six Dijkstra,bijvoorbeeld als het gaat om geautomatiseerde besluitvorming bij fiscalegegevens, die eigenlijk gewoon nodig zijn om op een goede manierfraude te kunnen opsporen: ja, dat is gewoon nodig. Dat is dan nietdatgene waar het in zijn betoog om gaat. Dat is wel een grote zorg die ikheb. Als ik het SCHUFA-arrest goed lees, lijkt het namelijk dat ook datbinnen die geautomatiseerde besluitvorming valt. Dat lijkt mij eenonwenselijke situatie.De heer Six Dijkstra (NSC):Tweede Kamer, vergaderjaar 2023–2024, 26 643, nr. 12095 Hoe ik de uitspraak lees – ik ben dan ook wel benieuwd naar de duidingvan de staatssecretarissen – is dat het voornamelijk ligt aan een gebrekaan additionele wetgeving boven op de AVG die dit zou moeten toestaan,omdat die automatische besluitvorming an sich in strijd is met de AVG. Ikdenk niet dat we naar een situatie toe moeten waarin elk geval handmatigmoet worden getoetst. Ik denk dat we af en toe wel wat kritischer mogenzijn op waar we wel of niet algoritmes voor inzetten. Maar daar kan ik inhet geval van de Belastingdienst nu, op deze afstand, geen uitspraak overdoen. Ik kan wel zeggen dat we een goede wettelijke borging moetenhebben voor datgene dat we wel doen.De voorzitter:Een interruptie van mevrouw Van der Werf.Mevrouw Van der Werf (D66):Ik hoorde dat collega Six Dijkstra het had over die procedure bijalgoritmes bij de overheid via een voorhangprocedure. Ik snap diegedachtegang, maar er zitten natuurlijk ook risico’s aan, zeker als jebijvoorbeeld bij toeslagen kijkt, waarbij de druk natuurlijk ook vanuit depolitiek heel erg is opgevoerd. Zou je dat dan niet opensource willenmaken, zodat meerdere experts mee kunnen kijken en je minder gevoeligbent voor de politieke wind die er waait?De heer Six Dijkstra (NSC):Dat is een interessante vraag. Ik denk dat het en-en is. Als ik open sourceinterpreteer als transparant vastleggen, dus een Algoritmeregister, is hetantwoord ja. Maar tegelijkertijd zou ik denken: als er een nieuw algoritmein werking treedt dat grote impact heeft op burgers omdat het persoons-gegevens verwerkt of omdat het enige profilering van burgers teweeg-brengt, moeten we daar ook een debat over kunnen voeren. Ik zeg niet datwe elke keer dat er een nieuw algoritme komt, een debat moetenaanvragen, maar in sommige gevallen zal het kunnen gebeuren dat wedenken «dit is kritiek en dit is iets waarover je in elk geval het debat zouwillen voeren» en dat we dat dan samen doen. Bij voorhang is het ookniet zo dat je noodzakelijkerwijs over alles een debat voert, maar dat datdebat er wel komt wanneer je dat aanvraagt.De voorzitter:Een vervolgvraag van mevrouw Van der Werf.Mevrouw Van der Werf (D66):Voorzitter, ik wil eigenlijk met mijn inbreng beginnen.De voorzitter:O, ik dacht dat u een vervolgvraag had. Dan is het woord aan u, mevrouwVan der Werf.Mevrouw Van der Werf (D66):Voorzitter. Ik vond het een antwoord waar ik mee kan leven, dus ik was devolgende in de rij.When you invent the ship, you also invent the shipwreck, aldus de Fransefilosoof Paul Virilio. Aan die uitspraak moest ik denken in het kader vangeneratieve AI. We hebben een schip uitgevonden waar we ontzettendveel nieuwe dingen mee kunnen. Dat biedt enorme mogelijkheden waarwe de vruchten van moeten plukken. Maar het heeft ook slechte gevolgen.Daar moeten we als politiek maatregelen voor treffen, bijvoorbeeld voorhet verhogen van het bewustzijn van mensen over wat mag en wat nietmag met het gebruik van AI. Terwijl de één via deepfake een leukdansfilmpje maakt van een politicus, proberen criminelen moedwilligmensen op te lichten en af te persen met andere deepfakes. Gelukkig isTweede Kamer, vergaderjaar 2023–2024, 26 643, nr. 12096 dat strafbaar, net zoals niet iedereen misschien doorheeft dat Chat GPTartikelen met auteursrecht citeert. Er zijn natuurlijk regels verbonden aanhet gebruik daarvan. Kan de Staatssecretaris daarop reflecteren? Wat isnodig om ervoor te zorgen dat particulieren deze kansen en gevaren goedgaan begrijpen? Want dit wordt niet alleen gebruikt in het bedrijfsleven;iedereen gaat hiermee aan de haal.Onze wetten en regels lopen online mateloos achter in vergelijking met defysieke wereld. Dat is ook al vaak voorgekomen in debatten overveiligheid. Daarom is het belangrijk om onze weerbaarheid te vergroten.Ik zag onlangs een onderzoek van Humo, waarin een journalist liet ziendat hij met een nieuw TikTokaccount binnen vier likes een fuik werdingetrokken van extreem gewelddadige inhoud. Een ander onderzoek laatzien dat juist eenzame jongens vrouwonvriendelijke Andrew Tate-achtigecontent krijgen voorgeschoteld. Ondanks dat de AI Act in elk gevaltransparantie zal vereisen over dit soort algoritmes, is het vooral in onsbelang dat we ons weerbaarder maken tegen de werking hiervan, zekerals het gaat om kwetsbare jongeren en kinderen.Wat is de volgende stap na die AI Act? Hoe gaan we van transparantienaar ingrijpen tegen zaken als radicalisering en polarisering, vraag ik deStaatssecretaris. En in hoeverre wordt er bijvoorbeeld binnen de AI Actuitvoering gegeven aan de aangenomen motie van D66 en de VVD omontwrichtende algoritmes te verbieden?Voorzitter. Dat vraagt ook om wat meer hygiëne bij onze eigen algoritmes.Er is het Algoritmeregister dat inzichtelijk moet maken hoe de algoritmesvan de overheid werken, maar dit heeft geen verplichtend karakter.Algoritmes over bijvoorbeeld opsporing en criminaliteitsbestrijding zijnuitgesloten. Dat is niet onlogisch, maar er zit natuurlijk wel een spanningachter. Deze algoritmes zorgen er bijvoorbeeld voor dat de flitspaal defoto van het kenteken koppelt. Dat zijn natuurlijk niet de meest risicovollealgoritmes, maar juist de algoritmes die bijvoorbeeld over impactvollebeslissingen gaan, zou je op een goede manier moeten en willenuitleggen. Kan de Staatssecretaris hierop ingaan?Ten slotte, voorzitter. Ik begon mijn verhaal met de kansen die AI ons tebieden heeft. Daar zou ik ook mee willen eindigen. Het bedrijfsleven pastAI al volop toe om het werk sneller, efficiënter en leuker te maken. Als AIons saaie administratieve taken uit handen kan nemen, houden we meeruren over voor het uitdagende werk. Toch blijft de inzet ervan binnen deoverheid, bijvoorbeeld zeker bij gemeenten, nog heel erg beperkt. Hoemooi zou het zijn als een ambtenaar de tijd die hij of zij moet steken in hetschrijven van standaardbrieven, kan steken in het helpen van een burgerdie klem is komen te zitten en die de gemeente om hulp vraagt? Ik hoorgraag een reactie van de Staatssecretaris en ik ben benieuwd of zij metons erover kan meedenken wat hier mogelijk is.De voorzitter:Ik zie geen interrupties. Dan is het woord aan de heer Valize van de PVV.De heer Valize (PVV):Voorzitter, dank voor het antwoord. Mijn inbreng is ditmaal niet zo groot.Ik heb slechts drie onderwerpen: het implementatiekader van hetalgoritme, de voortgang van het Algoritmeregister en de opschaling vande algoritmetoezichthouder. Het eerste onderwerp is dus het IKA. Dit isontwikkeld op verzoek van de Kamer met als doel om overheden teondersteunen bij de verantwoorde inzet van algoritmes. We lezen in debrieven dat het een levend document is dat verder doorontwikkeld zalworden. Het IKA is in lijn gebracht met belangrijke onderwerpen die medede basis hebben gevormd voor de AI-verordening, de AI Act, die erinmiddels ook door is. Vandaar de volgende vragen aan de Staatssecre-taris. In hoeverre is het IKA nu bekend? Weten de departementen ervan enhoe zijn de ervaringen in het veld? Ook wil de PVV graag weten of deTweede Kamer, vergaderjaar 2023–2024, 26 643, nr. 12097 AI Act, nu die een feit is, nog verder gaat dan het IKA en, zo ja, op welkepunten? Maar dit geldt ook omgekeerd: gaat IKA ergens verder op in dande AI Act?Voorzitter. Dan de voortgang van het Algoritmeregister. De Kamer heeftgevraagd om de publicatie van algoritmes van de overheid te verplichten.De Staatssecretaris schreef in de verzamelbrief Algoritmen reguleren en inde brief Opschaling algoritmetoezicht dat ze er niet voor heeft gekozen omregistratie te verplichten omdat zij dit in samenhang wil bezien met dedefinitieve tekst van de AI Act. De PVV wil duidelijk stellen dat wat inEuropa speelt, geen beweegreden is of kan zijn om geen gehoor te gevenaan een oproep van de Kamer. Dat gezegd hebbende wil de PVV nu graagvan de Staatssecretaris vernemen hoe zij, nu de AI-verordening er is,gehoor zal geven aan deze oproep.We hebben inmiddels vernomen dat er op dit ogenblik 340 algoritmes indat register staan, voornamelijk aangeleverd vanuit de gemeenten.Waarom kan dit register niet gewoon al tjokvol zitten met gebruiktealgoritmes? Is dat omdat er te pas en te onpas gewerkt wordt in deselectie van data? Wordt er bij departementen niet vooraf nagedacht overhoe algoritmes dienen te worden opgesteld? Ik vind dit immersschokkend. Het is belangrijk om hier goed over na te denken. Immers, alsje in een sequentiële opvolging twee filters verwisselt, kan dat een heelandere uitkomst bieden. Ofwel: als je bij een legobouwpakket van eenbrandweerkazerne op pagina 12 begint met de instructie en dan opverschillende plekken in het boekje de instructies opvolgt, heb jeuiteindelijk geen brandweerkazerne. Is er dan geen verslaglegging? Jeverzint iets, je verantwoordt dat en je krijgt een akkoord vanuit de hogerehiërarchie. Indien dat niet het geval is, hoe is het dan mogelijk en wat gaatde Staatssecretaris eraan doen om dit onder controle te krijgen?Voorzitter, tot slot de opschaling van de algoritmetoezichthouder. DeAutoriteit Persoonsgegevens heeft de directie Coördinatie Algoritmes inhet leven geroepen voor het toezicht houden. In het kader daarvan of vande aanscherping moet zij nu tweemaal per jaar een risicoanalysealgoritmes Nederland uitvoeren en in kaart brengen welke publiekeloketten er zijn om algoritmegerelateerde problematiek te melden en inhoeverre burgers deze loketten weten te vinden. Er staat niet bij of dit totextra regeldruk leidt, maar de PVV zou graag van de Staatssecretarisvernemen of de capaciteit er wel is om deze doelen te realiseren en watde impact van de Europese wet- en regelgeving, zoals de AI-verordening,de Dataverordening en de Digitaledienstenverordening, op de beschikbarecapaciteit gaat zijn. Ik las reeds over de toename van de financiëlemiddelen in de komende jaren: een verdubbeling in 2024 ten opzichte van2023 en 3,6 miljoen in de opvolgende jaren. Maar ik bedoel dus quapersoneel en in relatie tot wat er nog aankomt, dus niet in de financiëlemiddelen, want ik neem aan dat die toereikend zijn.Voorzitter, daarmee ben ik aan het einde van mijn betoog gekomen. Danku.De voorzitter:U heeft een interruptie van de heer Van Baarle en daarna een interruptievan mevrouw Van der Werf.De heer Van Baarle (DENK):We hebben uiteraard al heel erg lang een discussie in dit huis over detoepassing van algoritmen en ook over in hoeverre de overheid maatre-gelen zou moeten nemen om ervoor te zorgen dat die algoritmen geendiscriminerende werking hebben. Er zijn veel voorstellen in de Kamergedaan om waarborgen in te bouwen om algoritmen niet een discrimine-rende werking te laten hebben. Die heeft de PVV altijd – laat ik zeggen: inde meeste gevallen – niet gesteund, vaak met de argumentatie dat de PVVprincipieel eigenlijk niet zo veel moeite heeft met het gebruiken vanTweede Kamer, vergaderjaar 2023–2024, 26 643, nr. 12098 nationaliteit en etniciteit als risicoclassificatie. De PVV vond dat eigenlijkbest een goede indicator om fraude te achterhalen en mensen teprofileren. Ik vraag me af wat de positie van de PVV nu is.De heer Valize (PVV):Ik vind dat dat thuishoort bij de departementen waar die algoritmenbepaald worden. Door verschillende commissies, zoals ze er zijn, wordtdus beoordeeld of iets is toegestaan of niet en of het verantwoord is ofniet. Dat moet dus per onderdeel bekeken worden. Het doel heiligt demiddelen.De voorzitter:Een vervolgvraag van de heer Van Baarle.De heer Van Baarle (DENK):«Per geval bekijken per ministerie», maar ik vraag de PVV om een visie tegeven op het gebruik van nationaliteit en afkomstgerelateerde gegevens.We hebben daar verschrikkelijke dingen over meegemaakt, bijvoorbeeldbij DUO en ook de toeslagenmisdaad was daar een voorbeeld van. AlsKamer willen we daarvoor kaders stellen. U zegt dat het doel de middelenheiligt. Betekent dit dat de PVV vindt dat je nationaliteit en etniciteit alsindicatoren zou mogen inzetten als dat in de optiek van de PVV eeneffectief instrument zou moeten zijn, terwijl we hier als Kamer meerderemalen met elkaar hebben uitgesproken dat het gewoon onwenselijkeindicatoren zijn omdat zij mensen wegzetten op basis van uitkomst,huidskleur en dat soort verwerpelijke zaken?De heer Valize (PVV):Wanneer je alles gaat verbieden, kun je geen trends onderzoeken en kunje ook helemaal niets analyseren. Ik zie er dus geen probleem in om perdepartement te bekijken welke algoritmen zijn toegestaan en waarom zemoeten worden toegestaan als er maar een maatschappelijke verant-woording wordt afgelegd over waarom een bepaald onderzoek wordtingezet.De voorzitter:Dan de interruptie van mevrouw Van der Werf.Mevrouw Van der Werf (D66):Hoe staat de PVV nou zelf tegenover het wel of niet verplicht in hetregister opnemen van algoritmes?De heer Valize (PVV):Het verplicht opnemen van algoritmes in een register is een goede zaak.Je moet inzichtelijkheid bieden als overheid.Mevrouw Van der Werf (D66):Ik vraag het omdat de overheid natuurlijk heel breed is. Geldt dit dan ookvoor hele kleine gemeenten die maar een beperkte capaciteit hebben?De heer Valize (PVV):Het vergt niet heel veel capaciteit om een algoritme uit te schrijven en aanhet register toe te voegen. Ik snap dus niet waarom een kleine gemeentezou worden uitgesloten van het deponeren van het algoritme in hetregister.De voorzitter:Dan is het woord aan de heer Krul van het CDA voor zijn inbreng.De heer Krul (CDA):Tweede Kamer, vergaderjaar 2023–2024, 26 643, nr. 12099 Voorzitter, dank u wel. Wat dit soort debatten altijd kenmerkt, is dat jemoet kiezen uit heel erg veel interessante onderwerpen in een hele kortetijd. Ik heb gekozen voor één onderwerp, waarmee ik niet zeg dat mijninbreng minder groot is dan die van de heer Valize, maar het is welhetzelfde onderwerp als waar de heer Six Dijkstra over gesproken heeft,namelijk het SCHUFA-arrest.Dat arrest ging over het Duitse kredietbureau SCHUFA, dat kredietver-leners informatie verstrekte over personen. Deze informatie werdvervolgens door die kredietverleners gebruikt om te bepalen of een leningwel of niet verstrekt werd. Het Hof heeft geoordeeld dat het toekennenvan automatisch berekende kredietscores niet in overeenstemming is metde AVG. Dit betekent een ruime uitleg van het begrip «geautomatiseerdebesluitvorming», waardoor strengere AVG-regels van toepassing zijn.Volgens de AVG mag je namelijk niet profileren op basis van geautomati-seerde besluitvorming. Deze uitspraak heeft potentieel grote gevolgenvoor bijvoorbeeld de handhaving door de overheid bij belastingfraude enwitwasonderzoek, want ook de landsadvocaat heeft in een recent adviesdeze brede uitleg van de rechter bevestigd. Om een voorbeeld te geven:bij de Belastingdienst worden op basis van signalen automatischbelastingaangiftes uit de bak getrokken. Als iemand hele hoge aftrek-posten heeft maar een laag inkomen, zegt de computer «ping». Dat is eenalgoritme, maar is eigenlijk gewoon een beslisregel. Als straks zelfs deze«ping» van de computer zonder tussenkomst van menselijk handelen instrijd is met de AVG, zien wij grote problemen.Hier heb ik een trits concrete vragen over aan de Staatssecretaris. Hoebeoordeelt de Staatssecretaris de ruime interpretatie van het begrip«geautomatiseerde besluitvorming» door de rechter en het advies van delandsadvocaat? In hoeverre is deze uitspraak over een private kredietver-lener een-op-een van toepassing op de overheid? Gelden er wel of geenandere regels voor organisaties met een wettelijk verankerde taak? Is ereen verschil als het toezicht alleen plaatsvindt op basis van indicatoren diegeen persoonsgegevens zijn, zoals fiscale indicatoren? Wat zijn degevolgen van deze uitspraak voor het fraudebeleid van de overheid,bijvoorbeeld van de Belastingdienst?Mag de Belastingdienst nog op basis van geautomatiseerde signalenonderzoek doen? Wat zou het in de praktijk betekenen als dit niet meermag? Kan dan nog alleen handmatig toezicht plaatsvinden en hoe ziet deStaatssecretaris dat voor zich als het gaat om miljoenen belastingaan-giftes en de nu al nijpende situatie ten aanzien van de personele bezettingvan de Belastingdienst? Welke gevolgen heeft deze uitspraak voor hetwitwastoezicht, waarin banken óók op basis van geautomatiseerdesignalen onderzoek doen? Tot slot: kan de Staatssecretaris toezeggen datdeze uitspraak er niet toe leidt dat het complete toezicht- en handhavings-beleid van bijvoorbeeld de Belastingdienst maar ook van andereuitvoeringsorganisaties stil komt te liggen? Zien we inderdaad hetscheepswrak aankomen waar net al aan gerefereerd is?Voorzitter. Kortom, we hebben grote zorgen over de uitspraak van derechter en ook over het advies van de landsadvocaat. Wij maken ons erzorgen over dat deze strenge uitleg van de AVG ervoor gaat zorgen datfraudeopsporing stil komt te liggen.Voorzitter. Omdat ik dan toch nog één ander onderwerp wil aansnijden –anders is het wel héél eenzijdig – wil ik ook nog een vraag stellen over ...De voorzitter:Voordat u dat doet, heeft u een interruptie van de heer Six Dijkstra.De heer Six Dijkstra (NSC):Dit raakt ook even aan het korte debat dat de heer Krul en ik net hadden. Ikben eigenlijk wel benieuwd naar zijn visie, want in het verleden is doormiddel van fraudebestrijding met gebruik van algoritmes veel fout gegaanTweede Kamer, vergaderjaar 2023–2024, 26 643, nr. 120910 en zijn schandalen ontstaan. Ziet de heer Krul met deze uitspraak niet ookeen kans dat we echt kunnen zorgen voor een goede wettelijke verste-viging van de manier waarop we fraude aanpakken op een manier dat erwel oog is voor mens en recht?De heer Krul (CDA):Dit is een hele terechte vraag. Ja, die kansen zien wij. Die zien wij zeker,met name als het gaat om de verwerking van persoonsgegevens, wantdaar zijn inderdaad hele hoge risico’s dat mensen vermorzeld worden.Maar wij zien ook het risico dat nu in een reflex simpele beslisregels, dieal heel lang van toepassing zijn en die technisch gezien algoritmisch zijn,maar eigenlijk de simpelste functionaliteit hebben, als het ware ook in hetverbod terechtkomen. Hierdoor wordt ook aan de andere kant de taak dieje gewoon als overheid hebt, namelijk handhaven en voorkomen dat erveel fraude plaatsvindt, helemaal onmogelijk gemaakt. Het is dus eenontzettend precaire balans die we moeten zoeken. En het CDA maakt echteen onderscheid als het gaat om het gebruik van persoonsgegevenszonder tussenkomst van menselijk handelen. Daar zitten veel te veelrisico’s in. Maar zonder geautomatiseerde besluitvorming op basis vanfiscale gegevens, de «ping» als het ware, vrezen wij dat het als overheidwel heel ingewikkeld wordt om nog te kunnen handhaven.De voorzitter:Dan kunt u verdergaan met uw inbreng meneer Krul.De heer Krul (CDA):Voorzitter. Ik heb nog een vraag over toezicht. Binnen het Samenwerkings-platform Digitale Toezichthouders, de SDT, zijn vier toezichthouders actief,namelijk: de ACM, de AFM, de AP en het CvdM. En het kabinet overlegtverder met zeven toezichthouders. Daar zitten dus nog de DNB, het CRMen de RDI bij. En dan is er ook nog een werkgroep AI onder de vlag van deInspectieraad, waarin meer dan rijksinspecties, colleges en markttoezicht-houders zitting hebben. Toen ik dit las, dacht ik: oei, dit is wel héélversnipperd en gefragmenteerd; zien we dan, als het om toezicht gaat,door de bomen het bos nog wel? De toezichthouders zelf geven ook aandat het heel versnipperd en gefragmenteerd is. Ik vraag aan de Staatsse-cretaris of zij plannen heeft voor hoe dit kan worden versimpeld.Dank u wel.De voorzitter:Dank u wel. Dan is het woord de heer Van Baarle van DENK.De heer Van Baarle (DENK):Voorzitter, dank u wel. Ik val vandaag in voor mijn collega Ergin. Mijnfractie heeft mij het woord ontnomen op het onderwerp Digitale Zaken,maar in de afgelopen jaren heb ik daarover met veel plezier het woordgevoerd, dus ik val vandaag in. De discussie over de risico’s van detoepassing van algoritmes wordt al lang gevoerd. We hebben demisstanden waar collega Six Dijkstra op wees inderdaad gezien. Dediscussie die ik altijd met deze Staatssecretaris heb gevoerd, ging over deoproep: ga nou eens aan de slag met zo’n bindend kader! De Staatssecre-taris wilde in eerste instantie alleen een handreiking samenstellen, dehandreiking non-discriminatie by design, en wachten op EU-regelgeving;die EU-regelgeving is er nu.Voorzitter. Als het gaat om die handreiking non-discriminatie by design,heb ik wel al een eerste vraag. Ik heb in een motie gevraagd om diehandreiking ook met private partijen te delen en om te onderzoeken inhoeverre private partijen bekend zijn met die handreiking. Wordt datblijvend gedaan en kan de Staatssecretaris er al iets over zeggen of datook in de praktijk wordt toegepast op een manier waarop wij dat wensen?Tweede Kamer, vergaderjaar 2023–2024, 26 643, nr. 120911 Dan het algoritmekader, waarvan we de regels in de AI-verordening gaanvastleggen. Het is mij nu niet helder of dat algoritmekader een soortoverzicht is, dus eigenlijk weer een nieuwe handreiking, of dat het ookbindend is. Ik maak dat zelf niet op uit de laatste brief die gestuurd is.Moet dit verplicht worden toegepast? Geldt dat algoritmekader nu alleenvoor de overheid of geldt het ook voor bedrijven? De voorbeelden die wezien, zoals de toepassing van het algoritme in het anti-witwastoezicht,laten zien dat ook private toepassing van algoritmes een enorme impactheeft op of mensen bijvoorbeeld wel toegang hebben tot geldelijk verkeer,een basisrecht. De fractie van DENK heeft een motie ingediend, die isaangenomen, om voorschriften ten aanzien van non-discriminatie vanalgoritmes in de wet te zetten. Ik ben niet tevreden met de afdoening alsdie motie vervolgens met een niet-bindend kader wordt uitgevoerd.Voorzitter. Hebben we als land eigenlijk de ruimte om dat algoritmekaderop een scherpere manier in te zetten dan de bepalingen in deAI-verordening? Ik maak me daar zorgen over. In de AI-verordening staatbijvoorbeeld een omschrijving van een hoogrisicoalgoritme. Maar wat iseigenlijk een hoogrisicoalgoritme en een impactvol algoritme? Hoepassen we die toe op een manier waarbij we voldoende waarborgentreffen?Tot slot op dit onderwerp: de handhaving. Wie wordt eigenlijk primairverantwoordelijk voor de handhaving als dat algoritmekader bindend is?Is dat inderdaad de AP, die de waakhond is? Is die voldoende toegerustom dat straks ook daadwerkelijk te gaan handhaven?Voorzitter. Dan het Algoritmeregister. Er was een lange discussie over deverplichting daarvan. Ik kan uit de brief niet opmaken of dat, ondanks deaangenomen moties, daadwerkelijk gaat gebeuren. Dit register geldtalleen voor publieke instellingen, dus voor de overheid. Moet dat niet ookgewoon gelden voor private instellingen, dus voor bedrijven? Ook privaatworden er immers impactvolle besluiten over de levens van mensengenomen.Hoe gaan we om met de uitzonderingsgronden? Want de overheid heefter soms nogal een handje van om op basis van het belang van de Staat ofde handhaving niet transparant te zijn. Komt daar snel een kader voor?Voor de uitvoering van de befaamde motie op stuk nr. 21 (35 510), over dedoorlichting van algoritmen, doen we een externe toets. Loopt die externetoets op schema en krijgen we die dus voor de zomer? Kan de Staatsse-cretaris aangeven of we op basis van die doorlichting ook een structureelinstrument gaan maken om die algoritmen periodiek door te lichten?Ik heb dan nog twee korte punten. We hebben een motie ingediendwaarin wordt verzocht om burgers altijd in te lichten als overheidsbe-sluiten zijn genomen op basis van een algoritme of risicoprofilering. Diemotie is aangenomen. Wordt dit nou gewoon vastgelegd in de Algemenewet bestuursrecht?Tot slot, voorzitter. Er is een motie van mij aangenomen over een protocolbij geconstateerde discriminatie door algoritmen. Wanneer kunnen wij datprotocol tegemoetzien? Ik zou daar graag met de Staatssecretaris overdebatteren, voordat het in dat kader komt.Dank u wel, voorzitter.De voorzitter:U heeft een interruptie van de heer Krul van het CDA.De heer Krul (CDA):Als ik het betoog van de heer Van Baarle hoor, krijg ik de indruk dat hetindienen van moties bij deze commissie niet zo veel nut heeft. Ik hoop dathet anders werkt. Ik ben benieuwd of de heer Van Baarle ook eenonderscheid maakt tussen persoonsgegevens en bijvoorbeeld fiscaleindicatoren. Is de heer Van Baarle van mening dat er nog steeds menselijkhandelen moet plaatsvinden als iemands belastingaangifte ergens oppoptTweede Kamer, vergaderjaar 2023–2024, 26 643, nr. 120912 op basis van fiscale indicatoren, dus dat burgers daarover geïnformeerdworden? Ziet de heer Van Baarle niet dat de situatie dan praktischonuitvoerbaar wordt?De heer Van Baarle (DENK):Volgens mij is de vraag eigenlijk of we kunnen blijven werken met eenhandhavingssysteem, mits dat is gebaseerd op objectieve ennon-discriminatoire criteria en er bij impactvolle besluiten altijd menselijkhandelen tussen zit. Dat is eigenlijk altijd precies de inbreng van deDENK-fractie geweest. Je moet het gebruik van een geautomatiseerdsysteem niet per definitie uitsluiten, want dan kunnen we als overheid nietmeer functioneren. We moeten er alleen wel voor zorgen dat het nietdiscrimineert en dat er bij impact op mensen altijd een menselijke checktussen zit.De voorzitter:Het woord is aan de heer Meulenkamp.De heer Meulenkamp (VVD):Dank u wel, voorzitter. De verschillende overheden in Nederland nemenjaarlijks vele miljoenen beslissingen. In toenemende mate wordt daarbijgebruikgemaakt van algoritmes. Plat gezegd wordt er data ingevoerd enrolt er aan de achterkant een beslissing uit. Er zitten kansen in, maar erzijn ook risico’s aan het gebruik van algoritmes.Zojuist werd al gezegd dat de overheid niet meer zonder het gebruik vanalgoritmes kan, zeker met de huidige zeer krappe arbeidsmarkt. Metalgoritmes kunnen er gewoon snel heel veel beslissingen wordengenomen. Hierdoor blijft de overheid effectief voor haar inwoners. Wehebben algoritmes gewoon nodig, zeker ook op het gebied van defensieen criminaliteitsbestrijding. Echter, er zijn wel zorgen over de inzet vandeze algoritmes. Mensen willen graag niet als dataset, maar als mensgezien worden. De affaires die er zijn geweest, zijn net al genoemd.De VVD wil graag inzetten op een goed functionerende overheid, met oogvoor de individuele mens. Algoritmes worden wat ons betreft nog te vaakgezien als een technische oplossing voor een technisch probleem, terwijlin onze ogen altijd de mens centraal moet staan bij de overheid, ongeachtof die zich nou meldt bij een ambtenaar of dat er een algoritme wordtingezet. Dit is een belangrijk onderwerp voor de komende jaren, zeker ineen tijd waarin het vertrouwen in de overheid historisch laag is. Dat geldtniet alleen voor de rijksoverheid, maar ook voor alle andere overheden.We willen dat mensen zich gehoord voelen en daardoor meer vertrouwenkrijgen in de overheid. Dit vraagt in onze ogen om een totaal anderemanier van werken. Het is daarbij cruciaal om weer meer te luisteren naaren te praten met inwoners. Hoe denkt het kabinet dit te kunnen bewerk-stelligen? Kunnen we juist door het inzetten van algoritmen – daar werdnet ook al aan gerefereerd door mijn collega van D66 – weer meer tijdvrijmaken voor de gesprekken met onze inwoners? Kunnen we daarvanuit de overheid actief op sturen? Dat is cruciaal in onze ogen.We leven in een tijdperk dat voor prachtige kansen zorgt, maar zoals weafgelopen weekend weer hebben gezien, leven we ook in een geopolitiekuiterst instabiele tijd. Dat zorgt voor allerlei gevaren. Mijn eigen gemeenteis een aantal jaar geleden ook gehackt door een buitenlandse partij. Ik hebvan dichtbij mogen zien voor hoeveel paniek op de werkvloer dat zorgt. Jeweet dan niet meer hoe je de inwoners van je gemeente een uitkeringkunt verstrekken, en mensen bellen met het bericht dat ze gewoon geeneten kunnen kopen. De lokale overheid weet niet hoe daarmee om tegaan.De VVD heeft in het verleden daarom ook het belang van analogeterugvalopties aangegeven, en diende in dat kader een motie in met hetverzoek om die terugvalopties mee te nemen in de weerbaarheidsana-Tweede Kamer, vergaderjaar 2023–2024, 26 643, nr. 120913 lyses. De VVD is blij dat die motie wordt uitgevoerd en dat er nog vooreind 2024 een update komt van die aanpak. Neemt de Staatssecretarishier ook gemeenten en andere medeoverheden in mee? Dit is voor deVVD echt cruciaal. Zeker ook op basis van mijn ervaring bij een gemeentedie gehackt werd, zeg ik: neem andere gemeenten en provincies alsjeblieftmee bij die terugvalopties. Graag hoor ik uw mening hierover en hoe u ditgaat doen.De voorzitter:Ik vraag de heer Six Dijkstra van NSC om de voorzittershamer even overte nemen en mij het woord te geven.Voorzitter: Six DijkstraDe voorzitter:Dank u wel. Het woord is aan mevrouw Kathmann namens de fractie vanGroenLinks-PvdA.Mevrouw Kathmann (GroenLinks-PvdA):Dank u wel, voorzitter. Technologiegebruik is nooit een doel op zich. Netzoals het hebben van een volle boekenkast niks zegt over hoe slim je bent,zegt het modewoord «AI-powered innovatie» niks over maatschappelijkewaarden. Toch slopen algoritmes en AI overal naar binnen. Soms doen zegoed, soms doen ze kwaad. Alles in mij schreeuwt dan dat we zorgvuldigmoeten zijn. We moeten echt af van de technocratische reflex heilig tevertrouwen in wat een app of algoritme ons zegt, en het stuur in eigenhanden nemen. We laten vraagstukken over digitalisering te vaak aan onsvoorbijgaan. Het is dus echt tijd om duidelijk te zijn over hoe Nederlandzich tot technologie gaat verhouden.We hebben nu heel mooie kabinetsvisies, zoals over generatieve AI, en deveelgeprezen werkagenda liggen. Tegelijkertijd gebruiken gemeenten nogaltijd ondoorgrondelijke algoritmen in de fraudeopsporing, experimen-teren tabakswinkels tegen de wet in met leeftijdsverificatie door gezichts-scans, doen huisartsen triages met AI, bepalen systemen in het onderwijshet leesniveau van mijn kinderen en neemt surveillance op de werkvloertoe, meestal op plekken waar werknemers al een zwakke positie hebben.We moeten van visie naar actie. De Autoriteit Persoonsgegevens en deWRR strijden al lang voor een nationaal deltaplan voor de omgang metalgoritmen en AI bij overheden, de publieke sector en de private sector.Wanneer komt dat plan er? En als dat er niet komt, waarom niet?Onze kritiek op algoritme- en AI-gebruik eindigt vaak bij de overheid. Tochzijn er, zeker in de publieke sector, heel veel commerciële partijen waar jevan afhankelijk kunt zijn, zoals de schuldenindustrie. Bij zorgverzekeraarsen in het onderwijs zien we allerlei gadgets, pilots en experimentjes dievoordat je het weet gewoonterecht zijn geworden. Ik vind dat je algoritmeen AI daar even scherp mag reguleren als bij de overheid. Vindt hetkabinet dat algoritmegebruik en AI-toepassing in de private sector goedgenoeg in beeld zijn? Hoe monitoren we dit beter? Hebben we alleverschillende soorten algoritmen en AI-modellen nu goed gedefinieerd?Zijn er geen blinde vlekken in definities uit Europese verordeningen enNederlandse wetgeving? Waar staan deze begrippen vastgelegd? Ik wildat de rolverdeling tussen toezichthouders concreet wordt. Het is moeilijkom die afspraken aan de waakhonden over te laten. Kan de Staatssecre-taris echt op papier zetten wie eigenlijk wat doet? De Tweede Kamer kandaar dan ook met veel meer inzicht op sturen.De reflex om over te stappen naar algoritmen en AI is goed te begrijpen.We komen handjes tekort, dus schakelen we digitale handjes in. Ik ziedaarbij toch risico’s. Werknemers verliezen grip op hun werk, waardoormensen ontschoold worden. Er is steeds minder kennis van de systemenwaarmee we werken. Wie is er verantwoordelijk als een algoritme ofTweede Kamer, vergaderjaar 2023–2024, 26 643, nr. 120914 AI-toepassing foutief te werk gaat, ook als deze met een positief adviesvan bijvoorbeeld een ondernemingsraad is geïmplementeerd? Wat kan deoverheid doen om het terugdraaien van zo’n implementatie te vergemak-kelijken?Sommige bedrijven moeten een functionaris gegevensbeschermingaanstellen. Dat is natuurlijk een topidee, want zo maak je iemandverantwoordelijk op te komen voor de privacyrechten van werknemers.Kan het kabinet in aanloop naar de actualisatie van de UAVG verkennen ofde verplichting voor een functionaris gegevensbescherming kan wordenuitgebreid, bijvoorbeeld naar sectoren met een hoog risico op surveillanceof waar veel bijzondere persoonsgegevens worden verwerkt?Tot slot. Over dingen die je niet ziet, kun je moeilijk oordelen. Brieven enbeleid kun je fileren, maar een algoritme is zowel voor burgers als politiciondoorgrondelijk. Daar moeten we iets aan doen. De heer Van Baarle hadhet hier ook al over. Kunnen we ervoor zorgen dat er bij elke brief die opde deurmat belandt bij iemand die door een algoritme is geselecteerd alsrisicogeval, een extra paragraaf wordt toegevoegd met de kenmerken opbasis waarvan «de ping is afgegaan», zoals de heer Krul het zei. Het moetinzichtelijk zijn op welke kenmerken diegene geselecteerd is. Is dat nieteen broodnodig stukje uitleg, dat mensen inzicht geeft in de keuzes dieover hun hoofden worden gemaakt? Data-ethiek is altijd politiek. Daaromben ik ook heel blij met dit debat; dit hoort thuis in het hart van onzepolitieke besluitvorming. Dit gesprek is daarom zeker ook niet voorbij. Ikkijk uit naar een politiek waarin, wat digitalisering betreft, wij aan hetstuur zitten in plaats van algoritmen.De voorzitter:Dank u wel. Ik zie geen interrupties. Bij dezen geef ik de voorzittershamerdus weer aan u terug.Voorzitter: KathmannDe voorzitter:Dank u wel. Dan kijk ik even naar rechts, naar de staatssecretarissen. Diehebben twintig minuten nodig. Dan kijk ik ook nog even naar links om tezien of twintig minuten akkoord is. Zijn er mensen die bijvoorbeeldzeggen: ik heb zelf iets meer tijd nodig voor de lunch? Of houden we hetbij twintig minuten? Anders wordt het misschien weer laat. Er is geenbehoefte aan een langere schorsing. We schorsen dus voor twintig mi-nuten.De vergadering wordt van 10.42 uur tot 11.05 uur geschorst.De voorzitter:We gaan starten met de beantwoording van de staatssecretarissen. Ikdenk dat we starten met Staatssecretaris Van Huffelen.Staatssecretaris Van Huffelen:Dat klopt, voorzitter. Ik zal ingaan op de vragen die aan mij zijn gesteld. DeStaatssecretaris naast mij, de heer Van Rij, gaat vooral in op het SCHUFA-arrest. Mijn idee zou zijn om te beginnen met een korte inleiding en dande vragen te beantwoorden.Voorzitter. Het is ontzettend belangrijk – dat hebben de leden van uwcommissie ook aangegeven – om over dit onderwerp, algoritmes endata-ethiek, met elkaar van gedachten te wisselen. De inzet van algoritmesen AI is namelijk steeds vaker onderwerp van gesprek. Het leeft in onzesamenleving. Zeker ook door de recente technologische ontwikkelingenen door wat er fout is gegaan in het verleden, is dit een onderwerp datons bezighoudt. Dat is ook heel hard nodig.Tweede Kamer, vergaderjaar 2023–2024, 26 643, nr. 120915 Wat fijn is, is dat we inmiddels op Europees niveau een AI-verordening totstand hebben gebracht om technologie te reguleren. We zijn natuurlijkook heel hard aan het werk om allerlei handreikingen te ontwikkelen enervoor te zorgen dat we als overheid verantwoord omgaan met AI enalgoritmes. In de afgelopen tijd hebben we ons ingezet om ervoor tezorgen dat het gebruik van algoritmes door overheden aangepakt engereguleerd wordt. Dat hebben we gedaan via het Algoritmeregister, dealgoritmetoezichthouder en het implementatiekader voor algoritmes. Zowillen wij er daadwerkelijk voor zorgen dat de toepassing van AI op eenverantwoorde manier kan plaatsvinden.In deze introductie wil ik graag iets meer zeggen over een viertal onder-werpen. Als eerste wil ik iets meer zeggen over de AI-verordening, dieEuropese wet. Ook wil ik iets meer zeggen over het Algoritmeregister, datwe voor de overheid hebben. Verder wil ik iets zeggen over de toezicht-houder. Tot slot wil ik iets zeggen over het algoritmekader. Ik zal daarbij,als het enigszins kan, ook ingaan op de gestelde vragen.In de AI-verordening, die recent is aangenomen in Europa, komen metname specifieke eisen voor AI-toepassingen tot stand. Nederland heeftzich heel actief bemoeid met de onderhandelingen voor deze verordening,om ervoor te zorgen dat de bescherming van mensenrechten op eengoede manier wordt afgewogen tegen het belang van innovatie enrechtshandhaving. De bescherming van mensenrechten is namelijk eenbelangrijk onderwerp. Daarom hebben we ons er ook voor ingezet dataanbieders van AI-systemen expliciet de risico’s voor mensenrechten,zoals discriminatie, moeten beoordelen en tegengaan bij de ontwikkelingvan hun systemen, zodat problemen in een vroeg stadium worden erkend,herkend en aangepakt. Niet alleen de aanbieder van dit soort AI-systemen,maar ook de gebruikers met een hoog risico moeten extra controles doen.Ze moeten risico’s beoordelen vanuit de context waarin die systemenworden ingezet en de impact die het gebruik heeft voor specifiekegroepen in de samenleving.Nederland heeft zich ingezet voor verbeterde transparantie, om ervoor tezorgen dat overheden zichzelf ook moeten registreren als gebruiker vanhoogrisico-AI-systemen, en dus niet alleen als aanbieder. Zo is hetzichtbaar wanneer een AI-systeem door de overheid wordt gebruikt. In deAI-verordening is ook een notificatieplicht opgenomen. Dus organisatiesdie systemen met een hoog risico gebruiken in hun besluitvormingmoeten dat melden bij degenen over wie dat besluit gaat, wie dat betreft.Dat geldt niet alleen voor overheden, maar ook voor private partijen.Nederland heeft zich ook ingezet om de positie van burgers te versterken.Zo is er een klachtrecht in de AI-verordening opgenomen om ervoor tezorgen dat als je klachten hebt, je dan ook daadwerkelijk terechtkunt bijeen organisatie die daarmee aan de slag gaat.Als het goed is, treedt de AI-verordening in het tweede kwartaal van ditjaar, dus in de komende weken, maanden, in werking. Vervolgens zal diegefaseerd van kracht worden. Zo worden een halfjaar na de inwerking-treding de bepalingen over de verboden praktijken van kracht. Een jaardaarna worden de bepalingen over de zogenaamde general purposeAI-modellen, dus algemene AI-modellen, van kracht. Uiteindelijk wordttwee jaar na inwerkingtreding de rest van de verordening van kracht. Hetis van belang dat ook AI-systemen die al in werking zijn getreden, die ernu al zijn, uiteindelijk ook aan de AI-verordening voldoen. Om deoverheidsorganisaties te ondersteunen bij het proces zullen we deAI-verordeningsvereisten opnemen in het algoritmekader. Daarmeezorgen we ervoor dat dit ook zo snel mogelijk voor overheden duidelijkwordt en dat zij dit ook kunnen invoeren.Dit even over die AI-verordening. Ik kan niet genoeg onderstrepen hoebelangrijk die verordening is, want die zorgt ervoor dat zowel publieke alsprivate organisaties in de EU die al werken met AI of ermee willen werken,voldoen aan eisen die gelden op het gebied van mensenrechten,Tweede Kamer, vergaderjaar 2023–2024, 26 643, nr. 120916 transparantie en klachtenafhandeling. Dat is natuurlijk ontzettendbelangrijk. We zullen in de komende tijd natuurlijk zien dat die technologiezich verder gaat ontwikkelen. Gelukkig biedt de AI-verordening de ruimteom daarin mee te gaan. Tijdens de totstandkoming van de verordeninghebben wij gezien dat generatieve AI ontstond. Die was er nog niet toenwe eraan begonnen. Inmiddels is generatieve AI opgenomen in enonderdeel van de verordening.Dan iets over het Algoritmeregister dat wij als overheid zelf hebbengemaakt. Het is bedoeld om meer transparantie te bieden. Het idee is ookdat alle overheidspartijen ervoor zorgen dat zij hun algoritmes en hunrisicomodellen hierin registreren. Zowel ministeries als provincies engemeenten staan er al in.De voorzitter:U heeft een interruptie van de heer Van Baarle van DENK.De heer Van Baarle (DENK):Ik dank de Staatssecretaris voor de beantwoording en ik heb een vraagover de AI-verordening. De AI-verordening wordt verwerkt in hetimplementatiekader. Is dat implementatiekader bindend? Uit de beant-woording constateer ik eigenlijk dat dat niet zo is. Is het meer eenopvatting als: zo vinden wij dat de AI-verordening geïmplementeerd zoumoeten worden? Wordt het dan op die manier verspreid in de richting vande overheid? Maar gaat het ook naar private partijen? In de AI-verorde-ning staat een aantal zaken. De scope ervan en de gevolgen voor overheiden bedrijven zijn mij niet helemaal helder. Kunnen we geen rechtenontlenen aan het implementatiekader omdat het niet bindend is? Kloptdat?Staatssecretaris Van Huffelen:Nee, dat klopt niet. De AI-verordening heeft directe werking. Het is eenwet die ook hier in Nederland geldt, zowel voor de overheid als voorprivate partijen. De verordening wordt in stapjes ingevoerd, maar zij geldtvoor alle partijen. Het implementatiekader dat wij hebben gemaakt en datwij gaan aanscherpen is erop gericht om het voor overheidspartijen zomakkelijk mogelijk te maken om ook echt te voldoen aan die AI Act. Watmoet je nou precies doen als je een algoritme wil gebruiken? Welketoetsen moet je dan doen? Hoe moet je die uitvoeren? Die toetsen en dieelementen zijn verplichtend, want ze staan in die AI-verordening. Watmoet je doen volgens de AI-verordening? Je moet bijvoorbeeld eenmensenrechtentoets uitvoeren of een data protection impact assessment,DPIA. Dat is verplichtend voor de partijen die ermee moeten werken.De voorzitter:Een vervolgvraag van de heer Van Baarle. Wat wilde de Staatssecretarisnog zeggen?Staatssecretaris Van Huffelen:Ik wilde zeggen dat ik op de specifieke beantwoording van de vraag straksnog kom, maar ik heb wel de algemene regel geschetst.De heer Van Baarle (DENK):Dan wacht ik het even af.De voorzitter:Oké. Dan kunt u verdergaan. U was inmiddels bij het Algoritmeregister.De specifieke beantwoording van de vragen volgt dus nog.Staatssecretaris Van Huffelen:Tweede Kamer, vergaderjaar 2023–2024, 26 643, nr. 120917 Ja. In het register staan inmiddels 345 algoritmes van 117 organisaties.Het is er om inzicht te bieden in de algoritmes die door de overheidworden gebruikt. Er is een grote toename in de afgelopen tijd, zowel vanorganisaties vanuit de rijksoverheid, dus de departementen en deuitvoeringsorganisaties, als vanuit gemeenten en provincies. Het idee isnatuurlijk dat het Algoritmeregister voor 100% gevuld moet worden. Metde rijksoverheidspartijen is afgesproken dat eind volgend jaar allealgoritmes in het register zijn opgenomen. Het is natuurlijk wenselijk datdat zo snel mogelijk gebeurt. Met de heer Krul roep ik alle partijen op omdaar zo snel mogelijk mee te starten en door te gaan. Een gevuld registergeeft aan burgers en journalisten, maar ook aan toezichthouders inzicht inde algoritmes die bij de overheid worden gebruikt.Dan iets over de toezichthouder. Uiteraard is goed toezicht nodig. Het isontzettend belangrijk dat wij de wetgeving handhaven. De AI Act vergtnatuurlijk ook dat er goed gehandhaafd wordt. Dat gebeurt in het systeemvan de verordening op verschillende manieren. Binnen Nederland hebbenwij de algoritmetoezichthouder binnen de Autoriteit Persoonsgegevensingericht. Maar we weten ook dat algoritmes op allerlei plekken in onzesamenleving worden ingezet. De reden waarom we een coördinerende rolbij de Autoriteit Persoonsgegevens hebben neergelegd, is omdat het vanbelang is dat het op een gecoördineerde manier gebeurt door deverschillende toezichthouders vanuit hun specifieke functionaliteit. Bijalgoritmes in de landbouw is het goed dat de toezichthouders op delandbouw kennis hebben van dit soort systemen en weten hoe zij toezichtzouden moeten houden op dit soort algoritmes.Ik had het al over het algoritmekader in het debat met de heer Van Baarle.Wij vinden het belangrijk dat het voor overheidsorganisaties ontzettendhelder is op welke wijze zij moeten voldoen aan die AI Act. Daar willen wehen ook mee helpen en daarvoor hebben wij dat kader gemaakt. Eeneerste versie was er al vorig jaar. Dat kunnen we nu aanscherpen omdater meer helderheid is over de AI-verordening en de regels die daaringelden. Het is heel erg belangrijk dat in dat kader staat hoe de rollen enverantwoordelijkheden bij de inzet van AI zijn. Wat ook belangrijk is, is datwe ervoor zorgen dat dat kader in de komende tijd verder wordt ingevuld.We doen dat overigens op een hele open manier, zodat iedereen kanmeekijken. We zetten al die informatie ook op GitHub en zorgen ervoor datiedereen kan meewerken en meedenken over de implementatie van ditkader.Met andere woorden, we hebben dus op een drietal fronten al werkgedaan. De AI Act gaat ons helpen om dat werk in de komende tijd verderaan te scherpen om daarmee zowel in de publieke sector, dus bij deoverheid, als in de private sector, bij bedrijven, te kunnen komen tot eenverantwoorde inzet van algoritmes. Dat is, zo is in de afgelopen tijdgebleken, ook heel erg nodig.Voorzitter. Ik wil nu ingaan op de specifieke vragen die zijn gesteld. Ik hebeen blokje over wet- en regelgeving, over het Algoritmeregister, overtoezicht en over het advies van de landsadvocaat. Zoals ik al aangaf,wordt het grootste deel van dat laatste onderdeel door mijn collegabeantwoord.Ik begin met de wet- en regelgeving. De heer Six Dijkstra vroeg: zijn ervoldoende wettelijke kaders en kunnen we daarmee voorkomen dat opeen onverantwoorde manier gebruik wordt gemaakt van algoritmes? Wijzien dat er op dit moment voldoende kaders zijn, niet in de laatste plaatsdoor de komst van die AI-verordening. Natuurlijk is het zo dat we nogverder moeten werken aan bewustwording en kennis over de implemen-tatie. We moeten de AI-verordening natuurlijk ook nog implementeren inNederland. We moeten nog helderheid krijgen over wat nou precies de rolvan welke toezichthouder wordt onder de coördinatie van de AP.Bovendien moet voor iedereen die aan het werk gaat of al is metalgoritmes, helder worden aan welke eisen moet worden voldaan.Tweede Kamer, vergaderjaar 2023–2024, 26 643, nr. 120918 Dat laatste vind ik ontzettend belangrijk. In vergelijking met de komst vande AVG was het voor sommige partijen in het begin heel onduidelijk hoeje nou precies kon zorgen dat je compliant was, hoe je kon voldoen aan dewet. Wij vinden het ontzettend belangrijk om hieraan in de komende tijdveel tijd en aandacht te besteden. Wij denken dat het kader van deAI-verordening samen met het implementatiekader dat we voor deoverheid maken, voldoende moet zijn om in ieder geval de regels tehebben die nodig zijn om het op een verantwoorde manier te doen.Uiteraard blijven we altijd goed nadenken en kijken of het ook zo is en ofer nieuwe technologie is waar wij nog extra stappen voor moeten zetten.Als op dit moment gevraagd wordt of er voldoende kaders zijn, dan is hetantwoord ja.De voorzitter:U heeft een interruptie van de heer Six Dijkstra.De heer Six Dijkstra (NSC):Dank aan de Staatssecretaris voor de beantwoording. Ik stelde die vraagook in relatie tot het SCHUFA-arrest. Daarin wordt gesteld dat de wijzewaarop wij als land omgaan met algoritmes, mogelijk strijdig is met deAVG en dat er extra wettelijke versterking nodig is. Deelt de Staatssecre-taris die conclusie of kijkt zij daar anders tegenaan?Staatssecretaris Van Huffelen:Ik vind het van belang dat we vooral nog wat tijd nemen om dat goed uitte zoeken. We weten dat er nog een adviesaanvraag ligt bij de AutoriteitPersoonsgegevens om hierop een helder antwoord te krijgen. Het principevan het gebruik van algoritmes moet zo zijn dat alle algoritmes die wijinzetten, voldoen aan de bestaande regelgeving, de AVG, maar ook aan deAI Act. In principe moeten beide een paraplu vormen voor alle inzet vanalgoritmes.De heer Six Dijkstra vroeg ook of de problemen die bij de overheidrondom algoritmes zijn opgetreden, niet makkelijker kunnen wordenaangepakt met een paar kernachtige principes. Ik vind het altijd fijn als jeiets met heel kernachtige principes kan doen. Die hadden wij ook al langvoordat de AVG er was: discriminatie mag niet en transparantie isbelangrijk. Daar hebben we ook wet- en regelgeving voor. Het is wel vanbelang dat we met de aanvullende regels die nu gesteld zijn, zorgen dat ereen goede samenhang is. Die samenhang wil ik heel erg graag totuitdrukking laten komen als het over de overheid gaat in dat implementa-tiekader. Uiteindelijk zijn de principes die in de AI Act zitten, voor eengroot deel gebaseerd op principes die we eerder met elkaar hebbenvastgesteld: non-discriminatie, transparantie, de mogelijkheid om teklagen. Al dit soort elementen zijn in die AI Act opgenomen en heel heldergedefinieerd op basis van een heel heldere definitie van wat AI is. Diecombinatie maakt dat we nu veel duidelijker voor de private en publiekepartijen in heel Europa kaders hebben. Daarmee kunnen we zorgen dat erwordt voldaan aan de inzet op het gebied van mensenrechten.Namens NSC is ook gevraagd naar de wettelijke grondslag voor hetgebruik van automatische besluitvorming voor fraudeopsporing. Welkeverwerking je ook doet, je moet ervoor zorgen dat er een basis voor is inwetgeving. Mijn collega zal verder ingaan op de uitspraak van delandsadvocaat. Dat geldt ook voor het advies dat wij in dit kader nogverwachten van de Autoriteit Persoonsgegevens.Mevrouw Van der Werf vroeg zich af hoe uitvoering is gegeven aan demotie om ervoor te zorgen dat ontwrichtende algoritmes in deAI-verordening worden verboden. Het Europees Parlement heeft in deAI-verordening opgenomen dat ontwrichtende algoritmes als hoog risicoworden gedefinieerd. We moeten er dus voor zorgen dat dit soorthoogrisicoalgoritmes worden getest en getoetst en voorzien van eenTweede Kamer, vergaderjaar 2023–2024, 26 643, nr. 120919 keurmerk voordat ze kunnen worden ingezet. Het is dus ook wenselijk datdit soort algoritmes niet worden toegepast.De voorzitter:U heeft een interruptie van de heer Valize van de PVV en daarna vanmevrouw Van der Werf.De heer Valize (PVV):Ik hoor de Staatssecretaris praten over een keurmerk. In de brieven zag ikhet ook vluchtig voorbijkomen. Daar wordt het een CE-keurmerkgenoemd. Hoe is voor mensen zichtbaar dat dat keurmerk er is? Wordt datop de website gepubliceerd of staat het ergens in de broncode? Ik zoudaar graag een beeld bij krijgen. Hoe kan achterhaald worden dat ietsvoorzien is van een keurmerk?Staatssecretaris Van Huffelen:Het gaat inderdaad over die CE-keurmerken. Daarbij geldt sowieso eenverplichting om het kenbaar te maken. Hoe gaan we dat specifiek doen?Het gebeurt sowieso in het kader van de registratie van het Algoritmere-gister. Daar moet je aangeven of je aan zo’n keurmerk voldoet, maar er ismeer nodig. Mevrouw Van der Werf heeft ook gevraagd om burgers teinformeren. Ik denk dat het goed is dat wij er met elkaar over nadenkenhoe we dat precies kenbaar maken, zodat het voor mensen duidelijk is ofeen algoritme voldoet aan de regels. Sommige algoritmes worden nietaltijd duidelijk een-op-een gebruikt in relatie tot een consument. Maargoed, wanneer een besluit van de overheid gebaseerd is op eenalgoritme, dan is het onze bedoeling om ervoor te zorgen dat het duidelijkis dat het besluit mede is genomen op basis van een algoritme. Als dateen hoogrisicoalgoritme is, dan behoort het natuurlijk conform deAI-verordening voorzien te zijn van zo’n keurmerk.Mevrouw Van der Werf (D66):Nog even voor de helderheid. De Staatssecretaris ging zojuist in op devraag over de motie over ontwrichtende algoritmes. Ziet u die ook alsonderdeel van modellen met een systemisch risico? Kunnen we het zienals dat ze zo geïnterpreteerd worden in de AI-verordening?Staatssecretaris Van Huffelen:Voor een deel zit dit ook al in de DSA, dus in de Digitaledienstenveror-dening. U had het in dit geval specifiek over ontwrichtende algoritmes,althans, over informatie die via socialmediaplatforms bij mensenterechtkomt. De DSA stelt eisen aan grote platformbedrijven om in tegrijpen wanneer er sprake is van illegale content of van dit soort ontwrich-tende algoritmes. Dat kan bijvoorbeeld door die algoritmes ook daadwer-kelijk aan te passen.De voorzitter:Een interruptie van de heer Van Baarle van DENK.De heer Van Baarle (DENK):Ik wil ingaan op de gevolgen van de AI-verordening en het keurmerk. Ikwil het gewoon goed begrijpen. Volgens mij staan in de AI-verordeningeen aantal principes, namelijk dat er in het geval van een hoogrisicoalgo-ritme sprake moet zijn van een mensenrechtentoets die onder andere zietop non-discriminatie. Nu hoor ik dat er een keurmerk is. Hoe zorgen weervoor dat niet bedrijven ervoor verantwoordelijk worden om maargewoon het vinkje te zetten dat ze de toets hebben uitgevoerd op demanier die ze willen, maar dat het daadwerkelijk een goede toetsing is?Volgens mij moet hoe je dat doet vervat worden in praktische regels. Enwie gaat er uiteindelijk over dat keurmerk? Wie geeft dat keurmerk, wieTweede Kamer, vergaderjaar 2023–2024, 26 643, nr. 120920 toetst dat, wie stelt dat vast? Anders geven bedrijven dadelijk aan dat zeeen keurmerk-approved methode hebben en dat ze echt niet zullendiscrimineren, maar weten we niet wat dat keurmerk dan is.Staatssecretaris Van Huffelen:Inderdaad, hoogrisicoalgoritmes moeten voldoen aan een aantalvereisten, waaronder een mensenrechtentoets enzovoorts. Bedrijvenmoeten die toets zelf doen, maar daar wordt wel op gecontroleerd, wantanders krijg je zo’n CE-markering niet. Bovendien moeten de toezicht-houders hier natuurlijk ook op toezien. Het is dus inderdaad van belangdat je niet alleen moet aangeven wat je algoritme doet. Je moet een toetsuitvoeren. Voordat je dat keurmerk kunt krijgen, moet je natuurlijk voldoenaan de vereisten, en moet ook duidelijk zijn dat je daaraan voldoet. Ook isvan belang dat de toezichthouders gaan kijken of bedrijven hetassessment op een goede manier uitvoeren. Ook moet er bekeken wordenof het klopt als een bedrijf denkt dat zijn algoritme geen hoog risico heeften dat aangeeft.De voorzitter:Een vervolgvraag van de heer Van Baarle.De heer Van Baarle (DENK):Begrijp ik het nu goed dat dit keurmerk er is voor bedrijven die een dienstaanbieden en dat keurmerk graag willen krijgen? Wordt dat dan getoetst?Voor alle overige bedrijven, die geen keurmerk willen, geldt dus dat detoezichthouder op de specifieke sector zal moeten bekijken of hetassessment goed is toegepast. Het is dan de verantwoordelijkheid van debedrijven. Als er in de AI-verordening een aantal generieke principesstaan, moeten we met elkaar toch een kader hebben op grond waarvanalle toezichthouders gaan toetsen hoe die algemene principes toegepastworden? Ik vraag dus naar de mate waarin dat algoritmekader bindend is.Dat algoritmekader geldt blijkbaar alleen voor de overheid, en niet voorbedrijven. Waar is dan het kader voor bedrijven?Staatssecretaris Van Huffelen:Misschien allereerst even een paar dingen. De heer Van Baarle trekt nueen aantal conclusies die wat mij betreft niet getrokken kunnen worden.Nummer een. In de AI-verordening zijn nu classificaties van algoritmesafgesproken, die goed en scherp moeten worden ingevuld. Natuurlijk zalde praktijk leren dat er altijd weer discussies over zijn, maar de kern is dathoogrisicoalgoritmes nu goed gedefinieerd zijn als algoritmes die jealleen maar kunt toepassen wanneer je ook een keurmerk hebt. Twee.Voor het toepassen van algoritmes bij de overheid maken we eenimplementatiekader. Dan wordt voor overheidspartijen duidelijk op welkewijze zij algoritmes kunnen inzetten, welke toetsen er moeten wordengedaan enzovoorts. Die toetsen zijn ook verplicht. Zo’n IAMA, eenmensenrechtentoets, moet bijvoorbeeld worden uitgevoerd. Van belang isdat ik aan de toezichthouders, onder coördinatie van de AutoriteitPersoonsgegevens, heb gevraagd om de normuitleg van de wet voor allesectoren en alle bedrijven die daaraan moeten voldoen – dat geldtnatuurlijk ook voor de overheid – zo goed mogelijk uit te voeren. Zo’n wetgeldt voor heel veel grote partijen. Je kunt natuurlijk altijd vragen stellenals: hoe zit het precies? Dat moet voor alle partijen zo duidelijk mogelijkworden. Zij hebben ook aangegeven dat ze de normuitleg met elkaar gaanvaststellen. Zo wordt inderdaad ook helder wat deze wet betekent voorjouw bedrijf, of je nou in de landbouw, in verzekeringen, bij een bank ofelders werkt. Als je algoritmen wilt inzetten, aan welke eisen moeten diedan voldoen en hoe kun je dat doen? Dat is een belangrijke stap, die in dekomende tijd gezet moet worden. Vanaf het moment dat deAI-verordening gepubliceerd is, gaat de implementatie in stapjes. DaarTweede Kamer, vergaderjaar 2023–2024, 26 643, nr. 120921 lichtte ik net al iets over toe. In het kader daarvan is die normuitleg dusook heel erg belangrijk. Maar het is geen vrijblijvende verordening,helemaal niet zelfs; noch voor de overheid, noch voor bedrijven.De voorzitter:Een vervolgvraag van de heer Van Baarle.De heer Van Baarle (DENK):Dan heb ik nog wel een vraag. De Staatssecretaris zegt dat een hoogrisi-coalgoritme alleen kan worden ingezet met een keurmerk. Mij is nog niethelder wie dan gaat over dat keurmerk en op basis waarvan een keurmerkdan wordt afgegeven of niet.Staatssecretaris Van Huffelen:Wie het keurmerk gaat uitgeven, moet nog worden bepaald. Dat is nogonderdeel van de implementatie van de wet. Daar komen wij in dekomende tijd zo snel mogelijk op terug.Ik wilde nog voorstellen – dat is een van de dingen die wellicht interessantis voor de heer Van Baarle – dat we in de vorm van een technischebriefing natuurlijk altijd in meer detail uitleg en toelichting kunnen gevenaan de Kamer over hoe de AI-verordening werkt: wat is er al, wat is er nogniet, waar moeten we nog aan werken enzovoorts?Ik ga door met een aantal vragen van de heer Van Baarle, die hij net in eeninterruptie ook opnieuw heeft gesteld. Eén vraag ging nog over deAlgemene wet bestuursrecht en de vraag of overheidsbesluiten op basisvan algoritmes worden opgenomen in de Awb. Dat is op dit moment nogniet zo. De Algemene wet bestuursrecht kent wel een algemene motive-ringsplicht. Op dit moment is er een internetconsultatie gaande over dezespecifieke vraag. Wij vinden het natuurlijk ontzettend belangrijk dat helderis voor burgers hoe een besluit is genomen. Dat is niet alleen belangrijkzodat je weet op basis van welke gegevens dat gebeurd is of op welkemanier de wet wordt toegepast, maar natuurlijk ook om inzicht te krijgenin of er inderdaad sprake is van gebruik van een algoritme. DeAI-verordening geeft een verplichting om burgers te informeren als eenhigh-risk AI-systeem is gebruikt. Over hoe we dat precies in de Awb willenopnemen hebben we nu een internetconsultatie lopen. We hopen die zosnel mogelijk, nog dit voorjaar, te kunnen afronden, zodat we ookduidelijkheid kunnen geven over hoe we dit in de Awb gaan opnemen. Wezijn nu ook in bredere zin die wet aan het aanpassen.De heer Van Baarle vroeg ook nog of we als land de ruimte hebben omhet algoritmekader scherper in te zetten dan de bepalingen van deAI-verordening. We hebben gezegd dat we dat kader willen gebruiken alseen hulpmiddel om te zorgen dat we de verordening op een goeie maniergaan implementeren. Dat kader gebruiken we bij de overheid omoverheidspartijen te helpen om er invulling aan te geven. We kunnenonszelf altijd, als we dat zouden willen, nog scherpere regels opleggen,maar we vinden dat op dit moment niet nodig, omdat we alle elementenerin zien zitten.Dan was er nog de vraag van de VVD over hoe je ervoor kunt zorgen datde mens centraal staat bij het gebruik van algoritmes door de overheid.Natuurlijk moeten we transparant zijn over de inzet van algoritmes,bijvoorbeeld via het Algoritmeregister en de uitleg die we geven over hoeeen besluit tot stand is gekomen. Helder is dat er altijd sprake moet zijnvan menselijke tussenkomst, en dat het mogelijk is om ook in beroep tegaan bij een mens tegen een besluit dat door een algoritme is genomen.We zijn nog steeds bij het blokje wet- en regelgeving. Mevrouw Kathmannvroeg of wij in aanloop naar de actualisatie van de UAVG, de uitvoe-ringswet voor de AVG, kunnen verkennen of de verplichting van eenfunctionaris gegevensbescherming kan worden uitgebreid. Op ditmoment is zo’n functionaris gegevensbescherming al verplicht voor alleTweede Kamer, vergaderjaar 2023–2024, 26 643, nr. 120922 organisaties die vanwege hun aard, omvang of doeleinden op groteschaal regelmatig en stelselmatig observaties van betrokkenen vereisen,en voor organisaties die belast zijn met het verwerken van persoonsge-gevens. Met andere woorden, die is al verplicht in organisaties waar ditaan de orde is. Los daarvan moeten organisaties die zo’n functionaris niethebben de AVG natuurlijk ook naleven. Wij denken dus eigenlijk dat ditniet nodig is, want het is al voldoende duidelijk wanneer een organisatiezo’n functionaris ook daadwerkelijk moet inzetten.Mevrouw Kathmann vroeg of algoritmes en AI-modellen voldoende zijngedefinieerd: zijn er geen blinde vlekken? Dat is eigenlijk in lijn met devraag van de heer Six Dijkstra. Wij denken dat we op dit moment echtgoed uit de voeten kunnen met de definities voor AI-systemen, modellenenzovoorts in de verordening, niet in de laatste plaats omdat er, ook bij deAI-verordening, veel discussie is geweest over welke definitie we nougebruiken. Uiteindelijk is een werkgroep van de OESO daar met allerleiwetenschappelijke inzichten en praktijkinzichten mee aan de slag gegaan.We zien wel dat AI zich ontwikkelt. De technologie ontwikkelt zich. Erkomen wellicht ook weer nieuwe toepassingen. Het is dus altijd nodig omte bekijken of die definities voldoende blijven, ook in de komende tijd.Voor nu kunnen we goed uit de voeten met de huidige definities.Mevrouw Kathmann vroeg ook nog of we ervoor kunnen zorgen dat hetduidelijk is wanneer iemand als risicopersoon is geselecteerd, bijvoor-beeld in het kader van een overheidsbesluit of als iemand al dan niet eenbepaalde subsidie heeft gekregen. We vinden het belangrijk om alsoverheid super transparant te zijn over hoe we besluiten nemen. Wijvinden het ook goed dat dit bijvoorbeeld in een brief komt te staan. Webekijken hoe we dat kunnen doen, bijvoorbeeld door te verwijzen naar hetAlgoritmeregister. We kunnen dat ook doen door te verwijzen naar hetregister op gegevensbijbesluiten.overheid.nl, dat we inmiddels verderaanvullen. We zijn daar behoorlijk mee aan de slag. Dat register geeftinzicht in hoe een besluit bij de overheid wordt gemaakt.Vanuit de AI-verordening is er straks dus ook een notificatieplicht. Metandere woorden, je moet ervoor zorgen dat het helder wordt wanneerhoogrisico-AI is toegepast. De kern van wat we willen bereiken, is:wanneer de burger een brief van de overheid ontvangt met een besluit,zoals het wel of niet ontvangen van subsidie, het starten van verderonderzoek of het verzoek om extra gegevens, is het altijd belangrijk datdie weet waarom de brief wordt gestuurd. Mevrouw Kathmann en ikhebben daar eerder met elkaar een discussie over gehad. Het is belangrijkom te begrijpen waarom je bijvoorbeeld wel of niet in aanmerking komtvoor een studielening, subsidie, of iets van die orde, en dat je dit ook kuntnagaan. Niet alleen de AI-verordening is een hulpmiddel om dat inzicht tebieden. We kunnen dat verder doen door überhaupt inzichtelijk te makenhoe en op basis waarvan we besluiten maken bij de overheid. We zijn daardus heel hard mee aan de slag.De heer Valize van de PVV had een vraag over het implementatiekader:weten departementen daarvan en wat zijn de ervaringen daarmee?Inderdaad, de departementen kennen dit implementatiekader. We zijn hetverder aan het ontwikkelen. We vertelden dat we dit kader aan het eindvan dit jaar verder willen aanvullen met inzichten vanuit deAI-verordening. Zo zorgen we ervoor dat het overheden ook helpt om tevoldoen aan de regels die worden gesteld, zoals in de AI-verordening.Dan was er nog de vraag, ook van de heer Valize, hoe ik ervoor ga zorgendat algoritmes verantwoord kunnen worden ingezet. Daar hebben wenatuurlijk een hele serie van activiteiten voor: niet in de laatste plaats hetalgoritmekader, ervoor zorgen dat er een register is, en natuurlijk ookzorgen dat we die verordening in de komende tijd zo goed mogelijk gaantoepassen.Dan was er ook nog een vraag van de heer Van Baarle van DENK. Die gingover het algoritmekader, maar volgens mij heb ik die al beantwoord. HijTweede Kamer, vergaderjaar 2023–2024, 26 643, nr. 120923 vroeg: is dat nou een verplichtend kader? De elementen daarin zijnnatuurlijk gewoon verplichtend, want je moet voldoen aan mensenrech-tentoetsen, DPIA’s enzovoort, enzovoort als je algoritmes wil gaaninvoeren.Dan is er nog de vraag van de VVD of medeoverheden worden meege-nomen als het gaat om analoge terugvalopties. Dat ging overigens overcyberaanvallen. Dat was een vraag van de heer Meulenkamp. Wij vindenook dat je daar bij het inrichten van algoritmes heel goed naar zal moetenkijken. Ik denk dat we wel meer werk nodig hebben om dat goed tekunnen beantwoorden, maar we willen daar graag mee verder. Als hetgaat over cyberaanvallen in de brede zin van het woord, is het namelijkaltijd belangrijk dat de basisprocessen van een overheid doorgang kunnenblijven vinden. Dat is bijvoorbeeld het kunnen uitgeven van een paspoort,een uitkering of iets anders. Dat geldt natuurlijk net zo goed voor heel veelandere taken. Daarvoor hebben we in het kader van de implementatie vande zogenaamde NIS2-regels, dus de implementatie van Europese wettendie we hebben gemaakt op het gebied van cyberveiligheid, ook nog werkmet elkaar te doen, zeker ook met andere overheden. Dat doen we graagmet hen samen.De heer Meulenkamp (VVD):Geeft u daarmee ook aan dat het echt prioriteit moet hebben? U zegt dat uhet belangrijk vindt, maar gaat u daar de komende maanden ook echtprioriteit aan geven, zeker gezien de onstabiele situatie in de wereld op ditmoment?Staatssecretaris Van Huffelen:Cyberveiligheid heeft een grote prioriteit. Overigens is de eerstverant-woordelijke hiervoor de Minister van JenV. Maar dat laat onverlet dat wedaar echt heel goed op samenwerken, zeker ook als het gaat over deimplementatie van nieuwe regels daarvoor. Maar er zijn veel aspecten diedaarmee samenhangen. Er is echt grote aandacht voor. Het is natuurlijkheel belangrijk dat alle partijen zich heel erg wapenen tegen dit fenomeen,en dus ook inderdaad gemeenten, provincies, waterschappen en grote,cruciale bedrijven, zoals in die in de energiesector en banken. Dit vindt inallerlei vormen en maten plaats en heeft inderdaad zeker in de huidigegeopolitieke situatie in de wereld ongelofelijk veel aandacht nodig. Datheeft dus veel prioriteit. Het is van belang – daar gaat het in dit debatnatuurlijk ook vooral om – dat als je algoritmes gebruikt voor hetuitvoeren van beleid, of dat nou gaat over uitkeringen of subsidies, je ookgoed zorgt dat dat niet stopt wanneer je daar op de een of andere manierproblemen mee krijgt, bijvoorbeeld wanneer die worden gehackt.Dan de vraag van mevrouw Kathmann over het in kaart brengen vanhoogrisicoalgoritmes. Uiterlijk eind volgend jaar moeten dus al diehoogrisicoalgoritmes in het register staan. Het is van belang dat iedereendaar zo snel mogelijk mee aan het werk gaat, maar het is niet onbelangrijkom te weten dat er voor hoogrisicoalgoritmes ook een Europese databankkomt. Er is dus niet alleen het Nederlandse register; ook in Europa moetendie in een databank worden opgenomen.Dan was er nog een vraag over effecten van het inzetten van algoritmesop de werkvloer. Daar had mevrouw Kathmann het over. Het gaat om deeffecten op het dagelijks werk van mensen. Hoe zorg je er dan voor dat erde mogelijkheid is om in te grijpen? Natuurlijk moeten we goed gaankijken naar de inzet van AI en algoritmes en hoe dat gaat werken, nietalleen binnen de overheid, maar ook bij bedrijven. Die implementatiegaan we in de komende tijd verder uitwerken. Maar het is natuurlijk echtheel belangrijk dat als er situaties ontstaan waarbij algoritmes deverkeerde kant op gaan, er voor overheden en bedrijven daadwerkelijk demogelijkheid is om daarbij in te grijpen en te zorgen dat er bijvoorbeeldTweede Kamer, vergaderjaar 2023–2024, 26 643, nr. 120924 de mogelijkheid is om je daartegen te verzetten. Daarvoor is dat klachten-recht bijvoorbeeld ontzettend belangrijk.Er was nog een vraag vanuit NSC over de motie Leijten-Ceder, namelijk:hoe staat het met dat waardenkader? Die vraag is ook gesteld namens deChristenUnie. In de afgelopen tijd heb ik over dit onderwerp gesprokenmet veel experts, die aangeven dat de code voor goed digitaal openbaarbestuur, CODIO, een heel goed overkoepelend kader is om publiekewaarden bij de inzet van technologie te waarborgen. Die gebruiken wedus ook. Die is al ontwikkeld in 2021. De praktische toepasbaarheiddaarvan verdient wel meer werk. Daaraan werken we op dit moment hard.In december, dus aan het eind van dit jaar, zal ik uw Kamer verderinformeren over dat werk. Op dit moment werken we dus op basis van datoverkoepelende CODIO-kader.Dan is er nog de vraag van DENK over de AI-verordening: wat is eenhoogrisicoalgoritme? Daar hebben we volgens mij al iets over gezegd. Datzijn bijvoorbeeld algoritmes waarmee je controleert of een uitkeringrechtmatig wordt verleend of algoritmes voor het scannen van cv’s ensollicitatiebrieven. Bij al dit soort elementen worden algoritmes heelduidelijk als hoogrisicoalgoritmes aangeduid. Die zullen dus moetenvoldoen aan wat er in de verordening over systemen is aangegeven.Dan heb ik volgens mij alle vragen op het gebied van wet- en regelgevingbeantwoord.De voorzitter:Er is een vraag voor u van mevrouw Van der Werf.Mevrouw Van der Werf (D66):Volgens mij zijn er nog een paar dingen blijven liggen, al is er natuurlijkhet risico dat dit in een volgend blokje voorbijkomt. Ik had gevraagd watnou de volgende stap is na de AI-verordening. Hoe ga je van transparantienaar ingrijpen? Ik was benieuwd welke instrumenten je hebt voor denaleving. Dus waar wordt die handhaving dan belegd? Hoe kan je eenscenario zoals we dat nu bij de DSA hebben gezien, waarbij het nog nietrond was, voorkomen?Staatssecretaris Van Huffelen:Op deze AI-verordening wordt toezicht gehouden. De toezichthouderskunnen boetes uitdelen. Dat kunnen flinke boetes zijn; ik geloof dat diekunnen oplopen tot 6% van de totale wereldwijde omzet van een bedrijf.De kern van het verhaal is dus dat het inrichten van toezicht iets is waarwe in de komende tijd mee aan de slag gaan: welke toezichthouder gaatwat doen? We gaan zorgen dat er goede normuitleg is voor bedrijven,zodat mensen ook weten hoe ze moeten voldoen aan deze regels.Vervolgens kan er inderdaad toezicht worden gehouden. Nogmaals,daarbij is een heel instrumentarium aan de orde, inclusief het instrumen-tarium van het daadwerkelijk uitdelen van boetes.De voorzitter:Er is nog een interruptie, van de heer Meulenkamp van de VVD.De heer Meulenkamp (VVD):Ik had de volgende vraag gesteld. Als we algoritmes meer gaangebruiken, is er misschien wel meer tijd om weer te luisteren naar onzeinwoners, zodat mensen buiten ook het voordeel gaan inzien van hetgebruik van algoritmes. Dan zeggen ze misschien: ik word snellergeholpen door de overheid, ik word beter gehoord. Heeft u er een beeldbij hoe u daarop zou willen sturen? In mijn ogen is dat cruciaal voor hetherstellen van vertrouwen in de overheid. Volgens mij heeft u die vraagnog even laten liggen.Tweede Kamer, vergaderjaar 2023–2024, 26 643, nr. 120925 Staatssecretaris Van Huffelen:Die zit in een blokje verderop, maar ik zal ’m alvast even oppakken. Dekern is inderdaad het volgende. Als we het hebben over deAI-verordening, dan hebben we het natuurlijk heel sterk over het beperkenvan de risico’s en over zorgen dat je algoritmes op een goede manierreguleert. Dat is om ongelukken, zoals we die ook hebben gekend inNederland, te voorkomen. Dat is superbelangrijk, maar laten we helderzijn: algoritmes kun je inderdaad ook heel goed inzetten in het voordeelvan burgers, bijvoorbeeld om meer aan proactieve dienstverlening tedoen. Het is nu vaak zo dat als mensen in aanmerking komen voor eensubsidie of een toeslag – dat is zelfs in bijna 100% van de gevallen zo – zezich daar zelf voor moeten aanmelden. Maar we zouden algoritmes ookkunnen gebruiken om meer proactief aan te geven waar je recht op hebt,of het geld zelfs al over te maken. Je kunt bijvoorbeeld ook generatieve AIinzetten om de dienstverlening aan de telefoon te verbeteren.Op allerlei manieren kun je AI dus inzetten in positieve zin. In onze visieop generatieve AI hebben we daarover een aantal elementen opgenomen.We willen daar in de komende tijd verdere uitwerking aan geven: hoekunnen we dit op een goede manier doen, zodat het inderdaad makke-lijker is om burgers te helpen en zodat het werk voor mensen die directcontact hebben met burgers, bij bijvoorbeeld gemeenten of uitvoeringsor-ganisaties, makkelijker wordt? Zo ken ik een voorbeeld in Frankrijk waarbijmensen die achter het loket zitten bij de gemeente, gebruik kunnen makenvan generatieve AI om vragen van bewoners sneller te kunnen beant-woorden. Dat wordt nu geïmplementeerd en dat gaat dus om een breedterrein, over allerlei aspecten van de overheid. Dus we zijn echt wel heelgoed aan het kijken naar hoe we het op een positieve manier kunneninzetten. Maar we zijn daarbij natuurlijk ook voorzichtig en zorgvuldig,want we willen voorkomen dat daar waar je het positief bedoelt, het leidttot nieuwe problemen. Hoewel we al heel fantastische technischeontwikkelingen zien, ook met generatieve AI, zien we ook nog largelanguage models die hallucineren, zoals dat dan heet. Je zou ook kunnenzeggen dat ze gewoon foute informatie geven. Het is ontzettend belangrijkdat je dat voorkomt als je het ten gunste inzet. Maar die twee kanten zijnallebei onderdeel van het beleid van deze regering.De voorzitter:U had nog een vervolgvraag van mevrouw Van der Werf. MeneerMeulenkamp, heeft u een vervolgvraag? Mevrouw Van der Werf komt zoaan bod, hoor ik. De heer Meulenkamp, daarna de heer Van Baarle.De heer Meulenkamp (VVD):Ik zou hier graag een link willen leggen met het aantal Woo-verzoeken datwe jaarlijks moeten behandelen. Dat klotst echt tegen de plinten. Gaan wein de gaten houden hoe het gaat met ontwikkeling van de Woo-verzoekenen wat de relatie is met het meer spreken met mensen, omdat wealgoritmes gaan inzetten? Dat geef ik als tip mee.Staatssecretaris Van Huffelen:Dank u wel. We doen alles wat we kunnen om onze dienstverlening teversterken. We hebben ook afspraken gemaakt over het idee «no wrongdoor», wat betekent dat je bij alle loketten terecht moet kunnen. Dat kun jealleen maar inrichten als je ook ervoor zorgt dat mensen die achter zo’nloket zitten, voldoende geïnformeerd zijn. Daar kan generatieve AI of AIecht een belangrijke rol spelen. Maar nogmaals, we moeten dan welervoor zorgen dat het goed is ingericht en getest voordat we dat gaandoen. Uiteraard moet het voldoen aan onze eigen regels die in deAI-verordening staan.De voorzitter:Tweede Kamer, vergaderjaar 2023–2024, 26 643, nr. 120926 De heer Van Baarle en dan de heer Valize.De heer Van Baarle (DENK):Ik had nog een verhelderende vraag over wat «hoog risico» is in deAI-verordening. Als ik het even bekijk, dan zie ik dat er acht gebiedenonderscheiden worden, waaronder bijvoorbeeld toegang tot essentiëleparticuliere diensten en openbare diensten en uitkeringen. Neembijvoorbeeld die essentiële particuliere diensten. Is nou goed omschrevenin die verordening en helder voor ons in de implementatie wat eenessentiële particuliere dienst is en wat niet? Neem bijvoorbeeld het krijgenvan een bankrekening of een verzekering. Is dat limitatief opgeschreven ofis het aan ons om te interpreteren wat die acht omschrijvingen vancategorieën in de praktijk zijn?Staatssecretaris Van Huffelen:Het gaat in dit geval dus echt over banken en verzekeraars of hypotheek-verstrekkers. Ik denk dat we daar voldoende informatie over hebben.Nogmaals, ik denk dat het goed is dat we daar nog een keer met elkaar ineen technische briefing wat meer en dieper op ingaan. Dit soort dienstver-lening hoort daar dus bij, net als energiebedrijven, enzovoorts,enzovoorts.De heer Valize (PVV):Ik had ook nog een vraag gesteld. Ik moet trouwens wel zeggen dat ik hetfijn vind om te horen dat de Staatssecretaris ook denkt in kansen enmogelijkheden van generatieve AI. Dat is altijd mooi om te horen. Maar ikhad ook nog een vraag gesteld over het IKA-register. Wat is er in de IA Actopgenomen dat afwijkt ten opzichte van het IKA-register en andersom?Dus gaan wij met het IKA-register verder dan de AI Act, of gaat de AI Actverder dan het IKA-register?Staatssecretaris Van Huffelen:Bij het Algoritmeregister dat we nu hebben, hebben we afgesproken datde overheden hun hoogrisicoalgoritmes registeren. Dat is in principehetzelfde als wat bedoeld is met dat «hoog risico» in de AI Act. We willendezelfde definitie van «hoog risico» gebruiken als in de AI Act, zodat daareen-op-een hetzelfde in staat. Dat gaat over het register.Dan het implementatiekader. Misschien loopt het een beetje door elkaar.We hebben een register. Alle algoritmes die door de overheid wordengebruikt, staan daarin of moeten daarin komen te staan; het is nog niethelemaal gevuld. Dan gaat het over de rijksoverheid, maar ook overgemeenten, provincies, waterschappen enzovoorts. Dan is er deAI-verordening, de regelgeving waar algoritmes aan moeten voldoen. Hoewe dat gaan toepassen bij de overheid, stoppen we in zo’n implementatie-kader. Dat klinkt misschien een beetje complex, maar het is eigenlijk denormuitleg die we als overheid willen gebruiken om te zorgen dat wij metz’n allen kunnen voldoen aan de regels van de AI-verordening.De voorzitter:Een vervolgvraag van de heer Valize.De heer Valize (PVV):Dank voor de heldere toelichting. Dan had ik ook nog een vraag overdatzelfde implementatiekader. Er werd al eerder door de heer Van Baarleeen vraag gesteld over de verplichtingen die eruit voortvloeien: is het eenvereiste? Toen werd gezegd: ja, dat klopt; het is een eis. Vervolgens lees ikin de verzamelbrief met betrekking tot het reguleren van de algoritmes oppagina 4 dat het geen checklist is, dat het nemen van maatregelen in ditkader niet rechtstreeks leidt tot het voldoen aan de verplichting en dat nietalle maatregelen in dit kader verplicht zijn. Dan is toch even de vraag:Tweede Kamer, vergaderjaar 2023–2024, 26 643, nr. 120927 wordt nu alles wat in dat IKA staat verplicht of niet? Of komt er gewooneen registertje in dat IKA-stuk waarbij staat: deze onderdelen zijn verplichten hieraan moet u voor honderd procent voldoen, en dit zijn zeerdringende adviezen?Staatssecretaris Van Huffelen:Het is eigenlijk allebei zo. De overkoepelende wetgeving is deAI-verordening in samenhang met een aantal andere wetten die we metelkaar kennen. Als het gaat over het toepassen van algoritmes door deoverheid, dan is het uiteraard van belang dat je voldoet aan dieAI-verordening. Daarin staat bijvoorbeeld dat je die mensenrechtentoetsmoet doen en dat je een DPIA moet doen en al dat soort elementen. Hetkan zijn dat we in het implementatiekader ook nog wel aanvullingen doenin de zin van: dit zijn handreikingen; dit is iets wat je zou kunnen doen omhet voor jezelf makkelijker te maken en te voldoen aan de wet. Dat kan.Maar de kernelementen van het implementatiekader zijn die elementendie ook wettelijk verplicht zijn. Daarmee zijn ze ook verplicht.De voorzitter:U kunt door, hoor, nu.Staatssecretaris Van Huffelen:Ik denk dat dat ook goed is. Het is altijd een beetje lastig, want u denktsoms dat een vraag misschien niet meer aan bod komt, maar ik heb inmijn mapjes nog wat antwoorden op vragen zitten. Misschien is het goedom die eerst door te lopen en dan te kijken of ik nog iets vergeten ben.Er was nog een vraag van mevrouw Kathmann over de toezichthouders.In dit verband en bij de implementatie van die AI-verordening ben ikontzettend blij met de afspraak met de toezichthouders om samen tewerken in dat samenwerkingsplatform voor digitale toezichthouders. Hetwas volgens mij de heer Krul – hij is er nu even niet – die zei: wordt hetdan niet een ontzettend warrige toestand? Ik denk juist van niet.Algoritmes worden toegepast in heel veel sectoren, bij de overheid, in deprivate sector. Het is ongelofelijk belangrijk dat we op dezelfde manierkijken naar het uitvoeren van die algoritmewetgeving voor die verschil-lende sectoren. Natuurlijk is het ook ontzettend belangrijk dat we dat doenin een gecoördineerd stelsel. Dat gecoördineerde stelsel is dat samenwer-kingsverband waar ik het net over had.Volgens mij ben ik dan door het mapje toezicht heen. O nee, ik heb nogéén vraag. Wie is er verantwoordelijk voor de handhaving als hetalgoritmekader bindend is? Daarbij hebben we de afspraak dat het stelselvan toezichthouders aan het werk gaat en dat de AP hier de rol speelt vancoördinerende toezichthouder.Dan ga ik naar de vragen over het Algoritmeregister, voor zover dieinmiddels nog niet beantwoord zijn. Er was een vraag van mevrouw Vander Werf over dat hoogrisicoalgoritmes in het kader van opsporing niet inhet register staan. Dat is niet zo. Dit soort algoritmes moeten ook wordenopgenomen als onderdeel van het algoritmekader. Het is wel zo dat nietalle informatie over dit soort algoritmes kan worden aangegeven. Ik komterug op een onderwerp dat ook in de afgelopen jaren wel heeft gespeeld.Als je bijvoorbeeld bij een bepaalde controle bij de Belastingdienst eendrempelbedrag invoert, dan zal je waarschijnlijk dat drempelbedrag nietwillen openbaren, maar wil je wel helder maken dat er sprake is vanalgoritmische besluitvorming. Nogmaals, met alle departementen isafgesproken dat zij hun hoogrisicosystemen in het kader opnemen. Maarhet is dus wel van belang dat de algoritmes worden opgenomen. Je kaner in het kader van bijvoorbeeld opsporing voor kiezen om niet alleelementen daarvan op te nemen.Mevrouw Van der Werf (D66):Tweede Kamer, vergaderjaar 2023–2024, 26 643, nr. 120928 Dit is al een deels bevredigend antwoord. Ik stelde de vraag vooral omdatik wil weten hoe je er als je iets niet opneemt, voor zorgt dat dat stukje welkan worden doorgelicht. Daar gaat het me om. Ik kan me dus helemaalvoorstellen dat je niet honderd procent transparant kan zijn, maar hoezorg je er dan voor dat er ergens die toets is?Staatssecretaris Van Huffelen:De toezichthouders op deze organisaties zullen dat natuurlijk altijd welkrijgen. Die hebben altijd toegang en kunnen inzicht krijgen in diealgoritmes.Dan was er ook nog een vraag van de PVV over de verplichting van hetAlgoritmeregister volgens de AI-verordening. De AI-verordening geeft aanwelke algoritmes verplicht moeten worden geregistreerd in een Europesedatabase. Het nationale register dat we hebben, moet natuurlijk op z’nminst die algoritmes bevatten. Als wij nog meer in dat register willenzetten, dan kunnen we dat natuurlijk doen, maar op z’n minst moeten dehoogrisicoalgoritmes erin zitten die er volgens de verordening in moetenstaan.Dan was er nog de vraag van de PVV waarom het Algoritmeregister nogniet helemaal vol is. Dat is een oproep naar mijn hart. Ik nodig iedereennatuurlijk heel graag uit om die algoritmes ook daadwerkelijk in hetregister op te nemen. Mijn collega’s van de andere departementenhebben ook aangegeven dat ze dit gaan doen. Het is niet altijd heel ergmakkelijk om dat snel te doen, maar ze zullen dat doen. Ze hebbenaangegeven dat ze daar tot uiterlijk eind volgend jaar voor nodig hebben.Dan zijn er nog vragen over het advies van de landsadvocaat. Nogmaals,daar gaat mijn collega verder op in.Er was de vraag hoeveel departementen gebruikmaken van automatischebesluitvorming en op welke termijn een reactie kan worden gegeven ophet verzoek van de heer Idsinga daarover. Als coördinerende bewinds-persoon ben ik aan het kijken hoe we uitvoering kunnen geven aan datverzoek, namelijk hoe we inzicht krijgen in alle automatische besluit-vorming waarvan sprake is. Op dit moment heb ik dat inzicht nog niet,maar ik ben wel aan het kijken hoe we dat kunnen doen. Mijn voorstel isom voor de zomer een brief naar de Kamer te sturen om aan te geven hoewe hieraan kunnen voldoen. Daarbij kijken we natuurlijk ook naar hetadvies dat we in dit kader zullen krijgen vanuit de Autoriteit Persoonsge-gevens.Dan kom ik bij het blokje overig.Daarin begin ik met een vraag die mevrouw Van der Werf heeft gesteld:hoe kunnen we zorgen dat mensen beter begrijpen hoe AI werkt en hoekunnen we hen informeren over de gevaren die daarmee samenhangen?Eigenlijk zijn we daarvoor een aantal dingen tegelijkertijd aan het doen,want dit heeft alles te maken met een belangrijk onderdeel van onzewerkagenda, namelijk: zorgen dat mensen digitaal mee kunnen doen. Datbetekent dat er nu bijvoorbeeld als vast onderdeel in het curriculum opscholen niet alleen aandacht wordt besteed aan digitale vaardigheden,maar ook aan mediawijsheid. Dat onderwerp wordt nu verder uitgewerkt.Dat gebeurt natuurlijk onder leiding van de Minister van Onderwijs. Wekijken ook of we aandacht kunnen besteden aan het onderwerp beterinzicht krijgen in bijvoorbeeld desinformatie en deepfakes. We hebbendaar al websites voor met informatie daarover. Twee belangrijke bronnendaarvoor zijn mediawijsheid.nl en isdatechtzo.nl. Maar niet in de laatsteplaats is het natuurlijk zo dat, als onderdeel van de DSA, deepfakes straksmoeten worden gemarkeerd, voor zover die überhaupt mogen wordengebruikt; er zijn namelijk ook deepfakes die niet mogen worden ingezet.Daarmee hopen we ook veel meer inzicht te bieden in welke informatie teherkennen is als een deepfake, gemaakt of niet echt, en welke informatiewel echt is.Tweede Kamer, vergaderjaar 2023–2024, 26 643, nr. 120929 We zetten daarop in met educatie, te beginnen op scholen, en op allerleimanieren met lesprogramma’s en we komen binnenkort met een nieuwebrief over onze inzet op desinformatie, maar ik denk dat het desondanksecht een onderwerp is waar we in de komende jaren nog veel meeraandacht aan moeten besteden. Ondanks het feit dat iets gemarkeerdmoet worden volgens de Digitaledienstenverordening, de SDA, en dat wemeer aan mensen gaan aangeven hoe je deepfakes of andere dingen kuntherkennen, zullen we dit fenomeen namelijk zeker nog tegenkomen.Mensen daartegen wapenen is een belangrijke factor. Niet voor niks heeftbijvoorbeeld de oprichter van Bellingcat duidelijk gezegd dat dat een vande belangrijkste dingen is. Los daarvan moeten we ook techniek inzettenom te zorgen dat we dit fenomeen verder bestrijden.Dan was er nog de vraag van DENK over de uitvoering van hetADR-onderzoek naar de uitvoering van de motie op stuk nr. 21. Datonderzoek voert de ADR uit om te kijken of de departementen op eengoede manier invulling hebben gegeven aan datgene wat er met de motiebeoogd werd. De rapportages worden inderdaad in de zomer verwacht.Daar gaan we ook een zogenaamde rodedradenanalyse en een bestuur-lijke reactie bij geven. Daarmee hopen we dus ook wat meer te laten zienover de manier waarop dit assessment is gedaan. U vroeg ook nog: gaat udit nou structureel doen? Dat willen we eigenlijk niet doen, want we willenvooral zorgen dat we met de regelgeving die er is voor de inzet vanalgoritmes op een goede manier kunnen zorgen dat er een structureelelement is waarmee we steeds de toetsen kunnen doen. Met het toezichtop de in- en uitvoering van de AI Act beogen we natuurlijk hetzelfde als demotie op stuk nr. 21.Dan was er van DENK ook nog de vraag of de handreikingnon-discriminatie gedeeld is met de private partijen. Dat hebben wegedaan. Die is namelijk openbaar beschikbaar. We zien ook dat veel vande aanbevelingen van toepassing zijn op en gebruikt worden door privatepartijen.Dan was er nog de vraag – die was ook van DENK – over het protocol bijgeconstateerde discriminatie. Zoals we hebben toegezegd, komt dat voorde zomer. Daarin ga ik in op de manier waarop overheidsorganisatiesmoeten omgaan met discriminatie op het moment dat die geconstateerdwordt. Dat gaat bijvoorbeeld om hoe je burgers moet informeren als ereen probleem is en om hoe je op basis van de ontstane problematiek eenklacht kunt indienen. We gaan verder kijken hoe de AI-verordening hierinvulling aan geeft, maar het protocol is in ieder geval een belangrijkestap. Dat komt dus voor de zomer.Dan ben ik als het goed is door de vragen heen.De voorzitter:Dan kijk ik even naar links, naar de Kamerleden. Ik zie al een vinger van deheer Valize. Zijn verder alle vragen aan de Staatssecretaris Koninkrijksre-laties en Digitalisering beantwoord? Oké.De heer Valize (PVV):Ik had ook nog een vraag gesteld met betrekking tot de AutoriteitPersoonsgegevens en de directie Coördinatie Algoritmes, die dus watopgeschaald wordt. Ik had gevraagd of de capaciteit voldoende is.Staatssecretaris Van Huffelen:Op dit moment zien we dat er voldoende capaciteit is. In de verdereuitwerking en bij de implementatie van de verordening, en dus ook bij hetbeter definiëren van wie welke rol moet spelen en hoe dat er precies uitkomt te zien, zullen we dat natuurlijk altijd in de gaten moeten houden.Het is natuurlijk belangrijk dat het toezicht bij zo’n verordening goed kanworden ingericht, maar op dit moment kan de AP met de huidige groepvan mensen uit de voeten. Dat is in ieder geval de informatie die ikTweede Kamer, vergaderjaar 2023–2024, 26 643, nr. 120930 daarover heb. Mocht dat niet zo zijn, dan kom ik daar in een later stadiumzeker graag op terug.De voorzitter:Dan dank ik de Staatssecretaris voor de beantwoording en gaan we naarde Staatssecretaris van Financiën, de heer Van Rij.Staatssecretaris Van Rij:Ja, dank u wel, voorzitter. Ik zal specifiek ingaan op de vragen die gesteldzijn naar aanleiding van het advies van de landsadvocaat. Dat wilde ik alsvolgt doen: eerst even het proces, dan het advies van de landsadvocaat endan de vervolgstappen.Collega Aukje de Vries en ondergetekende zijn al langere tijd bezig methet maken van een wetsontwerp, namelijk het wetsvoorstel Wetwaarborgen gegevensverwerking Belastingdienst, Toeslagen en Douane,ook wel afgekort als WGBTD. Ik moet zelf altijd weer even nalezen waarhet voor staat, vandaar dat ik het ook voluit heb gezegd. Daarover hebbenwe de Kamer in verschillende voorgangsrapportages ingelicht. Dat gaatover de AVG, de Algemene verordening gegevensbescherming, maar ookover de Baseline Informatiebeveiliging Overheid en over de Archiefwet. Inhet kader van het voorbereiden van die wetgeving hebben wij natuurlijkambtelijk ook de uitspraak van het Hof van Justitie van 7 decemberjongstleden geconstateerd. Dat is het zogenaamde SCHUFA-arrest, en erwas natuurlijk al een conclusie gewezen in maart vorig jaar.Dat heeft er bij ons direct aanleiding toe gegeven advies te vragen aan delandsadvocaat. Dat advies hebben wij in eerste instantie gekregen op31 januari en zo heb ik dat ook beantwoord op schriftelijke vragen vanNSC. Wij hebben daar gesprekken over gehad. We hebben ook watverduidelijkende en aanvullende vragen gesteld. We hebben ook deambtelijke commissie publieke dienstverleners of uitvoeringsorganisatieshiervan op de hoogte gesteld. We hebben het ook aan de orde gesteld infebruari in de ministeriële commissie uitvoeringsorganisaties publiekedienstverlening. Wij beseften natuurlijk dat we al met een wetgevings-traject bezig zijn, maar niet de collega-beleidsdepartementen daarmeewilden verrassen. Met name de Ministeries van SZW, OCW en VWShebben aangegeven in die vergaderingen niet alleen in de inhoud van hetadvies van de landsadvocaat geïnteresseerd te zijn, maar daar ookopvattingen over te hebben. Dat is allemaal terechtgekomen in aanvul-lende vragen. Dat heeft geleid tot het advies van 12 maart.Dan het advies zelf. De landsadvocaat geeft in dat advies aan en bouwtzeer zorgvuldig op dat het profileringsbegrip in de AVG ruim moet wordenuitgelegd. Dat is wel een uitleg die een stuk ruimer is dan voor die tijd.Daar heeft de landsadvocaat ook argumenten voor.Een van de vragen ging over selectiecriteria. We hebben aan de landsad-vocaat de selectiecriteria voorgelegd die de Belastingdienst altijd hanteert.Ik heb nog meegemaakt dat er geen automatisering was, toen ik in 1983begon. Ik ben nog van dat tijdperk. Toen waren er ook selectiecriteria. Ikgeloof dat de heer Van Baarle het op een bepaald moment samenvatte.Nu zijn we natuurlijk met automatisering bezig. We ontkomen daar nietaan. Als we de automatisering moeten stopzetten bij alleen al 10 miljoenaangiftes inkomstenbelasting, die geautomatiseerd verwerkt worden opbasis van vooraf ingevulde aangiftes, dan komen de belastingcentjes nietbinnen. Het gaat natuurlijk om die selectiecriteria. Bij die selectiecriteriaheeft de landsadvocaat over profilering gezegd dat van de tien er tweeniet voldoen. Dat had te maken met leeftijd. Dat heeft er gewoon mee temaken dat je bijvoorbeeld bij een jonggehandicaptenkorting naar deleeftijd moet kijken of naar een bepaalde reserveringsruimte. Maar deoverige voldoen wel. Dat is een behoorlijk ruime uitleg.De volgende vraag waar de landsadvocaat op is ingegaan, is de volgende.Je hebt in eerste instantie de eerste fase: de aangiftes worden geautoma-Tweede Kamer, vergaderjaar 2023–2024, 26 643, nr. 120931 tiseerd ingediend. Vervolgens worden er een aantal «uitgeworpen»; dat isde terminologie. Ik geloof dat de heer Krul het over een «ping» had, maardit is de terminologie binnen de Belastingdienst. Dat is dan op basis vandie selectiecriteria. Dat wil niet per definitie zeggen – helemaal niet, zelfs –dat de gedachte is: o, er is een fout gemaakt in de aangifte; dit kan deeerste stap zijn voor een fraudeonderzoek. Heel veel mensen makenfouten. In een van die selectiecriteria staat bijvoorbeeld iets over desituatie dat iemand voor de eerste keer zijn aangifte inkomstenbelastinginvult omdat diegene een eigen huis gekocht heeft en recht op renteaftrekheeft. De ervaring leert dat heel veel mensen daarbij fouten maken, omdatdat de eerste keer is. Dan krijg je een vragenbrief. Dat gebeurde ook in detijd dat er nog geen automatisering was. Heel vaak is dat juist in hetbelang van de belastingplichtige, want als je een niet goed ingevuldeaangifte hebt, dan hoor je liever van de Belastingdienst waar het dan nietgoed is, in plaats van dat je een heel hoge aanslag, een navorderings-traject of nog erger krijgt.Zo is er ook het voorbeeld van een oudere dame. Die had bij het invullenvan haar aangiftebiljet het knopje voor de buitengewone lastenaftrekzorgkosten te lang ingedrukt. In plaats van 4.000 kwam er 4 miljoen uit. Zijwas ontzettend blij dat ze een telefoontje kreeg van de Belastingdienstmet de vraag: klopt dit wel? Natuurlijk zijn er ook situaties waarin er nietzomaar «foutjes» door belastingplichtigen worden gemaakt, maar waariner bewúst fouten worden gemaakt. Dat kan dan wel degelijk aanleidinggeven tot niet alleen een vragenbrief, maar ook een vervolgonderzoek.Ik kom op wat de landsadvocaat heeft gezegd. Wat betreft artikel 22 vande AVG gaat het om de vraag: wanneer is er nou sprake van een besluitmet rechtsgevolgen? Wat betreft automatisering worden de twee stappendie ik net beschreef, als één gezien. Als er dan ook nog eens een keersprake kan zijn van het «anderszins in aanmerkelijke mate treffen», doetzich de vraag voor of de werkwijze die wij thans hanteren, met die opennorm, in strijd zou zijn met het huidige artikel 22 van de AVG en metartikel 40 van de Uitvoeringswet AVG.Waar baseert de landsadvocaat zich op? Dit is trouwens ook echt eenbeetje onontgonnen terrein. De jurisprudentie ontwikkelt zich dus ook. Diejurisprudentie ontwikkelt zich heel vaak in private situaties. Je hebt temaken met het aspect dat je ook nog een publieke dienstverlener bent, dieook nog naar andere zaken moet kijken dan alleen die mogelijke fraudesi-tuaties. Denk aan dat SCHUFA-arrest. Dat is allemaal nog onduidelijk quajurisprudentie. We nemen het advies van de landsadvocaat natuurlijkongelofelijk serieus. Maar zij baseren zich met name op het volgende. Eris, op basis van artikel 29 van de AVG, een Europees Comité voorgegevensbescherming. Dat brengt richtsnoeren uit, die door de rechterworden gebruikt bij de interpretatie van deze wetgeving. Dat zijnrichtsnoeren. De landsadvocaat kan natuurlijk ook niet anders doen. Eendeel van die wetgeving heeft ook te maken met die richtsnoeren.Wij hebben het volgende gemeend. De consequenties van dit advieskunnen verregaand zijn. Hier werd ook al naar gevraagd. Wij dachten:«We gaan niet over één nacht ijs. Dan vragen we aan de AutoriteitPersoonsgegevens zélf om hier het licht over te laten schijnen.» Uitein-delijk is die namelijk de autoriteit met de onafhankelijke en objectievedeskundigheid wat betreft de interpretatie van deze wetgeving. Die vraaghebben we neergelegd bij de Autoriteit Persoonsgegevens. Wijverwachten daar eind mei een antwoord op.Wij hadden in het antwoord op de schriftelijke vraag van NSC ook noggezegd dat het onze bedoeling is om twee onafhankelijke wetenschappersdaarover om advies te vragen. Die zijn niet eerder beschikbaar danaugustus of september. Dat vinden wij te laat. In nauwe samenspraak metde Staatssecretaris van BZK – ze heeft daar zojuist zelf ook al wat overgezegd – hebben wij nu het idee om, nadat we het advies van de APhebben, in ieder geval als Ministerie van Financiën, met name collega DeTweede Kamer, vergaderjaar 2023–2024, 26 643, nr. 120932 Vries en ikzelf, de vervolgstap te zetten. Die vervolgstap is dan toch:wetgeving voorbereiden, die niet alleen op de AVG betrekking heeft. Datheb ik ook al eerder gezegd. We willen de Wet waarborgen gegevensver-werking Belastingdienst, Toeslagen en Douane rapido in gang zetten. Dankomen we uiteraard ook bij uw Kamer terug. Het is namelijk wel vancruciaal belang dat hiervoor een goede wettelijke grondslag komt. Datloopt natuurlijk parallel aan wat de andere departementen wel of nietzullen doen. Want nogmaals, het gaat bij ons niet alleen om de AVG, maarook om die andere onderwerpen.Voorzitter. Volgens mij heb ik nu behoorlijk wat vragen beantwoord. Erwas nog één vraag, van de heer Krul. Tenzij je met nieuwe wetgeving zoukomen, zou de consequentie van het advies in extremis kunnen zijn dat jeten aanzien van de handhaving geen gerichte controle meer kan doen.Dan zou je het met aselecte steekproeven moeten doen. Dat doet iets metde voorbeelden die ik net noemde: aftrekbaarheid van de hypotheekrentein de situatie dat je voor de eerste keer een huis koopt, zorgkosten of diedirecteur-grootaandeelhouder in box 2. Ik heb ook al gezegd wat diteventueel betekent voor andere departementen en dat we in goed overlegzijn.Voorzitter. Dan is er alleen nog de vraag van de heer Krul over welkegevolgen deze uitspraak heeft voor het witwastoezicht, waarbij banken opbasis van geautomatiseerde signalen onderzoek doen. Daarbij moet ikeven tekstvast zijn. Dat zit namelijk in de portefeuille van de Minister vanFinanciën. Daar ben ik dus niet dagelijks mee bezig.Poortwachters wat betreft de Wet ter voorkoming van witwassen enfinancieren van terrorisme, de Wwft, dienen altijd aan cliëntonderzoek entransactiemonitoring te doen. Er is een breed scala aan poortwachters,van banken tot advocaten. Een deel van dat proces is geautomatiseerd.Dat is efficiënter voor banken en klanten. De Nederlandsche Bank houdtWwft-toezicht op banken. Dat is bekend. Deze wet verplicht alle poort-wachters om een risicogebaseerd onderzoek te doen en voor elke cliënteen zelfstandige afweging te maken.De Minister van Financiën heeft aangegeven met DNB in gesprek te zullengaan over de processen van banken. Daar waar de Belastingdienst takenuitvoert in het kader van het toezicht op de Wwft, wordt geïnventariseerdin hoeverre daarvoor gebruik wordt gemaakt van geautomatiseerdeselectietechnieken. Hierover wordt u schriftelijk nog nader geïnformeerd;dat gebeurt ook omdat er een verzoek ligt van het lid Idsinga om hiervaneen overzicht op te leveren.Voorzitter. Ik heb nog één laatste opmerking. Als er echt sprake is vanfraude of als er aanwijzingen van fraude zijn, hebben we natuurlijk altijdnog de Wet politiegegevens. Op basis van die wet, die de FIOD veelruimere bevoegdheden geeft, kan er natuurlijk altijd een onderzoekworden ingesteld. Daar was ook een vraag over gesteld, dacht ik.De voorzitter:Dan kijk ik als eerste naar de heer Krul van het CDA.De heer Krul (CDA):Dank aan de Staatssecretaris voor deze heldere en uitgebreide uitleg. Ikbegrijp dat de situatie die geschetst wordt, waarin we alleen maaraselecte steekproeven zouden kunnen doen, een «in extremis»-situatie is.Dat zou natuurlijk ook grote gevolgen kunnen hebben voor de belasting-plichtige die wel een fout heeft gemaakt, maar dat niet bewust heeftgedaan. In die zin zijn wij er niet geruster op. Ik zou willen vragen of deStaatssecretaris overwogen heeft om, naast de Autoriteit Persoonsge-gevens – die is wat dat betreft natuurlijk de autoriteit – bijvoorbeeld ookde Raad van State om advies te vragen. Misschien is het juist verstandigom te kijken of we in bredere zin wat meer advies kunnen krijgen over hetTweede Kamer, vergaderjaar 2023–2024, 26 643, nr. 120933 wetsvoorstel dat in ontwerp gaat. De gevolgen zouden in extremisimmers erg impactvol kunnen zijn.Staatssecretaris Van Rij:Dank voor deze vraag. Dat hebben we wel overwogen. Dan zal de heerKrul waarschijnlijk bedoelen dat we de Raad van State om eenvoorlichting vragen. Daar hebben we toch van afgezien, omdat wij deAutoriteit Persoonsgegevens op dit moment eigenlijk de meest aange-wezen instantie vinden, vanwege de korte termijn waarin we antwoordenwillen hebben. Wij dienen het wetsontwerp ook niet in vóórdat we datadvies van de Autoriteit Persoonsgegevens hebben gehad. Anders kan deAutoriteit Persoonsgegevens natuurlijk geen advies geven. Bij deRaad van State zit je eigenlijk een beetje in een vergelijkbare situatie. Alswij namelijk met dat wetsontwerp komen, komt de Raad van State in hetreguliere traject ook nog gewoon aan bod. In het reguliere traject geeft deRaad van State ook nog advies over het wetsontwerp. Die combinatie vanargumenten heeft er dus bij ons toe geleid om te zeggen: we vragen hetnu aan de Autoriteit Persoonsgegevens. We komen uiteraard direct bij uwKamer terug als we dat ontvangen hebben.De voorzitter:Dan kijk ik even verder. Zijn alle vragen beantwoord? Dat is zo. Ik denk datwe dan kunnen starten met de tweede termijn en dan is het woord aan deheer Six Dijkstra van NSC.De heer Six Dijkstra (NSC):Dank u wel, voorzitter. Ook dank aan beide staatssecretarissen voor debeantwoording. Ik had nog een aantal punten. Allereerst zie ik natuurlijkerg uit naar het advies van de Autoriteit Persoonsgegevens, dat we daneind mei verwachten, omdat dit, zoals ook eerder in het debat aan de ordeis gekomen, een behoorlijk grote impact kan hebben. Het is natuurlijkgoed dat het Ministerie van Financiën reeds bezig is met nieuwewetgeving als het gaat om toeslagen, maar – ik kijk ook even naar deandere Staatssecretaris – als dit zo veel departementen treft, zal ermisschien een hele hoop extra wetgeving moeten komen in potentie. Datmoeten we natuurlijk ondervinden en dat moet dan mogelijk in eenvolgend debat aan de orde komen. Daarom nogmaals mijn vraag aan deStaatssecretaris van BZK om te reflecteren op de vraag of een eventuelevoorhangprocedure voor algoritmes niet een uitweg zou zijn om dit soortwetgeving te versterken. Ik besef daarbij wel dat ik vooruitloop op eeneventueel advies in de toekomst van de AP.Dan nog één laatste vraag, wederom mede namens de ChristenUnie.Kunnen wij het naar ons toe komen van het CODIO-kader en de statusdaarvan eind december als concrete toezegging noteren?Dat was ’m van mijn kant. Dank u wel.De voorzitter:Dan is het woord aan mevrouw Van der Werf.Mevrouw Van der Werf (D66):Dank u wel, voorzitter. Ook dank aan beide bewindspersonen voor hunbeantwoording, en ook aan hun ondersteuning. Ik wil graag nog op éénpunt terugkomen. Er is natuurlijk een hoop kommer en kwel voorbijge-komen over wat het schip en het schipwrak ons gaan brengen. Ik was mijninbreng geëindigd met de vraag hoe we er nou voor kunnen zorgen dat AIonze overheden ook kan ondersteunen, met name op het gebied van dedienstverlening richting burgers. Nu lopen we natuurlijk traditioneelgezien wat achter als het gaat om ICT bij de overheid, maar je zou op ditpunt zeker kunnen zeggen dat we daar ook de vruchten van kunnenTweede Kamer, vergaderjaar 2023–2024, 26 643, nr. 120934 plukken. Ik overweeg een motie op dit punt, dus als u het mij toestaat zouik ook graag vast een tweeminutendebat aanvragen.Ik heb nog één losse vraag, om het zo maar even te noemen. De Staatsse-cretaris voor Digitale Zaken gaf aan dat ook bij die complexe algoritmentoezichthouders wel 100% inzicht krijgen op het moment dat ze nietworden opgenomen in een register. Ik wou even ter check vragen: ik ga erdan vanuit dat u bedoelt vooraf en niet pas op het moment dat het ismisgegaan.Dank.De voorzitter:Dan de heer Valize van de PVV.De heer Valize (PVV):Voorzitter, dank voor het woord. Dank voor de beantwoordingen van destaatssecretarissen en hun ondersteuning. Dank ook aan de collega’s voorhet goede debat. Dan de tweede termijn. We kijken ernaar uit om deterugkoppeling te krijgen over ervaringen in het veld. Die brief komt aanhet eind van het jaar, heb ik begrepen uit de beantwoording. Over hetvullen van het register voor de algoritmes zou ik nog de vraag willenstellen aan de Staatssecretaris of er een mogelijkheid is om er iets meerop aan te dringen bij de departementen om dat toch zo vroeg mogelijk tedoen, zodat we niet tot eind 2025 moeten wachten totdat het register eenkeer gevuld is.En dan heb ik nog één klein dingetje. Dat kwam toevallig voorbij. Dat isdat keurmerk. We hebben toevallig vorige week een debat over onlinevei-ligheid en cybersecurity gehad. Daar heb ik dit onderwerp ook alaangehaald, bij de Minister van EZK. Dat betreft het CE-logo. Er zijntwee verschillende CE-logos. Je hebt er eentje voor China Export en jehebt er eentje voor het Europese keurmerk en het verschil is minimaal. Ikvraag om er toch, in samenspraak met uw collega’s in Europa, op aan tedringen dat er iets gedaan wordt om dat logo toch meer te laten differen-tiëren van dat China Exportlogo, want dat kan tot heel veel verwarringleiden.En dan ben ik aan het einde van mijn tweede termijn. Dank u.De voorzitter:Dan het CDA, de heer Krul.De heer Krul (CDA):Ja, voorzitter. Heel kort. Nogmaals dank aan de bewindspersonen voorhun duidelijke uitleg. We zijn er niet per se geruster op geworden. Ik denkdat de Autoriteit Persoonsgegevens een heel nuttig inzicht kan bieden.Tegelijkertijd denk ik aan aspecten als het belang van toezicht, eenbelastingmoraal en de uitvoerbaarheid, aspecten waar je niet per se kanverlangen dat een AP die goed kan overzien, omdat het simpelweg niethaar expertise is. Ik zou willen vragen, maar gewoon ins Blauwe hinein,aan de griffier om met het tweeminutendebat dat is aangevraagd even tewachten tot eind mei dat advies er is. Ik denk dat de Kamer dat wel totzich moet kunnen nemen voordat we hier verder over praten.Voor zover, voorzitter.De voorzitter:Dank u wel. Ik moet dan wel als bijsluiter meegeven dat de aanvrager vanhet tweeminutendebat D66 is. Volgens mij gaan zij ook over het inplannenvan het tweeminutendebat. Toch? Er is een suggestie gedaan. Die hoeftniet per se gehonoreerd te worden.Mevrouw Van der Werf (D66):We zullen het in overleg oppakken.Tweede Kamer, vergaderjaar 2023–2024, 26 643, nr. 120935 De voorzitter:Het is goed dat we dat nog even ergens anders parkeren, dat we daar alsu dat echt wilt nog even verder over in overleg gaan. Dan de heerVan Baarle.De heer Van Baarle (DENK):Ik dank de Staatssecretaris voor de beantwoording. Beide staatssecreta-rissen, maar mijn vragen waren vooral aan Staatssecretaris Van Huffelengericht. Een aantal dingen zijn helder geworden, maar een hoop blijft voormij toch nog onduidelijk. Dat zal aan mij en de Staatssecretaris liggen,want ik ben ook zelfkritisch. We hebben met elkaar een algemeennormenkader. Hoogrisicoalgoritmen kunnen alleen toegepast worden meteen keurmerk, maar we weten niet wie dat keurmerk gaat geven. Westellen iets op wat niet bindend is, want alleen die AI-verordening isbindend voor waar de zaken aan zouden moeten voldoen. Wij hebbentoch wat zorgen over de richting waarin het gaat, dus wij zijn blij datmevrouw Van der Werf een tweeminutendebat heeft aangevraagd.De voorzitter:De heer Meulenkamp heeft geen behoefte aan een tweede termijn. Danvraag ik even aan de heer Six Dijkstra of hij de voorzittershamer kanovernemen, zodat hij mij het woord kan geven.Voorzitter: Six DijkstraDe voorzitter:Zeker. Het woord is aan mevrouw Kathmann van de fractie vanGroenLinks-PvdA.Mevrouw Kathmann (GroenLinks-PvdA):Dank u wel, voorzitter. Nog even drie dingen. Ik wil ieder geval nog ietsmeegeven. Ik hoop eigenlijk ook wel op een antwoord van de Staatssecre-taris, maar ik denk dat dat niet meer vandaag kan. Er is – een advies magik het niet noemen – een scenariostudie gedaan door de Toekomstkamer.Die is onderdeel van de Stichting Toekomstbeeld der Techniek. Het is eenscenariostudie over het Algoritmeregister. Wat het heel interessant maakt,is dat zij kijken naar het instrument van het Algoritmeregister in het kadervan de verdere inrichting van het digitale toezicht, wat dat instrument nogdoet en wat we eigenlijk misschien wel voor andere instrumenten kunnengebruiken.Wat mooi is, is dat zij in hun schrijven over doel van het Algoritmeregisterzeggen: meer vertrouwen in de overheid, want we zijn transparant. Als wedan de cijfers er nog eventjes bij pakken, dan zie je dat maar 9% van deNederlanders weet dat er een Algoritmeregister bestaat en dat drie op devier Nederlanders als je vraagt of ze dat belangrijk vinden zeggen dat zehet eigenlijk wel belangrijk vinden, maar dat maar 12% van de Neder-landers denkt dat een register kan bijdragen aan het vertrouwen inalgoritmes. Dat maakt dit stuk van deze denktank, die bestaat uit allerleiexperts uit allerlei gelederen, dus van commerciële partijen tot ook zelfsoverheidsexperts en kennisinstellingen, wel heel interessant. Ik hoop dusdat de Staatssecretaris daarop zou willen reageren.Dan nog een vraag over die digitalisering op de werkvloer. Dank in iedergeval voor de beantwoording door de Staatssecretaris, maar het is meiets te kort door de bocht. Het gaat me echt om dingen die je nu bijvoor-beeld ziet. Ik las laatst een artikel – volgens mij was het in de Volkskrant –over een dame die bij een bedrijf werkt waar ze ongeveer door een Fitbitwordt aangestuurd en die van hot naar her moet rennen omdat haarwerkgever bepaalt hoe hard ze moet lopen om haar werk goed te kunnendoen. Ik moest eigenlijk denken aan de stakingen van 40 jaar geleden,toen alle lopende banden gewoon zo hard stonden dat mensen het nietTweede Kamer, vergaderjaar 2023–2024, 26 643, nr. 120936 meer konden bijbenen. Uiteindelijk is het voor lopende banden een soortvan wettelijk vastgelegd, is gezegd hoe het zat met de arbeidsproducti-viteit en dat het technologisch dan misschien wel kon, maar menselijkgewoon niet gezond was. Uiteindelijk is dat dus wel vastgelegd, maar zijndie lopende banden ook steeds weer een klein beetje harder gezet. En nuzei de Staatssecretaris eigenlijk: deze mensen kunnen straks met dieAI-verordening hun recht halen. Maar hoe gaat dat dan? Die mensen opde werkvloer zijn al vaak in kwetsbare posities. Gaat uit dit Europesebeleid nou echt voortkomen dat die mensen precies weten waar ze dankunnen zijn en welke rechten ze hebben? En hoe voelen ze zich dancomfortabel genoeg om hun recht te gaan halen? Mijn vraag is eigenlijkwat Nederland er nou aan gaat doen om dat voor iedere werknemer inNederland te kunnen borgen.Dan de vraag over wat er eigenlijk in een brief komt na de «ping». Ikbegrijp de beantwoording van de Staatssecretaris heel goed. Zij gaf aandat, wanneer iemand wel of geen toeslag heeft gekregen, ze in een briefuit kunnen leggen waarom diegene dat wel of niet heeft gehad. Maar datis natuurlijk veel relevanter als je in het kader van bijvoorbeeld fraudeop-sporing eruit bent gepikt. Ik heb het zelf een keer gehad. Toen kreeg ik eenschatting met «u moet dit terugbetalen». Het kwam uit allemaal posten.Uiteindelijk ga je dan naar een kantoor, maar die producten praten nietmet elkaar. En eigenlijk was mijn grote vraag bij heel veel balies: vanwelke proces bent u eigenlijk onderdeel? Als dan in een brief zou staan:«In het kader van fraudeonderzoek bent u er uitgelicht. Dit is hetalgoritme; u kunt het terugvinden in het register. Als u daar nog vragenover heeft, kunt u contact opnemen met persoon X». Dat is natuurlijkeigenlijk de informatie die dan op de brief zou moeten staan. Is dat danook de informatie die op de brief komt te staan? Dat zou ik dan graagwillen weten.De voorzitter:Dank u wel. Dan geef ik de voorzittershamer weer over aan mevrouwKathmann.Voorzitter: KathmannDe voorzitter:Dank u wel. Dan kijk ik even naar de staatssecretarissen rechts van mij.We schorsen voor twee minuten en dan kunnen we overgaan tot debeantwoording.De vergadering wordt enkele ogenblikken geschorst.De voorzitter:We gaan verder met de beantwoording in tweede termijn. Het woord isaan de Staatssecretaris.Staatssecretaris Van Huffelen:Dank u wel, voorzitter. Ik zal de vragen die gesteld zijn, beantwoorden. Ikbegin met de heer Six Dijkstra, die vroeg of wij het een goed idee vindendat algoritmes altijd worden voorgehangen bij de Tweede Kamer voordatze worden ingesteld. Wat mij betreft is dat geen wenselijke route. Wewillen dat algoritmes alleen worden ingezet wanneer ze voldoen aan decriteria die daarvoor gesteld zijn in de AI-verordening. Dat betekent dat zeaan allerlei criteria moeten doen op het gebied van non-discriminatieenzovoort en dat ze goed getoetst zijn voordat ze worden ingezet door deoverheid. Er zullen toezichthouders zijn die daarop toezicht kunnenhouden. Ze worden opgenomen in een register. Het lijkt mij dan dubbelals je die ook vooraf bij de Tweede Kamer gaat voorhangen.Tweede Kamer, vergaderjaar 2023–2024, 26 643, nr. 120937 Er werd ook nog gevraagd of wat er gezegd werd over het waardenkaderals toezegging genoteerd kan worden. Dat kan. Ons idee is dat het voorhet eind van het jaar aan uw Kamer wordt toegestuurd.Mevrouw Van der Werf gaf een paar dingen aan. Ten eerste zei ze: wekunnen ook de vruchten plukken van de inzet van AI. Dat is ook zo. Datkunnen we op verschillende manieren, in de private en de publieke sector.Dat zijn we van plan te gaan doen. Dat doen we onder andere via de inzetvan onze visie op het gebruik van generatieve AI.Verder vroeg u of inzage van de toezichthouders in complexe algoritmesaltijd kan en of dat ook vooraf kan. Dat kan. Toezichthouders mogen altijdinzage vragen in het gebruik van algoritmes, niet alleen bij de ontwik-keling maar ook bij de toepassing daarvan, of verderop in de tijd. Het isaan de toezichthouders zelf om dat moment te kiezen.De heer Valize deed de oproep aan al mijn collega-departementen en aanandere overheden om zo snel mogelijk te komen tot het invullen van hetAlgoritmeregister. Ik ondersteun die oproep zeer en zal dat doorgeven aanmijn collega’s. Verder begrijp ik dat u al de toezegging van de Minister vanEZK heeft gekregen over het CE-logo, om ervoor te zorgen dat helderwordt wat het een is en wat het ander is, zodat het niet tot verwarring kanleiden bij burgers. Hij gaat daarmee aan de slag in Brussel.Dan is er toch nog iets wat mij van het hart moet naar aanleiding van deopmerkingen die door de heer Van Baarle zijn gemaakt. Allereerst moethelder zijn dat de AI-verordening ons natuurlijk enorm gaat helpen bij hetinzicht in AI en het reguleren van AI. Dat is een thema waarbij de heer VanBaarle en ik elkaar voortdurend de hand kunnen schudden, denk ik. Ik hebhet dan over vragen als wanneer het überhaupt mag en kan, hoe je het opeen verantwoorde manier doet, hoe je ervoor zorgt dat het transparant is,hoe je ervoor zorgt dat er goed toezicht op is en hoe je ervoor zorgt dathet voor burgers helder is waar zij terechtkunnen wanneer zij het ideehebben dat zij niet op een goede manier worden behandeld.De AI-verordening is mede door de inzet die wij als Nederland hebbengepleegd, echt een verordening geworden waarvan wij zien dat die onsgaat helpen op dit gebied. Zij is wel complex; dat gaf u ook aan. Ik denkniet dat die verordening complex is door u of door mij. Dat komt omdathet een ingewikkeld onderwerp is. Ik zou u echt aanraden om detechnische briefing daarover te houden, omdat die veel meer inzicht gaatbieden in wat er precies in de verordening staat over hoe het gaat werken.In uw woorden proefde ik een beetje de suggestie dat dit allemaal nogniet voldoende is. Ik denk dat we met deze verordening een heel breedterrein afdekken en dat we daarmee ervoor zorgen dat we op eenverantwoorde manier kunnen werken. Het is helder dat we dat moetenvertalen naar wat het direct betekent voor de Nederlandse overheid, hetgoed moeten inrichten en er ook voor moeten zorgen dat onze toezicht-houders goed geëquipeerd zijn om hun werk te doen. Maar het is niet zodat we op basis van de verordening of van wat we bij de Nederlandseoverheid aan het doen zijn – denk aan het register of ons implementatie-kader – onduidelijkheid aan het creëren zijn. Het is ook niet zo dat het vagenormen zijn of dat het niet helder is. Met deze verordening en met alleswat wij doen, wordt juist heel veel scherpte gecreëerd. Op basis daarvankunnen we op een verantwoorde manier werken met algoritmes. Daarmeewordt ook duidelijk wanneer het niet kan.Het is, nogmaals, goed om u daar verder over te laten voorlichten. U kuntmijn woorden geloven of niet – ik hoop natuurlijk van wel – maar het isbelangrijk om met elkaar vast te stellen dat dit voldoet aan de vereistendie we willen. Dus nogmaals, we hebben een heel mooi kader gemaaktom op een verantwoorde manier te werken, maar het is goed als we datmet elkaar delen.Dan was er nog een vraag van mevrouw Kathmann naar aanleiding vande scenariostudie. Dat is interessant. De Toekomst Kamer heeft ernaargekeken en heeft aangegeven dat het belangrijk is dat burgers meerTweede Kamer, vergaderjaar 2023–2024, 26 643, nr. 120938 worden meegenomen in de digitale ontwikkelingen. Of ze dit instrumentnou wel of niet precies kennen, is één deel daarvan, maar veel belang-rijker is dat we weten dat mensen zich zorgen maken over de inzet vanalgoritmes, dat ze zich daar druk over maken. Kan ik nog wel vertrouwenwat ik zie op het internet? Kan ik de informatie die ik krijg van welkeinstantie dan ook, nog wel vertrouwen? Komt die ook echt van dieinstantie? Wij vinden het heel erg belangrijk om daar meer inzicht in tebieden. We kijken dus ook heel graag nog verder naar het werk dat isgedaan, om te zien of ons dat verder kan helpen in het geven vanvoorlichting aan burgers, vooral om ervoor te zorgen dat we meervertrouwen creëren in het werk van de overheid.Dan nog iets over de toepassing van AI in het werk en op de werkvloer.Wij hebben de SER, de Sociaal-Economische Raad, ons adviesorgaan,gevraagd om met name daarnaar te kijken. Zij zijn aan de slag gegaan meteen uitgebreide studie om te zien wat de effecten zijn van generatieve AI,ook wel AI, op werken in Nederland. Wat betekent het voor banen, voor demanier waarop die worden ingericht? Wat betekent het überhaupt voorwerk? Hoe kunnen we AI op een positieve manier inzetten? En wat voorrisico’s zijn er? Voor ons is dat een heel belangrijk gegeven, omdat banenen werk zo veranderen door AI. Dat geldt niet voor alle banen. Het geldtook niet voor alle banen in even grote mate. Maar er zal verandering opkunnen treden – ik denk dat er verandering op zál treden – wat betreftbanen voor hoogopgeleiden. Denk aan de advocatuur of aan het makenvan wetten bij de overheid. Maar het kan net zo goed voor mensen die nuin feite – dat is eigenlijk het voorbeeld dat u noemde – worden aange-stuurd door AI. Dat is iets wat we in mijn perspectief overigens nietzouden moeten willen.Het is heel belangrijk dat we daar meer inzicht in krijgen, dat we onsdaarvan bewust zijn en dat we ervoor gaan zorgen dat het voor mensendie dit meemaken, veel duidelijker wordt waar zij terechtkunnen wanneerdit soort situaties zich voordoen. Daar zijn natuurlijk al allerlei regels voorgesteld in de Arbeidsomstandighedenwet, maar ik denk dat het belangrijkis dat we daar nog een keer scherp naar kijken, ook op basis van hetvoorbeeld dat u noemt, in het kader van de komst van AI. Zoals we ook alin de visie op generatieve AI hebben gezegd, willen we niet dat iemandsbaas straks AI is in plaats van een normaal mens van vlees en bloed.Mevrouw Kathmann vroeg ook: hoe zit het met informatie over wanneerje eruit bent gepikt? Stel dat je wilt begrijpen waarom je geselecteerd bentom extra vragen te stellen. Hoe gaan we dat dan aan iemand duidelijkmaken? Ik vertelde al dat wij bezig zijn met het aanpassen van deAlgemene wet bestuursrecht en met name naar dit aspect, de toepassingvan AI, willen kijken. Dat geldt zowel voor de vraag «kom ik wel of niet inaanmerking?» als voor dit soort vragen. Daar komen we dus ook nog bij uop terug. Ik begrijp namelijk heel goed dat u zegt: ik vind het ookbelangrijk dat duidelijk wordt wanneer dat aan de orde is. Denk aanvragen als «waarom ben ik geselecteerd voor extra vragen?» of «wat is eraan de hand?» Ik vind dat een gerechtvaardigde vraag. Wij gaan goedkijken hoe we hier bij de aanpassing van de Algemene wet bestuursrechtmeer inzicht in kunnen bieden. Ik kan nu nog niet helemaal antwoordgeven op de vraag op welke manier we dat kunnen doen, maar ik vind hetwel belangrijk dat we dit als onderdeel hierin verwerken.Dat waren de antwoorden op de vragen die aan mij gesteld zijn.De voorzitter:Dan is het woord aan Staatssecretaris Van Rij.Staatssecretaris Van Rij:Dank u wel, voorzitter. Ik begin met het punt van de heer Krul. Ik wil ertoch op wijzen dat de landsadvocaat voorzichtig geformuleerd heeft in deconclusies. Hij spreekt tot twee keer toe over «waarschijnlijk». De eersteTweede Kamer, vergaderjaar 2023–2024, 26 643, nr. 120939 keer is dat bij de vraag: is er bij een eerste selectie van een aangifte viaeen geautomatiseerd selectiesysteem sprake van een besluit? Een besluitin de zin van de AVG is strikter dan een besluit in de zin van de Algemenewet bestuursrecht. Dan gaat het erom of anderszins in aanmerkelijke matede burger getroffen kan worden.Het tweede is natuurlijk dat de landsadvocaat zegt dat ook wanneer ersprake is van menselijke tussenkomst, in die tweetrapsraket die ikbeschreven heb, waarschijnlijk toch sprake kan zijn van een besluitwaarmee de burger anderszins in aanmerkelijke mate getroffen kanworden. Dat zegt de landsadvocaat. Juristen formuleren altijd zorgvuldig.Dat is een. Twee is dat het een advies is. Dat geldt ook voor de AP, die weom advies hebben gevraagd. Dat is dus iets anders dan een boetebesluit.Wij, beide staatssecretarissen, zullen dan uiteraard onze eigen afwegingenmoeten maken en dan komen we bij u terug. Overigens niet meteen eindmei. Eind mei komt de AP met haar advies. Dat moeten wij dat natuurlijkwel even goed verwerken, maar we komen uiteraard voor het zomerrecesdan naar de Kamer toe en het liefst zo snel mogelijk.Wij moeten dan namelijk ook precies het punt wegen dat terecht door deheer Six Dijkstra en de heer Krul op tafel is gelegd. We hebben aan de enekant natuurlijk privacy, ongelofelijk belangrijk, maar Belastingdienst,Toeslagen en Douane zullen ook moeten handhaven en toezicht moetenhouden. Daar de balans in vinden, dat is de grote uitdaging. Vandaar ookdat we bezig zijn met het voorbereiden van nieuwe wetgeving om metnog betere grondslagen te komen, maar dat is natuurlijk iets waar we nuook voortdurend mee worden geconfronteerd. Ook in Kamerdebattenwordt daar natuurlijk steeds op gewezen. Aan de ene kant horen we in decommissie Financiën natuurlijk voortdurend, en terecht, als het over deBelastingdienst gaat: handhaaft u nog wel, houdt u toezicht en pakt ufraudeurs aan? Aan de andere kant is privacy een heel groot goed. Dat isde balans die we moeten zien te vinden.De voorzitter:Dan kijk ik even naar links, naar de zijde van de Kamer. Zijn alle vragenbeantwoord, ook in de tweede termijn? Ja, dat is zo. Dan gaan we evennaar de toezeggingen.−In december wordt de Kamer nader geïnformeerd over de toepassingvan het CODIO-kader.−De Kamer ontvangt voor de zomer een brief waarin wordt aangegevenhoe uitvoering wordt gegeven aan het verzoek van het lid Idsinga.−Het protocol geconstateerde discriminatie komt voor de zomer naar deKamer. Dit was naar aanleiding van een vraag van de heer Van Baarle.Dan nog even aangaande het tweeminutendebat. De eerste spreker ismevrouw Van der Werf van D66 en de vraag is dus of de Griffie bij hetinplannen van het debat rekening dient te houden met het advies van deAP, of daar bij het inplannen op gewacht moet worden.Mevrouw Van der Werf (D66):Wat mij betreft niet.De voorzitter:Oké, dan weten we dat. Dan kan de Griffie daar rekening mee houden.Dan kijk ik nog even naar rechts, naar de staatssecretarissen. Er was nogeen mogelijke toezegging aangaande het stuk van de Toekomstkamer. DeStaatssecretaris gaf aan: we gaan hier rekening mee houden in ons beleid.De vraag was volgens mij of er een schriftelijke reactie kon komen. Ik kijkeven naar rechts: hoe denkt de Staatssecretaris daar invulling aan tekunnen geven?Staatssecretaris Van Huffelen:Tweede Kamer, vergaderjaar 2023–2024, 26 643, nr. 120940 We brengen ieder kwartaal een verzamelbrief uit. Dan nemen we daarindat stuk mee. Dan geven we ook een reactie op dit punt. En nog even tenaanzien van de toezeggingen: de eerste en de derde toezegging zijn aleerder gedane toezeggingen. De heer Van Baarle vroeg: gaat u het ookecht doen? Dat is waar. Ik weet niet of we ze nou dubbel moeten noteren.Het zijn toezeggingen die we eerder hebben gedaan.De voorzitter:Dat is dan nog even genoteerd. Die laatste toezegging is ook genoteerd.Dan dank ik de staatssecretarissen voor hun beantwoording en de bodevoor de goede zorgen, ook voor onze gasten, en dan sluit ik devergadering.Sluiting 12.59 uur.Tweede Kamer, vergaderjaar 2023–2024, 26 643, nr. 120941