Kabinetsreactie op de Rapportage AI & Algoritmerisico’s Nederland van de Autoriteit Persoonsgegevens

Tweede Kamer der Staten-Generaal2Vergaderjaar 2024–202526 643Informatie- en communicatietechnologie (ICT)Nr. 1382 BRIEF VAN DE STAATSSECRETARIS VAN BINNENLANDSE ZAKENEN KONINKRIJKSRELATIES Aan de Voorzitter van de Tweede Kamer der Staten-GeneraalDen Haag, 21 augustus 2025Uw vaste kamercommissie voor Digitale Zaken heeft in de procedurever-gadering van 23 april 2025 mij verzocht om een kabinetsreactie aan deKamer te doen toekomen op de Rapportage AI & Algoritmerisico’sNederland (RAN 4) van 12 februari 2025 van de Autoriteit Persoonsge-gevens (AP). Met deze brief ga ik in op dit verzoek.AlgemeenVooropgesteld wil ik allereerst de AP via deze weg danken voor dezevierde periodieke rapportage met inzichten in de risico’s en effecten vanAI & algoritmes in Nederland. Ook dit demissionaire kabinet zal zichonverminderd sterk maken voor de verantwoorde inzet van AI &algoritmes.Op 4 juli jl. is de Nederlandse Digitaliseringsstrategie (NDS) naar deTweede Kamer gestuurd en gepubliceerd.1 Een belangrijke pijler van deNDS is AI. AI neemt een hoge vlucht, met kansen, maar brengt ooknieuwe risico’s en incidenten mee, zoals ook de AP terecht aangeeft. Weomarmen deze systeemtechnologie daarom zonder naïviteit: AI zal eenblijvende en transformerende rol spelen. We verzilveren als één overheidde kansen en zorgen voor de verantwoorde inzet van AI en algoritmes,zodat transparantie, veiligheid en democratische controle geregeld zijn enwe ook in een krappe arbeidsmarkt onze dienstverlening op niveaukunnen houden. En eerder dit jaar, op 22 april, bood mijn ambtsvoor-ganger uw Kamer het overheidsbrede standpunt op Generatieve AI aan.21https://www.digitaleoverheid.nl/nederlandse-digitaliseringsstrategie-nds/2https://www.rijksoverheid.nl/documenten/rapporten/2025/04/16/het-overheidsbrede-standpunt-voor-de-inzet-van-generatieve-ai kst-26643-1382ISSN 0921 - 7371’s-Gravenhage 2025Tweede Kamer, vergaderjaar 2024–2025, 26 643, nr. 13821 Een herijking van het voorlopige standpunt van december 2023 waar eenadvies van de AP mede aan ten grondslag lag.3Reactie op de algemene conclusies van het rapportA)De AP concludeert dat er door de Nederlandse overheid goedestappen zijn gezet in het beheersen van AI (Artificiële intelligentie) enalgoritmerisico’s met AI/algoritmekaders en -registraties. Volgens deAP is de voortgang in AI- en algoritmeregistratie nog onvoldoende,waardoor adequaat zicht ontbreekt op de hogere risicovolle toepassin-gen. De grip op met name AI moet versterkt worden, gelet op de snelleontwikkelingen van deze technologie en nieuwe zorgen die dat metzich meebrengt. De AP benoemt recente nieuwe incidenten in binnen-en buitenland die raken aan meerdere toepassingsgebieden die onderde AI-verordening gereguleerd gaan worden. De AP raadt aan om deEuropese standaarden uit de AI-verordening mee te nemen bij deverdere ontwikkeling van het Algoritmekader. Deze standaardenworden momenteel nog ontwikkeld vanuit de EU en zullen helpenvoldoen aan de vereisten voor systemen met een hoog risico’s.ReactieIk ben verheugd dat de AP de AI/algoritmekaders en -registraties als eengoede stap ziet in de richting van verantwoorde inzet van AI binnen deoverheid. Ook steunt de AP het brede karakter van het algoritmekader, datverschillende vereisten uit wetgeving en geadviseerde maatregelen aanelkaar verbindt. Het aandachtspunt voor de doorontwikkeling rondomEuropese standaarden neem ik ter harte en zal helpen te voldoen aan devereisten voor systemen met een hoog risico. In het verlengde hiervan wilik de inzet, ontwikkeling en inkoop van AI in een overheidscontexteenduidiger kunnen toetsen door waar mogelijk gezamenlijke(auditeerbare) normen voor AI-gebruik vast te stellen. In het kader van deNDS wordt dit verder doorontwikkeld.De rapportage van de AP bevestigt dat het aantal registraties in hetAlgoritmeregister snel toeneemt, maar ook dat er nog een weg te gaan is.Als Nederlandse overheid zijn we een van de eerste landen met eendergelijk register. Met Rijksoverheidsorganisaties is afgesproken dat zij inieder geval alle hoog-risico AI-systemen (categorie A in de handreikingAlgoritmeregister4) voor het einde van dit jaar registreren in het Algorit-meregister.5 Daarnaast hebben de departementen uw Kamer recentelijkplanningsbrieven gestuurd over hoe zij impactvolle algoritmen (categorieB) zullen opnemen.6 Daarnaast verken ik of het verplicht stellen vanregistraties een gewenste stap is.B)De AP gaat uitgebreid in op de meest recente ontwikkeling vanAI-chatbots voor virtuele vriendschappen en therapeutische relaties.De AP constateert dat wereldwijd het aanbod en gebruik vanAI-chatbotapps groeit. De mogelijke afhankelijkheidsrelatie diegebruikers opbouwen met- en de verkeerde inzet van chatbots kunnenzorgen voor grote risico’s. De AP concludeert dat deze chatbots overhet algemeen onvoldoende transparant, onvoldoende betrouwbaar, enrisicovol zijn in crisissituaties. De AP pleit voor meer onderzoek naarde risico’s, beperkingen en kansen van chatbots voor therapeutischebegeleiding in mentale gezondheidszorg. Ook is het van belang dat3https://open.overheid.nl/documenten/814ad0a2-7e14-4fc4-8dac-1d4a3e0b02ba/file4https://www.digitaleoverheid.nl/document/handreiking-algoritmeregister/5Kamerstuk 2022/23, 26 643, nr. 10566Kamerstuk 2024/25, 26 643 Nr. 1286Tweede Kamer, vergaderjaar 2024–2025, 26 643, nr. 13822 AI-gegenereerde content of interacties ook als zodanig te herkennenzijn voor de gebruikers.ReactieDe chatbots zullen zich moeten verhouden tot de AI-verordening, dieafdwingbare eisen stelt voor transparante AI-modellen. Ontwikkelaars vanAI-modellen voor algemene doeleinden zijn verplicht om technischedocumentatie over het model op te stellen en beschikbaar te houden voortoezichthouders en om informatie op te stellen voor ontwikkelaars die hetAI-model in hun eigen AI-systeem willen integreren.7 Deze verplichtingengaan in vanaf 2 augustus 2025. De AI-verordening introduceert vanafaugustus 2026 ook transparantieverplichtingen voor bepaaldeAI-systemen, waaronder voor generatieve AI-systemen zoals chatbots.8Zo moet de gegenereerde content duidelijk gemarkeerd worden alskunstmatig gegenereerde of gemanipuleerde content. Op EU-niveauwordt nu gewerkt aan de normen ten aanzien van transparantie vangebruikte gegevens in modellen en om toepassingen verder teverduidelijken.Daarnaast zijn, zo stelt de AP terecht vast, de privacy risico’s groot omdatmensen geneigd zijn en uitgenodigd worden om zeer persoonlijkeinformatie te delen met een chatbot. Als de overheid besluit generatieveAI-modellen en/of applicaties zoals AI-chatbots te ontwikkelen en/of tegebruiken dan is het belangrijk over de inkoopvoorwaarden duidelijk tezijn. In de inkoopvoorwaarden kunnen namelijk belangrijke afsprakenworden vastgelegd over effectiviteit en betrouwbaarheid, het veiligegebruik van data (privacy, beveiliging) en zoveel mogelijk transparantievan gebruikte gegevens in modellen.In het zorgdomein wordt ingezet op verantwoorde AI-ontwikkeling en-gebruik. Het Ministerie van Volksgezondheid, Welzijn en Sport (VWS)draagt bij aan het actief identificeren van kansen en uitdagingen voor deopschaling van AI in de zorg. Als het gaat om het pleidooi van de AP ommeer onderzoek te doen naar de risico’s en implicaties van chatbots opbijvoorbeeld effectiviteit/ betrouwbaarheid en op (verslavings)gedrag, dankan ik u melden dat er momenteel niet specifiek voor therapeutischebegeleiding in mentale gezondheidszorg onderzoek wordt gedaan. Welkomen kansen en uitdagingen terug in verschillende rapportages enanalyses.9 Daarnaast bundelt een groep toonaangevende zorginstellingenhaar krachten om de inzet van generatieve AI in de zorg op een verant-woorde manier te versnellen. VWS heeft ingezet op een subsidiever-strekking aan ZonMW (ZonMw programmeert en financiert onderzoek envernieuwing in gezondheid, zorg en welzijn) om in te zetten op devalidatie van taalmodellen. Dit is momenteel in volle gang, het consortiumRIGH:T10 is hiermee bezig.11C)Voorts stelt de AP vast dat uit de praktijk blijkt dat voor een goedebeheersing van AI-systemen in overheidsorganisaties een meeralomvattende open en verantwoorde aanpak nodig is, die verder gaatdan de focus op een specifieke wet- en regelgeving, maar uitgaat vaneen meer holistische benadering voor cross-sectorale regelgeving of7Zie ook: Kamerstuk 2023/2024, 26 643, Nr. 1125.8idem9www.datavoorgezondheid.nl/ai10Het Nederlands Adaptief Consortium voor Verantwoorde Implementatie van Generatieve AI inde Zorg. De deelnemers zijn het LUMC, Elisabeth-Tweesteden Ziekenhuis, UMCG, ErasmusMC, UMC Utrecht, Maasstad Ziekenhuis, Frisius MC en GGZ Noord-Holland-Noord.11https://bio.link/rightconsortiumTweede Kamer, vergaderjaar 2024–2025, 26 643, nr. 13823 samenloop van regelgeving en andere kaders. Organisaties met eenvoldoende mate van volwassenheid weten regie te nemen en dekansen voor positieve inzet en bloeiende innovatie te omarmen. Het isbijvoorbeeld belangrijk dat ambtenaren en burgers ook weten wat AIprecies doet en dat ze daarbij de juiste vragen kunnen stellen en/of entijdig gebreken herkennen om AI desgewenst te verbeteren. Bij deinzet van algoritmes en AI is steeds meer sprake van een AI-keten. Ditvraagt om een samenspel van systemen en organisaties die op elkaarvoortbouwen concludeert de AP. Dit zijn complexe rollen waarbij hetdelen van informatie in de keten is nodig om te komen tot een goedesamenwerking en een passende verantwoordelijkheidsverdeling.ReactieIk ben het ermee eens dat voor een goede beheersing van risico’s eenmeer alomvattende, open en verantwoorde aanpak nodig is en daar werkik ook aan. AI heeft in de recente jaren een enorme vlucht genomen. Deomarming en inpassing daarvan gaat met vallen en opstaan. Nieuws-gierige medewerkers in organisaties hebben de impact van AI geagen-deerd en ermee geëxperimenteerd, weerstanden worden overwonnen,het gebruik begint te normaliseren, fouten ontstaan en er zijn nieuweregels. Een volwaardige en verantwoorde inzet van AI waarbij demogelijkheden worden benut en de risico’s vermeden of gemitigeerd,vraagt om verdere professionalisering van organisaties op dit punt. Eenvolwassenheidsmodel, zoals de AP benoemt, is een nuttig handvatdaarbij. In het Algoritmekader12 voor overheden heb ik dan ook enkelevoorbeelden van een volwassenheidsmodel opgenomen. Deze raken ookaan de eerste aanzet die de AP heeft gedaan voor een meerjarig actieplanom AI-geletterdheid binnen organisaties te bevorderen, waarvoor ik de APerkentelijk ben. Terecht stelt de AP dat AI-geletterdheid belangrijk is,omdat het ons in staat stelt, in de verschillende rollen die we hebben, ommet kritisch inzicht naar AI te kijken. Op verschillende manieren wordtgewerkt aan het bewerkstellingen van meer AI-vaardigheden vanambtenaren. Zo wordt binnen het programma digitaal vakmanschapingezet op het versterken van digitale vaardigheden van ambtenaren,waaronder AI- en datavaardigheden. Generatieve AI is hierbij een explicietonderdeel. In het programma worden zowel de technische als juridischeaspecten van generatieve AI meegenomen, voor zover dit noodzakelijk isvoor het goed uitvoeren van het werk. Om de digitale kennis te verbeterenis de Rijksacademie voor Digitalisering en Informatisering Overheid(RADIO) opgericht. Zij biedt bijvoorbeeld een basiscursus aan over dekansen en risico’s van generatieve AI voor overheidsambtenaren. Verderzal er in het kader van de NDS actief worden ingezet op AI-geletterdheiden wordt dit vraagstuk overheidsbreed opgepakt.D)De toezichthouders intensiveren de voorbereidingen op deAI-verordening en de inbedding daarvan in Nederland, stelt de APvast. Dat doen toezichthouders door uitleg te geven hoe organisatiesaan de eisen kunnen voldoen. Dit proces loopt nog. De AP stelt vastdat bedrijven en overheidsorganisaties aan het inspelen zijn op denieuwe vereisten.ReactieSinds de inwerkingtreding van de Europese AI Verordening op 1 augustus2024, heeft de Europese Commissie twee officiële richtlijnen gepubliceerd:over de definitie van een AI-systeem en over verboden AI-praktijken,12https://minbzk.github.io/Algoritmekader/voldoen-aan-wetten-en-regels/maatregelen/0-org-06-volwassenheidsmodel/index.htmlTweede Kamer, vergaderjaar 2024–2025, 26 643, nr. 13824 beide gepubliceerd in februari 2025. Deze richtsnoeren zijn bedoeld omstakeholders te ondersteunen bij het interpreteren van de wet. Ze dienengezien te worden als niet bindende, levende documenten. Zoals ook de APvaststelt, zijn bedrijven en overheidsorganisaties al aan het inspelen opdeze nieuwe vereisten.Eind 2024 brachten de Rijksinspectie Digitale Infrastructuur (RDI) en de APeen advies uit over de inrichting van het toezicht op de AI-verordening inNederland, in opdracht van de ministeries van EZ, BZK en JenV.13Momenteel bereidt het kabinet de inrichting van dit toezicht voor. Hieroverzal uw Kamer in het najaar van 2025 nader worden geïnformeerd. Opbasis van de uitvoeringswet – die eveneens in voorbereiding is – zullen debetrokken toezichthouders uitvoerbaarheidstoetsen uitvoeren om in kaartte brengen wat de financiële consequenties van deze (nieuwe) toezichts-taken zijn.Tot slotHet demissionaire kabinet blijft zich onverminderd inzetten om grip tekrijgen op algoritmes en AI en om de belangrijkste zorgen die in desamenleving spelen met name rond de nieuwste AI-ontwikkelingen, op tepakken. De periodieke rapporten van de AP zijn een goede graadmeter ende uitkomsten stellen het kabinet in staat om daar waar nodig, het beleidaan te scherpen.De Staatssecretaris van Binnenlandse Zaken en Koninkrijksrelaties,E. van Marum13Eindadvies toezicht op AI: sectoraal en centraal gecoördineerd | Autoriteit PersoonsgegevensTweede Kamer, vergaderjaar 2024–2025, 26 643, nr. 13825