Rapport 'Deceptive Design and Minors'

Tweede Kamer der Staten-Generaal2Vergaderjaar 2024–202526 643Informatie- en communicatietechnologie (ICT)Nr. 1393 BRIEF VAN DE STAATSSECRETARIS VAN BINNENLANDSE ZAKENEN KONINKRIJKSRELATIES Aan de Voorzitter van de Tweede Kamer der Staten-GeneraalDen Haag, 4 september 2025Hierbij bied ik u het rapport «Deceptive Design and Minors» aan. Inopdracht van het Ministerie van Binnenlandse Zaken en Koninkrijksre-laties (BZK) heeft dr. Mark Leiser onderzoek gedaan naar de juridischebescherming van kinderen tegen bedrieglijke verleidingstechnieken(«deceptive design techniques»)1 die worden gebruikt in digitale dienstendie populair zijn onder kinderen. In het onderzoek is het huidige Europesejuridische kader betrokken – waaronder de Digital Services Act (DSA),Algemene Verordening Gegevensbescherming (AVG),EU-consumentenwetgeving (Richtlijn Oneerlijke Handelspraktijken en deRichtlijn Consumentenrechten) en de nieuwe AI-verordening. Er is hierbijspecifiek gekeken naar ontwerpkeuzes die gericht zijn op gedragsbeïn-vloeding, zoals onder andere gepersonaliseerde nudges, oneindigescrollmechanismen, gamificatie, en verslavende prikkels in o.a. games ensociale mediaplatforms.Het Ministerie van BZK heeft dit onderzoek laten doen omdat kinderenbijzonder kwetsbaar zijn voor digitale manipulatie vanwege hun beperktevermogen om online content kritisch te beoordelen en hun beperktevermogen om te doorzien wanneer subtiele gedragsbeïnvloedingsmecha-nismen worden toegepast. De nieuwste, vaak door AI-gedreven,technieken zoals dynamische personalisatie, gedragsnudging en1Deceptive design techniques, in het Nederlands ook wel bedrieglijke verleidingstechniekengenoemd, verwijst naar opzettelijke keuzes in de gebruikersinterface (UI) en -ervaring (UX) dieerop gericht zijn gebruikers te misleiden tot gedrag dat ze anders misschien niet zouden kiezen.Deze misleidende technieken maken gebruik van psychologische principes zoals schaarste,urgentie en sociaal bewijs. kst-26643-1393ISSN 0921 - 7371’s-Gravenhage 2025Tweede Kamer, vergaderjaar 2024–2025, 26 643, nr. 13931 gamificatie kunnen het gedrag van jonge gebruikers beïnvloeden, vaakzonder dat ze zich daarvan bewust zijn.2Het rapport komt tot de conclusie dat de juridische bescherming vankinderen tegen bedrieglijke verleidingstechnieken beperkingen kent.Hoewel het rapport laat zien dat er belangrijke stappen zijn gezet inEuropese wetgeving, worden ook lacunes blootgelegd, met namewanneer het gaat om systematische manipulatie aangestuurd doorAI-systemen. Dit zijn systemen die geavanceerde technieken gebruikenom gebruikersgedrag te manipuleren door zich autonoom en in realtimeaan te passen op gebruikersgegevens en -gedrag. Deze systemen wordenslechts gedeeltelijk gedekt door de huidige wetgeving:•Zo wordt in het rapport gewezen op de hoge bewijsdrempel in deAI-verordening. De bewijsdrempel vereist dat er duidelijke enaantoonbare schade is, bijvoorbeeld financieel verlies of lichamelijkletsel. Maar bij AI-systemen die kinderen op een subtiele manierbeïnvloeden ontstaat de schade juist geleidelijk, zoals apps diekinderen met beloningen blijven aanzetten tot doorklikken of eindeloosscrollen. Dit maakt het moeilijk om precies vast te stellen wanneer enhoeveel schade er is.•Ook wijst het rapport op de beperkingen in de effectiviteit vantransparantie- en toestemmingsvereisten onder de AVG, met namevoor kinderen. Zo stelt Mark Leiser dat artikelen 5 en 7 van de AVGvrijelijk gegeven toestemming voor gegevensverwerking vereisen.Maar manipulatieve praktijken ondermijnen deze principes door tebeïnvloeden hoe platforms toestemming verkrijgen en de gegevens opeen later moment gebruiken. Daarnaast gaan de transparantie- entoestemmingsmechanismen uit van rationele besluitvorming en zijndaarom niet geschikt voor minderjarigen.•Ook constateert het rapport dat de DSA zich vooral richt op manipula-ties op het niveau van de gebruikersinterface3 en daarmee tekortschietin het reguleren van dieperliggende, systeemniveau manipulaties,zoals algoritmische sturing en dynamische aanpassing van inhoud.•De Europese consumentenwetgeving biedt volgens het rapportonvoldoende bescherming tegen deze praktijken, doordat de nadrukligt op individuele gedragingen van handelaren jegens de consumenten niet op de algoritmische stelselmatige beïnvloeding van gedrag. Integenstelling tot statische misleidende praktijken, zoals misleidendeproductclaims of onterechte meldingen over schaarste, ontwikkeltmisleiding op basis van AI zich dynamisch. In het rapport wordtgesteld dat het handhavingsmodel van de Richtlijn oneerlijkehandelspraktijken (UCPD) minder goed aansluit op AI-gestuurdemanipulatie, omdat het werkt op basis van beoordeling per geval enpas na schade wordt toegepast. Bij AI-gestuurde manipulatie wordende uitbuitende ontwerpkeuzes juist voortdurend verfijnd via algorit-misch leren.De onderzoeker doet diverse aanbevelingen, waaronder het ontwikkelenvan kindgerichte ontwerpstandaarden, het verplicht stellen van algoritme-audits, en het verbieden van bepaalde manipulatieve praktijken zoalsgepersonaliseerde urgentieprikkels en lootboxes. Deze aanbevelingenzullen worden betrokken in vervolgstappen die gezet worden ombedrieglijke verleidingstechnieken beter te reguleren.2Voorbeelden hiervan zijn bijvoorbeeld op de situatie van de gebruiker aangepaste content ofinterfaces, bij gamificatie gaat het om spelachtige elementen zoals beloningen, punten enscoreborden bij het behalen van bijvoorbeeld streaks.3De gebruikersinterface is de visuele en interactieve laag die het mogelijk maakt voor gebruikersom met een systeem te interacteren.Tweede Kamer, vergaderjaar 2024–2025, 26 643, nr. 13932 Een stap hierin is eerder al gezet door de Nederlandse inzet op Europeesniveau ten aanzien van verleidingstechnieken in games. Eerder heeftNederland zich uitgesproken voor een verbod op lootboxes, aanvullenderegulering van pay-to-win-mechanismen en het gebruik van digitalemunten.4 Aanvullend op onze eerdere inzet om verleidingstechnieken ingames tegen te gaan, wil het kabinet zich conform de motie Kathmann5ook inzetten voor de aanpak van verslavend en polariserend ontwerpspecifiek op sociale media-platforms.Ik werk samen met de Minister van Economische Zaken aan onze inzet inaanloop naar de aangekondigde Digital Fairness Act om verslavend enpolariserend ontwerp op sociale media op Europees niveau aan te pakken.Het rapport «Deceptive Design and Minors» laat echter ook zien dat dehuidige verscheidenheid aan Europese wetgeving leidt tot overlap,lacunes en interpretatieverschillen. Dit bemoeilijkt effectieve handhavingen schept juridische onzekerheid voor zowel gebruikers als platforms. Hetis daarom belangrijk dat zorgvuldig wordt gekeken hoe bestaandewetgeving kan worden versterkt of aangevuld, zonder verderecomplexiteit te creëren.Dit najaar kom ik bij uw Kamer terug met een beleidsreactie waarin ikonze inzet ten aanzien van verslavend en polariserend ontwerp op socialemedia verder zal toelichten.De Staatssecretaris van Binnenlandse Zaken en Koninkrijksrelaties,E. van Marum4Kamerstukken II, 2022–2023, 27 879, nr. 90.5Kamerstuk II 2024/25, 26 643, nr. 1302Tweede Kamer, vergaderjaar 2024–2025, 26 643, nr. 13933