Rapport ‘Schimmige scheidslijnen’

Tweede Kamer der Staten-Generaal2Vergaderjaar 2025–202629 754TerrorismebestrijdingNr. 771 BRIEF VAN DE MINISTER VAN JUSTITIE EN VEILIGHEID Aan de Voorzitter van de Tweede Kamer der Staten-GeneraalDen Haag, 2 december 2025Hierbij bied ik uw Kamer het onderzoek «Schimmige scheidslijnen:Juridische, ethische, en praktische uitdagingen bij het detecteren enmodereren van terroristische, extremistische en impliciet extremistischecontent, met respect voor de vrijheid van meningsuiting» aan. Ditonderzoek is op verzoek van de Nationaal Coördinator Terrorismebe-strijding en Veiligheid (NCTV) uitgevoerd door het International Centre forCounter-Terrorism (ICCT), in opdracht van het WetenschappelijkOnderzoek- en Datacentrum (WODC). Het onderzoek richt zich op de vraagof het haalbaar is een duidingskader voor terroristische, extremistische enin het bijzonder borderline content te ontwikkelen, zonder dat dat tenkoste gaat van de vrijheid van meningsuiting.1 Hoewel borderline contentgeen strikt terroristisch karakter heeft en niet per definitie tot geweld hoeftte leiden, kan zij wel de veiligheid van burgers en instituties ondermijnen.Dit kan bijvoorbeeld doordat dergelijke uitingen aanzetten tot haat ofopruiing, of doordat extremistisch gedachtengoed erdoor wordt genorma-liseerd. Dit soort type content vind ik zeer zorgelijk, in het bijzondervanwege de impact die het kan hebben op jongeren.Bevindingen en aanbevelingenHet onderzoek concludeert dat de ontwikkeling van een universeel,betrouwbaar duidingskader voor de detectie van terroristische, illegale enborderline content niet haalbaar is gezien de huidige juridische,technische en ethische omstandigheden. Volgens de onderzoekers zijn erverschillende fundamentele uitdagingen bij het ontwikkelen van eenduidingskader voor borderline content. Zo is er geen eenduidige definitievan «extremistische content» en maken extremistische actoren gebruikvan steeds veranderende uitdrukkingsvormen en tactieken. Het gebrek1In het onderzoek is gekozen voor de term impliciete extremistische inhoud om materiaal tebeschrijven dat door zijn verhullende aard niet direct als terroristisch of illegaal herkenbaar is,maar wel schadelijk kan zijn en potentieel kan bijdragen aan radicalisering. In deze Kamerbriefhanteer ik de veelgebruikte term borderline content, met dezelfde betekenis. kst-29754-771ISSN 0921 - 7371’s-Gravenhage 2025Tweede Kamer, vergaderjaar 2025–2026, 29 754, nr. 7711 aan definities, een grote afhankelijkheid van persoonlijke interpretatie, envooroordelen van menselijke moderatoren kunnen bovendien leiden totonjuiste classificatie van content. Indien er op basis van die interpretatiemoderatiebeslissingen volgen die de content beperken of verwijderen,vindt een mogelijke inperking van de vrijheid van meningsuiting plaats.De onderzoekers constateren dat er wel handelingsperspectieven zijn endoen achttien aanbevelingen. Deze zijn gericht aan online platformen,beleidsmakers en coördinerende overheidsactoren, zoals de NCTV enAutoriteit online Terroristisch en Kinderpornografisch Materiaal (ATKM).2Een groot aantal van de aanbevelingen is gericht aan online platformen.Deze aanbevelingen staan in het teken van het doorvoeren van verbete-ringen van het detectie- en moderatiebeleid. Het gaat onder andere omhet ontwikkelen van duidelijkere definities en referentiekaders voor typenvan schadelijke content en het gebruik maken van hybride AI-menselijkemoderatiemodellen.Beleidsmakers wordt aanbevolen om een «multistakeholdergroep» op terichten bestaande uit onder andere deskundigen, gebruikersgroepen enplatforms om onder andere te reflecteren op de indicatoren van terroris-tische en borderline content en hierover publiekelijk te rapporteren.Daarnaast wordt onder meer aanbevolen om het publieke debat tebevorderen over welke schadelijke content als rechtvaardig of alsniet-rechtvaardig kan worden gezien en over de autonomie die onlineplatformen mogen hebben bij de moderatie van online content.3 Ookwordt beleidsmakers aanbevolen de digitale weerbaarheid van gebruikerste vergroten door middel van ondersteuning van preventieprogramma’sop onder andere scholen en jongerenorganisaties.De coördinerende overheidsactoren, zoals de NCTV en de ATKM, wordtonder andere aanbevolen om transparante samenwerking met de onlineplatformen te zoeken en met hen een open discussie te voeren over degebruikte indicatoren voor het duiden van online content. Ook wordtaanbevolen om een lijst met veelgebruikte uitdrukkingen, specifiektaalgebruik en codetaal – die kenmerkend zijn voor extremistischegroepen die online content in Nederland plaatsen – met online platformste delen. Verder adviseren de onderzoekers om in dialoog met andereEuropese lidstaten en de Europese Commissie in te zetten op verdereversterking van Europese regelgevingskaders en in samenwerking met desector een sector-brede gedragscode te ontwikkelen.BeleidsreactieIk onderschrijf de uitdagingen die de onderzoekers noemen bij hetontwikkelen van een duidingskader. De conclusie, dat de ontwikkeling vaneen universeel en betrouwbaar duidingskader voor borderline content opdit moment niet haalbaar is, onderken ik.Dialoog met platformenVoor het optreden tegen content die zeer onwenselijk is, maar net niet delat van strafbaarheid haalt, is de overheid grotendeels afhankelijk van deinternetsector. Deze sector is in eerste instantie aan zet om te zorgen dathun gebruikers online veilig zijn. Ik zal het rapport en de daarin gedane2Het totaal aan aanbevelingen is onderdeel van het onderzoeksrapport dat als bijlage bij dezebrief is gevoegd.3De onderzoekers classificeren schadelijke content als content dat ernstige schade kantoebrengen aan een individu, een groep mensen, instellingen of de democratische rechtsorde,en dat deze niet wordt beschermd door internationale mensenrechtenrechten.Tweede Kamer, vergaderjaar 2025–2026, 29 754, nr. 7712 aanbevelingen gericht aan deze online platformen daarom actiefbetrekken in mijn structurele dialoog met de platformen. In deze dialoogzal ik aandacht vragen voor de wijze waarop de aanbevelingen opgevolgdmoeten worden. Door de platformen in de dialoog aan te spreken op hunverantwoordelijkheden, zet ik me blijvend in voor het stimuleren van deverantwoordelijkheid van de platformen om een veiligere onlineomgeving te creëren en te onderhouden. Ik onderschrijf hierbij ook hetbelang van voldoende menselijke contentmoderatie, waarvan denoodzaak door de onderzoekers in het rapport wordt benadrukt.Daarnaast werk ik aan effectieve interventiemogelijkheden die onlineradicalisering tegen kunnen gaan, en zoek ik nadrukkelijk de samen-werking met de sector op. Een concreet voorbeeld is de pilot met deReDirect-methode met Meta, waarbij gebruikers die online zoeken naarterroristische of extremistische content met een informatieveld wordendoorgeleid naar online hulp.De aanbeveling om een «multistakeholdergroep» op te richten, heb ikgedeeld met betrokken partijen, zoals de ATKM en de internetsector.Hierbij ligt de focus vooral op het inzichtelijk maken van zowel de(on)mogelijkheden als de potentiële bijdrage van een dergelijke groep.Over de ontwikkelingen hieromtrent zal ik uw Kamer in de volgendevoortgangsbrief over de Versterkte Aanpak Online in het voorjaar van2026 informeren.Internationale samenwerking en gedragscodeDe onderzoekers pleiten voor Europese samenwerking en het ontwikkelenvan een gedragscode met de sector. Ik erken dat internationale samen-werking een belangrijk instrument is in het tegengaan van onlineextremisme en terrorisme. In dit licht neemt Nederland een actieve rolbinnen de Europese Unie en zal op korte termijn, samen met gelijkgezindelidstaten, de Europese Commissie oproepen om onder meer samen metonline platforms een vrijwillige gedragscode op te stellen om hen beter instaat te stellen om verspreiding van illegale content tegen te gaan.Een belangrijk aanvullend EU-instrument is het EU Internet Forum (EUIF),waar lidstaten, EU-instellingen en online platformen samenwerken omterroristische en onwenselijke online content (bijvoorbeeld borderlinecontent) te bestrijden. Het EUIF heeft onder andere een handboekborderline content ontwikkeld, waarin definities, casestudies en concretevoorbeelden worden beschreven die online platformen en contentmode-ratoren helpen contentmoderatie aan te scherpen. Het EUIF is ook hetforum waar Nederland in samenspraak met gelijkgezinde landen deplatformen wijst op hun eigen verantwoordelijkheid ten aanzien van dezeproblematiek en waar draagvlak wordt gecreëerd voor aanvullendemaatregelen. Onder andere hier zal ik dan ook de aanbevelingen onder deaandacht brengen en mij inspannen voor verdere versterking vanEuropese regelgevingskaders.In dit licht ga ik kijken naar de wenselijkheid en haalbaarheid van eenzorgplicht voor online platformen in Europees verband. Over de ontwikke-lingen hieromtrent zal ik uw Kamer in de volgende voortgangsbrief overde Versterkte Aanpak Online in het voorjaar van 2026 informeren.ContentmoderatieIk deel de constatering van de onderzoekers dat de normalisering vanextremistisch gedachtegoed via impliciet taalgebruik en memes op onlineplatformen zorgelijk en onwenselijk is. Ik acht het van groot belang datcontentmoderatie op peil blijft om deze tendens tegen te gaan en dat daarTweede Kamer, vergaderjaar 2025–2026, 29 754, nr. 7713 waar mogelijk bruikbare handvatten zijn om terroristische, illegale enborderline content te detecteren en te kwalificeren. Daarom bekijk ik,conform de motie van het lid Michon-Derkzen (VVD), de mogelijkhedenom te komen tot een werkbare definitie van extremistische content.4 Ditkan online platformen ondersteunen bij het detecteren en identificerenvan online content dat zorgelijk en onwenselijk is.Een dergelijke definitie kan bijdragen aan een meer gedeeld beeld van dittype content en de risico’s daarvan. Passend bij de strekking van de motieen in lijn met de oproep in een aantal van de aanbevelingen om te komentot een meer gezamenlijke inzet, kan de sector betrokken worden bij deuitwerking hiervan, met name waar het gaat om een toets in hoeverrezo’n definitie ook daadwerkelijk werkbaar en toepasbaar is. Ook desamenwerking met de ATKM wordt opgezocht. Bij haar detectie- enbeoordelingswerkzaamheden komt de ATKM ook materiaal tegen dat nietals terroristisch kan worden beoordeeld, maar wel als zorgelijk enonwenselijk kan worden gezien. De ervaring hiermee kan tevens inputvormen om tot een definitie van extremistische content te kunnen komen.Vanzelfsprekend zal ik uw Kamer in het voorjaar van 2026 informeren overde voortgang middels de voortgangsbrief Versterkte Aanpak Online.Preventieprogramma’s en bevorderen publiek debatWat betreft de aanbevelingen inzake het versterken van preventiepro-gramma’s en digitale weerbaarheid kan ik uw Kamer melden dat reedsmeerdere geëvalueerde lesprogramma’s beschikbaar zijn, die brederkunnen worden ingezet om de online weerbaarheid en mediawijsheid vanmet name jongeren te vergroten. Hierover heb ik u nader geïnformeerd inde recente Kamerbrieven die ingaan op de Versterkte Aanpak Online.5 Deaanbeveling om het publieke debat te stimuleren over welke vormen vanschadelijke content als rechtvaardig of niet-rechtvaardig kunnen wordenbeschouwd, heb ik gedeeld met de Minister van Binnenlandse Zaken enKoninkrijksrelaties, die zorg zal dragen voor de verdere opvolging. Zovindt in 2026, in het kader van digitale burgerschapsvorming, een landelijkgesprek over online discriminatie en haatspraak plaats. Het doel is doormiddel van interactie tussen burgers bewustwording te creëren overonwenselijke online content (bijvoorbeeld borderline content) en samentot normering te komen. Daarbij wordt ook gevraagd naar de rollen diemen ziet voor de overheid, sociale mediaplatformen en Nederlandseburgers zelf in het veiliger maken van de digitale publieke ruimte.Tot slotTerroristische en extremistische groeperingen misbruiken onlineplatforms om propaganda te verspreiden, activiteiten te coördineren entot geweld aan te zetten. Het kabinet zal zich onverminderd blijveninzetten om online extremisme en terrorisme aan te pakken. Naast deaanpak van terroristische content en illegale content moet er oog zijn voorborderline content, omdat deze content kan bijdragen aan het onlineradicaliseringsproces en aan de normalisering van extremistischgedachtegoed. Het bewaken van fundamentele rechten, zoals de vrijheidvan meningsuiting blijft hierbij van groot belang, maar het vraagt om eenzorgvuldige balans met maatregelen die online radicalisering tegengaan4Kamerstuk 29 754, nr. 758.5Kamerstuk 29 754 nr. 708; Kamerstuk 29 754, nr. 735; Kamerstuk 29 754, nr. 751.Tweede Kamer, vergaderjaar 2025–2026, 29 754, nr. 7714 en de veiligheid bevorderen. Nog dit jaar zal ik in de voortgangsbriefVersterkte Aanpak Online extremisme en terrorisme nader ingaan op deontwikkelingen in de aanpak.De Minister van Justitie en Veiligheid,F. van OostenTweede Kamer, vergaderjaar 2025–2026, 29 754, nr. 7715