WODC-onderzoek ‘Radicale reclame op sociale media’

Tweede Kamer der Staten-Generaal2Vergaderjaar 2023–202429 754Terrorismebestrijding26 643Informatie- en communicatietechnologie (ICT)Nr. 729 BRIEF VAN DE MINISTER VAN JUSTITIE EN VEILIGHEID Aan de Voorzitter van de Tweede Kamer der Staten-GeneraalDen Haag, 4 september 2024Extremistische en terroristische groeperingen gebruiken het internet actiefvoor de verspreiding van gedachtegoed, rekrutering en geweldsvoorbe-reiding. Zij zoeken via mainstream platformen gelijkgestemden van overde hele wereld en communiceren vervolgens via heimelijke en versleu-telde chats over hun plannen. Recente arrestaties laten zien dat vanuitonline contact ook daadwerkelijk kan worden overgegaan tot het plannenvan aanslagen. Het kabinet is er alles aan gelegen om aanslagen tevoorkomen en acht het daarbij van groot belang om inzicht te krijgen inde wijze waarop rekrutering door en voor extremistische en terroristischegroepen op het internet plaatsvindt om de aanpak hierop aan te latensluiten.Bijgaand bied ik u het onderzoeksrapport «Radicale reclame op socialemedia» aan. Het betreft een onderzoek naar online rekrutering door envoor extremistische groepen, uitgevoerd door het Nederlands Studie-centrum Criminaliteit en Rechtshandhaving (NSCR) in opdracht van hetWetenschappelijk Onderzoek- en Datacentrum (WODC). Hieronder geef ikde belangrijkste bevindingen van het onderzoek, de door de onderzoekersgeschetste aanbevelingen voor vervolgonderzoek alsook de aanbeve-lingen voor beleid en de praktijk weer en geef ik een reactie op dezebevindingen en aanbevelingen.Ik dank de onderzoekers voor hun waardevolle onderzoek dat inzicht biedtin processen van online rekrutering en aanbevelingen doet voor hoe dit inde toekomst nog beter in beeld gebracht en aangepakt kan worden.OnderzoeksbevindingenHet online domein als een unieke omgevingUit de onderzoeksresultaten blijkt dat het online domein over kenmerkenbeschikt die kunnen bijdragen aan het proces van rekrutering. Zo ligt dedrempel om toe te treden tot een bepaalde extremistische groepering kst-29754-729ISSN 0921 - 7371’s-Gravenhage 2024Tweede Kamer, vergaderjaar 2023–2024, 29 754, nr. 7291 online veel lager dan offline, vooral omdat het internet anonimiteit biedt.Daarnaast gaat het online domein letterlijk over landsgrenzen en is fysiekenabijheid geen vereiste om te rekruteren of gerekruteerd te worden. Ookkan online eenvoudig een vertekend, positiever beeld geschetst wordenvan een bepaalde extremistische groepering die daarmee aantrekkelijkerkan worden voorgesteld voor potentiële rekruten.Extremistische groepen maken gebruik van een grote diversiteit aanplatforms, waaronder mainstream sociale mediaplatforms zoals Facebooken YouTube en low profile platforms zoals Telegram. Telegram is volgensde professionals op dit moment het meest gebruikte platform onderextremistische groepen. Als reden wordt genoemd dat dit platform meeranonimiteit biedt en minder actief is op het gebied van content-moderatie.Online rekrutering voornamelijk generiek van aardEen rekruteringsproces vangt volgens de onderzoekers doorgaans aan opopenbare platformen waar niet zozeer illegale content, maar veel vakerborderline (of «legal yet harmful») content bijdraagt aan de aantrekkings-kracht van en daaropvolgende toetreding tot extremistische groepen. Hetbetreft dan (legale) online content die geen strikt terroristisch karakterkent en zelfs niet altijd hoeft te leiden tot geweld, maar wel de veiligheidvan burgers en instituties ondermijnt, bijvoorbeeld doordat het aanzet tothaat of opruiing of omdat de content extremistisch gedachtengoednormaliseert.Uit het onderzoek komt tevens naar voren dat personen in het algemeenin aanraking komen met een extremistische groep doordat ze zelf onlineop zoek gaan naar gelijkgestemden en vervolgens lid worden van eenopenbare groep. In een trapsgewijs proces dat hierop volgt, kunnengeïnteresseerden dieper in de groepering binnenkomen door vervolgensuitgenodigd te worden voor besloten groepen.Wisselwerking tussen online rekrutering (en mobilisering) en offlinegedragDe onderzoekers constateren een wisselwerking tussen online rekruteringen de offline wereld. Ten eerste kan iemands offline situatie, bijvoorbeeldeen moeilijke thuissituatie, zijn of haar vatbaarheid voor online rekruteringvergroten. Hiervan is vooral sprake onder jongeren. Hoewel dergelijkekwetsbaarheden niet direct leiden tot lidmaatschap van een groepering,kunnen ze wel als een risicofactor worden beschouwd. Ten tweede kanonline rekrutering overgaan in «onlife» rekrutering, waarbij sprake is vaneen continue wisselwerking tussen online en offline processen. Zoconstateren de onderzoekers dat alle onderzochte extremistische groepentevens offline groepsactiviteiten organiseren en wordt er, in verband meteen toenemend veiligheidsbewustzijn, met name in latere rekruterings-fasen meer waarde gehecht aan fysiek contact. Overigens is de link tussenonline rekrutering en het overgaan tot daadwerkelijke offline (geweld-dadige) acties volgens de onderzoekers ingewikkeld vast te stellen.Uitzondering hierop vormden de rekruteringsstrategieën van Al Qaida enIS waarbij online rekrutering een opmaat was naar het plegen vanterroristische aanslagen.Bestaande aanpakken en handelingsperspectievenDe afgelopen jaren zijn diverse maatregelen ter preventie van onlinerekrutering ontwikkeld. De onderzoekers hebben deze maatregelenonderzocht en hebben daarbij ingezoomd op de aanpak gericht op hetvergroten van (1) de online weerbaarheid, (2) online tegengeluiden(3) regulering en moderatie.Tweede Kamer, vergaderjaar 2023–2024, 29 754, nr. 7292 1. Maatregelen gericht op online weerbaarheidDe onderzoekers onderstrepen het belang van maatregelen gericht op hetvergroten van de online weerbaarheid, zoals de ontwikkeling vanvaardigheden om berichtgeving zelfstandig en kritisch te beoordelen(mediawijsheid), om bronnen te kunnen evalueren en te bevragen en omdesinformatie te kunnen onderscheiden van betrouwbare berichtgeving.Het vergroten van de online weerbaarheid gebeurt nu vooral viacursussen en programma’s gericht op jongeren. Uit de weinige evaluatiesdie zijn uitgevoerd, blijkt dat deze bewustwordings- en informatiepro-gramma’s zeker op de korte termijn positieve effecten lijken te hebben.Echter, om jongeren langdurig online weerbaar te maken, wordt door derespondenten binnen het onderzoek een meer structurele inzet nodiggeacht van preventieve online weerbaarheidsprogramma’s. De rol vanouders bij de digitale opvoeding van jongeren wordt bovendien cruciaalgeacht, evenals hun belangrijke signalerende functie als het gaat ompreventie van online radicalisering en rekrutering.2. Aanpak gericht op online tegengeluidenDe inzet van online tegengeluiden door overheden en het maatschappelijkmiddenveld richt zich op verschillende aan extremisme gerelateerdeprocessen, zoals het voorkomen van online radicalisering en deverspreiding van nepnieuws, en niet specifiek op het voorkomen vanonline rekrutering. Volgens de onderzoekers is nog onvoldoende duidelijkin hoeverre de inzet van online tegengeluiden (het gewenste) effectsorteert. Bovendien is nog weinig bekend over eventuele onbedoeldeneveneffecten of zelfs tegengestelde effecten.3. Aanpak gericht op regulering en contentmoderatieSinds de inwerkingtreding van de Digitale dienstenverordening (DigitalServices Act) per februari 2024, geldt dat alle platformen binnen deEuropese Unie (EU) verplicht zijn om op te treden tegen illegale content.Uit het onderzoek naar online rekrutering blijkt dat extremistische enterroristische content in toenemende mate lijkt te verplaatsen naarbesloten groepen op «low profile» (alternatieve-technologische)platformen. Extremistische content heeft bovendien plaatsgemaakt voorborderline (of «legal yet harmful») content, die zich moeilijker laatmodereren.AanbevelingenMet betrekking tot vervolgonderzoek bevelen de onderzoekers aan om dein dit onderzoek gebruikte methode van contentanalyse verder uit tebreiden. In vervolgonderzoek ook de gamingsplatforms te betrekken, deervaringen van mensen die zelf zijn of hebben gerekruteerd mee te nemenen in kaart te brengen welke mogelijkheden overheidsinstanties entech-bedrijven hebben om online content te modereren en platforms tereguleren, alsmede hoe hier in de praktijk gebruik van wordt gemaakt enwat de effecten hiervan zijn. Daarnaast wordt aanbevolen om evaluatieon-derzoek te verrichten om de effectiviteit van de bestaande maatregelen,waaronder op weerbaarheid, in kaart te brengen.Met betrekking tot beleid en de praktijk komen de onderzoekers tot devolgende aanbevelingen:•Het verder ontwikkelen van evidence-based programma’s ter vergro-ting van de online weerbaarheid en daarbij professionals vanuitinstanties buiten het strafrechtelijk domein nadrukkelijk(er) tebetrekken, variërend van jeugdwerkers tot leerkrachten.Tweede Kamer, vergaderjaar 2023–2024, 29 754, nr. 7293 •Het professionaliseren van (het voorkomen van) online rekrutering eneen intensivering van de samenwerking tussen instanties waarbij metname expertise rond offline radicalisering en rekrutering wordtgecombineerd met expertise rond online processen. Meer in hetalgemeen wordt aanbevolen om kennis over het online domein sterkte vergroten binnen de lokale overheid.•Om in samenwerking met de tech-bedrijven verbeteringen te blijvendoorvoeren met betrekking tot het detecteren van online extremistischmateriaal.•Een concretere aanpak van borderline content op te stellen en een«taskforce borderline content» op te richten waarin niet alleenprofessionals vanuit beleid en de praktijk en vertegenwoordigers vande tech-sector plaatsnemen, maar ook een breed palet aan weten-schappers, inclusief extremisme-experts, juristen en ethici.BeleidsreactieOm het handelingsperspectief voor het tegengaan van online extremismeen terrorisme te versterken wordt momenteel gewerkt aan de VersterkteAanpak Online, waarvan de contouren reeds met uw Kamer zijn gedeeld.De bevindingen en aanbevelingen uit dit onderzoek zijn waardevol enzullen ook worden meegenomen in de uitwerking van deze aanpak die inhet najaar van 2024 met u gedeeld zal worden. De versterking loopt langsvier lijnen: de dialoog met de internetsector, het wettelijk instrumen-tarium, de lokale aanpak en de internationale inzet.1Op dit moment geldt dat waar sprake is van terroristische content deAutoriteit online Terroristisch en Kinderpornografisch Materiaal (ATKM)op basis van de Verordening Terroristische Online Inhoud en de Uitvoe-ringswet Terroristische Online Inhoud deze content binnen een uur kanlaten verwijderen of ontoegankelijk kan laten maken. Steeds vaker isechter sprake van (legale) online content dat de veiligheid van burgers eninstituties ondermijnt. Maatregelen met betrekking tot deze borderline (of«legal yet harmful») content zijn ingewikkeld, omdat tevens het recht opde vrijheid van meningsuiting dient te worden beschermd. In de dialoogmet de internetsector die momenteel in het kader van de VersterkteAanpak Online inzake extremistische en terroristische content wordtgevoerd, worden platformen gewezen op de verantwoordelijkheden die zijhebben met betrekking tot de bescherming van hun gebruikers. Het isdaarbij, zoals de onderzoekers ook benadrukken, van groot belang dattech-bedrijven verbeteringen blijven doorvoeren met betrekking tot hetdetecteren van online extremistisch materiaal. Dit wordt aangekaart enverder aangemoedigd in de eerdergenoemde dialoog met deinternetsector.In dit onderzoek wordt opnieuw het belang van het (eigen) zoekgedrag inradicaliseringsprocessen aangekaart.2 Het kabinet hecht grote waarde aanhet tegengaan van de dreiging van online radicalisering en extremisme,zeker daar waar het jongeren betreft. Mede naar aanleiding van de motievan het lid Kuik waarin wordt verwezen naar de ReDirect-methode (CDA)3heeft de NCTV gezocht naar mogelijkheden om barrières op te werpen indit online zoekproces, om enerzijds te voorkomen dat personen steeds1Kamerstukken II 2022.23, 29 754, nr. 708.2Zie ook het onderzoek naar de relatie tussen (rechts) extremistische content en de werking vanaanbevelingsalgoritmen dat het Verwey-Jonker Instituut en Textgain in opdracht van het WODChebben uitgevoerd: «rechts-extremisme op sociale mediaplatforms? Ontwikkelingspaden enhandelingsperspectieven» (WODC, oktober 2023). In dit onderzoek wordt gesteld dat hetzoekgedrag van de internetgebruiker zelf minstens zo belangrijk is als de rol van algoritmen inmogelijke radicaliseringspaden.3Kamerstukken II 2022/23, 29 754, nr. 658.Tweede Kamer, vergaderjaar 2023–2024, 29 754, nr. 7294 verder in een extremistische fuik terechtkomen wanneer zij op zoek gaannaar online extremistische content, en anderzijds om deze personen doorte geleiden naar een (online) hulpaanbod.Hieruit is gebleken dat voor het effectief opzetten en implementeren vandergelijke online interventies, de overheid in hoge mate afhankelijk is vansamenwerking met, en de welwillendheid van sociale mediaplatformen. Inhet kader van de Versterkte Aanpak Online worden momenteelgesprekken met de internetsector gevoerd over het opzetten van een pilotin lijn met de genoemde motie. In de Versterkte Aanpak Online zal ik devoortgang van deze gesprekken met uw Kamer delen.De komende jaren zal er bijzondere aandacht uitgaan naar het integrerenvan het online domein in de lokale integrale aanpak van radicalisering enextremisme.Door diverse gemeenten wordt er al gewerkt met online jongerenwerkersdie via sociale mediaplatformen in contact zijn met jongeren en hen zoondersteunen. Bij zorgelijk online gedrag4, kunnen jongerenwerkersdaarover in gesprek gaan met jongeren en zo nodig interveniëren binnende primaire preventie dan wel de persoonsgerichte aanpak in de fysiekeleefwereld. Tevens wordt op dit moment bezien hoe het online domeinkan worden geïncorporeerd binnen bestaande trainingen van hetRijksopleidingsinstituut tegengaan Radicalisering (ROR). Ten slotte heefthet Landelijk Steunpunt Extremisme (LSE) in samenwerking met de NCTVeen online chatfunctie ontwikkeld. Hiermee wordt een laagdrempeligemanier aangeboden om jongeren actief in het online domein in eenvroegtijdig stadium in contact te brengen met het hulpaanbod van hetLSE, zodat radicalisering wordt voorkomen of tegengegaan. De onlinechatfunctie kan een logisch sluitstuk vormen op een online interventiewaarover nu gesprekken plaatsvinden met de internetsector, mede naaraanleiding van de motie van het lid Kuik (CDA)5.Ook wordt de inzet op het vergroten van online of digitale weerbaarheidvia verschillende (lokale) interventies en het ondersteunen van professi-onals en gemeenten de komende jaren verder versterkt. Onder meer viade Versterkingsgelden worden gemeenten aangemoedigd om de focus opevidence-based programma’s in het kader van de aanpak van onlineradicalisering en extremisme te versterken. Gemeenten spelen immerseen cruciale rol in de preventie en aanpak van radicalisering en extre-misme. Samen met jongerenwerkers, scholen en andere ketenpartnersspannen zij zich in om te signaleren en in te grijpen als individuenradicaliseren maar ook om een rol te vervullen in het bijstaan vanindividuen die kwetsbaar zijn voor extremistische en onverdraagzameboodschappen. Zij doen dit vanuit hun eigen expertise en hun lokalebinding met inwoners. Het Ministerie van Sociale Zaken en Werkgele-genheid (SZW) ondersteunt (jeugd) professionals en gemeenten bij hetbetrekken van, en het werken in de online leefwereld. Dit gaat om hetbieden van kennis, handelingsperspectief en benodigde randvoor-waarden.In het rapport doen de onderzoekers diverse aanbevelingen voorvervolgonderzoek. Ook deze aanbevelingen zullen onderdeel vormen vande Versterkte Aanpak Online. Naar de mogelijkheden die overheidsin-stanties en tech-bedrijven hebben om online content te modereren enplatformen te reguleren, is al het nodige onderzoek gedaan. Zo heeftbijvoorbeeld TNO in opdracht van de NCTV in april 2024, het onderzoeks-4Zoals ondermijning, georganiseerde criminaliteit, radicalisering en extremisme.5Kamerstukken II 2022/23, 29 754, nr. 658.Tweede Kamer, vergaderjaar 2023–2024, 29 754, nr. 7295 rapport «Online extremisme en radicalisering: Verkenning van nieuwedetectie en interventiemogelijkheden» opgeleverd.Wat betreft de aanbeveling om te komen tot een concretere aanpak vanborderline content door het oprichten van een taskforce waarin niet alleenprofessionals vanuit beleid en de praktijk en vertegenwoordigers van detech-sector plaatsnemen, maar ook een breed palet aan wetenschappers,inclusief extremisme-experts, juristen en ethici, kan worden gemeld datde NCTV het WODC heeft verzocht om onderzoek te doen naar dehaalbaarheid van het opstellen van een duidingskader aan de handwaarvan online platformen kunnen bepalen welke content extremistisch isen mogelijk kan leiden tot verdere radicalisering. Naar gelang deuitkomsten van dit onderzoek zal verder bekeken worden welke stappen erkunnen worden gezet om borderline content aan te pakken. Tevens wordter in Europees verband gewerkt aan richtlijnen voor internetbedrijven ommet borderline content om te gaan. Hier zal Nederland ook actief bijbetrokken blijven.Gelet op de populariteit van online games, ben ik met de onderzoekersvan mening dat het cruciaal is dat er meer zicht komt op de rol diegamingplatformen spelen in het kader van online radicalisering enrekrutering. Betere bescherming van minderjarigen is daarbij essentieel.Dit is ook nadrukkelijk onderwerp van gesprek in de eerdergenoemdedialoog met de internetsector. Daarnaast is Nederland lid van eeninternationale werkgroep van het Global Internet Forum to CounterTerrorism (GIFCT) die gericht is op het ondersteunen van professionals inde gamingindustrie met als doel deze omgevingen te beschermen tegenextremistisch en terroristisch misbruik.6Tot slotDe invloed van extremistische en terroristische online content op denationale veiligheid is de laatste jaren sterk toegenomen; extremisten enterroristen gebruiken het online domein om hun ideologieën teverspreiden en bewegingen te vormen. In nauwe samenwerking metandere departementen en uitvoeringsorganisaties zal het kabinet de inzetop het tegengaan van online rekrutering door extremistische groepe-ringen blijven intensiveren. De internetsector vervult hierbij een crucialerol en ik acht het van groot belang om hierin gezamenlijk te blijvenoptrekken. Tegelijkertijd blijft ons uitgangspunt om te komen tot eenambitieuze inzet op deze thematiek om aanslagen te voorkomen en onsland veilig te houden.De Minister van Justitie en Veiligheid,D.M. van Weel6Gaming Community of Practice (GCoP) van het Global Internet Forum to Counter TerrorismTweede Kamer, vergaderjaar 2023–2024, 29 754, nr. 7296