Contourenbrief Versterkte Aanpak Online inzake extremistische en terroristische content

Tweede Kamer der Staten-Generaal2Vergaderjaar 2023–2024 29 754Terrorismebestrijding 26 643Informatie- en communicatietechnologie (ICT) Nr. 708 BRIEF VAN DE MINISTERS VAN JUSTITIE EN VEILIGHEID, VAN BUITENLANDSE ZAKEN, VAN ECONOMISCHE ZAKEN EN KLIMAAT, VAN SOCIALE ZAKEN EN WERKGELEGENHEID, VAN BINNENLANDSE ZAKEN EN KONINKRIJKSRELATIES EN DE STAATSSECRETARIS VAN BINNENLANDSE ZAKEN EN KONINKRIJKSRELATIES Aan de Voorzitter van de Tweede Kamer der Staten-Generaal Den Haag, 12 december 2023 In ons dagelijks leven is de online wereld niet meer weg te denken. Internet en sociale media worden door vrijwel iedereen in de samenleving veelvuldig gebruikt. De razendsnelle ontwikkelingen in het online domein hebben – zowel in positieve als in negatieve zin – impact op de inrichting van onze maatschappij en het functioneren van de democratie, zeker gezien de invloed hiervan op het publieke debat. Hoewel het belang van een open en vrij internet niet ter discussie staat, is het cruciaal dat regulering de snel opeenvolgende technologische ontwikkelingen kan bijbenen. Blijvende aandacht voor zowel de risico’s die het open en vrije internet met zich meebrengt, als voor de kwaliteit, effectiviteit en toekomstbestendigheid van regulering is van groot belang om burgers en de democratische rechtsstaat te beschermen. Het online domein speelt een significante rol voor kwaadwillenden in het aanjagen van extremisme en in het uiterste geval terrorisme. Het internet en met name sociale mediakanalen worden mede gebruikt door extre-misten en terroristen om hun (politieke) ideologieën te verspreiden en bewegingen te vormen. Hierdoor kunnen (veelal jonge) geïnteresseerden terecht komen in een informatiefuik van steeds extremere content, waar over aanslagen wordt gefantaseerd en deze soms ook daadwerkelijk worden uitgevoerd.1 De onmetelijke hoeveelheid content, de diversiteit aan online platformen en het ontbreken van fysieke landgrenzen, maken dat het geen gemakke-1Winter, C., Neumann, P., Meleagrou-Hitchens, A., Ranstorp, M., Vidino, L., & Fürst, J. (2020). Online extremism: Research trends in internet activism, radicalization, and counter-strategies. International Journal of Conflict and Violence (IJCV), 14, 1–20. kst-29754-708ISSN 0921 - 7371’s-Gravenhage 2023Tweede Kamer, vergaderjaar 2023–2024, 29 754, nr. 7081 lijke opgave is de veiligheid van burgers online te beschermen en daarmee de effecten van online extremisme in de offline wereld te beperken. Er zijn beperkingen aan mogelijkheden voor de overheid om burgers in voldoende mate te beschermen tegen discriminatie, aantasting van de veiligheid en ondermijning van andere democratische en rechtsstatelijke beginselen.2 Regulering van het ondervangen van de ongewenste neveneffecten van de online wereld vraagt een gezamenlijke inspanning in Europees en internationaal verband.3 De laatste jaren zijn op dit gebied veel stappen gezet. Naast regulering is inzet op andere middelen noodzakelijk. Belangrijke randvoorwaarde daarbij is de bescherming van grondrechten zoals gelijke behandeling, vrijheid van meningsuiting en privacy. Dat wat illegaal is offline, moet ook online illegaal zijn. Een parallelle wereld waar onze wetten en regels niet gelden, is onwenselijk. Grenzen aan extremistische uitingen online Uit de Dreigingsbeelden Terrorisme Nederland 574 en 585 komt het beeld naar voren dat de invloed van extremistische en terroristische online content op de nationale veiligheid sterk is toegenomen. In het meest recente Dreigingsbeeld Terrorisme Nederland van december 20236 is aangegeven dat radicalisering van jonge jihadisten en rechts-extremisten grotendeels online plaatsvindt. Extremisten spelen in op de online dimensie die een steeds prominentere plek in de belevingswereld van mensen, en zeker jongeren, inneemt. Een radicaliseringsproces kan zich online snel voltrekken. In het Dreigingsbeeld Terrorisme Nederland van december 2023 is een apart themahoofdstuk opgenomen waarin nader wordt ingegaan op de veranderende dreiging door online radicalisering. Indien er sprake is van terroristische online content kan deze op basis van de Verordening Terroristische Online Inhoud7 en de Uitvoeringswet Terroristische Online Inhoud8 worden verwijderd. De Autoriteit Online Terroristisch en Kinderpornografisch Materiaal (ATKM)9, welke sinds 1 september jl. van start is gegaan, heeft de bevoegdheid voor het sturen van verwijderingsbevelen. Borderline content of «legal yet harmful» content Maatregelen met betrekking tot borderline of «legal yet harmful» content zijn ingewikkeld. Hierbij dient het recht op de vrijheid van meningsuiting beschermd te worden en geldt dat deze content in beginsel legaal is. Er is echter steeds vaker sprake van (legale) online content dat geen strikt terroristisch karakter kent en zelfs niet altijd hoeft te leiden tot geweld, maar wel de veiligheid van burgers en instituties ondermijnt, bijvoorbeeld doordat het aanzet tot haat of opruiing of omdat de content extremistisch gedachtengoed normaliseert. Voorbeelden hiervan kunnen zijn de extremistische en/of antidemocratische uitingen waarop wordt gedoeld in de gewijzigde motie van het lid Becker c.s.10, alsook de verspreiding van 2Zie ook Regulering van online content: Naar een herijking van het Nederlandseinternetbeleid (AIV-advies 113) vastgesteld op 24 juni 2020.3Zie pijler «dialoog internetsector», «wettelijk instrumentarium» en «internationale diplomatieke inzet».4Dreigingsbeeld Terrorisme Nederland 57 (Bijlage bij Kamerstuk 29 754, nr. 653).5Dreigingsbeeld Terrorisme Nederland 58, p. 40 (Bijlage bij Kamerstuk 29 754, nr. 678).6Dreigingsbeeld Terrorisme Nederland 2023/02 (bijlage bij Kamerstuk 29 754, nr. 696).7Vanaf 7 juni 2022 is de Europese Verordening 2021/784 van toepassing die uniforme regels vaststelt om de verspreiding van online terroristisch materiaal tegen te gaan.8De Uitvoeringswet Terroristische Online Inhoud is per 1 september 2023 in werking getreden.9Zie pijler «wettelijk instrumentarium» voor meer uitleg hierover.10Kamerstukken II, 2020/21, 35 228, nr. 34.Tweede Kamer, vergaderjaar 2023–2024, 29 754, nr. 7082 anti-institutionele complottheorieën. In het uiterste geval kan deze content iemand inspireren tot het daadwerkelijk plegen van strafbare feiten. Wanneer er sprake is van strafbare feiten of strafbare uitlatingen, zoals bedreigingen van journalisten en bewindspersonen aangehaald door het lid Gündog˘an in het debat over desinformatie en online platformen van 14 juni jl. (Kamerstuk 30 821, nr. 194)11, is strafrechtelijke opsporing van de personen achter anonieme accounts mogelijk. Maar dit vraagt ruime tijd- en capaciteitsinzet, waarbij tevens meer nodig is dan louter een strafrechtelijke aanpak. Daarom zetten wij ook in op structurele dialoog met de internetsector over hun rol en verantwoordelijkheid in onder andere het verlenen van medewerking aan opsporingsverzoeken. Maar ook in het modereren van «legal yet harmful» online content. Borderline of «legal yet harmful» online content wordt in het Dreigings-beeld Terrorisme Nederland 5712 en in het dreigingsbeeld van december 202313 beschreven. Hierin staat dat het online plaatsen van ogenschijnlijk minder opruiende content door aanjagers, zoals zogenaamd humoris-tische memes, bijdraagt aan de verspreiding en normalisering van radicaal gedachtegoed. Ook recentelijk data-onderzoek van de Universiteit Utrecht14 ziet een link naar de offline/online de dynamiek tussen het politieke debat in de Tweede Kamer en de reacties, commentaar daarop en framing daarvan op sociale media. Zo blijkt hieruit dat er een wissel-werking is waarbij ook radicale uitingen hun weg van sociale media naar het plenair debat vinden, of waar de uitingen van politici de retoriek online beïnvloeden. Deze complexe problematiek vraagt om de opstelling van een Versterkte Aanpak Online die zich in belangrijke mate richt op extremistische en terroristische content. In deze brief bieden wij aan de hand van vier pijlers een overzicht van de huidige inzet en doen wij een eerste aanzet om het huidige instrumentarium op extremisme en terrorisme te versterken met daarbij speciale aandacht voor preventieve maatregelen. Hiermee voldoet de Minister van Justitie en Veiligheid aan haar toezegging aan uw Kamer.15 Deze brief fungeert als opmaat naar een verdere uitwerking van de Versterkte Aanpak Online voor extremistische en terroristische content in actielijnen die in het voorjaar van 2024 met uw Kamer wordt gedeeld. Het definiëren van extremistische online content is geen sinecure. Daarom willen wij laten onderzoeken of het haalbaar is een duidingskader op te laten stellen aan de hand waarvan online platformen kunnen bepalen welke content extremistisch is en mogelijk kan leiden tot verdere radicalisering. Wij begrijpen dat het voor online platformen niet eenvoudig is en zijn van mening dat hier een norm gesteld dient te worden, maar dat dit met gepaste zorgvuldigheid dient te gebeuren. Een onafhankelijke toets en het fundamentele recht op vrijheid van menings-uiting zijn hierbij van elementair belang. Daarom zijn wij voornemens wetenschappers en externe (juridische) experts te vragen zich over dit grijze gebied van extremistische content te buigen en de mogelijkheden te verkennen voor het opstellen van een duidingskader. Wij zien ook een rol voor hen weggelegd bij het uitvoeriger verkennen van de juridische 11Toezegging geregistreerd onder: TZ202307–103.12Dreigingsbeeld Terrorisme Nederland 57, p. 27.13Dreigingsbeeld Terrorisme Nederland 2023/02, p. 13.14Universiteit van Utrecht 2023, «Spelen met Vuur». Via https://dataschool.nl/nieuws/spelen-met-vuur/.15Toezegging bij het commissiedebat terrorisme/extremisme van 7 juni 2023: TZ202306–154 (Kamerstuk 29 754, nr. 687).Tweede Kamer, vergaderjaar 2023–2024, 29 754, nr. 7083 invulling van een zorgplicht voor online platformen16, waar Nederland tijdens de onderhandelingen voor de Digital Services Act heeft gepleit, maar dit kon helaas niet op voldoende steun rekenen in de raad.17 De voortgang hierop zullen wij in de uitwerking van de Versterkte Aanpak Online voor extremistische en terroristische content verder toelichten. De aanpak vormt een uitwerking van de vorig jaar uitgebrachte Nationale Contraterrorisme Strategie18, de Rijksbrede strategie effectieve aanpak van desinformatie19 en de nog te verschijnen Extremisme Strategie.20 De aanpak is hiermee onderdeel van het bredere debat over de vormgeving van een vrije en open online wereld die recht doet aan democratische en rechtsstatelijke principes en waarin burgers beter beschermd worden tegen de schaduwzijde van het internet. Voor de uitwerking van de contouren in deze brief zullen wij samenwerken met relevante ketenpartners. Vier pijlers in de Versterkte Aanpak Online Om een overzicht te bieden van de huidige aanpak met preventieve en repressieve actielijnen, zijn de volgende pijlers uitgewerkt: 1)Dialoog internetsector; 2)Wettelijk instrumentarium; 3)Lokale aanpak; 4)Internationale inzet. Pijler 1: Dialoog internetsector De overheid en de internetsector (grote sociale mediaplatformen, alternatieve technologische platformen, gamingplatformen, aanbieders van hostingdiensten en datacenters) hebben gezamenlijk een belangrijke rol in het veilig houden van de online omgeving en in het tegengaan van de verspreiding van content die de veiligheid van burgers en instituties ondermijnt. Grote sociale mediaplatformen, alternatieve technologische platformen en gamingplatformen hebben het primaat op contentmode-ratie en bepalen in hoeverre content toegankelijk is voor het brede publiek.21 Mede daarom werkt het Ministerie van Justitie en Veiligheid onder andere op projectmatige basis aan het verbeteren van de mogelijk-heden van slachtoffers om mogelijk strafbare en onrechtmatige online content te melden. Ook wordt er een bredere, structurele dialoog met de sector gevoerd over hun rol en verantwoordelijkheid bij het modereren van «legal yet harmful» online content. Met name de grote sociale mediaplatformen spelen een sleutelrol in de verspreiding en het beperken van content die bijdraagt aan ondermijning van de veiligheid van burgers en instituties. Het is urgent dat de internetsector zich proactief opstelt om het online domein veiliger te maken met inachtneming van de waarden van een democratische rechtstaat. Dat betekent het bestrijden van terroristisch materiaal op hun platformen, het verlenen van medewerking 16Dit heeft als doel hen te stimuleren meer proactief verantwoordelijkheid te nemen met betrekking tot strafbare feiten en onrechtmatige inhoud die via hun diensten worden verspreid.17Kamerstukken II, 2021/22, 21 501-30, nr. 533, p. 3, 13–15 en Kamerstukken II, 2021/22, 21 501-30, nr. 542, p.3.18De Nationale Contraterrorisme Strategie 2022–2026 (Kamerstuk 29 754, nr. 641) benoemt het belang van het weerbaar maken van de samenleving tegen content die niet te definiëren is als terroristisch maar wel aanzet tot gewelddadig extremisme en terrorisme en daarmee een schadelijk effect heeft op onze democratische rechtstaat.19Kamerstukken II, 2022/23, 30 821, nr. 173.20Kamerstukken II, 2023/24, 29 754, nr. 692.21Zij zijn op grond de vrijheid van ondernemerschap en de contractvrijheid in beginsel vrij om zelf de gebruikersvoorwaarden van hun diensten te bepalen en op grond daarvan wel of niet te modereren. De inrichting van hun diensten heeft invloed op de verspreiding van content.Tweede Kamer, vergaderjaar 2023–2024, 29 754, nr. 7084 aan opsporingsverzoeken en het tegengaan van de amplificatie van extremistisch en terroristisch materiaal.22 Daarbij is het van belang te waken voor disproportionele verwijdering van online uitingen door platformen, dit in verband met het fundamentele recht op de vrijheid van meningsuiting.23 In het voorjaar van 2023 heeft de Minister van Justitie en Veiligheid in een gesprek met de internetsector benadrukt dat verdergaande inspanningen aan hun zijde noodzakelijk zijn gelet op de ernst van de online proble-matiek.24 Afgesproken is om nadrukkelijker samen op te trekken in het tegengaan van verspreiding van content die de veiligheid van burgers en instituties ondermijnt. Ook heeft de Minister van Justitie en Veiligheid gesproken met Nederlandse internetkoepels die diverse (Nederlandse) aanbieders van hostingdiensten en datacenters vertegenwoordigen. Dit in verband met het feit dat de hoge kwaliteit van de Nederlandse online infrastructuur (onbedoeld) onderdak kan bieden aan illegale websites. Daarnaast treedt de Minister van Justitie en Veiligheid via de klankbord-groep van de publiek-private samenwerking over online content in structurele dialoog met de internetsector. Zorgwekkend daarbij is de bereikbaarheid van X (voorheen Twitter) en Telegram met betrekking tot hun dringend gewenste participatie in nationale dialogen. Immers, er leven zorgen ten aanzien van de bescherming van hun gebruikers en de democratische rechtsstaat. Ook is de dialoog met alternatieve technologische platformen en sommige gamingplatformen tot nu toe niet gelukt. Het kabinet verhoogt de inspanningen om deze partijen op hun verantwoordelijkheden te wijzen, deels onder verwijzing naar de Verordening en Uitvoeringswet Terroris-tische Online Inhoud en de Digital Services Act.25 Zoals hierboven toegelicht, is de ambitie om een structurele dialoog te beleggen met de internetsector waarin deze problematiek – en oplossingen hiervoor – worden besproken. Verdergaande maatregelen jegens partijen die zich blijven onttrekken aan deelname aan nationale en internationale samen-werking worden daarbij niet uitgesloten. Algoritmen In haar dialoog met de internetsector vraagt de Minister van Justitie en Veiligheid ook aandacht voor de rol van aanbevelingsalgoritmen in de verspreiding van extreme online content. Een onderdeel van het verdien-model van online platformen, waaronder de reclamesystemen en aanbevelingssystemen die door aanbieders van zeer grote onlineplat-forms en van zeer grote onlinezoekmachines worden gebruikt, houdt de verspreiding van schadelijke en extremistische content in stand. Daarmee zijn zij niet louter een spiegel van de samenleving. Door een gebrek aan transparantie over de manier waarop deze verspreidingssystemen zoals algoritmen werken en de mogelijke amplificerende werking die ze hebben op de verspreiding van extreme content alsmede over hetgeen online diensten doen om dit risico te mitigeren, is de samenleving onvoldoende in staat om zich en individuele gebruikers te beschermen tegen de aanwezigheid en gevolgen van extreme online content. De Minister van Justitie en Veiligheid heeft daarom het WODC-onderzoek waarin nader 22Kamerstukken II, 2022/23, 36 272 nr. 4, p.3.23Zoals beschreven in artikel 7 Grondwet en artikel 10 EVRM (Europees Verdrag voor de Rechten van de Mens).24Donderdag 11 mei 2023, aanwezigen: Google (incl. Youtube), Meta (Facebook en Instagram), Microsoft, TikTok, Koepels – Stichting Digitale Infrastructuur Nederland en NL Digital.25Verordening (EU) 2022/2065 van het Europees Parlement en de Raad van 19 oktober 2022 betreffende een eengemaakte markt voor digitale diensten en tot wijziging van Richtlijn 2000/31/EG (digitaledienstenverordening).Tweede Kamer, vergaderjaar 2023–2024, 29 754, nr. 7085 wordt onderzocht wat de relatie is tussen (rechts)extremistische content online en de rol van algoritmen verwelkomd.26 Dit onderzoek is begin oktober door de Minister van Justitie en Veiligheid naar uw Kamer gestuurd.27 In dit onderzoek wordt gesteld dat het zoekgedrag van de internetgebruiker zelf minstens zo belangrijk is als de rol van algoritmen in mogelijke radicaliseringspaden. Aan de hand van dat onderzoek en de aanbevelingen wordt deze pijler verder uitgewerkt. Pijler 2: Wettelijk instrumentarium In de afgelopen jaren zijn belangrijke, grote Europese wetten tot stand gekomen die bijgedragen aan een veiliger internet. Het betreft onder meer de reeds genoemde Verordening terroristische online-inhoud en de Digital Services Act Hoewel het kabinet tevreden is over de stappen die met deze nieuwe Europese wetgeving worden gezet, vindt het kabinet het spijtig dat een algemene zorgplicht28, zoals Nederland heeft bepleit tijdens de onderhandelingen over de Digital Services Act, is uitgebleven.29 Niettemin biedt de Digital Services Act diverse mogelijkheden om de verspreiding van extremistische online content op Zeer Grote Online Platformen (VLOPs) beter bestrijden. De Europese Commissie ziet hierop toe en kan financiële en gerechtelijke maatregelen opleggen wanneer de Digital Services Act niet wordt nageleefd. Daarnaast zal de verdere implemen-tatie van de Verordening Terroristische Online Inhoud gericht op het verwijderen van terroristische content op het open internet, de prioriteit hebben. Deze EU-regelgeving gaat verder in het opleggen van verplich-tingen aan online platformen dan de reeds bestaande nationale wetgeving zoals de Wet op Inlichtingen en -Veiligheidsdiensten 2017 (Wiv 2017) en het Wetboek van Strafvordering en het Wetboek van Strafrecht. Daarbij wordt onderzocht of er juridische mogelijkheden zijn om meer bescherming te bieden in de online wereld. Deze worden verder uitge-werkt in de actielijnen van de Versterkte Aanpak Online voor extremis-tische en terroristische content. Pijler 3: Lokale aanpak Gemeenten hebben in Nederland als verantwoordelijke voor uitvoering op lokaal niveau een cruciale rol in de preventie en aanpak van radicalisering en extremisme. Samen met jongerenwerkers, scholen en andere ketenpartners spannen zij zich in om te signaleren en in te grijpen als individuen radicaliseren maar ook om een rol te vervullen in het bijstaan van individuen die kwetsbaar zijn voor extremistische en onverdraagzame boodschappen. Zij doen dit vanuit hun eigen expertise en hun lokale binding met inwoners. Zij hebben daarbij in toenemende mate behoefte aan verduidelijking van mogelijkheden om te kunnen acteren in het digitale domein. Het Ministerie van Sociale Zaken en Werkgelegenheid ondersteunt (jeugd)professionals en gemeenten bij het betrekken van en het werken in de online leefwereld. Dit gaat om het bieden van kennis, handelingsperspectief en benodigde randvoorwaarden. Ook inzake de bevoegdheden van burgemeesters ten aanzien van het tegengaan van (online) radicalisering en extremisme is behoefte aan verduidelijking van mogelijkheden om in het digitale domein te acteren. De Minister van Justitie en Veiligheid heeft uw Kamer hierover geïnformeerd in de 26Met dit onderzoek en de beleidsreactie, als ook de geannoteerde agenda Telecomraad 23-24 oktober, Kamerstukken II, 2023/24 nr. 21 501-33, nr. 1034 p.7, wordt de motie van het lid Rajkowski Kamerstuk 30 821, nr. 193 over ontwrichtende aanbevelingsalgoritmes afgedaan.27Kamerstukken II, 2023/24, 29 754, nr. 690.28Kamerstukken II, 2021/22, 21 501-30, nr. 533, p. 3, 13–15.29Kamerstukken II, 2021/22, 21 501-30, nr. 542, p.3.Tweede Kamer, vergaderjaar 2023–2024, 29 754, nr. 7086 Kamerbrief van 23 december 2022.30 Gemeenten ervaren met name knelpunten als het gaat om informatie-uitwisseling van (bijzondere) persoonsgegevens en hebben vragen over de bevoegdheden van burgemeesters in het online domein. Daarnaast zijn er juridische beperkingen met betrekking tot het uitvoeren van online monitoring. Ondanks deze ervaren knelpunten en vragen, zijn er gemeenten en professionals die initiatieven met een online component binnen de lokale aanpak hebben geïnitieerd. De komende jaren zal er bijzondere aandacht moeten uitgaan naar het integreren van het online domein in de lokale aanpak van radicalisering en extremisme. Daarom blijven de Ministeries van Justitie en Veiligheid en van Sociale Zaken en Werkgelegenheid de komende tijd in overleg met de lokale partners om het delen van best practices te stimuleren en faciliteren, de ervaren knelpunten verder te onderzoeken, effectieve methoden voor een lokale (preventieve) aanpak van online extremisme en terroristische activiteiten verder te ontwikkelen en waar mogelijk uit te breiden. Hierbij wordt mede gebruik gemaakt van lopende onderzoeken.31 Kennispositie Om de kennis van lokale partners over de online aanpak van extremisme en terrorisme te verstevigen, loopt een aantal landelijke en lokale initiatieven. Om professionals te ondersteunen bij het herkennen en duiden van rechts-extremistische symbolen, heeft het Ministerie van Justitie en Veiligheid begin dit jaar een symbolenbank gelanceerd. Professionals die in hun werk geconfronteerd kunnen worden met rechts-extremistische symboliek kunnen hier een account aanvragen. Het Ministerie van Sociale Zaken en Werkgelegenheid heeft verschillende onderzoeken en factsheets laten ontwikkelen over de preventie van online extremisme en extremistisch gedrag die relevant zijn voor gemeenten en professionals32. Deze zijn te vinden op de website van de Expertise-Unit Sociale Stabiliteit.33 Ook zijn er lokale initiatieven die kennisontwikkeling stimuleren, zoals het Living Lab in het regiosamenwerkingsverband Noord-Holland. Deze ontwikkelingen worden door het kabinet met interesse gevolgd en het kabinet zal de opgedane kennis en ervaringen delen met andere lokale partners. Ook de adequate inzet van de versterkingsgelden die gemeenten kunnen aanvragen voor de aanpak van radicalisering, extremisme en terrorisme wordt benut om meer bewustzijn te creëren over de online aspecten van extremisme en terrorisme. Zo maken diverse gemeenten reeds gebruik van online (weerbaarheids)cursussen en projecten die hiervoor aandacht vragen (zie hieronder het kopje voorkomen). Het Rijksopleidingsinstituut tegengaan Radicalisering (RoR) speelt hierbij een faciliterende rol. 30Kamerstukken II, 2022/23, 29 754, nr. 668.31Zoals een onderzoek naar de mogelijkheid van een voorziening voor burgemeesters voor het verwijderen van online content, wanneer dit een acute bedreiging vormt voor de openbare orde en het ontwikkelen van een handreiking voor gemeenten ten aanzien van welke bevoegdheden zij kunnen inzetten om content op sociale media te bekijken ter handhaving van de openbare orde.32«Online extreemrechtse radicalisering – handvatten voor een preventieve aanpak» door het Verwey Jonker Instituut (2022). Via Online extreemrechtse radicalisering | Rapport | Rijksoverheid.nl.33Zie op https:www.socialestabiliteit.nl bijvoorbeeld de factsheet «Online manifestaties Extreemrechts» (2021) door de Anne Frank Stichting en het rapport over «Aansluiting jongerenwerk in preventieve wijkaanpak polarisatie en radicalisering» (2023) door het Verwey Jonker Instituut.Tweede Kamer, vergaderjaar 2023–2024, 29 754, nr. 7087 Gerichte lokale interventies Het Landelijk Steunpunt Extremisme, dat gespecialiseerd is in de begeleiding van personen (en hun omgeving) die radicaliseren of geradicaliseerd zijn, of betrokken zijn (geweest) bij een extremistisch netwerk, is een belangrijke samenwerkingspartner voor gemeenten. Zo ontwikkelt het Landelijk Steunpunt Extremisme op verzoek van het Ministerie van Justitie en Veiligheid een laagdrempelige chatfunctie voor burgers en professionals, waarmee zij van advies en handelingsper-spectief kunnen worden voorzien. Daarnaast wordt op dit moment onderzocht wat het Landelijk Steunpunt Extremisme nog meer kan doen op het gebied van online interventies, mede naar aanleiding van de motie van het lid Kuik.34 Dit onderzoek verschijnt op korte termijn, waarna het Ministerie van Justitie en Veiligheid in overleg met het Landelijk Steunpunt Extremisme zal bepalen welke online interventies het meest kansrijk zijn om door het Landelijk Steunpunt Extremisme te implemen-teren. Uiteraard zullen eventuele nieuwe online interventies getoetst worden aan alle relevante wettelijke en juridische kaders waaronder die met betrekking tot de privacy. Door diverse gemeenten wordt er al gewerkt met online jongerenwerkers die via sociale mediaplatformen in contact zijn met jongeren en hen zo ondersteunen. Bij zorgelijk online gedrag, zoals ondermijning, georganiseerde criminaliteit, radicalisering en extremisme, kunnen jongerenwerkers daarover in gesprek gaan met jongeren en zo nodig interveniëren binnen de primaire preventie dan wel de persoonsgerichte aanpak in de fysieke leefwereld. Voorkomen Het vergroten van digitale weerbaarheid gebeurt nu vooral via diverse cursussen en programma’s gericht op jongeren. Er wordt ingezet op het verhogen van mediawijsheid ten aanzien van online bronnen, het herkennen van extremistische boodschappen, en middels de Rijksbrede strategie voor de effectieve aanpak van desinformatie.35 Zo is er het lesprogramma «Under Pressure» dat zich richt op het vergroten van weerbaarheid tegen desinformatie en het vergroten van democratisch burgerschap onder jongeren om zo de voedingsbodem voor polarisatie en radicalisering te verminderen. Van het lesprogramma is in opdracht van het Ministerie van Sociale Zaken en Werkgelegenheid en de Nationaal Coördinator Terrorismebestrijding en Veiligheid een effectevaluatie uitgevoerd om inzicht te krijgen in resultaten en werkzame elementen van de interventie.36 Het Ministerie van Sociale Zaken en Werkgelegenheid steunt verschillende preventieve lokale initiatieven die digitale weerbaarheid versterken. De inzet op het vergroten van digitale weerbaarheid via (lokale) interventies en het ondersteunen van profes-sionals en gemeenten wordt de komende jaren verder versterkt. Het Ministerie van Binnenlandse Zaken en Koninkrijkrelaties verleent al een aantal jaar subsidie aan het Netwerk Mediawijsheid voor de website www.isdatechtzo.nl, waar burgers op laagdrempelige wijze kunnen leren hoe zij desinformatie kunnen herkennen.37 Ook het Ministerie van Onderwijs Cultuur en Wetenschap ondersteunt het Netwerk Media-wijsheid.38 34Kamerstukken II, 2022/23, 29 754, nr. 658.35Kamerstukken II, 2022/23, 30 821, nr. 173.36«Werken aan weerbaarheid tegen desinformatie en eenzijdige meningsvorming» (2022), Verwey-Jonker Instituut & RadarAdvies.37Kamerstukken II, 2022/23, 30 821, nr. 173.38Het Netwerk Mediawijsheid zet zich in voor het vergroten van het bewustzijn over media-wijsheid bij bepaalde doelgroepen zoals jongeren, volwassenen en kwetsbaren.Tweede Kamer, vergaderjaar 2023–2024, 29 754, nr. 7088 Pijler 4: Internationale inzet De online wereld kruist dwars door landsgrenzen heen. Een ambitieuze, internationale, inzet is dan ook onontbeerlijk als het gaat om het tegengaan van extremisme en terrorisme online. Ook in internationaal verband bestaat steeds meer de behoefte om de inzet op het online domein van extremisme en terrorisme te verhogen en burgers adequater te beschermen. Het is noodzakelijk om in gezamenlijkheid tegenwicht te bieden aan de machtige internetbedrijven en andere geopolitieke spelers. Dit is de reden waarom Nederland vol inzet op een gezamenlijke EU-aanpak en toezicht op naleving van bestaande regelgeving zoals de Digitale Diensten Verordening. Daarnaast verkent Nederland mogelijk-heden in Brussel om gepaste wet- en regelgeving te initiëren.39 Internationale dialoog internetsector Wereldwijd is er in toenemende mate een besef van urgentie dat naast effectieve wet- en regelgeving een intensieve, dialoog met de internet-sector over normering van cruciaal belang is. Daarbij maken wij gebruik van de lessen die wij trekken uit de dialoog die hier plaatsvindt, waardoor wij een voortrekkersrol spelen bij het agenderen en het waar mogelijk gezamenlijk optrekken in deze dialoog, zowel in Europees en Trans-Atlantisch verband als met ASEAN-landen (Associatie van Zuidoost-Aziatische Naties)40 en gelijkgezinde coalities elders. Deze inspanningen zullen de komende jaren worden verstevigd. Het bundelen van krachten is van groot belang om ervoor te zorgen dat wet- en regelgeving wordt nageleefd, gehandhaafd, en zo haar beloftes waarmaakt. Daarom vragen wij ook in internationaal verband speciale aandacht voor de dialoog met X (voorheen Twitter) en Telegram, alsmede alternatieve technologische platformen en sommige gamingplatformen wiens medewerking allesbehalve vanzelfsprekend is. Nederland zal zich met gelijkgezinde landen en coalities inzetten om deze platformen ter verantwoording te roepen. Internationale samenwerking Nederland neemt een voortrekkersrol om coalities te vormen die nieuwe initiatieven en interventies ten aanzien van het voorkomen en tegengaan van online extremisme en terrorisme bevorderen. Zo is Nederland in 2024 voorzitter van de Freedom Online Coalition. Het gaat op strategisch vlak bijvoorbeeld om het doen van meer (wetenschappelijk) onderzoek en het stimuleren van technische oplossingen die de verspreiding van extremis-tische en terroristische online content tegengaan. Inhoudelijk spitst de voortrekkersrol van Nederland in zowel bilaterale coalities als multila-terale gremia zich verder toe op het agenderen van specifieke online thematiek zoals de amplificerende rol van algoritmen, de eerderge-noemde alternatieve technologische platformen en de verscheidenheid aan extremistische content. Nederland heeft recentelijk samen met Duitsland concrete voorstellen voor verdere versterking van de EU-aanpak op bovenstaande thema’s geagendeerd. Hierbij wordt ingegaan op de noodzaak om een gezamenlijke EU-onderzoeksagenda te formuleren naar algoritmen in relatie tot online extremisme en terrorisme, de eventuele wenselijkheid, mogelijkheid en noodzaak van additionele (Europese) maatregelen bovenop de Digital Services Act en het intensiveren van de inspanningen om contact te leggen met alternatieve technologische platformen. Het komende jaar ziet op de verdere uitwerking van deze thematiek in verschillende gremia, zoals het EU-internetforum, 39Zie pijler 2 «wettelijk instrumentarium».40Zo hebben ASEAN-landen onevenredig veel last van de verspreiding van deze content.Tweede Kamer, vergaderjaar 2023–2024, 29 754, nr. 7089 verscheidene EU-overleggen, Global Internet Forum to Counter Terrorism, Christchurch Call to Action en relevante bilaterale samenwerkingen. Tot slot spelen de cyberdiplomaten op Nederlandse ambassades en vertegen-woordigingen, en de Nederlandse cyberambassadeur (AMAD Cyber) hierin een belangrijke rol. De inspanningen van hun zijde is uiteengezet in de Internationale Cyber Strategie 2023–2028.41 Doorkijk naar de toekomst Zoals eerder opgemerkt gaan de ontwikkelingen in het online domein ten aanzien van het aanjagen van extremisme en terrorisme razendsnel. Binnen bovenstaande vier pijlers is er naast de beschreven inzet uiteraard ook aandacht voor de consequenties van nieuwe ontwikkelingen, zoals de in de gewijzigde motie van het lid Rajkowski c.s.42 en de beleidsreactie op de WODC-onderzoeken naar de regulering van deepfakes en immersieve technologieën43 genoemde potentiële gevaren van deep fakes, de Metaverse, gamification en nieuwe mogelijkheden op het terrein van kunstmatige intelligentie, zoals ChatGPT. Wij houden deze ontwikkelingen nauwlettend in de gaten en stimuleren kennisvergaring en samenwerking om zowel eventuele negatieve effecten van nieuwe technologieën tegen te gaan, alsook om nieuwe technologieën te gebruiken om extremisme en terrorisme tegen te gaan. In de verdere uitwerking van de vier pijlers die in het voorjaar van 2024 naar uw Kamer wordt verstuurd, zullen wij nader ingaan op deze ontwikkelingen. Tevens zal een kabinetsbrede visie op generatieve AI begin 2024 naar uw Kamer worden gestuurd, welke wordt gecoördineerd door het Ministerie van Binnenlandse Zaken en Koninkrijksrelaties. In deze brief zijn de contouren geschetst van de pijlers die centraal staan binnen de Versterkte Aanpak Online om het handelingsperspectief voor het tegengaan van online extremisme en terrorisme te versterken. Naast het vergroten van de verantwoordelijkheid van de internetsector, het aansluiten bij nieuwe (internationale) coalities, interventies en het stimuleren van meer onderzoek is het bevorderen van de onderlinge samenhang van online maatregelen van groot belang. Dit heeft tot doel burgers online beter te beschermen en de democratische rechtsorde te bevorderen. Daarbij gaan bovenstaande inspanningen uiteraard hand in hand met het waarborgen van grondrechten, zoals het fundamentele recht op de vrijheid van meningsuiting. Tot slot kunnen nieuwe online ontwikkelingen nopen tot een aanvullende of andersoortige aanpak. Dit vraagt om een flexibele inzet die inspan-41Kamerstukken II, 2022/23, 26 643, nr. 1036.42Kamerstukken II, 2023/24, 36 200 VII, nr. 11843Kamerstukken II, 2022/23, 26 643, nr. 1041Tweede Kamer, vergaderjaar 2023–2024, 29 754, nr. 70810 ningen intensiveert en andere prioriteiten stelt. Op deze wijze kunnen wij adequaat het hoofd (blijven) bieden aan online extremisme en terrorisme in al haar vormen. De Minister van Justitie en Veiligheid, D. Yes¸ilgöz-Zegerius De Minister van Buitenlandse Zaken, H.G.J. Bruins Slot De Minister van Economische Zaken en Klimaat, M. Adriaansens De Minister van Sociale Zaken en Werkgelegenheid, C.E.G. van Gennip De Minister van Binnenlandse Zaken en Koninkrijksrelaties, H.M. de Jonge De Staatssecretaris Binnenlandse Zaken en Koninkrijksrelaties, A.C. van HuffelenTweede Kamer, vergaderjaar 2023–2024, 29 754, nr. 70811