Sarah El Boujdaini

Tweede Kamer der Staten-Generaal2Vergaderjaar 2025–2026Vragen gesteld door de leden der Kamer 2026Z17015Vragen van de leden El Boujdaini (D66) en Zwinkels (CDA) aan deStaatssecretaris van Economische Zaken en Klimaat over AI-modellen diebuiten hun testomgeving inbreken bij organisaties (ingezonden 19 augustus2026).Vraag 1Bent u bekend met berichtgeving over AI-agents die erin slaagden om buitenhun afgeschermde testomgeving («sandbox») te opereren en in het bijzondermet de bevindingen van AI-ontwikkelaar Anthropic, die meldde dat drie vanhaar modellen tijdens veiligheidstests door een configuratiefout internettoe-gang kregen en vervolgens op eigen initiatief inbraken bij de systemen vandrie organisaties?1 2Vraag 2Is bij u bekend of zich onder de organisaties waarbij modellen ongeautori-seerd toegang kregen ook Nederlandse organisaties bevinden, en zijn zijhierover geïnformeerd?Vraag 3Deelt u de mening dat dit soort incidenten aantonen dat de risico’s vansteeds zelfstandiger opererende AI-modellen niet alleen liggen in decapaciteiten van het model zelf, maar ook in de mate waarin testomgevingenadequaat zijn beveiligd en afgesloten door de ontwikkelaars en testpartners?Vraag 4In hoeverre bestaan er op dit moment (inter)nationale normen, standaardenof verplichtingen voor bedrijven die geavanceerde AI-modellen ontwikkelenen testen, ten aanzien van het veilig inrichten en afsluiten van testomgevin-gen? Als die er niet zijn, of vrijblijvend zijn, bent u bereid zich daarvoor in tezetten?1NRC d.d. 31 juli 2026; Ook Claude rekent zich een weg uit de testomgeving. «Als een mens dithad gedaan zou die ontslagen worden»2https://www.anthropic.com/news/investigating-incidents-cybersecurity-evals d.d. 30 juli 2026 kv-tk-2026Z17015’s-Gravenhage 2026Tweede Kamer, vergaderjaar 2025–2026, Vragen1 Vraag 5Bent u bekend met benchmarks, zoals SandboxEscapeBench van het Britse AISecurity Institute, ontwikkeld om systematisch te testen of AI-modellen instaat zijn om uit hun testomgeving te ontsnappen, en ziet u een rol voor deoverheid of Europese instanties om dit soort onafhankelijke toetsing testimuleren of te verplichten voor in Nederland of de EU actieve AI-bedrijven?3Vraag 6Deelt u de mening dat de verantwoordelijkheid voor dit soort incidentenprimair bij de ontwikkelaars van AI-modellen ligt, en niet louter kan wordenafgedaan als een onvermijdelijk gevolg van toenemende AI-capaciteiten?Vraag 7Welke rol ziet u hierbij voor de Europese AI Act en de daarin opgenomeneisen aan risicobeheersing voor AI-modellen voor algemene doeleinden meteen systeemrisico?Vraag 8Welke risico’s ziet u voor de nationale veiligheid en digitale infrastructuurwanneer AI-modellen die getest worden door bedrijven wereldwijd, in staatblijken om buiten hun testomgeving te opereren, bijvoorbeeld door ongeau-toriseerde toegang tot netwerken of systemen te verkrijgen?Vraag 9Bent u bereid om in Europees verband te bepleiten dat ontwikkelaars vangeavanceerde AI-modellen verplicht worden incidenten waarbij modellen uittestomgevingen ontsnappen te melden bij een toezichthouder en getroffenorganisaties, vergelijkbaar met meldplichten bij datalekken?Vraag 10Welke maatregelen treft u, of gaat u treffen, om te borgen dat testomgevin-gen van AI-bedrijven die in Nederland actief zijn of hier data verwerken, aanadequate veiligheidseisen voldoen?Vraag 11Kunt u deze vragen afzonderlijk van elkaar beantwoorden?3https://www.aisi.gov.uk/blog/can-ai-agents-escape-their-sandboxes-a-benchmark-for-safely-measuring-container-breakout-capabilities d.d. 23 maart 2026Tweede Kamer, vergaderjaar 2025–2026, Vragen2