Inzet algoritmes en data-ethiek

Brontekst

Mevrouw Van der Werf (D66): Voorzitter. Ik vond het een antwoord waar ik mee kan leven, dus ik was de volgende in de rij. When you invent the ship, you also invent the shipwreck, aldus de Franse filosoof Paul Verilio. Aan die uitspraak moest ik denken in het kader van generatieve AI. We hebben een schip uitgevonden waar we ontzettend veel nieuwe dingen mee kunnen. Dat biedt enorme mogelijkheden waar we de vruchten van moeten plukken. Maar het heeft ook slechte gevolgen. Daar moeten we als politiek maatregelen voor treffen, bijvoorbeeld voor het verhogen van het bewustzijn van mensen over wat mag en wat niet mag met het gebruik van AI. Terwijl de één via deepfake een leuk dansfilmpje maakt van een politicus, proberen criminelen moedwillig mensen op te lichten en af te persen met andere deepfakes. Gelukkig is dat strafbaar, net zoals niet iedereen misschien doorheeft dat Chat GPT artikelen met auteursrecht citeert. Er zijn natuurlijk regels verbonden aan het gebruik daarvan. Kan de staatssecretaris daarop reflecteren? Wat is nodig om ervoor te zorgen dat particulieren deze kansen en gevaren goed gaan begrijpen? Want dit wordt niet alleen gebruikt in het bedrijfsleven; iedereen gaat hiermee aan de haal. Onze wetten en regels lopen online mateloos achter in vergelijking met de fysieke wereld. Dat is ook al vaak voorgekomen in debatten over veiligheid. Daarom is het belangrijk om onze weerbaarheid te vergroten. Ik zag onlangs een onderzoek van Humo, waarin een journalist liet zien dat hij met een nieuw TikTokaccount binnen vier likes een fuik werd ingetrokken van extreem gewelddadige inhoud. Een ander onderzoek laat zien dat juist eenzame jongens vrouwonvriendelijke Andrew Tate-achtige content krijgen voorgeschoteld. Ondanks dat de AI Act in elk geval transparantie zal vereisen over dit soort algoritmes, is het vooral in ons belang dat we ons weerbaarder maken tegen de werking hiervan, zeker als het gaat om kwetsbare jongeren en kinderen. Wat is de volgende stap na die AI Act? Hoe gaan we van transparantie naar ingrijpen tegen zaken als radicalisering en polarisering, vraag ik de staatssecretaris. En in hoeverre wordt er bijvoorbeeld binnen de AI Act uitvoering gegeven aan de aangenomen motie van D66 en de VVD om ontwrichtende algoritmes te verbieden? Voorzitter. Dat vraagt ook om wat meer hygiëne bij onze eigen algoritmes. Er is het Algoritmeregister dat inzichtelijk moet maken hoe de algoritmes van de overheid werken, maar dit heeft geen verplichtend karakter. Algoritmes over bijvoorbeeld opsporing en criminaliteitsbestrijding zijn uitgesloten. Dat is niet onlogisch, maar er zit natuurlijk wel een spanning achter. Deze algoritmes zorgen er bijvoorbeeld voor dat de flitspaal de foto van het kenteken koppelt. Dat zijn natuurlijk niet de meest risicovolle algoritmes, maar juist de algoritmes die bijvoorbeeld over impactvolle beslissingen gaan, zou je op een goede manier moeten en willen uitleggen. Kan de staatssecretaris hierop ingaan? Ten slotte, voorzitter. Ik begon mijn verhaal met de kansen die AI ons te bieden heeft. Daar zou ik ook mee willen eindigen. Het bedrijfsleven past AI al volop toe om het werk sneller, efficiënter en leuker te maken. Als AI ons saaie administratieve taken uit handen kan nemen, houden we meer uren over voor het uitdagende werk. Toch blijft de inzet ervan binnen de overheid, bijvoorbeeld zeker bij gemeenten, nog heel erg beperkt. Hoe mooi zou het zijn als een ambtenaar de tijd die hij of zij moet steken in het schrijven van standaardbrieven, kan steken in het helpen van een burger die klem is komen te zitten en die de gemeente om hulp vraagt? Ik hoor graag een reactie van de staatssecretaris en ik ben benieuwd of zij met ons erover kan meedenken wat hier mogelijk is.

Versie d7f0f2bd850e617ffe9cb0429962cee6562c9adc4bae73526373fb90abe09322 · Voorlopig verslag; de tekst kan nog wijzigen.