Inzet algoritmes en data-ethiek

Brontekst

Staatssecretaris Van Huffelen: Dat klopt, voorzitter. Ik zal ingaan op de vragen die aan mij zijn gesteld. De staatssecretaris naast mij, de heer Van Rij, gaat vooral in op het SCHUFA-arrest. Mijn idee zou zijn om te beginnen met een korte inleiding en dan de vragen te beantwoorden. Voorzitter. Het is ontzettend belangrijk — dat hebben de leden van uw commissie ook aangegeven — om over dit onderwerp, algoritmes en data-ethiek, met elkaar van gedachten te wisselen. De inzet van algoritmes en AI is namelijk steeds vaker onderwerp van gesprek. Het leeft in onze samenleving. Zeker ook door de recente technologische ontwikkelingen en door wat er fout is gegaan in het verleden, is dit een onderwerp dat ons bezighoudt. Dat is ook heel hard nodig. Wat fijn is, is dat we inmiddels op Europees niveau een AI-verordening tot stand hebben gebracht om technologie te reguleren. We zijn natuurlijk ook heel hard aan het werk om allerlei handreikingen te ontwikkelen en ervoor te zorgen dat we als overheid verantwoord omgaan met AI en algoritmes. In de afgelopen tijd hebben we ons ingezet om ervoor te zorgen dat het gebruik van algoritmes door overheden aangepakt en gereguleerd wordt. Dat hebben we gedaan via het Algoritmeregister, de algoritmetoezichthouder en het implementatiekader voor algoritmes. Zo willen wij er daadwerkelijk voor zorgen dat de toepassing van AI op een verantwoorde manier kan plaatsvinden. In deze introductie wil ik graag iets meer zeggen over een viertal onderwerpen. Als eerste wil ik iets meer zeggen over de AI-verordening, die Europese wet. Ook wil ik iets meer zeggen over het Algoritmeregister, dat we voor de overheid hebben. Verder wil ik iets zeggen over de toezichthouder. Tot slot wil ik iets zeggen over het algoritmekader. Ik zal daarbij, als het enigszins kan, ook ingaan op de gestelde vragen. In de AI-verordening, die recent is aangenomen in Europa, komen met name specifieke eisen voor AI-toepassingen tot stand. Nederland heeft zich heel actief bemoeid met de onderhandelingen voor deze verordening, om ervoor te zorgen dat de bescherming van mensenrechten op een goede manier wordt afgewogen tegen het belang van innovatie en rechtshandhaving. De bescherming van mensenrechten is namelijk een belangrijk onderwerp. Daarom hebben we ons er ook voor ingezet dat aanbieders van AI-systemen expliciet de risico's voor mensenrechten, zoals discriminatie, moeten beoordelen en tegengaan bij de ontwikkeling van hun systemen, zodat problemen in een vroeg stadium worden erkend, herkend en aangepakt. Niet alleen de aanbieder van dit soort AI-systemen, maar ook de gebruikers met een hoog risico moeten extra controles doen. Ze moeten risico's beoordelen vanuit de context waarin die systemen worden ingezet en de impact die het gebruik heeft voor specifieke groepen in de samenleving. Nederland heeft zich ingezet voor verbeterde transparantie, om ervoor te zorgen dat overheden zichzelf ook moeten registreren als gebruiker van hoogrisico-AI-systemen, en dus niet alleen als aanbieder. Zo is het zichtbaar wanneer een AI-systeem door de overheid wordt gebruikt. In de AI-verordening is ook een notificatieplicht opgenomen. Dus organisaties die systemen met een hoog risico gebruiken in hun besluitvorming moeten dat melden bij degenen over wie dat besluit gaat, wie dat betreft. Dat geldt niet alleen voor overheden, maar ook voor private partijen. Nederland heeft zich ook ingezet om de positie van burgers te versterken. Zo is er een klachtrecht in de AI-verordening opgenomen om ervoor te zorgen dat als je klachten hebt, je dan ook daadwerkelijk terechtkunt bij een organisatie die daarmee aan de slag gaat. Als het goed is, treedt de AI-verordening in het tweede kwartaal van dit jaar, dus in de komende weken, maanden, in werking. Vervolgens zal die gefaseerd van kracht worden. Zo worden een halfjaar na de inwerkingtreding de bepalingen over de verboden praktijken van kracht. Een jaar daarna worden de bepalingen over de zogenaamde general purpose AI-modellen, dus algemene AI-modellen, van kracht. Uiteindelijk wordt twee jaar na inwerkingtreding de rest van de verordening van kracht. Het is van belang dat ook AI-systemen die al in werking zijn getreden, die er nu al zijn, uiteindelijk ook aan de AI-verordening voldoen. Om de overheidsorganisaties te ondersteunen bij het proces zullen we de AI-verordeningsvereisten opnemen in het algoritmekader. Daarmee zorgen we ervoor dat dit ook zo snel mogelijk voor overheden duidelijk wordt en dat zij dit ook kunnen invoeren. Dit even over die AI-verordening. Ik kan niet genoeg onderstrepen hoe belangrijk die verordening is, want die zorgt ervoor dat zowel publieke als private organisaties in de EU die al werken met AI of ermee willen werken, voldoen aan eisen die gelden op het gebied van mensenrechten, transparantie en klachtenafhandeling. Dat is natuurlijk ontzettend belangrijk. We zullen in de komende tijd natuurlijk zien dat die technologie zich verder gaat ontwikkelen. Gelukkig biedt de AI-verordening de ruimte om daarin mee te gaan. Tijdens de totstandkoming van de verordening hebben wij gezien dat generatieve AI ontstond. Die was er nog niet toen we eraan begonnen. Inmiddels is generatieve AI opgenomen in en onderdeel van de verordening. Dan iets over het Algoritmeregister dat wij als overheid zelf hebben gemaakt. Het is bedoeld om meer transparantie te bieden. Het idee is ook dat alle overheidspartijen ervoor zorgen dat zij hun algoritmes en hun risicomodellen hierin registreren. Zowel ministeries als provincies en gemeenten staan er al in.

Versie d7f0f2bd850e617ffe9cb0429962cee6562c9adc4bae73526373fb90abe09322 · Voorlopig verslag; de tekst kan nog wijzigen.