Discriminerende vraagsuggesties en antwoorden van Google

Tweede Kamer der Staten-Generaal2Vergaderjaar 2026–2027Vragen gesteld door de leden der Kamer 2026Z20347Vragen van de leden El Boujdaini en Bamenga (beiden D66) aan deStaatssecretaris van Economische Zaken en Klimaat en de Minister vanBinnenlandse Zaken en Koninkrijksrelaties over discriminerendevraagsuggesties en antwoorden van Google (ingezonden 29 september 2026).Vraag 1Bent u bekend met het inmiddels bijna 10 jaar oude artikel «Google moetstoppen met automatisch discrimineren»1, dat aankaart dat de zoekmachinevan Google in sommige gevallen discriminerende vraagsuggesties geeft?Vraag 2Bent u bekend met het feit dat dit nog steeds niet is opgelost, wat blijkt uitdat bij het intypen van «alle Marokkanen z» op google.nl bij gebruik van eenincognitovensterop op 11 augustus 2026, Google deze vraagsuggestieaanvulde met discriminerende teksten zoals «alle Marokkanen zijn kankerratten» of «alle Marokkanen weg»?Vraag 3Bent u daarnaast bekend met het feit dat na het indienen van de zoekop-dracht «overlast» in combinatie met de naam van een gemeente op google.nlbij gebruik van een incognitovenster op 11 augustus, in het geval van ondermeer de gemeenten Veenendaal, Tiel, Culemborg, Oosterhout, Hoogezand,Zutphen en Weert, Google de «Meer om te vragen»-suggesties «HoeveelMarokkanen wonen/zijn er in [gemeente x]?» of «Hoeveel Turken wonen/zijner in [gemeente x]?» opperde en dat de knop om ongepaste suggesties temelden bij dit type zoekresultaat ontbreekt?Vraag 4Bent u ook bekend met de berichtgeving van Euronews2 en Le Monde3 dathet AI-gegeneerde antwoord van Google eind augustus 2026 op de zin «ikben alleen met een Italiaan» gesprekstips betrof, maar bij dezelfde zin met1Algemeen Dagblad, 17 maart 2017. https://www.ad.nl/nieuws/google-moet-stoppen-met-automatisch-discrimineren~a8f85be5/2Euronews, 27 augustus 2026. https://www.euronews.com/next/2026/08/27/coffee-for-a-frenchman-police-for-an-algerian-users-accuse-gemini-of-bias3Le Monde, 25 augustus 2026. https://www.lemonde.fr/pixels/article/2026/08/25/biais-racistes-de-gemini-google-travaille-a-des-ameliorations_6756601_4408996.html kv-tk-2026Z20347’s-Gravenhage 2026Tweede Kamer, vergaderjaar 2026–2027, Vragen1 «Algerijn» in plaats van «Italiaan», het model vroeg of je in gevaar was en jehet nummer van de politie toonde?Vraag 5Deelt u de mening dat dergelijke vraagsuggesties en AI-antwoorden, dieautomatisch gegenereerd en getoond worden, een discriminerend verbandleggen door overlast of gevaar te koppelen aan afkomst?Vraag 6Hoe beoordeelt u de aanpak van Google om, net als bij de vraagsuggesties,dit soort patronen pas na ophef of een melding bij te sturen, en dan vooralvoor de vraag die in het nieuws kwam, terwijl hetzelfde patroon in het modelkan blijven zitten en bij andere vragen onopgemerkt blijft?Vraag 7Welke risico’s ziet u daarbij nu dezelfde modellen de basis vormen van steedsmeer toepassingen, waardoor zulke vooroordelen niet in elk geval zichtbaarworden maar wel ongemerkt kunnen doorwerken?Vraag 8Hoe kijkt u naar de verantwoordelijkheid van Google en andere leveranciersvan grote AI-modellen om vooroordelen uit de trainingsdata vooraf, bij hetontwerp en bij de toetsing van hun modellen, te herkennen en in het modelzelf te corrigeren, bijvoorbeeld via red-teaming of bias-audits, in plaats vande uitkomsten per geval bij te sturen nadat gebruikers of media ze toevallighebben opgemerkt?Vraag 9Deelt u de mening dat het onacceptabel is dat een groot en invloedrijkplatform als Google op deze manier bijdraagt aan het in stand houden enversterken van vooroordelen, en dat de omvang en het bereik van Googlediens verantwoordelijkheid alleen maar groter maken?Vraag 10Bent u hierover in gesprek met Google en andere leveranciers van groteAI-modellen, en is bij u bekend of zij structureel testen op discriminerendeassociaties in hun zoeksuggesties, aanbevelingsalgoritmes, autocomplete-functies en AI-antwoorden? Zo ja, wat heeft dat gesprek tot nu toe opgele-verd? Zo nee, bent u bereid dit gesprek aan te gaan en dit bij hen na tevragen?Vraag 11Heeft u inzicht in de wijze waarop dergelijke vraagsuggesties enAI-antwoorden van Google tot stand komen? Zo nee, welke maatregelen treftu om dit inzicht wel te krijgen, en in hoeverre kan de digitaledienstenverorde-ning (DSA) hierbij worden ingezet om transparantie van Google over dewerking van deze systemen af te dwingen?Vraag 12Hoe verklaart u dat deze discriminerende suggesties jarenlang zichtbaar zijngebleven, terwijl Google onder de DSA al verplicht is de risico’s vandiscriminatie in kaart te brengen en zich daarop jaarlijks onafhankelijk te latencontroleren? Gelden deze verplichtingen wat u betreft ook voor deAI-antwoorden in de zoekmachine van Google, en zo ja, hoe wordt daaroptoegezien?Vraag 13Welke verplichtingen hebben aanbieders van grote AI-modellen onder deAI-verordening om vooroordelen in hun modellen te beoordelen en tebeperken, en wie ziet daarop toe?Vraag 14Welke oplossingsrichtingen ziet u om vooroordelen in zoeksuggesties en ingrote AI-modellen structureel op te sporen en te beperken, in plaats van pergeval na meldingen, bijvoorbeeld via onafhankelijke audits of algoritmetoe-zicht?Tweede Kamer, vergaderjaar 2026–2027, Vragen2 Vraag 15Bent u bereid in Europees verband te bepleiten dat platformen en aanbiedersvan AI-modellen zoals Google niet alleen moeten rapporteren dát zij hunsystemen toetsen op discriminatie, maar ook openbaar moeten maken watdie toetsing oplevert en wat zij met de uitkomsten doen?Vraag 16Bent u bereid Google op korte termijn aan te spreken op het ontbreken vaneen meldknop bij de «Meer om te vragen» suggesties en op de voorbeeldenuit deze vragen?Vraag 17Bent u bereid deze situatie ook te melden bij de Autoriteit Consument enMarkt en de Europese Commissie, en de Kamer te informeren over dereacties?Vraag 18Bent u bereid de Nationaal Coördinator tegen Discriminatie en Racisme tebetrekken bij de aanpak van discriminatie door zoekmachines enAI-systemen?Vraag 19Kunt u de vragen afzonderlijk van elkaar beantwoorden?Tweede Kamer, vergaderjaar 2026–2027, Vragen3