“Wanneer technologie vanuit slechts één perspectief wordt ontwikkeld,

is het alsof je halfblind naar de wereld kijkt” [1]

Vrouwen worden al eeuwenlang geconfronteerd met discriminatie, en helaas vormt de 21e eeuw daarop geen uitzondering. Ook vandaag de dag hebben moderne digitale hulpmiddelen de neiging vrouwen te discrimineren en gendergebonden beslissingen te nemen, waardoor vrouwen in moeilijke posities terechtkomen. Wat veroorzaakt deze discriminatie? Leert het AI-algoritme verkeerde patronen en filtert het vrouwen daardoor feitelijk uit? Wordt AI vooral door mannen vormgegeven, of wordt het getraind met door mannen gedomineerde gegevens? En zo ja, hoe kan dit worden voorkomen?

Er bestaat geen twijfel over dat technologie een aanzienlijke positieve invloed op de samenleving heeft gehad; tegelijk brengt zij ook uitdagingen met zich mee, omdat technologische hulpmiddelen verre van foutloos zijn. Het is belangrijk te onthouden dat AI door mensen wordt ontworpen en getraind en, net als mensen, fouten kan maken en subjectieve beslissingen kan nemen. Daardoor worden de handelingen en resultaten van AI onvermijdelijk beïnvloed door menselijke vooroordelen.

AI-systemen worden vaak getraind op historische gegevens, die bestaande vooroordelen en discriminerende patronen kunnen bevatten. Wanneer dergelijke gegevens worden gebruikt, kan AI op verschillende niveaus schade veroorzaken: ten eerste individuele schade, wanneer een persoon rechtstreeks wordt getroffen door een bevooroordeelde beslissing van een AI-systeem; ten tweede collectieve schade, wanneer groepen mensen systematisch van bepaalde kansen worden uitgesloten door bevooroordeelde of misleidende gegevens; en ten derde maatschappelijke schade, die de samenleving als geheel treft, omdat iedereen belang heeft bij een samenleving die niet discrimineert en alle mensen gelijk behandelt.[2] (Unia)

Er wordt op gewezen dat AI-systemen er soms niet in slagen iemands prestaties correct te beoordelen op basis van het daadwerkelijke werk en in plaats daarvan steunen op patronen die historische trends weerspiegelen.[3] (Ovchinnikov, 2020). Dit betekent dat AI personen kan benadelen enkel omdat zij niet passen in het profiel dat het systeem eerder heeft aangeleerd. Dit probleem wordt bijzonder zichtbaar in wervingsprocessen, omdat de gebruikte algoritmen vaak sterk bevooroordeeld zijn. Als de dataset bijvoorbeeld grotendeels bestaat uit mannelijke kandidaten die in het verleden werden aangenomen, leert het algoritme vergelijkbare profielen te bevoordelen, waardoor bestaande genderverschillen worden gereproduceerd en versterkt. Zelfs wanneer twee kandidaten verder identiek zijn, kan AI de mannelijke kandidaat bevoordelen simpelweg omdat dit patroon overeenkomt met wat het systeem uit eerdere gegevens heeft geleerd.[4] (Nuseir et al., 2021).

Hetzelfde patroon werd zichtbaar bij Amazon, waar het geautomatiseerde wervingsalgoritme genderbias uit de trainingsgegevens overnam. Dit leidde tot een interne audit en uiteindelijk tot het stopzetten van het systeem.[5] (Dastin, 2018).

Een verdere structurele zorg ontstaat wanneer AI vrouwen discrimineert op basis van leeftijd, waardoor oudere vrouwen onevenredig hard door dergelijke systemen worden getroffen.

Aanzienlijk bewijs toont aan dat oudere vrouwen te maken krijgen met elkaar overlappende vormen van vooringenomenheid op basis van zowel gender als leeftijd.[6] Beleidsrapporten, mediaberichten en interviews op de werkvloer laten zien dat oudere vrouwen in verschillende sectoren discriminatie ervaren bij aanwerving en promotie, een verschijnsel dat vaak wordt aangeduid als “gendergebonden ageïsme”.[7] Dit weerspiegelt een bredere statistische vooringenomenheid waarbij vrouwen worden gekoppeld aan verwachtingen van jeugdigheid. In uiteenlopende contexten, van entertainmentmedia tot de werkvloer, staan vrouwen onder voortdurende druk om jong te lijken, wat resulteert in een “schoonheidsbelasting” die aanzienlijke financiële en tijdskosten met zich meebrengt.[8] Deze vooringenomenheid komt ook tot uiting in alledaags taalgebruik. Vrouwen in zowel de academische wereld als het bedrijfsleven worden vaker dan mannen met infantiliserende termen aangeduid, zoals “meisjes”.[9] Deze patronen wijzen erop dat leeftijdsgebonden genderverwachtingen een wijdverspreide, cultureel verankerde statistische bias kunnen vormen die de perceptie van mensen in de hele samenleving beïnvloedt.[10]

Ook in het onderwijs kunnen AI-instrumenten mannelijke kandidaten boven vrouwelijke kandidaten bevoordelen bij de beoordeling van universitaire aanvragen. Dit kan gebeuren omdat AI-voorspellingen vrouwen vaker als een hoger uitvalrisico classificeren. Omdat de reputatie van een universiteit nauw samenhangt met uitvalpercentages, kunnen instellingen proberen risico’s te beperken door vrouwelijke kandidaten minder plaatsen aan te bieden.[11] (Ho et al. (2025)) AI genereert dus niet alleen misleidende gegevens over genderspecifieke kwesties, maar kan ook toekomstige kansen van vrouwen in gevaar brengen doordat het steunt op algemene patronen in plaats van op een zorgvuldige beoordeling van de werkelijke situatie.

Ook in de gezondheidszorg kan AI de behoeften van vrouwen onderschatten. Onderzoek wees uit dat wanneer Googles AI-tool “Gemma” werd gebruikt om identieke casusnotities te genereren en samen te vatten, termen als “disabled”, “unable” en “complex” aanzienlijk vaker voorkwamen in beschrijvingen van mannen dan van vrouwen. Een ander onderzoek van de London School of Economics and Political Science (LSE) vond eveneens dat bij vrouwen met vergelijkbare zorgbehoeften die behoeften vaker werden afgezwakt of volledig weggelaten.[12] Dr. Sam Rickman, hoofdauteur van het rapport en onderzoeker aan het Care Policy and Evaluation Centre van de LSE, waarschuwde dat het gebruik van AI tot ongelijke zorg voor vrouwen kan leiden: “We weten dat deze modellen zeer breed worden gebruikt en wat zorgwekkend is, is dat we betekenisvolle verschillen vonden tussen de mate van bias in verschillende modellen,” zei hij. “Met name het model van Google bagatelliseert de lichamelijke en geestelijke gezondheidsbehoeften van vrouwen in vergelijking met die van mannen. Omdat de hoeveelheid zorg die iemand krijgt wordt bepaald op basis van de ingeschatte behoefte, kan dit ertoe leiden dat vrouwen minder zorg ontvangen wanneer bevooroordeelde modellen in de praktijk worden gebruikt. Maar we weten momenteel niet welke modellen precies worden ingezet.” (The Guardian, 2025)[13]

Het probleem stopt daar niet. Wanneer je ChatGPT vraagt voorbeelden te geven van sterke en moedige rolmodellen, zal het vaak vooral mannelijke figuren noemen, omdat deze eigenschappen stereotiep met mannen worden geassocieerd. Emotionele of gevoelige eigenschappen worden daarentegen vaker gekoppeld aan vrouwelijke leiders, wat langdurige genderstereotypen weerspiegelt.[14] (Newstead et al., 2023) Dit probleem vloeit rechtstreeks voort uit het feit dat AI-systemen leren van door mensen geproduceerde inhoud — inhoud die de bestaande vooroordelen van de samenleving al weerspiegelt.

Wat is de werkelijke reden achter zo’n ongelijk ecosysteem, zelfs binnen de AI-sector? Waarom neemt AI ongelijke beslissingen op basis van gender?

Een verontrustende factor die bijdraagt aan bevooroordeelde AI-mechanismen is het gebrek aan diversiteit in ontwikkelteams. In 2018 was slechts 10–15% van de AI-ontwikkelaars en -ontwerpers bij grote technologiebedrijven vrouw. (Whittaker et al., 2018, pp. 1–62). In 2019 bekleedden vrouwen slechts 26% van de functies op het gebied van data en AI in de beroepsbevolking (World Economic Forum, 2019). Deze genderongelijkheid bleef bestaan, zoals blijkt uit de Stack Overflow Developer Survey van 2022, waarin 93% van de professionele ontwikkelaars zich als man identificeerde (Stack Overflow, 2022).

Volgens de hierboven genoemde studies bestaan veel AI-teams voornamelijk uit mannen. Deze ongelijkheid beïnvloedt de analytische benaderingen, prioriteiten en beslissingen die in AI-modellen worden ingebouwd. Daardoor kunnen AI-systemen die in dergelijke omgevingen worden ontwikkeld bestaande genderverschillen in besluitvorming reproduceren, genderbias versterken en perspectieven missen die essentieel zijn voor eerlijke en inclusieve uitkomsten.[15] (Ho et al. (2025))

Wat moet er worden gedaan om dit te voorkomen?

In de eerste plaats begint gendergelijkheid in de digitale ruimte met gendergelijkheid in het echte leven. Als gelijkheid niet in de samenleving zelf wordt gerealiseerd, kan zij ook online of in digitale omgevingen niet volledig worden bereikt. Dit betekent dat gendergelijkheid op de werkvloer moet worden versterkt. In grote technologiebedrijven moeten ontwikkelomgevingen genderinclusiever worden, niet alleen omwille van gelijkheid, maar ook om uiteenlopende perspectieven te waarborgen. Wanneer vrouwelijke ontwikkelaars worden betrokken, brengen zij waardevolle gezichtspunten in die kunnen bijdragen aan evenwichtigere, eerlijkere en neutralere resultaten. Ten tweede vereisen AI-systemen voortdurend toezicht, verbetering en controle. Ontwikkelaars moeten zowel bij het ontwerpen van nieuwe systemen als bij het bijwerken van bestaande systemen nauwlettend blijven toezien. Als een AI-model genderdiscriminerende inhoud begint over te nemen, kan het probleem zo snel worden opgespoord en aangepakt.

De Raad van de Europese Unie erkent dat genderbias in AI-systemen tot discriminerende uitkomsten kan leiden en roept de lidstaten daarom op dit probleem aan te pakken door duidelijke, representatieve en hoogwaardige datasets te gebruiken, menselijk toezicht in te bouwen en ervoor te zorgen dat AI-systemen voldoen aan antidiscriminatieregels en sectorspecifieke AI-wetgeving.[16] (Raad van de EU)

De EU heeft verschillende regels ingevoerd op het gebied van digitalisering en gendergelijkheid die de basis vormen voor de huidige aanpak. Verordening 2024/1689, bekend als de “AI Act”, vormt het eerste uitgebreide wettelijke kader voor kunstmatige intelligentie. Daarnaast werd Verordening 2022/2065, de “Digital Services Act”, aangenomen om een veiligere onlineomgeving voor gebruikers in de EU te creëren, illegale inhoud aan te pakken en transparantie te bevorderen.[17] (Raad van de EU)

Conclusie

Als de toekomst onvermijdelijk verbonden is met AI-technologieën, hebben mensen de verantwoordelijkheid om genderneutraliteit te waarborgen — zowel online als offline — zodat historische vooroordelen niet worden overgedragen op digitale systemen. Dit betekent dat we omgevingen in de echte wereld en digitale platforms moeten creëren die langdurige genderstereotypen actief uitdagen in plaats van versterken. Grote technologiebedrijven moeten ervoor zorgen dat hun digitale ecosystemen genderinclusief zijn, terwijl lidstaten een cruciale rol moeten spelen bij het vaststellen en handhaven van regels die genderneutraliteit bevorderen en voorkomen dat historische vooroordelen blijven voortbestaan. Alleen door gecoördineerde inspanningen kunnen toekomstige AI-instrumenten eerlijk, onpartijdig en inclusief blijven.

Bibliografie

1. UN Women, https://www.unwomen.org/en/articles/explainer/artificial-intelligence-and-gender-equality

2. UNIA, https://www.unia.be/en/dossiers/artificial-intelligence-discrimination

3. Ethics and AI: The 2020 international baccalaureate grading scandal, A. Ovchinnikov

4. Gender discrimination at workplace: Do artificial intelligence (AI) and machine learning (ML) have opinions about it, M.T. Nuseir, Al Kurdi, M.T. Alshurideh, H.M. Alzoubi

5. J. Dastin, Insight—Amazon scraps secret AI recruiting tool that showed bias against women
6. Guilbeault, D., Delecourt, S. & Desikan, B.S. Age and gender distortion in online media and large language models. Nature 646, 1129–1137 (2025). https://doi.org/10.1038/s41586-025-09581-z
7. Itzin, C. & Phillipson, C. in Gender, Culture and Organizational Change (eds Itzen, C. & Newman, J.) 84–95 (Routledge, 1995). / Spedale, S., Coupland, C. & Tempest, S. Gendered ageism and organizational routines at work: the case of day-parting in television broadcasting. Organ. Stud. 35, 1585–1604 (2014).
8. Ramati-Ziber, L., Shnabel, N. & Glick, P. The beauty myth: prescriptive beauty norms for women reflect hierarchy-enhancing motivations leading to discriminatory employment practices. J. Pers. Soc. Psychol. 119, 317–343 (2020).
9. MacArthur, H. J., Cundiff, J. L. & Mehl, M. R. Estimating the prevalence of gender-biased language in undergraduates’ everyday speech. Sex Roles 82, 81–93 (2020). / Miller, K. L. I’m a manager, but to my boss and colleagues, I’m a ‘girl’. Washington Post www.washingtonpost.com/business/economy/im-a-manager-but-to-my-boss-and-colleagues-im-a-girl/2019/05/10/d18fb3ea-71d0-11e9-9eb4-0828f5389013_story.html (2019).
10. Ridgeway, C. L. in Framed by Gender: How Gender Inequality Persists in the Modern World (ed. Ridgeway, C. L.) 32–55 (Oxford Univ. Press, 2011). / Martin, A. E., Guevara Beltran, D., Koster, J. & Tracy, J. L. Is gender primacy universal? Proc. Natl Acad. Sci. USA 121, e2401919121 (2024).
11. Gender biases within Artificial Intelligence and ChatGPT, Ho, J. Q. H., Hartanto, A., Koh, A., & Majeed, N. M. (2025), https://www.sciencedirect.com/science/article/pii/S2949882125000295#bib158
12. The Guardian, 2025 https://www.theguardian.com/technology/2025/aug/11/ai-tools-used-by-english-councils-downplay-womens-health-issues-study-finds
13. The Guardian, 2025 https://www.theguardian.com/technology/2025/aug/11/ai-tools-used-by-english-councils-downplay-womens-health-issues-study-finds
14. How AI can perpetuate–or help mitigate–gender bias in leadership, T. Newstead, B. Eager, S. Wilson
15. Gender biases within Artificial Intelligence and ChatGPT, Ho, J. Q. H., Hartanto, A., Koh, A., & Majeed, N. M. (2025), https://www.sciencedirect.com/science/article/pii/S2949882125000295#bib158
16. Council of the European Union, https://www.consilium.europa.eu/en/press/press-releases/2025/06/19/council-calls-for-targeted-efforts-to-advance-gender-equality-in-the-ai-driven-digital-age/
17. Council of the European Union, https://www.consilium.europa.eu/en/press/press-releases/2025/06/19/council-calls-for-targeted-efforts-to-advance-gender-equality-in-the-ai-driven-digital-age/