Algoritmes spelen een groeiende rol in de zoektocht van bedrijven naar personeel, maar dat gaat lang niet altijd objectief. Vrouwen worden eerder gekoppeld aan vacatures met een lager salaris dan mannen, zo blijkt uit onderzoek. Bestaande vooroordelen worden door computers versterkt en dat moet beter.
Laat je een computer via een algoritme een match maken tussen een cv en een vacature, dan moet je er rekening mee houden dat het systeem flink bevooroordeeld is. Vrouwen worden vaker gekoppeld aan banen in de zorg of kinderopvang en mannen komen eerder terecht in de bouw.
Ook het salaris ligt bij de vacatures voor vrouwen lager: gemiddeld verdienen ze 1680 euro minder op jaarbasis, zo blijkt uit onderzoek van de Radboud Universiteit. Dat onderzoek werd gedaan op verzoek van de Nationale Vacaturebank, die ook de data aanleverde.
Kwalijke zaak
In totaal werden 900.000 anonieme cv’s en 12 miljoen vacatureteksten via zogenoemde kunstmatige intelligentie met elkaar gematcht. Het betreft een reeks testen, zegt Gido Schoenmacker, lead data science bij Nationale Vacaturebank.
Het bedrijf wil algoritmes vaker gaan inzetten bij het aanbieden van vacatures aan werkzoekenden. Er wordt gewerkt aan zelflerende computersystemen, maar vooroordelen sluipen daar snel in. "Een kwalijke zaak", zegt Schoenmacker. Het onderzoek moet helpen om discriminatie bij het matchen te voorkomen.
Vooroordelen uitvergroot
Discriminerende algoritmes? Het gegeven is niet nieuw: in het recente verleden was er bijvoorbeeld kritiek op gezichtsherkenningssoftware, dat de fout ingaat bij de identificatie van etnische minderheden. Ook Amazon lag onder vuur, omdat de recruitmenttools van het bedrijf een voorkeur hadden voor witte mannen.
Het komt mede doordat die algoritmes werken op basis van data die mensen invoeren. "Ze vergroten bestaande vooroordelen uit", zegt Schoenmacker. Het leidt er bijvoorbeeld toe dat vrouwen minder kans hebben op een baan, omdat er voor sommige banen steevast mannen worden geselecteerd.
Steeds meer bedrijven gebruiken tools
Dat is niet oké, concludeerde het College voor de Rechten van de Mens recent. De instantie waarschuwde voor het gebruik van LinkedIn of vacaturebanken bij sollicitaties, omdat de systemen tot discriminatie kunnen leiden. Steeds meer bedrijven gebruiken dit soort tools, maar zijn zich te weinig bewust van de risico’s.
Hoe kan het eerlijker? Zonder onderscheid op basis van ras, religie of geslacht. Volgens de onderzoekers speelt taal een belangrijke rol.
Zo kan een computer uit het taalgebruik van een cv halen of het om een man of een vrouw gaat, ook al is het geslacht niet bekend. Woorden zoals resultaatgericht en winnaarsmentaliteit komen bijvoorbeeld vaker voor op cv’s van mannen en dat zijn ook de woorden die je terugvindt in vacatureteksten van beter betaalde banen.
Testen in praktijk
Richt je een algoritme echter zo in dat het niet meer zo goed kan raden of het om een man of vrouw gaat, dan kun je vooroordelen elimineren en de kloof dichten. Een van de modellen die in het onderzoek werd toegepast zorgde er zo voor dat vrouwen nog maar een salarisachterstand van 180 euro overhielden op jaarbasis.
"Je kunt het systeem in principe leren wat je wilt", zegt Schoenmacker. Of deze manier van werken ook een goede match oplevert tussen werkzoekende en werkgever is echter niet duidelijk. Schoenmacker hoopt dat komend jaar in de praktijk te kunnen testen. Ook zal er meer onderzoek volgen.
