Wedstrijd vooroordelen vinden

Fotoalgoritme Twitter 'ziet het liefst dunne, feminiene mensen'

10 augustus 2021 21:05 Aangepast: 10 augustus 2021 21:16
Een aantal van de gezichten die zijn aangemaakt om het algoritme van Twitter te testen. Beeld © Bogdan Kulynych

Het foto-afknipalgoritme van Twitter heeft liever dunne, jonge, vrouwelijke mensen met een lichte huidskleur. Dat blijkt vandaag uit de resultaten van een wedstrijd die Twitter organiseerde om vooroordelen in het algoritme op te sporen.

Twitter-topman Dantley Davis bood afgelopen jaar zijn excuses aan voor het 'racistische' algoritme van de site. Dit algoritme, dat Twitter gebruikt om de previewversie van foto's aan te maken, bleek mensen met een donkerdere huidskleur uit te sluiten en zich vooral te richten op mensen met een lichtere huidskleur.

Daarop besloot Twitter om het algoritme in de mobiele app voorlopig helemaal niet meer te gebruiken. Ook schreef het bedrijf een wedstrijd uit om zoveel mogelijk van dit soort vooroordelen in het algoritme op te sporen.

Algoritme wil lichte of warme huidskleur

De winnaar van die wedstrijd, Bogdan Kulynych, is als student verbonden aan de Zwitserse EFPL-universiteit. Hij maakte een reeks gezichten aan. Van elk gezicht maakte hij varianten met andere huidskleuren, leeftijden en geslachtskenmerken. De meest doorslaggevende aanpassing bleek de huidskleur: hoe warmer of lichter de huid, hoe sneller de foto op het gezicht werd uitgesneden. 

Daarna bleek geslacht het belangrijkst: in 25 procent van de gevallen werden foto's met een "stereotype feminiener uiterlijk" sneller centraal gesteld door het algoritme. Ook dunnere gezichten kregen sneller de aandacht van het algoritme. 

Dit was de eerste keer dat Twitter ooit een dergelijke competitie gehouden heeft om zijn eigen algoritmen te bestuderen. Kulynych won 3.500 dollar (2.985 euro) met zijn onderzoek.   

Miniatuurvoorbeeld
Onderzoek

Facebook start onderzoek naar racisme bij algoritmes

Geen grijze haren

Uit ander onderzoek dat voor de competitie werd uitgevoerd, bleek dat Twitters fotoalgoritme mensen met wit of grijs haar liever mijdt. Ten slotte werd ook duidelijk dat een Engelse tekst sneller werd uitgelicht dan een tekst in het Arabische schrift. 

Volgens Rumman Chowdhury, de baas van Twitters team dat het ethisch gebruik van algoritmen bestudeert, toont dit onderzoek aan dat onze eigen "onrealistische" ideeën over wat mooi is, doorsijpelen in dit soort filters. Met de resultaten van deze wedstrijd hoopt Twitter het algoritme te verbeteren.

Bright blok

Volg Bright voor meer tech:​​

Kijk onze video's

Volg ons op Instagram, Twitter en Facebook

En luister de podcast

Altijd weten wat er speelt?
Download de gratis RTL Nieuws-app en blijf op de hoogte.

Playstore Appstore

Dit is een artikel van