Eerste geval

Zwarte man onterecht opgepakt door fout met gezichtsherkenning

25 juni 2020 13:59 Aangepast: 25 juni 2020 14:22

Een zwarte Amerikaanse man werd eerder dit jaar onterecht gearresteerd omdat software voor gezichtsherkenning hem had aangezien voor een crimineel.

Het zou de eerste keer zijn dat zo’n fout met gezichtsherkenning aan het licht komt, meldt de Amerikaanse mensenrechtenorganisatie ACLU. De organisatie diende woensdag in een klacht in tegen de politie van Detroit.

In januari werd de zwarte Amerikaan Robert Williams aangehouden en een nacht vasthouden op het politiebureau. Software voor gezichtsherkenning zag Williams aan als dader van een overval in een juwelierszaak in 2018.

'Computer had het fout'

Een foto van de overvaller werd door software vergeleken met een database met 49 miljoen gezichten. Na een nacht in de cel werd echter duidelijk dat Williams niet dezelfde persoon is als op de foto van de dief. Williams mocht na bijna 30 uur vertrekken, volgens de agenten "had de computer het waarschijnlijk fout".

Williams werd te snel gearresteerd. De Amerikaanse politie mag software voor gezichtsherkenning alleen als aanwijzing gebruiken, niet als een betrapping op heterdaad. Dat gebeurde in het geval van Williams wel.

Miniatuurvoorbeeld
Lees ook:

Amazon levert jaar lang geen gezichtsherkenning aan politie VS

Vooroordelen in software

De arrestatie is mede opvallend omdat het gaat om een foutieve herkenning van een zwarte man. Er is al jaren kritiek op de racistische vooroordelen die onbedoeld in sommige systemen voor gezichtsherkenning zijn geslopen.

Zulke systemen hebben meer moeite om zwarte mensen van elkaar te onderscheiden, onder andere omdat de systemen ‘getraind’ zijn aan de hand van overwegend foto's van witte mensen. 

Amazon, Microsoft en IBM

Eerder deze maand maakten verschillende makers van software voor gezichtsherkenning bekend de samenwerking met de politie tijdelijk te staken of niet aan te gaan. De bedrijven willen eerst duidelijk wetgeving rond de technologie. Het gaat om Amazon en Microsoft.

IBM stopt volledig met het maken van gezichtsherkenningssoftware wegens zorgen over massasurveillance en etnisch profileren.

Bright blok

Meer nieuws en reviews van Bright:

Volg ons op YouTube

Facebook en Twitter

Instagram en TikTok

Altijd weten wat er speelt?
Download de gratis RTL Nieuws-app en blijf op de hoogte.

Playstore Appstore