Zorgen over 'vooringenomenheid'

Onderzoek: algoritmes overheden voldoen niet aan basiseisen

18 mei 2022 17:22 Aangepast: 18 mei 2022 17:32

Meerdere algoritmes van overheden voldoen niet aan de basiseisen, concludeert de Algemene Rekenkamer na een onderzoek bij negen instanties. De politie kwam het slechtst uit het onderzoek.

Zes van de negen onderzochte overheidsorganisaties scoorden in het onderzoek ondermaats, door onder andere 'vooringenomenheid, datalekken of ongeautoriseerde toegang', zegt de Algemene Rekenkamer.

Een algoritme is een serie opdrachten dat een systeem volgt. Met algoritmes wordt onder andere bepaald of iemand recht heeft op bepaalde toeslagen. Ze worden gebruikt om processen sneller te laten verlopen. Verkeerde inzet van algoritmes kan leiden tot discriminatie. Een voorbeeld daarvan is de toeslagenaffaire, waarbij mensen met een laag inkomen door een algoritme automatisch in het vizier van de Belastingdienst kwamen voor een fraudecontrole.  

Politie

De politie scoorde op alle toetsingspunten onvoldoende, zegt de Rekenkamer. Zo maakte de politie gebruik van historische data van bijvoorbeeld wijken om met een kansberekening de te verwachten criminaliteit aldaar te bepalen. "Doordat in het verleden bepaalde wijken intensiever zijn gecontroleerd, is de kans groot dat in de voorspellingen onwenselijke systematische afwijkingen ontstaan." 

Miniatuurvoorbeeld
Lees ook:

Fotoalgoritme Twitter 'ziet het liefst dunne, feminiene mensen'

Toezicht op toegang tot data

Bij 6 van 9 onderzochte organisaties ontbreekt inzicht welke medewerkers toegang hebben tot data en algoritmes. "Ongeautoriseerde toegang tot systemen kan tot beschadiging of verlies van data leiden, met alle gevolgen voor burgers of bedrijven." Onder andere het verzelfstandigde onderdeel Toeslagen van de Belastingdienst, die de huurtoeslag toekent, en de Sociale Verzekeringsbank, die AOW-aanvragen beoordeelt, lopen volgens de Rekenkamer risico’s, omdat het IT-beheer 'onvoldoende op orde is'.

Ook heeft de instantie kritiek op de Rijksdienst voor Identiteitsgegevens, omdat die niet zelf kan nagaan of het algoritme de kwaliteit van pasfoto’s correct vaststelt. "Dit kan discriminatie in de hand werken."

Nakomen afspraken 

De Rekenkamer raadt overheden aan om bij uitbesteding of inkoop bij een andere partij afspraken over het gebruik van algoritmes vast te leggen en ook in de gaten te houden of de afspraken worden nagekomen. Een van de aanbevelingen gaat over het risico op vooringenomenheid in de systemen. "Controleer voortdurend op het effect van vooringenomenheid door algoritmes en voorkom daarmee dat onwenselijke systematische afwijkingen voor specifieke personen of groepen ontstaan."

Miniatuurvoorbeeld
Lees ook:

Rekenkamer: nauwelijks aandacht voor ethiek bij algoritmes overheid

Bright blok

Volg Bright voor meer tech:​​

Kijk onze video's

Volg ons op Instagram, Twitter en Facebook

En luister de podcast

Altijd weten wat er speelt?
Download de gratis RTL Nieuws-app en blijf op de hoogte.

Playstore Appstore

Dit is een artikel van