'Systemen extreem kwetsbaar'

Met deze gezichten zijn systemen voor gezichtsherkenning te foppen

12 augustus 2021 17:27 Aangepast: 12 augustus 2021 17:32
Enkele van de meest succesvolle kunstmatige gezichten. Beeld © Tel Aviv University

Beveiligingsonderzoekers hebben negen kunstmatige gezichten gemaakt die gebruikt kunnen worden om toegang te krijgen tot allerlei bestaande systemen voor gezichtsherkenning.

De kunstmatige gezichten zijn een soort collage van de meest voorkomende eigenschappen van bestaande gezichten. Zonder verdere informatie kregen de negen gezichten in meer dan 40 procent van de gevallen toegang tot drie veelgebruikte systemen voor gezichtsherkenning.

De negen zogenoemde 'lopersleutels' voor gezichtsherkenning zijn overwegend van oudere mannen met grijs of wit haar, lichte huidskleur en soms een bril en lichte gezichtsbeharing.

De gezichten zijn gemaakt door onderzoekers van de Israëlische Blavatnik School of Computer Science en de School of Electrical Engineering van de Universiteit van Tel Aviv. De onderzoekers schreven een paper over hun creatie.

Miniatuurvoorbeeld
Lees ook:

Privacygroepen dienen klacht in tegen gezichtsherkenningssoftware

Toegang voor gezicht dat niet bestaat

De kunstmatige gezichten werden getest op de systemen Dlib, FaceNet en SphereFace. Er is bewust gekozen voor deze geavanceerde systemen, die verder kijken dan enkele hoofdkenmerken en huidskleur. Dat zegt hoofdonderzoeker Ron Shmelkin tegen Vice Motherboard. Toch gaven de systemen in 40 tot 60 procent van de gevallen toegang aan een gezicht dat niet bestaat.

De gezichten werden gegenereerd met een evoluerend algoritme en een neuraal netwerk. Dat systeem maakte steeds aanpassingen aan de kunstmatige gezichten, zodat die steeds breder inzetbaar werden om gezichtsherkenning te foppen. Uiteindelijk leerde het systeem zelf de meest geschikte kandidaten herkennen.

Miniatuurvoorbeeld
Lees ook:

Gezichtsherkenning? Je brein reageert hier emotioneel op

Vooral oudere witte mannen kwetsbaar

De onderzoekers stellen dat identificatie op basis van een gezicht 'extreem kwetsbaar is'. Zij kunnen immers toegang krijgen zonder ook maar te weten hoe het slachtoffer eruit ziet. Wel lopen bepaalde groepen meer gevaar dan anderen. Vooral oudere, wittere mannen worden blijkbaar snel door elkaar gehaald door de systemen, of de mannen lijken simpelweg erg op elkaar.

Zo was één kunstmatig gezicht genoeg om een volledige dataset met gezichten van witte mannen van 60+ voor de gek te houden. Jongere groepen waren gevarieerder, en daarom moeilijker voor de gek te houden. Nep-gezichten van witte vrouwen wisten maar in 22 procent van de gevallen de systemen te foppen.

De onderzoekers zetten hun werk voort, en willen hun kunstmatige gezichten gaan animeren met deepfake-technoligie. Daarmee moeten nog geavanceerdere systemen worden gefopt, die ook kijken of het gezicht niet stilstaat en dus een afbeelding is.

Bright blok

Volg Bright voor meer tech:​​

Kijk onze video's

Volg ons op Instagram, Twitter en Facebook

En luister de podcast

Altijd weten wat er speelt?
Download de gratis RTL Nieuws-app en blijf op de hoogte.

Playstore Appstore

Dit is een artikel van