Ga naar de inhoud
Verbod op profileringssystemen

Akkoord over regels rond kunstmatige intelligentie in Europa

Beeld © Getty Images

Europa krijgt regels om kunstmatige intelligentie te beteugelen. Op een aantal AI-toepassingen komt een verbod. Het gaat bijvoorbeeld om profileringssystemen die zogenaamd criminaliteit voorspellen op basis van je persoonsgegevens. In Nederland gebeurde dat bij de toeslagenaffaire.

Verantwoordelijk eurocommissaris Thierry Breton meldde gisteravond dat er een voorlopig akkoord is. Hier is bijna 37 uur over onderhandeld.

Bescherming fundamentele rechten

"We hebben veel tijd besteed aan het vinden van de juiste balans tussen het optimaal benutten van AI-potentieel om de wetshandhaving te ondersteunen en tegelijkertijd de fundamentele rechten van onze burgers te beschermen", zei Breton in een verklaring op de site van de Europese Commissie. "We willen geen massale surveillance in Europa."

De onderhandelaars moeten het akkoord nog wel voorleggen aan het EU-parlement en de EU-lidstaten, maar dat is doorgaans een formaliteit.

'Open
Lees ook:
'Open AI-modellen straks vrijgesteld van EU-wetgeving'

Risico

De nieuwe Europese AI-wet deelt AI-toepassingen in op risico. Hoe meer gevaren een toepassing in zich draagt, hoe strenger de regels. De gevaarlijkste, zoals burgervolgsystemen op Chinese leest die burgers voor hun gedrag belonen of straffen, worden verboden.

De onderhandelaars twistten lang over AI voor gezichtsherkenning.

Scannen van gezichten

Het live scannen van gezichten mag, maar biometrische scanning die mensen categoriseert op basis van gevoelige kenmerken, zoals politieke of religieuze overtuigingen, seksuele geaardheid of ras, wordt verboden. 

GroenLinks-Europarlementariër Kim van Sparrentak: "Europa gaat geen Chinese surveillancestaat achterna. Na een enorme strijd met de EU-landen hebben we het gebruik van dit soort systemen aan banden gelegd. In een vrije en democratische samenleving moet je over straat kunnen zonder dat de overheid je zomaar constant volgt op straat, op festivals of in voetbalstadions."

Profileren op basis van nationaliteit

Het parlementslid is ook blij met het verbod op profileren om zogenaamd criminaliteit te voorspellen op basis van je persoonsgegevens.

"Als de politie puur en alleen op basis van je nationaliteit, de plek waar je woont, in welke auto je rijdt of hoeveel kinderen je hebt voorspellingen doet dat je een crimineel kan zijn, is het einde zoek. Dit werkt vaak discriminerend, treft vooral minderheden en de meest kwetsbaren en holt de rechtsstaat uit. Verbieden dus."

EU
Lees ook:
EU werkt aan AI-wetgeving, maar Frankrijk en Duitsland liggen dwars

Wat staat er in de AI ACT?

AI-systemen worden getoetst op hoe groot hun risico is. Daarbij worden de volgende categorieën onderscheiden:

  • Systemen met een onaanvaardbaar risico worden verboden. Dat is bijvoorbeeld live gezichtsherkenning, of systemen die gericht zijn op het manipuleren van mensen.
  • Systemen met een hoog risico worden constant gemonitord. Dat gaat om systemen die gebruikt worden in producten met strenge veiligheidseisen, zoals auto's of vliegtuigen. Ook AI-toepassingen die worden gebruikt in sectoren als onderwijs en justitie vallen hieronder.
  • Het derde niveau is generatieve AI, en dat zijn systemen als ChatGPT. Deze moeten transparant zijn over de data waarmee ze getraind zijn en ze mogen geen 'illegale inhoud genereren'.
  • Systemen met een laag risico zijn bijvoorbeeld programma's die automatisch foto's of video's verbeteren. Deze moeten alleen aangeven dat ze AI gebruiken.

Hoge boetes

Bedrijven die de regels overtreden kunnen een boete krijgen van maximaal 35 miljoen euro of 7 procent van hun wereldwijde omzet, afhankelijk van de overtreding en de omvang van het bedrijf.

De nieuwe regels zouden, als ze begin volgend jaar ook officieel worden aangenomen, in de loop van 2026 van kracht kunnen worden.

Bezwaren van Frankrijk, Duitsland en Italië

Eigenlijk had er eerder deze week al een akkoord moeten zijn, maar Frankrijk, Duitsland en Italië kwamen onverwacht met bezwaren. Ze wilden niet dat AI-bedrijven te veel worden beperkt. Uit Frankrijk en Duitsland komen twee grote AI-bedrijven, respectievelijk Mistral en Aleph Alpha.

Daarom is gezocht naar een compromis. Er komen gedragscodes voor bedrijven.