Ondoordacht en risicovol: dat is onder meer de kritiek op vandaag gepresenteerde plannen van de Europese Commissie om met technologie online kindermisbruik tegen te gaan. Onderdeel van de plannen is de mogelijkheid om berichten en chats continu monitoren op beelden van kindermisbruik en digitaal kinderlokken.
Als het aan Brussel ligt, kunnen chat- en e-maildiensten zoals WhatsApp en Gmail straks opgelegd krijgen dat zij alle berichten monitoren om kindermisbruik op te sporen. Maar bijvoorbeeld ook online games met een chatfunctie zouden gesprekken moeten scannen om kinderlokkers tegen te gaan.
Het voorstel in een notendop
- Er komt een Europees centrum om kindermisbruik te voorkomen en te bestrijden. De organisatie zal in Den Haag zitten voor nauwe samenwerking met de Europese politiedienst Europol.
- Slachtoffers van online seksueel misbruik moeten bij het centrum kunnen aankloppen voor hulp om de beelden weg te halen.
- Bedrijven die diensten aanbieden waarbij het risico bestaat op de verspreiding van kinderporno, moeten die risico's in kaart brengen en tegenmaatregelen nemen. Het gaat om chat- en e-maildiensten, sites om afbeeldingen en video's te uploaden en games met chatfuncties.
- Als die maatregelen volgens een toezichthouder in een EU-land onvoldoende blijken, kan de waakhond opdragen tot monitoring van chatdiensten op zoek naar beelden of teksten.
- Internetproviders kunnen de opdracht krijgen om beelden van kindermisbruik ontoegankelijk te maken.
De Europese Commissie lijkt geen oog te hebben voor de gevolgen die zo'n opdracht heeft, zegt Arda Gerkens van het Expertisebureau Online Kindermisbruik (EOKM). "Kinderen experimenteren nou eenmaal seksueel online. Ze sturen elkaar foto's. Je moet niet denken dat dat niet gebeurt: het hoort bij opgroeien. Daar hoort een veilige omgeving bij."
Veel chat-apps bieden nu zo'n veilige omgeving. Zo is WhatsApp technisch zo goed beveiligd dat berichten en foto's alleen op het apparaat van de verzender en de ontvanger te zien zijn. Deskundigen vrezen dat de Commissie aanstuurt op het ondermijnen van deze sterke beveiliging.
Dat zou betekenen dat bedrijven bij hun dienst software moeten installeren die op het apparaat zelf scant naar kinderporno. Beelden die iemand wil versturen worden vergeleken met een database van afbeeldingen van bekend kinderpornomateriaal. Maar de Commissie wil ook de verspreiding van beelden van kindermisbruik tegengaan die nog niet in die database staan.
'Technologie is nog niet zover'
Dat betekent dat software met beeldherkenning moet bepalen of een afbeelding kindermisbruik is. "Die technologie is nog helemaal niet ver genoeg om dat te kunnen", zegt Gerkens. Ze is niet de enige die zich zorgen maakt. Rejo Zenger van burgerrechtenorganisatie Bits of Freedom beaamt de zorgen.
"Stel dat ik een foto maak van mijn jonge dochter die in bad het mooiste schuimkasteel ooit heeft gemaakt", zegt Zenger. "Ik wil die graag naar oma sturen, maar dan loop ik het risico dat een algoritme dit opvat als kinderporno. Het is een foto waar verder niemand wat mee te maken heeft en niks mee aan de hand is, maar ik loop wel het risico dat een automatisch systeem mij rapporteert."
Ook het doorzoeken van chatgesprekken is foutgevoelig. "Technologie zou dan teksten moeten analyseren om te achterhalen of een oudere persoon probeert een kind te verleiden en misleiden. Dat is super moeilijk. Dat betekent dat het sowieso een keer fout gaat. Hoe effectief is het dan? En levert dat niet alleen maar meer werk op voor de zedenpolitie?"
Gerkens wijst nog op andere risico's in EU-landen zoals Polen en Hongarije, waar de rechten van de lhbti-gemeenschap onder druk staan. "Het kan zijn dat dit systeem gebruikt wordt om te kijken of er over homoseksualiteit wordt gesproken. Zij lopen hierdoor extra risico."
Europees Parlement aan zet
De twee vinden dat er te weinig aandacht is voor andere manieren waarop Brussel online kindermisbruik kan tegengaan. Ze noemen het inzetten op de verantwoordelijkheid van ouders, preventie bij daders en meer middelen voor de zedenpolitie.
Het voorstel van de Europese Commissie is het startpunt voor Europese wetgeving. De politieke partijen in het Europees Parlement kunnen er nu op reageren. Daarbij kunnen aspecten wijzigen, maar het hele voorstel kan ook verworpen worden. Het duurt maanden voordat definitief duidelijk is of – en zo ja op welke manier – het voorstel er precies uitziet.
