EU wil verplichte verwijdering afbeeldingen kindermisbruik. Een goede zaak?

Het probleem van het online verspreiden van materiaal van kindermisbruik is enorm. Binnen de Europese Unie nam het aantal meldingen hierover in de afgelopen tien jaar met maar liefst 6000% toe, aldus EU commissaris voor Binnenlandse Zaken Ylva Johansson. De Amerikaanse non-profit organisatie National Center for Missing and Exploited Children (NCMEC) ontving vorig jaar 85 miljoen bestanden met kindermisbruik, tegen 65 miljoen bestanden in 2020. Het merendeel van het online materiaal met kindermisbruik (62%) staat op EU servers. Terre des Hommes vindt het daarom dringend tijd voor Europese actie. 

Inzet van AI-technieken

Dankzij moderne, artificial intelligence (AI) technieken is het mogelijk om fotomateriaal met kenmerken van seksueel misbruik automatisch en op grote schaal op te sporen. Daarbij worden  unieke codes of 'hashes' gebruikt, die menselijke analisten aan bestaand fotomateriaal van kindermisbruik toekennen. Als online bestaande of nieuwe afbeeldingen opduiken, worden die met hulp van de codes of ‘hashes’ herkend. Dit soort AI-technieken, onder andere ontwikkeld door Microsoft, wordt op vrijwillige basis al ingezet. 

Einde aan privacy in end-to-end versleutelde berichten bij kindermisbruik

De Europese Commissie wil de AI-technieken breder en verplicht inzetten, ook binnen end-to-end versleutelde chatfuncties, zoals bijvoorbeeld Whatsapp. Dit voornemen stuit met een beroep op de privacy op veel kritiek, niet in de laatste plaats vanuit de techbedrijven zelf. 

Maar de EU wil naast afbeeldingen ook tekstberichten scannen op signalen van kindermisbruik. Hiertegen is de weerstand nog groter, omdat dit volgens critici foute regimes de mogelijkheid geeft op sleutelwoorden te scannen over dissidenten, protesten of LGTB gemeenschappen. De EU benadrukt dat alleen technieken worden toegelaten die op kindermisbruik scannen. 

Terre des Hommes is van mening dat er meer moet worden gedaan om materiaal van kindermisbruik op te sporen en kinderen te beschermen. De verplichte inzet van automatische, AI-technieken is daarbij, gezien de omvang van het probleem, onvermijdelijk. En het moet mogelijk worden om deze technieken in end-to-end versleutelde berichten in te zetten en datgene wat gevonden wordt door politie en justitie te laten onderzoeken. 

Het is daarbij essentieel dat de gebruikte technieken de fundamentele rechten van alle gebruikers dienen te beschermen en alleen kunnen zoeken naar informatie over kindermisbruik. Die waarborgen, onder andere door toetsing van de gebruikte technieken door de European Data Protection Board, zitten in het EU voorstel ingebed.

Terre des Hommes ondersteunt EU plannen en voert campagne

Zie hier het filmpje over de campagne #ChildSafetyOnlineNow