Het Europees Parlement heeft deze week ingestemd met het in stand houden van de tijdelijke Chat Control-verordening. Daarmee blijft het voor grote technologiebedrijven mogelijk om niet-versleutelde berichtendiensten automatisch te scannen op materiaal dat verband houdt met seksueel kindermisbruik. Zodra ook de lidstaten akkoord gaan, blijft de regeling naar verwachting van kracht tot 2028.
Volgens de Europese Commissie is deze bevoegdheid noodzakelijk om online seksueel kindermisbruik effectiever te bestrijden. Critici waarschuwen echter dat de techniek veel verder reikt dan dat ene doel en een infrastructuur creëert waarmee uiteindelijk de digitale communicatie van alle Europeanen kan worden gecontroleerd.
Dat de verordening is verlengd, is op zichzelf al controversieel. Minstens zo opmerkelijk is de manier waarop dat gebeurde. Eerder dit jaar wees het Europees Parlement een verlenging van de tijdelijke regeling nog af. Toch werd het voorstel via een uitzonderlijke spoedprocedure opnieuw op de agenda geplaatst, op een moment waarop veel Europarlementariërs vanwege het naderende zomerreces al afwezig waren. Hierdoor werd het aanzienlijk moeilijker om voldoende stemmen te verzamelen om de Chat Control tegen te houden.
Wat is Client Side Scanning?
De kern van de discussie is Client Side Scanning (CSS). Daarbij worden foto's, video's en berichten niet pas gecontroleerd nadat ze zijn verzonden, maar al op het apparaat van de gebruiker, vóór verzending.
Op dit moment mogen grote tech-bedrijven als Meta, Google en Microsoft niet-versleutelde berichtendiensten automatisch vergelijken met een databank van bekend beeldmateriaal van seksueel kindermisbruik. Wanneer een algoritme een overeenkomst vermoedt, wordt daarvan een melding gemaakt zodat verdere beoordeling kan plaatsvinden.
Achterdeurtje naar massasurveillance
Tijdens een rondetafelgesprek in de Tweede Kamer vroeg FVD-Kamerlid Freek Jansen de aanwezige deskundigen expliciet of dezelfde technologie ook voor andere doeleinden kan worden ingezet dan het opsporen van kindermisbruik.
https://twitter.com/fvdemocratie/status/1712155263468208603
De antwoorden waren opvallend:
Privacyhoogleraar Jaap-Henk Hoepman antwoordde dat dit technisch gezien zelfs "triviaal" is. Als software afbeeldingen van seksueel kindermisbruik kan herkennen, kan dezelfde technologie volgens hem net zo goed worden ingezet om andere afbeeldingen en documenten op te sporen. Hoogleraar Frederik Zuiderveen Borgesius voegde daaraan toe dat uiteindelijk zelfs gezocht zou kunnen worden naar woorden als "demonstratie" of "spotprent". Daarmee ontstaat volgens hem een systeem dat veel verder kan reiken dan de bestrijding van kindermisbruik.
Ook de praktische bezwaren zijn volgens de deskundigen groot. Dagelijks versturen Europeanen vele miljarden berichten. Zelfs een zeer kleine foutmarge (gemiddeld is het één op de honderdduizend) kan daardoor leiden tot miljoenen onterechte meldingen op weekbasis. Volgens deskundige Bert Hubert kunnen zulke foutmeldingen ingrijpende gevolgen hebben, zoals politieonderzoeken of huisbezoeken.
Michel van Eeten betwijfelt bovendien of criminelen zich daadwerkelijk door deze technologie laten tegenhouden, terwijl vooral gewone burgers worden gecontroleerd. Frederik Jansen voegt daaraan toe dat wanneer je een eenvoudig ZIP-mapje maakt, de technologie al niet meer werkt en kwaadwillenden - ondanks het surveillance-systeem - dus vrij spel hebben.
Chat Control 1.0 wordt uitgebreid
De verlenging houdt niet alleen de bestaande regeling in stand, maar verruimt ook de mogelijkheden.
Waar de oorspronkelijke Chat Control-verordening uitsluitend toezag op het herkennen van bekend beeldmateriaal van seksueel kindermisbruik, mogen technologiebedrijven voortaan ook kunstmatige intelligentie inzetten om nieuw, onbekend materiaal op te sporen. Daarnaast wordt het mogelijk AI te gebruiken om pogingen tot online kinderlokken (grooming) te detecteren.
Volgens cryptografiehoogleraar Bart Preneel vergroot juist die uitbreiding het risico op foutieve meldingen aanzienlijk. AI is bij het herkennen van onbekend materiaal minder nauwkeurig dan bij bestaande databanken. Gezien de miljarden berichten die dagelijks in Europa worden verstuurd, kan dat volgens hem leiden tot miljoenen onschuldige burgers die onterecht als verdacht worden aangemerkt.
Digitaal briefgeheim
Met deze verlenging wordt opnieuw een grens verschoven wanneer het gaat om privacybescherming van Europese burgers. Een infrastructuur die vandaag wordt ingevoerd voor de bestrijding van kindermisbruik, kan morgen ook voor andere doeleinden worden ingezet. Een foute grap? Een demonstratieoproep? Met een druk op de knop kan het mogelijk worden om ook deze uitingen op te sporen - en te bestraffen. FVD blijft zich daarom verzetten tegen iedere vorm van Client Side Scanning en pleit voor een onvoorwaardelijke bescherming van het digitale briefgeheim.