Europol publiceert over gebruik deep fake technologie
/Op 28 april 2022 heeft het innovatielab van Europol zijn eerste verslag gepubliceerd met een gedetailleerd overzicht van het criminele gebruik van deepfaketechnologie. In zes hoofdstukken worden de verschijnselen van deepfakes toegelicht, de technologie erachter, de gevolgen van deepfaketechnologie voor de criminaliteit en rechtshandhaving, de opsporing van deepfakes en worden acties van bijvoorbeeld technologiebedrijven en de EU besproken om te reageren op deepfakes.
De juiste toepassing van deepfaketechnologie maakt het mogelijk om op een geloofwaardige manier mensen dingen te laten doen of zeggen die in het echt nooit gebeurd of gezegd zijn. Het is zelfs mogelijk om mensen te creëren die nooit hebben bestaan. In het verslag wordt benadrukt dat wat betreft de technologieën achter deepfakes, de aanpassing van de generatieve adversariële netwerken (GAN’s) – een mechanisme dat is ontworpen om de kans te minimaliseren dat producten kunnen worden onderscheiden van de authentieke inhoud – een grote sprong voorwaarts betekent voor de kwaliteit en de toegankelijkheid van de deepfaketechnologie.
Daarnaast baart de toenemende ontwikkeling van ‘crime as a service’ (CaaS), die parallel loopt aan dergelijke technologieën, de rechtshandhaving steeds meer zorgen.
Deepfaketechnologie kan diverse criminele activiteiten vergemakkelijken, waaronder:
Het online lastigvallen/ vernederen van personen;
Het plegen van afpersing en fraude;
Het faciliteren van documentfraude;
Het vervalsen van online-identiteiten;
Pornografie zonder toestemming;
Online seksuele uitbuiting van kinderen;
Vervalsing of manipulatie van elektronisch bewijsmateriaal voor strafrechtelijk onderzoek;
Het verstoren van financiële markten;
Het verspreiden van desinformatie en manipuleren van de publieke opinie;
Het ondersteunen van het verhaal van extremistische of terroristische groeperingen;
Het aanwakkeren van sociale onrust en politieke polarisatie.
Aangezien deepfakemateriaal een meer gekwalificeerde beoordeling en kruiscontrole vereist, alsook nieuwe opsporingsmethoden, hebben zij ook gevolgen voor de werkwijze van de politie en de rechtsgang. Volgens het verslag is er daarom ook een sterke behoefte aan aanpassing van de regelgevingskaders – van wetten tot beleid.
Rechtshandhavingsinstanties, onlinedienstverleners en andere organisaties moeten beleid ontwikkelen en investeren in detectie- en preventietechnologie. Beleidsmakers en rechtshandhavingsinstanties moeten hun huidige beleid en praktijken evalueren en aanpassen om voorbereid te zijn op de nieuwe realiteit van deepfakes. Nieuwe wetgeving moet daarom richtsnoeren vaststellen, de naleving ervan afdwingen en de inspanningen op het gebied van voorbereiding van de rechtshandhaving ondersteunen.
