Deepfakes kunnen op termijn de samenleving ontwrichten

Meer regulering en bescherming gewenst, debat noodzakelijk

Door de opkomst van deepfakes zal de vraag ‘Wat is echt?’ steeds vaker op de politieke en maatschappelijke agenda komen te staan. Deepfakes kunnen worden gebruikt om nepnieuws te verspreiden, verkiezingen te beïnvloeden, realistisch fakebewijs aan rechters voor te leggen en fake pornofilms van vrouwen te maken. Ieder van deze toepassingen heeft potentieel een zeer grote impact op de samenleving, sociale structuren en de democratische rechtsorde. Dat blijkt uit vandaag verschenen onderzoek van het Tilburg Institute for Law, Technology, and Society (TILT), Tilburg University, in opdracht van het WODC.

Een deepfake is beeld, geluid of ander digitaal materiaal dat nep is, maar zeer realistisch lijkt. Met machine learning en artificial intelligence wordt nieuwe digitale content gemaakt uit bestaande video’s, stemmen en afbeeldingen. Ook kunnen geheel nieuwe (virtuele) personen of beelden worden gefabriceerd. Kwalitatief goede deepfakes zijn niet of nauwelijks van echt te onderscheiden. Bovendien kan iedereen gratis en gemakkelijk toegang krijgen tot deze technologie. De verwachting van experts is dan ook dat over 5 jaar meer dan 90% van alle online content geheel of gedeeltelijk gemanipuleerd zal zijn. Deepfake-detectietechnologieën zijn beperkt in capaciteit en kunnen slechts een deel van het fakemateriaal automatisch wegfilteren.

Meer regulering en bescherming

De onderzoekers stellen vast dat het huidige recht, onder meer in het Wetboek van Strafrecht, de Algemene Verordening Gegevensbescherming en het recht op vrijheid van meningsuiting, al veel regels stelt aan deepfakes, maar dat de handhaving van deze regels achter blijft. Om onder andere de handhavingsdruk te verlichten, beschrijven de onderzoekers een groot aantal reguleringsopties.
Een daarvan is om het produceren, aanbieden, gebruiken en in bezit hebben van deepfake-technologie te verbieden voor de consumentenmarkt. Het huidige recht legt immers niet de ontwikkeling van deepfake en het aanbieden aan banden, maar het gebruik daarvan voor specifieke doeleinden. Het kwaad is dan al geschied. Daarnaast kan worden overwogen om meer bescherming aan de rechten van overledenen te gegeven, bijvoorbeeld als zij tegen hun zin weer ‘tot leven worden gewekt’ door een ex-partner of een commerciële organisatie met winstbejag.

Maatschappelijk debat

De onderzoekers stellen dat een brede politieke en maatschappelijke discussie omtrent de wenselijkheid van deepfakes noodzakelijk is. Meer bewustwording en regelgeving zou kunnen worden overwogen, vooral ten aanzien van een aantal toepassingsgebieden:

• Verkiezingen kunnen worden beïnvloed middels fakevideo’s, bijvoorbeeld door buitenlandse mogendheden.
• De media kunnen op termijn in de knel komen omdat zoveel digitaal materiaal gemanipuleerd is dat zij zullen moeten kiezen tussen Scylla, ofwel snel publiceren, met het risico om fakenews te brengen, en Charybdis, ofwel wachten tot materiaal op waarheidsgetrouwheid is gecontroleerd, wat zeer veel technische expertise en kosten met zich kan brengen, en het publicatiemoment met dagen kan vertragen.
• Politie, justitie en rechters zullen systemen moeten ontwikkelen om zorg te dragen dat fakemateriaal niet in de rechtszaal wordt ingebracht, om zo onterechte veroordelingen te voorkomen.
• Tot slot, en wellicht het belangrijkste: de schatting is dat het momenteel bij meer dan 95% van alle deepfakes gaat om zogenoemd non-consensual porn. Dat wil zeggen dat er pornovideo’s worden gemaakt en verspreid waarin bijvoorbeeld een vrouw allerhande seksuele handelingen lijkt te verrichten, terwijl zij die niet daadwerkelijk heeft verricht. Het is bekend dat de verspreiding van dergelijke video’s een zeer grote impact kan hebben op het privéleven, de maatschappelijke positie en het zelfbeeld van vrouwen in het algemeen en jonge meisjes in het bijzonder.

Rapport

Het rapport ‘Deepfakes. De juridische uitdagingen van een synthetische samenleving’ is beschikbaar en bij het WODC. Auteurs: Bart van der Sloot, Yvette Wagensveld en Bert-Jaap Koops, Tilburg Institute for Law, Technology, and Society.

Redactie Medicalfacts/ Janine Budding

https://www.medicalfacts.nl

Ik heb mij gespecialiseerd in interactief nieuws voor zorgverleners, zodat zorgverleners elke dag weer op de hoogte zijn van het nieuws wat voor hen relevant kan zijn. Zowel lekennieuws als nieuws specifiek voor zorgverleners en voorschrijvers. Social Media, Womens Health, Patient advocacy, patient empowerment, personalized medicine & Zorg 2.0 en het sociaal domein zijn voor mij speerpunten om extra aandacht aan te besteden.

Ik studeerde fysiotherapie en Health Care bedrijfskunde. Daarnaast ben ik geregistreerd Onafhankelijk cliëntondersteuner en mantelzorgmakelaar. Ik heb veel ervaring in diverse functies in de zorg, het sociaal domein en medische-, farmaceutische industrie, nationaal en internationaal. En heb brede medische kennis van de meeste specialismen in de zorg. En van de zorgwetten waaruit de zorg wordt geregeld en gefinancierd. Ik ga jaarlijks naar de meeste toonaangevende medisch congressen in Europa en Amerika om mijn kennis up-to-date te houden en bij te blijven op de laatste ontwikkelingen en innovaties. Momenteel ben doe ik een Master toegepaste psychologie.

De berichten van mij op deze weblog vormen geen afspiegeling van strategie, beleid of richting van een werkgever noch zijn het werkzaamheden van of voor een opdrachtgever of werkgever.