Tero Vesalainen / Shutterstock
Desinformatie heeft veel mensen verrast tijdens het Brexit-referendum in 2016 en de Amerikaanse presidentsverkiezingen. Sindsdien heeft zich een mini-industrie ontwikkeld om desinformatie te analyseren en tegen te gaan.
Desondanks zijn we in 2024 – een jaar met meer dan 40 verkiezingen wereldwijd – banger dan ooit over desinformatie. In veel opzichten is het probleem uitdagender dan in 2016.
De vooruitgang in technologie sindsdien is daar een reden voor, met name de ontwikkeling die heeft plaatsgevonden met synthetische media, ook wel deepfakes genoemd. Het wordt steeds moeilijker om te weten of media door een computer zijn gefabriceerd of gebaseerd zijn op iets dat echt is gebeurd.
We moeten nog echt begrijpen hoe groot de invloed van deepfakes op verkiezingen zou kunnen zijn. Maar een aantal voorbeelden wijzen de weg naar hoe ze gebruikt kunnen worden. Dit kan het jaar worden waarin veel fouten worden gemaakt en lessen worden geleerd.
Sinds de desinformatie die zich in 2016 rond de stemmen verspreidde, hebben onderzoekers talloze boeken en papers geproduceerd, hebben journalisten zich omgeschoold tot fact checking en verificatie experts, hebben regeringen deelgenomen aan “grand committees” en centres of excellence. Daarnaast zijn bibliotheken de focus geworden van strategieën om veerkracht op te bouwen en is er een reeks nieuwe instanties ontstaan om analyses, training en hulpmiddelen te bieden.
Deze activiteiten zijn niet vruchteloos geweest. We hebben nu een genuanceerder begrip van desinformatie als een sociaal, psychologisch, politiek en technologisch fenomeen. Inspanningen om journalistiek van algemeen belang en het cultiveren van kritisch denken door middel van onderwijs te ondersteunen zijn ook veelbelovend. Het meest opvallende is dat grote techbedrijven niet langer doen alsof ze neutrale platforms zijn.
Ondertussen hebben beleidsmakers hun plicht herontdekt om technologie te reguleren in het algemeen belang.
AI en synthetische media
De discussies over regelgeving zijn nog urgenter geworden nu AI-tools om synthetische media te maken – media die gedeeltelijk of volledig door computers worden gegenereerd – gemeengoed zijn geworden. Deze deepfakes kunnen worden gebruikt om de stem en het uiterlijk van echte mensen na te bootsen. Deepfake media zijn indrukwekkend realistisch en vereisen niet veel vaardigheid of middelen.
Dit is het hoogtepunt van de bredere digitale revolutie waarbij opeenvolgende technologieën de productie van inhoud van hoge kwaliteit voor bijna iedereen toegankelijk hebben gemaakt. Daarentegen zijn de regelgevende structuren en institutionele standaarden voor media meestal ontworpen in een tijdperk waarin slechts een minderheid van professionals toegang had tot productie.
Politieke deepfakes kunnen verschillende vormen aannemen. Tijdens de recente Indonesische verkiezingen was er een deepfake video waarin wijlen president Soeharto “herrees”. Dit was zogenaamd om mensen aan te moedigen om te gaan stemmen, maar het werd beschuldigd van propaganda omdat het geproduceerd was door de politieke partij die hij leidde.
Een misschien meer voor de hand liggend gebruik van deepfakes is het verspreiden van leugens over politieke kandidaten. Zo werd enkele dagen voor de parlementsverkiezingen in Slowakije in september 2023 door AI gegenereerde valse audio uitgebracht waarin werd geprobeerd de leider van Progressief Slowakije, Michal Šimečka, af te schilderen als iemand die met een journalist had besproken hoe de stemming vervalst kon worden.
Afgezien van de voor de hand liggende poging om een politieke partij te ondermijnen, is het de moeite waard om op te merken hoe deze deepfake, waarvan de oorsprong onduidelijk was, een voorbeeld is van bredere pogingen om minderheden tot zondebok te maken en de reguliere journalistiek te demoniseren.
Gelukkig was de audio in dit geval niet van hoge kwaliteit, waardoor het voor factcheckers sneller en eenvoudiger was om de inauthenticiteit ervan te bevestigen. De integriteit van democratische verkiezingen kan echter niet afhangen van de onbeholpenheid van de fakers.
Deepfake audiotechnologie is zo geavanceerd dat detectie moeilijk is. Deepfake video’s hebben nog steeds moeite met bepaalde menselijke kenmerken, zoals de weergave van handen, maar de technologie is nog jong.
Het is ook belangrijk om op te merken dat de Slowaakse video werd uitgebracht tijdens de laatste dagen van de verkiezingscampagne. Dit is een uitgelezen moment om desinformatie- en manipulatieaanvallen te lanceren omdat de doelwitten en onafhankelijke journalisten hun handen vol hebben en dus weinig tijd hebben om te reageren.
Als het ook nog eens duur, tijdrovend en moeilijk is om diepgaande vervalsingen te onderzoeken, dan is het niet duidelijk hoe kiescommissies, politieke kandidaten, de media of zelfs het electoraat moeten reageren wanneer potentiële gevallen zich voordoen. Een valse beschuldiging van een deepfake kan immers net zo verontrustend zijn als de eigenlijke deepfake.
Een andere manier waarop deepfakes gebruikt zouden kunnen worden om verkiezingen te beïnvloeden is de manier waarop ze al op grote schaal worden gebruikt om vrouwen en meisjes lastig te vallen en te misbruiken. Dit soort seksuele intimidatie past in een bestaand patroon van misbruik dat de politieke participatie van vrouwen beperkt.
De integriteit van verkiezingen in twijfel trekken
De moeilijkheid is dat het nog niet precies duidelijk is welke invloed deepfakes op verkiezingen zouden kunnen hebben. Het is heel goed mogelijk dat we dit jaar andere, vergelijkbare toepassingen van deepfakes zullen zien bij de komende verkiezingen. En we zouden zelfs kunnen zien dat deepfakes worden gebruikt op manieren waar we nog niet aan hebben gedacht.
Maar het is ook goed om te onthouden dat niet alle desinformatie high-tech is. Er zijn andere manieren om de democratie aan te vallen. Geruchten en samenzweringstheorieën over de integriteit van het verkiezingsproces zijn een verraderlijke trend. Verkiezingsfraude is een wereldwijde zorg gezien het feit dat veel landen alleen in naam democratieën zijn.
Het is duidelijk dat sociale mediaplatforms desinformatie op veel manieren mogelijk maken en stimuleren, maar het is een vergissing om aan te nemen dat het probleem online begint en eindigt. Een manier om na te denken over de uitdaging van desinformatie tijdens de komende verkiezingen is om na te denken over de kracht van de systemen die de democratie moeten handhaven.
Is er een onafhankelijk mediasysteem dat onderzoek van hoge kwaliteit kan leveren in het algemeen belang? Zijn er onafhankelijke verkiezingsadministrateurs en -organen? Zijn er onafhankelijke rechtbanken die zo nodig rechtspreken?
En is er voldoende toewijding aan democratische waarden boven eigenbelang
onder politici en politieke partijen? In dit verkiezingsjaar komen we misschien wel achter het antwoord op deze vragen.
Eileen Culloty coördineert de hub Ierland van het European Digital Media Observatory, dat deels wordt gefinancierd door de Europese Commissie om fact-checks, analyses en mediageletterdheid uit te voeren.
