De aankoop van 44 miljard dollar (36 miljard pond) van Twitter door “vrijheid van meningsuiting absolutist” Elon Musk heeft veel mensen ongerust gemaakt. De vrees is dat de site minder inhoud zal gaan modereren en meer desinformatie zal gaan verspreiden, vooral na zijn aankondiging dat hij het verbod van de voormalige Amerikaanse president Donald Trump zou terugdraaien.
Er is een goede reden voor de bezorgdheid. Onderzoek toont aan dat het delen van onbetrouwbare informatie een negatieve invloed kan hebben op de beschaafdheid van gesprekken, de perceptie van belangrijke sociale en politieke kwesties, en het gedrag van mensen.
Onderzoek suggereert ook dat het publiceren van accurate informatie als tegenwicht tegen valse informatie in de hoop dat de waarheid zal zegevieren, niet voldoende is. Ook andere vormen van matiging zijn nodig. Ons onderzoek naar verkeerde informatie in de sociale media tijdens COVID toonde bijvoorbeeld aan dat die zich veel doeltreffender verspreidde dan gerelateerde artikelen die op feiten waren gecontroleerd.
Dit betekent dat er altijd een vorm van moderatie nodig zal zijn om de verspreiding van correcte informatie te bevorderen en feitelijke inhoud te laten zegevieren. En hoewel moderatie een enorme uitdaging is en niet altijd succesvol is in het stoppen van verkeerde informatie, leren we steeds meer over wat werkt naarmate sociale mediabedrijven hun inspanningen opvoeren.
Tijdens de pandemie werden enorme hoeveelheden verkeerde informatie gedeeld en werden onbetrouwbare valse berichten op alle belangrijke platforms versterkt. Vooral de rol van vaccin-gerelateerde verkeerde informatie op de aarzeling om te vaccineren, verhoogde de druk op sociale mediabedrijven om meer aan moderatie te doen.
Facebook-eigenaar Meta werkte tijdens de pandemie samen met factcheckers van meer dan 80 organisaties om verkeerde informatie te verifiëren en te rapporteren, alvorens berichten te verwijderen of de verspreiding ervan te beperken. Meta beweert meer dan 3.000 accounts, pagina’s en groepen en 20 miljoen stukken inhoud te hebben verwijderd wegens het overtreden van de regels over COVID-19 en vaccinatie-gerelateerde desinformatie.
Verwijdering is meestal voorbehouden aan content die bepaalde platformregels overtreedt, zoals het tonen van krijgsgevangenen of het delen van neppe en gevaarlijke content. Labelen is om de aandacht te vestigen op potentieel onbetrouwbare inhoud. De regels die de platforms voor elk geval volgen, zijn niet in steen gebeiteld en niet erg transparant.
Twitter heeft beleidslijnen gepubliceerd om zijn aanpak ter vermindering van verkeerde informatie te benadrukken, bijvoorbeeld met betrekking tot COVID of gemanipuleerde media. Wanneer dergelijke beleidsmaatregelen worden gehandhaafd, en hoe sterk, is echter moeilijk te bepalen en lijkt sterk te verschillen van context tot context.
Waarom moderatie zo moeilijk is
Maar het is duidelijk dat als het doel van het modereren van verkeerde informatie was om de verspreiding van valse beweringen te verminderen, de inspanningen van de sociale-mediabedrijven niet helemaal effectief waren in het verminderen van de hoeveelheid verkeerde informatie over COVID-19.
Bij het kennismedia-instituut van de Open Universiteit bestuderen we sinds 2016 hoe zowel misinformatie als bijbehorende factchecks zich op Twitter verspreiden. Uit ons onderzoek naar COVID bleek dat factchecks tijdens de pandemie relatief snel na het verschijnen van misinformatie verschenen. Maar de relatie tussen verschijningen van factchecks en de verspreiding van misinformatie in het onderzoek was minder duidelijk.
Uit de studie bleek dat verkeerde informatie twee keer zo vaak voorkwam als de overeenkomstige feitencontroles. Bovendien was verkeerde informatie over samenzweringstheorieën hardnekkig, wat aansluit bij eerder onderzoek waarin werd gesteld dat waarheidsgetrouwheid slechts één reden is waarom mensen informatie online delen en dat feitencontroles niet altijd overtuigend zijn.
Dus hoe kunnen we de moderatie verbeteren? Sociale media sites worden geconfronteerd met tal van uitdagingen. Gebruikers die van het ene platform zijn verbannen, kunnen toch terugkomen met een nieuw account, of hun profiel op een ander platform nieuw leven inblazen. Verspreiders van verkeerde informatie gebruiken tactieken om detectie te vermijden, bijvoorbeeld door eufemismen of visuals te gebruiken om detectie te vermijden.
Geautomatiseerde benaderingen die gebruik maken van machine learning en kunstmatige intelligentie zijn niet verfijnd genoeg om misinformatie zeer nauwkeurig te detecteren. Ze hebben vaak te lijden onder vooroordelen, een gebrek aan geschikte training, een te grote afhankelijkheid van de Engelse taal, en problemen met het verwerken van verkeerde informatie in afbeeldingen, video of audio.
Verschillende benaderingen
Maar we weten ook dat sommige technieken effectief kunnen zijn. Uit onderzoek is bijvoorbeeld gebleken dat het gebruik van eenvoudige aanwijzingen om gebruikers aan te moedigen na te denken over de juistheid van de informatie alvorens deze te delen, de intentie van mensen om verkeerde informatie online te delen kan verminderen (althans in een laboratoriumomgeving). Twitter heeft eerder gezegd dat het heeft ontdekt dat het labelen van inhoud als misleidend of verzonnen de verspreiding van bepaalde misinformatie kan vertragen.
Lees meer:
Elon Musk heeft ongelijk: onderzoek toont aan dat contentregels op Twitter helpen om vrije meningsuiting te vrijwaren van bots en andere manipulatie
Meer recent kondigde Twitter een nieuwe aanpak aan, waarbij maatregelen worden geïntroduceerd om misinformatie aan te pakken die verband houdt met de Russische invasie van Oekraïne. Deze omvatten het toevoegen van labels aan tweets met links naar Russische, aan de staat gelieerde mediawebsites. Ook is de verspreiding van deze inhoud beperkt en is de waakzaamheid ten aanzien van gehackte accounts verbeterd.
Twitter neemt mensen in dienst als curatoren om notities te schrijven die context of aantekeningen geven bij Twitter-trends, in verband met de oorlog om uit te leggen waarom dingen trending zijn. Twitter zegt sinds het begin van de oorlog in Oekraïne 100.000 accounts te hebben verwijderd die “in strijd waren met zijn platformmanipulatiestrategie”. Het zegt ook dat het 50.000 stuks aan de oorlog in Oekraïne gerelateerde inhoud heeft gelabeld of verwijderd.
In een aantal nog niet gepubliceerde onderzoeken hebben we dezelfde analyse uitgevoerd die we voor COVID-19 hebben gedaan, dit keer op meer dan 3.400 beweringen over de Russische invasie van Oekraïne, en vervolgens tweets gemonitord die verband hielden met die verkeerde informatie over de Oekraïne-invasie, en tweets met bijgevoegde factchecks. We begonnen verschillende patronen waar te nemen.
We merkten een verandering op in de verspreiding van verkeerde informatie, in die zin dat de valse beweringen zich niet zo wijd verspreiden, en sneller worden verwijderd, vergeleken met eerdere scenario’s. Het is nog vroeg, maar een mogelijke verklaring is dat de laatste maatregelen enig effect hebben gehad.
Als Twitter een bruikbare reeks maatregelen heeft gevonden, door doortastender en effectiever te worden in het cureren en labelen van content, zou dit als model kunnen dienen voor andere sociale mediaplatforms. Het zou op zijn minst een glimp kunnen opvangen van het soort acties dat nodig is om fact-checking te stimuleren en verkeerde informatie te beteugelen. Maar het maakt de aankoop van de site door Musk en de implicatie dat hij de moderatie zal verminderen nog zorgwekkender.
Harith Alani ontvangt financiering van de Europese Commissie (grant ID 101003606) en van EPSRC (EP/V062662/1)
Grégoire Burel ontvangt financiële steun van de Europese Commissie (subsidie-ID 101003606).
Tracie Farrell ontvangt financiering van de Europese Commissie (subsidie ID 101003606).
