Alex Jones beweerde dat het verwijderen van een platform zijn inkomen schaadde. Vic Hinterlang/Shutterstock
Complottheoreticus en Amerikaanse extreem-rechtse mediapersoonlijkheid Alex Jones werd onlangs veroordeeld tot het betalen van een schadevergoeding van 45 miljoen dollar (37 miljoen pond) aan de familie van een kind dat in 2012 werd gedood bij de schietpartij op de Sandy Hook-school.
Jones had beweerd dat het verbannen of “deplatformen” van grote social media sites voor zijn extreme standpunten hem financieel negatief beïnvloedde, en vergeleek de situatie met “de gevangenis”. Maar tijdens het proces schatte forensisch econoom Bernard Pettingill dat Jones’ samenzweringswebsite InfoWars meer geld verdiende nadat hij in 2018 van Facebook en Twitter werd verbannen.
Dus werkt online deplatformen eigenlijk wel? Het is niet mogelijk om invloed op een wetenschappelijk rigoureuze manier te meten, dus het is moeilijk om te zeggen wat er gebeurt met de algemene invloed van een persoon of groep wanneer ze worden gedeplateerd. In het algemeen suggereert onderzoek dat deplatforming de activiteit van kwaadwillende actoren op die sites kan verminderen. Er hangt echter een prijskaartje aan. Als gedeplatformeerde personen en groepen naar elders vertrekken, kunnen ze volgers verliezen, maar ook haatdragender en giftiger worden.
Meestal gaat het bij deplatforming om acties die door de sociale mediasites zelf worden ondernomen. Maar het kan ook worden gedaan door derden, zoals de financiële instellingen die betalingsdiensten aanbieden op deze platforms, zoals PayPal.
Het sluiten van een groep is ook een vorm van deplatforming, zelfs als de mensen erin nog steeds vrij zijn om de sites te gebruiken. Zo werd de subreddit The_Donald (een forum op de website Reddit) gesloten wegens het aanbieden van haatdragende en bedreigende inhoud, zoals een bericht waarin leden werden aangemoedigd een bijeenkomst van blanke supremacisten bij te wonen.
Stickied post op The_Donald subreddit, augustus 2017.
Een frame van de anti-CNN GIF getweet door Donald Trump.
Werkt deplatforming?
Onderzoek toont aan dat deplatforming wel degelijk positieve effecten heeft op het platform waar de persoon of groep vanaf werd geschopt. Toen Reddit bepaalde fora verbood die mensen met overgewicht en Afro-Amerikanen tot slachtoffer maakten, stopten veel gebruikers die actief waren op deze haatdragende subreddits helemaal met posten op Reddit. Degenen die actief bleven, plaatsten minder extreme inhoud.
Plots door Jhaver at al. Posting activity levels and severe toxicity scores of the supporters of three deplatformed Twitter celebrities pre- and post-deplatforming.
Maar de gedeplateerde groep of persoon kan migreren. Alex Jones blijft werken buiten de mainstream sociale netwerken, voornamelijk opererend via zijn InfoWars website en podcasts. Een verbanning uit de big tech kan worden gezien als een straf voor het uitdagen van de status quo op een ongecensureerde manier, waardoor de banden en het gevoel van verbondenheid tussen volgelingen worden versterkt.
Gab werd in 2016 opgericht als een alternatief sociaal netwerk, dat gebruikers verwelkomt die van andere platforms zijn verbannen. Sinds de opstand op het Amerikaanse Capitool twittert Gab over deze verboden als een eremedaille, en zegt het een golf van gebruikers en sollicitaties te hebben gezien.
Het onderzoek van mijn team keek naar de subreddits The_Donald en Incels (een mannelijke online gemeenschap die vijandig staat tegenover vrouwen), die verhuisden naar standalone websites nadat ze verbannen waren van Reddit. We ontdekten dat naarmate gevaarlijke gemeenschappen migreerden naar andere platforms, hun voetafdruk kleiner werd, maar dat gebruikers aanzienlijk extremer werden. Op dezelfde manier vertoonden gebruikers die verbannen werden van Twitter of Reddit een verhoogd niveau van activiteit en toxiciteit na hun verhuizing naar Gab.
Tijdlijnen van creatie, quarantaine en bannen van de Incels en The_Donald subreddits.
Andere studies naar het ontstaan van sociale netwerken in de marge, zoals Gab, Parler, of Gettr, hebben relatief vergelijkbare patronen gevonden. Deze platforms profileren zich als bolwerken van vrije meningsuiting en verwelkomen gebruikers die uit andere sociale netwerken zijn verbannen of geschorst. Onderzoek toont aan dat niet alleen het extremisme toeneemt als gevolg van lakse moderatie, maar ook dat vroege gebruikers van de site een onevenredig grote invloed hebben op het platform.
De onbedoelde gevolgen van deplatforming zijn niet beperkt tot politieke gemeenschappen, maar strekken zich uit tot desinformatie over gezondheid en complottheoriegroepen. Toen Facebook bijvoorbeeld groepen verbood die COVID-19-vaccins bespraken, gingen gebruikers op Twitter en plaatsten nog meer anti-vaccin inhoud.
Alternatieve oplossingen
Wat kan er nog meer worden gedaan om de concentratie van online haat te voorkomen die door deplatforming in de hand kan worden gewerkt? Sociale netwerken hebben geëxperimenteerd met zachte moderatiemaatregelen, waarbij inhoud niet wordt verwijderd en gebruikers niet worden verbannen. Ze beperken de zichtbaarheid van de inhoud (shadow banning), beperken de mogelijkheid van andere gebruikers om zich met de inhoud bezig te houden (antwoorden of delen), of voegen waarschuwingslabels toe.
Voorbeelden van zachte moderatie op Twitter: waarschuwingslabels en schaduwbannen.
Deze benaderingen laten bemoedigende resultaten zien. Sommige waarschuwingslabels hebben sitegebruikers ertoe aangezet valse beweringen te ontkrachten. Soft moderation vermindert soms gebruikersinteracties en extremisme in commentaren.
Er is echter potentieel voor populariteitsvooringenomenheid (handelen op of negeren van inhoud op basis van de buzz eromheen) over welke onderwerpen platforms zoals Twitter besluiten in te grijpen. Ondertussen lijken waarschuwingslabels minder effectief te werken voor nepberichten als ze rechts georiënteerd zijn.
Het is ook nog onduidelijk of soft moderation extra wegen creëert voor intimidatie, bijvoorbeeld het bespotten van gebruikers die waarschuwingslabels op hun posts krijgen of het ergeren van gebruikers die content niet opnieuw kunnen delen.
Vooruitblik
Een cruciaal aspect van het deplatformen is timing. Hoe sneller platformen actie ondernemen om groepen te stoppen die mainstream platformen gebruiken om extremistische bewegingen te laten groeien, hoe beter.
Snelle actie zou in theorie een rem kunnen zetten op de pogingen van groepen om grote gebruikersbestanden te verzamelen en te radicaliseren.
Maar dit zou ook een gecoördineerde inspanning van mainstream platforms en andere media nodig hebben om te werken. Radio talkshows en kabelnieuws spelen een cruciale rol in het promoten van randverhalen in de VS.
We hebben een open dialoog nodig over de de-platforming tradeoff. Als samenleving moeten we bespreken of onze gemeenschappen minder mensen moeten blootstellen aan extremistische groepen, zelfs als degenen die er wel bij betrokken zijn, steeds meer geïsoleerd en geradicaliseerd raken.
Op dit moment wordt deplatforming bijna uitsluitend beheerd door grote technologiebedrijven. Technologiebedrijven kunnen het probleem niet alleen oplossen, maar dat geldt ook voor onderzoekers en politici. Platforms moeten samenwerken met regelgevers, burgerrechtenorganisaties en onderzoekers om extreme online inhoud aan te pakken. Het weefsel van de samenleving kan ervan afhangen.
Emiliano De Cristofaro ontvangt of heeft financiering ontvangen van de EPSRC, UKRI, de EU Commissie, de Royal Society, Xerox, Google, Amazon, Nokia, Microsoft Research.
