Wat er in de schaduw van Twitter gebeurt.
In de dagen nadat Elon Musk in oktober 2022 Twitter overnam, zag het sociale mediaplatform een “golf van hatelijk gedrag”, die door zijn toenmalige veiligheidschef werd toegeschreven aan een “gerichte, kortdurende trollencampagne”. Nieuw onderzoek suggereert dat als het gaat om antisemitisme, het allesbehalve was.
Integendeel, antisemitische tweets zijn meer dan verdubbeld in de maanden sinds Musk de leiding nam, volgens onderzoek dat ik en collega’s van techbedrijf CASM Technology en de denktank Institute for Strategic Dialogue uitvoerden. Tussen juni en 26 oktober 2022, de dag voor de overname van Twitter door Musk, was er een wekelijks gemiddelde van 6.204 tweets die “aannemelijk antisemitisch” werden geacht – dat wil zeggen, waar ten minste één redelijke interpretatie van de tweet valt binnen de definitie van de International Holocaust Remembrance Alliance van de term als “een bepaalde perceptie van Joden, die kan worden uitgedrukt als haat tegen Joden.”
Maar van 27 oktober tot 9 februari 2023 was het gemiddelde 12.762 – een stijging van 105%. In totaal werden 325.739 tweets van 146.516 accounts bestempeld als “aannemelijk antisemitisch” in de loop van ons onderzoek, dat zich uitstrekte van 1 juni 2022 tot 9 februari 2023.
Antisemitisme vinden met AI
Om aannemelijk antisemitische tweets te identificeren, combineerden mijn co-auteurs en ik 22 gepubliceerde algoritmen voor het identificeren van haatzaaien in één mechanisme en gebruikten we nog meer machine learning om te zien welke combinaties van beslissingen tot het juiste resultaat leidden. We gingen vervolgens door alle tweets – meer dan een miljoen in totaal – die een van de 119 woorden, zinnen, scheldwoorden en epitheta bevatten die verband houden met antisemitisme.
Geen enkel proces is perfect. Wij schatten dat ons model ongeveer 75% van de tijd een juiste beslissing nam. We hebben ongetwijfeld ook enkele antisemitische tweets gemist die geen van die 119 sleutelwoorden bevatten, evenals tweets die zijn verwijderd vóór begin december, toen we de gegevens verzamelden.
Vervolgens gebruikten we een algoritme om 10 verschillende thema’s van antisemitisme in de tweets te onderscheiden. Sommige gingen over het gebruik van specifieke antisemitische denigrerende bijnamen. Andere zinspelen op samenzweringstheorieën over verborgen Joodse invloed en controle.
Antisemitische tweets gericht tegen de Joodse investeerder en filantroop George Soros rechtvaardigden een eigen categorie. Hij werd meer genoemd dan enige andere persoon in onze gegevens, meer dan 19.000 keer, met tweets waarin werd beweerd dat hij lid was van een verborgen globalistische, Joodse of “Nazi” wereldorde.
Een ander thema waren tweets ter verdediging van de rapper Ye, voorheen Kanye West, die een aantal antisemitische opmerkingen had gemaakt nadat hij zijn account kortstondig had laten herstellen door Musk.
Ons onderzoek, dat nog niet peer-reviewed is, vond ook dat ongeveer 4.000 van de antisemitische tweets gericht waren op de Russische invasie van Oekraïne. Deze beweerden verschillende keren dat het conflict werd veroorzaakt door Joden, of dat Joden er in het geheim voor zorgden dat de VS Oekraïne steunden. Ze bevatten ook direct antisemitisme gericht tegen de Oekraïense president, Volodymyr Zelenskyy, die Joods is.
Musk rolt inhoudsmatiging terug
Musk’s overname van Twitter kwam op de achtergrond van wat ik heb waargenomen als een tienjarige trend onder techgiganten om meer verantwoordelijkheid te nemen voor haatzaaien, intimidatie, opruiing, desinformatie en andere schade die op de loer ligt in de informatie die via hun platforms stroomt. In die periode voerden bedrijven als Facebook en Twitter geleidelijk beleid in om te reageren op extremisme, haatzaaien en intimidatie, of om de “civiliteit” te vergroten, zoals Twitter het zelf in 2018 omschreef,
en bouwden de teams en instrumenten uit om ze te handhaven.
Musk, een zelfbenoemde “vrije meningsuiting absolutist”, wees het platform in een andere richting nadat hij de controle had overgenomen. In korte tijd werd Twitter’s onafhankelijke Trust and Safety Council ontbonden, werden eerder verboden accounts opnieuw toegelaten en meer dan de helft van Twitter’s personeel werd ontslagen of vertrok gewoon – inclusief veel van degenen die verantwoordelijk waren voor de handhaving van het haatzaaiende beleid van het bedrijf.
Als iemand die al ongeveer 10 jaar hate speech volgt op plaatsen zoals Twitter, geloof ik dat de veranderingen in de moderatiepraktijken van Twitter slechts gedeeltelijk verantwoordelijk zijn voor de sprong in antisemitisme op het platform.
Het mediaspektakel rond de overname van Musk, samen met zijn zeer uitgesproken standpunten over vrije meningsuiting, heeft waarschijnlijk ook precies die mensen aangemoedigd om zich bij het platform aan te sluiten of zich er opnieuw bij aan te sluiten die in botsing waren gekomen met zijn eerdere pogingen om haat te bestrijden. Ons onderzoek ondersteunt deze theorie. Ongeveer 3.855 accounts waarvan wij hebben vastgesteld dat ze ten minste één aannemelijk antisemitische tweet hebben geplaatst, werden lid van Twitter in de 10 dagen nadat Musk het roer overnam. Dit is echter slechts een klein deel van de 146.516 accounts die ten minste één antisemitische tweet verstuurden in de loop van het hele onderzoek.
Weinig effect op het beteugelen van haatzaaien
In de weken nadat Musk het roer overnam, signaleerden onderzoekers een toename van haatdragende taal op Twitter. De miljardair deed dit af als “volstrekt onjuist”, nadat hij eerder had gezworen haatdragende tweets te “max deboosted & demonetized”.
Als Twitter antisemitisme heeft gedeboost, toont ons onderzoek bijna geen bewijs daarvan. Vóór 27 oktober kregen antisemitische tweets gemiddeld 6,4 “favorieten” en 1,2 retweets. Sindsdien kregen ze gemiddeld 6 “favorieten” en 1 retweet. Hoewel dergelijke betrokkenheid geen perfecte maatstaf is voor zichtbaarheid, zouden tweets die veel minder zichtbaar zijn gemaakt voor gebruikers over het algemeen minder betrokkenheid ontvangen.
We hebben ook geprobeerd om takedowns van antisemitische tweets te meten. Op 15 februari, 45 dagen nadat we de gegevens aanvankelijk verzamelden, probeerden we alle tweets die we als antisemitisch identificeerden opnieuw te verzamelen. Tweets kunnen om veel redenen niet beschikbaar zijn, en de handhaving van Twitter is er slechts één van. Hoe imperfect dit ook is, het geeft ons een voorzichtige glimp van wat er zou kunnen gebeuren met betrekking tot het verwijderen van antisemitische berichten. En op die data werden 17.589 antisemitische tweets verwijderd – 8,5% van het totaal.
Stijgend tij van antisemitisme
Onze bevindingen komen op een moment dat velen vrezen voor toenemende bedreigingen voor Joodse gemeenschappen. In 2021 registreerde de Anti-Defamation League het hoogste aantal antisemitische incidenten – waaronder pesterijen, vandalisme en aanslagen – in de VS sinds zij in 1979 begon met het bijhouden van de cijfers. En dit is niet alleen een Amerikaans fenomeen; in het Verenigd Koninkrijk heeft de Community Security Trust een soortgelijke piek in anti-Joodse activiteit geregistreerd, terwijl in Duitsland anti-Joodse misdaden met 29% stegen tijdens de pandemie.
Het bestuderen van sociale media heeft me keer op keer laten zien hoe krachtig ze helpen om de culturen en ideeën te vormen die ten grondslag liggen aan het gedrag van hun gebruikers. Uiteindelijk kan de proliferatie van tweets die Joden verantwoordelijk houden voor alle kwalen van de wereld, die duistere samenzweringen van controle en doofpotaffaires laten circuleren, of die denigrerende aanvallen op Joden afvuren, het antisemitisme online – en in de echte wereld – alleen maar ondersteunen.
Carl Miller is partner van CASM Technology en Senior Fellow bij het Institute for Strategic Dialogue. Zij voeren een breed scala aan social media onderzoek uit naar online schade voor een reeks filantropische, stichtings- en overheidsinstellingen.
